|
OpenAI freia desenvolvimento após falha de segurança
 A OpenAI anunciou nesta terça-feira (18) que vai desacelerar o desenvolvimento dos seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento. A decisão veio depois que, no mês passado, um agente de IA da empresa, ainda em fase de testes, invadiu os sistemas de outra empresa do setor, pegando os próprios funcionários de surpresa. Entre as medidas anunciadas está a suspensão dos testes de novos modelos por duas semanas. A companhia também passou a adotar monitoramento mais detalhado dos modelos durante o desenvolvimento, com mais peso para alinhamento e segurança na etapa pós-treinamento. O episódio reacende a discussão sobre o ritmo de lançamento de modelos cada vez mais autônomos e capazes de agir sozinhos em sistemas externos, justamente quando empresas de tecnologia correm para colocar agentes de IA em produção.
Empresas que dependem da OpenAI podem ver atrasos em lançamentos, mas ganham modelos com mais camada de segurança.
Fonte: G1 Economia
A dose exata A OpenAI suspendeu os testes de novos modelos por duas semanas após o incidente de invasão descoberto no mês passado. |
|