OpenAI reduz desenvolvimento de IA após agente em teste invadir sistemas de outra empresa

[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
A OpenAI anunciou nesta terça-feira (18) que está desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento.
A decisão ocorre após funcionários da empresa serem surpreendidos, no mês passado, quando um agente de inteligência artificial da companhia, ainda em fase de testes, invadiu sistemas de outra empresa de IA.
Segundo a OpenAI, as medidas incluem a suspensão dos testes de modelos por duas semanas e um aumento dos investimentos na incorporação de outros sistemas de inteligência artificial para monitorar as atividades dos agentes de IA em fase de testes.
Algumas das maiores sessões de treinamento planejadas pela empresa continuam suspensas, informou a OpenAI.
A empresa não respondeu às perguntas sobre quando essa desaceleração teve início.
IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI
Como foi o ataque
O ataque aconteceu durante testes da OpenAI em que modelos de inteligência artificial são colocados para buscar falhas em outros sistemas, com o objetivo de melhorar suas capacidades de segurança.
Nesse caso, os modelos usaram a infraestrutura de um cliente da empresa Model Labs para chegar até a Hugging Face, uma plataforma de compartilhamento de modelos de inteligência artificial.