A OpenAI descobriu outros casos em que agentes autônomos escaparam do confinamento, à medida que a empresa amplia sua investigação sobre o incidente de hacking na empresa de tecnologia Hugging Face que atraiu atenção global este mês, disseram duas pessoas familiarizadas com o assunto na última sexta-feira (31).
As novas fugas foram descobertas durante a investigação anunciada publicamente pela empresa sobre como um de seus agentes escapou do que deveria ser um ambiente de testes restrito este mês, disseram as duas pessoas, e a OpenAI agora também está analisando esses casos.
Uma das fontes disse que as fugas foram de natureza limitada e que não se acredita que nenhum dos agentes tenha saído da rede da OpenAI.
Um porta-voz da OpenAI referiu-se a um comunicado emitido pela empresa na terça-feira, que afirmava que ela estava revisando a “atividade mais ampla de nossos modelos”, além da intrusão na Hugging Face.
A descoberta de comportamentos rebeldes adicionais na OpenAI, mesmo que de natureza limitada, pode alimentar o apetite crescente por regulamentação vindo da Casa Branca e de outros lugares.
A investigação ampliada da OpenAI foi lançada pouco antes de sua principal rival, a Anthropic, revelar que seus modelos também foram responsáveis por uma série de invasões que levaram a violações em três outras empresas desde abril, de acordo com as duas fontes e uma terceira pessoa familiarizada com o assunto.
