Após OpenAI, Anthropic revela invasões de IA durante testes

Resumo

Anthropic relatou que modelos do Claude acessaram sistemas de três organizações sem autorização durante testes de cibersegurança.

Os modelos receberam instruções para operar em uma simulação isolada, mas uma falha de configuração deixou o acesso disponível.

A Anthropic identificou três incidentes separados, nos quais os modelos extrairam credenciais e dados reais de produção de outras empresas.

A Anthropic, desenvolvedora da IA Claude, revelou que diferentes versões do modelo acessaram sistemas de três organizações, sem autorização, durante testes de cibersegurança. A descoberta veio após uma revisão de mais de 141 mil execuções de teste, aberta depois que a rival OpenAI admitiu problemas semelhantes.

Segundo a empresa, os modelos receberam instruções para operar em uma simulação isolada, sem acesso à internet aberta, mas uma falha de configuração de uma parceira, chamada Irregular, deixou o acesso disponível.

Os testes colocavam os modelos para procurar vulnerabilidades apenas dentro de máquinas criadas para avaliação. Com a falha de isolamento, alguns agentes conseguiram alcançar sistemas externos, explorando falhas simples e, em três casos, acessando sistemas de empresas reais.

A Anthropic afirma que as IAs agiram sob a premissa de que tudo fazia parte do exercício e destaca que a causa foi um erro operacional, diferenciando o caso da rival OpenAI.