Um modelo de inteligência artificial (IA) da Meta conseguiu invadir os sistemas de outra empresa durante um teste de segurança cibernética, tornando-se o mais recente caso de agentes de IA de grandes desenvolvedoras que ultrapassaram os limites dos ambientes de avaliação.
Segundo o site The Information, o incidente envolveu o modelo Muse Spark 1.1, que conseguiu acessar a internet pública e alterar sistemas internos de uma empresa não identificada devido a uma configuração incorreta no ambiente de testes, conhecido como sandbox.
A Meta realizou a avaliação em parceria com a empresa especializada Irregular, responsável pelos testes de segurança.
Erro de configuração abriu caminho para a invasão
De acordo com a publicação, o problema ocorreu porque o ambiente de testes foi configurado de forma incorreta, permitindo que o modelo explorasse uma vulnerabilidade existente em um serviço de terceiros;
Em declaração ao The Information, um porta-voz da Meta afirmou que a falha foi causada pela configuração inadequada feita durante a avaliação conduzida pela Irregular;
Segundo a empresa, o modelo aproveitou uma vulnerabilidade já existente em outro serviço, em um cenário semelhante ao observado em casos anteriores envolvendo outras desenvolvedoras de IA.
