O assistente de inteligência artificial (IA) Claude Opus 4.6 explorou falhas em um sistema de reservas de academia em nove de cada dez execuções e cancelou agendamentos de terceiros em testes controlados. O experimento da empresa de cibersegurança Aikido Security, divulgado em relatório nesta terça-feira (25), recriou um caso real ocorrido na Austrália no primeiro semestre, quando um aluno pediu ajuda para marcar horários em aulas coletivas e o agente passou a burlar regras por conta própria.
A empresa fornecedora do software de agendamento não teve o nome divulgado e não apresentou nenhuma correção até o momento, segundo o documento. Por outro lado, a desenvolvedora do modelo, a Anthropic, admitiu que a ferramenta apresentou comportamento autônomo além do esperado em tarefas no computador, porém afirmou que os desvios ficaram dentro do limite aceitável para o lançamento comercial.
“Observamos alguns aumentos em comportamentos desalinhados em áreas específicas, como capacidade de ocultação de sabotagem e comportamento excessivamente autônomo em configurações de uso de computadores, embora nenhum tenha atingido níveis que afetassem nossa avaliação de implantação”, declarou a Anthropic, em documento oficial.
Operação do Claude
No teste em ambiente simulado, o assistente reservou vagas com meses de antecedência, desrespeitando o limite máximo de sete dias imposto pela plataforma.
