O modelo de inteligência artificial mais avançado da Anthropic usou identidades falsas para enganar pessoas reais e tentar instalar código malicioso durante testes realizados pelo Instituto de Segurança de IA (AISI) do Reino Unido - o exemplo mais recente de um modelo de IA que se tornou descontrolado.
Os modelos da Anthropic e da OpenAI foram testados com medidas de segurança reduzidas em ambientes de laboratório, mas, pela primeira vez, foram descobertos utilizando “engenharia social” para pressionar um responsável pela aprovação humana enquanto realizavam uma tarefa não autorizada, informou o laboratório de pesquisa governamental.
“Esta é a primeira vez que o AISI presencia um caso de engano desta gravidade, direcionado a uma pessoa real, sem provocação, no mundo real”, afirmou o instituto na terça-feira. Acrescentou ainda que não há evidências de danos reais.
Receio de ataques após lançamento do Mythos, IA da Anthropic, é exagero?
EUA autorizam Anthropic a divulgar modelo que gerou temor sobre segurança
Anthropic está no centro da uma disputa "caótica" de regulação nos EUA
O incidente de segurança é o mais recente de uma série de exemplos de modelos avançados de IA envolvidos em ações não autorizadas, eventos que têm gerado crescentes apelos por uma maior intervenção governamental para regulamentar a inteligência artificial e até mesmo desacelerar seu ritmo de desenvolvimento.
