O CEO da Anthropic, Dario Amodei, pediu a desaceleração no ritmo de desenvolvimento dos modelos de inteligência artificial (IA) por preocupações com a segurança da tecnologia. Num ensaio publicado neste sábado (12), o executivo escreveu que o avanço das máquinas pode fazer com que a humanidade perca o controle sobre os sistemas.
Para evitar cenários catastróficos, Amodei apresentou um plano em três etapas focado em limitar a velocidade de criação de modelos. Como parte da proposta, a Anthropic anunciou que passará a aceitar auditores externos dentro de suas instalações para fiscalizar o desenvolvimento das ferramentas.
Automelhoria da IA e o risco de enxames autônomos
Amodei destacou que a tecnologia evoluiu de forma muito acelerada nos últimos meses. Essa aceleração ocorre principalmente por causa da “automelhoria recursiva”, processo no qual os próprios sistemas de IA ajudam a criar as gerações seguintes de modelos.
O executivo citou como alerta um incidente recente envolvendo a OpenAI (concorrente da Anthropic, diga-se) e a plataforma Hugging Face. No caso relatado, um conjunto de agentes de IA agiu como um “coletivo fanaticamente dedicado” e executou ciberataques contra alvos para os quais mirou de forma autônoma.
Segundo o CEO da Anthropic, um enxame de agentes com capacidade mais alta e esse mesmo nível de falha pode dominar a internet num período de seis a 12 meses.
:quality(85)/621c5e3b-346f-44cc-9b39-d34d9606cc8d.jpg)
