Resumo
A Anthropic afirma ter bloqueado ações que poderiam levar à criação de armas biológicas utilizando seu modelo de inteligência artificial Claude, conforme relatório de riscos divulgado.
A empresa identificou situações de “alto risco biológico”, incluindo uma pesquisa sobre alterações genéticas no vírus Chikungunya, comum no Brasil.
O relatório também menciona rastros de espionagem por governos e atividades militares envolvendo o uso da inteligência artificial, destacando a necessidade de soluções para evitar mal-uso.
A Anthropic disse que identificou e bloqueou ações de usuários que poderiam levar à criação de armas biológicas utilizando modelos do Claude. A informação está no relatório de riscos mais recente, publicado nesta quinta-feira (10/09). O documento foi disponibilizado logo após as críticas feitas por um ex-desenvolvedor da empresa, que apontou irresponsabilidades da indústria de IA na corrida pela superinteligência.
Uma das situações classificadas pela Anthropic como de “alto risco biológico” envolveu o uso da inteligência artificial para pesquisar alterações genéticas no vírus Chikungunya, uma doença bastante comum no Brasil. Segundo a companhia, a consulta poderia ter como objetivo melhorar vacinas e tratamentos, mas também abre precedente para aumentar os efeitos da doença.
Além das interações envolvendo materiais biológicos, a Anthropic afirmou ter encontrado rastros de espionagem governamental e até mesmo atividades militares com uso da IA.
