Após uma onda de casos envolvendo agentes de inteligência artificial (IA) invadindo sistemas de modo indesejado, a Comissão Federal de Comércio dos Estados Unidos (FTC) abriu, de modo inédito, uma investigação de teor regulatório sobre empresas como OpenAI e Anthropic. A informação foi divulgada pelo G1 nesta quarta-feira (30).
Um dos principais episódios que alertou as autoridades americanas e globais ocorreu na Austrália. Um sistema da OpenAI acessou, em 18 de julho, dados do Medicare, o sistema público de saúde australiano. A empresa identificou o incidente em agosto, mas só notificou as autoridades em 10 de setembro, por e-mail.
Nesta terça (29), a OpenAI pediu desculpas pelo incidente, admitindo que falhou na forma de lidar com a situação. A companhia, que recentemente pausou o treinamento de seus modelos mais capazes, prometeu financiar melhorias na segurança digital e criar um grupo de trabalho na Austrália.
Em entrevista à GALILEU na manhã seguinte após a repercussão do incidente australiano, Maurice Chiodo, professor assistente de pesquisa do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, na Inglaterra, ressaltou que o ataque foi um marco por atingir pela primeira vez uma infraestrutura crítica de um governo. "O agente não deveria es (sandtar ali. Era um sistema governamental. Estamos começando a ver esses agentes realizando infiltrações cada vez piores", declarou.
"Estaremos mortos muito antes de uma IA superinteligente", afirma especialista em risco existencial
