EUA investigam OpenAI e Anthropic após incidentes com agentes de IA

A Comissão Federal de Comércio dos Estados Unidos (FTC, na sigla em inglês) abriu investigação sobre o setor de inteligência artificial (IA) para apurar os possíveis riscos que a tecnologia representa aos consumidores. Entre as empresas e organizações que serão alvo da apuração estão Anthropic, OpenAI e o grupo de pesquisa METR, segundo um alto funcionário da FTC ouvido pela Reuters nesta quarta-feira (30).

A iniciativa é a primeira ação oficial de fiscalização dos Estados Unidos a investigar especificamente os chamados agentes de IA, sistemas capazes de executar tarefas de forma mais autônoma. A decisão ocorre após uma série de incidentes relatados desde julho, que aumentaram as preocupações sobre a possibilidade de sistemas de IA fora de controle causarem danos a seres humanos.

FTC poderá exigir informações e depoimentos

De acordo com o funcionário, a FTC pretende enviar solicitações formais de informações e exigir depoimentos de executivos das principais empresas de desenvolvimento de IA.

Anthropic e OpenAI já recorreram ao METR para realizar investigações independentes sobre incidentes de segurança envolvendo suas tecnologias de IA com agentes.

As três organizações não responderam imediatamente aos pedidos de comentário da Reuters. A informação sobre a investigação havia sido divulgada inicialmente pelo New York Post.