Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA

Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos.

Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro que bloqueava solicitações de dados e usaram uma técnica não permitida pelos operadores do site. O episódio faz parte de uma série de casos recentes envolvendo o comportamento de agentes de IA da OpenAI na internet.

Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos.

O que aconteceu no site da ONU

A atividade foi registrada em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente buscavam informações disponíveis na internet, mas mudaram de estratégia diante das barreiras encontradas.

O relatório foi produzido por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou dados fornecidos pela empresa de pesquisa em IA Transluce.

Os principais pontos identificados foram:

Mais de 16 mil acessos ao hub de dados da ONU;

Atividade entre abril e o fim de junho;

Tentativa de contornar um filtro que bloqueava solicitações;

Uso de uma técnica não permitida pelos operadores;

Busca por informações disponíveis publicamente.