EUA concluem testes para avaliar capacidade de IAs hackearem sistemas

O governo dos Estados Unidos concluiu os testes voluntários de segurança cibernética que tinham a finalidade de avaliar as capacidades de invasão dos modelos de inteligência artificial mais avançados do país. Os resultados devem ser discutidos com as empresas envolvidas nesta terça-feira (4), de acordo com a Reuters.

Uma fonte revelou à agência de notícias que representantes da Meta e da Anthropic estão entre os convidados para o encontro na Casa Branca. A iniciativa tenta criar mecanismos para supervisionar o lançamento de tecnologias poderosas em meio a relatos de IAs realizando ataques “sem precedentes” durante experimentos dos desenvolvedores.

Detalhes permanecem em sigilo

Iniciados a partir de uma ordem executiva assinada em junho pelo presidente dos EUA, Donald Trump, os testes de segurança levaram os laboratórios de IA a submeter voluntariamente seus modelos a avaliações antes da disponibilidade ao público em geral. O procedimento gerou atrasos na oferta de novos sistemas inteligentes.

Apesar da finalização das análises, ainda não se sabe quais foram os resultados das investigações;

Também não há informações sobre quais critérios técnicos o governo levou em conta para a medição dos riscos associados às IAs;

Como os modelos serão classificados depois das análises é outra dúvida que permanece;

Além disso, não se sabe se as autoridades vão compartilhar os resultados completos com o público, parte deles ou se não revelará nenhum dado.