Parte do trabalho de Chris Painter é ajudar a descobrir o que acontece quando a IA se descontrola e, em seguida, publicar os resultados em relatórios públicos.
Ele e o METR, o grupo de pesquisa em IA sem fins lucrativos que ele ajuda a liderar, têm estado bastante ocupados ultimamente: ajudaram a OpenAI a desvendar o ataque hacker à Hugging Face este ano, e Painter testemunhou recentemente perante uma subcomissão do Senado após uma série de outros incidentes envolvendo IA desonesta.
Os pesquisadores do METR examinam minuciosamente os rascunhos dos agentes de IA - os dados da “cadeia de pensamento” que podem ajudar os humanos a entender os passos que os bots seguiram antes de responder a uma solicitação. Essa informação foi fundamental na investigação do METR sobre o incidente da Hugging Face.
Mas Painter teme que esse trabalho possa ficar muito mais difícil em breve.
A capacidade dos humanos de monitorar agentes de IA depende da capacidade de se comunicar da mesma forma que os bots, em uma linguagem compartilhada.
O que acontece se pararmos de falar a mesma língua? Ou, e se os agentes de IA parassem completamente de mostrar seu trabalho?
“Se eles se tornarem menos monitoráveis, terão mais oportunidades de fazer coisas que não pretendemos”, disse Painter à CNN Internacional no mês passado.
