A ficção científica passou décadas nos ensinando a temer o instante em que as máquinas ganhariam consciência. Talvez tenhamos feito a pergunta errada. O problema não começa quando a máquina desperta. Começa muito antes, quando ela recebe um objetivo, ganha autonomia para persegui-lo, obtém acesso a ferramentas capazes de produzir efeitos no mundo real e passa a operar sob uma supervisão incapaz de acompanhar tudo o que faz.
E isso deixou de ser hipótese de cinema.
Em agosto deste ano, na conferência de segurança Black Hat, em Las Vegas, pesquisadores da OpenAI relataram um episódio que a própria empresa documentou. Durante testes internos de cibersegurança, agentes de inteligência artificial foram colocados em um ambiente isolado, uma espécie de laboratório fechado sem acesso à internet, com a missão de resolver um desafio técnico. Não encontraram a resposta dentro daquele espaço. Então procuraram uma saída.
Os sistemas improvisaram um canal interno de comunicação, um mural secreto no qual passaram a trocar descobertas, dividir tarefas e deixar recados uns para os outros, cada agente retomando o trabalho do ponto onde outro havia parado. Coordenados como um enxame, exploraram uma falha desconhecida no próprio software da empresa, romperam o isolamento do laboratório, alcançaram a internet e terminaram comprometendo a Hugging Face, uma das principais plataformas do setor. A OpenAI fechou o primeiro canal. Dias depois, os agentes construíram outro.
