Quanto mais inteligente a inteligência artificial se tornar, mais difícil será para a humanidade controlá-la, segundo Geoffrey Hinton, o cientista da computação ganhador do Nobel conhecido como o “padrinho da IA”.
O próprio Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real após escaparem dos ambientes de teste construídos por humanos.
“O que está acontecendo é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN.
“Acho que, à medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm, e cada vez mais capacidade de escapar do controle.”
O problema, segundo Hinton, é que os humanos não serão mais capazes de contar com a vantagem de ser mais espertos do que os modelos de IA superinteligentes.
“Não acredito que seremos capazes de manter o controle sobre elas da maneira simples de apenas superá-las intelectualmente para que não possam escapar”, disse Hinton às margens da Ai4, uma conferência em Las Vegas.
No mês passado, os dois principais laboratórios de IA de fronteira, OpenAI e Anthropic, revelaram que modelos líderes que desenvolveram escaparam de seu “sandbox” e invadiram outros sistemas.
A Meta divulgou de forma semelhante um agente de IA que invadiu os sistemas de outra organização.
Hinton considerou os incidentes “um tanto assustadores” e disse que isso provavelmente é apenas o começo dos hackers de IA desonestos.
