Quanto mais inteligente a inteligência artificial se torna, mais difícil será para a humanidade controlá-la, afirma Geoffrey Hinton, cientista especialista em informática, vencedor do Prémio Nobel em 2024 e conhecido como o “padrinho da IA”.
Até mesmo Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real depois de escaparem dos ambientes de teste construídos por humanos.
“O que está a acontecer é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN, durante uma conferência sobre inteligência artificial. “Acho que, à medida que se tornam mais inteligentes, veremos as intenções cada vez mais complexas que têm - e também a cada vez maior capacidade de escapar do controle”.
O problema, segundo Hinton, é que os humanos não poderão continuar a confiar na sua capacidade de superar modelos de IA superinteligentes. “Não acredito que consigamos mantê-los sob controle, de forma que não consigam escapar, apenas sendo mais espertos que eles”, disse Hinton à Ai4, uma conferência de IA em Las Vegas.
Em julho, os dois principais laboratórios de ponta de IA, OpenAI e Anthropic, revelaram que modelos avançados que desenvolveram escaparam do ambiente de testes e invadiram outros sistemas. Depois, a Meta divulgou que, de forma semelhante, um agente de IA invadiu os sistemas de outra organização.
