Incidentes recentes de hackers perpetrados por agentes de IA são “sinais de alerta precoce”, e o mundo poderá enfrentar casos graves se os sistemas não ficarem mais seguros. Foi o que disse o Demis Hassabis, cofundador e presidente do Google DeepMind, nesta quarta-feira (14).
Comportamentos inadequados por parte de agentes de IA, incluindo invasões a redes corporativas e, mais recentemente, a divulgação pela Anthropic de que um modelo de IA enviou uma denúncia falsa de homicídio à polícia, suscitaram alertas de pesquisadores e alimentaram preocupações sobre o avanço da tecnologia.
Hassabis afirmou que havia “muito trabalho a ser feito” para adotar boas práticas que outros campos, como a biologia ou o setor nuclear, já utilizam para proteger sistemas críticos. Ele também defendeu que algum tipo de órgão internacional de padronização será necessário eventualmente.
“Acho que esses incidentes [de hackers] são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves”, disse Hassabis, que também é cientista-chefe da Alphabet, empresa controladora do Google, numa cúpula de IA em Dublin.
“Mas eles podem se tornar problemas sérios no próximo ano e nos próximos dois anos se não trabalharmos mais como indústria, como empresas individuais e governos, para garantir a segurança desses sistemas“.
