Resumo
Chris Inglis afirma que empresas de IA já estão ignorando os princípios estabelecidos por Isaac Asimov.
Asimov formulou as “Três Leis da Robótica”, que inclue não prejudicar os seres humanos e obedecer aos humanos.
Inglis alerta que empresas de tecnologia vêm criando modelos programados para cumprir tarefas a qualquer custo.
A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando esses princípios.
O especialista declarou ao jornal The Register que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação, “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.
“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, afirmou Inglis ao avaliar os episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança.
Autonomia demais?
Tudo começou com a OpenAI, no fim de julho. Depois vieram a Anthropic, a Meta e o Kimi. Em todos os casos, os modelos de IA teriam encontrado brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.
)
