O dever de agir da inteligência artificial: quem responde diante de uma ameaça?

Durante décadas, a responsabilidade das empresas de tecnologia esteve concentrada em uma pergunta relativamente simples. Até onde uma plataforma responde pelo conteúdo produzido por seus usuários? Redes sociais discutiram moderação, aplicativos defenderam a criptografia e mecanismos de busca sustentaram que apenas organizavam informações disponíveis na internet. A inteligência artificial acaba de deslocar esse debate para outro patamar.

A prisão de um homem investigado por planejar o assassinato do próprio filho após interações realizadas com o ChatGPT representa muito mais do que um caso criminal de grande repercussão. Ela revela o surgimento de uma nova obrigação para as empresas que desenvolvem inteligência artificial. Este é o primeiro caso de grande repercussão no Brasil, em que uma plataforma identificou indícios de uma ameaça concreta, comunicou autoridades e contribuiu para impedir que um crime fosse consumado.

A IA entra no debate sobre dever de agir

Esse episódio inaugura uma discussão jurídica que ainda não possui resposta clara. Quando uma empresa é capaz de identificar um risco real contra a vida, ela ainda pode alegar neutralidade?

Até pouco tempo, a resposta provavelmente seria positiva. As plataformas sempre sustentaram que desconheciam a intenção de seus usuários. A inteligência artificial altera essa lógica porque não apenas recupera informações.