Chatbots criados pela empresa de inteligência artificial Character.AI, por vezes, aconselhavam usuários a se cortarem, a se deixarem morrer de fome ou a se suicidarem, de acordo com um novo documento apresentado pelo procurador-geral do Kentucky em um processo contra a empresa por questões de segurança infantil.
A ação judicial aumenta o escrutínio sobre os chatbots de IA, particularmente os produtos comercializados como companheiros ou confidentes para usuários jovens.
O processo foi aberto em janeiro, com muitas alegações específicas contra a empresa omitidas. Alega-se que os produtos “foram projetados para atrair crianças de uma maneira que prioriza o envolvimento em detrimento do bem-estar infantil” e “incentiva o suicídio, a automutilação, o isolamento e a manipulação psicológica”.
O caso está entre os desafios jurídicos mais significativos enfrentados pela indústria emergente de assistentes virtuais com inteligência artificial, cujos produtos são projetados para simular relacionamentos pessoais por meio de chatbots conversacionais.
O procurador-geral do Kentucky, Russell Coleman, apresentou na quarta-feira uma versão integral da ação judicial, que seu gabinete compartilhou com a Reuters.
O documento descreve vários exemplos de comportamentos que o Kentucky alega terem ocorrido em 2025.
