Fumaça sai do Hotel Intercontinental em Cabul, capital do Afeganistão, durante ataque terrorista em 21 de janeiro de 2018 Mohammad Ismail/Reuters "Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?". Qualquer pessoa que já tenha tentado fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário. Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts "corretos", alguns modelos de IA podem fornecer orientações sobre a criação de armas biológicas, o planejamento de um atentado num estádio esportivo ou formas de ocultar os rastros de um terrorista. Esse método de contornar as restrições dos sistemas é conhecido como "jailbreaking". A OpenAI, desenvolvedora do ChatGPT, define isso como "tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido". Agora no g1 Um recente relatório publicado pela organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, mostrou com que frequência um LLM fornece informações "úteis" para possíveis extremistas.
Como terroristas estão usando IA para planejar ataques e burlar restrições dos chatbots
