Prompt leaking: o que é e como uma IA pode revelar seus próprios comandos

Uma das preocupações de quem desenvolve inteligência artificial é o prompt leaking (“vazamento de prompt”, em português): um chatbot deixa escapar instruções internas que deveriam permanecer ocultas. É como esquecer a chave pendurada do lado de fora da porta, ao alcance de quem souber onde procurar.

Na prática, não se trata de defeito de equipamento nem, necessariamente, de uma invasão, mas sim de um resultado indesejado que costuma resultar de uma tentativa deliberada de manipular o chatbot.

O problema chamou a atenção da OWASP, fundação referência em segurança de software, que em 2025 o incluiu entre os dez principais riscos de aplicações com IA generativa.

Muitas empresas tratam o prompt de sistema (roteiro que define como o assistente se comporta) como informação confidencial. Mas um único comando bem formulado pode fazer a IA revelar as próprias regras, expondo detalhes sobre seu funcionamento e, dependendo do contexto, até senhas e dados de clientes.

Confira, a seguir, como o vazamento acontece, quais casos ficaram conhecidos e como evitá-lo.

O que é prompt leaking?

O prompt leaking é a exposição indevida de instruções internas que orientam um grande modelo de linguagem (LLM). A principal delas, o prompt de sistema, funciona como um briefing: o usuário não vê o documento, mas percebe sua influência em cada resposta.