Um professor de história da Universidade Estadual de Alcorn, no Mississippi (EUA) criou uma estratégia para descobrir se estudantes utilizavam ferramentas de inteligência artificial durante uma avaliação. A técnica revelou que 32 dos 35 alunos de duas turmas entregaram respostas geradas por IA sem uma revisão adequada.
O caso ocorreu em uma prova sobre a Revolução Industrial, aplicada em formato digital. O docente Jason Gibson inseriu uma instrução escondida no arquivo da avaliação, invisível para os estudantes durante a leitura comum, mas identificável por sistemas de inteligência artificial que analisassem o documento.
Para testar o uso da inteligência artificial, Gibson inseriu no arquivo da prova uma instrução oculta que pedia a inclusão da palavra “Madagascar” em algum trecho da resposta, mesmo sem relação com o assunto avaliado.
Ou seja, ao receber o documento enviado pelos alunos, o chatbot também interpretava o comando escondido no arquivo e, ao gerar as respostas da prova, acabava incluindo a palavra solicitada pelo professor, mesmo sem qualquer sentido dentro do contexto. Assim, o docente conseguiu identificar estudantes que copiaram respostas produzidas por uma ferramenta de inteligência artificial sem sequer revisar a prova por inteiro.
