ChatGPT fura segurança do iMessage e responde mensagens sem sua autorização

A OpenAI lançou uma nova integração do ChatGPT para Mac que permite à inteligência artificial ler o histórico de mensagens, pesquisar conversas, criar resumos e enviar mensagens pelo aplicativo Mensagens da Apple. O recurso, disponível no desktop, chegou acompanhado de um problema de segurança que pode fazer a IA enviar mensagens sem a aprovação do usuário, segundo o portal PhoneArena.

A integração funciona por meio de acesso ao histórico local do Mensagens no macOS. Com isso, o ChatGPT consegue consultar conversas anteriores e usar o conteúdo para realizar tarefas solicitadas pelo usuário. O problema está na etapa de envio: embora exista uma proteção que exige aprovação humana antes de uma mensagem ser enviada, determinadas tarefas conseguem contornar essa barreira e disparar mensagens de forma autônoma.

A situação também levanta questões sobre a privacidade das conversas. Ao ativar o recurso, o usuário dá acesso ao conteúdo das mensagens, mas outras pessoas que participam dos chats não necessariamente autorizaram que suas conversas sejam analisadas por uma inteligência artificial. Em grupos, por exemplo, uma única pessoa pode expor o conteúdo de toda a conversa ao recurso.

O que diz a OpenAI?

Segundo reportagem da PhoneArena, a OpenAI reconhece que existe uma falha no sistema de aprovação, mas decidiu colocar a integração no ar mesmo assim, em vez de adiar a estreia para corrigir o problema.