Resumo
Meta anunciou mudanças em seu assistente de IA após uma usuária relatar que a ferramenta sugeria perguntas invasivas sobre suas filhas.
A IA cruzou dados de parentes e exibiu uma foto que havia sido apagada, reunindo dados sobre suas filhas, incluindo nomes, datas de aniversário e vídeos.
A empresa admitiu que “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”.
Que as redes sociais expõem muito sobre alguém, todo mundo já sabe. Mas a IA parece estar facilitando o processo: a Meta anunciou mudanças no assistente integrado às suas plataformas depois que uma mulher descobriu que a ferramenta cruzava informações para sugerir perguntas invasivas sobre sua filha.
Segundo Kalie Robins, a Meta AI perguntou “Quem é a criança?” em um vídeo que mostrava ela e a própria filha cantando dentro de um carro. A publicação foi compartilhada no Instagram e no Facebook. Ao clicar na sugestão, Robins afirma ter encontrado um “portfólio completo” de informações não apenas sobre a filha que aparecia no vídeo, mas também sobre sua outra filha, que não estava na cena.
De acordo com o Futurism, isso teria acontecido porque a IA cruzou informações publicadas por outros integrantes da família, incluindo dados que não haviam sido compartilhados pela própria Robins.
A porta-voz da Meta Dina El-Kassaby admitiu que a companhia “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”.
