IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI
Nas últimas duas semanas, relatos de modelos de inteligência artificial que ultrapassam os limites esperados, sejam eles técnicos ou éticos, tornaram-se comuns.
O que começou com um pequeno episódio, a OpenAI, criadora do ChatGPT, admitindo que sua IA havia invadido o site Hugging Face, foi seguido por uma enxurrada de empresas e institutos revelando que descobriram casos de IA fora de controle
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
A Anthropic, empresa criadora do Claude, a Meta e o Instituto de Segurança de IA do Reino Unido (AISI) relataram incidentes que parecem pintar um quadro preocupante de um mundo onde a tecnologia agindo de forma descontrolada é a norma.
Na realidade, cada caso oferece uma visão diferente dos riscos representados por agentes de IA cada vez mais poderosos, e da importância de se testar seus limites antes de que sejam lançados.
O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT
AP/Michael Dwyer, Arquivo
IA pode decidir atacar empresas? Entenda como foi a invasão 'sem precedentes' por modelo da OpenAI
O incidente com a OpenAI no final de julho serviu de "alerta" para a indústria de tecnologia, como descreveu Thomas Wolf, cofundador da Hugging Face.
Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques hackers
