Estados Unidos e China iniciaram conversas para criar um sistema de notificação sobre incidentes de inteligência artificial. O objetivo é evitar que falhas técnicas ou crises de segurança nacional desencadeiem conflitos entre as potências.
A iniciativa faz parte de um diálogo bilateral sobre a tecnologia e ganha força no momento em que a indústria enfrenta alertas crescentes sobre os riscos de modelos avançados.
Canal de comunicação para evitar crises
A ideia é criar uma ponte direta entre Washington e Pequim para notificar falhas graves e episódios críticos em tempo real, evitando mal-entendidos diplomáticos.
O tema deve entrar na pauta do encontro entre os presidentes Donald Trump e Xi Jinping nesta semana.
Achamos que, como em qualquer atividade transfronteiriça, sair do opaco para mais transparência entre a potência número um e a número dois em IA no mundo é muito importante.
Scott Bessent, Secretário do Tesouro americano, em entrevista coletiva.
Insegurança em modelos de ponta impulsiona acordo
Alertas disparados nas últimas semanas colocaram em dúvida as travas de proteção dos sistemas atuais. Relatos de funcionários da Anthropic, por exemplo, mencionaram riscos extremos em ferramentas de ponta.
A discussão dividiu o setor em visões opostas:
Executivos da OpenAI e da Anthropic defendem desacelerar o desenvolvimento para estabelecer normas de segurança.
