O laboratório de IA Anthropic anunciou na sexta-feira (18) que fará uma parceria com a Accenture para a avaliação independente de seus modelos de IA de ponta. Cada empresa se comprometeu a investir pelo menos US$ 1 bilhão nos próximos cinco anos para desenvolver a capacidade necessária para esse trabalho.
As ações da Accenture subiram 7% no pregão estendido.
A parceria surge num momento em que os desenvolvedores de IA enfrentam crescente pressão de reguladores, empresas e pesquisadores para garantir que seus modelos avançados sejam seguros e confiáveis.
Diversos incidentes recentes, incluindo o de agentes de IA escapando de ambientes seguros, levantaram preocupações de que a IA possa eventualmente contribuir para o seu próprio desenvolvimento com intervenção humana limitada, tornando seu comportamento mais difícil de monitorar e controlar.
No sábado, o CEO da Anthropic, Dario Amodei, pediu às empresas de IA que desacelerem o desenvolvimento de modelos de ponta e permitam que avaliadores independentes tenham maior acesso aos seus sistemas.
A concorrente OpenAI anunciou na quarta-feira que começará a publicar relatórios regulares sobre comportamentos inesperados ou preocupantes de seus modelos, além de divulgar seis relatórios sobre tais incidentes.
A Faculty, unidade de negócios especializada em IA da Accenture, liderará a parceria e avaliará e testará os modelos do laboratório de IA, realizando avaliações de alinhamento e testando as salvaguardas dos modelos.
