A Anthropic e a OpenAI buscaram um controle significativo sobre o que avaliadores externos podem publicar sobre suas inteligências artificiais. As empresas estariam preocupadas com a possibilidade de as descobertas revelarem segredos comerciais, segundo duas pessoas familiarizadas com as discussões.
O CEO da Anthropic, Dario Amodei, afirmou no mês passado que os avaliadores externos deveriam ter o direito de publicar as conclusões “sem controle editorial”. A OpenAI concordou dias depois, afirmando que os avaliadores deveriam ter “independência editorial”.
As empresas de IA temem que funcionários avaliadores que trabalham dentro das empresas possam levar informações confidenciais para a concorrência, de acordo com fontes que pediram para não serem identificadas, pois o assunto é privado.
Entre as medidas em discussão para evitar vazamentos de propriedade intelectual, estão a observação, por parte dos funcionários, das equipes alocadas em campo durante o trabalho e a proibição de que avaliadores alocados em um laboratório trabalhem simultaneamente em outro.
Mas o que os laboratórios consideram propriedade intelectual crucial pode se sobrepor a informações relevantes para avaliar o risco de um modelo. Isso levaria a discussões e redações, disse uma pessoa com conhecimento das negociações.
Especialistas afirmaram que a independência dos avaliadores é uma preocupação, visto que a Anthropic e a OpenAI escolhem quem realizará essas avaliações.
