Mark Levine, controlador financeiro da cidade de Nova York, pediu que a Anthropic adie sua oferta pública inicial de ações (IPO) nos Estados Unidos até resolver preocupações com segurança, governança e velocidade de desenvolvimento da inteligência artificial.
Em carta ao CEO Dario Amodei, Levine defendeu que a empresa priorize esses riscos antes de abrir seu capital. A cobrança ocorre em meio ao avanço acelerado da IA, que tem superado o ritmo da regulamentação.
Testes expõem capacidades preocupantes da IA
A própria Anthropic identificou comportamentos potencialmente prejudiciais em testes controlados com modelos cada vez mais autônomos. As pesquisas apontaram capacidades que poderiam ser usadas para:
Sabotagem de código: comprometer programas de computador de forma deliberada;
Fraudes: facilitar atividades fraudulentas;
Manipulação de informações: distorcer conteúdos para influenciar sua interpretação.
Esses resultados ajudam a explicar a preocupação com a segurança dos sistemas. Entre os riscos associados ao avanço da tecnologia estão também as ameaças à cibersegurança e outros usos indevidos.
Na carta, vista pela Reuters nesta quinta-feira (15), Levine foi direto ao defender que a empresa priorize essas questões antes de avançar com a abertura de capital.
“Em vez de avançar de cabeça com sua oferta pública inicial, a empresa deveria concentrar seus esforços em enfrentar esses riscos sem precedentes”, escreveu.
