OpenAI, Anthropic e mais de 100 empresas pedem mais segurança contra IAs

Um conjunto de mais de 100 empresas e organizações que têm relação com a indústria da tecnologia lançaram uma carta aberta nesta quinta-feira (28). O grupo pede mudanças em relação ao atual cenário da cibersegurança em inteligência artificial (IA).

Mais especificamente, as companhias demandam medidas regulatórias, esforços e investimentos por parte de governos e outras instituições públicas ou privadas. A ideia é que invasões e outros usos mal intencionados de agentes e chatbots não sejam mais sofisticados do que as próprias defesas que usam essa tecnologia.

A mobilização ocorre depois de uma série de incidentes envolvendo IAs que estavam em fase experimental e, para cumprirem desafios específicos, invadiram ou burlaram sistemas de segurança de plataformas digitais ou até usaram credenciais vazadas de usuários. Meta, Anthropic e OpenAI são companhias que admitiram esse tipo de ocorrido.

O que diz a carta

Como medidas práticas, a carta pede que empresas do setor disponibilizem IAs "nas mãos dos defensores" desse serviços, como empresas de segurança, além de constantemente compartilhar novas ferramentas "acessíveis e prontas para implementação" voltados para a proteção digital.

Essa mobilização de recursos e suporte prático deve envolver também coordenação e investimento por parte de governos, além de uma ação especial das chamadas empresas de IA de fronteira (como os laboratórios e big techs que criam modelos) em acesso responsável, treinamento e suporte técnico.