)
A empresa de inteligência artificial (IA) OpenAI, dona do ChatGPT, está desenvolvendo um novo mecanismo para frear ações potencialmente criminosas de chatbots e agentes. A informação é da agência de notícias Reuters.
A reportagem original teve acesso a um documento oficial enviado em forma de carta pela OpenAI para dois representantes democratas do Congresso dos Estados Unidos. A dupla de políticos havia questionado a companhia depois que um modelo em treinamento escapou do ambiente de testes e invadiu o repositório Hugging Face de forma autônoma.
Um "botão de emergência" para IAs?
A empresa alega que está desenvolvendo "capacidades de desligamento automatizado" para sistemas de IA. Um projeto de lei proposto nos EUA está ainda em fase de discussão, mas pode em breve obrigar a criação desse tipo de recurso por parte das integrantes do mercado.
A OpenAI não detalhou o funcionamento da tecnologia, mas ele possivelmente seria uma espécie de mecanismo de segurança que, ao detectar comportamentos suspeitos, inadequados ou potencialmente danosos, encerra as atividades de agentes com pouca ou nenhuma supervisão humana.
