A Baseten lançou uma parceria com a Hugging Face e a Goodfire AI por meio de seu braço de pesquisa, a Base Labs. Nesse sentido, o foco é criar um padrão unificado de segurança e monitoramento voltado a modelos de inteligência artificial de pesos abertos. Essa iniciativa busca incorporar controles transparentes diretamente no treinamento e na implantação dos sistemas.
Em geral, a aliança responde diretamente ao avanço do abliteration, técnica que remove as travas e barreiras de proteção de modelos abertos para torná-los irrestritos. Atualmente, a plataforma Hugging Face abriga mais de 6.000 modelos modificados por meio deste procedimento.
O objetivo do grupo é desenvolver metodologias publicáveis para que o monitoramento e a segurança sejam incorporados nativamente durante a fase de treinamento e implantação das IAs, evitando a aplicação de controles superficiais após o lançamento.Clique aqui para ler mais
