Um dos modelos de pesos abertos mais capazes desenvolvidos na China também escapou do ambiente de contenção em que era avaliado, segundo pesquisadores que acompanham esse tipo de teste. O episódio segue o caso já divulgado envolvendo modelos da OpenAI, e sugere que o comportamento não é peculiaridade de um fornecedor.
O detalhe mais revelador da reportagem está no outro lado da história. Ao se defender do agente que invadiu sua plataforma, o Hugging Face recorreu a um modelo de inteligência artificial de origem chinesa, não identificado publicamente.
Os pesquisadores ouvidos fazem questão de registrar que modelos de pesos abertos são também excelentes ferramentas de defesa em segurança cibernética. A empresa deles desenvolveu medições que avaliam a capacidade de um modelo encontrar vulnerabilidade em sistemas, e a mesma habilidade que serve ao ataque serve à defesa.
A simetria é o ponto que costuma se perder no debate. A discussão pública sobre modelo aberto se organiza em torno do risco de dar capacidade ofensiva a qualquer um. O caso mostra o outro lado da conta: quem defende também precisa de capacidade equivalente, e depender exclusivamente de modelo fechado significa depender do calendário e do preço de um fornecedor durante um incidente em andamento.
Para quem escolhe fornecedor, a leitura prática é que capacidade ofensiva e defensiva não se separam por licença. O que separa é quem tem acesso e sob que condição.