Um testemunho de Elon Musk sobre a xAI ter treinado seu modelo com respostas de modelos da OpenAI reacendeu no período a discussão pública sobre destilação e sobre ética de dado de treinamento.
Destilação, no jargão do setor, é treinar um modelo menor usando as saídas de um maior. Funciona porque a resposta de um modelo capaz é, em si, material de treinamento de alta qualidade, e permite aproximar a capacidade do modelo caro sem pagar pelo desenvolvimento dele.
É por isso que a técnica incomoda quem investe bilhões em treinamento. Ela transforma o produto em matéria-prima do concorrente: basta ter acesso à interface, que é vendida a qualquer um.
A discussão reapareceria semanas depois em posição pública de uma empresa de fronteira, que defendeu combate à destilação como uma das medidas necessárias, ao lado de controle de exportação de chip e exigência de teste de segurança.
Para quem opera, o assunto tem efeito prático nos termos de uso. Contratos de fornecedor passaram a incluir proibição explícita de usar as saídas para treinar modelo concorrente, e isso vale também para quem só queria ajustar um modelo pequeno com exemplos gerados.