A Anthropic publicou em blog, na terça-feira, a descrição de um sistema open-source chamado FlashProve, voltado a verificar qual modelo de IA gerou uma determinada saída. A reportagem da TechCrunch explica que o mecanismo funciona de forma parecida com as assinaturas criptográficas de e-mail, que permitem ao destinatário confirmar a origem de uma mensagem.
Segundo a fonte, o sistema seria robusto contra impostores que tentem fazer um modelo passar por outro, mesmo quando o impostor é o próprio laboratório que construiu e opera o modelo. Esse ponto é o diferencial declarado da proposta, já que a confiança depende da verificação e não apenas da palavra de quem serve o modelo.
Os pesquisadores, de acordo com a TechCrunch, apontam que o FlashProve poderia impedir que uma empresa de IA substitua discretamente um modelo por outro sem que o cliente perceba. Para quem consome APIs de terceiros, isso trata de um problema concreto: a versão servida pode mudar sem aviso, alterando custo, comportamento e qualidade.
O material coletado não informa o estágio de maturidade do FlashProve, nem quais modelos já são compatíveis, nem como a verificação se integra aos fluxos atuais de inferência. Sem esses dados, não se pode afirmar que a ferramenta esteja disponível para uso em produção.
A posição do jornal é que a rastreabilidade do modelo que responde deve virar requisito de contrato, e não favor do fornecedor. Equipes que dependem de respostas auditáveis devem registrar a versão do modelo em cada chamada e exigir do fornecedor garantias de identidade, enquanto soluções como essa não estiverem consolidadas.