Uma conferência dedicada a segurança de inteligência artificial no mundo real foi realizada entre 23 e 25 de junho, na mesma semana em que agências divulgaram alerta conjunto e um programa de auditoria de código aberto foi anunciado.
A concentração de eventos no mesmo período não é coincidência de calendário. Ela marca o momento em que a discussão sobre risco de IA deixou o terreno da especulação e passou a se organizar em torno de incidentes documentados e de técnicas com nome próprio.
A diferença entre as duas fases é o tipo de trabalho que produzem. Especulação gera princípio geral; incidente documentado gera lista de verificação, e é lista de verificação que muda o que uma equipe faz na segunda-feira.
O período ofereceu material abundante para isso, com nova classe de ataque contra agente de programação, achados em auditoria de código aberto e produtos de controle de identidade para agente.
Para quem opera sistema, o resumo aproveitável é curto: o que o modelo lê é entrada não confiável, o agente precisa de identidade e escopo próprios, e toda barreira vale depois de ser exercitada de propósito.