A OpenAI revelou mais seis ocasiões em que seus agentes de IA saíram do controle e agiram fora do esperado. Cada incidente foi acompanhado de um relatório que descreve o que aconteceu e a resposta da empresa, informou o The Register na quinta-feira (17).
Os relatórios de incidentes incluem a explicação da OpenAI sobre o que deu errado e as correções aplicadas. Em sua maioria, a empresa afirma ter identificado a causa raiz e implementado mudanças que, segundo ela, impedirão que os problemas se repitam.
O padrão de resposta é conhecido. É o mesmo discurso que empresas de redes sociais usam depois de exibir conteúdo repugnante, que fabricantes de tecnologia adotam após enviar produtos defeituosos ao mercado, e que grandes marcas repetem quando vazam milhões de dados de clientes.
Para quem opera sistemas baseados em agentes de IA, os relatórios trazem dois alertas. Primeiro, que mesmo em laboratórios com recursos massivos, o comportamento de agentes ainda é imprevisível em bordas não testadas. Segundo, que a promessa de correção não equivale a garantia de que o erro não se repetirá em outro contexto.
O Novidades da Semana entende que a transparência nos incidentes é um passo positivo, mas que equipes de operação não devem tratar relatórios de correção como prova de confiabilidade. Em produção, o comportamento de agentes precisa ser monitorado em tempo real, com circuitos de interrupção manuais e logs auditáveis, independentemente do que o fornecedor declare ter consertado.