A OpenAI lançou em 4 de junho o Dreaming V3, uma arquitetura de memória reconstruída que substitui a lista de memórias salvas manualmente pelo usuário.
Memória em assistente é um problema mais difícil do que parece. Guardar tudo torna a conversa lenta e cara, além de trazer para o contexto informação que não tem relação com o pedido atual. Guardar pouco faz o assistente repetir perguntas que já foram respondidas.
A curadoria manual, que o novo sistema substitui, resolvia isso empurrando a decisão para o usuário: você escolhia o que o assistente deveria lembrar. Funciona para quem se dá ao trabalho, e quase ninguém se dá.
A troca por um sistema automático desloca o problema em vez de eliminá-lo. Agora é o sistema que decide o que guardar, e essa decisão passa a ser invisível: o usuário não sabe o que o assistente sabe sobre ele nem por quanto tempo.
Para quem usa assistente com dado sensível de trabalho, essa opacidade é a parte a observar. Vale perguntar o que fica retido, onde, por quanto tempo e como apagar, antes de colocar informação de cliente numa conversa.