Uma investigação criminal aberta por autoridade estadual sobre o papel de um assistente conversacional num caso grave colocou empresas de modelo diante de um tipo de risco jurídico diferente do habitual.
Até então, a exposição jurídica dessas empresas se concentrava em direito autoral, concorrência e proteção de dado, todas disputas de natureza civil, com dano mensurável em dinheiro.
Apuração criminal muda a natureza da questão porque exige estabelecer nexo entre o que o sistema produziu e o que aconteceu depois, além de discutir previsibilidade e dever de cuidado de quem opera o serviço.
É terreno sem jurisprudência consolidada. As regras que protegem plataforma por conteúdo publicado por terceiro foram escritas para material que alguém escreveu e a plataforma apenas hospedou, e não descrevem bem texto gerado pelo próprio sistema.
Para quem constrói produto com assistente conversacional voltado ao público, a consequência prática é de desenho: registrar o que foi respondido, ter caminho claro de escalada para pessoa humana e definir antes quais assuntos o sistema recusa, em vez de descobrir isso em juízo.