« E se inventar? » — fazer um agente citar as suas fontes

É a primeira pergunta de cada workshop, e é a certa. Um modelo de linguagem produz uma frase plausível; nada na sua mecânica garante que seja verdadeira. Toda a arte está em tornar o erro visível.

A regra única: citar

Cada afirmação produzida por um agente remete para o documento e a versão de onde vem. Não « segundo os nossos procedimentos » — a referência exata, clicável, verificável em três segundos.

A regra parece modesta. Muda tudo: transforma a revisão de um exercício de confiança num exercício de verificação. Quem tem de acreditar revê mal; quem pode verificar revê depressa.

Se uma frase não tem fonte, não tem nada que fazer na saída.

Quatro montagens que funcionam

Responder a partir dos documentos, não da memória

O agente procura primeiro na sua base e depois redige a partir do que encontrou. Se não encontrar nada, tem de o dizer — e não completar com o que « sabe ».

Autorizar o « não sei »

Um agente a quem não se permite falhar, inventa. O circuito tem de prever uma saída « não está na base » que sobe a uma pessoa, e essa saída deve ser frequente ao início.

Separar extração e redação

Extrair uma data de um documento é verificável. Redigir um parágrafo não é. Quando os dois se misturam, já não se sabe o que se está a rever.

Registar as entradas

O registo guarda o que o agente leu, não apenas o que produziu. É isso que permite corrigir a causa em vez da saída.

Duas falsas soluções

« Vamos usar um modelo mais potente. » Um modelo melhor reduz a frequência dos erros, não a sua natureza. Numa pergunta cuja resposta não está nos seus documentos, o melhor modelo do mercado também inventará — apenas de forma mais convincente.

« Vamos rever tudo. » Ninguém revê trezentas saídas por dia. Ao fim de duas semanas, a revisão passa a ser uma vista de olhos. Mais vale rever dez por cento com método do que cem por cento na diagonal.

Como verificamos que aguenta

Na abertura de um sistema, constituímos um conjunto de casos reais — quarenta a cem — cuja resposta certa é conhecida. Medimos três coisas: a parte de respostas exatas, a de « não sei » justificados, e a de erros silenciosos. Só a terceira conta verdadeiramente.

Esse conjunto não serve só para a entrada em serviço: repetimo-lo a cada mudança de modelo ou de instrução. É o que permite dizer, com números, se uma atualização melhorou ou degradou o sistema.

Outras notas

Todas as notas →