Alucinação: Alucinação
Por que a IA inventa com tanta confiança — e por que anexar o documento não resolve sozinho.
É erro entregue com a mesma cara de acerto.
A IA não busca a resposta num banco de dados. Ela monta a continuação mais plausível. Quando o fato não está lá, o mecanismo continua rodando: sai algo com a forma certa e o conteúdo errado.
É a prova que não desconta ponto por erro.
Numa prova sem punição, deixar em branco vale zero e chutar vale uma chance. Todo candidato racional chuta. A IA foi treinada em provas assim: aprendeu que responder bate dizer que não sabe.
- 1Um fato raro aparece uma vez só no treino, ou nenhuma. A IA preenche a lacuna com o plausível.
- 2A avaliação dá ponto por acerto e zero por não sei. Chutar rende mais do que admitir dúvida.
- 3No teste SimpleQA da OpenAI, o modelo que quase nunca diz não sei errou 75% das perguntas. O cauteloso, 26%.
Um consultor pedindo cinco estudos para sustentar um slide
A resposta vem com título, autor e ano nos cinco. Dois existem. Três não. E nada no texto separa uns dos outros: os inventados têm o mesmo formato e a mesma confiança dos reais.
Colar o documento no prompt reduz. Não zera.
O placar da Vectara mede exatamente esse caso: texto na mão, ordem de usar só ele. Ainda assim a taxa de inconsistência vai de 1,8% a 24,2%. Anexar a fonte deixa o erro mais raro e mais difícil de ver.
Qual foi a alucinação que passou pelo seu filtro e você só descobriu depois de mandar para outra pessoa?
Responder no LinkedIn