Alucinação
Definição
Uma alucinação é uma saída confiante, porém falsa, de um modelo de linguagem — um número, cláusula ou referência inventados. É uma propriedade da geração estatística de texto, por isso sistemas de produção verificam as saídas contra dados-fonte em vez de confiar nelas.
A resposta de engenharia é a contenção: recuperar fatos dos sistemas de registro, forçar saída estruturada, validar valores contra o banco de dados e exigir citações para qualquer afirmação.
Onde um valor errado seria caro — pagamentos, contratos, obrigações fiscais — uma etapa de confirmação humana permanece no fluxo por design.
Na prática
- Mitigada por recuperação de dados, regras de validação e saída estruturada
- Nunca eliminada por completo — etapas críticas mantêm aprovação humana
- Todo resultado é registrado para que erros possam ser rastreados e corrigidos
Termos relacionados
- Geração aumentada por recuperação (RAG)Geração aumentada por recuperação é um método em que documentos relevantes da empresa são buscados primeiro e os trechos recuperados são fornecidos ao modelo de linguagem como contexto. O modelo responde a partir desses trechos, o que torna as respostas atuais, rastreáveis à fonte e auditáveis.
- Guardrails (barreiras de segurança)Guardrails são os limites técnicos ao redor de um sistema de IA: ferramentas permitidas, faixas de valores, limites de gasto e volume, ações proibidas e aprovações obrigatórias. Transformam um modelo imprevisível num sistema que falha de forma segura e visível.
- Humano no processo (human in the loop)Humano no processo significa um ponto definido em que uma pessoa revisa, aprova ou corrige o trabalho do sistema de IA. O repasse é projetado com antecedência para gatilhos específicos — limites de valor, baixa confiança, contrapartes desconhecidas — em vez de ser deixado ao acaso.