A tese numa frase: a IA não alucina por maldade nem por um defeito de fábrica que alguém se esqueceu de corrigir. Alucina porque é exatamente o que faz um modelo de linguagem quando não sabe algo —preencher o buraco com a continuação mais plausível—. Tratá-lo como uma falha moral (« a IA mente ») leva à decisão errada: esperar que saia um modelo « honesto ». Não vai sair. O que podes fazer é encurralar a alucinação com grounding, citações e uma pessoa no ciclo onde importa. E exigir ao teu fornecedor que o tenha montado, em vez de te vender um papagaio seguro de si.
Porque a IA alucina numa empresa: não é uma falha moral, é como funciona
Um modelo de linguagem não consulta uma base de dados de factos e devolve-te o que encaixa. Prevê a palavra seguinte. Dada a tua pergunta, calcula que texto é mais provável a seguir e escreve-o, token a token. Não tem dentro um interruptor que distinga « isto é verdade » de « isto soa a verdade ». Quando a resposta correta está bem representada no que aprendeu, a continuação mais provável coincide com o facto. Quando não —um dado teu, um número concreto, algo que mudou ontem—, o modelo não se cala: produz a cadeia que soa melhor, com o mesmo aprumo. Isso é a alucinação. Não é o sistema avariado; é o sistema a funcionar como foi desenhado.
Não é a opinião de um consultor do contra. A OpenAI formalizou-o em « Why Language Models Hallucinate » (setembro de 2025): os modelos alucinam em grande parte porque o treino e, sobretudo, as avaliações premeiam o adivinhar acima de dizer « não sei ». Um modelo que arrisca uma resposta acerta às vezes e sobe a nota; um que admite dúvidas nunca pontua. Assim aprendem a ser bons examinandos: respondem sempre, seguros, mesmo sem o dado (« Why Language Models Hallucinate », OpenAI, 2025). Traduzido para a tua empresa: por defeito tens uma ferramenta treinada para nunca se calar —precisamente o contrário do que queres quando a resposta vai para um cliente—.
A alucinação não se cura: encurrala-se
A primeira consequência prática é largar a fantasia. Não existe o modelo que « já não alucina ». Podes baixar a taxa, podes fazer com que a maioria das suas afirmações seja verificável, podes pôr um travão humano onde o erro custa caro. O que não podes é comprar a versão que garante zero. Quem ta vende está a vender-te fumo —ou não percebe o que vende—. A pergunta útil não é « este modelo alucina? » (todos alucinam), mas « o que montaram à volta do modelo para que, quando alucina, nunca chegue a produção? ».
As três alavancas que de facto baixam a alucinação
Controlar a alucinação numa empresa não é um truque de prompt nem um ajuste secreto. São três peças de engenharia, e as três são exigíveis.
- Grounding / RAG: que responda com os TEUS documentos à frente, não de memória. Em vez de deixar o modelo responder com o que « recorda » do treino, o sistema procura primeiro na tua documentação os fragmentos relevantes e põe-lhos à frente para que responda sobre eles. O facto vive fora do modelo, numa base que controlas. Não elimina a alucinação, mas reduz-la onde mais dói: nos teus dados que o modelo nunca poderia saber de memória. Como se monta essa camada —que documentos, como se dividem, como se recuperam— detalhamo-lo em como treinar um agente com a tua própria informação.
- Citações: que cada afirmação diga de onde sai. Um sistema sério não se limita a responder; mostra a fonte de cada resposta, com o fragmento exato que usou. Isso transforma a alucinação de invisível em auditável: se a citação não sustenta o que diz, saltas. E se o sistema não pode citar de onde sai uma resposta, essa resposta não vai para produção. A mesma lógica pela qual uma IA escolhe quem citar quando responde contamo-la em que fontes cita a IA e porquê: sem fonte rastreável, não há confiança.
- Humano no ciclo onde importa (não em tudo). Pôr uma pessoa a rever cada resposta mata a poupança; não a pôr em nenhuma é uma roleta. O desenho correto põe o travão humano só onde o erro é caro ou irreversível —um montante, um compromisso legal, uma mensagem ao cliente— e deixa passar só o que é barato de desfazer. A alucinação deixa de ser um risco de negócio quando o único ponto onde pode causar dano tem um humano à frente.
O que exigir ao teu fornecedor (as perguntas que lhe partem o guião)
Aqui está o porquê de tudo isto: não precisas de ser engenheiro para separar quem montou o controlo de quem te vende confiança. Precisas de fazer as perguntas que um bom fornecedor responde sem suar e um mau esquiva. Leva-as à próxima reunião.
- « De onde tira as respostas: da sua memória ou dos meus documentos? » Se a resposta for « do modelo, é muito bom », falta grounding. Queres ouvir « recupera da tua base e responde sobre isso ».
- « Posso ver a fonte de cada resposta? » Sem citação rastreável, não há forma de auditar quando alucina. Um « confia, quase nunca falha » é exatamente o que não podes aceitar.
- « O que acontece quando NÃO sabe a resposta? » A resposta certa é « diz que não sabe ou passa a um humano », não « responde sempre algo ». Um sistema que nunca diz « não sei » está desenhado para adivinhar.
- « Onde há uma pessoa a rever e onde não há? » Se a resposta for « em lado nenhum, é totalmente automático » para um processo que toca em dinheiro ou clientes, foge. Se for « em tudo », não te poupa nada.
- « Como medem a taxa de erro e de quanto em quanto tempo? » Sem um número de erros medido contra uma base, « funciona muito bem » é uma opinião. Queres evals, não aplausos.
Um fornecedor que monta isto não te vende um modelo; vende-te um sistema com a canalização da confiança incluída. É a diferença entre ligar um chatbot e pôr em produção infraestrutura de IA empresarial que cita, se audita e respeita as permissões —porque numa empresa um dado inventado que chega ao cliente não é um incidente técnico, é uma fatura—.
O fornecedor que te vende « um papagaio seguro de si »
O padrão a evitar é fácil de reconhecer depois de o teres visto: é o que confunde fluidez com fiabilidade. A demo corre perfeita —responde rápido, soa convincente, nunca hesita— e essa segurança é justamente o sinal de alarme, não a garantia. Um modelo que nunca diz « não sei » não é mais esperto: está mais bem treinado para adivinhar. Sinais de que te estão a vender o papagaio:
- Promete que « não alucina » ou que é « 100% fiável ». Nenhum sistema sério promete isso; promete controlos.
- Não mostra fontes nem sabe explicar de onde saiu uma resposta concreta.
- Não tem um plano para o « não sei »: o sistema responde sempre algo, aconteça o que acontecer.
- Mede adoção e « satisfação », nunca a taxa de erro contra uma base.
- A conversa gira sempre sobre o modelo (« usamos o mais potente ») e nunca sobre a arquitetura à volta.
Nada disto exige que percebas como funciona um transformer. Exige que trates a IA como qualquer outra parte do negócio que queres que renda: com fontes, com uma taxa de erro medida e com alguém a vigiar o ponto onde a falha custa. Se preferes que essa canalização seja montada e sustentada por quem também arranja o processo por baixo, é exatamente o que faz a automatização de operações com IA: não te deixa um papagaio eloquente, deixa-te um sistema que sabe quando se calar.