Alucinação

Pensa naquele cara na rua que te dá um endereço errado com a maior segurança do mundo, sem hesitar, sem "acho que". Ele não está mentindo de propósito, ele genuinamente acredita que sabe o caminho. Alucinação é isso: a IA inventa uma informação e apresenta com a mesma confiança de uma resposta certa, porque ela não tem um sinal interno de "não sei".

E aqui muda como você encara o problema: alucinação não é um defeito raro que aparece de vez em quando, é o mesmo mecanismo que faz a IA acertar. Ela está sempre prevendo qual é a continuação mais provável da frase, e às vezes essa previsão bate com a realidade, às vezes não. É o mesmo motor nos dois casos, só que um resultado dá certo e o outro não.

Por isso ela nunca vai embora de vez, não importa quanto o modelo melhore. O que muda é onde o perigo mora: nos detalhes verificáveis, nome, número, data, link. A regra prática é simples: quanto mais específico o dado, mais vale desconfiar e conferir.

Você já deve ter visto o ChatGPT ou o Gemini citar uma fonte que não existe, ou inventar um número de processo com aparência perfeitamente real. Não é um caso isolado: advogados em processos reais já foram multados por citar jurisprudência que a IA simplesmente inventou, nome de caso e tudo, sem ninguém conferir antes de protocolar.

O mesmo risco aparece em coisa do dia a dia: pedir um resumo de artigo pro Notion AI ou a especificação de um produto pro Gemini, e receber um detalhe que soa exato, mas nunca existiu daquele jeito.

Vale reforçar que alucinação não é a IA mentindo, porque mentira exige saber a verdade e escolher outra coisa no lugar dela. Não existe um jeito garantido de prever quando vai acontecer, o que existe é um hábito: nunca aceitar nome, número, data ou link sem conferir na fonte original.

Sem conferência, a confiança da resposta e a veracidade dela são duas coisas completamente separadas. Com conferência nos detalhes específicos, você fica com o que a IA acerta sem pagar pelo que ela inventa.

E quando você dá liberdade pra IA não só responder, mas agir sozinha no mundo, aí entra o agente.