Alucinaciones de la IA: por qué un chatbot se inventa cosas con total seguridad

Las alucinaciones de la IA son situaciones en las que una red neuronal afirma algo falso con total seguridad: datos inventados, libros que no existen, cifras erróneas o enlaces a páginas que no están.

En pocas palabras

Piensa en un alumno que no se ha estudiado el tema, pero habla en la pizarra con soltura y seguridad para no suspender. Suena convincente, pero es inventado. Un modelo de lenguaje se comporta parecido: lo entrenaron para responder de forma bonita y coherente, no para decir «no lo sé».

Cómo funciona

1. El modelo genera el texto adivinando las palabras siguientes más probables.
2. Si no tiene datos precisos, compone igualmente una respuesta verosímil.
3. Pasa sobre todo con datos poco comunes, cifras exactas, fechas y citas.
4. El modelo no «miente» a propósito: simplemente no distingue el conocimiento de una invención verosímil.
5. Cuanto más concreta y rara es la pregunta, mayor es el riesgo.

Dónde lo verás

Todos los chatbots y asistentes de IA alucinan a veces. Es más fácil verlo cuando pides enlaces, fuentes, las especificaciones de un aparato concreto o la biografía de alguien poco conocido.

¿Importa al elegir?

Mucho. Si usas la IA para estudiar o trabajar, una cifra inventada en tu trabajo o informe es responsabilidad tuya, no del bot. Te recomiendo tres reglas sencillas: pide fuentes y ábrelas; pregunta lo mismo con otras palabras; comprueba lo importante en webs oficiales. Los servicios con búsqueda en internet se equivocan menos, pero también se equivocan.

Mitos

• Mito: Los modelos nuevos ya no alucinan. En realidad: Se equivocan menos, pero el problema no está resuelto del todo.
• Mito: Si el bot da un enlace, es verdad. En realidad: Los enlaces también pueden ser inventados. Ábrelos y compruébalo.

Preguntas frecuentes

¿Cómo reducir las alucinaciones?

Dale al modelo datos exactos en la petición, pídele que responda solo a partir de ellos y que diga «no lo sé» si falta información.

¿Los generadores de imágenes también alucinan?

En sentido amplio, sí: dedos de más, textos inexistentes, logotipos erróneos.

¿Qué es RAG y ayuda?

Es cuando el modelo primero busca información en documentos o en internet y luego responde. Hay menos errores.

Términos relacionados

Modelo de lenguaje grande, Chatbot, Generación aumentada por recuperación, Prompt, Deepfake