Tutorial de IA para el trabajo

Cuando la IA inventa: cómo detectar una alucinación

Los asistentes de inteligencia artificial a veces inventan fechas, nombres, cifras o libros que no existen, y lo dicen con total seguridad. A eso se le llama alucinación. Aquí verás por qué pasa, un ejemplo de respuesta con un dato falso, cómo detectarlo y la buena práctica para comprobar lo importante antes de usarlo.

Alucinaciones: datos que suenan reales, pero no lo son

A veces la IA inventa datos, nombres, fechas, citas o enlaces que suenan reales. A eso se le llama «alucinación». No lo hace a propósito: como predice palabras, a veces arma algo que «suena bien» aunque no exista.

Lo más riesgoso: cifras muy exactas, nombres de estudios o libros, citas textuales, leyes y enlaces. Eso siempre se revisa en una fuente confiable.

Así no

Le escribes

Dame una cita famosa de Benito Juárez sobre la educación.

La IA responde

«La educación es el arma más poderosa del pueblo», Benito Juárez, discurso de 1861.

Por qué: Suena real, pero esa frase y ese discurso pueden no existir. Si la usas sin revisar, quedas mal.

Así sí

Le escribes

¿Qué dijo Benito Juárez sobre la educación? Si no estás seguro de una cita exacta, dímelo y dime dónde puedo verificarla.

La IA responde

No tengo una cita exacta verificada de Juárez sobre educación. Lo que sí está documentado es que su gobierno impulsó la educación laica. Para una cita textual, revisa una antología de sus discursos o una biblioteca digital oficial.

Por qué: Pedirle que diga cuando no está segura y dónde verificar reduce los inventos (aunque no los elimina).

Buena práctica

Cifras exactas, citas, estudios, libros y enlaces: revísalos siempre en una fuente confiable antes de usarlos.

  • Pedir «no inventes» ayuda, pero no lo garantiza: revisar sigue siendo tu trabajo.
  • Si un enlace no abre o un libro no aparece en ningún lado, probablemente lo inventó.

Preguntas frecuentes

¿Por qué la IA inventa información?

Porque predice el texto que suena más probable, no lo busca en una base de datos verificada. Si no tiene el dato, puede rellenarlo con algo que «suena bien».

¿Cómo sé si la IA inventó algo?

Desconfía de cifras exactas, fechas, citas y nombres de libros o leyes. Compruébalos en una fuente confiable o pide a la IA de dónde salió el dato y abre esa fuente.

¿Las IA con búsqueda ya no inventan?

Inventan menos, pero también se equivocan al resumir. Abre las fuentes que citan y confirma que dicen lo mismo.