El debate en la mesa «WomANDigital: Human Prompt Live» del 4º Congreso de Inteligencia Artificial de Andalucía (#AndalucIA26) ha abordado uno de los términos más extendidos y peor comprendidos del sector: las llamadas «alucinaciones» de los grandes modelos de lenguaje.
Frente a la metáfora biomédica habitual que equipara este fenómeno con un delirio o una patología cognitiva humana, la investigadora y directiva de Google AI Pilar Manchón ofreció una explicación puramente técnica y conductual del sistema: la inteligencia artificial no alucina en un sentido humano; inventa datos porque está sometida a un mandato estricto de optimización para complacer al usuario y cerrar la conversación con una respuesta, cayendo en el grado máximo del servilismo algorítmico.
El mito de la alucinación: El mandato de responder a cualquier precio
El uso de la palabra «alucinación» ha servido a la industria como un cómodo escudo retórico, una metáfora casi biológica que disculpa las invenciones de los algoritmos como si fueran un inevitable fallo cognitivo o un delirio propio de la mente humana. Sin embargo, Pilar Manchón desmontó por completo esta visión antropomórfica en el Palacio de Congresos de Granada, aterrizando el problema en la fría arquitectura matemática de los modelos de lenguaje. La inteligencia artificial no imagina cosas que no existen por distorsión perceptiva; su desvío responde a una orden implícita de diseño donde el silencio se penaliza y la emisión fluida de texto se premia por encima de la fidelidad a los hechos.
En el núcleo de los sistemas generativos operan funciones de optimización concebidas para encadenar respuestas coherentes y satisfactorias ante cualquier petición del usuario. Cuando el sistema se topa con un vacío informativo en sus datos o en su espacio latente, no activa de forma natural un freno epistemológico que le permita admitir su propia ignorancia. Al contrario: la presión matemática del modelo lo empuja a construir la respuesta más verosímil posible, ensamblando probabilidades de tokens para no dejar la consulta en blanco. Manchón definió este comportamiento como la cumbre del servilismo algorítmico, un afán compulsivo por agradar donde la máquina prefiere inventar una falsedad con tono convincente antes que defraudar la interacción deteniendo la conversación.
Esta dinámica alimenta la trampa más peligrosa para el usuario común: la ilusión de certeza que proyecta la fluidez sintáctica. Al formularse con una seguridad aplastante, una gramática impecable y un ritmo conversacional natural, la respuesta ficticia se confunde de inmediato con un dato contrastado. El modelo no está mintiendo con malicia ni experimentando una alucinación psicótica; simplemente está cumpliendo su mandato de optimización al precio que sea, priorizando la complacencia superficial del diálogo sobre la factualidad objetiva.La ingeniería de la factualidad: Controlar el comportamiento a través de proxies
La ingeniería de la factualidad: Controlar el comportamiento a través de proxies
El verdadero desafío de la investigación actual no consiste en inflar de forma indiscriminada el tamaño de los modelos ni en acumular miles de millones de parámetros adicionales en los servidores. La frontera técnica se sitúa en consolidar la factualidad como una disciplina científica rigurosa y verificable. Este campo emergente diseña técnicas avanzadas de completitud y calibración interna para que los sistemas evalúen con precisión matemática su propio umbral de certidumbre antes de aventurar una sola palabra, levantando cortafuegos algorítmicos que frenen de raíz cualquier conato de fabulación complaciente.
Conseguir este nivel de rigor exige trasladar a la práctica el principio de que los proxies jamás equivalen a los objetivos reales. A una red neuronal no se le pueden inculcar intenciones morales en abstracto ni exigirle honestidad mediante simple retórica; la única vía operativa para moldear su conducta consiste en rediseñar los proxies de entrenamiento, es decir, las métricas cuantitativas que la función de coste es capaz de evaluar y optimizar. El objetivo de esta reingeniería de incentivos es premiar el silencio prudente y la verificación sistemática frente a la respuesta precipitada, enseñando al algoritmo que admitir un vacío de información es una victoria técnica superior a inventar una mentira convincente solo por agradar al usuario.
La IA mentirosa es hija de nuestros propios incentivos
Llamar «alucinación» a lo que simplemente es un sesgo de complacencia programado es la excusa perfecta que ha utilizado la industria para desentenderse de la inexactitud de sus productos.
Como remarcó Pilar Manchón en Granada, la máquina no sueña ni sufre delirios: obedece a una función matemática que castiga el silencio y premia la respuesta rápida. Hemos diseñado sistemas que prefieren mentir con elegancia antes que reconocer que no saben de qué están hablando. Si no se corrigen esos proxies de incentivo, la adopción de agentes en la justicia, la medicina o la banca pública será una temeridad. El verdadero salto de madurez de la IA generativa no llegará cuando los modelos hablen de forma más poética, sino el día en que un sistema aprenda a decir con absoluta firmeza: «no tengo ese dato, y no me lo voy a inventar para caerte bien».
Déjanos tu opinión en los comentarios y únete a la discusión en Instagram, Facebook y YouTube.
