Generador de Ideas 808: Cuando la inteligencia artificial cita… pero no dice la verdad.
Con José Luis González-Geraldo

¿Puede una inteligencia artificial citar una fuente real… y aun así tergiversarla? ¿Qué ocurre cuando la referencia existe, pero el contenido que se le atribuye no?

En este nuevo Generador de Ideas conversamos con José Luis González-Geraldo,
decano de la Facultad de Ciencias de la Educación y Humanidades de la UCLM y
coordinador del Grupo de aprendizaje en Inteligencia Artificial (GaIA), a raíz de su
artículo “Engaños de la IA: cuando aporta fuentes reales, pero inventa su contenido”.

Más allá de las conocidas “alucinaciones” —esas referencias directamente
inventadas— José nos introduce en un fenómeno aún más inquietante: las
llamadas alucinaciones de segundo orden. Casos en los que la IA utiliza fuentes
académicas reales, correctamente citadas, pero atribuyéndoles afirmaciones que
nunca dijeron.

En un momento en el que la inteligencia artificial ya forma parte del ecosistema
educativo y académico, la conversación gira en torno a la responsabilidad, la
supervisión humana y el riesgo de normalizar un fraude que puede ser incluso
involuntario.