Esto. como he dicho, son lo que se llaman "Hallucinations" o "Alucinaciones" , y es algo con lo que hay que convivir en todos los LLM que tenemos hoy en día, así que cuidado con tener un exceso de confianza en las respuestas que da.

Google cometió con Bard un Overreliance e hizo una demo integrado en Google Search con él preguntándole por proyectos de la NASA, y el error le costó una caída en Bolsa de 100 Billions de USD. Para el programa, buscamos algunos ejemplos con Iker Jiménez, Carmen Porter, y el caso de Bard con mis dos años en la cárcel.

Está claro que estos LLMs no son una fuente fiable para recibir información, o para fiarte de en la toma de decisiones sin revisar lo que te dicen. Es una fuente de creatividad, de conversación, y puedes estar horas hablando con ellos, pero no te puedes fiar de lo que te den como fuente de información fiable. 

De todo esto hablamos en el programa de Horizonte, y si no lo has podido ver, puedes ver todo el programa entero en la web, o el trocito que trata este tema, que como todas mis entrevistas e intervenciones públicas en vídeo, incluidas las conferencias, lo he subido a mi Canal Youtube.