El libro / Lectura completa

Introducción

Name: La máquina que no sabe que no sabe
ISBN: 978-84-09-91293-3

Notas de la introducción

Texto de la edición definitiva de 232 páginas. Lectura repartida en 13 páginas web.

Notas de la introducción

S. Kadavath et al., «Language Models (Mostly) Know What They Know», arXiv:2207.05221 (2022); S. Farquhar et al., «Detecting hallucinations in large language models using semantic entropy», Nature 630, 625–630 (2024), DOI: 10.1038/s41586-024-07421-0. Ambos trabajos muestran señales útiles de incertidumbre, pero no un detector general e infalible de verdad.
Volver al texto ↑
M. Sharma et al., «Towards Understanding Sycophancy in Language Models», arXiv:2310.13548 (2023; presentado en ICLR 2024). El trabajo documenta casos en los que asistentes ajustados con feedback humano favorecen respuestas acordes con la postura del usuario frente a respuestas más veraces.
Volver al texto ↑
A. T. Kalai, O. Nachum, S. S. Vempala y E. Zhang, «Why Language Models Hallucinate», arXiv:2509.04664 (2025). Los autores subrayan que la abstención puede incentivarse y que las evaluaciones que premian adivinar pueden favorecer respuestas erróneas frente al reconocimiento de incertidumbre.
Volver al texto ↑