II. Plausibilidad y veracidad, dos palabras que no son sinónimos
De esa mecánica nace la distinción que vertebra este libro.
La plausibilidad es una propiedad del texto, ¿suena esta frase como sonaría una frase verdadera? ¿Tiene la forma, el tono, la textura de lo cierto? La veracidad es otra cosa, una relación entre el texto y el mundo. ¿Corresponde esta frase a lo que efectivamente ocurrió?
Un modelo de lenguaje es extraordinariamente bueno produciendo texto plausible, y la misma maquinaria generativa puede desembocar en una frase verdadera o en una falsa con idéntica fluidez. Existen señales internas de incertidumbre y métodos capaces de aprovecharlas para detectar una parte de las respuestas dudosas, pero son imperfectos y no constituyen un detector general de verdad. Tampoco llegan al usuario como una garantía automática de que el sistema avisará justo cuando se equivoca. En la práctica, la máquina no sabe con fiabilidad cuándo no sabe.[1]
A esto se le ha dado un nombre desafortunado, alucinación. Desafortunado porque sugiere una avería extraordinaria cuando, muchas veces, estamos ante un modo de fallo esperable de un sistema generativo: una continuación plausible no coincide con los hechos o con la fuente que debía respetar. No hace falta que haya una pieza rota para que ocurra. Por eso hoy no existe una garantía general que impida que un modelo de lenguaje produzca alguna afirmación falsa con apariencia de verdad. La frecuencia puede reducirse mucho; la posibilidad no puede darse por eliminada en cualquier consulta.