Porque en ese terreno una fecha equivocada, una atribución falsa o una fuente sustituida no son imprecisiones de estilo, son daños. Ahí, todas las virtudes del modelo — la fluidez, la seguridad, la forma impecable — se convierten en el problema, porque visten de certeza lo que el mecanismo no puede garantizar.
La conclusión es incómoda y hay que enunciarla entera. Los modelos pueden abstenerse y esa conducta puede incentivarse; de hecho, premiar la abstención adecuada es una vía importante para reducir respuestas inventadas. Lo que no existe hoy es una garantía general de que un modelo se abstendrá siempre que corresponde o de que nunca producirá una afirmación falsa. En los dominios donde una respuesta debe poder auditarse, podemos construir algo distinto: un sistema donde la afirmación no quede certificada por la seguridad con que fue escrita. El modelo propone; la fuente y los controles externos deciden qué puede pasar. Y cuando la evidencia no alcanza, el sistema debe poder detenerse y decirlo, no porque un modelo sea incapaz de pronunciar esas palabras, sino porque la arquitectura obliga a respetarlas.[3]
Este libro cuenta cómo intentamos construir exactamente eso, con qué herramientas, contra qué corpus, cuántas veces fracasamos, qué funcionó, qué murió por sus propias reglas y qué queda todavía sin resolver. La última palabra no la tiene la frase más convincente. La tiene el documento.