XV. La última palabra
Al comienzo parecía suficiente que una máquina local respondiera desde nuestros libros. Después de construir y medir la extracción, la búsqueda, el reordenado y la generación, descubrimos otra pregunta: ¿qué evidencia permite sostener cada respuesta?
Ya no basta con saber si la máquina contesta. Importa reconstruir qué consultó, qué páginas recibió, qué interpretó, qué dejó fuera y quién aceptó la prueba. Esa trazabilidad es lo que una organización debería exigir antes de concederle autoridad.
No exigimos al modelo una introspección perfecta. Exigimos una arquitectura que separe recuperación y generación, examine las premisas, señale la evidencia y permita al analista rechazar una propuesta. Y exigimos medirla con preguntas que no hayan participado en su desarrollo.
No hemos encontrado un mando GARANTIZAR_VERDAD = TRUE. Hemos encontrado una manera de comprobar dónde termina la evidencia, antes de confundir una frase plausible con una afirmación demostrada.
La tecnología impresiona por lo que contesta. La confianza empieza cuando podemos reconstruir qué encontró, qué no encontró y por qué se atrevió a decirlo.