Ver el índice ↓

El libro / Lectura completa

Capítulo 7

X. Local, gratuito y soberano no significa veraz

Texto de la edición definitiva de 232 páginas. Lectura repartida en 24 páginas web.

X. Local, gratuito y soberano no significa veraz

En esta serie experimental los modelos neuronales podían descargarse y ejecutarse localmente sin coste de uso para las pruebas. Eso permitió repetir cientos de consultas, controlar el hardware y evitar depender de una API de pago. También permitió trabajar con la idea que motivó el proyecto: que una organización pueda mantener su documentación dentro de un perímetro propio. Las condiciones concretas de reutilización, modificación o uso comercial dependen, no obstante, de la licencia de cada modelo.

Pero localidad y veracidad pertenecen a problemas distintos. Un modelo local puede inventar. Un índice local puede recuperar la página equivocada. Una cita generada dentro de la organización puede no sostener la frase. La soberanía reduce unas dependencias y unos riesgos de exposición; no certifica el resultado documental.

Por eso una evaluación de compra debe separar al menos dos preguntas. La primera es de perímetro: dónde se almacenan los documentos, dónde se generan los embeddings, qué servicios externos intervienen, qué telemetría existe y qué condiciones de licencia afectan al uso previsto. La segunda es de evidencia: qué recupera el sistema, cómo ordena, qué le permite responder y cómo vuelve a la fuente. Aprobar una no aprueba la otra.

El perímetro debe abarcar también la preparación y la revisión del examen. Un banco hecho con un servicio externo solo es una opción para el material que pueda compartirse. Si la documentación es reservada, las preguntas, las respuestas de referencia, las citas y sus revisiones deben permanecer en el entorno autorizado. El límite no cambia porque esa fase se llame evaluación en vez de consulta.

También el coste debe medirse en la tarea real. No basta con saber que una consulta tarda pocos segundos. Hay que saber qué parte del coste corresponde a recuperar, reordenar, generar, repetir y comprobar. Una arquitectura que compra un punto marginal a cambio de multiplicar el trabajo puede tener sentido en una pregunta crítica y ser absurda como comportamiento por defecto.