II. Lo primero que se compra es un nivel de autoridad
La palabra asistente oculta funciones muy distintas. Una herramienta puede localizar páginas, ordenarlas, proponer una respuesta breve, redactar un informe o cerrar por sí sola una respuesta que terminará influyendo en una decisión. Todas pueden aparecer dentro de la misma ventana de conversación. Desde el riesgo, no son equivalentes.
Por eso la primera pregunta contractual no debería ser qué modelo utiliza el producto, sino qué autoridad pretende ejercer sin revisión humana previa. Cuanto más se acerca la salida a una afirmación final, más deja de bastar la proximidad temática y más importante se vuelve la relación exacta entre lo dicho y la fuente.
Tabla 7.1. La autoridad debe crecer al ritmo de la prueba
|
Función |
Qué debería demostrar antes de concederla |
|---|---|
|
LOCALIZAR |
Que recupera páginas pertinentes con procedencia visible y que no excluye silenciosamente el material que debía consultar. |
|
ORDENAR |
Que mejora la posición de la evidencia sin destruir más aciertos de los que rescata y que el coste añadido está justificado. |
|
PROPONER |
Que la respuesta breve corresponde a lo preguntado y señala un pasaje que una persona puede comprobar inmediatamente. |
|
RESPONDER SIN REVISIÓN |
Que el núcleo y cada afirmación adicional están respaldados, que sabe detenerse cuando la evidencia no alcanza y que esa conducta se ha medido en un banco independiente. |
|
AMPLIAR EN INFORME |
Que el contexto añadido después de una respuesta aceptada también conserva soporte y no reabre la pregunta por una vía lateral. |
Nuestra arquitectura terminó deliberadamente en una posición menos espectacular que la promesa habitual. La máquina recupera, reordena y propone dónde cree que está la respuesta; el analista conserva la última palabra sobre la relación entre la afirmación y la evidencia. Solo después de esa aceptación aparece el informe. No es una incapacidad disimulada: es una frontera de autoridad elegida a partir de lo que los experimentos demostraron y de lo que todavía no demostraron.
Una herramienta puede ser excelente para reducir el pajar y no estar autorizada para decidir cuál es la aguja.