VI. Dónde sirve y dónde traiciona, un mapa de cuatro papeles
Conviene entonces trazar el mapa completo, porque la misma máquina es casi perfecta en unos usos y traicionera en otros, y la frontera no está donde la publicidad la pone.
Es casi perfecta cuando el usuario es pasivo y quiere aprender. Quien pide que le expliquen la fotosíntesis, el Concilio de Trento o cómo funciona un motor diésel está pidiendo conocimiento asentado, masivamente escrito, estable — y ahí el conocimiento que el modelo transmite es auténtico en el momento de la grabación. El alumno recibe la enciclopedia mejor explicada de la historia. En ese papel, la herramienta cumple lo que promete.
Es igualmente excelente cuando el usuario pone la idea y el modelo pone la forma. Quien llega con su tesis, su argumento, su borrador, y pide que se lo estructure, se lo pula, se lo vista — está usando al especialista en lo que de verdad es especialista. La idea ya existe y es del humano; el modelo la transforma en su versión más plausible sobre la base de los millones de textos que absorbió. Ahí no hay riesgo de veracidad, porque la verdad la trajo el usuario; el modelo solo aporta el oficio de la forma.
El terreno cambia cuando el usuario se vuelve activo y hace una pregunta concreta esperando un dato. Si el modelo tiene esa respuesta bien asentada, suele proporcionarla. Pero ni siquiera entonces existe una garantía absoluta: la forma de la instrucción, una premisa del usuario o la tendencia a acomodarse a lo que este parece querer pueden empujarlo hacia una respuesta peor. Y cuando no dispone de respaldo suficiente, también puede contestar con la misma seguridad aparente. El problema práctico es precisamente ese: la superficie de la respuesta no ofrece por sí sola una frontera fiable entre saber, inferir y adivinar.[2]
Y hay un cuarto terreno, el menos comentado y quizá el más costoso: cuando el usuario acude al modelo no a por un dato, sino a pensar un problema acompañado. Los modelos actuales pueden pedir aclaraciones, cuestionar algunas premisas y proponer alternativas. Lo que no conviene es dar por supuesto que lo harán justo cuando haga falta. Un asistente tiende a trabajar dentro del marco que recibe y puede desarrollar con enorme habilidad una línea que el usuario planteó mal. Más capacidad reduce muchos errores, pero no convierte esa vigilancia crítica en una garantía. En problemas difíciles sigue siendo el usuario quien debe saber cuándo detenerse, retroceder y reformular.