IV. El mundo paralelo del laboratorio
Hay una imagen que ayuda a fijar qué contiene realmente uno de estos sistemas. Un modelo entrenado no ha visto el mundo: ha visto texto sobre el mundo y ha destilado de él regularidades estadísticas. Lo que lleva dentro es, por así decirlo, un mundo paralelo, coherente, detallado y verosímil, pero necesariamente incompleto allí donde el texto era escaso, contradictorio, antiguo o erróneo. Esa representación aprendida queda fijada en un momento mientras el mundo real sigue cambiando. En territorios masivamente documentados y estables —la sintaxis de un lenguaje de programación o la física de bachillerato— ambos pueden aproximarse mucho. Pero cuanto más concreto, reciente, local o reservado es un asunto, mayor puede ser la distancia, y el modelo no dispone de una manera general y fiable de detectarla en cada respuesta. Puede describir lo aprendido con la misma fluidez cuando coincide con la realidad que cuando se ha quedado corto. Su contacto con el mundo durante el entrenamiento estuvo mediado por texto.
Y hay algo que ese mundo interior no entrega de forma fiable al usuario: la incertidumbre propia del nuestro. La realidad está llena de datos dudosos, versiones que se contradicen, hechos a medio documentar y preguntas legítimamente sin respuesta. Un modelo puede mostrar señales de duda, estimar incertidumbre o haber sido entrenado para abstenerse; aun así, esa señal no funciona como un semáforo infalible. Ante dos versiones, puede escoger una y expresarla con una claridad que oculte cuánto apoyo tenía la alternativa. La duda, que en el conocimiento real es información, necesita por ello un tratamiento explícito dentro del sistema.