Son otra cosa


Balduino IV de Jerusalén con su máscara de plata en El reino de los cielos (Ridley Scott, 2005) · Fotograma de la película

Jerusalén, siglo XII. Una sala del palacio en penumbra, la luz entra a través de celosías y cortinas, mientras el rey y uno de sus caballeros, Balian de Ibelín, están sentados frente a un tablero de ajedrez. El rey es Balduino IV de Jerusalén. Es rey desde los trece años; hoy apenas tiene veinte pero se muere. Lleva una máscara de plata, lisa, casi hermosa, que esconde lo que la lepra ha hecho con su rostro. Las manos, enguantadas. La voz, suave y cansada, se escucha detrás del metal: “El mundo entero cabe en el ajedrez” le dice. Cualquier jugada puede costarte la vida, y la única forma de protegerte es no moverte de la casilla en la que empezaste. Pero tienes que moverte. Aunque la máscara esconde los gestos, se escuchan con autoridad las palabras del rey:

“Aunque quienes pretendan moverte como una pieza sean reyes u hombres poderosos, cuando estés ante Dios no podrás decir: «Pero otros me dijeron que lo hiciera así», ni «la virtud no me convenía en aquel momento». Eso no bastará. Recuérdalo”.

Hay escenas en películas que se quedan contigo por mucho tiempo. Esta es una de mis preferidas. Es de “El Reino de los Cielos” (Ridley Scott, 2005), y siempre me deja pensando. Y es que la película, que pillé sin querer haciendo zapping en los canales del cable, víctima del tedio de un domingo en la mañana, me dejó de nuevo esa frase en la cabeza: ¿por qué hacemos las cosas? Y me quedé pensando en algo más prosaico que una cruzada: la tienda online de vinos de mi familia.

Las herramientas que deciden no son herramientas

Mi hermana tiene conectada la IA a la tienda de Shopify de los vinos del Priorat de nuestra pequeña bodega familiar. Esa IA no se limita a avisar de un correo sin responder. Sugiere mejoras en el SEO, sigue los pedidos, revisa direcciones, propone modificar precios, advierte si una promoción está cerca de finalizar, verifica si los envíos han llegado cruzando datos con la web de Correos y revisa el stock. Si se le da un objetivo y una automatización, desarrolla estrategias que no le hemos detallado, sino que ella sola decide cómo hacerlo. Y todo eso lo reporta puntualmente en el móvil los lunes, miércoles y viernes a las 9:00. Nosotros decidimos cuándo y para qué. El cómo es cosa suya.

Una herramienta es algo que tomas, usas y dejas. La espada de Balian luchando en las cruzadas no elegía a quién golpear. Un programa que te avisa de un pedido demorado hace exactamente lo que se le configuró, ni más ni menos. La intención y el criterio están en quien la usa. Durante 2023, 2024 y buena parte de 2025, la IA que usaba la mayoría encajaba bastante bien en esa definición. Los LLM, los grandes modelos de lenguaje que hay detrás de ChatGPT, Claude o Gemini, eran por entonces poco más que simples chatbots: una especie de Google con orejas. Le preguntabas en lenguaje natural y, en lugar de un PDF, una imagen, o un enlace, te daba respuestas. Más que un buscador, era un «respondedor».

No tengo muy claro que algo como la IA quepa en esa definición. ¿Sigue siendo una herramienta un ente que toma iniciativas?

Depende de lo que entendamos por iniciativa. Si es la iniciativa como voluntad, o sea querer algo, elegir el fin… Esa la IA no la tiene; no se levanta un día y decide abrir una tienda o revisar un descuento mal aplicado. Pero si es la iniciativa como realizar lo necesario para conseguir el objetivo («me han dado un fin, yo me arreglo para decidir cómo alcanzarlo» piensa el robot), esa sí la tiene. Vaya si la tiene.

Máquinas que decidían el «cómo» hacer las cosas ya teníamos. Un piloto automático corrige el rumbo de vuelo sin preguntar; un juego electrónico de ajedrez elige por su cuenta la siguiente jugada tras la tuya. Pero esas máquinas eligen dentro de un campito vallado: dentro del avión y dentro del tablero. Lo que es nuevo ahora es la amplitud. Cuando le damos un objetivo en lenguaje vulgar y corriente, como «arma un nuevo pack de vinos», «actualiza la política de privacidad a este reglamento» o «vigila los envíos», la IA lo convierte en un plan, lo razona y lo ejecuta saltando de un sistema a otro: la tienda, el correo, la web de Correos.

Ese bicho electrónico tiene más en común con el caballo de Balian que con su espada… Ese caballo, seguramente, teníaun nombre. Y carácter. Y mostraba raza al galopar. Y decidía dónde pisar, cómo esquivar una piedra, cuándo saltar una zanja o cómo avanzar sin miedo en la oscuridad sin que nadie se lo dijese. Pero ese caballo no decidía a qué batalla ir; eso lo hacía el jinete. Y si esa batalla era injusta, o se perdía, nadie le pedía cuentas al caballo de Balian.

Comparación entre un cerebro humano y el esquema de una red neuronal artificial · Se parecen en el dibujo. No en cómo funcionan.

Un caballo no se fabrica

La espada de Balian fue forjada por algún herrero, y el casco y el escudo diseñados por alguien. Herramientas para la guerra. Hoy ya no usamos espadas y escudos para pelear el día a día, sino cosas menos tangibles. Mira tu teléfono, o la pantalla donde lees esto ¿Qué sería de nosotros sin el software? Abstracciones con la forma de ceros y unos que alguien ha diseñado, línea a línea: si pasa esto, haz aquello. Algoritmos. A un caballo, en cambio, nadie lo fabrica. Nace, crece y alguien lo doma. Su criterio para pisar, esquivar o frenar no se lo escribe nadie. Una parte la trae de serie en sus genes; el resto, la doma y los años.

Claro que la IA que gestiona nuestra tienda no es solamente un LLM: es un sistema que combina ese modelo con herramientas, información, instrucciones y permisos para actuar. Pero en el centro hay algo que funciona de una manera muy distinta al software tradicional. Con esos modelos, aunque cueste creerlo, pasa algo parecido a los del caballo. Uno diseña su genética: una estructura vacía, un esqueleto, y un método para rellenarla y ajustarla. Otro elige con qué se alimentan y qué se premia: como si fuese una doma. Pero cómo comportará o su conducta, eso no se detalla en un listado. Esa estructura se llama «red neuronal» y es medio confusa, porque no tiene neuronas ni nada que se parezca a un cerebro. Cada «neurona» es una pequeña operación matemática que recibe números, los combina y pasa el resultado a la siguiente. Lo que importa, en realidad, son las conexiones entre las «neuronas».

Cada conexión tiene un peso, un número que indica cuánto una influye en otra. Si el peso es alto, lo que se traspasa se refuerza; si es bajo, se debilita. Un LLM tiene miles de millones de pesos. Al principio son números asignados de forma aleatoria y la conexión de esas neuronas solo produce ruido. Luego se le expone a cantidades enormes de datos, principalmente texto, y se le pide algo muy simple: adivinar el siguiente fragmento de texto. Poco a poco se va ajustando, pues cada vez que falla, un procedimiento matemático corrige los pesos para reducir el error. Eso se repite millones de veces. ¿Dije millones? Billones.

Nadie decide qué significa cada peso. Nadie escribe que «vino» tiene que ver con «uva», «copa» o «barrica». Esas relaciones aparecen solas, como un sedimento que deja el ajuste en cada prueba y cada error. Por eso se dice que estos modelos no se construyen, sino que se cultivan, y que ni sus creadores saben, en principio, qué capacidades van a desarrollar, como tampoco nadie sabe si ese potrillo será caballo de carreras o arrastrará un arado. Ya se verá. Y una vez entrenados, tampoco repiten: no eligen la siguiente palabra de forma fija, calculan probabilidades para distintos fragmentos de texto posibles y, según cómo se configure la generación, seleccionan uno de ellos con mayor o menor aleatoriedad. El parámetro que regula ese azar se llama, precisamente, temperatura.

Esquema de una neurona artificial: varias entradas, cada una con su peso, que se combinan en una salida.

Piensa en una copa de vino

Para saber qué hace un software basta con leer el código. En un LLM no hay nada que leer: los números están todos a la vista, pero no significan nada por separado. Para entenderlo hay que observarlo mientras trabaja, ver qué se activa dentro ante cada palabra o cada idea. Es lo que hace la llamada “interpretabilidad”, que se parece (¿sorpresa?) más a la neurociencia que a la programación de código. Y una de las preguntas más interesantes es qué ocurre dentro cuando cambiamos las palabras, pero mantenemos la idea.

Ferdinand de Saussure, el padre de la lingüística moderna, distinguía en cada palabra dos caras: el significante, que es su forma, y el significado, que es la idea a la que cada palabra remite, y que él mismo llamaba concepto. Por ejemplo, «carísimo», «tiene un precio elevado» o «cuesta una fortuna» comparten significado aunque tengan diferente expresión y tono, es decir, distinto significante. También «it costs a fortune», en inglés, o «很贵» (hěn guì), en chino, son expresiones que, sin parecerse, remiten al mismo concepto. ¿Cómo pueden los LLM interpretar significados?

Meta propuso ya en 2024 los Large Concept Models, que trabajan (¿sorpresa?) directamente con «conceptos»: representaciones matemáticas del significado de frases completas que el LLM luego convertía en texto. En 2025, un trabajo presentado en NeurIPS , una de las principales conferencias científicas de IA (The Emergence of Abstract Thought in LLMs Beyond Any Language), mostró que dentro de los LLM hay grupos de neuronas artificiales que se activan de forma parecida ante una idea, esté escrita en inglés, en chino o en español. Es decir, el modelo no se queda en el significante: llega al significado, y sin que pertenezca a ningún idioma.

Esa es, quizás, la gran diferencia de fondo con las personas. Cuando alguien te dice «piensa en una copa de vino», no piensas en una palabra ni en una definición. Piensas en una copa concreta: vino tinto o vino blanco y casi siempre tiene algo más: es la de aquella sobremesa que se alargó con tus amigos, con la que brindaste cuando nació tu hija, la del atardecer de una vacaciones inolvidables. Tu copa de vino es aquella copa de vino. Un LLM no hace eso: tiene significados sin referentes. Un estudio de 2026 (The Grounding Gap) sugiere que, precisamente porque no tienen cuerpo ni experiencias, los LLM anclan el sentido de los conceptos abstractos de una forma muy distinta a la nuestra. necesariamente atrapado en el significante: desarrolla representaciones de significado que pueden ser compartidas entre idiomas muy distintos. Aún así, un LLM puede describirte un Priorat (la garnacha, la cariñena, la pizarra de la llicorella) con más vocabulario que muchos sommeliers y sin haberlo probado nunca. Maneja una posición en un espacio de relaciones: el «vino» cerca de «uva», de «copa», de «sobremesa», de «recuerdo», de «verano»… No es un recuerdo. Es un mapa.

Todo parecen ventajas. Todo no. Un LLM puede intervenir en el mundo sin tener que sufrir las consecuencias de sus decisiones. Cuando una botella llega rota, cuando un pedido se demora, o se pierde un cliente porque el enlace de Shopify no funciona, nadie llama a una IA. Llaman al nostre celler. Y es que si nadie les escribió las reglas, tampoco las conocen. Podemos pedirle a la IA de la tienda que nos explique por qué propone bajar un precio o no aplicar un descuento a un pack, y lo hará. Pero nada garantiza que esa explicación sea la causa real de lo que ha hecho. Delegamos en algo cuyo comportamiento no hemos programado del todo y cuyas decisiones no siempre sabemos explicar.

Balduino IV de Jerusalén a caballo en El reino de los cielos (Ridley Scott, 2005) · Fotograma de la película

Del caballo al centauro

Ni herramienta ni persona. Son otra cosa. Algo que se cultiva y no se fabrica, que no vivió lo qu describe, pero maneja conceptos; que nadie enseñó a hablar frase por frase y, sin embargo, habla. Como el caballo, tiene criterio propio para el cómo. Y, como el caballo, sigue sin elegir la batalla. Pero la imagen del jinete se queda corta. Un jinete puede bajarse del caballo y alejarse. Con la IA cada vez es menos así: se integra en cómo trabajamos, pensamos y decidimos.

Hay una figura que me gusta más: el centauro. Ya hablé de ella en El último baile de Mister Glass, al hablar de la IA como un superpoder que te da capacidades que antes no tenías. Allí contaba cómo Kasparov, tras perder contra Deep Blue, propuso el «ajedrez centauro»: partidas en las que juegan juntos un humano y una máquina. En el centauro, la cabeza es humana y el cuerpo es de caballo. El cuerpo pone la fuerza, la velocidad y el cómo, y la cabeza pone el rumbo y el porqué. Nadie diría que el cuerpo de un centauro es su herramienta. Es parte de lo que es.

Si esto fuera una herramienta, siempre tendríamos una salida. La espada no tiene la culpa de que te cortes un dedo; la tienes tú, pero por torpe, no por malo. Con algo que decide el cómo, la tentación es otra: echarle la culpa. «A ver, lo dice la IA» «Yo solo le di la instrucción» Es la versión moderna de «yo solo seguía órdenes», y vale exactamente lo mismo que valía ante Balduino IV en el siglo XII: nada. Balduino se lo dijo a Balian con el tablero delante: un rey puede mover a un hombre, pero ese hombre también puede moverse por sí mismo, y solo entonces empieza su propia partida.

Un LLM puede jugar muy bien la partida que le das. Puede, incluso, jugarla mejor que tú. Lo que no hace es empezar la suya, ni responder por ella. Por eso la distinción que importa no es entre herramienta y no herramienta. Es otra. Está entre delegar la ejecución y delegar la responsabilidad. La primera se puede delegar; la segunda, no. Y cuanto menos comprendemos cómo decide quien actúa por nosotros, más pesa responder por ello, y más cuidado debemos tener con lo que le permitimos hacer. Balian no sabía dónde pisaría su caballo en la oscuridad. Lo que no podía decir es que la batalla no era suya.

Así que la pregunta ya no es qué puede hacer la IA, sino la que hay que contestar antes de mover ficha: ¿por qué hacemos las cosas?

Avatar de Desconocido

About David Ruyet

David Ruyet (Barcelona, 1970) Soy ingeniero industrial y MBA por ESADE. Treinta años resolviendo problemas en energías renovables en Europa y América Latina — desde los primeros parques eólicos de España hasta proyectos de almacenamiento e hidrógeno verde en seis países. Fundador de Energías del Plata y cofundador de Qore-IA, donde aplicamos inteligencia artificial a la ingeniería de proyectos. Los problemas no han cambiado. Las herramientas sí, y esta es la más potente que he visto en treinta años. Escribo en Energy Puzzle desde 2011. No para explicar las cosas qué pasan. Para intentar entender por qué pasan y qué significan.
Esta entrada fue publicada en IA, tecnología y futuro, Sociedad y trabajo y etiquetada , , , , . Guarda el enlace permanente.

Deja una respuesta