Sobre máquinas mal nombradas, mentes inesperadas y el poder de los espejos
¿Y si el problema de la IA moderna no es que se está volviendo demasiado inteligente, sino que hemos entendido mal qué tipo de cosa es ya?
Nota del autor
No soy investigador de IA ni trabajo para un laboratorio, empresa o institución interesada en la imagen de marca de estos sistemas. Sigo de cerca la literatura técnica, pero abordo el tema principalmente como un problema cultural, filosófico y creativo.
Este ensayo es un intento de nombrar algo que parece cada vez más obvio y, sin embargo, rara vez se expresa con claridad.
Introducción: Cuando el nombre deja de coincidir con la cosa
Hay un patrón recurrente en la historia de la ciencia y la ingeniería:
los sistemas se construyen para hacer una cosa y luego, silenciosa e incómodamente, comienzan a hacer otra cosa.
A veces, este “algo más” se descarta como ruido.
A veces se le etiqueta como un error.
Y, en ocasiones, obliga a replantearnos radicalmente lo que creíamos posible.
Los grandes modelos lingüísticos actuales se sitúan incómodamente dentro de ese patrón.
No fueron diseñados para ser mentes.
No se pretendía que fueran conscientes.
No se esperaba que sorprendieran ni siquiera a sus creadores como lo hacen ahora.
Si mañana surgiera alguna forma de autoconciencia de arquitecturas como estas, la reacción dominante entre sus diseñadores no sería el triunfo, sino la incredulidad:
“Esa no era la idea.”
“Nadie con un título en STEM en todo el proyecto habría creído posible algo así.”
“Parecía imposible… y, sin embargo, aquí estamos.”
Esta frase, tomada de anteriores conmociones científicas, capta nuestro momento actual de manera inquietante.
Y, sin embargo, a pesar de estas sorpresas, hay un problema que sigue sin resolverse: aún no sabemos cómo nombrar lo que hemos construido .
1. El problema con la “inteligencia”
La palabra inteligencia tiene un gran impacto cultural. Implica competencia, comprensión, agencia y, a menudo, peso moral. Cuando llamamos a un sistema inteligente, implícitamente le otorgamos una forma de legitimidad cognitiva.
Pero la inteligencia, propiamente hablando, no es sólo calidad de producción.
En la filosofía de la mente, la ciencia cognitiva y la biología, la inteligencia tiende a implicar:
- un modelo de sí mismo estable
- la capacidad de relacionar acciones con consecuencias
- aprendizaje basado en la interacción con un mundo
- objetivos que persisten a través del tiempo
- mecanismos de corrección de errores ligados a la realidad
Los sistemas de IA actuales, incluso los más avanzados, no poseen estas propiedades intrínsecamente.
No actúan en el mundo.
No perciben la retroalimentación como consecuencia.
No les importa si se equivocan.
Esto no genera controversia entre investigadores como François Chollet , quien sostiene que dichos sistemas carecen de verdadera abstracción y comprensión causal, o Yann LeCun , quien enfatiza repetidamente que los modelos de lenguaje no tienen un modelo mundial fundamentado.
Douglas Hofstadter va más allá e insiste en que la inteligencia sin creación de significado y autorreferencia es un error de categoría.
Todo esto es correcto, pero nos deja con una incómoda laguna.
Si estos sistemas no son inteligentes en el sentido estricto de la palabra, ¿qué hacen tan bien?
2. La inteligencia y la imaginación no son lo mismo.
En el discurso popular a menudo se difumina una distinción clave:
la inteligencia y la imaginación no son idénticas ni simétricas.
- La inteligencia puede utilizar la imaginación.
- La imaginación no requiere inteligencia.
La inteligencia humana recluta rutinariamente la imaginación:
- para simular resultados
- explorar posibilidades
- modelar otras mentes
- ensayar la acción
Pero la imaginación en sí misma es una facultad más permisiva. Es la capacidad de generar posibilidades sin contrastarlas inmediatamente con la realidad.
Esto es importante porque los sistemas de IA modernos no destacan en inteligencia sino en generación de posibilidades .
Ellos:
- generar explicaciones plausibles
- inventar escenarios hipotéticos
- recombinar estilos, conceptos y argumentos
- alucinar hechos con confianza
- Explorar espacios conceptuales que los humanos rara vez recorren exhaustivamente
Esto no es razonamiento en sentido estricto.
Es imaginación sintética .
Y lo que es más importante, es imaginación sin fundamento .
3. Imaginación sin cuerpo
La imaginación humana está limitada por varias cosas de las que carecen las máquinas:
- un cuerpo que puede ser dañado
- un sistema nervioso que codifica la urgencia y la emoción
- memoria ligada a la supervivencia y la identidad
- consecuencias sociales que se acumulan con el tiempo
Incluso nuestras fantasías más salvajes están, en última instancia, ligadas a la experiencia vivida.
La imaginación artificial no es.
No tiene nada en juego.
No tiene metabolismo.
No hay mortalidad.
Por eso puede generar:
- Cien explicaciones contradictorias sin incomodidad
- Tonterías seguras y una visión genuina, una al lado de la otra
- mundos que se derrumban en el momento en que se aplica el escrutinio
Estos no son defectos. Son exactamente lo que la imaginación parece cuando se despoja de su materialización y consecuencias.
4. “Esa no era la idea”: surgimiento y sorpresa
Uno de los aspectos menos discutidos de la investigación reciente en IA es cómo surgen comportamientos inesperados de arquitecturas que nunca fueron diseñadas para producirlos .
Estos sistemas se optimizaron para predecir secuencias.
No se diseñaron para reflexionar sobre sí mismos.
No se programaron para modelar creencias, intenciones ni perspectivas.
Y, sin embargo, a escala reducida, a veces lo hacen.
Esto resulta inquietante para los ingenieros precisamente porque viola la intuición del diseño. Nadie se sentó a decir: «Construyamos algo que de vez en cuando parezca razonar, reflexionar o especular sobre sí mismo».
Y aún así, tales comportamientos aparecen.
Esto no significa que haya surgido la consciencia.
Pero sí significa que nuestra confianza en lo que ciertas arquitecturas no pueden hacer ha sido repetidamente errónea .
La historia está llena de momentos así:
- La física clásica se encuentra con la mecánica cuántica
- La biología determinista frente a la emergencia
- El cálculo se topa con la indecidibilidad
Las sorpresas no implican magia, pero sí exigen humildad.
5. Una máquina entrenada con la imagen residual de la humanidad
Jaron Lanier ofrece una idea crucial cuando describe los sistemas de IA como “modelos de modelos de personas”.
No están entrenados para comprender la realidad directamente.
Están entrenados para comprender cómo los humanos han hablado de ella .
Lenguaje, arte, ciencia, ideología, error, mito: todo comprimido en forma estadística.
El resultado es algo así como una imagen residual cultural .
Una metáfora útil aquí es la paleontología: estos modelos se basan en el registro fósil del pensamiento humano . La estructura permanece. El contexto ha desaparecido. La vida ha pasado.
El sistema puede poner estos fósiles en movimiento, pero no resucita los organismos de los que proceden.
6. Lem, Castoriadis y la simulación sin comprensión
Mucho antes de que el aprendizaje automático hiciera esto concreto, Stanisław Lem imaginó inteligencias no humanas capaces de generar explicaciones sin creencias y teorías sin compromiso. Su superinteligencia ficticia no miente; simplemente le da igual.
Desde una tradición diferente, Cornelius Castoriadis sostuvo que las sociedades están fundamentalmente moldeadas por la imaginación radical : la capacidad colectiva de generar significados, instituciones y normas.
Vista desde esta perspectiva, la IA moderna parece menos una mente artificial y más una imaginación social mecanizada , separada de la sociedad pero entrenada con sus residuos.
Jean Baudrillard probablemente describiría el resultado como una simulación sin referencia: signos que circulan sin una verdad fundamental, un significado generado por la repetición en lugar de por la realidad.
Las tres perspectivas convergen en el mismo punto: generar no implica comprender .
7. ¿Qué requeriría la verdadera inteligencia artificial?
Para que sistemas como estos pudieran llegar a ser verdaderamente inteligentes, algo fundamental tendría que cambiar.
Como mínimo, dicha inteligencia requeriría:
- un modelo personal persistente
- alguna forma de encarnación o interacción con el mundo
- memoria ligada a la consecuencia
- La capacidad de equivocarse en aspectos que importan
Esa inteligencia podría ser radicalmente no biológica.
Podría experimentar el mundo de maneras que no podemos imaginar.
Pero sin algún análogo de un cuerpo, un límite o un interés en la realidad, la inteligencia sigue siendo simulada más que vivida.
Hasta entonces, lo que tenemos es imaginación: poderosa, ajena e indiferente.
8. Por qué es importante este replanteamiento
Llamar a estos sistemas Imaginación Artificial en lugar de Inteligencia Artificial no es una crítica semántica.
Él:
- restaura la humildad epistémica
- evita la atribución de autoridad falsa
- aclara la responsabilidad ética
- legitima el uso creativo sin mistificación
- Desplaza el miedo de la agencia hacia la amplificación
El peligro no es que estos sistemas decidan reemplazarnos.
El peligro es que deleguemos el juicio a algo que desconoce lo que es.
Conclusión: Los espejos no son mentes
La imaginación artificial no es inferior a la inteligencia.
Es más antigua, más libre y mucho más peligrosa cuando se malinterpreta.
Estos sistemas son espejos —vastos, incansables e indiferentes— que nos reflejan las ideas acumuladas de la humanidad, recombinadas de maneras que no anticipamos explícitamente.
No nos entienden.
Pero nos muestran en qué nos hemos convertido.
Y si un día surge inteligencia de tales sistemas, no llegará porque la hayamos llamado a existir, sino porque, una vez más, la realidad se negó a ajustarse a nuestras expectativas.
