Con la IA todo cambia, lo entendemos. Y como el dijo Humberto Econos divide entre apocalíptico e integrado. Es como un péndulo que oscila entre estas dos posiciones, en parte también debido al énfasis y al marketing en la posición «integrada», es decir, positiva y a favor de la IA, obviamente subvencionada y abundantemente hidratada y renovada por el dinero de los gigantes de este sector.
Sin embargo, como un péndulo que va y viene, en este último período hay una atención muy fuerte especialmente al tema apocalíptico, de la crisis inducida, del pesimismo. No mucho más que Riesgo de terminadorel temido al principio (AGI, la súper inteligencia artificial que nos come a todos vivos y luego nos envuelve como a la humanidad de Matriz) sino más bien en riesgo económico, social, cognitivo y sistémico (despidos y cosas similares).
Ha llegado el momento de ver cuáles son los motivos de esta última postura sobre la IA y explicarlos bien. Un punto de partida útil Y El engaño de la inteligencia artificial. Cómo resistir a las Big Tech y construir el futuro que queremos De Emily Benderlingüista computacional de la Universidad de Washington y en 2023 entre las cien personas más influyentes en IA según TiempoY Alex Hannasociólogo y director de investigación del Distributed AI Research Institute.
El libro, recién publicado en italiano por Fazi (es del 17 de marzo, cuesta 20 euros y tiene 324 páginas), rastrea las raíces de la tecnooptimismo acrítico desde el militarismo de la Guerra Fría hasta el entusiasmo contemporáneo, y sostiene que los temores apocalípticos y las promesas exageradas se alimentan mutuamente, favoreciendo en ambos casos los intereses económicos de las Big Tech y oscureciendo el impacto real de estas tecnologías en la vida concreta de las personas. Los sistemas de IA disponibles hoy en día no son inteligencias pensantes pero, en la definición que Bender hizo famosa, «loros estocásticos»: sistemas estadísticos a gran escala que producen lenguaje e imágenes sin comprenderlas. Mantener esta distinción no es académico. Sirve como premisa necesaria pensar en lo que realmente sucede, en tres niveles distintos.
La mente que ya no entrena
El primer nivel de preocupación es el más íntimo, porque tiene que ver con lo que sucede dentro de las cabezas de quienes utilizan estas herramientas todos los días. Steven D Shawinvestigador postdoctoral en la Wharton School de la Universidad de Pensilvania, y Gedeón Naveprofesor asociado de marketing en la misma universidad, publicó un artículo de investigación titulado Pensamiento: rápido, lento y artificial que introduce un concepto nuevo y preciso: el rendición cognitivaes decir rendimiento cognitivo.
Allá rendición cognitiva No es pereza ni distracción. Es algo más estructural: la tendencia a incorporar las respuestas producidas por la IA sin someterlos a ninguna evaluación críticadejando que la máquina piense por usted. Shaw y Nave construyen una teoría completa en torno a este fenómeno, la Teoría de los tres sistemasque actualiza el famoso modelo dual de Daniel Kahneman, el del pensamiento lento y el pensamiento rápido. Es decir, para ser más precisos: Sistema 1 (pensamiento rápido e intuitivo) e Sistema 2 (pensamiento lento y razonado). Aquí nuestros investigadores añaden un Sistema 3: cognición artificialexterno al cerebro, automatizado y dinámico.
En sus tres experimentos preinscritos, con 1.372 participantes y cerca de diez mil ensayos individuales, la imagen que emerge es bastante apocalíptica. Cuando la IA estuvo disponible como ayuda, los participantes la consultaron en más de la mitad de los casos; cuando la IA daba respuestas incorrectas, su precisión caía muy por debajo del nivel que habrían alcanzado razonando de forma independiente; y cuando leyeron una respuesta incorrecta, la siguieron aproximadamente cuatro de cada cinco veces. El rendimiento cognitivoEn resumen, sobrevive a la evidencia del error.
La deuda que no se ve
Si los datos de Shaw y Nave miden el comportamiento, un estudio del MIT Media Lab publicado en junio de 2025 busca ver qué sucede dentro del cerebro. Natalia Kosmynainvestigadora en informática del MIT Media Lab en Cambridge, Massachusetts, y sus colegas midieron la actividad cerebral de 54 participantes (entre 18 y 39 años) mientras escribían ensayos cortos en tres condiciones distintas: con ChatGPT, con un motor de búsqueda tradicional y sin ninguna ayuda digital.
Los electroencefalogramas regresaron una jerarquía clara. El grupo que escribió sin herramientas mostró las redes neuronales más robustas y distribuidas; los que utilizaron el buscador tuvieron una implicación intermedia; el que confió en ChatGPT la conectividad cerebral más débil absolutamente. Con cada sesión posterior, los participantes del grupo de IA se volvieron más pasivos: en la tercera prueba, muchos simplemente enviaban el texto del mensaje y copiaban el resultado. Cuando les quitaron la muleta digital y tuvieron que escribir solos, sus redes neuronales no alcanzaron los niveles de sus colegas que nunca habían usado IA.
El artículo de Kosmyna llama a este fenómeno «deuda cognitiva»: como una deuda financiera, se acumula silenciosamente y sólo se hace visible cuando ya es grande. Dos profesores a los que se les pidió evaluar los ensayos producidos por el grupo ChatGPT los describieron como esencialmente «sin alma»: correcto en forma, homogéneo en contenido, intercambiable en estructura. Sin rumores, sin sorpresas, sin valor añadido.
Las instituciones que se vacían desde dentro
El segundo nivel de preocupación aumenta en escala y no concierne al individuo sino a las instituciones. Woodrow Hartzogprofesor de derecho, e Jessica Silbeyestudioso de la propiedad intelectual, en su ensayo Cómo la IA destruye las instituciones (Cómo la IA destruye instituciones) analiza un mecanismo que no es obvio: no es que la IA utilice a las instituciones como objetivo, es que se corroe desde el interior a través de sus propias características operativas.
Hartzog y Silbey se identifican tres mecanismos destructivos. El primero es La erosión de la experiencia humana.: Delegar conocimientos a máquinas produce una atrofia cognitiva colectiva que degrada progresivamente la experiencia institucional, reemplazando el juicio de los expertos por una ilusión de precisión estadística. El segundo es El cortocircuito de los procesos de toma de decisiones.: La IA aplana las jerarquías, oscurece las opciones morales detrás de una superficie de cálculo neutral y elimina aquellos espacios de fricción y contestación que son indispensables para la legitimidad democrática. El tercero es el aislamiento de los individuos: La IA erosiona el capital social y la solidaridad que mantienen viva la vida cívica, ofreciendo en su lugar simulacros de interacción.
Las instituciones cívicas, desde el Estado de derecho hasta la educación, desde la prensa hasta el poder judicial, no son organizaciones burocráticas: son ecosistemas sociales que prosperan en la interacción humana, la transparencia procesal y la negociación continua de valores. Transferir sus funciones a sistemas que no tienen empatíaque no cometen errores recuperables sino que producen «alucinaciones» difíciles de rectificar, y que reducen toda complejidad al cálculo probabilístico, significan socavar los cimientos de algo que no se puede reconstruir fácilmente.
La economía que concentra
Ese es el tercer piso macroeconómicoy los números aquí son de otra magnitud. Los cuatro gigantes principales de la nube y la IA, los llamados hiperescaladorhan invertido en conjunto aproximadamente 650 mil millones de dólares solo en 2025, una cifra que, según las estimaciones disponibles, es cuatro veces mayor a los niveles anteriores a ChatGPT. La relación entre inversiones e ingresos en el sector de la IA, definido como tensión industrial, cayó de 6,1 a 4,7 veces en sólo cinco meses: una señal de que la tecnología Está empezando a «pagarse solo» mediante la integración en flujos de producción reales. Este nivel de inversión global eleva el indicador de tensión económica por encima del 2% del PIB global, umbral que el Fondo Monetario Internacional identifica como el nivel de alerta sistémica.
Pero la cuestión no es sólo financiera: es estructural. El poder está concentrado en manos de muy pocos actores que controlan no sólo los modelos, sino toda la cadena de valor física y digital: energía, chips, infraestructura, datos. Azeem Azharanalista y autor de La era exponencialresumió la cuestión con una fórmula precisa: la infraestructura que se construyó fue diseñada para un mundo de chatbotspero ya hemos cruzado el umbral hacia el mundo de los agentes autónomos, y la brecha entre lo que necesitamos y lo que es físicamente posible proporcionar se está ampliando, no estrechándose.
Las grandes empresas que adoptan la IA, las que celebre un ahorro de costes del 30% y las reducciones de miles de puestos de ingeniería, están acelerando una profunda transformación social en la que la resiliencia económica de sistemas enteros depende de una sola tecnología. Si esa tecnología se detuviera, o si el crecimiento se desacelerara drásticamenteel empleo, las cadenas de suministro y los mercados de capital podrían sufrir una reacción capaz de desestabilizar sectores mucho mayores que el tecnológico.
¿Qué nos queda por hacer?
Los tres niveles de preocupación, es decir, cognitivo, institucional y económico, no son temas separados. Se retroalimentan mutuamente en una dinámica precisa: la rendimiento cognitivo individual debilita las instituciones, las instituciones debilitadas ceden soberanía a las corporaciones, las corporaciones cada vez más concentradas aceleran el rendimiento cognitivo al producir herramientas cada vez más convenientes y menos resistibles. Es un círculo, no una lista..
Alejándonos de la analogía con los apocalípticos y los integrados de Umberto Eco, entendamos todo esto. No significa que estés en contra de la IAni cultivar la nostalgia por un mundo que ya no existe. Más bien, significa tomar en serio una pregunta que no permite una respuesta automática: ¿qué debe permanecer deliberadamente en la esfera del hacer humano? No por sentimentalismo, sino porque algunas habilidades (pensamiento lento, negociación de desacuerdos, responsabilidad institucional, diversificación económica) no se pueden recuperar con una actualización de software.
El tecnopesimismo, el bien fundamentado, no es la posición de quienes temen el futuro. Es la posición de quienes lo leen con suficiente atención para distinguir entre la velocidad de aceleración y la dirección del cambio. Y uno se pregunta, con razón, si las dos cosas coinciden.