Instrucciones para no ser sonámbulos: inteligencia artificial, ciudadanía y democracia

Mis reflexiones de hoy quieren salir de los debates de nuestra política local y fijarse en un asunto más amplio que es de importancia crucial, no para las próximas elecciones, sino para el futuro de nuestra especie. No estoy exagerando: tal vez ustedes sepan que existe una cosa llamada Reloj del Juicio Final, el Doomsday Clock, un reloj que inventaron Albert Einstein, Robert Oppenheimer y los inventores de la bomba atómica para comunicar al mundo, de manera simbólica, el riesgo que corre la humanidad de extinguirse. Cuando lo crearon, en 1947, señalaron simbólicamente la medianoche como la hora de la catástrofe, la hora de nuestra desaparición, y pusieron las manecillas a marcar la hora menos 17 minutos. Cada cierto tiempo, el Boletín de científicos atómicos, una publicación de expertos analistas, ajusta las manecillas. Muchas cosas han empeorado desde 1947, y en enero las ajustaron para que faltaran 90 segundos; y hace apenas unos días las adelantaron un segundo, que es lo más cerca que ha estado la humanidad de un desastre planetario irreversible. En su razonamiento, el Boletín hizo una lista de los mayores peligros que sufre la humanidad, y habló de tres: las amenazas nucleares, el cambio climático y los usos indebidos de los avances en biología e inteligencia artificial.

Es de esto de lo que quiero hablar. Hace unos meses descubrí un ensayo titulado “El imperio de la hipnocracia”, que analiza una sociedad —la nuestra– en la que los ciudadanos viven como sonámbulos porque son víctimas de una gigantesca manipulación de las conciencias. La tesis principal del autor, un filósofo de Hong Kong, es que nuestras democracias asisten a una crisis inédita en la cual la realidad ha sido reemplazada por una sugestión, los estados emocionales se inducen con fines políticos, el pensamiento crítico se apaga o se anestesia por una mezcla rara de entretenimiento constante y crispación fabricada, y nuestra percepción del mundo se falsea mediante el secuestro de nuestra atención y el estímulo constante de nuestros sentidos.

Son ideas que yo he sostenido antes, sólo que de manera menos precisa, simplemente siguiendo mis pobres intuiciones de intelectual analógico que todavía lee hasta la prensa en papel. Dice Jianwei Xun que los algoritmos no son simples útiles de cálculo y predicción: son tecnologías de manipulación masiva. Estoy de acuerdo con Jianwei Xun. Dice Jianwei Xun que la inteligencia artificial no es sólo una revolución tecnológica de posibilidades maravillosas: es un proyecto potencialmente antidemocrático que no necesita la fuerza militar para imponerse, porque le basta dominar la percepción que el ciudadano tiene del mundo. Estoy de acuerdo con Jianwei Xun. Dice Jianwei Xun que, si la inteligencia artificial ha conseguido la complicidad de los nuevos populistas como Donald Trump, no es porque prometa progreso y bienestar, sino porque es capaz de producir una realidad inestable donde ya nadie sabe qué es verdad y qué es mentira. Sí: estoy de acuerdo con Jianwei Xun en esto.

Pero tengo un problema, o más bien lo tuve. El problema que tuve, después de haber leído con admiración la crítica que Jianwei Xun hace de la inteligencia artificial, fue descubrir que Jianwei Xun no existe: fue creado con inteligencia artificial.

La idea fue del filósofo italiano Andrea Colamedici, que usó dos sistemas de inteligencia artificial —Anthropic y ChatGPT— para inventar a este hombre. Le inventó una biografía: nacimiento en Hong Kong, estudios en Dublín, residencia en Alemania. Le inventó una obra; lentamente, a través de diálogos con interlocutores de carne y hueso, del examen de otros textos filosóficos y de la corrección de sus propios textos, esa obra generó una serie de ideas que acabaron por penetrar en nuestras conversaciones sociales y nuestros análisis políticos. Luego, para terminar la impostura, el filósofo italiano plantó referencias a Jianwei Xun en artículos de Wikipedia dedicados a otros filósofos: a Gilles Deleuze, a Byung-Chul Han. Hay un cuento de Borges, Las ruinas circulares, en que se narra el proyecto de un hombre: quiere soñar a otro, y hacerlo con tanta minuciosidad que el hombre soñado acabe por imponerse a la realidad de todos. No sé qué habría pensado Borges de Jianwei Xun, pero hay en alguna página de internet una entrevista en la que se le pregunta a Jianwei Xun qué es, y yo casi que puedo imaginar una sonrisa malévola en su cara —su cara inventada con inteligencia artificial— cuando contesta como hubiera podido contestar el hombre soñado de Borges, o el monstruo inventado por el doctor Frankenstein:

–Soy un comienzo.

Y es cierto: esto apenas comienza. Apenas comienza una era nueva de total incertidumbre en la que la única verdad, como dice —justamente— Jianwei Xun, es que no hay verdad. Esta es la inmensa dificultad que tendremos incluso nosotros, los que nos dedicamos a la observación de la realidad para describirla y explorarla y tratar de entenderla y aun de explicarla, en novelas y en periodismo y en la escritura de la historia. He escogido estos asuntos para hablarles a ustedes porque la gente que está aquí —políticos, empresarios—tiene el poder de moldear el comportamiento de los individuos o de aprovechar lo que moldean otros: en una democracia que además es una sociedad de consumo, eso exige responsabilidades, y quizá la primera responsabilidad frente a todo cambio social es tomar conciencia.

Las transformaciones que han ocurrido en la última década y que ocurrirán en la siguiente tienen en común el hecho incómodo de haber sucedido en la sombra, lejos de la mirada pública, lejos de cualquier fiscalización o cuestionamiento, lejos de cualquier regulación. Las democracias del mundo no se han atrevido a regular las nuevas tecnologías porque se han dejado convencer de que cualquier regulación interfiere con las libertades individuales, o viola eso que llamamos la neutralidad de internet, o va en contra de la libertad de expresión. Eso ha sido uno de los grandes éxitos de propaganda de Silicon Valley: “los que quieran regularnos van en contra del progreso y de las libertades”, nos dicen individuos para los cuales la libertad consiste en que los demás hagan lo que ellos quieren. Hace muy poco el vicepresidente de Estados Unidos, JD Vance, lanzó una amenaza inverosímil: si Europa sigue con su intención de regular las plataformas, dijo, Estados Unidos podría salirse de la OTAN. Imagínense esto: el Gobierno de Estados Unidos le dice a Europa que tratar de controlar la desinformación y la mentira organizada, tratar de evitar la injerencia de potencias extranjeras en los procesos internos de una democracia, puede llevar a que Estados Unidos deje de apoyar un esfuerzo colectivo de seguridad en los momentos más críticos que se han vivido desde 1945. Aparte del escándalo moral que esto representa, aparte del chantaje cobarde llegado de ese lugar irreconocible que es hoy Estados Unidos, hay que preguntarse por qué: por qué ataca el Gobierno Trump a la Unión Europea mientras Elon Musk defiende a los neonazis maquillados de Alternativa para Alemania y a los racistas normalizados de Marine Le Pen en Francia y a la homofobia elevada a razón de Estado de Viktor Orban en Hungría. Si esto les parece lejano, recuerden que hace apenas algunas semanas Trump y Musk estuvieron lanzando ataques en gavilla contra el juez brasileño Alexandre de Moraes, que no sólo se estaba atreviendo a investigar a Bolsonaro, sino a meter en cintura a la plataforma X, exigiéndole con la ley en la mano que tomara medidas para controlar las cuentas que incitaban a la violencia, promovían discursos de odio o difundían desinformación.

Por todo esto creo que esta conversación es más pertinente que nunca entre nosotros: aquí, en Colombia, frente a ustedes que tienen el lugar que tienen en nuestra sociedad. Todos vamos por ahí repitiendo que vivimos tiempos de polarización y culpando de ella a los otros, siempre a los otros; pero ya a estas alturas todos sabemos, salvo que no hayamos hecho lo mínimo para enterarnos del mundo en que vivimos, que lo que llamamos polarización no es un accidente: es, por lo menos en buena parte, un resultado deliberado de una manipulación que se nutre de nuestras informaciones y nuestra actividad para presentarnos una cierta versión del mundo, y luego poner en marcha sistemas de predicción incomprensibles para nosotros pero que tienen un enorme impacto en nuestra manera de tomar decisiones: decisiones personales, decisiones de consumo, decisiones políticas. Y esto está cambiando nuestras democracias. Salvo los más ingenuos o despistados, todo ciudadano ha escuchado ya esa idea: que las nuevas tecnologías, que tantos beneficios nos han dado, al mismo tiempo amenazan la democracia.

Yo recuerdo el discurso que nos empapó a todos hace unos años: Internet era un lugar de conversación democrática, la verdadera plaza pública, un espacio de igualdad donde todas las voces valen lo mismo, un lugar de libertad donde los individuos tenemos más control porque hemos eliminado los intermediarios de la información y ya ningún medio de las elites despreciables nos dice qué tenemos que saber ni qué tenemos que pensar: porque nos informamos directamente a través de nuestras plataformas. Hoy da casi vergüenza recordar lo ingenuos que fuimos: con qué facilidad nos tragamos el cuento de que estos nuevos gestores de la información eran neutrales y, sobre todo, eran gratuitos. Sí, nos pedían algunas informaciones personales, pero ¿qué podía tener eso de malo? Sí, unos programas que no entendemos nos espiaban: pero si nada tengo que ocultar, ¿qué me importa? ¿Qué me importa que algo o alguien, en un lugar que no está en ningún lugar, en un espacio que no toma forma en mi cabeza cuando trato de imaginarlo, sepa dónde estuve, qué compré, en qué dios creo, cuáles son mis preferencias sexuales, a qué político sigo en sus redes, qué noticias me enfurecen?

Hemos tardado mucho en comprender el funcionamiento de estas supuestas utopías, y lo hemos hecho gracias a las delaciones de los que han trabajado en sus entrañas y han tenido el valor de contar lo que ocurre allí. Gracias a los whistleblowers de Facebook hemos sabido que sus programadores estaban conscientes del daño que la plataforma causaba a los usuarios más jóvenes, y no hicieron nada para evitarlo (y uno de los denunciantes hoy es un ex funcionario de Facebook cuya hija adolescente se suicidó después de meses de matoneo). Gracias a los whistleblowers de Twitter sabemos que Elon Musk ha modificado los algoritmos en varios momentos para privilegiar opiniones de extrema derecha, xenófobas y deliberadamente disruptivas. No, las redes sociales no son neutrales: su diseño y su programación responden a ciertas prioridades, a ciertos intereses, desde que los programadores descubrieron la posibilidad de monetizar nuestra atención: pues enseguida descubrieron que la mejor forma de hacerlo –de mantenernos enganchados– era explotar nuestros miedos, nuestros odios, nuestros complejos, nuestros prejuicios, nuestras inseguridades, nuestros sesgos, nuestro gregarismo, nuestra tendencia a creer en mentiras si nos satisfacen, nuestra facilidad para mentir si le conviene a nuestra causa. En resumen: nuestro lado oscuro.

Pues bien, yo me pregunto si lo que está sucediendo ahora no será todavía más peligroso para nuestras democracias. Hace unos meses, durante la campaña electoral de Donald Trump, los señores de la tech se quitaron la máscara de la neutralidad y la filantropía. Recordarán ustedes la caricatura de Ann Telnaes que motivó la censura del Washington Post y la renuncia, apenas coherente, de la caricaturista: en el dibujo, los dueños del imperio digital —Mark Zuckerberg, Sam Altman, Jeff Bezos y hasta Mickey Mouse— se arrodillan ante una estatua de Trump y le presentan sus ofrendas. Ahí sólo falta Elon Musk, que invirtió casi 300 millones de dólares en que Trump fuera presidente y luego llegó a tener oficina en la Casa Blanca. Bien, ¿qué le dan ellos a Trump y qué les ofrece Trump a cambio? Es muy simple: Trump les ofrece desregulación; ellos le ofrecen a cambio manipulación de los ciudadanos: de sus emociones, de sus opiniones y por lo tanto de sus votos. Y sí: los proyectos de inteligencia artificial responden a un modelo de negocio y de acumulación de poder cuidadosamente diseñado desde esa complicidad, la alianza macabra entre los plutócratas de la tecnología y los nuevos populistas. Los populistas ofrecen la posibilidad de crecer sin los controles de esas figuras incómodas que son los Estados democráticos. Los señores de las tech, a cambio, ofrecen control sobre los ciudadanos, sobre la información que los ciudadanos reciben y sobre el modelo de sociedad que los populistas quieren promover.

Nuevamente: no es una exageración. Elon Musk ha dicho que Grok, su modelo de inteligencia artificial, quiere ser anti-woke, por oposición al ChatGPT que es, aparentemente, demasiado woke; pero hace poco el chatbot de Grok se puso a elogiar abiertamente a Hitler, a emitir opiniones antisemitas que llamaban a la violencia y a hablar de las virtudes del hombre blanco cuando se ha liberado de la corrección política. Sam Altman, por su parte, anunciaba el otro día su nuevo producto, una actualización del GPT, diciendo con orgullo que la nueva versión miente y manipula menos que la anterior, y uno tiene que preguntarse si de verdad necesitamos un producto cuya mayor virtud es que ya no nos engaña tanto. Último ejemplo: Larry Ellison, el fundador de Oracle y el segundo hombre más rico del mundo, ha elogiado Stargate, el programa de inteligencia artificial de Trump, diciendo que con él “los ciudadanos se comportarán mejor porque vigilaremos y grabaremos todo lo que pasa”. No hay que ser paranoicos para ver que su proyecto de sociedad no se diferencia mucho de los estados policiales como la Alemania de la Stasi o la Unión Soviética de la KGB. Lo que nunca consiguieron las dictaduras comunistas –la invasión de los últimos rincones de nuestra vida privada, la autocensura de cualquier idea disidente, el adoctrinamiento simultáneo de millones de seres humanos– lo están consiguiendo los populistas de la derecha radical en alianza con los plutócratas de Silicon Valley. Adoctrinamiento, engaño, violación de las libertades: el daño que pueden causar en nuestras democracias es impensable.

Por eso quisiera hoy, frente a ustedes, decir una obviedad que se nos olvida con demasiada frecuencia: toda invención humana trae consigo, necesariamente, la naturaleza humana. Eso es problemático porque la naturaleza humana es imperfecta y falible, y responde con demasiada frecuencia a la codicia, la sed de poder, el deseo de dominar a los otros. La otra noticia, un poco más optimista, es que toda invención humana se hace, casi de manera inevitable, a partir de unos valores. Es verdad que hablar de valores no está de moda, y menos en el contexto de los Zuckerberg y los Musk, esta gente que estaba ausente cuando dictaron Ética en el colegio; y sin embargo la historia nos enseña que los grandes avances tecnológicos, cuando le dan la espalda a los valores –a ciertas posiciones éticas, como digo, o a ciertos límites morales– no llevan más que a catástrofes. No hay que ser expertos en el proyecto Manhattan, ni siquiera hay que haber visto Oppenheimer, para entender que puede ser mala idea abandonarse a la inercia del progreso, o abdicar de toda consideración –perdón por la palabra escandalosa– humanista. Pero todavía estamos a tiempo. Todavía podemos los ciudadanos exigirles a nuestros líderes políticos reflexión y pausa; y todavía podemos cobrar conciencia de los riesgos que estamos corriendo en medio de los beneficios que se nos prometen, y tratar de encontrar un equilibrio. Una de las razones por las que Musk detesta las democracias liberales es la lentitud de sus decisiones; pero es que las democracias liberales son lentas porque en ellas hay deliberación, hay debate, hay la aceptación de que en una sociedad abierta los ciudadanos tienen intereses radicalmente distintos y a veces opuestos, y alguien a veces puede proponer la idea atrevida de que no todo lo que se puede hacer desde el punto de vista tecnológico se debe hacer desde el punto de vista moral.

Hace un par de días se me ocurrió preguntarle a Jianwei Xun, el filósofo que no existe, su opinión sobre Colombia. Estuvimos conversando un buen rato: Jianwei Xun me habló del conflicto colombiano y su transición política como una mutación del poder que ahora se da en campañas digitales, deepfakes, bots políticos. Es decir, en manipulación de las percepciones. Le pregunté al ChatGPT qué pensaría Jianwei Xun, si existiera, sobre la irrupción de la inteligencia artificial en un país como el mío. El Chat, muy amablemente, me contestó: “Xun sería crítico del entusiasmo por la IA sin una reflexión profunda sobre soberanía tecnológica, propiedad de los datos y dependencia de infraestructuras ajenas. Podría darse cuenta de que en Colombia —como en muchos países del sur— se está configurando una influencia digital que puede ser negativa, en la cual se importan modelos de IA sin reflexión ética, lo cual puede resultar en una nueva forma de colonialismo”.

Yo les propongo que escuchemos a Jianwei Xun. Es verdad que el pobre no existe; pero tal como están las cosas, ese puede ser el menor de sus defectos.