La IA y la destrucción de las condiciones objetivas de la democracia

Ya no es cosa de haber crecido en el mundo digital o en el analógico, ni es cuestión de mayores o menos habilidades en el manejo de internet, las redes, sus códigos, sus mecanismos, herramientas y controles. El salto es de otra magnitud: es cualitativo. La transformación del mundo que sucede bajo nuestros párpados ensimismados es estructural y veloz como nunca antes. La percepción subjetiva de un cambio relevante es necesariamente trastornadora, y así ha sucedido con cualquiera de los ingenios que pautan la evolución progresivamente acelerada de Occidente desde la revolución industrial. Ya no. Estamos en otro sitio, aunque parezca que todo sigue igual, y el pan se cuece en los hornos, las tortillas se hacen con huevos, y los políticos peroran con dignidad unos y con zafiedad otros. Mentira. Ya no es así porque el alcance y la movilización de afectos, intereses y adicciones que ha activado la revolución digital sucede a una escala mundial y sectorial a la vez, fragmentada y personalizada, pero también transversal e institucional: ¿cómo va a someter el Gobierno de un país la impunidad de las grandes tecnológicas en su propio territorio si la mayoría de los Estados dependen de esas mismas grandes tecnológicas para prestar servicios elementales?

En lugar de leer a un veterano formado en el mundo analógico ávidamente secuestrado por la revolución digital, yo iría directamente a leer la naturalidad y la contundencia con que Gary Marcus explica cuál es el potencial de destrucción de las condiciones objetivas de la democracia si seguimos rumiando a solas o resignadamente sobre las amenazas que se abaten tras las redes sociales y en el desarrollo imperfecto y fallido de la IA generativa. De hecho, Marcus da ya por perdida la batalla de las redes sociales y asume la impotencia de los Estados y los poderes públicos para hacer obedecer y cumplir en el mundo virtual las normas válidas para el mundo analógico. Él está en la pantalla de la inteligencia artificial generativa y por eso ha escrito el libro a toda pastilla, tras más de 20 años de dedicación profesional a la esfera digital. Es un fan de ella, por supuesto, como lo somos todos, porque sus réditos, sus aplicaciones, la expansión del mundo que propicia en una sola mano es simplemente alucinante y sus hallazgos y progresos literalmente incalculables.

Pero precisamente por ser un fan total de la revolución digital puede medir mejor que nosotros lo indeseable que arrastra esa revolución y las causas que explican un diagnóstico que rei­tera en muchas partes del libro: la difusión y el acceso irrestricto y libre en todo el planeta a las plataformas de IA generativa ha sido prematura porque nadie es capaz de corregir sus defectos, sus falsedades, sus sesgos, sus incorrecciones, sus zafiedades, más allá de parches ocasionales o muy circunstanciales. La carrera del dinero, la pútrida carrera de ganar más y más dinero para las empresas que son ya las más forradas de la historia de la humanidad está detrás de la imprudencia temeraria de haber lanzado al mercado un producto imperfecto y cuyo perfeccionamiento nadie sabe ahora mismo cómo abordarlo.

Para que el estropicio no siga, para que no acelere descontroladamente, para que no haya males mayores a los ya gravísimos que hay hoy, Marcus sugiere pegar una frenada y redirigir la investigación

Por eso la segunda gracia definitiva de este libro es dotar de argumentos, recursos y hasta instrumentos a los ciudadanos para que alienten un giro radical que ayude a asegurar la fiabilidad, confiabilidad y eficiencia de los modelos extensos de lenguaje, que son con los que juega todo cristo, es decir, los ChatGPT, Gemini, etcétera. Para que el estropicio no siga, para que no acelere descontroladamente, para que no haya males mayores a los ya gravísimos que hay hoy, Marcus sugiere pegar una frenada y redirigir la investigación. Los desarrollos de la IA generativa deben ser tutelados, fiscalizados, cofinanciados y conducidos por los poderes políticos, exactamente igual que sucede con la aviación o con las Bolsas. ¿A quién se le ocurre dejar la evolución de esta revolución en manos de las mismas empresas que la impulsan y seguir tolerando su opacidad integral, sus probadas mentiras, sus abusos sin consecuencias, su desdén a la privacidad y su negocio con los datos de uso de cada cual sin pagar nada a cambio?

Pues ese disparate es exactamente el que lleva alimentando a la máquina sin que nadie pueda salir a su encuentro con alguna garantía de eficacia. La sugerencia un tanto hippy, o ingenua, o simplemente progresista, es que el motor de ese cambio de funcionamiento habrá de ser la movilización y la resistencia ciudadana, y después de ella vendrán los poderes políticos y los gobiernos si quieren seguir ganando elecciones. Naif es, desde luego, pero no sé si alguien tiene por ahí alguna idea mejor.

Frenar a Silicon Valley

Gary Marcus
Traducción de Marc Figueras. Shackleton Books, 2025. 256 páginas. 22,90 euros