La inteligencia artificial no es neutra: tiene ideología, y no es una ideología buena.

El mito más utilizado por cientifistas y tecnólogos es que toda la ciencia y la tecnología es neutra y que los problemas causados por ellas derivan de su uso. En esencia, solamente son herramientas que proporcionan a los seres humanos la posibilidad de mejorar sus capacidades y de ellos dependen sus usos y sus finalidades. Las herramientas son moralmente neutras y, por tanto, no se las puede juzgar. Es el modelo social quien decide cómo y para qué se van usar, por lo que no son sus promotores quienes deben responder de sus malos usos, sino la sociedad.

Esta idea parte de la base de que el conocimiento científico es un conocimiento puro, neutro y sin ningún tipo de ideología. La ciencia es verdad y, por ello, no puede ser discutida. La tecnología es tan solo la aplicación práctica de este conocimiento.

Esta es la idea dominante actualmente en la sociedad tanto para las personas que apoyan el sistema como para la mayoría de aquellas que quieren cambiar el mundo, ya sea de manera radical o con algunas reformas. Esta manera de ver el mundo conlleva que, cuando una nueva tecnología irrumpe en la realidad de manera disruptiva –como es el caso de la inteligencia artificial–, los debates se centren en las finalidades y se busquen las formas de “resignificar” este nuevo enemigo, en lugar de buscar las formas de combatirlo.

La Encyclopædia Britannica define la ideología como una forma de filosofía social o política en la que los elementos prácticos son tan importantes como los teóricos. Es un sistema de ideas que aspira tanto a explicar la realidad como a cambiarla.

Para analizar por qué la inteligencia artificial tiene ideología vamos a usar esta definición, especialmente la parte de afectar a la realidad.

El desarrollo lógico de que la inteligencia artificial es neutra parte de la base de que la ciencia lo es¹; la inteligencia artificial es una herramienta desarrollada a partir de este conocimiento: las herramientas son neutras, por lo tanto, la inteligencia artificial es neutra.

¿Las herramientas son neutras?

La idea de que las herramientas son neutras es bastante curiosa. Parte de la base de que los objetos materiales no pueden actuar por sí mismos, con lo que la persona que los usa es la responsable de las acciones. Según este curioso razonamiento, la responsabilidad moral de las acciones es de la persona, nunca del objeto.

Este análisis, simplista hasta el extremo, considera que los objetos son realidades absolutas, aparecidas de la nada, sin pasado y, por tanto, sin historia. De este modo, libran al objeto de toda la carga social y política que conlleva su invención y su fabricación.

Esta concepción del mundo material no es casual, sino que viene derivada de la idea de progreso humano unido a progreso tecnológico que se creó durante el Renacimiento y que se consolidó durante la Revolución industrial.

La premisa de este pensamiento parte del concepto de “descubrimiento” en lugar de “invención”. La realidad está ahí fuera y la ciencia y la tecnología solo tienen que entenderla y usarla. Creen en la neutralidad del conocimiento. No crean una realidad: solo comprenden lo que ocurre y lo usan en su beneficio y en el de la humanidad.

Aunque aceptáramos esta idea –algo bastante complicado en pleno siglo XXI–, hay que tener en cuenta que los inventos o descubrimientos no se producen de manera aleatoria. Las personas que los hacen están buscando algo concreto en un área definida de la ciencia con un corpus teórico previo y una visión concreta de la realidad. Esto es aplicable a todas las herramientas desarrolladas por el ser humano desde su aparición. La primera persona que en el antiguo Egipto fabricó un martillo específico para el trabajo de la carpintería, no lo fabricó por azar ni estaba probando diferentes combinaciones de metales con trozos de madera de diferentes formas a ver qué pasaba. No: estaba buscando una herramienta concreta para resolver una necesidad concreta, clavar clavos y golpear formones para trabajar la madera.

Esta es la base de la invención de todas las herramientas que ha fabricado el ser humano, la búsqueda de solucionar una necesidad mediante el uso de objetos. Por lo tanto, TODAS LAS HERRAMIENTAS CREADAS POR HUMANOS TIENEN UNA IDEOLOGÍA, ya que parten de una concepción del mundo y pretenden resolver una necesidad creada de una forma concreta. Por ejemplo, como explica Perlman en su libro Contra el Leviatán y contra su historia, la aparición de los canales de riego es un intento de los seres humanos de controlar el cauce y el uso del agua para su beneficio. Esto conlleva una modificación de la naturaleza salvaje, al cambiar el caudal y el recorrido de los ríos. Como explica este autor, esta tecnología exige una visión del mundo donde la naturaleza está al servicio de los seres humanos, algo que no comparten todas las culturas, y su desarrollo conlleva un tipo de sociedad jerarquizada que exige una estructura social piramidal estable que se encargue de diseñar, fabricar y mantener estas grandes estructuras hídricas durante largos periodos de tiempo, consolidando de este modo un tipo de sociedad que obliga a todos sus miembros a jugar un rol determinado. Es lo que Lewis Mumford llama la “megamáquina”.

De este modo, según la ideología que tenga la sociedad, y el grupo de personas dentro de esta sociedad que invente algo y la finalidad que se busque con ese nuevo objeto, es fácil saber que ideología va a tener.

El ejemplo más claro que se me ocurre en el martillo de carpintería y la pistola. Como ya hemos dicho, el primer martillo de carpintero que se conoce se creó en el antiguo Egipto con la finalidad de clavar clavos en los muebles y golpear los formones para trabajar la madera. A pesar de ser creado en una sociedad jerárquica y claramente autoritaria, su finalidad es la fabricación de objetos de madera útiles para la vida, y lo más probable es que su invención fuera una obra colectiva (de personas que trabajaran en carpintería, herrería, etc.) para responder a una necesidad laboral concreta. A lo largo de la historia, el martillo se ha ido desarrollando, modificándose según las necesidades de cada sociedad, pero siempre con la misma base y la misma función: el trabajo de la madera.

El caso de la pistola es muy distinto. Las primeras pistolas que se conocen se crearon en el siglo XVI como arma auxiliar de la caballería, ya que se podía usar con una sola mano. No se popularizaron hasta el siglo XIX, cuando el ingeniero austriaco Joseph Lauman mejora el concepto y crea la primera pistola semiautomática. Su función era clara, era un arma pequeña y fácil de esconder que disparaba balas de metal a gran velocidad y que sirve para matar a seres vivos, ya sean humanos o no humanos. Está claro el contexto político y el modelo social que necesitan crear una herramienta para eliminar a otros seres vivos. De hecho, todos los avances que se han realizado en el diseño de la pistola los ha realizado la industria en torno al ejército y a la guerra.

Aunque es cierto que en algunas ocasiones las pistolas se han utilizado con intenciones liberadoras –como en caso de Cospito cuando disparó al jefe de la energía nuclear italiana o cuando Valerie Solanas intentó acabar con la vida de Andy Warhol–, la realidad es que eso no cambia su ideología, ya que demuestra que en la sociedad actual la única forma de conseguir algunas libertades es mediante la eliminación de otros seres humanos.

Si analizamos estos dos ejemplos e intentamos resignificar sus usos, veremos que la base ideológica de cada objeto está marcada en la propia realidad de cada uno. Podemos usar un martillo para matar a gente –de hecho, ha sido así más de una vez a lo largo de la historia–, pero es una acción lenta, sucia y poco efectiva. También sería bastante complicado, por ejemplo, realizar una matanza de gran número de personas a base de martillazos.

Del mismo modo, podemos usar una pistola para clavar clavos, pero tendríamos el mismo problema que en el caso anterior: sería un proceso lento, poco útil y bastante absurdo.

Esto se debe a que cada objeto se ha inventado y fabricado con una función, y esa función es su ideología. ya que conlleva una visión teórica del mundo y un intento de modificarlo de algún modo.

Partiendo de esta base, es fácil entender cuál es la ideología de la inteligencia artificial. Actualmente, lo que llamamos inteligencia artificial es un conjunto de algoritmos cuya función es el análisis de datos y la búsqueda de patrones, algunos de ellos imposibles de imaginar para los seres humanos.

La evolución de la inteligencia artificial en los últimos veinte años está totalmente ligada a la capacidad de procesamiento de datos de los nuevos ordenadores y a su avance exponencial, la llamada “ley de Moore”², que está permitiendo gestionar cantidades ingentes de datos en tiempos cada vez más pequeños y a la propia capacidad del sistema tecno-industrial de crear y acumular cada vez más datos.

El aumento de la capacidad de computación nos habla de una sociedad imbuida en las teorías capitalistas de crecimiento infinito en un mundo finito. Tecnólogos y tecnólogas no parecen darse cuenta, o no quieren ver, que cada nuevo invento conlleva un nuevo producto que producir, que a su vez conlleva nuevas materias primas que extraer y por lo tanto nuevas zonas de la naturaleza que destruir. Aunque esta concepción del mundo haya sido creada y encumbrada por el sistema capitalista, la realidad es que el sistema tecno-industrial la ha hecho suya y que un cambio en el sistema político no evitaría la destrucción de la Tierra. Es decir, cualquier invento que produzca el sistema tecno-industrial parte de la base de que los elementos que lo van a componer (minerales, plásticos o la energía que consuma, por ejemplo) son materiales que le pertenecen y que, por tanto, puede hacer un uso libre de ellos. Esto es una ideología que nos habla de un antropocentrismo eurocentrista que considera que el mundo está a su servicio y que la destrucción de la naturaleza y de las formas de vida humanas y no humanas que la habitan son menos importantes que la comodidad, el conocimiento o simplemente el ego de una pequeña parte de la humanidad.

Por otro lado, la inteligencia artificial está muy ligada al internet de las cosas y a los big data. Hay que pensar que para entrenar a ChatGPT 3 se usaron 1300 millones de documentos digitalizados.

Durante toda la historia, uno de los primeros objetivos de cualquier revuelta o revolución fue la destrucción de los centros de datos. Hasta la era digital, todos los levantamientos populares que ganaban algo de fuerza humana atacaban los registros de la propiedad y los archivos penales y penitenciarios. Tenían muy claro que la acumulación de datos es algo que solo sirve al poder. La historia del poder, especialmente el del Estado, ha sido la historia del intento de acumular la mayor cantidad de datos de sus ciudadanos para “conocerlos”. En la era de la información, el sistema tecno-industrial se alió con el capitalismo y el Estado, y juntos crearon la mayor red de captación de datos que nunca haya existido, internet, y con él, dispositivos capaces de acumular billones de datos de manera digital: los famosos big data. Sin embargo, este sistema siempre tenía el mismo error, el factor humano. Como explicaba Banksy en uno de sus populares grafitis: “tú crees que el Gran Hermano te vigila, pero probablemente estará viendo películas porno en el monitor de al lado”. Hasta ahora, toda esa acumulación de datos era un cuello de botella que siempre se encontraba con el mismo problema: una persona tenía que revisar esos datos y sacar conclusiones. ¿Para qué sirve tener millones de horas de llamadas telefónicas de supuestos terroristas grabadas, si no tienes al equipo humano y el tiempo necesarios para escucharlas y sacar conclusiones? ¿Para qué sirve conocer la posición de GPS de los millones de personas que pueden ser tus compradoras/usuarias, si no tienes un departamento de márquetin lo suficientemente grande como para gestionar esos datos a tiempo real y tomar decisiones? Esta es la función de la inteligencia artificial actualmente: gestionar cantidades enormes de datos para evitar el factor humano en la búsqueda de patrones. Esto es una ideología. Esta nueva tecnología está creada para el control a través de la gestión de millones de datos en cualquier aspecto de la realidad, no creo que pueda usarse para nada que aumente la libertad.

En el caso de su uso aplicado a personas, está claro cuál es su funcionamiento: analizar todos los datos sobre personas parecidas a esa en casos parecidos a esos y predecir cual es estilísticamente la acción más posible de esa persona. Aunque esto se haga con la mejor intención, intentar predecir las acciones de una persona antes de que las haga y que se la trate como si ya hubiese hecho lo que se espera de ella. Es una de las formas más sádicas de control.

Este caso ya está ocurriendo en ciertos lugares como Salta, Argentina. Allí el gobierno local ha puesto en marcha un programa de la Plataforma Tecnológica de Intervención Social, un experimento de machine learning realizado por Microsoft para predecir los embarazos en adolescentes y el abandono escolar. “El algoritmo inteligente nos permite identificar características en personas que podrían llegar a tener esos problemas y avisar al gobierno para trabajar en su prevención” (News Center Microsoft Latinoamérica, 2018). El sistema recibió duras críticas debido a errores estadísticos, a la sensibilidad de la notificación de embarazos no deseados, al uso de datos inadecuados para hacer predicciones fiables, pero, aún más, por ser usado como herramienta de discriminación de las pobres y desviar la agenda de políticas públicas efectivas para garantizar el acceso a derechos sexuales y reproductivos (Peña y Varon, 2019).

Hay que recordar que las sociedades más libres, o menos oprimidas, no necesitan acumular cantidades absurdas de datos, la memoria humana individual y colectiva a lo largo de la historia ha sido suficiente para transmitir el conocimiento necesario para la supervivencia de la especie. Uno de los usos de los que se está hablando como un bien colectivo de la inteligencia artificial es la agricultura y el medio natural. Se está experimentando con sistemas de inteligencia artificial para la predicción de incendios, para optimizar el uso el agua en algunos cultivos, la creación de semillas transgénicas e incluso para hacer análisis de la tierra de cultivo y buscar patrones que ayuden a tomar decisiones para mejorar la tierra. Esto, que parece un bien loable y una manera de resignificar esta tecnología para ayudar a la humanidad, no deja una forma de control y de opresión, tanto de las poblaciones agrícolas como del propio campo. A largo plazo, las personas perderán el control sobre la producción de alimento y será el sistema tecno-industrial el que controlará la alimentación de las personas. Además, como se lleva demostrando desde la “revolución verde” de los años setenta, el aumento de la producción agrícola se consigue a costa de aumentar la destrucción de la naturaleza, debido al aumento de recursos que hay que usar para producir ese aumento.

Un ejemplo práctico. La inteligencia artificial es machista.

Como hemos explicado, la inteligencia artificial tiene ideología, y su ideología es la dominación. Este análisis, que puede parecer muy teórico, no lo es si estudiamos algunas de las aplicaciones de la inteligencia artificial y sus resultados.

En año 2014, Amazon utilizó una inteligencia artificial para seleccionar a sus directivos y directivas. Tras un tiempo usándolo, descubrieron que el algoritmo seleccionaba mayoritariamente a hombres, penalizando a las mujeres. Como la inteligencia artificial es considerada neutra, dieron por hecho que eso era un sesgo de aprendizaje a causa del machismo del modelo social. Para resolverlo, eliminaron el apartado de género en los currículums, con lo que el algoritmo no podía saber el género. Aun así, seguía premiando a los hombres y penalizando a las mujeres. Después de un tiempo, decidieron que era un problema mucho más complejo y retiraron el algoritmo.

Amazon no dio ninguna explicación, pero otros organismos relacionados con la inteligencia artificial, como el Instituto de Tecnología de Massachusetts (MIT), sí intentaron explicar lo que había ocurrido. Para ello, publicaron un artículo en 2019 en el que se analizaban los sesgos en la inteligencia artificial y su forma (o no) de resolverlo.

Para empezar, en ese artículo se asume, de manera indirecta, que los algoritmos tienen la ideología de sus creadores y que para la gente de ciencias es difícil reconocer su propia ideología. Del mismo modo, la forma en la que se enseña a los informáticos a abordar los problemas a menudo no encaja con la mejor forma de pensar en dichos problemas. 

El artículo acaba con un glorioso: el problema es complejo, pero tenemos a nuestros mejores hombres trabajando en ello, así que no os preocupéis mucho.

Si nos molestamos en hacer un análisis un poquito más profundo de la inteligencia artificial, de sus fundadores y de su desarrollo, llegaremos a otras conclusiones.

Lo que conocemos actualmente como inteligencia artificial tiene varios padres y uno de ellos, quizá el más importante en la actualidad, fue Marvin Minsky. En el año 1958 formó parte del Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT, lugar en el que continuó siendo mentor hasta hace poco tiempo; además cofundó el actual Laboratorio de Inteligencia Artificial y Ciencias de la Computación (CSAIL).

Llegó a defender que “solo hay una cosa cierta: todo el que diga que hay diferencias básicas entre la mente de los hombres y la de las máquinas del futuro se equivoca. Si no se ha logrado ya, esto únicamente se debe a la falta de medios económicos y humanos”.

Si buscas su nombre en Google, aparecen miles de páginas ensalzando su figura como uno de los investigadores pioneros de la inteligencia artificial y su contribución a las redes neuronales artificiales.

Todos estos méritos académicos parece que son suficientes para tapar un hecho bastante conocido pero silenciado desde su muerte: en el año 2001, Minsky tomo un avión propiedad de Epstein para volar a la isla que el millonario poseía en las Islas Vírgenes y allí violó a una chica de 17 años, cuando él había cumplido los 73. Esta acusación fue conocida después de su muerte y nunca se llegó a aclarar, como todo lo que rodeó a Epstein, pero nos da una idea de la visión de las mujeres que tenía este señor.

Si seguimos indagando en el campo de la IA y sus mecenas, encontramos nombres como el de Elon Musk, el primer financiador de Open AI, la empresa matriz de ChapGPT. Elon Musk, aparte de representar una masculinidad muy tóxica, es una persona tránsfoba con la que su propia hija trangénero rompió relaciones, incluso cambió de apellido debido a su comportamiento público. De hecho, se comenta que, en una biografía que se está escribiendo sobre él, reconoce que uno de los motivos para comprar Twitter fue que su hija “se volvió” transgénero por culpa de la ideología comunista de esta red social.

Otra de las personas que más dinero ha destinado al desarrollo de la inteligencia artificial ha sido el propio Jeffrey Epstein. Durante años donó millones de dólares al MIT para la creación de un departamento de IA.

Cuando en 2008 se hizo pública la red de trata de personas de Jeffrey Epstein y las “fiestas privadas” en su isla en las Islas Vírgenes, la comunidad científica se alejó del que había sido su gran mecenas, al menos de cara a la galería. La realidad fue que organizaciones como el MIT siguieron aceptando donaciones, siempre y cuando fueran anónimas e inferiores a cinco millones de dólares anuales.

Una de las personas más beneficiadas por las aportaciones del magnate de las finanzas fue Joichi Ito, director del MIT MED LAB, especialista en ética y tecnología y fundador del curso “Ética y gobernanza de la inteligencia artificial”. Joichi Ito dimitió en 2019, once años después de que se conocieran y condenaran los primeros delitos de Epstein, y debido a una investigación del Miami Herald que expuso magnitud del caso, con acusaciones de asalto y tráfico sexual. Con todo, se excusó diciendo que él nunca vio nada raro. Este señor creó y formó al departamento que analiza el sesgo sexista de la IA.

Por último, si analizamos a la empresa que utilizó el famoso algoritmo con sesgo sexista, Amazon, las cosas no mejoran. En un estudio publicado por la Universidad de California en 2021, tras realizar encuestas a trabajadores y trabajadoras de los almacenes de california, se afirmaba que la empresa de Jeff Bezos se caracteriza por políticas discriminatorias por raza y género. Así, por ejemplo, las personas embarazadas no pueden tomar descansos para ir al baño y al menos siete de ellas fueron despedidas cuando denunciaron su situación.

Resumiendo, una tecnología creada, entre otros, por un violador, financiada por un traficante de personas y pederasta y por un tránsfobo, y utilizada por una empresa que discrimina a las mujeres produce resultados machistas, pero nadie entiende por qué. El chiste se cuenta solo.

1¹En este articulo no trataremos el tema de la supuesta neutralidad de la ciencia y sus consecuencias políticas y sociales porque nos desviaría del tema. Para profundizar en ese debate, la bibliografía es extensa, recomendamos a Lewis Munford, entre otros autores.

2²La ley de Moore explica que la potencia de procesamiento general de los ordenadores se duplica cada dos años.