#fildhuned

[gonzaloanero]

Reseña crítica de "La inteligencia artificial o el desafío del siglo", de Éric Sadin

Este texto busca ser una lectura de la contundente propuesta de Éric Sadin al respecto de una teoría crítica de la Inteligencia Artificial.[1] La justificación de reseñar dicha propuesta es, en nuestra opinión, la misma que animó al autor a lanzarse a escribir sobre ello: la importancia y pertinencia de una filosofía de la computación, que dé cuenta de los avances punteros en Inteligencia Artificial desde una perspectiva crítica que puede ser entendida como humanista.

Por tanto, es conveniente empezar alabando la iniciativa de Éric Sadin, así como destacando los numerosos aciertos que tiene su libro, particularmente al analizar las consecuencias de la implementación de sistemas algorítmicos en ámbitos tales como la justicia y la educación. Sin embargo, después de este reconocimiento, y como muestra de la importancia concedida al libro y a la propuesta del autor, aquí vamos a dar peso casi exclusivo a aquellas partes de su obra que, a nuestro juicio, están parcial o completamente desencaminadas, con el objetivo de aportar capacidad expositiva y argumentativa a una más que necesaria filosofía de la Inteligencia Artificial.

La tesis principal del libro puede resumirse en que, debido al desarrollo actual de las ciencias de la computación y, en particular, de la Inteligencia Artificial, se ha producido un cambio de estatuto de las tecnologías digitales. Tal y como él mismo afirma:

Desde ahora en adelante ciertos sistemas computacionales están dotados (…) de una singular y perturbadora vocación: la de enunciar la verdad.[2]

En la propia introducción del texto, y para apoyar esta tesis, el autor presenta una situación ficticia, aunque no por ello alejada del estado actual de las cosas, en la que una candidata a un puesto de trabajo se somete a una suerte de entrevista, en la que el tradicional responsable de Recursos Humanos ha sido sustituido por un asistente virtual, llamado Recrutello, que la somete a ciertos exámenes de destrezas mecánicas, psicológicas y conductuales, para concluir fríamente que la candidata no es apta para el puesto correspondiente. Traemos a colación este ejemplo de Sadin porque es útil para presentar la primera de las cuestiones polémicas en su escrito: el concepto de verdad que maneja.

De forma crítica, Éric Sadin describe el concepto de verdad que subyace en los apologistas de la Inteligencia Artificial, que no es otro que el de aletheia: la verdad como desvelamiento, como manifestación de la realidad de los fenómenos más allá de las apariencias. Sin embargo, para el autor, la verdad no es tanto la exactitud, la correspondencia o la adecuación de ciertos enunciados con respecto a la realidad, sino que se aleja de esta perspectiva tradicional en filosofía de la ciencia para enmarcarse dentro de una óptica influida por Foucault, en la que entiende que la verdad ha de alejarse de la dicotomía correcto/incorrecto, para acercarse a las referentes a justo/injusto, o incluso bello/feo.

En este aspecto, para el autor, debido a la irrupción de la Inteligencia Artificial, la cuestión fundamental es que ha emergido un nuevo régimen de verdad:

Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes.[3]

Todo este párrafo, y en general toda la argumentación de Sadin al respecto de la verdad en Inteligencia Artificial, peca a nuestro juicio de asignarle a los algoritmos unas propiedades que en realidad pertenecen a los seres humanos que los han diseñado. Tal y como se entiende del pasaje aquí mostrado, parece ser que los sistemas de Inteligencia Artificial tienen una autonomía evaluadora y decisional, que no sabemos muy bien de dónde sale, pero que es capaz no solo de analizar situaciones, sino, lo que para el autor es más grave, asumir diferentes conclusiones como ciertas de forma incuestionable y orientar la acción en consecuencia.

Sin embargo, los algoritmos de Inteligencia Artificial evalúan las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común solo en un sentido extremadamente débil de la palabra. Se trata de una actividad subsidiaria, guiada por directrices y normas generadas por los seres humanos, que en último término hay que tratar de explicar por condiciones externas al propio algoritmo, que no es más que una herramienta que potencia la capacidad evaluadora del humano que lo utiliza.

Por aclarar esto último con un ejemplo: consideremos un sistema que, mediante Inteligencia Artificial y tomando como input un conjunto de datos personales, nos asignase una carrera universitaria. Supongamos también, para hacer la situación más preocupante, que la decisión del sistema es irrevocable, única y no puede ser discutida. Por supuesto, el algoritmo tiene un valor de verdad que no permite cuestionamiento, y además descansa sobre la evaluación de innumerables características (edad, expediente, gustos personales, plazas disponibles, situación del mercado laboral -y todas las que se nos puedan ocurrir-), pero ese valor de verdad, la conclusión del algoritmo, lo que al final va a orientar la acción de únicamente permitirnos entrar en la carrera que toque, descansa en cómo ha sido entrenado ese algoritmo, y ese entrenamiento es una decisión enteramente humana. Es decir, el régimen de verdad que supuestamente ha emergido de manera novedosa con la Inteligencia Artificial no es tal, o por lo menos no es diferente del valor de verdad del que dispusiera, en nuestro ejemplo, un rector de un college británico del siglo XIX, lo que ocurre es que, simplemente, las herramientas de procesado y análisis de datos son infinitamente más potentes.

El autor destaca que uno de los campos en los que más incidencia está teniendo la irrupción de la Inteligencia Artificial, y que además es usado por sus apologistas como la principal baza en defensa de los beneficios que provee, es la medicina. En relación con este tema, la crítica de Sadin cristaliza en el siguiente párrafo:

Hay que poder ver el retroceso que se opera en el marco de la relación que vincula al cuerpo médico con el paciente, en la medida en que instala un nuevo tipo de verticalidad, no dicha, que impone la verdad objetiva de las experticias y las recomendaciones, y que tiene el valor de enunciados prescriptivos superiormente calificados.[4]

Al margen de que el capítulo dedicado a la medicina[5] fabrica un hombre de paja basado en una concepción de sistemas de Inteligencia Artificial que vienen a sustituir completamente a los profesionales de la atención primaria, es interesante analizar en el pasaje mencionado las cuestiones que para Sadin suponen un retroceso.

Entendemos, por oposición, que lo que el autor caracterizaría como avance, o por lo menos como no-retroceso, sería una relación entre médico y paciente basada en otro tipo de verticalidad -sea esto lo que fuese- o directamente horizontal, y desde luego no guiada por una imposición de la verdad objetiva de las experticias y las recomendaciones. Suponemos, confiando cándidamente en el buen criterio de Sadin, que, cuando acude al médico, se deja guiar por la experiencia del titulado que lo atiende y por los siglos de avances técnico-científicos del campo de la medicina, que probablemente cuenten con atisbos de verdad objetiva, y no pretende discutir de igual a igual el diagnóstico que este profesional le comunique. No entendemos por tanto cuál es el mecanismo que identifica como inaceptable la pretensión de veracidad de un algoritmo en contraposición a la del propio médico. Es más, ¿en qué sentido es criticable que las conclusiones del algoritmo tengan el valor de enunciados prescriptivos superiormente calificados? ¿No es eso precisamente la característica más valiosa de la ciencia médica? ¿No es eso a lo que nos agarramos cuando seguimos las recomendaciones de nuestro doctor?

Sadin también identifica que debido al auge de la computación en lo que llevamos de siglo, hemos entrado en una era antropomórfica de la técnica, en la que la técnica ha abandonado sus pretensiones tradicionales mediante tres cualidades diferenciales, que constituyen ese salto cualitativo tan amenazante. Antes de pasar a los tres antropomorfismos que el autor ha analizado, conviene detenerse un momento en lo que él mismo aduce al respecto de dicha era antropomórfica. Sadin reconoce que, a lo largo de la Historia, el ser humano ha utilizado la técnica para superar los límites impuestos por su morfología, creando herramientas y máquinas que potenciaban, suplían o hacían más precisas nuestras más bien modestas capacidades. Sin embargo, lo que separa las técnicas computacionales del resto de técnicas históricamente desarrolladas por los seres humanos, es que la parte de nuestra condición física cuyo límite queremos superar es el cerebro y todo su repertorio cognitivo.

Al hilo de esta brecha que Sadin establece entre las ténicas computacionales y el resto, los tres antropomorfismos que hemos mencionado previamente, las tres características que generan esta separación son las siguientes.

Por un lado, entiende que se está desarrollando un antropomorfismo aumentado, mediante el cual las técnicas se modelan sobre nuestras capacidades para actuar como palancas que impulsen mecanismos más rápidos, eficaces y fiables. En segundo lugar, este antropomorfismo es también parcelario, puesto que no busca una potenciación holística o integral de las habilidades cerebrales humanas, sino que se adapta a tareas específicas y concretas. Por último, se trata también de un antropomorfismo emprendedor, que ya no se limita a simplemente recoger, clasificar e interpretar conjuntos de datos, sino que estos datos están orientados a la acción, a la generación de acciones automatizadas.

Cabe preguntarse aquí con cierta sorpresa cuál de estos tres atributos no puede aplicarse a la práctica totalidad de nuestros intentos como especie de diseñar herramientas que superen nuestras capacidades. ¿No es acaso un brazo hidráulico una modelización de nuestras propias articulaciones, que consigue aumentarnuestra capacidad de transporte o manejo de materiales? ¿Y una broca para realizar ensayos de dureza Vickers no es una técnica parcelaria, que de poco más sirve si no es para su propósito correspondiente? Es más, ¿un sensor lumínico que enciende las luces del jardín no emprende acciones a partir de cierta interpretación de los datos?

Parece obvio que un filósofo tan inteligente como Sadin no puede pasar por alto esta situación, cuestión que él mismo se encarga de aclarar de una forma un tanto contradictoria más adelante. El autor reconoce que la Inteligencia Artificial no es una innovación más, sino que representa un principio técnico universal, consistente en el análisis robotizado de situaciones, la elaboración de ecuaciones relativas a dichas situaciones, la evaluación de los resultados obtenidos y el emprendimiento de una acción guiada por esos resultados. En realidad, lo que está identificando es que una gran parte de la técnica descansa sobre esquemas algorítmicos. En este sentido, parece no darse cuenta de que lo diferencial de la Inteligencia Artificial con respecto al resto de técnicas humanas es una diferencia de grado, cuantitativa, basada en la capacidad cada vez más grande de almacenamiento y computación.

Merece la pena traer a colación un breve párrafo muy representativo de lo que supone la obra de Sadin, en el que, tras constatar que estos procedimientos algorítmicos, que cada vez se implementan en más áreas de nuestra vida, están consiguiendo reducir o borrar nuestra propia autonomía, dice lo siguiente:

Toma forma un estatuto antropológico y ontológico inédito que ve cómo la figura humana se somete a las ecuaciones de sus propios artefactos con el objetivo prioritario de responder a intereses privados y de instaurar una organización de la sociedad en función de criterios principalmente utilitaristas.[6]

Podríamos estar de acuerdo con todo el párrafo si no hubiese incluido el que para nosotros es uno de sus mayores errores: el considerar que la irrupción de la Inteligencia Aritificial es algo fuera de la Historia humana, algo distinto, excepcional, nunca visto. Nos vuelven a surgir preguntas al leer este pasaje. ¿La figura humana de un soldado de Atenas no se sometía a las ecuaciones de la penetración de una punta metálica espartana en cualquier órgano de su cuerpo, que tenían el objetivo prioritario de responder a intereses privados del hoplita de turno? ¿Las figuras humanas de Nagasaki no tendrían algo que decir respecto a cómo tuvieron que someterse a las ecuaciones de una explosión nuclear que buscaba en último término instaurar cierta organización de la sociedad?

Esta especie de privilegio cronológico de la actualidad frente al resto de épocas, en lo que se refiere a las ciencias y las técnicas y su relevancia en las cuestiones humanas (políticas, morales, éticas, etc.), es una constante a lo largo de todo el texto. Sirva este otro ejemplo para mostrar este empecinamiento del autor:

El alineamiento de los científicos y los ingenieros con la doxa técnico-económica representa un vicio de nuestra época en la medida en que las formas de la pluralidad en el campo de la investigación se ven más asfixiadas.[7]

Creemos que Arquímedes se ofendería bastante si no se le considerase como alineado con la doxa técnico-económica (y, aún más inquietante, militar) de Hierón II, y otro tanto ocurriría con Francis Bacon y su orgullosa connivencia con la política religiosa de Jacobo I.

Por apuntar un par más de cuestiones siguiendo este hilo, hay en esta preponderancia negativa de nuestra época una tendencia a idealizar un supuesto pasado tecno-científico inmaculado, caracterizado por una investigación honesta, limpia, que da rienda suelta a los gustos y creatividades propios de cada individuo:

El mundo de la investigación, que en otros tiempos se constituía por actores movilizados por diversas curiosidades, intereses o tropismos de todo orden, y que favorecía el aporte libre de todos, lo cual era condición necesaria para su vitalidad, hoy se ha convertido en un campo en ruinas de la inventiva, al estar compuesto ahora de individuos que se someten tranquilamente a pliegos de licitaciones predeterminados.[8]

No sabemos en qué ejemplos concretos está pensando Sadin para justificar este atrevido alegato, pero caracterizar la época actual de las ciencias computacionales como campo en ruinas de la inventiva es directamente falso, y precisamente entra en contradicción con su ya mencionada idea de que se trata de una técnica que se está abriendo paso en virtualmente todas las áreas de nuestra existencia, creando modelos nuevos y algoritmos más potentes y a su vez alimentando el vertiginoso desarrollo del hardware necesario para ello. Además, cuesta descifrar en qué época histórica la investigación ha constituido esa torre de marfil, en la que cada miembro dispone de su aislada habitación, alejado de inoportunas influencias, para poder desarrollar sus inquietudes técnico-científicas. Podemos añadir además que desvincular las diversas curiosidades, intereses o tropismos de todo orden de cada individuo respecto de las condiciones sociales en las que los mismos insertan su actividad científica supone de facto un idealismo que compraría cualquier miembro de la Escuela Austriaca, un hecho del que el propio Sadin no estaría muy orgulloso, dadas las coordenadas ideológicas desde las que escribe. Su paisano Latour haría bien en darle una colleja materialista. De hecho, es curioso que al comienzo del apartado dedicado a una breve historia de la informática, el autor precisamente critique esa perspectiva historiográfica consistente en entender a los investigadores como entes aislados, hechos a sí mismos y ajenos a la estructura social en la que se entretejen, al hacer una revisión crítica de figuras como Elon Musk o Mark Zuckerberg. Su propuesta podría ser mucho más potente si identificase ese mismo problema en su visión idílica de las épocas previas a la contemporaneidad.

Aunque lo hemos esbozado brevemente más arriba, conviene centrarse ahora en el análisis de Sadin de las cualidades que diferencian a la Inteligencia Artificial y la hacen separarse de la historia de la informática al suponer una ruptura conceptual con los desarrollos pasados. Se trata, por ponerlo en sus palabras, de la emergencia de una aptitud interpretativa, también denominada más adelante facultad cognitiva, que nos indica que las máquinas han dejado de ser simples apoyos para la recolección, clasificación y manejo en general de datos, para convertirse en entes que evalúan las propiedades de ciertas situaciones y revelan fenómenos enmascarados a nuestra conciencia.[9] Para nosotros, esta visión un tanto mítica de las capacidades de la Inteligencia Artificial viene marcada por una ignorancia del fundamento teórico del funcionamiento de los algoritmos utilizados en esta disciplina, y, desde luego, el vocabulario utilizado no ayuda al lector desprevenido a saber qué hace realmente un algoritmo de Inteligencia Artificial y cuál es el papel del humano en su funcionamiento. La Inteligencia Artificial no tiene ninguna aptitud interpretativa de por sí, al margen de la persona que la ha diseñado. Cualquier algoritmo necesita información externa que haya sido previamente catalogada o identificada de alguna manera por un humano: una serie de imágenes etiquetadas como “peatón en la calzada” para un coche autónomo, un conjunto de datos biométricos referentes a pacientes que hayan o no desarrollado un tipo de cáncer, un grupo de canciones con información relativa a su autor o movimiento artístico para entrenar a un algoritmo que componga nuevos temas, etc. Lo que Sadin llama facultad cognitiva, o eso de revelar fenómenos enmascarados a nuestra conciencia, no es más que ocultar bajo denominaciones sugerentes la aplicación de modelos matemáticos (que, por cierto, obviamente también hemos creado y afinado nosotros) a conjuntos de datos cada vez más grandes y complejos. No hay ningún salto cualitativo en lo que las máquinas están consiguiendo hacer, simplemente un crecimiento brutal en su capacidad de procesamiento y de análisis, cada vez más rico y variado gracias al desarrollo de la ciencia de datos.

Una de las críticas que podemos considerar acertadas es la constatación del autor de que el léxico predominante en el campo de la Inteligencia Artificial, en el que se abusa de referencias a mecanismos cerebrales (redes neuronales, capas de neuronas, sinapsis) con el objetivo de dar una capa de barniz naturalista y orgánico al desarrollo informático, supone una elección bastante desafortunada. No obstante, hay un matiz importante que lamentamos que el autor haya pasado por alto. Para él, este vocabulario que abusa del prefijo “neuro” como técnica casi de marketing, es criticable porque es funcional al uso de la Inteligencia Artificial por parte de los organizadores de la sociedad, que conscientemente la enmarcan dentro de su programa de racionalización y desarrollo capitalista, en el que la máquina de lo social alcanza su funcionamiento óptimo cuando se garantiza una adecuada capacidad del cerebro que la controla. Podemos estar de acuerdo aquí con el autor, aunque nuestra línea de crítica es algo distinta; los términos elegidos para ciertas partes de la Inteligencia Artificial, o incluso este mismo, pierden en precisión y claridad conceptual lo que ganan en prestigio y fascinación divulgativas. Denominar un cierto elemento como “red neuronal” nos invita a fantasear con una estructura compleja de transmisiones de información que dispone de capacidad de pensar, y podemos sentirnos decepcionados cuando nos damos cuenta de que se trata de un procedimiento matemático recursivo basado en el cálculo diferencial y las regresiones lineales. Por eso es tan importante que cualquier filósofo de la técnica, y más aún de la informática y las ciencias de la computación, como Éric Sadin, aporten rigor científico y aclaración conceptual a los elementos que analizan, en vez de saltarse ese paso y dirigirse directamente a las funcionalidades económicas, sociales y políticas de los artefactos estudiados.

Al hilo de esta necesidad de presentar los fundamentos teóricos sobre los que descansa la Inteligencia Artificial, el capítulo dedicado al estudio del Machine Learning[10]deja bastante que desear. Al batiburrillo conceptual que nos introduce el autor al respecto del aprendizaje supervisado, no supervisado y por refuerzo (por ejemplo, identificando como sinónimos los dos últimos términos), en el que en ningún caso se molesta en explicar la diferencia entre los mismos, hay que añadirle un cierto tremendismo alarmista al respecto de las capacidades de las que disponen los algoritmos de Machine Learning. Merece la pena trascribir uno de los párrafos para ejemplificar lo que apuntamos:

Entramos en la era de la “posprogramación”: la programación suponía alinear secuencias de códigos con vistas a ejecutar tareas definidas y sistematizadas. Pero ya no vivimos solamente en la era de las instrucciones dadas a protocolos, en su sentido literal, sino en la era de scripts que, una vez escritos, desarrollan su propia gramática en función de la “vida” de cada uno de ellos, haciéndoles adquirir una “personalidad” singular. Se manifiesta una nueva forma de autonomía que no es solamente la provocada por facultades autodecisionales (…) sino que es una forma de autonomía actualmente en devenir que resulta de la licencia que se otorga a las inteligencias artificiales para trazar su “propio camino” y luego diferenciarse conforme a su propia “experiencia”.[11]

Habría que utilizar muchísimas más comillas de las que utiliza el autor para poder asignar a los algoritmos de Inteligencia Artificial algo medianamente cercano a los conceptos de vida, personalidad, propio camino o experiencia. Como alegorías, rayando en el liricismo, son muy ocurrentes y estimulan nuestra imaginación. Ahora, si después de haber criticado el uso de cierto léxico por funcional al enmascaramiento de la verdadera esencia de la Inteligencia Artificial, se nos vende que ésta puede entenderse como poseedora de estos atributos humanos, consideramos que se ha perdido toda pretensión de exactitud y rigor que corresponde a un tema tan serio. Creemos que el autor debe elegir uno de los dos caminos: o apuesta por la misa de la representación metafórica de tintes continentales para reforzar sus trazas de alarmismo, o se pone a repicar con un análisis técnico y esclarecedor de los fundamentos teóricos de las ciencias de la computación.

No queremos detenernos excesivamente en la tercera parte del libro[12], puesto que en nuestra opinión es la sección más nebulosa, sin una relevancia clara en el discurso lógico del texto, pero es útil en tanto que deja atrás una lectura antropológica de la Inteligencia Artificial para adentrarse en la esfera estrictamente política de la misma.

De manera continuada, a lo largo de la obra, el autor ha ido señalando que el social-liberalismo (sic), al que también denomina tecno-liberalismo, ha encontrado la herramienta perfecta, de la que no disponía antes, para ejercer de forma cada vez más extendida un control de la actividad social; control que se basaría en una racionalización de ciertos sectores de la sociedad (…) haciendo advenir una “era de la racionalidad extrema”.[13]En línea con esto, al hablar de cómo en la actualidad el Estado ha puesto a disposición pública ingentes cantidades de datos estadísticos sobre el comportamiento de la población, Sadin expone lo siguiente:

El objetivo declarado no consiste solamente en hacer accesibles todo tipo de informaciones relativas a las propias actividades, sino que prioritariamente consiste en autorizar su explotación con vistas a estimular la oferta de nuevos servicios. (…) Esta lógica supone no solamente que el mundo económico ya no está situado a la distancia justa de la organización de los asuntos en común, sino más todavía, que se beneficia de la colaboración del Estado, que le permite hacer más intensos los vínculos con las personas.[14]

Este pasaje nos hace preguntarnos en qué época histórica el mundo económico ha estado situado a cierta distancia de la organización de los asuntos en común. Esa visión de la economía y la administración pública como dos sectores estancos, aislados el uno del otro y sujetos a ser analizados independientemente es una perspectiva intelectualmente muy pobre, y realmente preocupante en un autor que cita a los clásicos marxistas tan profusamente. Entender que es gracias a la Inteligencia Artificial que los agentes económicos privados se benefician de la colaboración del Estado, por el hecho inane de que exista la publicidad de las estadísticas, es un error a nivel historiográfico.

Esta transformación digital del Estado va de la mano, para el autor, de un cambio en el estatuto del ciudadano. No sabemos cuál es el estatuto de ciudadanía en el que nos encontrábamos antes del advenimiento de la era digital, porque el autor no ha tenido a bien realizar esa comparación, pero sí que hace un detallado análisis de en lo que implica ser ciudadano hoy: convertirnos en clientes que utilizan servicios y simplemente buscan ver garantizada su satisfacción. La endeblez teórica de esta caracterización sociológica viene bien demostrada en el siguiente párrafo:

Hasta tiempos muy recientes, la política (…) suponía perfeccionar la igualdad de derechos, trabajar en los avances sociales, sostener la educación, permitir un acceso universal a salud (sic), favorecer a la cultura. De ahora en adelante el desafío consiste en reducir los costos, dejar actuar a los sistemas y hacer como si todos pudiéramos beneficiarnos relativamente de distintos servicios en cada secuencia de la vida cotidiana.[15]

Al margen de la idealización de la política previa a nuestro presente y de la falta de claridad en la comparación con la política actual y futura (¿qué será eso de dejar actuar a los sistemas?), la argumentación del autor se descalabra a continuación, cuando encuentra esta divertida situación para sustentar su enfoque:

Un ejemplo es aquello en lo que se están convirtiendo las bibliotecas, que ya no son lugares de lectura de libros y periódicos que ofrecen momentos propicios para los descubrimientos y para la adquisición de conocimientos en un marco favorable a la reflexión y en una atención serena, sino que se convierten en espacios en donde ahora se proponen cursos de yoga, donde se hacen relatos de los propios viajes, donde se toman cafés o jugos de fruta y en donde hay intercambios de acuerdo con la nueva doctrina de la vida social basada en el primado del bienestar y la expresividad de uno mismo.[16]

Siendo condescendientes, en el peor de los casos esto es otra muestra más de la falta de seriedad a la hora de extraer conclusiones y fundamentarlas teóricamente, y en el mejor una pequeña licencia que se ha tomado Sadin para exorcizar alguna mala experiencia haciendo yoga en la biblioteca de su barrio. En ambos casos es una mezcla de churras con merinas, un intento de achacar a las ciencias de la computación y a la Inteligencia Artificial algo completamente ajeno a ellas.

Por otro lado, hay una argumentación bastante curiosa que se deja traslucir en todo el escrito de Sadin, pero que éste tampoco acaba de enunciar explícitamente, y es la caracterización negativa de la vocación de organizar y ordenar la sociedad. Este ímpetu de control integral, que se vería enormemente impulsado por la Inteligencia Artificial y la ciencia de datos, es para el autor un elemento característico del capitalismo (incluso del capitalismo dirigido (sic) en el que enmarca a China):

Vemos relanzada la teoría de la “física social”: Auguste Comte la designaba como la “ciencia de las sociedades”, y había precedido a la “ciencia de los hechos sociales”, que tomó el nombre de sociología. La primera habría creído en la posibilidad de erigir una cartografía casi total de los fenómenos humanos, que entonces podían ser ordenados según ciertas reglas. (…) Vivimos la era de la voluntad de modelar nuevamente los hechos sociales.[17]

Esta visión crítica del interés humano por controlar en el mayor grado posible su propio desarrollo está en connivencia absoluta con las tesis defendidas por autores como Hayek, hasta el punto de haber elegido la misma figura explicativa: Auguste Comte.[18]Destacamos esto, con un reconocido riesgo de caer en lo ad hominem, porque creemos que una filosofía de la computación y de la Inteligencia Artificial que parta de postulados humanistas no puede embestir ciegamente contra la propensión y la vocación de control de ciertas áreas de la sociedad, como puede ser la planificación económica. La crítica tiene que ser quirúrgica, analítica; la vocación humana de controlar cada vez más su propio destino no es per senegativa, eso implica caer en un esencialismo inútil. Se debería tratar de estudiar qué tendencias concretas dentro de la Inteligencia Artificial apuntan a posibles transgresiones de nuestros derechos fundamentales, y cómo operan los resortes políticos de los que disponemos para compensar dichas tendencias, en vez de despachar de un plumazo los avances en computación etiquetándolos como la implementación de una fantasía de civilización que aspira a que todo funcione al unísono en vistas a construir un universo desprovisto de fallas, indefinidamente dinámico y perfectamente autorregulado.[19]

Una de las desafortunadas vetas de la tesis de Sadin, que ya hemos vislumbrado, es el concebir la Inteligencia Artificial como una herramienta muchísimo más potente de lo que hoy es. Al otorgarle capacidades y potencias muchísimo mayores a las que realmente tiene, su caracterización se colorea más fácilmente de tintes preocupantes, y se presta mucho más a las inquietantes metáforas que nos brinda el autor. Ejemplo de todo ello es la sección que dedica a la supuesta desaparición de lo real.[20] En ella encontramos no pocos encumbramientos de nuestra capacidad de desentrañar los mecanismos que gobiernan la realidad, gracias a los sensores que recopilan datos de cada vez más aspectos de nuestra existencia. Estamos cada vez más cerca de descifrar los fenómenos que nos rodean y de los que somos partícipes, lo que supone eliminar de la realidad esa pared de incognoscibilidad contra la que el ser humano se ha estrellado durante toda su historia, hasta hoy. En palabras del autor:

Detentamos un dominio creciente en nuestra relación con lo real, ya que de ahora en adelante podemos plegarlo a nuestros deseos, a nuestras exigencias, someterlo a nuestras categorías, y pronto no nos opondrá ninguna resistencia. (…) Lo que se ve redefinido entonces es el sentido de la acción humana, y más ampliamente el de nuestra humanidad, ya que nos vemos liberados de la duda y del peso de la responsabilidad.[21]

Como ya hemos dicho, es un lugar común del texto el erigir hombres de paja contra los que luego es muy fácil cargar. Esta concepción de Sadin del nivel que hemos alcanzado en el desarrollo de algoritmos y la implementación efectiva, realmente existente, de la Inteligencia Artificial, recuerda al meme del perro musculado, que representaría la existing Artificial Intelligence, enfrentado al ejemplar raquítico y triste, en el que la actual Artificial Intelligence se vería encarnada.

El último capítulo del libro[22], que deja un tanto de lado la intención explicativa para tomar explícitamente un carácter propositivo, es quizá el más acertado de todo el texto, en cuanto aquí el autor parece encontrarse más cómodo vehiculando a través de la crítica sociológica el juicio al establishment científico-técnico y su comportamiento estructuralmente funcional a la búsqueda de beneficio económico de las grandes corporaciones. Está escrito en un lenguaje provocativo que aquí sí encaja a la perfección, y dota a esta última parte de un cierre a modo de manifiesto que casi consigue hacer olvidar todos los errores conceptuales que han ido quedando diseminados y que hemos analizado en esta reseña.

Para finalizar, queremos reincidir en la importancia de una filosofía crítica de la Inteligencia Artificial, y en este sentido el de Éric Sadin es un aporte que no debe ser pasado por alto, pero dicha filosofía tiene que partir siempre de un conocimiento técnico lo más preciso posible, que sirva de cimiento conceptual para a partir de ahí evaluar cuáles son los elementos positivos a conservar, cuáles deben ser atacados y de cuáles aún no tenemos información suficiente como para emitir aseveraciones consistentes.

[1] Sadin, É. (2021). La Inteligencia artificial o el desafío del siglo: anatomía de un antihumanismo radical. Buenos Aires, Caja Negra. Traducción de Margarita Martínez. En adelante, las notas al pie que apunten el número de páginas sin otra indicación se refieren a la obra mencionada. [2] p. 17 [3] p. 95 [4] p. 134. [5] pp 125-136. [6] p. 21. La negrita es nuestra. [7] p. 31. [8] p. 41. [9] pp. 57-58. [10] pp. 71-80. [11] p. 77. Comillas del autor. [12] pp. 153-191. [13] p. 162. Comillas del autor. [14] p. 208. [15] p. 210. [16] pp. 210-211. [17] pp. 225-226. [18] Para profundizar en esta coordinación de las tesis de Sadin con la crítica liberal/libertaria véase Von Hayek, Friedrich A. (2003). La contrarrevolución de la ciencia: estudios sobre el abuso de la razón. Madrid, Unión Editorial. [19] p. 231. [20] pp. 247-258. [21] p. 249. Cursivas del autor. [22] pp. 261-311.