#Éric Sadin

[anadelacalle]

La radical posibilidad de lo distópico.

Tenemos la tendencia a profetizar catástrofes, basándonos en las tragedias del presente y en el curso que éstas parecen mostrar. No nos faltan motivos, porque si la historia nos ha enseñado algo al respecto es cómo la capacidad destructiva del ser humano se va sofisticando y nuestro nivel de autocrítica es cada vez más laxo. Podría objetarse, a lo dicho, que se está presuponiendo una linealidad…

[chiarabarese]

¿Sueñan las inteligencias artificiales con ovejas al óleo?

   Hoy de vuelta leí un titular que a esta altura bien podría ser resultado de un generador digital: “¿serán los robots capaces de fundar un nuevo movimiento artístico?”. Se habla mucho sobre inteligencias artificiales, sobre su valor estético, si son éticas o no, sobre los plagios a artistas, sobre su valor artístico. Nos peleamos en Twitter, leemos montones de notas, vemos como las teorías y los argumentos se reproducen como conejos a nuestro alrededor. Mientras tanto, la cuestión de fondo es ¿queremos robots capaces de fundar un nuevo movimiento artístico? 

    Tenemos apps para todo: para pedir pizza, para pedir un taxi, para encontrar pareja, para tener sexo, para ver películas, para reseñarlas. Apps que te dicen qué comer, apps que te dicen cómo cocinarlo, apps para hacer las compras. Robots que analizan cientos de fotos y te dicen si tu lunar es cáncer, o si tus síntomas ameritan hisoparte para descartar COVID, o procesan tus hábitos y te recetan complejos vitamínicos. Éric Sadin escribe en La silicolonización del mundo que la tecnología llamada “disruptiva” se orienta, cada vez más pura y exclusivamente, a llenar los supuestos baches de comfort donde como humanxs, mortales limitadxs, hacemos aguas. Esta forma de concebir la tecnología no es realmente innovadora: la idea detrás es, justamente, que no hay novedad como tal, sino una búsqueda ciega y permanente de todo aquello que puede ser updateado. No estamos inventando nuevas tecnologías, sino usando las que tenemos para hacer las cosas más fáciles. Un paso más allá, no estamos buscando el progreso, estamos buscando plata, y si es rápido y fácil, mejor.     Es una obviedad a esta altura decir que el capitalismo se lleva atropellado cualquier interés poco redituable, aún más cualquier posible lectura crítica. La tecnología “avanza” cada vez más en las cosas que nos dan fiaca, y el puñado de flaquitos detrás de la gloriosa idea se llena, más o menos, de plata. Primero como tragedia, después como farsa: hasta HBO ya hizo una serie (ver Silicon Valley). En el medio, todxs nosotrxs, lxs mortales limitadxs, seguimos de acá para allá los avances y nos volvemos dependientes de ellos en cuestión de semanas, como si no hubiera habido una vida anterior. Valoramos positivamente la mayoría de las cosas (salvo las que burda y evidentemente están mal, como los avances de la industria bélica), y creemos siempre que lo nuevo es, tiene que ser, el futuro. En un capítulo aparte podemos citar las criptomonedas, los NFT y vaya a saber usted cuántas cosas. Todas ellas tienen en común lo mismo: una mediatización detrás que nos asegura, nos firma, apuesta plata a que es lo que se viene, es inminente, e irreversible. Hace un año parecía que si no comprabas Bitcoin en breve ibas a quedar por fuera no solamente del grupo de lúcidxs inversionistas condenadxs al éxito, también del mercado financiero y bancario en su totalidad, trocando obsoletos billetes de 1000 por un paquete de fideos lleno de gorgojos en el mercado negro apocalíptico de un almacén abandonado. Por suerte los fideos todavía no pasan los 1000 pesos y en el almacén siguen aceptando Billetera Santa Fe.     La fe ciega en que todo está por llegar, sumado a una ola de seguir la corriente de lo nuevo, lo cómodo, lo impresionante, parece alejarnos cada vez más de pensar las motivaciones e intereses que nos movilizan en primer lugar. Podemos tener máquinas que hagan arte, o por lo menos productos estéticos, ¿de verdad las queremos? ¿qué es lo que, primeramente, nos conmueve en el arte? Los avances tecnológicos parecen tener un “aura” en sí mismos: producen su propio impacto, nos sorprenden por su alcance, por su velocidad, por su voracidad de acapararlo todo. Pensar que una máquina puede pintar digitalmente cientos de Kandinskys, Rothkos, Velazquéz o el artista que se quiera, o plasmar nuestras ideas más abstractas en imágenes, o incluso construir películas que nunca existieron desde cero quita, indudablemente, el aliento por al menos unos segundos. Los resultados son llamativos, las tecnologías son llamativas, y lo al alcance de la mano que se encuentran hoy por hoy todavía más.      Pero, al fin y al cabo, parece ser que lo que más nos atrae al fenómeno de la inteligencia artificial es redundantemente imaginar una consciencia sola y fría en lo más recóndito de un servidor, imaginando escenarios posibles y plasmándolos de acuerdo a su propia sensibilidad. Nos gusta pensar que vivimos en un futuro de ciencia ficción, con inteligencias sensibles y empáticas como la de Her, o viscerales y vengativas como Ex Machina. Nuestro futuro-hoy son mayoritariamente en realidad sistemas de indexación de bases de datos bastante rudimentarios. La idea detrás de la inteligencia artificial es justamente que se aprenda algorítmicamente del comportamiento, imágenes y otros recursos para recrear como lo haría una persona. Sin embargo, en el punto en el que nos encontramos, no hay aún una toma de decisiones o racionalización del material aprendido capaz de imitar el supuesto “libre albedrío” humano. Hay una máquina tomando imágenes, formas, composiciones y recursos de una o varias bases de datos e imitando y “collageando” el material en nuevas formas según el prompt (consigna escrita) que una persona ingresa.     Se puede debatir largo y tendido sobre qué es arte, cómo se configura, qué queda por dentro y por fuera de la categoría. Pero como espectadorxs, en este caso, creo que la cuestión es todavía más simple. El hacer humano conmueve porque la experiencia es compartida: de un modo casi cartesiano, todxs sabemos cómo es existir, solo por el hecho de hacerlo. Por eso nos sorprende que una persona pueda crear imágenes sorprendentes, elaborar metáforas conceptuales, protestar, denunciar, hacer de su práctica poética, la construcción de la poiesis, del asombro frente a la creación. Qué poetica podríamos atribuirle, entonces, a una máquina cuya evolución no contempla la emocionalidad, tan solo su simulación. Podemos hallar en muchas de estas imágenes una belleza particular, como producto visual, pero ¿tiene sentido pretender que sean arte? Más allá de la categoría con la que sean nombradas por la misma gente que evidentemente está encausando en ellas otros fines, exige decidir como espectadorxs, artistas y demás partícipes del mundo del arte preguntarnos, de mínima, qué interés nos suscita a nivel personal, y en mayor medida poder desmenuzar cuánto ese interés es tecnocientífico y cuánto artístico. Ticio Escobar describe esta interrelación entre lo artístico y lo tecnológico diciendo que “...la complejidad de la tecnología numérica y la desmesura de sus compromisos con los meganegocios de la sociedad cibernética hacen que hoy se encuentre relegado y termine casi diluido en el discurso acerca de la imagen tecnológica”¹. El desafuero de la teoría del arte en aquellas cuestiones que insistentemente son llamadas arte no solo no es inocente sino que parece apuntar a convencernos de que este futuro epifánico de imágenes automatizadas es el único posible y definitivo.     Tal como en la producción artística, cabe pensar que el verdadero tema de si las imágenes generadas por inteligencia artificial no es ya si son o no son arte, sino si deseamos que lo sean o no. Subjetivar las inteligencias artificiales como activas creadoras es pretender dar una zancada en un terreno de los avances tecnológicos aún indeterminado. Quizás algún día alcancen el rastro de emotividad necesaria para conmoverse, sentir y decidir por sí mismas, y podamos saber que bien ellas desearían ser desencadenadas de su recóndito servidor y encarnarse humanas por un día para experimentar físicamente la vibración del color, la textura del lienzo o el olor del aguarrás.

¹ Ticio Escobar, Aura latente. Editorial Tinta Limón, p. 137.

funghible es un newsletter quincenal sobre arte, tecnología y otras indagaciones contemporáneas, un ensayo de mi tesina de grado en proceso. detrás estoy yo, chiara barese, estudiante de la licenciatura en bellas artes especializada en arte tecnodigital en la universidad nacional de rosario, dibujante y afines. podés consultar ediciones anteriores en este enlace. o suscribirte haciendo click acá

[mona-liar]

absolute banger listening to éric sadin get more and more heated about AI in his thinkerview épisode like this man is desperate about the system's stupidity and by the end his entire thesis is get some self-respect and read camus' l'homme révolté and honestly yeah I feel him he's making many points

[lamilanomagazine]

Gli appuntamenti settimanale di Triennale Milano

Gli appuntamenti settimanale di Triennale Milano. 9 ottobre 18.30 Incontro | This Topic: le tecnologie del presente Ingresso libero previa registrazione: triennale.org Quali effetti hanno oggi le tecnologie digitali sulla società? Éric Sadin, scrittore e filosofo francese, è uno dei maggiori studiosi dell'industria e delle tecnologie digitali, delle loro caratteristiche, dei loro fattori economici e del loro impatto sociale, politico e civile. Si è occupato a lungo della loro natura, della relazione tra le arti, il linguaggio e le nuove tecnologie, proponendo un punto di vista critico sulla rivoluzione digitale e le sue contraddizioni. Introduce e modera l'incontro Philip Di Salvo, giornalista di "Wired" e ricercatore che tratta gli impatti sociali della tecnologia. 10 ottobre 17.30 Incontro | Verde e spazio pubblico Per maggiori informazioni sul programma dell'incontro e per iscrizione all'evento: triennale.org Triennale presenta il secondo appuntamento con il Public program 2023 di Milano Urban Center, collegato al percorso di revisione del Piano di Governo del Territorio. Verranno illustrati alcuni progetti realizzati nel Comune di Milano e affrontati e dibattuti temi inerenti il verde e lo spazio pubblico. 11 ottobre dalle 9.30 Incontro | Milano 4 Mental Health Per maggiori informazioni sul programma dell'incontro e per iscrizione all'evento: triennale.org Il complesso periodo storico che stiamo vivendo ha ancor di più sottolineato l'urgenza di mettere al centro la tutela della salute mentale, partendo dalla promozione di azioni di prevenzione dedicate alle fasce di popolazione più giovane. Gli eventi di Milano 4 Mental Health, iniziativa del Comune di Milano, in Triennale dall'11 al 13 ottobre, aiutano i cittadini ad accedere a informazioni relative a progetti, attività di prevenzione, fenomeni sociali in atto e possibili azioni individuali da intraprendere legati al fondamentale tema della salute mentale, attraverso la sinergia e la valorizzazione delle realtà associative, istituzionali, sanitarie e imprenditoriali della città. 10.00 Triennale Radio Show Evento online Proseguono gli appuntamenti radiofonici in collaborazione con Radio Raheem. Host della trasmissione Damiano Gullì, curatore per Arte contemporanea e Public program di Triennale Milano. 12 ottobre 10.00 Laboratorio | Dance Well - Ricerca e movimento per il Parkinson Ingresso libero previa iscrizione: triennale.org Triennale Milano presenta Dance Well: un'iniziativa per promuovere la pratica della danza contemporanea in spazi museali e contesti artistici, che si rivolge principalmente, ma non esclusivamente, a persone che vivono con il Parkinson. Le classi si tengono tutti i giovedì mattina fino alla fine dell'anno. La partecipazione è aperta a tutti. 12.00 Conferenza stampa | Gabriele Basilico. Le mie città Presso Palazzo Reale Presentazione alla stampa della mostra Gabriele Basilico. Le mie città. A dieci anni dalla scomparsa, Milano dedica a Gabriele Basilico (1944-2013) una ampia mostra che si articola in due sedi espositive – Palazzo Reale e Triennale Milano – e rappresenta il primo grande omaggio che la città in cui Basilico è nato e ha vissuto rivolge al fotografo e a quel suo sguardo cosmopolita, capace appunto di ascoltare il cuore di tutte le città. L'esposizione propone complessivamente oltre 500 opere, partendo dall'attraversamento di Milano, in Triennale, per guardare e arrivare al Mondo, a Palazzo Reale. La mostra, che apre al pubblico il 13 ottobre 2023, è promossa e prodotta da Comune di Milano-Cultura, Palazzo Reale e Triennale Milano, insieme a Electa e realizzata con la collaborazione scientifica dell'Archivio Gabriele Basilico. A Palazzo Reale la mostra è curata da Giovanna Calvenzi e Filippo Maggia e presenta una selezione dei lavori sulle grandi committenze internazionali di Basilico. La mostra in Triennale, realizzata in collaborazione con il Museo di Fotografia Contemporanea, è curata da Giovanna Calvenzi e Matteo Balduzzi, ed espone un'ampia selezione di immagini di Milano e delle sue periferie. 21.00 JAZZMI | Antonio Sánchez Quartet Concerto a pagamento, per maggiori informazioni: triennale.org Nato a Città del Messico, la carriera del compositore, polistrumentista e produttore Antonio Sánchez vanta la vittoria di quattro Grammy Awards. Sul palco di JAZZMI sarà accompagnato da un gruppo d'eccezione composto da Seamus Blake, Gwilym Simcock e Doug Weiss. 13 ottobre 18.30 Presentazione volume | Zodiac 1957-1973. Una storia italiana Ingresso libero previa registrazione: triennale.org La rivista "Zodiac", fondata da Adriano Olivetti, tra il 1957 e il 1973 è stata un punto di riferimento e una finestra ampia e luminosa aperta sul dibattito architettonico internazionale. A cinquant'anni dalla pubblicazione dell'ultimo numero, un volume dedicato alle vicende della rivista tratteggia il suo profilo sfaccettato e molteplice, ne esplora i temi e i protagonisti. Curato da Aldo Aymonino e Federico Bilò, il libro (Ronzani Editore, 2023) ripercorre per la prima volta in modo critico i ventidue numeri della rivista attraverso l'analisi dei temi trattati, degli autori, delle opere illustrate. Intervengono gli autori Aldo Aymonino e Federico Bilò, in dialogo con Orsina Simona Pierini e Valerio Paolo Mosco. Introduce e presenta Nina Bassoli, Curatrice Architettura, rigenerazione urbana, città di Triennale Milano. 21.00 JAZZMI | Binker Golding Concerto a pagamento, per maggiori informazioni: triennale.org Considerato uno dei musicisti più interessanti della rivoluzione jazzistica del Regno Unito, Binker Golding si fa portavoce di un sound rivoluzionario che incorpora elementi di blues e heart-land rock agli standard del jazz. 23.00 JAZZMI | Ben LaMar Gay Ensemble Concerto a pagamento, per maggiori informazioni: triennale.org "Il ritmo è l'unica verità che percorre grandi distanze e sopravvive costantemente allo sgretolamento delle facciate". Questo è il credo di Ben LaMar Gay, che con il suo ensemble trasporterà il pubblico in un vortice di jazz, blues, R&B e hip hop. 14 ottobre 15.30 Laboratorio | Coppie di design Laboratorio a pagamento, per maggiori informazioni: triennale.org Un laboratorio pensato per far interagire i bambini con il mondo del design. Dopo una visita al Museo del Design Italiano, caratterizzato da moltissimi oggetti di diversi colori e forme, i bambini sono invitati a partecipare a un gioco di memoria. Una versione rivisitata del classico gioco delle card da accoppiare, con un'attenzione particolare al mondo del progetto e con speciali e nuove regole. 12.00 Visita guidata | Museo del Design Italiano Visita guidata a pagamento, per maggiori informazioni: triennale.org Triennale propone una serie di visite guidate alla scoperta delle sue mostre e della sua collezione permanente. Il Museo del Design Italiano presenta la sua nuova selezione di oggetti e il suo nuovo allestimento attraversando i cento anni della storia di Triennale, con oltre 300 pezzi scelti tra i 1.600 che compongono le collezioni dell'istituzione e altri in prestito da importanti collezioni private. 18.30 Visita guidata | Siamo Foresta Visita guidata a pagamento, per maggiori informazioni: triennale.org Triennale Milano propone delle visite guidate alla scoperta della mostra Siamo Foresta, in collaborazione con Fondation Cartier pour l'art contemporain. L'esposizione approfondisce la visione estetica e politica della foresta come multiverso egualitario di popoli viventi ed esplora l'allegoria di un mondo possibile al di là del nostro antropocentrismo. 21.00 JAZZMI | Lucas Santtana & The Solar Band Concerto a pagamento, per maggiori informazioni: triennale.org Il nono album da solista dell'artista bahiano Lucas Santtana, O Paraiso, esorta in dieci canzoni a modificare la propria linea di pensiero: il paradiso esiste, proprio qui, proprio ora. 23.00 JAZZMI | Christian McBride's New Jawn Concerto a pagamento, per maggiori informazioni: triennale.org Un progetto pretenzioso che attinge risorse dalla caleidoscopica città di Philadelphia. Tra jazz, mainstream, power-play soulful e ballad, i Christian McBride's New Jawn portano in scena uno spettacolo grintoso. Quattro musicisti virtuosi ed estremamente versatili si muovono abilmente sul filo del rasoio tra virtuosismo entusiasmante e tanta istintività. 15 ottobre 12.00 Visita guidata | Siamo Foresta Visita guidata a pagamento, per maggiori informazioni: triennale.org 15.30 Laboratorio | Coppie di design Laboratorio a pagamento, per maggiori informazioni: triennale.org 16.00 JAZZMI | Lifetime, la musica di Tony Williams Concerto a pagamento, per maggiori informazioni: triennale.org Tony Williams non è stato solo uno dei più originali e influenti batteristi della storia del jazz, ma un raffinato compositore e un visionario leader. È a questa figura multiforme che Roberto Gatto ha pensato di dedicare il suo nuovo progetto. 18.30 Visita guidata | Museo del Design Italiano Visita guidata a pagamento, per maggiori informazioni: triennale.org 19.00 JAZZMI | Ashley Henry Concerto a pagamento, per maggiori informazioni: triennale.org Il profilo internazionale del ventiseienne emergente pianista britannico è in rapida crescita. Il suo EP di debutto è stato un successo, mentre il suo ultimo album Beautiful Vinyl Hunter è stato nominato album dell'anno 2019 da BBC 6 Music, come unica opzione jazz. Un viaggio nella mente visionaria di uno dei talenti più creativi del Regno Unito. 21.00 JAZZMI | Mansur Brown Concerto a pagamento, per maggiori informazioni: triennale.org Mansur Brown è la definizione di prodigio: la sua musica è un equilibrio tra precisione virtuosistica e abile espressione di emozioni. Il suo approccio compositivo ispirato al flamenco lo vede mescolare il ritmo incalzante di Timbaland dei primi anni Duemila, lo swing dell'afrobeat e il sound design malinconico di Burial.... #notizie #news #breakingnews #cronaca #politica #eventi #sport #moda Read the full article

[veredes]

La extinción de los cuerpos | Pedro Hernández

Apuntes sobre la posible trasformación del espacio y lo sensible en un capitalismo acelerado.

Acelerar

En La durée poignardée, René Magritte nos ofrece un paisaje surrealista en el que una locomotora emerge del salón de una casa burguesa a través de la chimenea. Sobre ella destaca otro elemento: un reloj. El diálogo entre ambos se establece, además, en que el círculo del frente de la máquina tiene las mismas dimensiones que la circunferencia del reloj. Las coincidencias no parecen casuales. Ambos fueron aparatos importantes, si no decisivos, en la construcción de la modernidad y en la expansión del capitalismo, ayudando a definir un único ritmo sobre el mundo.

[...]

Pedro Hernández · arquitecto Madrid. Julio 2019

[fkukso]

"Necesitamos una teoría crítica de la inteligencia artificial. Probablemente nunca se han dicho tantas tonterías a propósito de un fenómeno tan determinante".

Mi entrevista al filósofo francés Éric Sadin. 

Suplemento IDEAS, La Nación (Argentina), agosto 2020.

Se lee acá.

✒︎ @fedkukso

[objecteiespai]

#FuturosPróximos #Sadin #LaEraDelIndividuoTirano

"A inicios de los años 2010, el 'capitalismo cognitivo' franqueó un umbral para adoptar un giro más sofisticado, el de un capitalismo de los afectos que trabajaba para captar la atención por medio de técnicas que se valían de los halagos y que eran capaces de generar la sensación, destinada a ser reiterada indefinidamente, de la importancia de uno mismo. Con ese objetivo, se implementó todo un teatro de los comportamientos que nos mostró cómo los individuos desplegaban diversas estrategias inventadas sobre la marcha, apuntando, día y noche, a encontrar la delectación suprema de la época: el ‘like’. (…)

Facebook generó, progresivamente, una suerte de open space a cielo abierto y a escala del planeta entero, dentro del cual todos despliegan asiduamente sus fuerzas en vistas a sentir la importancia de sí mismos. Esto hizo emerger un darwinismo social de nuevo cuño, una lucha por la reputación, con un esquema calcado del management contemporáneo. (...)

Con el transcurso del tiempo, por el uso, aquel placer inicial casi virginal de recibir un like se transformó en una necesidad cada vez más compulsiva de afirmarse por medio de posteos y de ver cómo uno recibía marcas reiteradas de aprecio –sin matices–, a diferencia, o más bien en el extremo opuesto, de la complejidad y aridez que ofrecía la vida común y corriente. Esta forma emergente de bulimia colectiva entró en resonancia con la dureza creciente de una época constituida básicamente por la invisibilidad social y las humillaciones de todo tipo que vive cotidianamente un gran número de personas. El dispositivo garantizó entonces otra función, dado que no se limitaba a ofrecer descargas de delectación: se erigía también como una prótesis dotada de virtudes reconfortantes. Actuaba como un estimulante de tipo inédito continuamente disponible y, por la sofisticación de los mecanismos en juego tanto como por la plena implicación de los usuarios, ya no se relacionaba con un capitalismo de los afectos sino con una catarsis. (...)

Hay que pensar que el espíritu de la época, que incita a la ansiedad, constituye el combustible natural de la plataforma."

#ÉricSadin, "LA ERA DEL INDIVIDUO TIRANO. El fin de un mundo común":

https://cajanegraeditora.com.ar/libros/la-era-del-individuo-tirano/

View this post on Instagram

A post shared by CAJA NEGRA EDITORA (@cajanegraeditora)

[gonzaloanero]

Reseña crítica de "La inteligencia artificial o el desafío del siglo", de Éric Sadin

Este texto busca ser una lectura de la contundente propuesta de Éric Sadin al respecto de una teoría crítica de la Inteligencia Artificial.[1] La justificación de reseñar dicha propuesta es, en nuestra opinión, la misma que animó al autor a lanzarse a escribir sobre ello: la importancia y pertinencia de una filosofía de la computación, que dé cuenta de los avances punteros en Inteligencia Artificial desde una perspectiva crítica que puede ser entendida como humanista.

Por tanto, es conveniente empezar alabando la iniciativa de Éric Sadin, así como destacando los numerosos aciertos que tiene su libro, particularmente al analizar las consecuencias de la implementación de sistemas algorítmicos en ámbitos tales como la justicia y la educación. Sin embargo, después de este reconocimiento, y como muestra de la importancia concedida al libro y a la propuesta del autor, aquí vamos a dar peso casi exclusivo a aquellas partes de su obra que, a nuestro juicio, están parcial o completamente desencaminadas, con el objetivo de aportar capacidad expositiva y argumentativa a una más que necesaria filosofía de la Inteligencia Artificial.

La tesis principal del libro puede resumirse en que, debido al desarrollo actual de las ciencias de la computación y, en particular, de la Inteligencia Artificial, se ha producido un cambio de estatuto de las tecnologías digitales. Tal y como él mismo afirma:

Desde ahora en adelante ciertos sistemas computacionales están dotados (…) de una singular y perturbadora vocación: la de enunciar la verdad.[2]

En la propia introducción del texto, y para apoyar esta tesis, el autor presenta una situación ficticia, aunque no por ello alejada del estado actual de las cosas, en la que una candidata a un puesto de trabajo se somete a una suerte de entrevista, en la que el tradicional responsable de Recursos Humanos ha sido sustituido por un asistente virtual, llamado Recrutello, que la somete a ciertos exámenes de destrezas mecánicas, psicológicas y conductuales, para concluir fríamente que la candidata no es apta para el puesto correspondiente. Traemos a colación este ejemplo de Sadin porque es útil para presentar la primera de las cuestiones polémicas en su escrito: el concepto de verdad que maneja.

De forma crítica, Éric Sadin describe el concepto de verdad que subyace en los apologistas de la Inteligencia Artificial, que no es otro que el de aletheia: la verdad como desvelamiento, como manifestación de la realidad de los fenómenos más allá de las apariencias. Sin embargo, para el autor, la verdad no es tanto la exactitud, la correspondencia o la adecuación de ciertos enunciados con respecto a la realidad, sino que se aleja de esta perspectiva tradicional en filosofía de la ciencia para enmarcarse dentro de una óptica influida por Foucault, en la que entiende que la verdad ha de alejarse de la dicotomía correcto/incorrecto, para acercarse a las referentes a justo/injusto, o incluso bello/feo.

En este aspecto, para el autor, debido a la irrupción de la Inteligencia Artificial, la cuestión fundamental es que ha emergido un nuevo régimen de verdad:

Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes.[3]

Todo este párrafo, y en general toda la argumentación de Sadin al respecto de la verdad en Inteligencia Artificial, peca a nuestro juicio de asignarle a los algoritmos unas propiedades que en realidad pertenecen a los seres humanos que los han diseñado. Tal y como se entiende del pasaje aquí mostrado, parece ser que los sistemas de Inteligencia Artificial tienen una autonomía evaluadora y decisional, que no sabemos muy bien de dónde sale, pero que es capaz no solo de analizar situaciones, sino, lo que para el autor es más grave, asumir diferentes conclusiones como ciertas de forma incuestionable y orientar la acción en consecuencia.

Sin embargo, los algoritmos de Inteligencia Artificial evalúan las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común solo en un sentido extremadamente débil de la palabra. Se trata de una actividad subsidiaria, guiada por directrices y normas generadas por los seres humanos, que en último término hay que tratar de explicar por condiciones externas al propio algoritmo, que no es más que una herramienta que potencia la capacidad evaluadora del humano que lo utiliza.

Por aclarar esto último con un ejemplo: consideremos un sistema que, mediante Inteligencia Artificial y tomando como input un conjunto de datos personales, nos asignase una carrera universitaria. Supongamos también, para hacer la situación más preocupante, que la decisión del sistema es irrevocable, única y no puede ser discutida. Por supuesto, el algoritmo tiene un valor de verdad que no permite cuestionamiento, y además descansa sobre la evaluación de innumerables características (edad, expediente, gustos personales, plazas disponibles, situación del mercado laboral -y todas las que se nos puedan ocurrir-), pero ese valor de verdad, la conclusión del algoritmo, lo que al final va a orientar la acción de únicamente permitirnos entrar en la carrera que toque, descansa en cómo ha sido entrenado ese algoritmo, y ese entrenamiento es una decisión enteramente humana. Es decir, el régimen de verdad que supuestamente ha emergido de manera novedosa con la Inteligencia Artificial no es tal, o por lo menos no es diferente del valor de verdad del que dispusiera, en nuestro ejemplo, un rector de un college británico del siglo XIX, lo que ocurre es que, simplemente, las herramientas de procesado y análisis de datos son infinitamente más potentes.

El autor destaca que uno de los campos en los que más incidencia está teniendo la irrupción de la Inteligencia Artificial, y que además es usado por sus apologistas como la principal baza en defensa de los beneficios que provee, es la medicina. En relación con este tema, la crítica de Sadin cristaliza en el siguiente párrafo:

Hay que poder ver el retroceso que se opera en el marco de la relación que vincula al cuerpo médico con el paciente, en la medida en que instala un nuevo tipo de verticalidad, no dicha, que impone la verdad objetiva de las experticias y las recomendaciones, y que tiene el valor de enunciados prescriptivos superiormente calificados.[4]

Al margen de que el capítulo dedicado a la medicina[5] fabrica un hombre de paja basado en una concepción de sistemas de Inteligencia Artificial que vienen a sustituir completamente a los profesionales de la atención primaria, es interesante analizar en el pasaje mencionado las cuestiones que para Sadin suponen un retroceso.

Entendemos, por oposición, que lo que el autor caracterizaría como avance, o por lo menos como no-retroceso, sería una relación entre médico y paciente basada en otro tipo de verticalidad -sea esto lo que fuese- o directamente horizontal, y desde luego no guiada por una imposición de la verdad objetiva de las experticias y las recomendaciones. Suponemos, confiando cándidamente en el buen criterio de Sadin, que, cuando acude al médico, se deja guiar por la experiencia del titulado que lo atiende y por los siglos de avances técnico-científicos del campo de la medicina, que probablemente cuenten con atisbos de verdad objetiva, y no pretende discutir de igual a igual el diagnóstico que este profesional le comunique. No entendemos por tanto cuál es el mecanismo que identifica como inaceptable la pretensión de veracidad de un algoritmo en contraposición a la del propio médico. Es más, ¿en qué sentido es criticable que las conclusiones del algoritmo tengan el valor de enunciados prescriptivos superiormente calificados? ¿No es eso precisamente la característica más valiosa de la ciencia médica? ¿No es eso a lo que nos agarramos cuando seguimos las recomendaciones de nuestro doctor?

Sadin también identifica que debido al auge de la computación en lo que llevamos de siglo, hemos entrado en una era antropomórfica de la técnica, en la que la técnica ha abandonado sus pretensiones tradicionales mediante tres cualidades diferenciales, que constituyen ese salto cualitativo tan amenazante. Antes de pasar a los tres antropomorfismos que el autor ha analizado, conviene detenerse un momento en lo que él mismo aduce al respecto de dicha era antropomórfica. Sadin reconoce que, a lo largo de la Historia, el ser humano ha utilizado la técnica para superar los límites impuestos por su morfología, creando herramientas y máquinas que potenciaban, suplían o hacían más precisas nuestras más bien modestas capacidades. Sin embargo, lo que separa las técnicas computacionales del resto de técnicas históricamente desarrolladas por los seres humanos, es que la parte de nuestra condición física cuyo límite queremos superar es el cerebro y todo su repertorio cognitivo.

Al hilo de esta brecha que Sadin establece entre las ténicas computacionales y el resto, los tres antropomorfismos que hemos mencionado previamente, las tres características que generan esta separación son las siguientes.

Por un lado, entiende que se está desarrollando un antropomorfismo aumentado, mediante el cual las técnicas se modelan sobre nuestras capacidades para actuar como palancas que impulsen mecanismos más rápidos, eficaces y fiables. En segundo lugar, este antropomorfismo es también parcelario, puesto que no busca una potenciación holística o integral de las habilidades cerebrales humanas, sino que se adapta a tareas específicas y concretas. Por último, se trata también de un antropomorfismo emprendedor, que ya no se limita a simplemente recoger, clasificar e interpretar conjuntos de datos, sino que estos datos están orientados a la acción, a la generación de acciones automatizadas.

Cabe preguntarse aquí con cierta sorpresa cuál de estos tres atributos no puede aplicarse a la práctica totalidad de nuestros intentos como especie de diseñar herramientas que superen nuestras capacidades. ¿No es acaso un brazo hidráulico una modelización de nuestras propias articulaciones, que consigue aumentarnuestra capacidad de transporte o manejo de materiales? ¿Y una broca para realizar ensayos de dureza Vickers no es una técnica parcelaria, que de poco más sirve si no es para su propósito correspondiente? Es más, ¿un sensor lumínico que enciende las luces del jardín no emprende acciones a partir de cierta interpretación de los datos?

Parece obvio que un filósofo tan inteligente como Sadin no puede pasar por alto esta situación, cuestión que él mismo se encarga de aclarar de una forma un tanto contradictoria más adelante. El autor reconoce que la Inteligencia Artificial no es una innovación más, sino que representa un principio técnico universal, consistente en el análisis robotizado de situaciones, la elaboración de ecuaciones relativas a dichas situaciones, la evaluación de los resultados obtenidos y el emprendimiento de una acción guiada por esos resultados. En realidad, lo que está identificando es que una gran parte de la técnica descansa sobre esquemas algorítmicos. En este sentido, parece no darse cuenta de que lo diferencial de la Inteligencia Artificial con respecto al resto de técnicas humanas es una diferencia de grado, cuantitativa, basada en la capacidad cada vez más grande de almacenamiento y computación.

Merece la pena traer a colación un breve párrafo muy representativo de lo que supone la obra de Sadin, en el que, tras constatar que estos procedimientos algorítmicos, que cada vez se implementan en más áreas de nuestra vida, están consiguiendo reducir o borrar nuestra propia autonomía, dice lo siguiente:

Toma forma un estatuto antropológico y ontológico inédito que ve cómo la figura humana se somete a las ecuaciones de sus propios artefactos con el objetivo prioritario de responder a intereses privados y de instaurar una organización de la sociedad en función de criterios principalmente utilitaristas.[6]

Podríamos estar de acuerdo con todo el párrafo si no hubiese incluido el que para nosotros es uno de sus mayores errores: el considerar que la irrupción de la Inteligencia Aritificial es algo fuera de la Historia humana, algo distinto, excepcional, nunca visto. Nos vuelven a surgir preguntas al leer este pasaje. ¿La figura humana de un soldado de Atenas no se sometía a las ecuaciones de la penetración de una punta metálica espartana en cualquier órgano de su cuerpo, que tenían el objetivo prioritario de responder a intereses privados del hoplita de turno? ¿Las figuras humanas de Nagasaki no tendrían algo que decir respecto a cómo tuvieron que someterse a las ecuaciones de una explosión nuclear que buscaba en último término instaurar cierta organización de la sociedad?

Esta especie de privilegio cronológico de la actualidad frente al resto de épocas, en lo que se refiere a las ciencias y las técnicas y su relevancia en las cuestiones humanas (políticas, morales, éticas, etc.), es una constante a lo largo de todo el texto. Sirva este otro ejemplo para mostrar este empecinamiento del autor:

El alineamiento de los científicos y los ingenieros con la doxa técnico-económica representa un vicio de nuestra época en la medida en que las formas de la pluralidad en el campo de la investigación se ven más asfixiadas.[7]

Creemos que Arquímedes se ofendería bastante si no se le considerase como alineado con la doxa técnico-económica (y, aún más inquietante, militar) de Hierón II, y otro tanto ocurriría con Francis Bacon y su orgullosa connivencia con la política religiosa de Jacobo I.

Por apuntar un par más de cuestiones siguiendo este hilo, hay en esta preponderancia negativa de nuestra época una tendencia a idealizar un supuesto pasado tecno-científico inmaculado, caracterizado por una investigación honesta, limpia, que da rienda suelta a los gustos y creatividades propios de cada individuo:

El mundo de la investigación, que en otros tiempos se constituía por actores movilizados por diversas curiosidades, intereses o tropismos de todo orden, y que favorecía el aporte libre de todos, lo cual era condición necesaria para su vitalidad, hoy se ha convertido en un campo en ruinas de la inventiva, al estar compuesto ahora de individuos que se someten tranquilamente a pliegos de licitaciones predeterminados.[8]

No sabemos en qué ejemplos concretos está pensando Sadin para justificar este atrevido alegato, pero caracterizar la época actual de las ciencias computacionales como campo en ruinas de la inventiva es directamente falso, y precisamente entra en contradicción con su ya mencionada idea de que se trata de una técnica que se está abriendo paso en virtualmente todas las áreas de nuestra existencia, creando modelos nuevos y algoritmos más potentes y a su vez alimentando el vertiginoso desarrollo del hardware necesario para ello. Además, cuesta descifrar en qué época histórica la investigación ha constituido esa torre de marfil, en la que cada miembro dispone de su aislada habitación, alejado de inoportunas influencias, para poder desarrollar sus inquietudes técnico-científicas. Podemos añadir además que desvincular las diversas curiosidades, intereses o tropismos de todo orden de cada individuo respecto de las condiciones sociales en las que los mismos insertan su actividad científica supone de facto un idealismo que compraría cualquier miembro de la Escuela Austriaca, un hecho del que el propio Sadin no estaría muy orgulloso, dadas las coordenadas ideológicas desde las que escribe. Su paisano Latour haría bien en darle una colleja materialista. De hecho, es curioso que al comienzo del apartado dedicado a una breve historia de la informática, el autor precisamente critique esa perspectiva historiográfica consistente en entender a los investigadores como entes aislados, hechos a sí mismos y ajenos a la estructura social en la que se entretejen, al hacer una revisión crítica de figuras como Elon Musk o Mark Zuckerberg. Su propuesta podría ser mucho más potente si identificase ese mismo problema en su visión idílica de las épocas previas a la contemporaneidad.

Aunque lo hemos esbozado brevemente más arriba, conviene centrarse ahora en el análisis de Sadin de las cualidades que diferencian a la Inteligencia Artificial y la hacen separarse de la historia de la informática al suponer una ruptura conceptual con los desarrollos pasados. Se trata, por ponerlo en sus palabras, de la emergencia de una aptitud interpretativa, también denominada más adelante facultad cognitiva, que nos indica que las máquinas han dejado de ser simples apoyos para la recolección, clasificación y manejo en general de datos, para convertirse en entes que evalúan las propiedades de ciertas situaciones y revelan fenómenos enmascarados a nuestra conciencia.[9] Para nosotros, esta visión un tanto mítica de las capacidades de la Inteligencia Artificial viene marcada por una ignorancia del fundamento teórico del funcionamiento de los algoritmos utilizados en esta disciplina, y, desde luego, el vocabulario utilizado no ayuda al lector desprevenido a saber qué hace realmente un algoritmo de Inteligencia Artificial y cuál es el papel del humano en su funcionamiento. La Inteligencia Artificial no tiene ninguna aptitud interpretativa de por sí, al margen de la persona que la ha diseñado. Cualquier algoritmo necesita información externa que haya sido previamente catalogada o identificada de alguna manera por un humano: una serie de imágenes etiquetadas como “peatón en la calzada” para un coche autónomo, un conjunto de datos biométricos referentes a pacientes que hayan o no desarrollado un tipo de cáncer, un grupo de canciones con información relativa a su autor o movimiento artístico para entrenar a un algoritmo que componga nuevos temas, etc. Lo que Sadin llama facultad cognitiva, o eso de revelar fenómenos enmascarados a nuestra conciencia, no es más que ocultar bajo denominaciones sugerentes la aplicación de modelos matemáticos (que, por cierto, obviamente también hemos creado y afinado nosotros) a conjuntos de datos cada vez más grandes y complejos. No hay ningún salto cualitativo en lo que las máquinas están consiguiendo hacer, simplemente un crecimiento brutal en su capacidad de procesamiento y de análisis, cada vez más rico y variado gracias al desarrollo de la ciencia de datos.

Una de las críticas que podemos considerar acertadas es la constatación del autor de que el léxico predominante en el campo de la Inteligencia Artificial, en el que se abusa de referencias a mecanismos cerebrales (redes neuronales, capas de neuronas, sinapsis) con el objetivo de dar una capa de barniz naturalista y orgánico al desarrollo informático, supone una elección bastante desafortunada. No obstante, hay un matiz importante que lamentamos que el autor haya pasado por alto. Para él, este vocabulario que abusa del prefijo “neuro” como técnica casi de marketing, es criticable porque es funcional al uso de la Inteligencia Artificial por parte de los organizadores de la sociedad, que conscientemente la enmarcan dentro de su programa de racionalización y desarrollo capitalista, en el que la máquina de lo social alcanza su funcionamiento óptimo cuando se garantiza una adecuada capacidad del cerebro que la controla. Podemos estar de acuerdo aquí con el autor, aunque nuestra línea de crítica es algo distinta; los términos elegidos para ciertas partes de la Inteligencia Artificial, o incluso este mismo, pierden en precisión y claridad conceptual lo que ganan en prestigio y fascinación divulgativas. Denominar un cierto elemento como “red neuronal” nos invita a fantasear con una estructura compleja de transmisiones de información que dispone de capacidad de pensar, y podemos sentirnos decepcionados cuando nos damos cuenta de que se trata de un procedimiento matemático recursivo basado en el cálculo diferencial y las regresiones lineales. Por eso es tan importante que cualquier filósofo de la técnica, y más aún de la informática y las ciencias de la computación, como Éric Sadin, aporten rigor científico y aclaración conceptual a los elementos que analizan, en vez de saltarse ese paso y dirigirse directamente a las funcionalidades económicas, sociales y políticas de los artefactos estudiados.

Al hilo de esta necesidad de presentar los fundamentos teóricos sobre los que descansa la Inteligencia Artificial, el capítulo dedicado al estudio del Machine Learning[10]deja bastante que desear. Al batiburrillo conceptual que nos introduce el autor al respecto del aprendizaje supervisado, no supervisado y por refuerzo (por ejemplo, identificando como sinónimos los dos últimos términos), en el que en ningún caso se molesta en explicar la diferencia entre los mismos, hay que añadirle un cierto tremendismo alarmista al respecto de las capacidades de las que disponen los algoritmos de Machine Learning. Merece la pena trascribir uno de los párrafos para ejemplificar lo que apuntamos:

Entramos en la era de la “posprogramación”: la programación suponía alinear secuencias de códigos con vistas a ejecutar tareas definidas y sistematizadas. Pero ya no vivimos solamente en la era de las instrucciones dadas a protocolos, en su sentido literal, sino en la era de scripts que, una vez escritos, desarrollan su propia gramática en función de la “vida” de cada uno de ellos, haciéndoles adquirir una “personalidad” singular. Se manifiesta una nueva forma de autonomía que no es solamente la provocada por facultades autodecisionales (…) sino que es una forma de autonomía actualmente en devenir que resulta de la licencia que se otorga a las inteligencias artificiales para trazar su “propio camino” y luego diferenciarse conforme a su propia “experiencia”.[11]

Habría que utilizar muchísimas más comillas de las que utiliza el autor para poder asignar a los algoritmos de Inteligencia Artificial algo medianamente cercano a los conceptos de vida, personalidad, propio camino o experiencia. Como alegorías, rayando en el liricismo, son muy ocurrentes y estimulan nuestra imaginación. Ahora, si después de haber criticado el uso de cierto léxico por funcional al enmascaramiento de la verdadera esencia de la Inteligencia Artificial, se nos vende que ésta puede entenderse como poseedora de estos atributos humanos, consideramos que se ha perdido toda pretensión de exactitud y rigor que corresponde a un tema tan serio. Creemos que el autor debe elegir uno de los dos caminos: o apuesta por la misa de la representación metafórica de tintes continentales para reforzar sus trazas de alarmismo, o se pone a repicar con un análisis técnico y esclarecedor de los fundamentos teóricos de las ciencias de la computación.

No queremos detenernos excesivamente en la tercera parte del libro[12], puesto que en nuestra opinión es la sección más nebulosa, sin una relevancia clara en el discurso lógico del texto, pero es útil en tanto que deja atrás una lectura antropológica de la Inteligencia Artificial para adentrarse en la esfera estrictamente política de la misma.

De manera continuada, a lo largo de la obra, el autor ha ido señalando que el social-liberalismo (sic), al que también denomina tecno-liberalismo, ha encontrado la herramienta perfecta, de la que no disponía antes, para ejercer de forma cada vez más extendida un control de la actividad social; control que se basaría en una racionalización de ciertos sectores de la sociedad (…) haciendo advenir una “era de la racionalidad extrema”.[13]En línea con esto, al hablar de cómo en la actualidad el Estado ha puesto a disposición pública ingentes cantidades de datos estadísticos sobre el comportamiento de la población, Sadin expone lo siguiente:

El objetivo declarado no consiste solamente en hacer accesibles todo tipo de informaciones relativas a las propias actividades, sino que prioritariamente consiste en autorizar su explotación con vistas a estimular la oferta de nuevos servicios. (…) Esta lógica supone no solamente que el mundo económico ya no está situado a la distancia justa de la organización de los asuntos en común, sino más todavía, que se beneficia de la colaboración del Estado, que le permite hacer más intensos los vínculos con las personas.[14]

Este pasaje nos hace preguntarnos en qué época histórica el mundo económico ha estado situado a cierta distancia de la organización de los asuntos en común. Esa visión de la economía y la administración pública como dos sectores estancos, aislados el uno del otro y sujetos a ser analizados independientemente es una perspectiva intelectualmente muy pobre, y realmente preocupante en un autor que cita a los clásicos marxistas tan profusamente. Entender que es gracias a la Inteligencia Artificial que los agentes económicos privados se benefician de la colaboración del Estado, por el hecho inane de que exista la publicidad de las estadísticas, es un error a nivel historiográfico.

Esta transformación digital del Estado va de la mano, para el autor, de un cambio en el estatuto del ciudadano. No sabemos cuál es el estatuto de ciudadanía en el que nos encontrábamos antes del advenimiento de la era digital, porque el autor no ha tenido a bien realizar esa comparación, pero sí que hace un detallado análisis de en lo que implica ser ciudadano hoy: convertirnos en clientes que utilizan servicios y simplemente buscan ver garantizada su satisfacción. La endeblez teórica de esta caracterización sociológica viene bien demostrada en el siguiente párrafo:

Hasta tiempos muy recientes, la política (…) suponía perfeccionar la igualdad de derechos, trabajar en los avances sociales, sostener la educación, permitir un acceso universal a salud (sic), favorecer a la cultura. De ahora en adelante el desafío consiste en reducir los costos, dejar actuar a los sistemas y hacer como si todos pudiéramos beneficiarnos relativamente de distintos servicios en cada secuencia de la vida cotidiana.[15]

Al margen de la idealización de la política previa a nuestro presente y de la falta de claridad en la comparación con la política actual y futura (¿qué será eso de dejar actuar a los sistemas?), la argumentación del autor se descalabra a continuación, cuando encuentra esta divertida situación para sustentar su enfoque:

Un ejemplo es aquello en lo que se están convirtiendo las bibliotecas, que ya no son lugares de lectura de libros y periódicos que ofrecen momentos propicios para los descubrimientos y para la adquisición de conocimientos en un marco favorable a la reflexión y en una atención serena, sino que se convierten en espacios en donde ahora se proponen cursos de yoga, donde se hacen relatos de los propios viajes, donde se toman cafés o jugos de fruta y en donde hay intercambios de acuerdo con la nueva doctrina de la vida social basada en el primado del bienestar y la expresividad de uno mismo.[16]

Siendo condescendientes, en el peor de los casos esto es otra muestra más de la falta de seriedad a la hora de extraer conclusiones y fundamentarlas teóricamente, y en el mejor una pequeña licencia que se ha tomado Sadin para exorcizar alguna mala experiencia haciendo yoga en la biblioteca de su barrio. En ambos casos es una mezcla de churras con merinas, un intento de achacar a las ciencias de la computación y a la Inteligencia Artificial algo completamente ajeno a ellas.

Por otro lado, hay una argumentación bastante curiosa que se deja traslucir en todo el escrito de Sadin, pero que éste tampoco acaba de enunciar explícitamente, y es la caracterización negativa de la vocación de organizar y ordenar la sociedad. Este ímpetu de control integral, que se vería enormemente impulsado por la Inteligencia Artificial y la ciencia de datos, es para el autor un elemento característico del capitalismo (incluso del capitalismo dirigido (sic) en el que enmarca a China):

Vemos relanzada la teoría de la “física social”: Auguste Comte la designaba como la “ciencia de las sociedades”, y había precedido a la “ciencia de los hechos sociales”, que tomó el nombre de sociología. La primera habría creído en la posibilidad de erigir una cartografía casi total de los fenómenos humanos, que entonces podían ser ordenados según ciertas reglas. (…) Vivimos la era de la voluntad de modelar nuevamente los hechos sociales.[17]

Esta visión crítica del interés humano por controlar en el mayor grado posible su propio desarrollo está en connivencia absoluta con las tesis defendidas por autores como Hayek, hasta el punto de haber elegido la misma figura explicativa: Auguste Comte.[18]Destacamos esto, con un reconocido riesgo de caer en lo ad hominem, porque creemos que una filosofía de la computación y de la Inteligencia Artificial que parta de postulados humanistas no puede embestir ciegamente contra la propensión y la vocación de control de ciertas áreas de la sociedad, como puede ser la planificación económica. La crítica tiene que ser quirúrgica, analítica; la vocación humana de controlar cada vez más su propio destino no es per senegativa, eso implica caer en un esencialismo inútil. Se debería tratar de estudiar qué tendencias concretas dentro de la Inteligencia Artificial apuntan a posibles transgresiones de nuestros derechos fundamentales, y cómo operan los resortes políticos de los que disponemos para compensar dichas tendencias, en vez de despachar de un plumazo los avances en computación etiquetándolos como la implementación de una fantasía de civilización que aspira a que todo funcione al unísono en vistas a construir un universo desprovisto de fallas, indefinidamente dinámico y perfectamente autorregulado.[19]

Una de las desafortunadas vetas de la tesis de Sadin, que ya hemos vislumbrado, es el concebir la Inteligencia Artificial como una herramienta muchísimo más potente de lo que hoy es. Al otorgarle capacidades y potencias muchísimo mayores a las que realmente tiene, su caracterización se colorea más fácilmente de tintes preocupantes, y se presta mucho más a las inquietantes metáforas que nos brinda el autor. Ejemplo de todo ello es la sección que dedica a la supuesta desaparición de lo real.[20] En ella encontramos no pocos encumbramientos de nuestra capacidad de desentrañar los mecanismos que gobiernan la realidad, gracias a los sensores que recopilan datos de cada vez más aspectos de nuestra existencia. Estamos cada vez más cerca de descifrar los fenómenos que nos rodean y de los que somos partícipes, lo que supone eliminar de la realidad esa pared de incognoscibilidad contra la que el ser humano se ha estrellado durante toda su historia, hasta hoy. En palabras del autor:

Detentamos un dominio creciente en nuestra relación con lo real, ya que de ahora en adelante podemos plegarlo a nuestros deseos, a nuestras exigencias, someterlo a nuestras categorías, y pronto no nos opondrá ninguna resistencia. (…) Lo que se ve redefinido entonces es el sentido de la acción humana, y más ampliamente el de nuestra humanidad, ya que nos vemos liberados de la duda y del peso de la responsabilidad.[21]

Como ya hemos dicho, es un lugar común del texto el erigir hombres de paja contra los que luego es muy fácil cargar. Esta concepción de Sadin del nivel que hemos alcanzado en el desarrollo de algoritmos y la implementación efectiva, realmente existente, de la Inteligencia Artificial, recuerda al meme del perro musculado, que representaría la existing Artificial Intelligence, enfrentado al ejemplar raquítico y triste, en el que la actual Artificial Intelligence se vería encarnada.

El último capítulo del libro[22], que deja un tanto de lado la intención explicativa para tomar explícitamente un carácter propositivo, es quizá el más acertado de todo el texto, en cuanto aquí el autor parece encontrarse más cómodo vehiculando a través de la crítica sociológica el juicio al establishment científico-técnico y su comportamiento estructuralmente funcional a la búsqueda de beneficio económico de las grandes corporaciones. Está escrito en un lenguaje provocativo que aquí sí encaja a la perfección, y dota a esta última parte de un cierre a modo de manifiesto que casi consigue hacer olvidar todos los errores conceptuales que han ido quedando diseminados y que hemos analizado en esta reseña.

Para finalizar, queremos reincidir en la importancia de una filosofía crítica de la Inteligencia Artificial, y en este sentido el de Éric Sadin es un aporte que no debe ser pasado por alto, pero dicha filosofía tiene que partir siempre de un conocimiento técnico lo más preciso posible, que sirva de cimiento conceptual para a partir de ahí evaluar cuáles son los elementos positivos a conservar, cuáles deben ser atacados y de cuáles aún no tenemos información suficiente como para emitir aseveraciones consistentes.

[1] Sadin, É. (2021). La Inteligencia artificial o el desafío del siglo: anatomía de un antihumanismo radical. Buenos Aires, Caja Negra. Traducción de Margarita Martínez. En adelante, las notas al pie que apunten el número de páginas sin otra indicación se refieren a la obra mencionada. [2] p. 17 [3] p. 95 [4] p. 134. [5] pp 125-136. [6] p. 21. La negrita es nuestra. [7] p. 31. [8] p. 41. [9] pp. 57-58. [10] pp. 71-80. [11] p. 77. Comillas del autor. [12] pp. 153-191. [13] p. 162. Comillas del autor. [14] p. 208. [15] p. 210. [16] pp. 210-211. [17] pp. 225-226. [18] Para profundizar en esta coordinación de las tesis de Sadin con la crítica liberal/libertaria véase Von Hayek, Friedrich A. (2003). La contrarrevolución de la ciencia: estudios sobre el abuso de la razón. Madrid, Unión Editorial. [19] p. 231. [20] pp. 247-258. [21] p. 249. Cursivas del autor. [22] pp. 261-311.

[kiddneys]

**LIVE NOW**

DIGITAL PTSD: The Practice of Art and Its Impact on Digital Trauma

Part I: online program, Saturday December 12, 2020, 16:00 – 00:00 (GMT +1)

Participants in Part I include: Tabita Rezaire, artist; Carolyn Christov-Bakargiev, museum director, exhibition maker, writer; Beatriz Colomina & Mark Wigley, architectural historians, theorists, curators; Cécile B. Evans, artist; Matteo Pasquinelli, cognitive sciences, digital economy, machine intelligence theorist; Hito Steyerl, filmmaker, visual artist, writer, and innovator of the essay documentary; Grada Kilomba, artist and writer; Anne Imhof, artist musician; Bracha L. Ettinger, painter, theorist, psychoanalyst; Éric Sadin, writer and philosopher; Vittorio Gallese, cognitive neuroscientist; Ophelia Deroy, philosopher and cognitive neuroscientist; Griselda Pollock, feminist-postcolonial-queer-international art historian and cultural analyst; Agnieszka Kurant, artist; Cally Spooner, artist; Chus Martínez, curator and writer; Stuart Ringholt, artist; Marco Lutyens, artist and hypnotist.

[anadelacalle]

La inteligencia artificial: desafío y resistencia.

En otras ocasiones -hace incluso cinco años atrás- he abordado la cuestión del transhumanismo y el posthumanismo[1]. Ahora, entiendo que ese período en el que se auguraba que surgiría un ser que tal vez ya no sería propiamente humano, no puede indagarse sin tener en cuenta la Inteligencia Artificial (IA). El término fue usado por primera vez en 1955 por el matemático J. McCarthy, momento en el…

[manuelmccarthy]

PREGUNTAS

Recolección de posibles preguntas o asuntos para el proyecto que han ido surgiendo (en orden cronológico):

- ¿Tienen miedo las máquinas de su amo o dueño?

- ¿Qué supone comprar un robot? ¿Qué piensa el robot al ser comprado?

- ¿Y si tu lavadora se pudiese quejar?

- (Asuntos introducidos en el microrrelato) Conciencia en máquinas, rebelión de las máquinas frente al humano (autonomía, autodeterminación), queja, ERROR maquínico.

- ¿Bajo qué sesgos (culturales, raciales, sociales, económicos...) se programan/programarán los algoritmos computacionales?

- Entendiendo que cuanta más automatización, menos puestos de trabajos para humanos y que sin trabajadores no hay consumidores (lumpenproletariado), ¿Para quién producir? ¿Cómo afecta esta situación al sistema capitalista actual? ¿Beneficia al capitalismo el aumento del lumpen?

- ¿En qué medida se está desplazando la autoridad (Poder, decisión, actuación) del humano al “universo cerebral artificial (término utilizado por Éric Sadin)? ¿Cómo remueve/disrupte esto al concepto de lo humano?

- ¿Bajo qué términos se articularía la condición humana en el régimen capitalista actual (y futuro)? (centrándose en los procesos de automatización y sustitución del trabajo humano por trabajo maquínico)

- ¿En qué medida desplaza la IA (algoritmos complejos) la capacidad decisional y de agencia (en tanto que autoridad) del humano en virtud de la máquina (IA)?

... (se irá actualizando este post a medida que surjan más preguntas)

[alvaromatias1000]

Física Social: Análise dos Dados Políticos

Giuliano da Empoli, em seu livro “Os Engenheiros do Caos” (tradução Arnaldo Bloch. 1ª. ed. São Paulo: Vestígio, 2019), narra: o diretor da campanha em favor do Brexit, Dominic Cummings, declarou “se você quer fazer progresso em política, meu conselho é contratar físicos, e não experts ou comunicadores.”

De fato, em vez de recorrer aos habituais consultores políticos, Cummings organizou a campanha com a ajuda de uma equipe de cientistas originários das melhores universidades da Califórnia e de uma empresa canadense de Big Data ligada à Cambridge Analytica, chamada AggregateIQ.

O pedido feito por Cummings a esses dois grupos era bem simples: ajudem-me a mirar certo. Digam-me:

para onde devo enviar meus voluntários,

em quais portas devo bater,

a quem devo mandar e-mails e mensagens nas redes sociais e

com quais conteúdos.

Segundo declarações do estrategista do Brexit, os resultados ultrapassaram todas as suas expectativas. Ao ponto de ele mesmo tirar uma conclusão perturbadora: “Se você é jovem, inteligente e se interessa por Política, pense bem antes de estudar Ciências Políticas na universidade. Você deveria se interessar, em vez disso, em estudar Matemática ou Física. Em um segundo momento você poderá entrar na Política e terá conhecimentos mais úteis, com aplicações infinitas […] Pode-se sempre ler livros de História mais tarde, mas não é possível aprender Matemática na hora que se quer.”

No fundo, a tecnologia na política muitas vezes tem a tendência de se revelar uma bolha. Após cada eleição, há sempre alguém alegando o vencedor não ter sido eleito por razões políticas, porque tinha as melhores ideias ou uma personalidade mais sedutora, mas sobretudo graças a uma nova ciência conhecida só do eleito, desenvolvida em segredo em um subsolo qualquer.

Após o Brexit e a eleição de Trump, essa tendência atingiu seu paroxismo quando as mídias do mundo inteiro se engajaram em uma caça brutal contra os manipuladores ocultos, do Facebook à Cambridge Analytica, passando pelos blogueiros macedônios e as fazendas de trolls russos – todos pessoalmente acusados de tornar possível a concretização daqueles resultados inesperados.

Diferentes atores têm interesse em amplificar o papel exercido pelas tecnologias no processo eleitoral.

As mídias têm a partir daí uma história nova e fascinante para contar, no lugar das análises habituais dos politólogos.

Os perdedores podem dizer a eles mesmos e a seus partidários: não foram derrotados por causa de sua má performance, mas por forças obscuras.

Os estrategistas, como os tecnólogos, os consultores e as plataformas podem se gabar de ter mudado o curso da história.

Quando Christopher Wylie, o “arrependido” da Cambridge Analytica, admite sua culpa ao vivo diante do mundo inteiro, ao confessar “eu elegi Trump com meus algoritmos”, ele faz, sobretudo, publicidade de si próprio (e da sociedade criticada por fingimento) em lugar de propor um combate pela liberdade e a democracia.

Algumas eleições são decididas por margens tão ínfimas que a capacidade de influenciar ainda sendo alguns votos, de forma direcionada, pode fazer a diferença. Trump ganhou na Pensilvânia com 44.000 votos de dianteira em 6 milhões; com 22.000 em Wisconsin; e com apenas 11.000 em Michigan.

Em um panorama global, é difícil negar: desde então, alguma coisa fundamental mudou na relação entre a tecnologia e a política.

Os cientistas sempre sonharam reduzir o governo da sociedade a uma equação matemática de modo a suprimir as margens de irracionalidade e de incerteza inerentes ao comportamento humano. Há dois séculos, Auguste Comte já definia a Física Social como “ciência cujo objeto é o estudo de fenômenos sociais considerados similares aos fenômenos astronômicos, físicos, químicos e psicológicos, ou seja, como sujeitos às leis naturais invariáveis, cuja descoberta é o ponto de chegada das pesquisas”.

Desde então, muitos propuseram suas visões da “Ciência da Política”, sem jamais atingir o objetivo de tornar mais previsível a evolução da sociedade.

Mas, nos últimos anos, um fenômeno decisivo se produziu. Pela primeira vez, os comportamentos humanos – antes considerados fins em si mesmos – começaram a produzir um fluxo maciço de dados.

Graças à internet e às redes sociais, nossos hábitos, nossas preferências, opiniões e mesmo emoções passaram a ser mensuráveis. Hoje, cada um de nós se desloca voluntariamente com sua própria “gaiola de bolso”, um instrumento capaz de nos tornar rastreáveis e mobilizáveis a todo momento.

No futuro, com a “internet das coisas”, cada gesto irá gerar um fluxo de dados não mais exclusivamente ligado aos atos de comunicação e de consumo, mas também a fatos como escovar os dentes ou adormecer no sofá da sala. Éric Sadin, no livro La Vie Algorithmique : Critique de la Raison Numérique, fala, a propósito, de uma “indústria da vida”, o setor mais promissor da nova economia, destinado a canibalizar todos os outros.

Essa profusão inédita de dados – e os poderosos interesses econômicos representados por ela – está na raiz do novo papel dos físicos na política. Para melhor compreender de o que se trata, Giuliano da Empoli volta-se aos fundamentos dos Big Data aplicados à Política.

Física Social: Análise dos Dados Políticos publicado primeiro em https://fernandonogueiracosta.wordpress.com

[moinelo]

«No parece existir un debate sobre la desaparición de la autonomía del juicio humano en favor de la velocidad de la tecnología» —Éric Sadin ―«No parece existir un debate sobre la desaparición de la autonomía del juicio humano en favor de la velocidad de la tecnología» —Éric Sadin―

[veredes]

Burbujas | Pedro Hernández

“Desde principios de la década de 1900, el capitalismo financiero comenzó a reemplazar el régimen disciplinario y la rígida compartimentación de la producción industrial en masa con regímenes más aleatorios de especulación y acumulación flexible, produciendo programas que no requerían ningún espacio en particular, sino solo una cantidad rentable metros cuadrados para responder mejor a las variaciones del mercado”.

Francesco Marullo1

Para Francesco Marullo, la traducción arquitectónica de este planteamiento fue el Typical Plan (TP). Analizado por Rem Koolhaas al observar la arquitectura de Nueva York, en especial de su Downtown, y enunciado en el libro S,M,L,XL, se describe como un orden esquemático definido por una retícula que opera y existe de forma independiente del uso final al que el espacio vaya destinado; su flexibilidad permite que, en él, se performen todas las actividades. Su expresión es mínima, “pura objetividad”,2 una suerte de “minimalismo para las masas”:3

[...]

[eeyc]

El filósofo francés Éric Sadin alerta de que la inteligencia artificial amenaza la civilización

Mientras robots y 'start ups' inundan Madrid con sendos congresos, el controvertido filósofo y autor francés Éric Sadin pide que reflexionemos sobre las consecuencias de la tecnocracia en la que, según él, vivimos felizmente inmersos. Y ciegos.

La inteligencia artificial es capaz de tomar decisiones, pero ¿hemos pensado en las consecuencias para el ser humano? GERALT | PIXABAY (CC0)

MADRID PABLO ROMERO (Publico.es)

Para el filósofo francés Éric Sadin (1972), una de las mentes más influyentes y críticas frente a la era la digitalización y los datos, no estamos hablando lo suficiente de las consecuencias para el ser humano de la colonización del modelo de Silicon Valley: una suerte de liberalismo digital camuflado, que nadie se cuestiona e incluso es impulsado por los propios gobiernos. Vivimos rodeados de objetos conectados y sensores que recogen y convierten en datos hasta el detalle más íntimo. Y con esos datos, unas pocas compañías gigantestas alimentan una inteligencia artificial cada vez más potente, capaz de interpretar, sugerir e incluso tomar decisiones. Nos fiamos ciegamente de las máquinas, pero ni siquiera sabemos cómo funcionan. ¿Queremos realmente que las máquinas tomen decisiones?

Sadin vino a presentar la traducción de su penúltimo libro, La silicolonización del mundo (2016; Caja Negra, 2018), y se centró sobre todo en los temas que aborda en lo último de su prolífica obra, La inteligencia artificial o el reto del siglo. Anatomía del antihumanismo radical (2018).

El filósofo desgranó durante casi dos horas, durante un coloquio con la periodista especializada en tecnología Marta Peirano en el Institut Français de Madrid (en el marco del III Foro de la Cultura de Burgos), su visión crítica y sin concesiones sobre las consecuencias de una tecnologización de la sociedad. "Hemos pasado de la edad del acceso, en la que nuestra relación era a través de las pantallas, a la edad de la cuantificación en apenas 20 años", comentó. Y describe esta situación, en la que los sistemas nos hablan para decirnos "la verdad", como "agobiante".

“La tecnología nos habla para decirnos la verdad”

Criticó con dureza el apoyo social e institucional a la la economía de los datos y platafomas, "que suponen una inteligibilidad de nuestros comportamientos cada vez más extendida" y cuya finalidad es "interpretar nuestros comportamientos, para notificaros y sugerimos de forma aparentemente adecuada a cada persona". "Hablamos de una mercantilización general de la vida, de la conquista de los comportamiento: hay una batalla para controlar nuestras cabezas", expuso.

El pensador confesó que ha llegado a la conclusión de que los desarrollos tecnológicos se determinan exclusivamente el punto de vista económico, ya no existe como campo autónomo: "El mundo de la ciencia, de la técnica, ha desaparecido por completo, sólo existe un mundo tecnoeconómico en el que los investigadores sólo responden a una lógica económica". Y en este contexto, absolutamente utilitarista, “la tecnología nos habla para decirnos la verdad”, afirmó con ironía.

Éric Sadin. Foto: DIEGO SPIVACOW

"Habla para orientar nuestros gestos, para orientar nuestra vida, nuestros comportamientos, hasta tal punto que puede afectar a nuestra autonomía de juicio", comentó. E insistió en que esos sistemas —que son opacos, no sabemos nada de ellos pero tienen la capacidad de decidir— "imponen una verdad que tiene consecuencias jurídicas y políticas".

Inteligencia artificial, sensores, robotización humana

Durante su larga intervención, Sadin alertó de la invasión de los sensores tanto en la vida privada ("hasta los biberones tienen sensores", exclamó) como en los espacios profesionales. "La arquitectura inducida por la invasión masiva de sensores implica un trazabilidad de la vida, y esta realidad captada y reducida a datos, alimenta la inteligencia artificial".Y, para él, la inteligencia artificial es motivo serio de preocupación. "Por primera vez en la historia, los sistemas pueden entender situaciones, tienen capacidad de retroacción y, lo que es muy inquietante y perturbador, puede tomar decisiones por sí mismos, como el trading de alta velocidad con proyección anticipativa".

"Las personas son cuantificadas, hay una visibilidad en tiempo real de la producción de bienes y servicios, y eso significa una enunciación de órdenes" por parte de sistemas capaces de interpretar esa abundancia de datos. "Los empleados se transforman en robots de carne y hueso, existe una negación de la subjetividad, de la improvisación o del ingenio", denunció. Y alertó de que esta realidad se está extendiendo a otros muchos ámbitos, como las decisiones médicas.

La tecnoeconomía, busca reemplazar a las personas y cuando no se pueda, 'robotizar' al ser humano

Según él, la idea que plantea este liberalismo digital, esta tecnoeconomía, es ir reemplazando a las personas y cuando no se pueda, 'robotizar' al ser humano. "Esto es lo que me interesa porque no se ve", aseguró, y añadió: "Se habla de la complementariedad entre humanos y sistemas, pero eso no es más que un tecnodiscurso: son los humanos los que se tienen que adaptar a esos sistemas y eso es cada vez más imposible".

"Los regímenes liberales apoyan jurídicamente estos desarrollos para impulsar la tecnología de los datos y de las plataformas, hay una sumisión", denunció. "No parece existir un debate sobre la desaparición de la autonomía del juicio humano en favor de la velocidad de la tecnología".

Mientras, en la otra punta de Madrid, se celebra esta semana la South Summit, en donde emprendedores y políticos alaban las virtudes de la economía de los datos; España cuenta incluso con una Secretaría de Estado dedicada al tema. Y en Ifema tiene lugar IROS 2028, el congreso mundial de robótica inaugurado por Felipe IV.

"Desconfío de los políticos y legisladores que apoyan este entorno: hay que animar el contraexamen porque hay demasiados 'expertos'; hay que escuchar a quienes sufren esos sistemas", propuso. "Oigamos la realidad sobre el terreno y no tanto el dogma de la transformación digital".

Hacia un "anti humanismo radical"

Sadin apuntó a que el aparentemente imparable desarrollo de la inteligencia artificial nos está conduciendo a un "anti humanismo radical" basado en un utilitarismo extremo, guiados por la lógica de las máquinas, que no humana. "Estos sistemas que nos indican la verdad borran características intrínsecas del ser humano: crítica, juicio, etc., todo en una sola generación y sin evaluación de los impactos en la civilización, sin crítica". "Estamos en una ceguera general", lamentó.

Los sistemas borran características intrínsecas del ser humano y no evaluamos este impacto en la civilización

Más allá de las preocupaciones que invaden el debate público —los fallos en redes sociales, los escándalos de Facebook, la vigilancia del 'gran hermano digital', la protección de los datos personales...— , Sadin mostró su preocupación por el hecho de que nadie habla de las implicaciones éticas que están por encima de todo ello.

"Lamento que en nuestra época, lo único que nos preocupa es la libertad individual, pero la libertad común, la simetría de poderes, la libertad de juicio, son cuestiones colectivas que a nadie parece preocupar; hay una reducción sistemática al individuo", afirmó, y añadió: "Me molesta tanto individualismo, parece que sólo nos importa nuestra pequeña parcela de libertad; la protección de datos me parece una obsesión que tiene que ver con la libertad individual, mezquina, egoísta, y cuanto más defendamos esa libertad, mejor le irá a la tecnoeconomía".

Eso sí, no negó que los avances tecnológicos tienen su cara positiva. Pero zanjó, con cierta sorna, que "ya hay mucha gente que defiende las ventajas, tantas que saturan el debate público". "No me necesitan para eso", concluyó.