Éric Sadin, el intelectual que desafía al reino del algoritmo: “La innovación digital trabaja para convertir toda actividad humana en obsoleta”

El filósofo francés alerta en una entrevista con Infobae sobre los peligros que representan las tecnologías "exponenciales" para las decisiones y la pluralidad de las sociedades

jpiscetta@infobae.com
Autor de varias obras, Eric Sadin es uno de los ensayistas más escépticos y críticos sobre los beneficios de la inteligencia artificial.
Autor de varias obras, Eric Sadin es uno de los ensayistas más escépticos y críticos sobre los beneficios de la inteligencia artificial.

Nos consideramos libres en la medida que nadie ni nada se nos oponga. Ese concepto de libertad que domina en todo el mundo deja de lado un dilema ético y político fundamental previo. Sea para cuestiones como hacer compras, ver una película, leer un texto, elegir una pareja o votar un candidato, la soberanía de una persona siempre se fundó en su capacidad de decidir y juzgar lo que cree conveniente.

Pero en la era de las aplicaciones móviles y los smartphones, esas premisas teorizadas por los padres del liberalismo y de la modernidad están llegando a su fin. Para el intelectual francés Éric Sadin, nuestra facultad cognitiva es reemplazada por “la gran narcosis de la época”: la inteligencia artificial (IA). ¿O acaso no nos abandonamos al algoritmo cuando optamos por lo que nos arroja Google o Facebook, cuando nos lanzamos a las ofertas que nos sugieren las empresas de delivery o matcheamos con alguien en Tinder?

“Las tecnologías digitales, de ser herramientas de ayuda a la decisión, se convirtieron en instancias decisionales en sí. En cierto modo, no estaremos destinados tanto a dar instrucciones a las máquinas como a recibir instrucciones de ellas”, apuntó Sadin en una entrevista a Infobae, autor de La inteligencia artificial o el desafío del siglo. Anatomía de un anti humanismo radical (2020) y La siliconización del mundo (2018), entre otros ensayos que compila la editorial Caja Negra.

A lo largo de su obra, el filósofo da cuenta de cómo la “mano invisible” automatizada invade todos los aspectos de la vida y de la economía, al punto de “customizarlas” (segmentarlas) al extremo. En La realidad aumentada (2017), Sadin comparó este nuevo ser digital con el “villano” de la película 2001, Odisea en el espacio, del director Stanley Kubrick. En el film, la supercomputadora Hal 9000 “asistía” de manera inteligente al astronauta Dave en su epopeya por el espacio. Hall 9000 era un dispositivo omnisciente, clarividente, que se hacía cargo de todas las funciones operativas y vitales de la tripulación. La película ofrece una proyección distópica y ficcional, pero sugestivamente premonitoria sobre el alcance de los procesadores y los cálculos computacionales en su “optimización” de nuestro día a día.

“La inteligencia artificial es un poder de experticia que se perfecciona sin descanso. Los sistemas ahora son capaces de analizar situaciones de orden cada vez más diverso y de revelarnos estados de hecho entre los cuales hay algunos que escapan a nuestra conciencia. Y este análisis se hace a una velocidad que supera sin medida de comparación alguna nuestras propias capacidades cognitivas”, describe Sadin.

Lo que se está viviendo es un “cambio de estatuto de las tecnologías digitales”, plantea el autor. Estos sistemas procesan información de manera autónoma, y sus resultados producen un “valor de verdad” a los que los usuarios aceptan y se ajustan.

“El libre ejercicio de nuestra facultad de juicio se ve sustituido por protocolos destinados a orientar y encuadrar nuestros actos”, advierte el francés. Los protocolos tienen nombres conocidos en el mundo de la informática: BigData, Internet de la Cosas, Machine Learning, los chatbots, user experience (UX), entre otros. En definitiva, se trata de los saltos tecnológicos impulsados por las empresas de Sillicon Valley, de la mano de Steve Jobs, Bill Gates o Mark Zuckerberg, que instauraron un nuevo tipo de “tecnoliberalismo” que gestionan sistemas a la suerte de “espectros encargados de administrar nuestras vidas”.

En la actualidad, la inteligencia artificial no solo "asiste" a los humanos, al modo de la supercomputadora Hal 9000, de la película "2001, Odisea en el espacio". También cuenta con un poder de enunciar lo "verdadero" por sobre el diagnóstico humano.
En la actualidad, la inteligencia artificial no solo "asiste" a los humanos, al modo de la supercomputadora Hal 9000, de la película "2001, Odisea en el espacio". También cuenta con un poder de enunciar lo "verdadero" por sobre el diagnóstico humano.

La batalla económica por venir entre Google, Facebook, Amazon, Baidu y otros actores será testigo de una competencia descarnada por la conquista de esta presencia espectral, ya que cada uno de ellos se esforzará por imponer su influencia a expensas de todo el resto”, reflexiona Sadin.

De esta forma, comportamientos en los que el intelecto humano era amo y señor son subordinados a procesos informáticos que van desde la economía al campo de los recursos humanos, como la plataforma Pymetrics -que permite descartar candidatos a un empleo a través de un proceso de selección automatizado a distancia; o bien impacta en el campo de las artes, como el sistema OpenAI, que diseña textos y escribe textos “como si fuera un humano”. Estos protocolos gobiernan la economía global: la serie Billions (2016) expone la dependencia del negocio financiero en las startups y los algoritmos que toman decisiones financieras sin la intervención del inversor humano.

“En el mismo momento en que estas máquinas están llamadas a decirnos continuamente aquello que se supone que nos conviene, se encuentran dotadas de la facultad de la palabra, como ocurre en los recintos conectados con altavoces con los cuales podemos dialogar. Esta disposición está también en acto en los asistentes digitales personales concebidos para guiarnos a lo largo de nuestras vidas cotidianas”, manifiesta el autor francés, quien bautiza esta voluntad de la industria como “poder-kairós”.

- Usted dice que dentro de las empresas, la IA permite instaurar una optimización extrema valiéndose de procedimientos coercitivos.

- Los diferentes sectores dentro de las empresas están ahora infiltrados por sensores que hacen posible una cartografía en tiempo real de las “medidas de performance” que se alimentan de sistemas de inteligencia artificial. Estos procedimientos, que se encargan de dictar a ciertos miembros del personal los gestos “correctos” que deben efectuar, están funcionando de modo masivo en los depósitos de Amazon y se extienden hoy al conjunto del mundo industrial. Las personas están obligadas a actuar en respuesta a ciertas señales y se ven sometidas a cadencias casi insostenibles sin poder manifestar el menor desacuerdo. Los cuerpos se ven privados de su subjetividad y de su capacidad de iniciativa. Sería momento de que los sindicatos se apoderasen de estas cuestiones de organización impersonal y ultra-optimizada de los modos de producción, dado que ultrajan el derecho al trabajo así como la dignidad humana.

La implementación del programa cognitivo” Watson, desarrollado por IBM, favoreció despidos en una compañía de seguros de vida japonesa, la Fukoku Mutual Insurance.
La implementación del programa cognitivo” Watson, desarrollado por IBM, favoreció despidos en una compañía de seguros de vida japonesa, la Fukoku Mutual Insurance.

- En el mismo momento, estamos presenciando una destrucción de empleos de alta competencia cognitiva.

- A diferencia del movimiento de automatización de las cadenas de montaje que se impuso a fines de los años ’70, sobre el que podíamos suponer que suprimía puestos laborales penosos, el desafío actual consiste en hacer garantizar a los sistemas un número cada vez más extenso de tareas cognitivas. Así ocurrió con la introducción de una versión del “programa cognitivo” Watson desarrollada especialmente por IBM dentro de una compañía de seguros de vida japonesa, la Fukoku Mutual Insurance, que provocó el despido de una parte de sus asalariados. El dispositivo se encarga de reunir los datos médicos de los clientes y de “leer” los certificados que redactan los médicos a fin de determinar los montos de los contratos tanto como los reembolsos a ser efectuados.

Los ejemplos relacionados con estos usos son abundantes, conciernen a quienes gestionan cuentas bancarias, a los consejeros financieros, a los expertos en contabilidad, a los analistas jurídicos, hasta llegar a los presentadores del tiempo en los canales de televisión. Mientras tanto, los evangelistas de la industria de lo digital no dejan de proclamar que la IA va a crear paralelamente nuevos puestos de trabajo, como si se hubiera convertido en normal que competencias que necesitaron muchos años para forjarse y en las cuales los individuos tienen la posibilidad de encontrar su satisfacción y realizarse puedan ser descalificadas rápidamente. La gran maquinaria técnico-económica apunta indefinidamente a una mayor optimización y a ganancias más amplias.

La “robolución” como imitación de lo humano

Para Sadin, la nueva economía digital y sus promotores entienden al trabajo desde una perspectiva netamente utilitarista, capaz de socavar la autoestima personal y atraer enormes sufrimientos. En ese movimiento, quienes diseñan las tecnologías buscan imitar y reproducir las sensaciones y gestualidades de las personas. Y el artefacto predilecto son los nuevos robots.

“Lo que se busca hoy en día es asignar a robots de metal cualidades sensorio-motoras y kinestésicas idénticas a aquellas de las cuales están dotados los humanos”, precisa el ensayista. “Hoy se fabrican robots que, contrariamente a los de las “generaciones” precedentes, llevan adelante todo tipo de acciones y están dotados del sentido de la reactividad –incluso de iniciativa. Este movimiento se llama “robolución”. Depende de máquinas “hábiles” cubiertas de sensores, de lentes focales de video y que están “animadas” por programas de inteligencia artificial, como YuMi, una máquina desarrollada por la compañía ABB que está provista de brazos y manos flexibles que pueden localizar piezas situadas a su alrededor y realizar ensamblajes de aparatos electrónicos”.

La aparición de estos nuevos modelos no solo alcanzan al ámbito productivo tradicional, sino que avanza sobre las quimeras clásicas del robot que ayuda en las tareas domésticas. Robotina, de los Supersónicos, está a la vuelta de la esquina.

En septiembre de 2017, el robot Yumi condujo al tenor Andrea Bocelli, el flautista Andrea Griminelli y la filarmónica de Lucca en un concierto de música clásica ante el teatro Verdi, en Pisa. (AFP/Miguel Medina)
En septiembre de 2017, el robot Yumi condujo al tenor Andrea Bocelli, el flautista Andrea Griminelli y la filarmónica de Lucca en un concierto de música clásica ante el teatro Verdi, en Pisa. (AFP/Miguel Medina)

El robot Tug es presentado por sus creadores como un “asistente para el cuidado”. Se compone de una mesa rodante a la cual se le integró un ojo de video y que se parece al personaje R2-D2 de La guerra de las galaxias. Ya está en funciones en muchos hospitales en EEUU para entregar, a pedido, medicamentos, vasos de agua o comidas”, ejemplifica Sadin.

“En verdad, a largo plazo, se aspira a que todas las tareas profesionales puedan ser tomadas a cargo por robots hechos de metal o incorpóreos. La innovación digital trabaja para convertir toda actividad humana en obsoleta a fin de que las asuman las máquinas para transformarnos en eternos seres que se dedican a la pesca con caña”.

Datos, datos, datos

El autor entiende a la inteligencia artificial como una técnica que permite instaurar a largo plazo una “comparatología integral” entre todas las cosas, es decir, la capacidad de establecer paralelos y “a gran velocidad todo tipo de datos, llevando a las empresas a valerse de sistemas que ponen en una balanza las diferentes ofertas de los proveedores y los seleccionan ellos mismos” sin depender, otra vez, del rol humano directo.

“Así ocurre con Retail link, un sistema desarrollado por IBM y utilizado por el gigante de la distribución Wal-Mart. Sin embargo, este principio no se aplica solamente en el marco de las relaciones entre empresas sino que también lo hace dentro de las propias actividades de la empresa en sí, lo que nos deja ver, por ejemplo, cómo hay sistemas que proceden a realizar cartografías comparativas entre los miembros del personal”, establece Sadin.

En definitiva, lo que emerge es un “nuevo estadio del management”, que tiene como consecuencia “contratos más precarios” de corto plazo para distintas tareas. La maquinaría se realimentaría con nuevos dossiers de futuros empleados, también seleccionados por los sistemas de IA a través de la comparatología.

Hay un nuevo estadio de la técnica que permite de ahora en adelante ubicar a los individuos todo el tiempo en competencia entre sí”, piensa Sadin. Nada nuevo en el horizonte de la economía de mercado. La diferencia es que el “axioma ultraliberal” ahora establece que la “intercambiabilidad continua de los seres” desde mecanismos electrónicos perfeccionados y autónomos.

Una demostración del robot Tug, de la empresa Aethon, utilizado para repartir comida y el transporte de medicina para pacientes en los centros de aislamiento por COVID-19. (REUTERS/Edgar Su)
Una demostración del robot Tug, de la empresa Aethon, utilizado para repartir comida y el transporte de medicina para pacientes en los centros de aislamiento por COVID-19. (REUTERS/Edgar Su)

¿Hay alternativa?

Pesimista y escéptico sobre el futuro, Sadin considera que lo que sobrevendrá es una devaluación de las capacidades intelectuales y la sustitución masiva de empleos “cognitivos” o de alta calificación.

El modelo californiano de Sillicon Valley es ejemplificador sobre la nueva lógica de la acumulación. A pesar de ser gigantes con un nivel de facturación que supera el PBI de varios países, Google tiene 60.000 empleados directos, Facebook, unos 12.000, y Whatsapp tenía 55 cuando Facebook la compró por 19.000 millones de dólares. En 1962, las empresas de punta como Exxon o AT&T contaban con 564 mil y 150 mil empleados, respectivamente, según relata Nick Srnicek en su libro Capitalismo de plataformas (2017, Caja Negra).

Ante el avance de la inteligencia artificial, Sadin rechaza las rentas básicas universales como solución porque no es deseable “vivir de subsidios que se nos ofrezcan”, sino que la salida está en “construir estructuras de trabajo que favorezcan la creatividad de las personas y respondan a intereses compartidos”. Las nuevas legislaciones, por su lado, tampoco podrán frenar o regular la ofensiva de la economía de los datos y de las plataformas. Temas como la protección de la vida privada de los usuarios ante el algoritmo es un desafío, aunque es un factor limitado ante el proyecto “antihumanista” de la tecnologías.

Menos aún sirve la apelación a un “uso responsable” de la tecnología y de la inteligencia artificial, reflexiona Sadin. No hay neutralidad posible: las relaciones entre los individuos y las empresas tecnológicas son asimétricas, y perfilan un nuevo tipo de racionalidad y modelo antropomórfico que afecta a la conducta.

“Le estamos dando demasiado la palabra a los ingenieros enrolados por la industria, quienes para satisfacer su buena conciencia no dejan de invocar la “ética”. Esa es la gran impostura de nuestro tiempo, ya que la convierte en un revestimiento vago que afirma de manera circular que ‘la máquina debe estar al servicio del hombre’ y otros clichés igual de vacíos”, sostiene Sadin. La técnica, en tanto que campo relativamente autónomo, hoy ha desaparecido. Solo queda lo tecnoeconómico. Las formas de la pluralidad están neutralizadas en beneficio de producciones basadas en lógicas estrictamente mercantiles y utilitaristas”.

"La inteligencia artificial o el desafío del siglo", el último ensayo de Eric Sadin.
"La inteligencia artificial o el desafío del siglo", el último ensayo de Eric Sadin.

- ¿Es posible resistir a esta “deshumanización”?

- Estamos desvalidos ante la velocidad de unos desarrollos que se nos presentan como ineluctables, y esto nos impide pronunciarnos en plena conciencia. Antes que nada, sería conveniente contradecir estos tecnodiscursos y poner en primer plano aquellos testimonios que surgen de la realidad del territorio, ahí donde esos sistemas están operando, en los lugares de trabajo, las escuelas, los hospitales. Deberíamos también manifestar nuestro rechazo respecto de algunos dispositivos cuando estimamos que ultrajan nuestra integridad y dignidad. Contra este asalto antihumanista, hagamos prevalecer una ecuación simple pero intangible: cuanto más se cuenta con desposeernos de nuestro poder de actuar, más activos conviene que seamos.


SEGUIR LEYENDO:

Slavoj Žižek: “Vivimos una confusión total, este es el momento de la filosofía”

El dilema de la filosofía tech: pensar un mundo mejor o explotar al humano como nunca antes


MAS NOTICIAS

Te Recomendamos