La IA más allá de lo técnico; ¿cuáles son las implicaciones filosóficas y sociales de la tecnología? “Ok, Pandora” da algunas de las respuestas

Pablo González, codirector del proyecto El gato y la caja habló con Ticmas dentro de la FIL de Buenos Aires sobre la relación de los humanos con la inteligencia artificial

Guardar

Nuevo

Pablo González, codirector de El Gato y la Caja, conversó con Ticmas sobre la inteligencia artificial, disrrupciones y la filosofía detrás de la tecnología. (Agustín Brashich/Ticmas)
Pablo González, codirector de El Gato y la Caja, conversó con Ticmas sobre la inteligencia artificial, disrrupciones y la filosofía detrás de la tecnología. (Agustín Brashich/Ticmas)

Que la tecnología esté inmersa en nuestras vidas de manera casi inherente hace que la vida de muchas personas sea más sencilla. Brinda oportunidades que potencializan el desempeño humano y permiten acceder a cosas que, de forma tradicional, cuestan un poco más de trabajo acceder a ellas. Pero más allá de los beneficios que otorga la tecnología en general, y la inteligencia artificial en particular, hay que cuestionarse el por qué dejamos que estas herramientas dominen con tanta facilidad, y desde hace años, la vida social y personal de la humanidad.

Para hablar sobre el lado filosófico de la IA, mezclado con los alcances poco mencionados de la tecnología y cómo es su interacción con el humano más allá de su forma como herramienta, Pablo González asistió al auditorio de Ticmas dentro de la Feria Internacional del Libro de Buenos Aires y desglosó todos estos temas.

Pablo González es codirector del proyecto El Gato y la Caja, un medio web que conjunta ciencia y diseño, además de ser el sello editorial que conjuntó seis ensayos sobre la IA en el libro Ok, Pandora. El libro reúne ensayos de distintos autores abordando cuestiones filosóficas, científicas y sociológicas de la IA.

¿De qué va “Ok, Pandora”?

Pablo González comenzó la charla comentando que el abordaje que se le dio a la inteligencia artificial fue por una necesidad propia para poder entenderla, sobre todo en esos espacios “no naturales” que la IA ahora está ocupando y disrrumpiendo, es decir, donde está dando un “salto cualitativo importante”. Para llegar a ese abordaje, se requirió un año de trabajo con un equipo interdisciplinario que incluye dos filósofos, una ingeniera, una experta en regulación, un científico de la conciencia, para que entre todos ellos se pudieran responder las preguntas que van más allá de lo técnico.

“Buscamos esos vectores de entender este fenómeno y eso incluía un poco entenderlo históricamente, qué es lo que hace Consuelo López, que es ingeniera [y una de las autoras], y que recoge la historia de la inteligencia artificial, sus inviernos, sus veranos. Y empezar a entender un poco la traza histórica de la inteligencia artificial. Sus ciclos, sus manías donde prometen que van a cambiar el mundo, y sus inviernos donde tienen que irse atrás. La pregunta clave es si este momento histórico es otro de esos ciclos de manía y posterior decepción o si este es el momento donde se vuelve una tecnología con la penetración que pensamos que puede tener y con los efectos sistémicos que pensamos que puede alcanzar”, dijo González.

Y respondió que precisamente porque desde El Gato y la Caja se pensó que la nueva disrrupción puede ser distinta a otras veces, se buscó el entendimiento del cuerpo ideológico, filosófico, espiritual que está sosteniendo este salto cualitativo.

“Eso implicó que Maxi Zeller, filósofo especialista en este tema [también autor], se metiera a hablar de las élites de Silicon Valley y todos estos proyectos Milenaristas, todos esos proyectos cuasi religiosos que rondan la inteligencia artificial. ¿Cómo hace Elon Musk para levantarse a la mañana y decir voy a mandar personas a Marte? Y cuando le preguntan ‘pero hay hambre en la tierra’, él dice ‘no, no, cuidar a la especie es mandarnos a Marte’. Nos interesaba ese cuerpo ideológico que hay alrededor de la inteligencia artificial”.

Pablo González dijo que el libro de "Ok, Pandora" se escribió desde los lugares "no cambiantes" de la relación entre el humano y la inteligencia artificial
Pablo González dijo que el libro de "Ok, Pandora" se escribió desde los lugares "no cambiantes" de la relación entre el humano y la inteligencia artificial

González señaló que otro de los autores es Tomás Balmaceda, filósofo y periodista, quien en su ensayo reflexiona sobre las relaciones entre humanos e inteligencia artificiales. En ese sentido, recordó la película de Her (2013), pues se explora el desarrollo de los vínculos profundos con sistemas completamente automatizados y qué se hará con este tipo de “nuevas relaciones”. En un abordaje complementario, otro de los autores, Julian Peller, ingeniero que se desempeña en la parte técnica de la IA y que habla en el libro sobre el riesgo existencial, pone en la conversación que antes de preguntarse si estos tienen conciencia, nos preguntaremos qué hacer con los sentimientos reales de personas reales hacia estos sistemas.

“Si una persona viene y te dice no desconectes este sistema. ¿Por qué? Porque lo quiero, porque me importa, porque hablo con él todas las mañanas. ¿Lo desconectas? Es una pregunta que nos tenemos que responder como especie, porque el momento histórico ya llegó. Eso ya está pasando. Cómo interactuamos ya no solamente con estos sistemas, sino con el efecto humano que estos sistemas crean, generan, sostienen y además con la intimidad con lo que le conté todo a estos sistemas”, subrayó Pablo González.

“Le creo a la tecnología”

Patricio Zunini, moderador de la charla, dijo que si bien para él la relación con los dispositivos electrónicos es desde la utilidad y no a partir del sentimentalismo, no titubea al confiar en la tecnología, incluso si se trata de aspectos íntimos como la elección de pareja, el desarrollo personal como decidir el camino profesional, o la elección de mi entretenimiento a través de un libro o una película.

Sobre ello, Pablo González recordó que esas funciones en realidad ya las cumplen las tecnologías hoy disponibles a través de algoritmos de IA presentes en Netflix o cualquier plataforma de streaming, así como en los mercados de venta como Amazon. Y que de hecho, este tipo de interacción del humano con la IA es solo una primera etapa, quizá la más básica. Para este “segundo round”, la IA ahora explora la intimidad y la relación entre la creatividad y lo cognitivo.

“Hay un grupo de filosofía, Institute for the Future, que trabaja en centros de estudio de inteligencia artificial y filosofía, que dicen que este es el segundo round de la inteligencia artificial. (...) Hay algo que dicen que es terrible que el primer round, lo perdimos y creo que es verdad, porque ya no elegimos las películas que queremos ver, ahora vemos lo que Netflix recomienda, lo que recomienda Prime. Hay una carrera armamentista por la atención que nos dio los grandes monopolios, los grandes titanes del presente de Silicon Valley, esos mismos que tienen un andamiaje filosófico, religioso, que los lleva en esta dirección de desarrollar a la máxima velocidad sistemas que no entendemos bien cómo funcionan”.

Y siguió: “eso es importante. Yo te decía Julián Peller, el ingeniero, habla de riesgo existencial, de cómo la inteligencia artificial es realmente una tecnología de riesgo existencial. Si yo nombro otras tecnologías de riesgo existencial, tengo que hablar de biotecnología, de lo nuclear. Y decimos ‘pero ¿realmente puede ser tan grave? ¿Realmente puede ser tan importante esta disrupción? Y yo digo imagínate que estos sistemas pueden hacer cosas como hacer un gran un excelente descubrimiento de drogas y decir bueno, qué bueno para la humanidad que hagan discovery de drogas. Toda neurotoxina que te puedas imaginar es un descubrimiento de drogas y bajaste la energía, el conocimiento, la complejidad de acceder a ese tipo de conocimientos de algo que solamente puede pasar en lugares de investigación extremadamente sofisticados a cualquier computadora de cualquier persona en cualquier parte del mundo. ¿Qué hacemos con esto? Sistemas que ya salieron al mundo y que no podemos volver a meter en un espacio de contención. Ok, Pandora es un poco aceptar que no tenemos la madurez institucional, política, y hasta técnica para darle contención a estos sistemas”.

¿Cómo preparse para un presente sin contención de estos sistemas?

Pablo González comentó a Ticmas que en este momento de la IA se teje una realidad más creativa y cognitiva, ya no solo de cómo es que consumimos información.
Pablo González comentó a Ticmas que en este momento de la IA se teje una realidad más creativa y cognitiva, ya no solo de cómo es que consumimos información.

Pablo González dijo que aunque todo el tiempo se hable de la inteligencia artificial como una herramienta potenciadora de lo que será el futuro, en realidad ya está ocurriendo y hasta ya pasó. Por ello, más allá de apuntar cómo es que la educación tratará con ello, se debe voltear a ver qué es lo que pasó con el uso algorítmico adentro del aula en los últimos 10 años.

Expuso que hay que çuestionarnos cómo es que se transitó en la última década con la tecnología y los jóvenes, cómo se ha medido y cómo se ha intentado o no contener las relaciones mediadas por la tecnología. También comentó que es importante tener en cuenta que la tecnología debe ser opaca para el ser humano, es decir, darnos cuenta siempre que está ahí y que funciona como un dispositivo mediador de la realidad, pero no la realidad misma.

“También es importante poner al frente su opacidad. En el libro uno de los autores habla de esto, de cuando una tecnología es transparente y cuando es opaca. Tú usas lentes [refiriéndose a Patricio Zunini], no estás pendiente de tus lentes todo el tiempo. En algún momento tus lentes desaparecieron y fueron parte de lo que eres. Solamente ves a través de ese dispositivo. El objetivo en este caso es hacer opaca a la inteligencia artificial en tanto darnos cuenta, no escaparnos de que esa mediación está pasando y no es parte del futuro, es totalmente parte del presente”, destacó en el auditorio de Ticmas.

¿Aceptarlo o desconfiar?

“El problema de fondo es que no tenemos los instrumentos efectivos para desconfiar. ¿Qué quiero decir con esto? Aceptarlo viene siendo el curso de la historia en este momento”, dijo González ante la pregunta sobre cómo afrontar esta realidad.

Comentó que para tener un punto de vista crítico no se puede caer en el pesimismo ni optimismo absoluto, porque el primero resulta poco operativo ya que tienen un estímulo enorme por desarrollarlas y sin importar que alguien esté en contra de las nuevas tecnologías, quien quiera desarrollarlas tiene la ventaja utilitaria, técnica e inmediata.

“Ya no hay versión de la humanidad donde esto no haya ingresado. Entonces creo que la pregunta pasa a ser, o por lo menos el desafío que encontramos es ‘en un mundo que acelera cada vez más rápido’, lo que tenemos que encontrar es dispositivos para aprender cada vez más rápido, para tener estas conversaciones cada vez más rápido, para que pasen de ser de nicho a una conversación de mayor escala”.

Agregó que al inicio se cuestionó en El gato y la caja cuál era el objetivo de hacer un libro sobre inteligencia artificial, sobre todo porque la tecnología crece a un ritmo acelerado y corría el riesgo de quedar en el desfase, sin embargo, la manera de “hackear el sistema” es observando y nombrando aquellas cosas que no cambian, así como sus efectos sobre los humanos y sobre el sistema social.

“Cuando piensas en la electricidad, no piensas qué parte de la industria cambió. La electricidad cambió el mundo, la inteligencia artificial ya cambió el mundo y lo va a cambiar cada vez más. La pregunta es cómo aprendemos más rápido para poder estar a la altura de las discusiones que tenemos que tener para estar más o menos en tema”, insistió Pablo González.

Ok, humano

-Patricio Zunini: El gato y la caja hace cosas alucinantes desde hace bastantes años y cuando sacaron Ok Pandora sacaron junto con eso una web que se llama OK humano, que es un juego que yo creo que todos deben haber jugado porque fue un boom. Habrán jugado 50 mil personas en un fin de semana.

-Pablo González: Sí, el creo que eran ya 50 mil. Lo tengo que mirar, pero eran más de 40 mil partidas. Seguro debe haber llegado a 50 mil ahora. Y es una locura porque pusimos a personas a competir directamente con GPT.

-Patricio Zunini: El juego era: te mostraban los ojos de una persona y tenías que reconocer el sentimiento que estaban teniendo. Yo lo jugué con mis estudiantes; jugamos y vimos en el proyecto. Era muy increíble que tenías un nivel de acierto. Por ahí tenías siete de 10, ocho de 10, pero la computadora también, y además trataba de mostrarte de qué manera pensaba y por qué arriesgaba la respuesta. “¡Ah, mira! Como los ojos se pliegan de esta manera, o el arco de las cejas...”

La portada del libro "Ok, Pandora", el cual aborda cuestiones filosóficas, científicas y sociológicas de la IA. (El Gato y la caja)
La portada del libro "Ok, Pandora", el cual aborda cuestiones filosóficas, científicas y sociológicas de la IA. (El Gato y la caja)

-Pablo González: Algo que siempre pensamos es que el libro no es el proyecto, que hay un proyecto más grande donde podemos hacer en digital cosas que no pueden pasar en otro lado. Lo que hicimos con humanos fue hacernos la pregunta de cómo podemos crear una experiencia donde un otro, desde su casa, entienda en el cuerpo lo que está pasando. Entonces dijimos bueno, vamos a agarrar GPT cuatro, que es un sistema que de ninguna manera fue armado específicamente para leer emociones humanas. Es un sistema muy general y nos hicimos la pregunta ‘¿este sistema será capaz de tener un desempeño más o menos cercano al humano en una tarea que uno pensaría que es una tarea humana por nuestra historia evolutiva?’. Reconocer emociones debería ser una tarea tremendamente humana y tremendamente difícil de igualar por una inteligencia artificial. Los resultados nos sorprendieron y nos asustaron un poco, Y es que si bien los humanos ganaron más o menos la mitad de las partidas, eso quiere decir que ganamos solamente la mitad de las partidas. Cuando analizamos los datos, GPT cuatro fue capaz de entender. Las emociones humanas con una diferencia decimal de los humanos. El humano terminó más o menos en cuatro y pico sobre siete y GPT terminó en 4.5 sobre siete, que es una barbaridad. O sea, tenemos un sistema que no fue entrenado de manera específica para desempeñar esa tarea. Lo pusimos a hacer una tarea que pensamos que el humano iba a hacer diferencialmente bien y prácticamente nos empató. Y ahí viene la pregunta de ‘¿y por qué pasa esto?’ Y la respuesta es no sabemos. Tenemos ya en el mundo sistemas con desempeño cuasi humano y no entendemos cómo funciona porque son sistemas cerrados, no auditables, cajas negras que ni siquiera entendemos cómo funciona y que no es todavía entendible. No hay una aproximación científico técnica para entender lo que está pasando.

Patricio Zunini: Pero “Ok, humano” tenía dos juegos, el primero eran hombres y mujeres blancos y el segundo había una variedad de raza, género y color. Y ahí era más fácil ganarle.

Pablo González: Un poco eso fue lo que quisimos probar. La premisa fue que GPT puede desempeñar parecido a un humano, le damos un dataset’. Ese dataset tiende a reproducir algo que se le dice mucho a la inteligencia artificial, que es que tiene sesgos hacia lo blanco, lo occidental, los varones. Desafiamos a esa misma inteligencia artificial con un dataset que incluía mucha más diversidad. Le fue muy mal, realmente muy mal. Le fue muy mal para las caras blancas y le fue tremendamente mal para las caras que no fueran blancas. Y algo más que hicimos fue poner a prueba también humanos, porque la pregunta era bueno, ‘tal vez todos los humanos nos desempeñamos peor ahí'. Y eso a mí me devolvió una cierta fe en la humanidad, que es que no encontramos ninguna diferencia. Los humanos blancos, no blancos, hombres, mujeres, racializados, no nos reconocemos nuestras expresiones, no importa si es parecido a uno mismo, distinto de uno mismo. Y ahí viene la otra pregunta: “¿qué pasó con GPT?” No sabemos. Sabemos que se desempeña peor, sabemos que se desempeña particularmente peor con rostros que no son blancos, pero no tenemos idea de lo que está pasando.

-Pablo González: Y para peor, se desempeñó muy distinto en las dos experiencias. Una cosa que nos incomodó fue esta idea de “yo pongo un sistema de inteligencia artificial a hacer una tarea, le doy una tarea que está al lado, que uno podría asumir, que es extremadamente parecida” y su desempeño es tremendamente distinto. Estos sistemas ya están implementados en el mundo real. Cualquier persona. Nosotros no somos un equipo particularmente especializado en inteligencia artificial, tenemos cierto manejo de estas herramientas, pero no es un fuerte, no es una tecnología que en este momento está en un nivel de complejidad que nos prevenga de implementarlo o de implementarlo a escala. Sí podemos hacer esto, hay muchos equipos en todos lados que pueden hacer esto. Sí podemos implementar esto a escala y tiene un rendimiento diferencial y no entendemos por qué lo está teniendo, estamos en frente de una disrupción que no podemos todavía domesticar. Estamos creando y conviviendo con algo divino sin tener riendas para eso divino.

¿Cuánto tiempo tomará para que la IA gane todo el tiempo?

Patricio Zunini recordó que hace años la computadora Deep Blue ganó su primer partida de ajedrez a Kasparov, y aunque en ese momento se decía que era márketing de IBM, hoy la potencia que tiene la computadora hace que ya no se le pueda ganar, porque tiene “todos los movimientos de todas las partidas posibles de la historia”. En ese sentido, preguntó a Pablo González cuánto tiempo tomará para que la IA gane todo el tiempo a los humanos.

González dijo que fue una de las preguntas que se hicieron entre los autores de Ok Pandora y el equipo editorial de El gato y la caja, y rescataron que en realidad los humanos no dejaron de jugar ajedrez, por lo que quizá se ha superado la barrera de la competencia, y que más bien se siguen haciendo porque dan satisfacción al humano y porque esas tareas no son instrumentos para hacer, sino herramientas de vinculación.

“Juegas al ajedrez con alguien, haces una obra de arte para alguien, para comunicarte. Entonces, tal vez reducirlo a una pregunta instrumental es un problema y tenemos un poquito de esperanza en pensar que nunca dejamos de jugar al ajedrez, aunque ya haya sistemas expertos que juegan al ajedrez mejor que cualquier humano”, expuso.

Guardar

Nuevo

Últimas Noticias