Fredi Vivas, especialista en inteligencia artificial: “La IA tiene un gran componente de humanidades”

El ingeniero y profesor dialogó con DEF a propósito de su libro ¿Cómo piensan las máquinas?, en el que explica y reflexiona en tono de ciencia ficción sobre inteligencia artificial y ciencia de datos

El ingeniero dio su visión sobre la IA (Fernando Calzada)
El ingeniero dio su visión sobre la IA (Fernando Calzada)

Hasta hace unos años, la inteligencia artificial (IA) era un mundo desconocido. O, más que desconocido, ajeno: palabras como algoritmo y machine learning eran propias de entendidos en informática o de imaginarios truculentos sobre robots de dudosa moral.

Terminator, película emblema de los ‘80, modeló una forma de entender el rol de las máquinas y, en un sentido general, de su relación con el futuro. Las máquinas nos iban a dominar, las máquinas iban a adueñarse de ese porvenir sombrío apenas iluminado por las llamas de la devastación.

"La palabra 'pensar' solo aplica a seres humanos, quizá en las máquinas deberíamos darle otro nombre: 'procesar', 'calcular' aunque es más que 'calcular'", dice Vivas (Foto: AFP)
"La palabra 'pensar' solo aplica a seres humanos, quizá en las máquinas deberíamos darle otro nombre: 'procesar', 'calcular' aunque es más que 'calcular'", dice Vivas (Foto: AFP)

DOS SUEÑOS, UNA TECNOLOGÍA

Un sueño distópico con cyborgs que dominan el mundo y otro, más optimista, explican la publicación de Cómo piensan las máquinas: Inteligencia artificial para humanos (Galerna), de Fredi Vivas: “Mi sueño era contribuir a que más gente se pudiera meter en estas tecnologías; hay mucha búsqueda de personal orientada a data, y, por otro lado, gente sin conseguir trabajo”. Coordinador académico del programa Big Data de la Universidad de San Andrés, Vivas es CEO de Rocking Data, startup argentina que desarrolla algoritmos y se vale de la inteligencia artificial para resolver problemas concretos de las organizaciones.

En una mezcla de ciencia ficción futurista con conceptos de IA, Cómo piensan las máquinas es un compendio que aborda el funcionamiento y las principales preguntas que derivan de la IA: “Busqué la excusa de estar en el futuro y entender cómo las máquinas nos pueden ayudar a sobrevivir”, dice Vivas, y agrega: “En los ‘80, nos metieron en la cabeza la lucha máquinas vs. humanos; mi idea es máquinas más humanas, trabajando juntos”. Vivas dialogó con DEF sobre la gestación del libro, el prólogo escrito con IA, la diferencia entre naturaleza humana y algorítmica, entre otros temas.

Para Vivas, hoy "estamos en un estadío donde la IA y la Ciencia de los Datos están puestas a disposición para mejorar un proceso o descubrir la forma de hacer algo" (Foto: AFP)
Para Vivas, hoy "estamos en un estadío donde la IA y la Ciencia de los Datos están puestas a disposición para mejorar un proceso o descubrir la forma de hacer algo" (Foto: AFP)

-¿Qué te motivó a escribir Cómo piensan las máquinas?

-No quería un clásico manual para ser un científico de datos. Primero, el libro busca entretener y creo que, si se consigue entretener, se llega con los conceptos más fácilmente. La búsqueda es hacer que más gente se pueda meter en estas tecnologías. Para mí, el libro nace de dos sueños, uno es más utópico en el sentido de contribuir a que algunas cosas cambien: cuando tenés 18 años o 20, es muy complejo conseguir el primer trabajo. Y también, cuando la gente de más de 40 quiere reconvertirse, no es fácil. Mi sueño era contribuir a eso viendo que hay mucha búsqueda de personal orientada a data, y por otro lado, gente sin conseguir trabajo. El otro es un sueño literal. Venía trabajando con la idea del libro hace casi dos años, pero no estaba convencido del todo y no quería hacer algo que no me divirtiera. Hasta que el año pasado me agarró COVID-19: estaba todo el día acostado y, en una de esas pesadillas, miro por la ventana en Adrogué los árboles derritiéndose de fuego y lava. Bajo corriendo y veo robots gigantes estilo Terminator. En una siguiente escena, veo a unos tipos militares, no entiendo nada, y me dicen qué suerte que te despertaste porque te necesitamos. Esta es la base de operaciones, estamos peleando contra las máquinas y vos nos podés ayudar a entender cómo piensan las máquinas. Yo me quedo recalculando y les explico: las máquinas se anticipan a los movimientos porque identifican patrones de comportamiento. Al otro día, me despierto y charlo el sueño con mis amigos, digo: esto es muy loco, tiene sentido. Escribí un índice, lo presenté a la editorial y empecé a escribir.

DE LA INTELIGENCIA ARTIFICIAL AL PENSAMIENTO

-Uno de los ejes del libro es si las máquinas piensan o no. ¿Qué hace que la pregunta sea tan compleja de responder?

-Te lo comparo con otra cosa. ¿Las máquinas ven? Hay una técnica que se llama computer vision: las máquinas pueden “ver” el mundo y tomar ese dato de entrada a través de sus cámaras y con esa data que son videos o fotos pueden identificar elementos. ¿Eso es ver? Es difícil determinarlo. Lo lógico es decir que no ve, es una máquina. Percibe el mundo a través de sensores, y después está entrenada para identificar cosas, objetos o movimientos para dar una definición: si le damos fotos de gatos y la entrenamos, va a identificar cuándo está frente a uno. Pero ¿está viendo un gato realmente? Lo lógico es decir que no, aunque el comportamiento es similar. Lo que pasa es que queremos compararlo con la forma de pensar de los humanos. Al escribir esta parte, basado en la investigación de Alan Turing, me topé con investigaciones filosóficas, como una de Immanuel Kant, sobre la búsqueda de la vida extraterrestre. Imaginaba cómo serían los extraterrestres en otros planetas en base a cómo el humano se comportaría en ese otro planeta. Nunca podemos salir de la visión humana. La palabra “pensar” solo se aplica a seres humanos, quizás a las máquinas deberíamos darles otro nombre: procesar, calcular, aunque es más que calcular. La discusión no está cerrada, me interesaba poner ese título para dar la discusión. Por otro lado, la IA es una disciplina de humanidades, porque la IA nos ayuda a entender cómo aprendemos, cómo incorporamos y creamos conocimiento, y eso es algo que siempre se dejó para los humanos y ahora lo estamos tratando de trasladar a las máquinas. Algo que parecería duro y técnico nos está llevando a preguntas filosóficas, éticas y morales. La IA tiene un gran componente de humanidades.

"No creo que muchos trabajos desaparezcan. Lo que creo que va a pasar es que dentro del rol van a cambiar muchas tareas", dice el ingeniero y autor (Foto: AFP)
"No creo que muchos trabajos desaparezcan. Lo que creo que va a pasar es que dentro del rol van a cambiar muchas tareas", dice el ingeniero y autor (Foto: AFP)

EL HUMANO Y LA MÁQUINA

-En la tapa, se aclara que el prólogo está escrito por IA. Sin embargo, en él se habla sobre la vida personal del autor, y el lector realmente queda en la duda de quién lo escribió. Más allá del juego, ¿podría llegar un punto en el que la IA se vuelva indiferenciable de la actividad humana?

-El texto está 100 % escrito por la máquina. En el material que le entregué a la editorial, les aclaré que no se podía modificar, porque lo que quería hacer era respetar esas salidas de la máquina, esas frases que dijo tal como estaban originalmente. Solo lo tradujimos de inglés a español. Para contestar a la pregunta, ahora que te digo esto, se comprueba que es indistinguible. Y yo no sé si hubiese escrito algo mejor, aunque la idea de hacerlo así la tuve yo, que soy humano... Esto surge porque faltaba poco para entregar el material y no tenía un prologuista, no se me ocurría quién podía hacerlo. En un momento, venía hablando con Agustín, filósofo de Rocking Data, que trabaja con GPT-3, tecnología basada en OpenAI, y él me contaba que por la noche se había quedado hablando con GPT-3. Me quedé con la idea, pensando, y dije: “Necesito un prólogo y tengo esta herramienta acá: hay que hacerlo”. Es una gran idea para mostrar de forma tangible lo que está pasando hoy con la IA. Hubo dos o tres sesiones, la sesión final fue de casi tres horas en la que entrás en modo ensayo, y empezás a pasarle palabras y conceptos para que escriba un ensayo. Con esas palabras, la IA generó unos veinte ensayitos cortos y, con eso, lo único que hicimos fue seleccionarlos y traducirlos. La segunda parte fue una conversación donde yo hacía preguntas y la IA respondía. Tampoco modificamos nada, solo elegimos las respuestas que tenían más sentido.

-En el libro, contás que la idea surgió de un sueño de clima apocalíptico en el que peleabas con un robot estilo Terminator. Además, el libro está escrito “para el lector del futuro”. ¿Cómo ves ese futuro en función de las máquinas? ¿Sos optimista o pesimista?

-Soy bastante racional en eso. Si tengo que elegir un bando, me pondría en el optimista. Por lo que veo hoy, la IA está lejos de ser una IA general que integre los diferentes mundos de la IA. Si quisiéramos pensar en un Terminator tendríamos que tener capacidad de computer vision, al mismo tiempo interpretar lo que escucha y traducirlo a algo que pueda responder, que el cyborg se pueda desplazar físicamente: son muchas cosas de IA avanzadas que hoy no están resueltas y quizá nunca lo estén. Hoy estamos en un estadio donde la IA y la ciencia de datos están a disposición para mejorar un proceso o descubrir la forma de hacer algo. Mi visión es positiva en ese sentido.

INTELIGENCIA ARTIFICIAL Y TRABAJO

-¿Hay chances de que las máquinas y algoritmos reemplacen el trabajo humano?

-Yo no creo que haya muchos trabajos que desaparezcan. Lo que creo que va a pasar es que, dentro del rol, por ejemplo, de médico, van a cambiar muchas tareas. Quizá desaparezcan muchas tareas que la IA haga mejor. Por ejemplo, en el diagnóstico de imágenes: hay algoritmos que identifican en una radiografía elementos muy rápido y casi sin costo. Si eso pudiéramos hacerlo en escala, imaginate las facilidades que podría darle a un doctor la velocidad de reconocer algo dentro de una radiografía. O te sacás una foto de la mano, tenés una mancha y la IA puede interpretar si la mancha es peligrosa o no comparándola con los millones de imágenes donde sí hubo que preocuparse y que el diagnóstico se mande automáticamente a tu médico. Podríamos predecir cuánta gente va a entrar a un hospital con determinada enfermedad, si necesito más médicos, o más insumos. Aplicar una capa de IA a todo lo que hacemos va a suceder en los próximos años, seguramente de forma escalonada. Va a haber una necesidad de muchos puestos de trabajo que interpreten los resultados para tomar buenas decisiones. El desafío va a ser entrenar en las habilidades necesarias para acompañar ese desarrollo.

El autor del libro sostiene que siempre que haya datos digitales se puede entender el problema "desde una mirada de Ciencia de Datos" (Foto: AFP)
El autor del libro sostiene que siempre que haya datos digitales se puede entender el problema "desde una mirada de Ciencia de Datos" (Foto: AFP)

-¿Qué problemas pueden solucionar los big data y cuáles no?

-Siempre que haya datos digitales, se puede entender el problema desde una mirada de ciencia de datos. Es clásicamente una disciplina que puede trabajar en contextos caóticos y no definidos. Por eso está bueno, al armar un equipo, hacerlo con diversidad cultural y de género, de profesiones, porque esta variedad suma miradas que aporten a los proyectos. Los proyectos de data son caóticos y no definidos. Un equipo con diversidad es un equipo que busca la solución en base a los datos y tiempo que hay disponibles. En los proyectos de datos, cuando una empresa nos llama y dice: “Necesito entender mejor dónde abrir un centro de vacunación”, ¿cómo determino eso? Me gustaría tener datos de todos los puntos, datos de geodata, si hay una plaza, si hay una escuela cerca. Voy a pensar cuáles son los datos que me pueden dar un modelo más robusto. Por otro lado, hay proyectos en los que el histórico no te sirve demasiado. En los primeros 15 días de cuarentena, mirabas la historia y no tenía mucho sentido crear un modelo que predijera la asistencia al cine en los próximos meses. El contexto era muy cambiante. Nosotros, como humanos creativos, tuvimos que pensar la mejor manera de adaptar esos modelos. En resumen, los humanos van a ser quienes tienen la capacidad de innovar, de ser flexibles, de moverse en contextos difíciles de predecir. La capacidad de liderar y responder correctamente en esos contextos es casi exclusivamente del mundo de los humanos.

ERRAR ES HUMANO

-Cuando se habla de la “caja negra” de los algoritmos y no se puede explicar cómo llegan a determinado resultado, por ejemplo, a la hora de otorgar un crédito, ¿puede haber riesgo de discriminación por género o raza?

-Eso viene de los sesgos, y los sesgos siempre son humanos. Los humanos que creamos la IA cometimos errores en el sentido de no darle todos los datos necesarios a la IA, lo que la lleva a replicar esos errores. Recuerdo el primer caso que escuché hace unos años: una persona de piel negra hizo una denuncia porque entraba a un local de puerta automática, el vidrio no se abrió y el hombre se golpeó: la cámara no lo había detectado como un humano. En ese caso muy simple, lo que sucedió es que la IA fue entrenada con imágenes de personas blancas. Ahí hubo un sesgo del equipo, probablemente en San Francisco eran todos hombres blancos. Lo mismo pasó en la plataforma LinkedIn. El sistema recomendaba puestos de CEO solamente a hombres, porque se basaba en la historia, y la historia de CEO era en su mayoría masculina. Ahí la pregunta es: ¿cómo hago para que nuestro equipo tenga esto en la cabeza? La mejor manera es tener equipos diversos. Edades, género, orígenes, gente con y sin título universitario.

SEGUIR LEYENDO:

TE PUEDE INTERESAR