Mariana Ferrarelli: “La alfabetización en IA no alcanza: también hay que cuestionar el diseño de las plataformas”

Mariana Ferrarelli es una de las principales especialistas argentinas en inteligencia artificial y educación. Dirige el programa de Inteligencia Artificial en Educación en la Universidad de San Andrés, donde es profesora de un seminario sobre “alfabetismos posdigitales”. También da clases sobre educación y tecnologías en la Universidad Isalud y en la Universidad Nacional de Rosario (UNR), entre otras instituciones.

Acaba de publicar un libro titulado Inteligencia artificial en la educación y el trabajo, editado por Grupo Magro. Allí reunió los aportes de referentes de distintos sectores –entre ellos, Alejandro Artopoulos, Rebeca Anijovich, Graciela Cappelletti, Pedro Ravela, Julio Alonso, Martín Gendler, Natalia Corvalán, Sebastián Adúriz, Yamila Goldenstein Jalif y Cecilia Cancio– para analizar los “mestizajes” entre humanos e IA en el proceso educativo y en diversos ámbitos laborales como la salud, el periodismo y el derecho.

En entrevista con Infobae, Ferrarelli habló sobre la necesidad de una mirada crítica pero no tecnofóbica sobre la IA. Propuso pensar la escuela como un espacio que sostenga la “fricción” y el encuentro humano en tiempos de algoritmos que tienden a aislarnos en burbujas personalizadas, y analizó los desafíos que implica repensar la enseñanza de la escritura y de otras habilidades cognitivas básicas frente al avance de la IA.

–El libro habla de “mestizajes humano-máquina”. ¿Creés que esa convivencia va a atravesar todos los aspectos de la vida social? ¿O deberíamos sostener algunas instancias exclusivamente humanas, por ejemplo en el aula?

–Desde su concepción, el libro buscó construir una mirada crítica sobre la inteligencia artificial sin caer en posiciones tecnofóbicas. Hoy predominan dos extremos: por un lado, el rechazo absoluto de la tecnología; por otro, una visión solucionista que supone que la IA va a resolver todos nuestros problemas.

Me interesa proponer un cambio de perspectiva: pasar del “humano en el bucle” a la “IA en el bucle”. La expresión habitual sugiere que la IA hace el trabajo y que las personas solo supervisan algunos pasos. Yo prefiero pensarlo al revés: primero existe un flujo de trabajo humano, con objetivos y sentido humanos, y después decidimos en qué etapas la IA puede aportar valor.

La idea de los mestizajes apunta a pensarnos en lógicas híbridas con las máquinas. No como algo inevitable, sino como una forma de construir vínculos más reflexivos con la tecnología. Me interesa una relación que vaya más allá del esquema transaccional de “le pido algo a un chatbot y me lo devuelve”. La pregunta es qué queremos hacer nosotros y en qué medida la IA puede ampliar nuestro pensamiento, nuestro desempeño o nuestros procesos de trabajo.

Esto se vincula con el enfoque posdigital, que no plantea que haya algo después de lo digital, sino que reconoce que la vida física y la vida online están completamente entrelazadas. Ahora bien, eso no significa renunciar a los espacios de encuentro humano. Al contrario: creo que la escuela y la universidad conservan un valor fundamental como espacios de comunidad. Hay algo en el vínculo con los estudiantes, con los colegas, con los materiales y con el conocimiento que sigue siendo profundamente humano.

Por eso me interesa la idea de la fricción. El aula es uno de los pocos espacios donde no podemos escondernos detrás de un avatar ni apagar la cámara. Estamos frente a otras personas. Esa experiencia tiene un valor enorme en una época en la que muchos sistemas digitales buscan la comodidad permanente y la validación constante.

Diseñar esa fricción se vuelve un objetivo pedagógico. No se trata de hacer las cosas más lentas o más difíciles porque sí, sino de ofrecer experiencias que promuevan otras formas de relacionarnos con el conocimiento, con el mundo y con los demás. En un contexto donde cada vez más interacciones ocurren mediadas por pantallas y algoritmos, la escuela recupera una función muy valiosa como espacio de encuentro y convivencia con la diferencia.

–Algunos estudios sugieren que la interacción constante en entornos digitales personalizados puede afectar las habilidades de autorregulación, incluyendo la tolerancia a la frustración y a la diferencia. ¿La escuela puede ser el espacio donde reencontrar esa “incomodidad”?

–Si observamos algunos de los episodios recientes de violencia que aparecen en las escuelas, vemos que se inscriben en un clima más amplio de intolerancia a la diferencia. Históricamente, la escuela fue uno de los espacios donde personas de distintos orígenes sociales convivían y se encontraban cotidianamente. En mi experiencia, la escuela pública era un lugar donde compartían aula chicos de realidades muy diversas.

Por distintos procesos sociales, tanto locales como globales, esa experiencia de encuentro se fue debilitando. Y a eso se suma una capa digital cuyos efectos sobre el mundo físico son innegables. Todavía pareciera que tenemos que discutir si lo digital es real, cuando vemos problemas de salud mental, ansiedad o trastornos alimentarios asociados a dinámicas que también están mediadas por algoritmos. La omnipresencia de estos sistemas en la vida cotidiana nos obliga a pensar seriamente cómo afectan nuestras formas de vincularnos con los demás.

–¿Una alfabetización crítica en IA debería ayudar a los estudiantes a desarmar la “antropomorfización” que tendemos a hacer de estas herramientas, por ejemplo cuando “conversamos” con ChatGPT o Claude como si fueran personas?

–La tendencia a antropomorfizar no es exclusiva de la inteligencia artificial. Los seres humanos antropomorfizamos mascotas, plantas, autos. Es algo bastante natural. La diferencia es que, en el caso de la IA, esa tendencia está estimulada desde el propio diseño de las herramientas. Por eso hablo de una “antropomorfización por diseño”.

Si tenemos un chatbot que habla en primera persona, nos saluda, nos pide disculpas y parece mantener una conversación humana, se vuelve mucho más fácil olvidar que detrás de esas palabras hay algoritmos, matemática y silicio. Esa lógica conversacional puede llegar incluso a manipular al usuario y generar confusión, especialmente entre los jóvenes o las personas mayores.

Frente a eso, la alfabetización en inteligencia artificial es fundamental. Necesitamos que las personas comprendan cómo funcionan estas herramientas, cuáles son sus límites y cuáles son sus riesgos. Ya existen iniciativas en esa dirección en varios países, incluyendo Argentina: existe el programa PaideIA a nivel nacional, la Ciudad de Buenos Aires también tiene sus guías y sus lineamientos, al igual que otras provincias.

Pero sería ingenuo pensar que la solución pasa únicamente por educar a los usuarios. También tenemos que cuestionar el diseño de las plataformas. No alcanza con enseñarles a las personas que no deben creer que un chatbot es su amigo; también hay que preguntarse por qué estamos diseñando sistemas que hablan de esa manera y que adoptan tonos excesivamente aduladores.

La responsabilidad debe ser compartida. Del mismo modo que enseñamos a un niño a no acercarse a una pileta, también exigimos que esa pileta tenga un cerco, iluminación y medidas de seguridad. Con la inteligencia artificial ocurre algo parecido: necesitamos alfabetización ciudadana, pero también mejores diseños y regulaciones que reduzcan los riesgos desde el origen.

–En el libro se plantea la idea de que la “escritura híbrida” va a ser la norma (o ya lo es). ¿Hay que cambiar la forma de enseñar a escribir? ¿Habría que preparar a los chicos para ser “diseñadores de textos” y ya no escritores"?

–Primero quiero aclarar que no soy especialista en didáctica de la escritura. Hablo desde mi experiencia como escritora y docente. La idea de que podríamos convertirnos en diseñadores de escritura proviene del filósofo italiano Luciano Floridi. Él se pregunta si, del mismo modo que en la arquitectura, la música o la moda existe una separación entre quien diseña y quien ejecuta, algo similar podría ocurrir con la escritura.

Es una hipótesis interesante. Sin embargo, creo que las herramientas actuales de IA todavía tienden más a homogeneizar que a potenciar las voces singulares que uno busca expresar en un texto.

Floridi utiliza el concepto de dataprint para referirse a esos rasgos característicos de la escritura producida con máquinas: estructuras repetitivas y patrones que terminan volviéndose reconocibles, como las tríadas. Son marcas que muchas veces empobrecen la experiencia de lectura.

Este enfoque me llevó a pensar en lo que llamo el “síndrome de la página en negro”. Durante mucho tiempo nos preocupó la página en blanco; hoy el problema es casi el contrario. Nos encontramos con páginas y páginas de texto generadas con facilidad, pero que a menudo repiten ideas, no aportan información nueva y terminan produciendo sobrecarga cognitiva.

Creo que la enseñanza de la escritura cambia porque cambió el contexto. El objetivo de ayudar a los estudiantes a encontrar una voz propia se vuelve más importante que nunca. La irrupción de la IA nos obliga a preguntarnos cómo escribimos cuando todavía no interviene ninguna herramienta, qué rasgos hacen reconocible nuestra escritura y qué queremos decir realmente.

La IA incluso nos vuelve más conscientes de nuestros propios estilos. En mi caso, por ejemplo, me hizo notar que utilizaba la raya con frecuencia. Ahora la dejé, porque es una marca típica de los textos hechos con IA, y uso los paréntesis. Todo el tiempo aparece la sospecha de que un texto pudo haber sido generado por una máquina.

Por eso vuelvo a la idea de la IA en el bucle. El sentido sigue siendo humano. Somos nosotros quienes definimos qué queremos decir, qué preguntas nos hacemos y por dónde queremos empezar. Una vez que ese trabajo está hecho, la IA puede ayudar. Pero el punto de partida sigue siendo una búsqueda humana.

Pienso que los talleres de escritura y también los talleres de tesis en las universidades tienen que ir en esa dirección. Hay una fricción que debemos diseñar pedagógicamente: ayudar a los estudiantes a construir una voz propia antes de delegar parte del proceso en la tecnología.

–Suele plantearse la cuestión de la honestidad intelectual. ¿Una forma de abordar esto es empezar a “blanquear” de modo explícito el uso de la IA, tanto entre estudiantes como entre docentes?

–Creo que transparentar el uso de la IA es parte del compromiso ético que asumimos como docentes. Los primeros que tenemos que hacerlo somos nosotros, para después poder pedirles lo mismo a nuestros estudiantes. Es una práctica pedagógica valiosa, porque permite mostrar cómo utilizamos estas herramientas y con qué criterios las integramos en nuestro trabajo.

De todos modos, me parece que el uso de IA será cada vez más habitual. La discusión probablemente deje de centrarse en si se utilizó o no una herramienta y pase a enfocarse en cómo se la utilizó, para qué y con qué propósito. Creo que estamos avanzando hacia un escenario en el que cada vez será más común declarar el no uso de IA antes que el uso.

–En el libro mencionás, entre otras propuestas concretas para el aula, la del “gemelo generativo”. ¿Podrías explicar cómo funciona?

–La idea del gemelo generativo es una herramienta para el aula y también una forma distinta de pensar la relación con la inteligencia artificial. A diferencia de los chatbots tradicionales, donde el estudiante hace una pregunta y recibe una respuesta, el gemelo generativo funciona como un asistente que formula preguntas, ofrece sugerencias y acompaña procesos de reflexión.

Lo que propongo es pasar de un uso transaccional de la IA a una lógica de acoplamiento. En lugar de pedir contenido para copiar y pegar, incorporamos la herramienta a un proceso de trabajo diseñado por los docentes. Para eso configuramos un chatbot con materiales, ejemplos e instrucciones específicas para que cumpla un determinado rol pedagógico, generalmente el de asistente docente.

La diferencia es que el estudiante ya no recibe respuestas cerradas, sino preguntas y alternativas que lo obligan a tomar posición frente a lo que la IA le devuelve. Tiene que evaluar, interpretar y decidir. En cierto modo, invertimos la lógica habitual: no es el estudiante quien “promptea” a la IA, sino la IA la que interpela al estudiante.

Junto con Natalia Corvalán desarrollamos una experiencia de este tipo con estudiantes de profesorado que debían diseñar consignas didácticas. Como no podíamos acompañar simultáneamente a todos los grupos, les ofrecimos de manera optativa un gemelo generativo que les hacía preguntas y les brindaba sugerencias sobre sus propuestas. Lo interesante fue que muchos advirtieron que estaban formulando mal el problema, que les faltaba información o que no estaban expresando con claridad lo que querían hacer. La IA funcionó como una capa adicional de acompañamiento y ayudó a promover un razonamiento más activo que el que suele generar un chatbot convencional.

–En este momento, ¿qué habilidades creés que debería desarrollar el sistema educativo en los estudiantes?

–Cuando una herramienta de IA generativa nos entrega un contenido, eso no equivale automáticamente a información ni mucho menos a conocimiento. Lo primero que tenemos que hacer es verificarlo, revisar las fuentes, detectar posibles alucinaciones y evaluar críticamente lo que estamos recibiendo. En ese contexto adquieren más relevancia habilidades que antes quizás dábamos por sentadas: verificar información, contrastar evidencias, evaluar contenidos y reflexionar sobre qué tareas queremos delegar en la máquina y cuáles queremos conservar bajo control humano.

Algo similar ocurre con la IA predictiva, esa que está presente en nuestros dispositivos a través de notificaciones, recomendaciones y estímulos permanentes. Allí aparece una habilidad fundamental que es la intencionalidad cognitiva: la capacidad de decidir conscientemente dónde queremos poner la atención. Concentrarse implica tomar decisiones concretas, como silenciar el celular, reducir la conectividad o elegir leer un libro en papel.

Al mismo tiempo, la IA ofrece oportunidades muy valiosas para enriquecer la enseñanza. Puede ayudar a diversificar propuestas, adaptar materiales y generar distintos formatos para favorecer el aprendizaje. Transformar un texto en audio, imagen o video, por ejemplo, abre posibilidades interesantes para muchos estudiantes.

La clave es comprender que la IA puede aportar datos y recursos, pero que el sentido sigue siendo humano. Me interesa la idea del storytelling: somos nosotros quienes definimos qué historia queremos contar, cómo queremos plantear una clase y qué experiencia de aprendizaje buscamos construir. Después la IA puede colaborar de múltiples maneras. Estamos cada vez más hibridados con estas tecnologías, pero seguimos siendo nosotros quienes conducimos el barco.