Wayne Holmes: “La dependencia de la IA está debilitando el aprendizaje de los alumnos y la autonomía de los docentes”

La inteligencia artificial está en las aulas: los estudiantes la usan de manera generalizada, los docentes también. Para Wayne Holmes, uno de los principales especialistas internacionales en IA y educación, estas herramientas se incorporaron de forma prematura, sin evidencia suficiente que respalde su uso educativo. El investigador británico advierte que la creciente dependencia de la IA está debilitando los aprendizajes de los alumnos y la autonomía de los profesores, y cuestiona que las grandes empresas tecnológicas de Silicon Valley tengan cada vez más influencia sobre el rumbo de la educación.

Holmes es profesor de Estudios Críticos de Inteligencia Artificial y Educación en University College London (UCL). Doctor en Educación por la Universidad de Oxford, ha asesorado a distintos gobiernos y organismos internacionales, entre ellos la Unesco y el Consejo de Europa. De visita en Buenos Aires, dio una conferencia en la Universidad Austral titulada “Inteligencia artificial y educación: un análisis de la evidencia disponible”. En diálogo con Infobae, Holmes cuestionó las promesas de personalización del aprendizaje y propuso que la alfabetización en IA priorice sus dimensiones humanas, en lugar de limitarse a enseñar cómo utilizar las herramientas.

–¿Considera que la IA plantea desafíos educativos similares a los que trajeron tecnologías anteriores, como internet o las computadoras? ¿O deberíamos pensarla como una tecnología cualitativamente diferente, con implicancias más profundas?

–Creo que es cualitativamente diferente. Y la razón tiene que ver con cómo fue desarrollada, cómo se presenta y cómo la percibimos. Estas herramientas fueron diseñadas para que, cuando interactuamos con ellas, parezcan humanas. Por ejemplo, uno escribe un prompt y en la pantalla aparece la palabra “pensando”. Todo está diseñado para hacernos creer que estamos interactuando con algo humano.

Como consecuencia, las personas están cada vez más dispuestas a depender de estas herramientas y tienden a sobreestimar sus capacidades. Además, estamos permitiendo que unas pocas grandes empresas tengan cada vez más influencia sobre cómo gestionamos la educación. No quiero que Sam Altman, Elon Musk o Mark Zuckerberg dirijan la educación. Pero eso es lo que ellos quieren, porque ven la educación como un gran mercado en el que pueden ganar muchísimo dinero.

También tenemos que distinguir entre la nueva IA generativa y la IA que existe desde hace mucho tiempo. Es la IA generativa la que tiene esta apariencia humana, y que ha provocado un cambio tan drástico. Buena parte de la IA anterior también presenta problemas, pero no son ni remotamente tan graves como los de esta IA generativa que hoy despierta tanto entusiasmo.

–Hay sistemas educativos, como el de Noruega, que han prohibido la IA en las escuelas, mientras que otros, como el de CABA, están incorporando la IA como contenido obligatorio desde el nivel inicial hasta la secundaria. ¿Qué piensa de estas decisiones políticas?

–No soy partidario de las prohibiciones porque no creo que funcionen. Siempre hay personas que encuentran la manera de eludirlas. En Australia, por ejemplo, se estableció una prohibición del uso de redes sociales para menores de 16 años, pero sabemos que alrededor del 80% de los chicos siguen utilizándolas mediante redes privadas virtuales (VPN). Entonces, la prohibición no tiene sentido. Son regulaciones elaboradas por personas que no comprenden la tecnología. Creen que resolvieron el problema, cuando en realidad no es así. Algo parecido va a ocurrir en el Reino Unido.

Si el currículo apunta a ayudar a los jóvenes a desarrollarse y prosperar en un mundo cada vez más atravesado por la IA, estoy de acuerdo con que el tema se incorpore. Me interesa precisamente la dimensión humana de la IA: su impacto sobre las personas, sobre los derechos de los niños, sobre el medioambiente, el hecho de que esté controlada por un pequeño número de personas y todas esas cuestiones. Si esos son los contenidos del currículo, estoy a favor.

En cambio, si el currículo se concentra en enseñar a utilizar las herramientas, creo que eso es peligroso. En primer lugar, porque se está enseñando a hacerlo de una manera muy limitada. En mi país está sucediendo algo así, y no me parece una decisión acertada. Si el gobierno pudiera decir: “Aquí está la evidencia de que estas herramientas van a resultar beneficiosas”, entonces estaría bien. Pero esa evidencia no existe.

No haríamos algo así con un medicamento. Estas tecnologías están diseñadas para influir sobre el cerebro humano, no desde el punto de vista físico, sino en términos del desarrollo mental y cognitivo. Nuestro cerebro es tan importante como nuestro cuerpo. Entonces, ¿por qué estamos realizando este experimento masivo con los jóvenes?

En parte, porque los países no quieren quedarse atrás respecto de otros. Lo entiendo, es una situación muy difícil. Pero, si estas herramientas no funcionan o terminan teniendo efectos negativos, pensemos en el daño que podemos causarles a los jóvenes al obligarlos a utilizarlas de determinadas maneras.

Estamos entregando la educación a las grandes empresas tecnológicas. Creo que eso es muy peligroso. Incluso si Argentina dijera: “Vamos a invertir varios millones de dólares y a desarrollar nuestra propia IA desde cero”, eso resolvería un aspecto del problema –el de los sesgos–, pero no abordaría otras consecuencias, como la dependencia excesiva de estas herramientas o la pérdida de autonomía de las personas.

–¿Cuáles son la implicancias de que esta transformación educativa global esté siendo conducida por las grandes empresas tecnológicas?

–Las implicancias son enormes. Afectan a cada estudiante, a los docentes y a la educación en general. Y, por lo tanto, también a la democracia.

Cada vez vemos más que, cuando los jóvenes utilizan estas herramientas, no están aprendiendo. Vemos que los estudiantes se vuelven menos capaces de hacer las cosas que necesitamos que las personas hagan en la sociedad, ya sea innovar, producir alimentos, trabajar en el ámbito de la salud o de la educación. Necesitamos que las personas desarrollen más capacidades: ese es el propósito de la educación.

Me preocupa que eso no está sucediendo. Los docentes dependen cada vez más de estas herramientas, que están debilitando su autonomía. Los estudiantes también se están volviendo dependientes de ellas, y eso significa que el aprendizaje no está ocurriendo.

Temo que estemos presenciando una especie de desmoronamiento de lo que entendemos por educación. Y todo esto proviene de un pequeño número de empresas. No se trata solamente de la inteligencia artificial, sino también de la manera en que esas empresas la han concebido, desarrollado y presentado.

Ya hemos visto antes cómo se exageraban las promesas de nuevas ideas que después terminaron desvaneciéndose. Si retrocedemos unos ocho años, por ejemplo, en educación todo giraba alrededor de los MOOC, los cursos masivos abiertos en línea. Se decía que los MOOC iban a acabar con las universidades, que todos íbamos a estudiar a través de ellos. Eso nunca ocurrió.

Con las redes sociales pasó algo parecido. Es cierto que muchísimas personas las utilizan, pero las promesas que nos hicieron sobre la construcción de comunidades y otros beneficios similares no se cumplieron. Lo que ocurrió, en cambio, es que vemos una dependencia cada vez mayor, particularmente entre los jóvenes, y problemas de salud mental asociados con estas herramientas.

Y ahora estamos repitiendo ese proceso con los sistemas de IA. En mi opinión, necesitamos adoptar un enfoque mucho más cuidadoso y sensato, en lugar de preguntarnos qué tan rápido podemos incorporar estas herramientas a nuestras escuelas y universidades.

–En su conferencia usted mencionó la posibilidad de que estemos asistiendo a una inversión de la brecha digital. ¿Es algo que ya está sucediendo o es un riesgo para el futuro?

–Ya está sucediendo. Tradicionalmente, la brecha digital se refiere a la diferencia entre quienes tienen recursos económicos y acceso a la tecnología y quienes no los tienen. Durante mucho tiempo, se sostuvo que esa desigualdad perjudicaba a los estudiantes más pobres: quienes tenían acceso a la tecnología podían avanzar más rápido, mientras que los que no contaban con ella se quedaban atrás. Pero ese argumento depende de un supuesto: que la tecnología está produciendo un efecto positivo.

Lo que estamos viendo ahora es una inversión de esa situación. Los estudiantes de sectores socioeconómicos más altos siguen teniendo acceso a docentes humanos. ¿Tienen acceso a computadoras? Por supuesto, pero también tienen buenos docentes. En cambio, en algunas otras circunstancias empezamos a encontrar que los jóvenes se ven obligados a depender de las computadoras y pasan la mayor parte del tiempo utilizándolas.

Pensemos en una escuela privada muy cara que intenta atraer nuevos alumnos. No les dice a las familias: “Vengan a nuestra escuela, tenemos buenas computadoras”. Lo que les dice es: “Vengan porque tenemos los mejores docentes”. Esa es su principal promesa: tenemos excelentes docentes y por eso deberían elegirnos.

Sin embargo, vemos situaciones muy diferentes, particularmente en zonas rurales de algunos países. No sé si esto sucede en Argentina, pero en distintos lugares faltan maestros: hay una escasez de docentes a nivel mundial. Y entonces aparece la propuesta de que la tecnología puede reemplazarlos. Pero la tecnología no puede hacerlo.

–Otra de las grandes promesas de la IA es la personalización del aprendizaje: que cada estudiante pueda aprender a su propio ritmo. Pero usted señala que, para los algoritmos, la personalización en realidad es estandarización. ¿Por qué?

–En educación venimos escuchando este argumento desde hace mucho tiempo. Se dice que actualmente tenemos un enfoque “industrial” de la enseñanza: todos los estudiantes están en un aula con un solo docente y tienen que avanzar al mismo ritmo. Frente a eso, se presenta la personalización como una gran solución, porque permitiría adaptar el aprendizaje a cada estudiante.

Pero hay varios problemas con ese planteo. En primer lugar, ninguno de estos sistemas ofrece una verdadera personalización. Si realmente personalizaran el aprendizaje, permitirían que cada estudiante alcanzara lo que desea lograr como individuo, que desarrollara al máximo sus propias capacidades. Sin embargo, lo que hacen es ofrecer distintos recorridos para llegar al examen. El camino puede ser diferente para cada alumno, pero todos terminan en el mismo examen. Eso no es personalización.

Hay una metáfora interesante que utiliza una empresa china llamada Squirrel AI. Su responsable dijo que su compañía es como un Uber para la educación. Según él, la educación tradicional se parece a un colectivo escolar: todos los chicos viajan juntos, por la misma ruta, hacia el mismo destino y a la misma velocidad. En cambio, ellos ofrecen un Uber para cada estudiante. Pero yo no me subo a un Uber porque quiera que me lleve por una ruta diferente. Me subo porque quiero que me lleve al lugar al que deseo ir. Estas herramientas supuestamente personalizadas pueden ofrecer recorridos diferentes, pero llevan a todos a la misma terminal.

Hay un segundo problema, que también es fundamental: ¿de dónde surge el supuesto de que el aprendizaje individual es el camino que deberíamos seguir? Cuando estamos en una escuela, el objetivo es reunir a las personas para que colaboren y aprendan unas de otras. Eso es lo que hacemos en clase: reunimos a los estudiantes, los invitamos a discutir, a argumentar, a estar en desacuerdo. He estado en aulas con 30 estudiantes y 30 computadoras, donde cada alumno está concentrado en su pantalla. No hablan con sus compañeros ni con el docente. ¿Qué sentido tiene eso?

Ese enfoque desconoce por completo que la educación es una actividad social, basada en las relaciones humanas. Involucra a docentes que son expertos en sus disciplinas, pero también en pedagogía y en relaciones humanas. Y también involucra a los estudiantes. Lo fundamental es ese encuentro entre las personas.

–¿Cómo debería ser una buena alfabetización en IA? ¿Qué conocimientos y habilidades debería abordar?

–La alfabetización en IA es para todos: los chicos, los docentes, los políticos, los periodistas. Su objetivo es que todos podamos comprender el mundo que está tomando forma a nuestro alrededor, para que podamos desarrollarnos y prosperar en él.

En el trabajo que desarrollamos en el Consejo de Europa identificamos tres dimensiones de la alfabetización en IA: la tecnológica, la práctica y la humana. Si yo tuviera que diseñar un currículo, dedicaría el 10% a la dimensión tecnológica, el 10% a la dimensión práctica y el 80% a la dimensión humana.

¿Qué entendemos por dimensión tecnológica? Se trata de comprender cómo funciona la inteligencia artificial, pero no significa que todos deban conocer conceptos específicos de las ciencias de la computación. Lo que sí necesitamos es que las personas entiendan que estas herramientas son máquinas de predicción que utilizan estadísticas, que no comprenden lo que hacen y que no son seres humanos capaces de reemplazarnos.

La dimensión práctica consiste en ayudar a las personas a tomar decisiones informadas a partir de una comprensión de todo este panorama. Y la primera pregunta que deberíamos hacernos es: “¿Debería utilizar esta herramienta de inteligencia artificial o no?”.

El planteo suele ser: “Vamos a utilizarla, solo tenemos que aprender a hacerlo bien”. Yo creo que no. La primera pregunta debería ser si es apropiado utilizar esa herramienta en una situación determinada. Si, después de considerar toda la información disponible, concluimos que sí, entonces viene la siguiente pregunta: ¿cómo podemos hacerlo de manera responsable, ética y segura? Pero esa es la segunda pregunta, no la primera.

Por último, está la dimensión humana, que parte del reconocimiento de que la inteligencia artificial no es simplemente una tecnología que está ahí afuera, separada de nosotros. Nos involucra, somos parte de ella. Los seres humanos participan en su desarrollo, diseñan las herramientas, deciden qué aspecto tendrán y cómo tomarán decisiones.

Estas herramientas tienen consecuencias sobre las personas y sobre todos los aspectos de nuestro mundo: debemos pensar en la inteligencia artificial como un fenómeno sociotécnico, en el que se entrelazan elementos sociales y tecnológicos. Necesitamos entender su impacto sobre los derechos humanos y los derechos de los niños, sobre el medioambiente y sobre las relaciones humanas, entre muchas otras cuestiones.

Por eso, mi recomendación para los docentes es que hagan todo lo posible por comprender la realidad que hay detrás de la superficie. Lo que se nos muestra es apenas el envoltorio. Es necesario conocer los antecedentes, la historia, los impactos y las consecuencias de utilizar estas herramientas. Solo así estaremos en condiciones de tomar una decisión informada sobre si debemos utilizarlas y, en caso afirmativo, cómo hacerlo de manera responsable, ética y segura.