La inteligencia artificial ya entró en la escuela: qué mirar antes de celebrar la innovación

El sistema educativo argentino aún no tiene reglas suficientemente claras para responder preguntas básicas: quién decide, autoriza y supervisa el uso de la inteligencia artificial (IA), qué datos de los alumnos procesa, y quién responde si afecta el aprendizaje, la trayectoria educativa, la privacidad o el bienestar de un estudiante.

Deberían saberlo. Pero el sistema educativo argentino aún no tiene reglas suficientemente claras para responder preguntas básicas: quién decide, autoriza y supervisa su uso; qué datos de los alumnos procesa; y quién responde si afecta el aprendizaje, la trayectoria educativa, la privacidad o el bienestar de un estudiante.

Nadie puede gobernar un riesgo que no puede ver o comprender. En educación, esa advertencia importa especialmente cuando involucra a niños y adolescentes. Para las familias, no se trata de aprender la jerga técnica de la inteligencia artificial, sino de saber qué preguntar: qué herramienta se usa, con qué finalidad, qué datos procesa, quién revisa sus resultados y cómo puede corregirse una decisión automatizada.

No se trata de tenerle miedo a la IA ni de incorporarla con ingenuidad. Primero hay que identificar qué riesgos introduce, a quiénes afecta y qué responsabilidades exige al Estado y a las instituciones educativas.

La IA puede ampliar el acceso al conocimiento, asistir a los docentes, adaptar experiencias de aprendizaje y ayudar a estudiantes con distintas necesidades, siempre que se incorpore con reglas claras, supervisión suficiente y responsabilidades definidas. En ese marco, la noción de “docente aumentado” puede ser útil si se entiende correctamente: no como reemplazo del docente, sino como apoyo para personalizar trayectorias, detectar necesidades pedagógicas y dedicar más tiempo al vínculo con los estudiantes.

En educación, la IA no opera en el vacío: puede incidir en calificaciones, contenidos recomendados, identificación de alumnos “en riesgo”, seguimiento del desempeño o monitoreo de exámenes. Sus efectos pueden afectar derechos, privacidad y trayectorias educativas. Por eso, el debate no es solo tecnológico: también es institucional, pedagógico y ético.

Lo que conviene mirar: más allá de la caja negra

La caja negra describe un problema central: muchos sistemas de IA generan respuestas, recomendaciones o clasificaciones sin que sea claro cómo llegaron a ellas.

Pero la opacidad es solo una parte del problema. El primer riesgo es el sesgo y la discriminación: si los modelos aprenden de datos con desigualdades preexistentes, pueden reproducirlas o amplificarlas, aun sin intención deliberada. Cuando una herramienta identifica alumnos “en riesgo”, recomienda apoyos o analiza desempeños, esos sesgos pueden afectar más a quienes ya enfrentan desventajas previas.

También existe un sesgo menos visible: el del diseño. Toda herramienta incorpora una idea sobre qué significa aprender, avanzar, rendir bien o resolver un problema. Esa idea puede no coincidir con el contexto pedagógico local ni con la diversidad de los alumnos. La IA no solo procesa información; también arrastra supuestos. Bien orientada, esa capacidad de adaptación puede ser una oportunidad para personalizar aprendizajes, atender la neurodiversidad y acompañar distintos ritmos, siempre que el diseño pedagógico anteceda al tecnológico.

El segundo riesgo es la expansión de la huella digital y la posible pérdida de privacidad. Las plataformas educativas pueden registrar interacciones, tiempos de respuesta, patrones de uso e indicadores de aprendizaje. También pueden conectarse con servicios externos o sistemas que procesan información.

Cuando esos datos educativos, personales e incluso biométricos se recolectan o procesan sin consentimiento claro, control institucional y protección efectiva, los estudiantes pueden quedar expuestos a vigilancia digital y a usos secundarios ajenos a los fines pedagógicos, incluidos eventuales intereses comerciales de las herramientas utilizadas.

El punto crítico es quién decide sobre esos datos: ¿la institución educativa, el Estado o el proveedor tecnológico? También importa para qué se usan y bajo qué reglas se protegen, especialmente cuando se trata de niños y adolescentes. La innovación no puede tener como costo oculto la pérdida de control sobre la información de los estudiantes.

El tercer riesgo se vincula con la integridad académica y la calidad del aprendizaje. La IA puede producir textos, respuestas y explicaciones convincentes. Pero también puede cometer errores, inventar información o presentar afirmaciones falsas con apariencia de certeza. Para un estudiante en formación, esa mezcla es especialmente delicada.

También cambia la relación entre producción y aprendizaje. Antes, una tarea escrita o una respuesta elaborada funcionaban como evidencia razonable de comprensión. Hoy esa relación es menos directa: un trabajo puede haber sido hecho por el alumno, asistido por IA o generado casi por completo por una herramienta. Esto obliga a repensar qué se evalúa y cómo se verifica el aprendizaje.

Evaluar exigirá mirar no solo el resultado, sino también cómo el estudiante formula la consigna, revisa la respuesta, contrasta información y decide qué usar. En ese proceso, importa tanto qué se aprende como cómo se aprende. Por eso, la alfabetización en IA debería formar parte de la educación crítica: usarla con criterio, comprender sus límites, cuestionar sus resultados y formular mejores preguntas.

El cuarto riesgo es la vigilancia y la posible manipulación. Algunas aplicaciones de IA buscan inferir emociones, detectar comportamientos, medir atención o anticipar conductas. En el aula, especialmente con niños y adolescentes, esas prácticas requieren justificación sólida, transparencia y control ético, porque pueden afectar la autonomía en una etapa de especial vulnerabilidad.

No todo lo medible debe medirse, ni todo dato disponible debería convertirse en insumo educativo: importa quién accede a esa información, para qué y bajo qué límites. También debe cuidarse el aprendizaje socioemocional: empatía, escucha y resolución de conflictos pueden debilitarse si el vínculo pedagógico pierde centralidad o se automatiza.

El quinto riesgo es sistémico: dependencia tecnológica, pérdida de autonomía institucional y adopción de soluciones que instituciones y jurisdicciones no controlan plenamente. Si contenidos y procesos formativos se ordenan alrededor de plataformas externas, el sistema educativo puede quedar condicionado por decisiones tecnológicas y comerciales ajenas al ámbito educativo.

El problema se agrava cuando faltan portabilidad de datos y condiciones claras para migrar a otra solución tecnológica.

Este riesgo se profundiza porque el aprendizaje ya no ocurre solo dentro de la escuela. Plataformas, comunidades, tutores, bibliotecas y entornos digitales también forman parte de la experiencia educativa. Cuantos más actores intervienen, más importante es saber quién define criterios, quién protege los datos y quién responde por las herramientas que afectan el aprendizaje.

Antes de celebrar la innovación…

Frente a este mapa de riesgos, hacen falta explicabilidad, trazabilidad y capacidad de intervención. Si una evaluación automatizada no puede explicar sus razones, si una plataforma no permite auditar sus datos o si una institución no puede corregir una decisión, la confianza en el proceso educativo se debilita.

La respuesta empieza por algo básico: saber qué IA se usa, qué datos y cómo los procesa, qué decisiones condiciona y qué posibilidad existe de intervenir cuando algo falla.

Antes de celebrar la innovación, conviene mirar si existen esos resguardos. En educación, incorporar IA sin esa red de cuidado no es audacia: es trasladar el riesgo a estudiantes, familias, docentes e instituciones.

*El autor es especialista en transformación y gobernanza digital