Microsoft no podrá utilizar datos de estudiantes y educadores para entrenar sus sistemas de inteligencia artificial, según un acuerdo con la Federación Estadounidense de Docentes (AFT, por sus siglas en inglés), informó The Associated Press.
El compromiso prohíbe que la empresa venda los datos, los destine a publicidad o los utilice para desarrollar productos. Las condiciones regirán desde el 1 de noviembre para las escuelas con contratos vigentes con Microsoft.
PUBLICIDAD
La decisión coincide con la suspensión durante un año del uso estudiantil de estas herramientas en los sistemas escolares de Nueva York y Los Ángeles.
Ambos distritos revisarán sus contratos y recursos tecnológicos antes de ampliar su uso: la medida alcanza a primaria y secundaria en Nueva York, y también a la educación media en Los Ángeles.
El acuerdo con la AFT y sus normas de privacidad
El acuerdo entre Microsoft y la AFT, el segundo sindicato docente más grande de Estados Unidos, establece normas de privacidad y seguridad para las herramientas de inteligencia artificial que la compañía ofrece a escuelas.
PUBLICIDAD
La única excepción a la prohibición de usar datos para entrenar sistemas contempla información que pueda contribuir a la protección de los alumnos.
El acuerdo también exige auditorías de terceros y que la empresa explique a las familias, con lenguaje claro, cómo funcionan sus herramientas.
“El estándar establece una vara alta para la privacidad infantil y la seguridad de la inteligencia artificial”, afirmó Brad Smith, vicepresidente y presidente de Microsoft, a The Associated Press.
PUBLICIDAD
Límites a las funciones de inteligencia artificial
El documento veta los acompañantes virtuales y las funciones diseñadas para generar apego emocional o dependencia.
También impide que los productos busquen prolongar la interacción de los estudiantes más allá del tiempo necesario para una actividad educativa.
La medida responde a inquietudes sobre el destino de los datos personales que los alumnos entregan a los chatbots al pedir ayuda con tareas, apoyo emocional o consejos.
PUBLICIDAD
Millones de estudiantes usan asistentes de inteligencia artificial sin saber cómo las empresas almacenan, aprovechan o comparten sus conversaciones.
Vacío legal ante la ausencia de legislación específica
Las escuelas dependen cada vez más de programas digitales, pero los especialistas cuestionan si cuentan con garantías suficientes sobre privacidad, transparencia y protección infantil.
La presidenta de la AFT, Randi Weingarten, definió el pacto como el primero de este tipo y sostuvo que puede convertirse en una referencia para el sector, ante la falta de legislación federal y estatal dirigida a la inteligencia artificial en las escuelas.
PUBLICIDAD
“Queremos que los padres tengan control sobre la educación de sus hijos”, dijo Weingarten a la agencia. La dirigente agregó que los docentes también deben conservar esa capacidad de decisión, en lugar de dejarla en manos de la tecnología educativa.
Weingarten y Smith presentaron la iniciativa en la sede de la Federación Unida de Docentes, filial neoyorquina de la AFT. Allí funciona la Academia Nacional de Instrucción sobre Inteligencia Artificial para docentes, que comenzó sus actividades hace un año.
Formación docente y dudas sobre el uso en las aulas
El programa recibió USD 23 millones de Microsoft, OpenAI y Anthropic. El centro prepara a los maestros para el uso de estas herramientas, mientras persisten las dudas sobre su aplicación entre los alumnos.
PUBLICIDAD
Josh Golin, director ejecutivo de Fairplay, organización de seguridad en línea, consideró que las medidas incluidas en el acuerdo tienen valor.
Aun así, advirtió que su alcance dependerá de que otras empresas, en especial las grandes compañías tecnológicas, asuman obligaciones similares.
Golin dijo a la agencia que el marco puede inducir a errores si las escuelas interpretan que las protecciones de privacidad equivalen a una recomendación para incorporar inteligencia artificial al aula.
PUBLICIDAD
Para el especialista, todavía falta resolver si esos productos deberían estar presentes en las escuelas y desde qué edad.
Google no confirmó si adoptará las mismas condiciones
La AFT también contactó a Google antes de anunciar el acuerdo, con la expectativa de que se sumara. La compañía no respondió a una consulta de la agencia sobre la posibilidad de adoptar protecciones equivalentes.
Google es el principal proveedor de tecnología educativa para escuelas estadounidenses. Sus servicios se usan de forma extendida dentro del sistema escolar y concentran una parte relevante de las herramientas digitales que emplean docentes y alumnos.
La empresa quedó en el centro de las críticas en agosto, cuando activó su chatbot Gemini para muchos estudiantes de educación primaria y secundaria que utilizan Google Classroom. Hasta entonces, el acceso a Gemini estaba limitado a alumnos de 18 años o más.
Google señaló que el cambio solo afecta a las escuelas que habilitan el acceso de los estudiantes a la aplicación Gemini o a Gemini Notebook.
El sistema Google Classroom es utilizado por 150 millones de docentes y estudiantes en todo el mundo, según la compañía.
Esa escala amplificó el debate sobre qué obligaciones deben asumir las firmas cuando sus productos llegan a menores de edad a través de instituciones educativas.
OpenAI y Anthropic negocian sus propios acuerdos con el sindicato
Weingarten afirmó que mantiene conversaciones con OpenAI y Anthropic para alcanzar convenios similares. Ambas compañías difundieron mensajes de respaldo al entendimiento entre Microsoft y la AFT.
OpenAI, creadora de ChatGPT, calificó el pacto como “un avance importante para la seguridad y la privacidad de la inteligencia artificial en las escuelas”. La empresa señaló que trabaja con el sindicato y espera cerrar su propio acuerdo.
Anthropic, desarrolladora de Claude, declaró que respalda las iniciativas orientadas a un uso responsable de la inteligencia artificial en la educación.
La compañía indicó que participa en conversaciones con la AFT para definir un estándar de seguridad y privacidad.
Condiciones que superan las exigencias legales vigentes
Elizabeth Laird, directora del Centro para la Democracia y la Tecnología, sostuvo que las nuevas condiciones podrían modificar la relación entre escuelas y proveedores de inteligencia artificial.
Su expectativa es que los distritos pequeños no queden en desventaja al negociar con compañías de gran tamaño.
Laird destacó que Microsoft aceptó límites que superan las exigencias legales actuales para proveedores escolares. Entre los datos que la empresa se comprometió a no utilizar figuran la información sobre género, raza, edad y código postal, que puede facilitar la identificación de una persona aun sin incluir su nombre.
Smith reconoció ante la agencia que existe un debate en Estados Unidos sobre el momento, el propósito y la forma en que la inteligencia artificial debe ingresar en la educación.
Para el directivo, la responsabilidad de las empresas consiste en ofrecer productos en los que docentes, alumnos y familias puedan confiar.
PUBLICIDAD