Roblox apuesta por la inteligencia artificial para proteger las conversaciones de los adolescentes

Roblox, una plataforma virtual en la que millones de usuarios, principalmente niños y adolescentes, pueden crear, compartir y explorar videojuegos y experiencias interactivas en línea, ha introducido una función innovadora de verificación de edad, utilizando inteligencia artificial para aumentar la seguridad de los adolescentes en la plataforma.

El proceso exige que los usuarios envíen una selfie en video como requisito para acceder a las “Conexiones de confianza”, una nueva forma de relación que permite chats de voz y texto sin los filtros automáticos habituales que limitan expresiones o el intercambio de datos personales.

La IA compara la imagen enviada con una base de datos diversa y estima la edad del usuario. Si identifica que un jugador tiene menos de trece años, le impide acceder a chats sin filtros. En caso de dudas o si el usuario carece de documentación oficial, la plataforma permite que sean los padres quienes completen la verificación.

Según Roblox, los datos biométricos recopilados se eliminan en un plazo de 30 días, salvo que una orden judicial exija lo contrario.

Cambios en la gestión de relaciones y nuevas opciones de acceso

La actualización representa un cambio importante: antes, la plataforma no diferenciaba entre conocidos y amigos íntimos, complicando la gestión de relaciones seguras.

Ahora, los adolescentes de entre 13 y 17 años que cumplan con la verificación pueden añadir “Conexiones de confianza” y disfrutar de chats sin filtros automáticos con otros usuarios de la misma franja de edad.

Para establecer estas conexiones con mayores de 18 años, es necesario emplear un código QR presencial o el número de teléfono del adulto.

Aunque los chats autorizados quedan exentos de los filtros automáticos, continúan bajo la supervisión de sistemas de moderación, tanto automáticos como humanos, y deben respetar las normas comunitarias.

Seguridad, privacidad y control parental

La iniciativa de Roblox responde a la necesidad de proteger a sus casi 98 millones de usuarios en 180 países, de los cuales más del 60% son adolescentes. La plataforma ha sido cuestionada anteriormente por casos de acoso y delitos cometidos mediante su servicio, así como por demandas relacionadas con la privacidad de los menores.

Matt Kaufman, director de seguridad de la empresa, defendió el nuevo enfoque señalando que la protección de los menores depende de políticas, tecnología, moderadores y la participación activa de los padres.

Roblox permite que los adolescentes otorguen acceso a un panel de control a sus padres para supervisar las conexiones, aunque sigue pendiente la notificación automática de nuevas alianzas dentro del sistema.

Roblox señala como fundamental el diálogo familiar sobre seguridad digital y promueve que padres e hijos discutan con quién se relacionan y cómo usan la plataforma.

Críticas y advertencias de los expertos

A pesar de las mejoras, especialistas en protección infantil han expresado preocupaciones. Kirra Pendergast, directora de Safe on Social, afirmó que dejar en manos de los menores la responsabilidad de aceptar o gestionar riesgos es riesgoso, valga la redundancia, y puede contradecir las mejores prácticas contra el grooming.

También advirtió que la IA puede cometer errores al estimar edades y que el mecanismo de QR podría ser manipulado por adultos malintencionados. Además, destacó que la seguridad se limita solo al chat, dejando otras partes de la plataforma potencialmente desprotegidas.

La tendencia a fortalecer la protección digital de los jóvenes se replica en toda la industria. Según WIRED, Nintendo también ha implementado sistemas similares, como GameChat en Switch 2, aunque las quejas sobre la posible grabación de interacciones han generado polémica y reducido su atractivo frente a servicios como Discord.

Roblox afirma que la IA no solo sirve para verificar la edad, sino también para mejorar la moderación y detectar conductas nocivas, aunque subraya que la tecnología debe estar acompañada de políticas sólidas y amplia supervisión.

Un debate en curso sobre la verdadera protección

La verificación de edad por IA supone un avance relevante para conseguir entornos más seguros, pero el debate continúa.

Los expertos insisten en que las configuraciones de seguridad y supervisión parental deberían ser obligatorias y no opcionales, ya que no todas las familias cuentan con la experiencia digital necesaria.

En este contexto, Roblox ejemplifica los retos de equilibrar apertura social, privacidad y protección infantil en el mundo digital actual.