Verificación de edad con IA de Roblox genera críticas: los adultos se hacen pasar por niños

El despliegue global del sistema de verificación de edad basado en inteligencia artificial de Roblox ha desatado protestas y serias críticas, según informó Wired.

Este mecanismo, implementado para restringir el acceso al chat según la edad del usuario, ha presentado errores que generan rechazo en usuarios, desarrolladores y expertos en seguridad digital.

Cómo es el nuevo sistema de verificación de edad de Roblox

El sistema solicita a los usuarios realizar una grabación corta con la cámara del dispositivo o aportar una prueba documental oficial. Todo el proceso está gestionado por la empresa Persona. A partir de la información biométrica o documental, la inteligencia artificial estima la edad para permitir únicamente la interacción en el chat entre personas de rangos similares.

El lanzamiento inicial se llevó a cabo en Australia, Nueva Zelanda y Países Bajos; desde la semana pasada, el sistema funciona en Estados Unidos y otros países.

Los problemas de la verificación en Roblox

Sin embargo, tras la expansión mundial, se han detectado errores graves en la clasificación de edades. Usuarios adultos han sido ubicados por el sistema como adolescentes; por ejemplo, un joven de 23 años fue identificado como menor de 18, y otro adulto, como si tuviera entre 13 y 15 años. Al mismo tiempo, menores de 10 años han sido colocados en categorías de adultos.

El medio recoge ejemplos y publicaciones en redes donde se documentan estos fallos. Varios usuarios consiguieron engañar a la inteligencia artificial usando fotos de celebridades o maquillajes para aparentar mayor edad.

Un vídeo muestra a un niño con barbas y arrugas dibujadas, clasificado como mayor de 21 años. Ry Terran, investigador en extremismo digital, señaló al medio que “el mayor peligro es la cantidad de cuentas archivadas en el grupo equivocado y los retos añadidos para padres y moderadores”.

Otra preocupación creciente es la aparición del mercado negro de cuentas verificadas. Wired identificó ofertas en eBay de cuentas con verificación de edad aprobada para menores de hasta nueve años, con precios desde $ 4. Luego de ser alertado, eBay eliminó estas publicaciones por infringir sus normas. Pese a ello, Roblox no ha detallado qué medidas tomará frente a la comercialización ilegal de cuentas.

El nuevo sistema ha alterado profundamente la participación comunitaria. El uso del chat en algunos juegos cayó de 85% a 36%, según explicó un desarrollador. Las descripciones de la experiencia tras la actualización varían entre “desierta” y “pueblo fantasma”.

Muchos opinan que la plataforma social ha perdido su componente comunitario distintivo. En el foro oficial para desarrolladores, la mayoría exige la reversión del cambio, protestando por la restricción de la privacidad y de las interacciones.

Qué ha dicho Roblox frente a esta situación

Frente a las críticas, Roblox admitió estar al tanto de los errores y reconoció que algunos padres ubican a sus hijos en el rango de mayores de 21 años mediante la verificación. La empresa anunció controles aleatorios y que trabaja en mejoras para la detección de fraudes, aunque no informó ni el modo ni el plazo de estas modificaciones.

Este cambio sucede tras demandas presentadas por fiscales generales de varios estados de Estados Unidos, quienes acusan a la firma de no proteger adecuadamente a sus usuarios menores.

La polémica se agrava debido a las preocupaciones de privacidad. Roblox sostiene que elimina los datos personales inmediatamente después del procesamiento; sin embargo, muchos usuarios optan por no completar la verificación, temiendo un uso inadecuado de su información. Solo la mitad ha accedido al sistema, lo que revela una considerable resistencia a la medida.

Aunque la compañía defiende que la verificación de identidad es fundamental para la seguridad, miles de usuarios y creadores consideran que la medida, lejos de resolver los problemas de protección infantil, ha restringido las garantías de privacidad y la libertad que caracterizaban a la comunidad.