Roblox y ChatGPT tendrán que cuidar más a los menores o serán multados: las nuevas reglas que deberán cumplir

ChatGPT y Roblox están muy cerca de entrar a ser parte de la Ley de Servicios Digitales (DSA) de la Unión Eurpea, lo que significa que ambas ya superaron los 45 millones de usuarios activos mensuales en esa región, por lo que deberán ser supervisadas bajo con la categoría más alta de rigurosidad.

Según Reuters y Bloomberg, la decisión, que se espera se anuncie oficialmente en agosto, abre una nueva etapa para las empresas tecnológicas que operan en el Viejo Continente. A partir de su designación, ambas plataformas deberán cumplir con obligaciones reforzadas orientadas a mejorar la seguridad online, la transparencia y la rendición de cuentas, bajo amenaza de multas millonarias en caso de incumplimiento.

Por qué la UE apunta a ChatGPT y Roblox

La explicación principal de por qué la Comisión Europea ha puesto el foco en ChatGPT y Roblox está en la magnitud de su base de usuarios. Según la DSA, cualquier servicio que supere los 45 millones de usuarios activos al mes dentro de la UE pasa automáticamente a ser considerado una “plataforma en línea de gran tamaño”, conocidas en inglés como VLOP (Very Large Online Platform).

Este umbral busca identificar a aquellos actores cuyo peso puede tener un impacto sistémico sobre la sociedad y el mercado digital europeo.

La preocupación de Bruselas no se limita solo al número de usuarios. La Comisión Europea viene advirtiendo sobre los riesgos sistémicos asociados a plataformas que facilitan la difusión de contenidos dañinos o ilegales, o que pueden afectar derechos fundamentales.

En el caso de ChatGPT, se trata del primer chatbot de inteligencia artificial que sería incorporado bajo este paraguas regulatorio, lo que abre un precedente en el control de herramientas basadas en IA.

Para Roblox, el foco está puesto en la protección de menores, ya que su base de usuarios es especialmente joven y la plataforma ha sido objeto de investigaciones por parte de autoridades europeas, como en Países Bajos, sobre la suficiencia de sus medidas para proteger a los niños frente a contenidos violentos o sexuales.

Qué implicará esta designación para Roblox y ChatGPT

La designación de ChatGPT y Roblox como plataformas en línea de gran tamaño bajo la DSA activa una serie de exigencias específicas y más rigurosas que las que enfrentan otras plataformas digitales. Entre las principales obligaciones destacan:

• Presentar informes anuales de transparencia que detallen las acciones tomadas para moderar y gestionar contenidos ilegales y nocivos.
• Realizar evaluaciones periódicas de riesgos, identificando posibles amenazas para la seguridad online y los derechos fundamentales de los usuarios.
• Implementar y reportar medidas concretas para mitigar esos riesgos, en especial los relativos a menores de edad y a la manipulación de la información.
• Adoptar mayor transparencia en áreas como la publicidad, especialmente la orientada a niños.
• Abonar una tasa anual de supervisión a la Comisión Europea, destinada a costear los recursos de control y auditoría.

Estas obligaciones no solo suponen un aumento de la carga administrativa y operativa para las empresas implicadas, sino que también las exponen a la amenaza de sanciones severas. La DSA contempla multas de hasta el 6 % de la facturación global anual para aquellas compañías que incumplan con los requisitos establecidos, lo que puede traducirse en cifras multimillonarias.

El proceso de adaptación tampoco es inmediato. Una vez que la Comisión Europea oficialice la designación, ChatGPT y Roblox dispondrán de cuatro meses para ajustarse a las nuevas obligaciones. Durante ese periodo, deberán adaptar sus políticas internas, reforzar los controles y preparar la documentación exigida por la ley.

La Ley de Servicios Digitales se ha convertido en uno de los marcos regulatorios más estrictos del mundo para plataformas digitales. Desde su entrada en vigor en 2022, la Comisión Europea ha abierto más de una docena de investigaciones sobre plataformas en línea y ya ha aplicado sanciones significativas.

Por ejemplo, X fue multada con 120 millones de euros por diseño engañoso y falta de transparencia, mientras que el servicio de comercio electrónico de Alibaba recibió una sanción de 550 millones de euros por no evaluar adecuadamente los productos inseguros o falsificados vendidos en su plataforma.

Las obligaciones para las VLOP abarcan tanto la moderación proactiva de contenidos como la supervisión sobre la publicidad dirigida, con especial énfasis en la protección de menores.