Más control para ChatGPT: la IA de OpenAI tendrá que rendirle cuentas a la Comisión Europea

ChatGPT tendrá una supervisión más estricta en la Unión Europea: la Comisión Europea lo designó como motor de búsqueda en línea de muy gran tamaño (VLOSE) en virtud de la Ley de Servicios Digitales (DSA).

La medida se apoya en que el servicio de OpenAI declaró al menos 45 millones de usuarios mensuales medios en la región.

La herramienta de inteligencia artificial tendrá hasta enero de 2027 para alistarse y así, cumplir obligaciones adicionales previstas para los servicios de su tipo.

Entre ellas, deberá evaluar y mitigar riesgos sistémicos asociados a su funcionamiento y a los sistemas algorítmicos relacionados, como la difusión de contenidos ilícitos, los efectos negativos en los menores, el impacto en el bienestar físico y mental de los usuarios, los derechos fundamentales, los procesos electorales y la seguridad pública.

Con la designación, la Comisión también obtendrá competencias de investigación para evaluar las funcionalidades que sustentan el servicio.

Además de ChatGPT, Reddit y Roblox serán clasificadas como plataformas en línea de muy gran tamaño (VLOP).

En el caso de Reddit y Roblox, la Comisión será competente para supervisar el cumplimiento de la DSA en cooperación con la Autoridad de Consumidores y Mercados (ACM), coordinador de servicios digitales de los Países Bajos, donde se establecen los servicios designados.

“Estas nuevas designaciones significan que ChatGPT, Reddit y Roblox tendrán ahora un nivel más alto de control y rendición de cuentas en la Unión Europea, en línea con su gran impacto en nuestros ciudadanos y la sociedad”, afirmó Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia de la Comisión Europea.

“Seguimos observando de cerca el panorama digital y no dudaremos en designar cualquier plataforma que cumpla el umbral para una supervisión reforzada en virtud de la Ley de Servicios Digitales”, agregó Virkkunen.

Qué cambia para ChatGPT en Europa

La Comisión explicó que ChatGPT es un sistema de inteligencia artificial que puede interactuar y responder a solicitudes y consultas de los usuarios, incluso mediante la búsqueda en la web.

Por ese motivo, lo definió como un servicio híbrido que califica como motor de búsqueda en línea bajo la DSA.

A partir de la designación como VLOSE, ChatGPT queda bajo un régimen de obligaciones y supervisión, que incluye la evaluación y mitigación de los riesgos sistémicos derivados de su funcionamiento y de sus sistemas algorítmicos relacionados.

Qué es la Ley de Servicios Digitales

La Ley de Servicios Digitales (DSA) establece obligaciones para plataformas en línea y motores de búsqueda, y prevé exigencias adicionales para aquellos servicios que, por su escala, superen el umbral de 45 millones de usuarios mensuales medios en la Unión Europea.

Además de ChatGPT, la Comisión Europea mantiene una lista de servicios designados como plataformas en línea de muy gran tamaño (VLOP) y motores de búsqueda en línea de muy gran tamaño (VLOSE) bajo la Ley de Servicios Digitales (DSA).

El listado incluye marketplaces, redes sociales, tiendas de aplicaciones, servicios de video, enciclopedias colaborativas y otros intermediarios digitales que, según sus declaraciones, superan el umbral de usuarios que activa la supervisión reforzada.

En ese registro figuran, entre otros:

• AliExpress (AliExpress International).
• Amazon Store (Amazon EU).
• App Store (Apple Distribution International).
• Pornhub (Aylo Freesites).
• Booking.com.
• Un conjunto de servicios de Google Ireland como Google Search (VLOSE), Google Play, Google Maps, Google Shopping y YouTube.
• Shein (Infinite Styles Services).
• LinkedIn.

• Meta Platforms Ireland con Facebook.
• Pinterest. 
• Snapchat (Snap B.V.).
• TikTok (TikTok Technology Limited).
• WhatsApp (WhatsApp Ireland).
• X (X Internet Unlimited Company).

El registro también identifica al proveedor, el servicio designado, el tipo de servicio bajo la DSA y el coordinador de servicios digitales del Estado miembro correspondiente, además de resumir acciones de ejecución como solicitudes de información, aperturas de procedimientos, hallazgos preliminares, compromisos vinculantes o sanciones cuando las hubo.