Europa pone a ChatGPT bajo mayor supervisión y le exige cumplir nuevas reglas

La Unión Europea ha clasificado a ChatGPT como un motor de búsqueda en línea de gran tamaño, una designación que somete al servicio de OpenAI a nuevas obligaciones y a un mayor nivel de supervisión bajo la Ley de Servicios Digitales, conocida como DSA por sus siglas en inglés.

La decisión obligará a la compañía a evaluar y mitigar riesgos relacionados con la difusión de contenido ilegal, la protección de los menores y el bienestar físico y mental de los usuarios.

La Comisión Europea considera que ChatGPT cumple el requisito necesario para recibir esta designación al superar los 45 millones de usuarios mensuales promedio en la Unión Europea. Tras la notificación, OpenAI dispondrá de un plazo de cuatro meses para adaptar el servicio a las obligaciones correspondientes, con enero de 2027 como fecha límite señalada para cumplir con las nuevas exigencias.

La decisión supone un nuevo nivel de escrutinio sobre uno de los servicios de inteligencia artificial generativa con mayor número de usuarios del mundo. A partir de esta clasificación, la Comisión Europea también tendrá mayores facultades para investigar el funcionamiento del servicio y supervisar su cumplimiento de la normativa.

ChatGPT deberá evaluar los riesgos de su sistema

La Ley de Servicios Digitales establece obligaciones específicas para las plataformas y servicios digitales que alcanzan una escala suficientemente grande dentro de la Unión Europea. En el caso de ChatGPT, la designación obliga a analizar los riesgos sistémicos que puedan derivarse de sus sistemas y algoritmos.

Entre los aspectos que deberán ser evaluados y mitigados se encuentra la posible difusión de contenido ilegal. También deberán analizarse los efectos negativos que el servicio pueda tener sobre los menores y sobre el bienestar físico y mental de sus usuarios.

La normativa contempla además riesgos relacionados con los derechos fundamentales, los procesos electorales y la seguridad pública. Esto significa que la empresa tendrá que establecer mecanismos para identificar los problemas asociados al uso de sus sistemas y adoptar medidas para reducirlos.

La Comisión Europea podrá evaluar las funcionalidades de ChatGPT y otros sistemas relacionados para determinar si el servicio cumple con las obligaciones establecidas. El organismo comunitario también será competente para supervisar la aplicación de las normas y, en caso necesario, investigar posibles incumplimientos.

Un mayor control sobre la inteligencia artificial

La decisión refleja la creciente atención de las autoridades europeas sobre los servicios de inteligencia artificial que alcanzan una gran escala y pueden tener un impacto significativo sobre la sociedad.

Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia de la Comisión Europea, señaló que la nueva designación implica que ChatGPT estará sometido a un mayor nivel de control y rendición de cuentas, en función de su alcance y su impacto sobre los ciudadanos.

La responsable europea también indicó que la Comisión continuará vigilando la evolución del entorno digital y podrá ampliar la supervisión reforzada a otros servicios que cumplan con los requisitos establecidos por la Ley de Servicios Digitales.

La clasificación no implica que ChatGPT sea tratado como una plataforma de redes sociales convencional. La Comisión ha incluido el servicio dentro de la categoría de motores de búsqueda en línea de gran tamaño, una figura contemplada por la DSA para los servicios que alcanzan determinados niveles de uso dentro del mercado europeo.

Reddit y Roblox también entran en la categoría de grandes plataformas

La Comisión Europea también ha incluido recientemente a Reddit y Roblox entre las plataformas en línea de gran tamaño sujetas a obligaciones reforzadas.

Estas designaciones implican mayores responsabilidades en materia de transparencia y protección de los usuarios. Entre las restricciones previstas por la Ley de Servicios Digitales se encuentra la prohibición de dirigir publicidad personalizada a menores.

La normativa también limita el uso de determinadas categorías de datos sensibles para orientar anuncios, entre ellas la orientación sexual, la religión, el origen étnico y las opiniones políticas.

Otro de los puntos centrales de la legislación europea es la transparencia de los sistemas de recomendación. Las grandes plataformas deben ofrecer más información sobre la forma en que sus algoritmos seleccionan, ordenan y muestran contenidos a los usuarios.

Un nuevo escenario regulatorio para OpenAI

Para OpenAI, la designación supone la incorporación de nuevas obligaciones regulatorias en uno de sus mercados más importantes. La empresa tendrá que demostrar que cuenta con sistemas capaces de identificar y reducir los riesgos asociados a un servicio utilizado por decenas de millones de personas dentro de la Unión Europea.

El plazo de cuatro meses obliga a la compañía a acelerar la adaptación de sus mecanismos de evaluación, moderación y transparencia. La supervisión también coloca a ChatGPT bajo una atención regulatoria más directa, en un momento en el que los gobiernos buscan establecer límites y responsabilidades para los sistemas de inteligencia artificial.

La decisión de la Unión Europea confirma que el crecimiento de los chatbots no solo está transformando la forma en que los usuarios buscan información y generan contenido. También está modificando el marco legal que regula los grandes servicios digitales.

A partir de ahora, ChatGPT deberá responder a exigencias más estrictas en Europa, con obligaciones centradas en la prevención de riesgos y una mayor rendición de cuentas sobre el impacto de sus sistemas. La fecha límite de enero de 2027 marcará el inicio de una nueva etapa para la supervisión europea de uno de los principales servicios de inteligencia artificial generativa.