Corea del Sur impondrá sanciones a los anuncios falsos generados por la IA

Corea del Sur requerirá que los anunciantes etiqueten sus anuncios creados con tecnologías de inteligencia artificial a partir del próximo año, en un intento por frenar un aumento de promociones engañosas que presentan a expertos inventados o celebridades falsas que promocionan alimentos o productos farmacéuticos en las redes sociales.

Tras una reunión de políticas presidida por el primer ministro Kim Min-seok el miércoles, los funcionarios dijeron que intensificarán la detección y eliminación de anuncios problemáticos generados por IA e impondrán multas punitivas, citando los crecientes riesgos para los consumidores, especialmente las personas mayores que tienen dificultades para determinar si el contenido está hecho por IA.

Lee Dong-hoon, director de política económica y financiera de la Oficina de Coordinación de Políticas Gubernamentales, dijo en una sesión informativa que dichos anuncios están “alterando el orden del mercado” y que “ahora es esencial actuar con rapidez”.

“Cualquiera que cree, edite y publique fotos o videos generados por IA deberá etiquetarlos como creados por IA, y los usuarios de la plataforma tendrán prohibido eliminar o alterar esas etiquetas”, dijo.

Los anuncios generados por IA que utilizan expertos fabricados digitalmente o videos y audios deepfake de celebridades, para promocionar desde pastillas para bajar de peso y cosméticos hasta sitios de apuestas ilegales, se han convertido en elementos básicos en los espacios surcoreanos de YouTube, Facebook y otras plataformas de redes sociales.

El gobierno buscará revisar la ley de telecomunicaciones y otras leyes relacionadas para que el requisito de etiquetado de IA, junto con un monitoreo reforzado y medidas punitivas, pueda entrar en vigencia a principios de 2026. Las empresas que operan las plataformas también serán responsables de garantizar que los anunciantes cumplan con las reglas de etiquetado, dijo Lee.

La IA impulsa el aumento de anuncios falsos

Las autoridades afirman que es cada vez más difícil monitorear y detectar el creciente número de anuncios falsos impulsados ​​por IA. El Ministerio de Seguridad Alimentaria y Farmacéutica de Corea del Sur identificó más de 96.700 anuncios ilegales en línea de productos alimenticios y farmacéuticos en 2024 y 68.950 hasta septiembre de este año, frente a los aproximadamente 59.000 de 2023.

El problema también se está extendiendo a áreas como la educación privada, los cosméticos y los servicios de juego ilegal, lo que deja a la Agencia del Consumidor de Corea y otros organismos de control luchando por mantener el ritmo, dijo la Oficina de Coordinación de Políticas del Gobierno.

Además de los anuncios engañosos y la desinformación, Corea del Sur también se enfrenta al abuso sexual facilitado por la IA y otras tecnologías digitales. El mes pasado, un tribunal de Seúl condenó a cadena perpetua a un hombre de 33 años por dirigir una red de chantaje en línea que explotó o abusó sexualmente de más de 200 víctimas, entre ellas muchas menores de edad, amenazadas con deepfakes y otras imágenes y vídeos sexuales manipulados.

Los funcionarios planean aumentar las multas y también introducir sanciones punitivas el próximo año para desalentar la creación de anuncios falsos generados por IA, diciendo que aquellos que a sabiendas distribuyan información falsa o fabricada en línea o a través de otras redes de telecomunicaciones podrían ser considerados responsables de daños hasta cinco veces mayores a las pérdidas sufridas.

Las autoridades también reforzarán la vigilancia y agilizarán los procedimientos de retirada, incluyendo la posibilidad de realizar revisiones en 24 horas y la introducción de un proceso de emergencia para bloquear anuncios dañinos incluso antes de que finalice la deliberación. También planean reforzar las capacidades de vigilancia del Ministerio de Seguridad Alimentaria y Farmacéutica y la Agencia Coreana del Consumidor, utilizando, por supuesto, inteligencia artificial.

A pesar de los riesgos, el amor de Corea del Sur por la IA crece

El primer ministro Kim, el segundo funcionario de mayor rango de Seúl después del presidente Lee Jae Myung, dijo durante la reunión de políticas que es crucial “minimizar los efectos secundarios de las nuevas tecnologías” a medida que el país adopta la “era de la IA”.

Los planes para etiquetar los anuncios generados por IA se anunciaron cuando Lee, en una reunión separada con líderes empresariales, reiteró las ambiciones de su gobierno en materia de IA, prometiendo esfuerzos nacionales para fortalecer las capacidades de Corea del Sur en chips informáticos avanzados que impulsan la carrera global de la IA.

Los planes del gobierno incluyen un mayor gasto en investigación y desarrollo de chips específicos para IA y otros productos semiconductores avanzados, así como la expansión de los centros de fabricación de chips del país más allá de las áreas metropolitanas cercanas a la capital, Seúl, hacia las regiones del sur. Los fabricantes surcoreanos de chips, como Samsung Electronics y SK Hynix, controlaron en conjunto más del 65% del mercado mundial de chips de memoria el año pasado.

El Ministerio de Ciencia y Telecomunicaciones también dijo el miércoles que requerirá que los operadores inalámbricos del país realicen la transición a redes independientes 5G, que se consideran óptimas para aplicaciones avanzadas de IA debido a su mayor ancho de banda y menor latencia, como condición para renovar sus licencias 3G y LTE.

(con información de AP)