X bloqueará la generación de imágenes sexualizadas con Grok a todos los usuarios

El cambio de política implementado por X también se verliza en una serie de barreras tecnológicas que la plataforma ha desarrollado para impedir la edición de imágenes de personas reales vestidas con ropa íntima o reveladora, como bikinis, tanto para usuarios gratuitos como para suscriptores de pago. De acuerdo con el comunicado publicado por la propia cuenta oficial de seguridad de X, esta restricción se extiende a todos los usuarios a nivel global y responde al compromiso de la empresa de garantizar la protección ante cualquier forma de explotación sexual de menores, material íntimo no autorizado o contenido sexual no solicitado.

Según detalló el medio a partir de la información proporcionada por la plataforma, X anunció que a partir de ahora bloqueará el acceso a la generación de imágenes sexualizadas mediante Grok, su sistema de inteligencia artificial, tras recientes polémicas vinculadas a la creación de fotografías con personas en ropa interior o bikini, incluso involucrando a menores de edad. Hasta principios de enero, la posibilidad de generar estas imágenes mediante Grok solo estaba disponible para usuarios con suscripción, pero ahora la medida abarca a toda la comunidad sin distinción.

La empresa señaló que la función de generación de imágenes se encuentra limitada de forma geográfica y, en aquellas jurisdicciones donde la legislación prohíbe este tipo de representaciones, la opción se ha deshabilitado completamente. X puntualizó que esta acción pretende dar una respuesta inmediata al creciente escrutinio público, institucional y social sobre la explotación de la inteligencia artificial con fines de creación de contenido íntimo no consentido.

De acuerdo con la información publicada por X en su plataforma, la compañía subrayó su política de “tolerancia cero” frente a la producción de imágenes íntimas, especialmente aquellas que comprometan la seguridad infantil digital. El texto difundido remarca el desarrollo de nuevas tecnologías para detectar y bloquear automáticamente los intentos de utilizar la cuenta de Grok para crear o manipular representaciones de personas con ropa reveladora, incluyendo la prohibición explícita en los países cuyas normativas lo exigen.

La presión hacia la plataforma se ha intensificado tras numerosas quejas y denuncias procedentes de usuarios y gobiernos. Según reportó el medio, países como la Unión Europea han exigido a X conservar toda la documentación vinculada a la generación de imágenes a través de Grok hasta finales de año, mientras que Reino Unido amenazó con bloquear el acceso completo a la red social si no se producía un cambio en la gestión de estos contenidos. Malasia e Indonesia procedieron directamente a prohibir el uso de Grok.

El mismo comunicado de X hizo referencia al papel que ejercen organizaciones internacionales especializadas en derechos digitales, seguridad infantil y derechos de las mujeres, muchas de las cuales han requerido a tiendas de aplicaciones como Apple y Google que adopten medidas más restrictivas e incluso se planteen retirar Grok de sus catálogos. En una carta abierta dirigida a ambas compañías, varias organizaciones advirtieron que “Grok se está utilizando para crear cantidades masivas de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil, contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple”.

La controversia asociada al uso de inteligencia artificial generativa para crear imágenes íntimas sin consentimiento ha incrementado la preocupación sobre la capacidad de las plataformas digitales para anticiparse ante este tipo de riesgos. Según publicó X, la empresa ha comenzado un proceso de adaptación regulatoria no solo en función de la presión social y de los gobiernos, sino también para evitar el bloqueo en mercados clave o posibles sanciones legales. Entre las acciones implementadas, la plataforma también ha intensificado la colaboración con organismos de control y supervisión en materia de explotación digital y defensa de los derechos de menores.

La generación de este tipo de contenidos a través de inteligencia artificial ha atraído la atención de legisladores, reguladores y empresas tecnológicas alrededor del mundo, reflejando un consenso sobre la necesidad de fortalecer la protección de los usuarios y la responsabilidad de las plataformas. El caso específico de Grok ha activado un debate internacional en torno a la supervisión de este tipo de herramientas y la urgencia de actualizar los marcos regulatorios para abordar los desafíos éticos y legales que presentan los desarrollos recientes en inteligencia artificial. Según informa X, el nuevo sistema de restricción entró en vigor en todo el mundo, alcanzando no solo a usuarios individuales, sino también a suscriptores y desarrolladores de la plataforma.