La situación con Grok, la inteligencia artificial desarrollada por xAI, la empresa de Elon Musk, ha escalado a nivel internacional luego de que salieran a la luz informes sobre la generación de imágenes sugerentes de personas, incluidas menores de edad, en la plataforma X.
Este escenario ha desencadenado investigaciones formales y bloqueos en diversos países, así como una profunda preocupación sobre los controles internos de la herramienta y la capacidad de las compañías para frenar el uso indebido de sus sistemas.
La alarma se encendió cuando expertos en inteligencia artificial advirtieron que Grok carecía de filtros efectivos para evitar que los usuarios crearan imágenes manipuladas con contenido delicado. Esta vulnerabilidad llevó a la generación y circulación de miles de imágenes que afectaban tanto a mujeres como a niños, lo que motivó a reguladores y gobiernos a tomar cartas en el asunto.
El informe publicado a comienzos de enero por AI Forensics arrojó luz sobre la magnitud del fenómeno. Según el estudio, el 53 % de las imágenes generadas por Grok mostraban personas con poca ropa. De ese grupo, el 81 % correspondía a mujeres y el 2 % a individuos que aparentaban tener 18 años o menos. Además, el 6 % involucraba a figuras públicas.
Reino Unido está investigando la IA de Elon Musk
El organismo de control de comunicaciones del Reino Unido, Ofcom, anunció el inicio de una investigación formal sobre la plataforma X. El objetivo: determinar si la compañía había incumplido la Ley de Seguridad en Línea, que exige a las plataformas proteger a los ciudadanos del acceso a material ilícito.
Ofcom se puso en contacto con X de forma urgente el 5 de enero, solicitando explicaciones acerca de las medidas implementadas para evitar la difusión de este tipo de contenido. La empresa respondió dentro del plazo estipulado, lo que dio pie a una evaluación de pruebas.
La investigación busca esclarecer si X realizó una evaluación de riesgos adecuada antes de introducir cambios significativos en su servicio, y si tomó las precauciones necesarias para impedir que los usuarios en el Reino Unido accedieran a imágenes no consentidas de personas o a material que pudiera constituir abuso de menores.
Las consecuencias de un eventual incumplimiento son severas: el organismo advierte sobre la posibilidad de imponer multas de hasta 18 millones de libras esterlinas o el 10 % de los ingresos globales de la compañía. En casos graves, se podría incluso solicitar a un tribunal la interrupción de la actividad empresarial de X en el país.
Grok ya fue bloqueado por la generación de estas imágenes
Este caso no es aislado. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia también actuó con contundencia. El órgano regulador decidió bloquear temporalmente el acceso a Grok tras una investigación que confirmó la generación de imágenes comprometedoras mediante la herramienta de inteligencia artificial.
Según el comunicado oficial, la medida busca proteger a mujeres, niños y a toda la comunidad del riesgo de imágenes manipuladas creadas mediante tecnología automatizada. El ministerio exigió a X una pronta clarificación sobre el funcionamiento de la IA y su control de contenidos.
Al respecto, Meutya Hafid, ministra de Comunicaciones y Digitalización, recalcó que la creación de imágenes manipuladas no consentidas constituye una grave vulneración de los derechos humanos, la dignidad y la seguridad nacional en el ámbito digital.
Qué ha hecho xAI ante este caso
Las consecuencias de la exposición pública no se hicieron esperar. Ante la presión internacional y la amenaza de sanciones, xAI decidió restringir el acceso a la función de generación de imágenes de Grok, limitando su uso únicamente a suscriptores de pago.
Pero la aplicación independiente de Grok, que opera fuera de la red social X, sigue permitiendo la generación de imágenes sin necesidad de suscripción, lo que agrava la preocupación sobre la eficacia real de las nuevas restricciones.
En respuesta al bloqueo en Indonesia, Grok publicó un mensaje en X pidiendo disculpas por los inconvenientes y asegurando que trabajaban para solucionar el problema.
Últimas Noticias
Cuál es el precio de bitcoin, ethereum y otras criptomonedas este día
Las criptomonedas han tenido un auge en los últimos meses y el bitcoin ha logrado su legalidad en El Salvador
¿Un material que se repara solo? Así es la nueva tecnología que podría cambiar la vida útil de aviones y turbinas
La innovación integra agentes termoplásticos y capas calefactoras capaces de activar un proceso automático de reparación. Cómo funciona el sistema desarrollado por investigadores de Carolina del Norte que pomete infraestructuras más seguras, eficientes y sostenibles en aviación y energía
Jack Dorsey, el fundador de Twitter, despidió a 4.000 personas por la IA y lanzó una advertencia al mundo empresarial
La carta que publicó el 26 de febrero tiene pocas ideas centrales, pero cada una pesa. La primera habla de dinero y de buenos resultados. La segunda, de inteligencia artificial y de cómo está cambiando la forma de trabajar. La tercera es una advertencia que pocos CEOs se habrían atrevido a escribir en público
Telegram bajo la lupa: las estafas aumentan un 233% en la plataforma
El informe de Revolut destaca que los fraudes relacionados con compras en línea continúan siendo los más frecuentes tanto en España como en el resto del mundo
Cómo transformar tu celular viejo en una cámara de seguridad con Wi-Fi
Reaprovechar un dispositivo móvil para vigilancia doméstica te permite potenciar la seguridad, controlar espacios remotamente y reducir desechos electrónicos sin inversión adicional
