Sánchez quiere perseguir penalmente a "responsables últimos" de plataformas digitales por no retirar contenido ilícito

El Ejecutivo tiene previsto implementar un mecanismo denominado 'Huella de Odio y Polarización', a través del cual se pretende rastrear y analizar de manera sistemática la contribución de las plataformas digitales a la promoción de discursos polarizadores y a la amplificación de mensajes de odio. Según detalló la administración de Pedro Sánchez, esta herramienta permitirá medir cómo los algoritmos y las prácticas internas de estas empresas pueden fomentar entornos digitales susceptibles de riesgo social, lo que abriría la puerta a la elaboración de un ranking público sobre el grado de polarización y odio presente en cada plataforma. En este contexto, el presidente del Gobierno, Pedro Sánchez, anunció en la Cumbre Mundial de los Gobiernos celebrada en Dubái la propuesta de reforma del Código Penal para responsabilizar penalmente a los directivos de plataformas digitales que no acaten órdenes de retirar contenidos ilícitos, según publicó el medio fuente.

De acuerdo con lo expuesto por el Ejecutivo y consignado por la fuente, la modificación legal planteada establecería un régimen de responsabilidad penal específico dirigido a los “responsables últimos” de estas empresas tecnológicas. Esta medida afectaría a quienes ocupan posiciones de máxima dirección, incluidos los CEOs y fundadores de grandes plataformas como Meta (que abarca Facebook, Instagram y WhatsApp), X (antiguamente Twitter), y TikTok, entre otros referentes del sector. El objetivo del Gobierno es poner fin a lo que considera una situación de impunidad motivada por la ausencia de un control efectivo sobre los contenidos difundidos bajo su supervisión.

Según informó la fuente original, la propuesta se canalizará mediante un Proyecto de Ley Orgánica que se remitirá al Parlamento y se prevé su aprobación inicial en la próxima reunión del Consejo de Ministros. De salir adelante, altos ejecutivos y directivos podrán enfrentar consecuencias penales por actos de inacción deliberada frente a la existencia de contenidos ilícitos en sus servicios, especialmente cuando incumplan órdenes directas de retirada emanadas de autoridades competentes.

Entre los cambios anunciados también se encuentra la incorporación de figuras delictivas vinculadas a prácticas de manipulación de algoritmos y sistemas automatizados de procesamiento de datos. Según reportó la fuente, la intención es criminalizar conductas como la amplificación deliberada de contenidos ilegales a través de alteraciones programadas en los sistemas de recomendación y visibilización, así como la intervención intencional en el funcionamiento de los algoritmos para facilitar la difusión de materiales prohibidos o dañinos. El Gobierno argumenta que este tipo de contenidos no aparecen espontáneamente, sino que son producto de la actuación de individuos concretos y de la configuración de algoritmos diseñados con criterios de maximización de beneficios.

La fuente publicó que el planteamiento del Ejecutivo español se inspira en el marco legal desarrollado recientemente en Francia, país que desde 2023 cuenta con tipificaciones penales sobre la manipulación de algoritmos y la amplificación de contenidos ilegales. Al igual que la normativa francesa, la propuesta española subraya que la tecnología y los sistemas de recomendación no son elementos neutrales, sino que reflejan intencionalidades y opciones técnicas susceptibles de vigilancia y control legales.

Según la información recogida, la legislación también buscará englobar la responsabilidad penal de las plataformas cuando sus algoritmos dinamicen la difusión de contenido ilícito, superando la concepción tradicional que eximía de responsabilidades a los prestadores de servicios digitales bajo el argumento de neutralidad tecnológica. De este modo, cualquier conducta deliberada que implique favorecer la logística de la difusión de materiales ilegales podría tener consecuencias penales para los altos cargos responsables.

En paralelo a estas reformas, el medio fuente detalló que el Gobierno tiene previsto prohibir el acceso de menores de 16 años a las redes sociales en todo el país. Esta iniciativa aparece recogida en el proyecto de Ley de protección de menores en el entorno digital, una propuesta actualmente en tramitación parlamentaria, y busca reforzar los mecanismos institucionales frente a los riesgos que las plataformas representan para poblaciones vulnerables.

El proyecto legislativo contempla un mecanismo coordinado de actuación en el que participarán distintos poderes e instituciones públicas, según reiteró el Ejecutivo y difundió la fuente. Este sistema prevé la cooperación estrecha con el Ministerio Fiscal para tareas preventivas, de detección y de investigación de posibles ilegalidades cometidas en el entorno digital, incluyendo plataformas emergentes y servicios basados en inteligencia artificial. En el comunicado se señala como ejemplo la vigilancia sobre contenidos generados mediante IA que tengan alguna relación con la sexualización de menores o la difusión de estos materiales a través de plataformas como Grok o TikTok.

El desarrollo de la herramienta ‘Huella de Odio y Polarización’ ocupará un lugar estratégico en el nuevo modelo de control. Según la información aportada por el Ejecutivo y consignada por el medio original, esta iniciativa permitirá transformar la observación de fenómenos hasta ahora opacos en procesos cuantificables y auditables que faciliten la toma de decisiones públicas y debates abiertos sobre la regulación y supervisión de las plataformas digitales. Se prevé la generación de informes y clasificaciones que sitúen a las distintas aplicaciones tecnológicas en un rango, del peor al mejor comportamiento, según el grado de presencia de odio y polarización detectado en su funcionamiento diario.

Asimismo, según consta en los detalles recogidos por la fuente, la información extraída por la nueva herramienta permitiría una evaluación más objetiva de las estrategias digitales empleadas por las plataformas e identificaría cuáles contribuyen en mayor medida a entornos inseguros o a la propagación de mensajes peligrosos. Esto podría traducirse en la reformulación de políticas públicas para el entorno digital y en la exigencia de prácticas más seguras y transparentes por parte de las empresas tecnológicas.

El Gobierno, según las declaraciones recogidas por el medio fuente, pretende que estas reformas legales fortalezcan el marco de responsabilidad y mejoren la protección tanto de los usuarios como del tejido social amenazado por prácticas digitales opacas o irresponsables. La tramitación de estos proyectos de ley buscará adaptar de manera más estricta la legislación española a los desafíos tecnológicos y sociales que plantea la gestión contemporánea de los algoritmos y la gobernanza de las grandes plataformas globales.

La propuesta legislativa surge en paralelo a iniciativas similares de la Unión Europea y otros países europeos, en un momento en el que el control sobre el funcionamiento y el impacto social de las grandes plataformas digitales se sitúa en el centro del debate político y regulatorio. Según la fuente consultada, el Gobierno se alinea con la tendencia adoptada por los principales socios europeos dirigida a intensificar los controles sobre los responsables de la gestión de datos, la moderación de contenidos y el diseño de algoritmos.

Finalmente, el Ejecutivo considera que los cambios impulsados no solo servirán para combatir eficazmente la propagación de contenidos ilegales, sino que también permitirán reforzar la confianza de la ciudadanía en los espacios digitales y ampliar las garantías frente a abusos vinculados a la manipulación de información, la desinformación y los riesgos asociados al uso de inteligencia artificial en la creación y difusión de contenidos.