Crean inteligencia artificial que acabaría los discursos de odio en redes sociales

Al estilo ChatGPT, la IA detecta mensajes racistas, xenófobos y antisemitas en plataformas como X

Guardar

Nuevo

El sistema utiliza un lenguaje parecido a ChatGPT y está en espera de ser usado a nivel global. (Foto: EFE/ Rayner Peña R)
El sistema utiliza un lenguaje parecido a ChatGPT y está en espera de ser usado a nivel global. (Foto: EFE/ Rayner Peña R)

La Universidad de Jaén ha dado un paso adelante en la lucha contra el discurso de odio en las redes sociales a través del desarrollo de un innovador sistema de inteligencia artificial al estilo de ChatGPT.

Este avance tecnológico, que será presentado ante la Comisión Europea, constituye un eje central en un ambicioso proyecto liderado por España, con el objetivo de hacer frente a los crecientes retos que suponen las manifestaciones de racismo, xenofobia, islamofobia, antisemitismo y antigitanismo en el ámbito digital.

Esta iniciativa surge como respuesta a la necesidad de equipar a las autoridades y actores sociales con herramientas más efectivas y precisas en la identificación y respuesta de discursos de odio en internet, comunes en la actualidad.

Qué hace esta inteligencia artificial

Se brinda respuestas veraces ante mensajes de odio en redes sociales. (Foto: Sebastian Gollnow/dpa)
Se brinda respuestas veraces ante mensajes de odio en redes sociales. (Foto: Sebastian Gollnow/dpa)

El proyecto, denominado Real-Up, es coordinado por el Observatorio Español del Racismo y la Xenofobia (Oberaxe), adscrito al Ministerio de Inclusión, Seguridad Social y Migraciones, en colaboración con la Oficina Nacional de Lucha Contra los Delitos de Odio y las universidades de Barcelona y Valencia.

El equipo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén ha sido el encargado de desarrollar esta herramienta basada en tecnologías de procesamiento de lenguaje natural.

Su enfoque consiste en generar respuestas positivas, informativas y veraces a mensajes de odio, enfocadas en desmontar los argumentos discriminatorios de forma eficiente, a diferencia de las respuestas tradicionales que se limitan a eliminar o marcar el contenido ofensivo, una práctica que en ocasiones puede generar un efecto contraproducente.

Qué tan eficiente es esta IA

El análisis y respuesta ha presentado una efectividad alta y plantea una alternativa para controlar estos ataques. (Imagen ilustrativa Infobae)
El análisis y respuesta ha presentado una efectividad alta y plantea una alternativa para controlar estos ataques. (Imagen ilustrativa Infobae)

María Teresa Martín, catedrática de Informática y promotora del sistema, subrayó al medio de comunicación EFE, la eficacia de esta inteligencia artificial al generar debates de calidad superior en el 80% de los casos en comparación con las respuestas humanas, según un estudio que realizó.

Además, se ha desarrollado una aplicación por la doctora Rosa Elvira Lillo, que permite la identificación detalla de qué usuarios son los que generan contenido de odio en la red social X (antes conocida como Twitter) con una precisión notable, herramienta que promete ser de gran utilidad para las fuerzas de seguridad del Estado.

Asimismo, estos desarrollos tecnológicos representan un avance significativo en la lucha contra los delitos de odio en España y que se puede expandir a otras partes del mundo, ofreciendo a las autoridades y entidades sociales una metodología más eficaz y directa para combatir el odio en línea.

Este avance permite reducir los mensajes de violencia que reciben poblaciones como menores de edad o minorías. (Foto: Getty Images)
Este avance permite reducir los mensajes de violencia que reciben poblaciones como menores de edad o minorías. (Foto: Getty Images)

El potencial de integración de este sistema en las plataformas sociales abre nuevas perspectivas para transformar la manera en que se monitorea el ciberespacio y se protege a las víctimas de actos discriminatorios.

Cuál es el trasfondo de este problema

La iniciativa de la Universidad de Jaén y el conjunto del proyecto Real-Up se inscribe en un contexto europeo donde la necesidad de abordar el discurso de odio en Internet ha ganado preeminencia.

La presentación de este sistema ante la Comisión Europea no solo destaca el compromiso de España con la lucha contra el racismo y la xenofobia, sino que también posiciona al país como líder en la creación de soluciones innovadoras en el ámbito de la inteligencia artificial aplicada al bienestar social.

Esta acción también reduce el impacto de las rede sociales en la salud personal. (Imagen Ilustrativa Infobae)
Esta acción también reduce el impacto de las rede sociales en la salud personal. (Imagen Ilustrativa Infobae)

En este sentido, el proyecto Real-Up, con el sistema desarrollado por la Universidad de Jaén, representan un esfuerzo conjunto y multidisciplinario que promete marcar un antes y un después en la forma en que las sociedades contemporáneas enfrentan el desafío del discurso de odio en la era digital.

Del mismo modo, demuestra cómo la tecnología, cuando se aplica con fines sociales positivos, puede convertirse en un poderoso aliado en la construcción de una sociedad más inclusiva y respetuosa.

Guardar

Nuevo