Las plataformas defienden sus medidas (IA y humanas) para desterrar los contenidos de odio

Madrid, 11 mar (EFE).- Representantes de algunas de las grandes plataformas tecnológicas (Google, TikTok o Meta) han defendido hoy las 'buenas prácticas' que están implementando para evitar la proliferación de contenidos de odio, y han destacado la importancia cada vez mayor de la inteligencia artificial para detectarlos, pero también la de los moderadores y los verificadores humanos.

Todos han incidido en que son ellos los primeros interesados en que las redes y las plataformas sean lugares "seguros" en los que la experiencia de navegación resulte satisfactoria y positiva para los usuarios, y han defendido con cifras el elevado porcentaje de contenidos "de odio" o la desinformación que son capaces de detectar y eliminar.

Lo han hecho durante una mesa redonda sobre tecnología, plataformas y buenas prácticas para conocer las medidas proactivas de moderación que tienen estas empresas para evitar que el odio se propague sin control por las redes sociales, programada en el marco del Foro contra el Odio, que ha sido inaugurado por el presidente del Gobierno, Pedro Sánchez, y ha reunido en Madrid a varios ministros, responsables de plataformas digitales, expertos y afectados por los discursos de odio en las redes sociales.

En la mesa redonda que la jornada ha dedicado a analizar las 'buenas prácticas' que adoptan algunas compañías han intervenido Miguel Escassi, director de Relaciones Institucionales y Políticas Públicas de Google; Ana Abade Sénior, responsable de Relaciones Institucionales de TikTok para España y Portugal; José Luis Zimmermann, director de Políticas Públicas de Meta para España y Portugal; y Tomás Fernández, director del Observatorio contra el Racismo y la Xenofobia (OBERAXE).

Los ponentes han defendido las "normas de comunidad" que rigen en sus redes o plataformas para tratar de que la navegación de los usuarios resulte "amable", y la importancia de los moderadores o verificadores "humanos" que complementan y completan las capacidades de la inteligencia artificial, así como los límites que están perfectamente delimitados en el Código Penal.

El representante de Meta (Facebook e Instagram) ha subrayado la importancia de la colaboración entre todos los agentes implicados, y ha valorado en ese sentido la cooperación durante los últimos años con el OBERAXE, y ha puesto sobre la mesa los datos que demuestran la muy baja prevalencia en las redes de esta empresa de los discursos y los mensajes de odio, que ha calificado de "mínimo".

Ana Abade Sénior (TikTok) ha incidido en que la autenticidad y la seguridad son los pilares sobre los que se sustenta el entretenimiento que pretenden las redes, ha defendido la necesidad de proteger, empoderar y enseñar a los usuarios a manejarse con confianza y seguridad en las mismas, y ha subrayado la figura de los 'moderadores humanos' que trabajan en esta red para discernir los contenidos, que se suman a las herramientas de IA.

En el mismo sentido, Miguel Escassi, de Google (propietaria también de Youtube), ha valorado las 'buenas prácticas' que tienen en marcha las plataformas para evitar la proliferación de contenidos inapropiados, ha señalado que estas "no son infalibles", y ha defendido la importancia de retirar contenidos, de hacer recomendaciones o de reducir la visibilidad de los que se consideren menos apropiados.

Los ponentes han valorado la elevada eficacia que está demostrando ya la inteligencia artificial para detectar los contenidos de odio o la desinformación, lo que sumado a la intervención humana (moderación y verificación) está reduciendo al mínimo la eficacia de los contenidos inapropiados, y han coincidido en que son las redes y las plataformas los primeros interesados en que no circulen por ellas contenidos falsos, de mala calidad o no fiables y en que predominen las fuentes más fiables y autorizadas. EFE