El plan de Google para terminar con los comentarios tóxicos y el acoso online

(IStock)
(IStock)

"Perspective es una tecnología que utiliza el aprendizaje automático (machine learning) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que llevan a alguien a abandonar una conversación", explicó en conferencia telefónica el responsable de la iniciativa, Jared Cohen.

El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el "acoso en línea y la creciente toxicidad de las conversaciones en la red".

"Un número de individuos está dificultando la discusión civilizada y dinámica en las secciones de comentarios de plataformas y medios, lo que lleva a que mucha gente abandone la conversación. (…) Muchos medios han terminado cerrando esas secciones", añadió Cohen.

El directivo es presidente de Jigsaw, el laboratorio de ideas de Alphabet —antes conocido como Google Ideas— que ha sido el responsable del desarrollo de este proyecto de inteligencia artificial, que se sustenta en la tecnología de aprendizaje automático de Google, Tensorflow.

(iStock)
(iStock)

Perspective analiza los comentarios y detecta el grado de toxicidad de las conversaciones y les ofrece a medios y plataformas de internet la información detallada en un marcador que va de cero a cien.

Cohen matizó que son los medios los que tienen que decidir cómo usarán ese marcador: por ejemplo, para detectar los comentarios que deben ser revisados a mano, para mostrar a los lectores ese grado de toxicidad o bien permitirles que filtren los comentarios en función del nivel que están dispuestos a tolerar.

¿Y cómo sabe el algoritmo qué comentarios son tóxicos? El algoritmo compara los comentarios analizados con otros que anteriormente fueron categorizados como tóxicos. También dispone de un sistema que permite que se corrijan evaluaciones erróneas. Cuanta más información maneje, más atinado será su juicio.

Cohen subrayó que Perspective está en "sus primeros días" y "muy lejos de ser perfecto", pero que irá mejorando a medida que disponga de más datos para entrenar su precisión.

La tecnológica ya ha probado el algoritmo con The New York Times, The Guardian, The Economist y la Fundación Wikimedia, responsable de la Wikipedia.

Cualquier medio o plataforma de internet puede utilizar Perspective de forma gratuita —a través de una API—, aunque por el momento solo existe un modelo para el idioma inglés.

En el futuro, a medida que editores de otras lenguas se sumen al proyecto, la "aspiración" de Google es ir ampliando el rango de idiomas disponibles. También esperan que a lo largo del año Perspective evolucione y sirva para detectar en los comentarios ataques directos y temas que no tienen nada que ver con la discusión en marcha.

LEA MÁS:

(@NASA)
(@NASA)

Últimas Noticias

La verdad detrás de la supuesta compra del Cruz Azul por el hijo de López Obrador

En un comunicado oficial el celeste dejó en claro que no está a la venta ni lo estará próximamente.

La Policía canadiense incautó más de una tonelada de drogas proveniente de México

La Policía de Toronto anunció este martes la desarticulación de una organización criminal que durante los pasados seis meses transportó desde México a Canadá más de una tonelada de narcóticos, en la que es la mayor aprehensión de droga de la historia de esta ciudad canadiense.

Afganistán: HRW denunció la detención y tortura de niños por su presunta relación con los talibán y el Estado Islámico

Los niños son retenidos a menudo en instalaciones militares y se les obliga a firmar documentos que no entienden, incluidas confesiones, son imputados por “delitos de terrorismo” y pueden llegar a ser sentenciados a penas de hasta 15 años de cárcel

“Los deja moribundos”: la contracara del Gol del Siglo de Diego Maradona relatado por un periodista inglés en el Mundial de México

La poesía que improvisó Víctor Hugo Morales durante la mejor obra que la historia del deporte ha podido construir en el estadio Azteca es uno de los patrimonios culturales más admirados del planeta. Sin embargo, lo que no se popularizó fue la narración de los cronistas europeos ¿Cómo fue narrado el tanto del Diez por los británicos?

La foto que confirmaría un nuevo romance de Aislinn Derbez

La actriz viajó a Guatemala para hacer senderismo en compañía de tres hombres, pero ¿quén habría ganado el corazón de la actriz?
MAS NOTICIAS