Google creó una herramienta anti “trolls”

Google lanzó Perspective, una herramienta que utiliza la inteligencia artificial para detectar comentarios ofensivos de las noticias de Internet. El gigante informático confirmó la necesidad de crear mayores medidas de seguridad en la red después de que el instituto de investigación Data Society publicase los resultados de un estudio (en inglés) en el que se indica que casi la mitad de los internautas ha sufrido acoso online.

Esta es una herramienta de código abierto gratuita para que cualquier editor o gestor de páginas web pueda utilizarla. Funciona sobre una base de datos con los que serían comentarios y expresiones ofensivas, a partir de donde se filtrarían las publicaciones que contengan alguno de estos elementos. Al estar en fase incipiente pueden darse ciertos errores, pero tal y como indican sus creadores, la herramienta funciona con la inteligencia artificial del aprendizaje automático (machine learning), por lo que cuanto más se utilice, más afinados serán los resultados.

«Perspective es una tecnología que utiliza el aprendizaje automático (‘machine learning’) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que llevan a alguien a abandonar una conversación», explicó en conferencia telefónica el responsable de la iniciativa, Jared Cohen.

En base a estas informaciones, esta herramienta, envía alertas a los usuarios destacando los «comentarios tóxicos» para que ellos puedan decidir si excluyen estas publicaciones, si las clasifican en alguna categoría específica o si crean un aviso para prevenir a los trolls de que sus palabras podrían ser ofensivas. Esta medida se suma a la misión de seguridad en la red que Google está llevando a cabo con mayor énfasis en los últimos meses, en la que ya anunció que ocultaría de su buscador los contenidos que no cumpliesen con el copyright legalmente establecido.

«Un número de individuos están dificultando la discusión civilizada y dinámica en las secciones de comentarios de plataformas y medios, lo que lleva a que mucha gente abandone la conversación. Muchos medios han terminado cerrando esas secciones», comunicó Cohen.

“Desafortunadamente esto pasa con demasiada frecuencia en el mundo online, ya que la gente trata de discutir ideas en las páginas web de noticias que les gustan, pero en lugar de eso terminar bombardeándose con comentarios tóxicos», finalizó.

Clara Fernández Herrerías

Periodismo gráfico y radial, Bahía Blanca.