Google en contra de los trolls: lanzó una herramienta para combatirlos

Viernes 24 de Febrero 2017

Google lanzó Perspective, una herramienta de inteligencia artificial pensada para medios de comunicación que, a partir de los comentarios de las notas, aprende a detectar de forma automática los mensajes que considere "irrespetuosos" y "tóxicos" -los que llevan a las personas a abandonar las conversaciones- con el fin de evitar el acoso online.
Se trata de una tecnología "que utiliza el machine learning para identificar los comentarios tóxicos", como se conoce a aquellos "que lleven a alguien a abandonar una conversación", explicó Jared Cohen, titular de Jigsaw, la startup de Google a cargo de la iniciativa.
 
La herramienta, que aún está "en su primera etapa de desarrollo", era probada por Wikipedia y los diarios The New York Times, The Guardian y The Economist, pero desde está disponible de forma gratuita para cualquier medio que la solicite, aunque por el momento solo funciona en inglés.
 
Su objetivo principal es limitar la incidencia de los llamados trolls en las conversaciones online, en particular en aquellas que se generan en los espacios para comentarios que usan los sitios de noticias, tal como como explicó Cohen.
 
"Imagina que intentas tener una conversación con tus amigos sobre las noticias que leíste esta mañana pero, cada vez que dices algo, alguien te grita en la cara o te dice un insulto o te acusa de algo que no hiciste. Probablemente abandonarías la conversación", explicó.
 
"Desafortunadamente esto pasa con demasiada frecuencia en el mundo online, ya que la gente trata de discutir ideas en las páginas web de noticias que les gustan, pero en lugar de eso terminar bombardeándose con comentarios tóxico", agregó.
 
En un posteo en el blog corporativo de Google, el directivo citó un estudio publicado en noviembre pasado por el instituto Data&Society para poner la problemática en números: el 72% de los usuarios de Internet en Estados Unidos alguna vez fue testigo de acosos en la web; casi la mitad (140 millones de personas) los sufrió alguna vez de forma directa; un tercio de los usuarios se autocensura en redes sociales por miedo a represalias.
 
Sin embargo, este problema "no impacta solo a los lectores" ya que los medios "quieren que se genere una buena conversación y discusión alrededor del contenido publicado pero intentar acabar con los trolls o contenido abusivo les quita mucho dinero, tiempo y trabajo. Como resultado, deciden en ocasiones cerrar los comentarios por completo".
 
Ese es el camino que en Estados Unidos siguieron numerosas publicaciones y diarios online, como USA Today, Popular Science, Recode o la la radio pública nacional (NPR), entre muchos otros.
 
La idea con este sistema de inteligencia artificial es que los sitios de noticias no deban llegar a ese extremo y puedan mantener las secciones de comentarios, con la ayuda de la tecnología.
 
Perspective funciona analizando los mensajes y evaluándolos en base "al parecido que tienen con los comentarios que las personas han indicado como 'tóxicos' o que, probablemente, pueden hacer que alguien abandone una conversación", detalló Cohen.
 
"Para aprender a detectar un lenguaje potencialmente tóxico, Perspective examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos", y cada vez que encuentra nuevos ejemplos de comentarios tóxicos o recibe correcciones por parte de los usuarios, "mejora su capacidad para evaluar los futuros comentarios", agregó.
 
Con esta información, ofrece a medios y plataformas de Internet la información detallada en un marcador que va de 0 a 100 en su grado de toxicidad, aunque son los propios medios los que deciden cómo usar la información que reciben.
 
"Por ejemplo, pueden elegir marcar comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación", permitir que "la persona que está escribiendo vea la toxicidad potencial de sus comentarios justo cuando los está escribiendo" e incluso "permitir a los lectores clasificar los comentarios según su toxicidad".
 
Por el momento, el sistema funciona en inglés, "pero a lo largo de los dos próximos años lanzaremos nuevos modelos que van a funcionar en otros idiomas", adelantó Cohen, y anunció que incorporará también "modelos capaces de identificar comentarios etiquetados como ataques personales o que no se ocupan del asunto que se debate".
Con información de minutouno

NOTA22.COM

Cuáles serán los empleos que desaparecerán más rápido ante el avance de la inteligencia artificial

El 39% de las competencias de los trabajadores se transformarán o serán irrelevantes para 2030

Un informe del Foro Económico Mundial anticipa los cambios que vienen en el mundo del trabajo.

La Tierra supera por primera vez el límite climático de 1,5 °C: ¿qué significa?

El umbral ha sido superado sólo por un año hasta ahora, pero la humanidad se está acercando al final de lo que muchos pensaban que era una "zona segura" a medida que el cambio climático empeora.

Cuántos días necesita el cerebro para lograr un descanso mental profundo en vacaciones

Diferentes estudios comprobaron que combinar el tiempo libre con ciertas actividades ayuda a relajarse, mejora el sueño y favorece el bienestar. Cuáles son las claves para volver renovados, según los expertos

Suscribite!
Y recibí las noticias más importantes!
NOTA22.COM
"LE HICIMOS EL CU--"
ESCÁNDALOSO FESTEJO EN LA CASA GRIS LUEGO DE LA SANCIÓN DE LA REFORMA

LO MÁS VISTO
Candidatos que no tienen idea de derecho constitucional
No se sabe qué proponen reformar ni si tienen dimensión de lo que implica un evento institucional de tamaña magnitud. Pero una enorme cantidad de dirigentes trabajan para quedar en el bronce estampados con el título de convencional.
Además de la reunión con Milei, el presidente electo de Venezuela habló con dirigentes clave de la diáspora venezolana. El plan para volver y prestar juramento y los riesgos que enfrenta. Infobae habló con Adriana Flores Márquez y Elisa Trotta sobre una semana decisiva para el futuro de la región
El aumento del 3,3% corresponde al primer bimestre del año y será abonado en dos tramos.
La Seccional Santa Fe de la Unión Docentes Argentinos expuso que "claramente esperamos la convocatoria a paritarias, pero más urgente es un cambio de visión sobre la educación, gestión y consideración hacia el mundo del trabajo del Gobierno de Santa Fe".

arrow_upward