Google y Jigsaw presentan Perspective, una tecnología que identifica comentarios tóxicos en conversaciones en la Red

Un 72% de los usuarios de Internet en Estados Unidos ha sido testigo de acosos en la Red y casi la mitad los ha sufrido directamente en algún momento, según el instituto de investigación Data&Society. Asimismo, casi un tercio de los usuarios se autocensura cuando envía mensajes en redes sociales, por miedo a ser objeto de represalias.

De acuerdo con el mismo estudio, el acoso 'online' ha afectado a más de 140 millones de personas en Estados Unidos y muchas otras, en el resto del mundo. Se trata, además, de un problema que no afecta solo a los lectores.

Las organizaciones de noticias quieren que se genere una buena conversación y discusión alrededor del contenido publicado pero intentar acabar con los 'trols' o contenido abusivo les quita mucho dinero, tiempo y trabajo. Como resultado, deciden en ocasiones cerrar los comentarios por completo, como indican desde Google en un comunicado.

Google y Jigsaw están dando un primer paso en la lucha contra los 'trols' con Perspective. Esta tecnología analiza los comentarios y los evalúa basándose en el parecido que tienen con los comentarios que las personas han indicado como 'tóxicos' o que, probablemente, pueden hacer que alguien abandone una conversación.

Para aprender a detectar un lenguaje potencialmente tóxico, Perspective examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos. Cada vez que Perspective encuentra nuevos ejemplos de comentarios tóxicos o recibe correcciones por parte de los usuarios, mejora su capacidad para evaluar los futuros comentarios.

Los editores pueden decidir lo que desean hacer con la información que reciben de Perspective. Por ejemplo, pueden elegir marcar comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación. O incluso podrían permitir a los lectores clasificar los comentarios según su toxicidad, facilitándoles la búsqueda de grandes debates escondidos en conversaciones tóxicas.

Perspective se une a la biblioteca de código abierto TensorFlow y a la plataforma de Cloud Machine Learning, como uno de los nuevos recursos de 'machine learning' que Google ha puesto a disposición de los desarrolladores.