Google y Jigsaw presentan 'Perspective', tecnología para identificar comentarios negativos y tóxicos en noticias

Así lo ha dado a conocer el presidente de Jigsaw, Jared Cohen, en el Blog Oficial de Google España, donde ha explicado que, a través de una API, editores (incluyendo los miembros Europeos de la Digital News Initiative) y desarrolladores, pueden acceder a esta tecnología y utilizarla en sus sitios web.

Respecto a su funcionamiento, Cohen ha detallado que 'Perspective' analiza los comentarios y los evalúa en base al parecido que tienen con los comentarios que las personas han indicado como tóxicos o que, probablemente, pueden hacer que alguien abandone una conversación.

De este modo, para aprender a detectar un lenguaje potencialmente tóxico, examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos, y cada vez que 'Perspective' encuentra nuevos ejemplos de comentarios tóxicos o recibe correcciones por parte de los usuarios, mejora su capacidad para evaluar los futuros comentarios.

Asimismo, ha explicado que los editores pueden decidir qué hacer con la información que reciben de 'Perspective'. Así, pueden marcar comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación; ofrecer herramientas para ayudar a su comunidad a entender el impacto de lo que escriben permitiendo, por ejemplo, que la persona que está escribiendo vea la toxicidad potencial de sus comentarios justo cuando los está escribiendo; permitir a los lectores clasificar los comentarios según su toxicidad, facilitándoles la búsqueda de grandes debates escondidos en conversaciones tóxicas.

"Hemos probado una versión de esta tecnología con The New York Times, en donde todo un equipo se encarga de examinar cuidadosamente y moderar cada uno de los comentarios, antes de que se publiquen, revisando hasta 11.000 comentarios cada día. Es una cantidad enorme, por lo que el Times solo ofrece la posibilidad de comentar en un 10% de sus artículos. Hemos colaborado con ellos para entrenar una serie de modelos que permitan a los moderadores del Times clasificar los comentarios con mayor rapidez, y esperamos trabajar con el Times para ayudarles a habilitar comentarios en más artículos, cada día", ha manifestado.