La nueva extensión Chrome tiene como objetivo hacer que la Web sea menos tóxica

Jigsaw, que es propiedad de la empresa matriz de Google Alphabet, lanzó Tune, una extensión experimental de Chrome que permite a los usuarios ocultar comentarios que sus algoritmos identifican como tóxicos, disponible para Mac, Windows, Linux y el sistema operativo Chrome.

Tune se basa en los mismos modelos de aprendizaje automático (ML) que potencian la API de Perspectiva de Jigsaw para clasificar la toxicidad de los comentarios. Los usuarios de esta aplicación pueden ajustar el volumen de los comentarios de cero a cualquier cosa que se desee.

Tune no pretende ser una solución para los objetivos directos del acoso, o una salida para toda la toxicidad, señaló el director de productos de Jigsaw, C.J. Adams. “Es un experimento para mostrar a la gente cómo la tecnología ML puede crear nuevas formas de empoderar a la gente a medida que leen los debates en línea”.

Tune funciona sólo para comentarios en inglés, en Facebook, Twitter, YouTube, Reddit y Disqus, los comentarios en otros idiomas se mostrarán arriba y se ocultarán debajo, un umbral que está predefinido.

El modelo ML de Tune es experimental, por lo que todavía omite algunos comentarios tóxicos y esconde incorrectamente algunos comentarios buenos. Los desarrolladores han estado trabajando en la tecnología subyacente, y los usuarios pueden dar su opinión en la herramienta para ayudar a mejorar sus algoritmos.

Cómo funciona Tune.

Tune forma parte del proyecto de investigación Conversation-AI y es completamente de código abierto, por lo que cualquiera puede examinar el código o contribuir directamente a él en Github.

"Cuanto más granulares sean las API y más abiertos los controles, mejores desarrolladores podrán ajustar los algoritmos de Inteligencia Artificial Conversacional para generar menos falsos positivos y falsos negativos", dijo Ray Wang, analista principal de Constellation Research.

Sin embargo, Tune requerirá una mayor cantidad de datos cada vez que se ajuste, los usuarios deben registrarse para poder acceder a la API de Perspectiva.

Los comentarios leídos no están asociados a las cuentas de los usuarios ni son guardados por Tune, se envían a la API de Perspectiva para la puntuación y luego se eliminan automáticamente.

Hay dos maneras de enviar comentarios: haciendo clic en About>Feedback, donde el ID de usuario de la cuenta se incluye en el informe de comentarios; o enviando una corrección a la puntuación de un comentario.

Correcciones, el texto y la respuesta del usuario se almacenan para la formación del sistema ML, pero el envío no está vinculado al ID del usuario.

Problemas con la libertad de expresión.

Al igual que con los intentos anteriores de gestionar o controlar los comentarios en línea, es probable que Tune desencadene un debate sobre la libertad de expresión.

La tecnología Tune "es una forma de abordar un problema real, y con el tiempo mejorará", sostuvo Doug Henschen, analista principal de Constellation Research, Tune pone el control en manos del individuo", "Los comentarios se siguen publicando y aunque no se limitan, los usuarios pueden optar por no verlos, es su derecho".

Con los bots y las fábricas de spam produciendo contenido falso, Tune "es la respuesta para recuperar algo de control y permitir la libertad de expresión", señaló Wang de Constellation, "también frenará a la gente que publica el mismo contenido varias veces en los comentarios".

La API de Perspectiva puede ser engañada a través del uso inteligente del lenguaje, pero Google resolvió algunos de los primeros problemas que surgieron.

Sin embargo, un grupo de investigadores publicó el verano pasado un artículo acerca de las técnicas de detección propuestas que podrían ser eludidas por los adversarios insertando automáticamente errores tipográficos, cambiando los límites de las palabras o añadiendo palabras inocuas, la recomendación fue utilizar características a nivel de personaje en lugar de características a nivel de palabra.

El modelo Tune ML es todavía inmaduro, así que se esperan ver muchos problemas como éste, dijo Enderle, sin embargo, una vez que se mejore, será capaz de hacerle frente a estos esfuerzos y evitará que la web sea menos tóxica.