Google lanza una herramienta para filtrar comentarios ofensivos

28 Feb
2017
Google presenta su filtro Perspective

Aunque fomentar la interacción con los usuarios en las redes sociales es uno de los objetivos prioritarios de las empresas dentro de su estrategia de marketing digital, esta práctica puede llegar a tener un efecto boomerang de sobras conocido: la publicación de insultos y comentarios ofensivos. Y a pesar de que algunos fabricantes de software han tratado de poner remedio a este problema, ahora es Google quien ha decidido tomar cartas en el asunto.

Por desgracia, son tan habituales como los likes o las publicaciones compartidas. Nos referimos a los comentarios con los que troles, haters y usuarios que no andan especialmente sobrados de educación deciden adornar de la peor manera posible algunas publicaciones en blogs y otros medios sociales, como Facebook, Twitter o Instagram. Cuando esto sucede, a los community managers no les queda otra opción que emplearse a fondo para borrar los comentarios fuera de lugar, si bien no siempre es posible hacerlo de forma inmediata.

¿El resultado? Una situación que nos es familiar: perfiles corporativos llenos de palabras malsonantes e irrespetuosas que, además de resultar hirientes para las personas, también pueden incidir negativamente en la imagen de marca (branding) de la empresa.

Por esta razón, son muchos los editores que ya han optado por eliminar la sección de comentarios por completo, en lugar de intentar moderarlos. Para poner freno a este escenario, el gigante de Mountain View ha puesto en marcha una solución destinada a acabar con estos abusos.

 

¿Cómo funciona Perspective?

Google acaba de anunciar la creación de Perspective, una herramienta que permite filtrar los comentarios dañinos en Internet, y puede integrarse en cualquier plataforma de publicación que incluya un apartado de comentarios.

Nacido en la incubadora de Jigsaw, el laboratorio de ideas de Alphabet —el antiguo Google Ideas—, Perspective recurre a la tecnología de aprendizaje automático (machine learning) de Google, Tensorflow, basado en la inteligencia artificial.

El funcionamiento de Perspective es sencillo: la herramienta analiza los comentarios vertidos por los usuarios y detecta el grado de toxicidad de las conversaciones. Para cuantificarlo, ofrece a los medios sociales una cifra que va del 0 al 100. Sin embargo, Jared Cohen, el responsable del proyecto, advierte que deben de ser las empresas quienes decidan qué uso quieren dar al mismo. Por ejemplo, son las propias organizaciones quienes tendrán que decidir a con qué puntuación tendrá que hacerse una revisión manual de los comentarios, o a partir de qué número se filtrarán automáticamente.

El algoritmo compara los comentarios que está analizando con otros que previamente han sido etiquetados como tóxicos. Por eso, cuanto mayor sea el volumen de información con el que trabaje, mayor será su nivel de precisión. Asimismo, también dispone de un sistema para rectificar las evaluaciones equivocadas.

Sin embargo, Cohen ha alertado de que esta herramienta se encuentra aún en sus “primeros días” y que todavía está “muy lejos de ser perfecta”. En cualquier caso, también adelanta que Perspective irá mejorando a medida que vaya incrementándose la cantidad de datos que maneje.

Hasta la fecha, el algoritmo de esta solución se ha probado con los comentarios online de tres diarios anglosajones de prestigio —The New York Times, The Guardian y The Economist— y la Fundación Wikimedia, responsable de Wikipedia.

 

Totalmente gratuito y ya disponible

Desde finales de este mes, cualquier plataforma o medio social ya puede usar Perspective de manera totalmente gratuita, integrando esta interfaz de programación de aplicaciones (API) en su plataforma de publicaciones. Por el momento sólo es válida para los comentarios en inglés, si bien Google “aspira” a ampliar progresivamente el número de lenguas.

Asimismo, la firma de Palo Alto cree que, conforme vaya mejorando en su funcionamiento, Perspective podrá identificar ataques directos y temáticas que no tengan relación con el tema de la publicación sobre la que se está debatiendo. De este modo, se podrán filtrar enlaces buscan hacer linkbuilding de manera abusiva.

No obstante, Google no es la única compañía que trata de detener el lenguaje violento en la Red. Sin ir más lejos, Twitter también se ha subido al carro de la lucha contra los troles y los excesos en el lenguaje abuso: por ejemplo, poniendo trabas a los usuarios con cuentas suspendidas en el momento de abrirse un nuevo perfil. Asimismo, Instagram ha introducido recientemente filtros contra la intimidación y provocación, mientras que Facebook se esfuerza en perseguir las amenazas y las incitaciones al odio en su muro.

 

Filtro de comentarios tóxicos

¿Necesitas ayuda para tu estrategia de SEO?

Enfrentarse a los comentarios ofensivos es sólo una de las muchas caras de una acción tan compleja como la gestión de las redes sociales. Si necesitas ayuda para poner en marcha tu estrategia en social media o mejorarla, escríbenos o llámanos al (+34) 93 532 93 78. En B2 Performance, tu agencia de marketing digital en Barcelona, te orientaremos sin ningún compromiso por tu parte para que puedas sacarle el máximo partido a tu estrategia online. ¡Te esperamos!

Google lanza una herramienta para filtrar comentarios ofensivos
5 (100%) 1 vote

Cèlia Roca Martín
author

Leave a reply

Your email address will not be published. Required fields are marked *