Google presentó este jueves una nueva herramienta para que los medios de comunicación puedan detectar de forma automática aportes “tóxicos” u ofensivos en la sección de comentarios de sus páginas web.
Perspective utiliza inteligencia artificial para detectar los insultos que llevan a otras personas a abandonar una conversación, dijo Jared Cohen, fundador y presidente de Jigsaw.
"El desafío actual es crear una buena conversación en Internet. Hay muchísima gente tratando de entablar debates en las secciones de comentarios de las páginas web, pero terminan marchándose por culpa de otra gente".
De este modo, Perspective busca combatir el "acoso en línea y la creciente toxicidad de las conversaciones en la red".
"Muchos individuos están dificultando la discusión civilizada en las secciones de comentarios de los medios, lo que lleva a que mucha gente abandone la conversación (…) Muchos medios han terminado cerrando esas secciones", añade Cohen.
Y es que de acuerdo con el estudio “Acoso online y abuso digital” del Instituto de Investigación Data Society, el 47% de los usuarios de Internet en Estados Unidos ha sufrido acoso. Un 72% ha sido testigo de este abuso. Y casi un tercio se autocensura a la hora de poner un mensaje, por miedo a las consecuencias.
Ante este panorama, el buscador más usado en el mundo ha querido que la nueva aplicación pueda ser utilizada de forma gratuita por cualquier editor y desarrollador de contenido, ya que es de código abierto, aunque actualmente sólo está disponible en inglés.
En cuanto a su funcionamiento, el algoritmo analiza los comentarios escritos en los sitios web y detecta el grado de toxicidad de las conversaciones, ofreciéndole a medios y plataformas de Internet la información detallada en un marcador que va de cero a cien.
Después, según relata Cohen, los editores podrán marcar los comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación o permitir que los usuarios vean la toxicidad potencial de su comentario cuando lo están escribiendo.
"Estamos ofreciendo la posibilidad de mejorar y según los datos que manejamos ni a los editores ni a los usuarios les gustan estos comentarios insultantes", concluyó.
(Con información de El País)
cdr
