Los artículos de noticias de Yahoo tienen muchos comentarios desagradables, al igual que el resto de Internet, por lo que el equipo de Yahoo decidió utilizar su sección de comentarios para desarrollar un algoritmo que pudiera identificar con éxito a los peores infractores. Su nuevo algoritmo de detección de abusos funciona el 90 por ciento del tiempo, lo que, según dicen, lo hace más efectivo que los intentos de otras organizaciones de asumir hazañas similares, y lo describe como un gran paso adelante en el campo. 90 por ciento lo hace suena bastante bien, lo admito.
Cableado informa que Yahoo también está lanzando la primera base de datos curada disponible públicamente de discursos de odio en línea como parte de su proyecto para combatir el abuso. Esto significa que otros sitios podrán utilizar la base de datos de comentarios de Yahoo para diseñar sus propios algoritmos. El algoritmo de Yahoo se desarrolló en base al aprendizaje automático y también a los datos informados por los usuarios sobre sus secciones de comentarios.
La parte más complicada de cualquier algoritmo de moderación de comentarios es lidiar con falsos positivos. Muchos algoritmos de detección de abusos buscan palabras o frases específicas, como difamaciones o insultos comunes, y marcan automáticamente los comentarios para moderarlos. Sin embargo, esto hace que los comentarios se marquen incluso si hacen referencia a un insulto en el contexto de decir que no es apropiado, por ejemplo, o si el comentario es una imitación sarcástica de un troll. El algoritmo de Yahoo aparentemente puede detectar ciertos patrones de habla y está diseñado para poder diferenciar entre el sarcasmo bromista y el abuso real. (Por supuesto, si su comentario hilarante es indistinguible del abuso real, entonces estoy bastante seguro de que el algoritmo aún lo marcará, pero no puedo decir con certeza cómo funciona esa parte de la IA).
Yahoo reclutó moderadores de comentarios capacitados para ayudar a perfeccionar el algoritmo, y también pagaron a algunos moderadores no capacitados, y descubrieron que los moderadores capacitados eran mucho mejores para determinar qué comentarios eran apropiados (una especie de obviedad, pero bueno). Durante la creación de la IA, Yahoo descubrió que el trabajo de estos moderadores humanos capacitados era esencial para mantener la eficacia del algoritmo y perfeccionar sus técnicas de detección.
Por supuesto, los algoritmos todavía tienen sesgos , lo que requeriría un equipo (con suerte diverso) de moderadores humanos para continuar iterando sobre las metodologías utilizadas para clasificar los comentarios. Parece un trabajo difícil, pero al menos Yahoo ahora comprende la importancia de capacitar y valorar los roles tanto de sus moderadores humanos bien capacitados como de su nuevo colega de inteligencia artificial.
jane austen santos fila 4
(vía La próxima web , imagen a través de Michael Cordedda / Flickr )
