Os artigos de notícias do Yahoo têm muitos comentários desagradáveis, assim como o resto da internet, então a equipe do Yahoo decidiu usar sua seção de comentários para desenvolver um algoritmo que pudesse identificar com sucesso os piores criminosos. Seus novo algoritmo de detecção de abuso funciona 90 por cento do tempo, o que eles dizem que o torna mais eficaz do que as tentativas de outras organizações de realizar feitos semelhantes, e descrito como um grande passo em frente no campo. 90 por cento faz parece muito bom, eu admito.
Com fio relata que o Yahoo também está lançando o primeiro banco de dados com curadoria disponível ao público de discurso de ódio online como parte de seu projeto de combate ao abuso. Isso significa que outros sites poderão usar o banco de dados de comentários do Yahoo para projetar seus próprios algoritmos. O algoritmo do Yahoo foi desenvolvido com base em aprendizado de máquina e também em dados relatados por usuários sobre suas seções de comentários.
A parte mais complicada de qualquer algoritmo moderador de comentários é lidar com falsos positivos. Muitos algoritmos de detecção de abuso procuram palavras ou frases específicas, como calúnias ou insultos comuns, e sinalizam automaticamente os comentários para moderação. No entanto, isso resulta em comentários sendo sinalizados mesmo que façam referência a um calúnia no contexto de dizer que não é apropriado, por exemplo, ou se o comentário for uma imitação sarcástica de um troll. O algoritmo do Yahoo aparentemente pode detectar certos padrões de fala e é projetado para ser capaz de dizer a diferença entre o sarcasmo jokey e o abuso real. (Claro, se o seu comentário hilário é indistinguível do abuso real, então tenho certeza que o algoritmo ainda vai sinalizá-lo, mas não posso dizer com certeza como essa parte da IA funciona.)
O Yahoo recrutou moderadores de comentários treinados para ajudar a aperfeiçoar o algoritmo e também pagou alguns moderadores não treinados, e descobriram que os moderadores treinados eram muito melhores em descobrir quais comentários eram apropriados (meio que um acéfalo, mas ei). Durante a criação da IA, o Yahoo descobriu que o trabalho desses moderadores humanos treinados era essencial para manter a eficácia do algoritmo e aperfeiçoar suas técnicas de detecção.
Claro, algoritmos ainda têm preconceitos , o que necessitaria de uma equipe (provavelmente diversa) de moderadores humanos para continuar a iterar as metodologias usadas para classificar os comentários. Parece um trabalho difícil, mas pelo menos o Yahoo agora entende a importância de treinar e valorizar os papéis de seus moderadores humanos bem treinados e de seu novo colega de IA.
julgamento por multa de estacionamento de combate
(através da The Next Web , imagem via Michael Cordedda / Flickr )
