AI still can't moderate a hate speech

But scientists have learned to identify where the system is failing.

, - . . . MIT Technology Review HateCheck.

, . . , . -.

. , . , . 29 , , , . , . .

18

. , . 18 , . , .

11 , , . :

• ;

  
  
  
  
  

• , (. . — .. «»);

  
  
  
  
  

• (« »).

  
  
  
  
  

29 «» , « []» « []».

, . HateCheck. 4000 .

: Perspective API Google Jigsaw SiftNinja Two Hat. . , Perspective Reddit, , The New York Times Wall Street Journal. , .

SiftNinja , . Perspective . 18 , . , Google. — - , , .

- . , . , , . « , », — , .

, - Jigsaw, , Perspective , - . . Jigsaw , . , , , , .

, . « , , . , », — . HateCheck .

. « », — , . « ».

, , . , - . « HateCheck », — .

: 

Madrobots

• , ,

  
  
  
  
  

• 
  
  
  
  

• ,

  
  
  
  
  

***

  Madrobots  5% . : HABR