I riferimenti potrebbero aver confuso gli algoritmi di intelligenza artificiale 'addestrati' per rilevare il razzismo e altri discorsi di incitamento all'odio
"Il bianco attacca il nero" e YouTube blocca il canale. Peccato che si parlasse di scacchi. E' accaduto al giocatore croato Antonio Radic, conosciuto con lo pseudonimo online Agadmator, proprietario del canale di scacchi YouTube più famoso al mondo, con oltre 1 milione di iscritti. Il blocco è durato solo 24 ore e secondo uno studio riportato dall’Independent, i riferimenti al bianco e al nero dei video potrebbero aver confuso gli algoritmi di intelligenza artificiale 'addestrati' per rilevare il razzismo e altri discorsi di incitamento all'odio.
Ad indagare sul problema tecnico dell'IA sono stati gli informatici Ashique R. KhudaBukhsh e Rupak Sarkar della Carnegie Mellon University. "Non sappiamo quale strumento venga usato da YouTube mae si affidano all'intelligenza artificiale per rilevare il linguaggio razzista, questo tipo di incidente può accadere", ha spiegato KhudaBukhsh.
Nel sistema di moderazione di YouTube, secondo lo studio, qualsiasi sistema di intelligenza artificiale potrebbe interpretare erroneamente i commenti se non programmato correttamente a comprendere il contesto.
Per dimostrare questa teoria, i due ricercatori hanno utilizzato un software vocale all'avanguardia per selezionare più di 680.000 commenti raccolti da cinque popolari canali YouTube dedicati agli scacchi. Dopo aver esaminato una selezione di 1.000 commenti che erano stati classificati dall'intelligenza artificiale come incitamento all'odio, hanno scoperto che l'82% di essi era stato classificato erroneamente a causa dell'uso di parole come "nero", "bianco", "attacco" e "minaccia", tutti comunemente usati nel linguaggio degli scacchi. Il documento è stato presentato questo mese alla conferenza annuale dell'Association for the Advancement of AI.
