Facebook, con i suoi 2 miliardi di utenti attivi, è il “secondo continente” del mondo (subito dopo l’Asia, che conta 4,5 miliardi di abitanti), ma la sua popolazione ha un trend di crescita decisamente più veloce (+0,94% l’Asia, +17% Facebook).

Ma ancora più rapidamente cresce la preoccupazione circa l’utilizzo del più famoso dei social network per fare proselitismo via web. Tra i tanti episodi allarmanti, la rivendicazione che un terrorista dell’ISIS ha postato in diretta su Facebook dopo aver ucciso due poliziotti (marito e moglie) nel nord-est di Parigi.

Facebook, per affrontare al meglio questa minaccia, ha costituito una vera e propria unità di controterrorismo. La sfida, infatti, è decisamente complessa (Facebook registra 500.000 nuovi post al minuto, scritti in oltre 100 lingue diverse) e richiede enormi investimenti in personale specializzato e tecnologie innovative.

Ai 4.500 dipendenti attualmente impegnati nel controllare i contenuti (già pubblicati) segnalati da altri utenti come “potenzialmente inneggianti al terrorismo”, presto se ne aggiungeranno altri 3.000.  Il processo di analisi è infatti molto articolato: tutti i post segnalati passano ad una prima verifica, quindi, se il contenuto risulta potenzialmente contrario alle policy di Facebook, un secondo team di specialisti compie ulteriori indagini per determinare se occorre procedere alla rimozione del post e dell’utente dal social network.

Parallelamente al potenziamento del team di analisti, centinaia di programmatori di Facebook stanno implementando un software di intelligenza artificiale in grado di filtrare e segnalare quelli sospetti tra tutti i contenuti pubblicati (quindi non solo tra quelli segnalati da altri utenti).

Finora i migliori risultati sono stati ottenuti nell’analisi automatica di foto e video. Facebook archivia puntualmente i “video e foto di propaganda” in un database: una preziose base di conoscenza che un software utilizza per analizzare (e nel caso eliminare) un contenuto (foto o video) appena pubblicato che trovi corrispondenza nell’archivio.

Molto più difficile risulta l’analisi del linguaggio naturale. Non basta identificare la presenza della “keyword” ISIS (o Al Qaeda o così via….)  all’interno di un testo (o di un audio) per etichettarlo come inneggiante al terrorismo. La realtà ci insegna infatti che vi sono milioni di utenti che postano messaggi di condanna, riportando (o linkando) contenuti che riportano fatti terroristici.

Più in generale, per le caratteristiche intrinseche del linguaggio (lessico, ambiguità, sarcasmo, gergalità, ecc.), comprendere il linguaggio naturale, oltre che per i software di intelligenza artificiale, rappresenta un problema anche per noi umani.

Gli esperti di linguista computazionale,  come esempio,  amano citare la frase “Buffalo buffalo, which Buffalo buffalo buffalo, buffalo Buffalo buffalo.” Grammaticalmente corretta ma poco comprensibile a causa del diverso significato del termine “buffalo” (Buffalo=città, buffalo=verbo intimidire o sbalordire, buffalo=bisonte).

La strategia obbligata, per Facebook e per gli organismi governativi (agenzie di intelligence e forze di polizia), non può dunque che prevedere un utilizzo combinato di tecnologie e capitale umano.

Servono i migliori software in grado di distinguere, con la maggior precisione possibile e più rapidamente dell’uomo, le situazioni nette (bianche o nere), mentre per le situazioni meno definite (le cosiddette aree grigie)  serve (e servirà ancora, almeno per qualche anno) la capacità umana di “distinguere la sfumatura”.

PS: La frase inglese citata sopra può essere tradotta cosi: « Bisonti di Buffalo che intimidiscono bisonti di Buffalo possono sconcertare [altri] bisonti di Buffalo o, ancora meglio, “I bufali di Buffalo, che intimidiscono bisonti di Buffalo, sconcertano (altri) bisonti di Buffalo” (Wikipedia.com)

Foto: Getty