“Ho appena visto il documentario The Social Dilemma su Netflix: mi ha terrorizzato più di qualsiasi film dell’orrore visto negli ultimi vent’anni”. È il tweet pubblicato qualche giorno fa da George RR Martin e uno dei tanti commenti suscitati dal film indagine prodotto da Netflix, regia di Jeff Orlowski, tra i programmi più visti da quando è stato messo in onda lo scorso 9 settembre.

Scoprire che le piattaforme tecnologiche – considerate “ancore di salvezza” per rimanere in contatto con gli altri, cercare informazioni, fare acquisti, scoprire il miglior percorso stradale e in grado di fornire tante altre funzionalità utili – sono invece tecnologie che ci monitorano e ci controllano… può provocare questo tipo di repulsione.

Insomma, niente di nuovo, se non si registrasse un crescente e sempre più diffuso sentimento di ribellione, e in fasce sempre più ampie della popolazione.

Le ragioni le spiegano bene i qualificatissimi protagonisti del documentario, tra cui l’ex esperto di etica del design di Google Tristan Harris, l’informatico Jaron Lanier, l’ex direttore della monetizzazione di Facebook Tim Kendall, l’ex responsabile dell’ingegneria di Facebook Justin Rosenstein, il primo investitore di Facebook Roger McNamee e molti altri.

Il cambiamento che stanno imponendo le Big Company del settore IT è graduale, impercettibile, ma allo stesso tempo ordinato, ben orchestrato ed estremamente efficace, anche perché fondato su miliardi di dati che ogni minuto regaliamo inconsapevolmente a queste compagnie (dove siamo, cosa guardiamo, per quanto tempo osserviamo una foto, con chi ci relazioniamo, …).

E, come noto, con grandi moli di dati, si possono fare ottime previsioni.

In altri termini, per aumentare il coinvolgimento (leggasi, più tempo passato sul social network), quindi il numero di utenti (più amici, cioè user nello stesso social network), dunque più dati raccolti, queste tecnologie ci mostrano gli spunti e ci suggeriscono i contenuti ritenuti per noi più stimolanti, che non per forza sono però quelli davvero migliori.

Il rovescio della medaglia, quindi, ha un prezzo elevatissimo ed è rappresentato da quella specie di incantesimo in cui viviamo: una notifica sul nostro smartphone, il ranking con cui ci mostrano i risultati di una ricerca, l’elenco delle notizie del giorno, può polarizzare la nostra attenzione e quella di milioni di persone verso un determinato argomento a cui nessuno avrebbe mai pensato.

Insomma, in questo contesto regolato da manopole che qualcuno può girare a proprio piacimento influenzando il pubblico di massa, secondo Kendal “il modello di business pubblicitario”, quello che fa apparire la pubblicità giusta all’utente più adatto, è forse il più elegante tra quelli applicabili e applicati.

Lanier riporta un esempio molto interessante: immaginate, per assurdo, se Wikipedia, a seconda dell’utente, potesse cambiare le proprie definizioni per aumentare il coinvolgimento di chi sta navigando un determinato sito.

Un esempio può essere utile. Pensate di essere un BIG IT che deve massimizzare gli introiti pubblicitari, magari invogliando l’utente Mario all’acquisto di cibo spazzatura, orientereste Mario a leggere le patologie correlate alla elevata assunzione di acidi grassi?

E cosa mostrereste invece se, nello stesso momento, voleste promuovere un integratore “brucia grassi” a Luca, un vostro utente che avete profilato come dipendente dal “junk food” ma nello stesso tempo fortemente intenzionato a normalizzare i valori del suo colesterolo ed il suo peso?

La capacità di profilare le performance di processing, consentono di proporre ad ogni utente la risposta “perfetta”.

In pochi anni siamo passati da uno scenario in cui l’utente “usava” i dati resi disponibili da queste piattaforme, ad una realtà completamente ribaltata: sono le stesse piattaforme ad “usare” gli utenti.

Così, grazie all’impiego di intelligenza artificiale, questi sistemi profilano con precisione elevatissima ogni loro “user”.  E, grazie al nuovo paradigma, per l’algoritmo è più facile vendere, condizionare o influenzare.

Vi invitiamo quindi a dedicare 90 minuti del vostro tempo nella visione di The Social Dilemma.  Siamo sicuri che vi offrirà molti spunti di riflessione.  Come ad esempio:

1. “Se non state pagando qualcosa, non siete un cliente, siete il prodotto che stanno vendendo”, Andrew Lewis, giornalista.
2. I grandi BIG IT non vendono i nostri dati, ma i “modelli di comportamento e modelli previsionali” costruiti sulla base dei nostri dati.
3. Il problema non è la tecnologia, ma il suo possibile uso distorto che, come appare chiaro, le BIG IT non sono in grado di autoregolamentare.

Speriamo che la politica intervenga presto.