Algoritmi e controllo: la distopia che è già tra noi

Il social credit cinese: la distopia diventata realtà

Dalla Cina arriva una notizia che dovrebbe farci riflettere. Sempre più comunità stanno sperimentando sistemi di social credit capaci di classificare i comportamenti dei cittadini, assegnando punteggi e sanzioni a chi scende sotto una certa soglia di “buona reputazione”.
Oggi si valutano infrazioni stradali, fumo nei luoghi vietati, acquisti considerati eccessivi, pubblicazione di notizie reputate false. Domani è facile immaginare cosa potrà essere incluso.

Secondo Channel News Asia, nove milioni di persone non possono acquistare biglietti aerei interni a causa di un punteggio basso.
Uno scenario identico a quello mostrato in una puntata di Black Mirror del 2016.
La fantascienza, ancora una volta, ha anticipato la realtà.

Il mito dell’“umanesimo digitale” e le nuove utopie tecnologiche

Mentre assistiamo al diffondersi di questi sistemi di controllo, continuiamo a sentire parlare di “nuovo umanesimo digitale”. C’è persino chi sostiene che dovremmo cominciare a riconoscere diritti ai robot, perché ormai capaci di comportamenti autonomi.
Un entusiasmo simile si ritrova nel transumanesimo, movimento in crescita nella Silicon Valley che sogna l’uomo ibridato con la macchina per sfuggire alla morte.

Eppure, prima ancora di parlare di diritti dei robot, dovremmo ricordare una semplice verità: la scienza dovrebbe servire l’uomo, non controllarlo.

La voce degli studiosi

Come afferma Stefania Bandini, direttore del Complex Systems & Artificial Intelligence Research Center della Bicocca:
“Viviamo tra la visione utopica dell’I.A. come strumento e quella distopica che ci mostra quanto possa diventare minacciosa. Occorre vigilare”.
E il punto è proprio questo: non stiamo vigilando abbastanza.

Controllo sociale e algoritmi che decidono al posto nostro

Il social credit cinese dimostra quanto velocemente l’I.A. possa essere usata per manovrare le persone.
E anche dove il controllo pare meno evidente, gli effetti degli algoritmi sono sotto gli occhi di tutti: sfruttamento commerciale dei dati, manipolazione delle scelte, erosione della privacy.

Alla domanda «Rinuncereste ai social network per proteggere la vostra privacy?» la maggioranza risponde «no».
La sorveglianza, quindi, resta.

Il rovescio del successo digitale

Il trionfo di Amazon è un caso di scuola: un modello straordinario per il consumatore, devastante per il lavoro. Le analisi di Quartz mostrano che i posti creati sono pochi e mal retribuiti.
Come ha scritto il Financial Times:
“Gli algoritmi garantiscono un controllo che nemmeno il più radicale Taylorista avrebbe potuto immaginare”.

Il nuovo proletariato digitale

Nelle catene logistiche, lo stipendio si aggira attorno ai 13 dollari l’ora per un lavoro simile a quello denunciato da Chaplin in Tempi Moderni.
Nella gig economy, i fattorini guadagnano due euro a consegna, con bici e motorino a proprio carico.

Di fronte a questo scenario la domanda diventa inevitabile:
lo sviluppo tecnologico è al servizio dell’uomo o solo dei pochissimi uomini sempre più ricchi che non hanno vincoli etici?

Purtroppo, quando si chiede di tracciare confini morali per scienza e tecnologia, si viene accusati di oscurantismo. Ma è davvero così folle chiedere equilibrio?

Un nuovo umanesimo sì, ma centrato sull’umano

Ben venga parlare di “umanesimo digitale”, ma solo se al centro resta l’essere umano.
Soprattutto ora che le previsioni distopiche della fantascienza si stanno avverando una dopo l’altra.

Tornare alle leggi di Asimov

Forse è arrivato il momento di rispolverare le tre leggi della robotica di Isaac Asimov, formulate negli anni Quaranta.
All’epoca sembravano un gioco intellettuale; oggi sono un’urgenza.
Se non vogliamo ritrovarci dentro una distopia non più immaginata, ma vissuta.