Controllo sociale 4.0

Mentre le ambizioni geopolitiche della Cina attirano la maggior parte dell'attenzione mondiale, le politiche interne del Partito Comunista Cinese (PCC) vengono attuate relativamente inosservate. Allo stesso modo, sta diventando chiaro che anche la Cina sta subendo una totale trasformazione internamente: entro il 2020, il PCC ha previsto di introdurre sistemi digitali per il controllo sociale su tutto il territorio nazionale.

Attraverso i sistemi di credito sociale (SKS) – alcuni dei quali già operativi – l'obiettivo è quello di creare un punteggio per ogni cittadino cinese in base al suo comportamento. Per calcolarlo viene utilizzata un'enorme quantità di dati: pratiche di pagamento, fogli di carta, abitudini di acquisto, ricerche e messaggi su Internet, nonché comportamento sociale generale. La conformità porta a ricompense come buoni termini di credito, promozioni e tempi di elaborazione ridotti nei controlli di sicurezza. Al contrario, un comportamento indesiderato può comportare una punizione. Gli SKS hanno accesso a una serie di banche dati private e statali.

Sistemi di punteggio digitale

Nel 2014, il PCC ha consentito a otto fornitori di servizi privati ​​di sviluppare i propri sistemi di punti digitali. Tutti i sistemi utilizzano algoritmi e intelligenza artificiale (AI) per calcolare punti e posizioni attraverso processi automatici. Allo stesso tempo, il PCC ha iniziato a installare sistemi di punti statali in "zone speciali" selezionate. Quando gli SKS diventeranno obbligatori in tutta la Cina tra un paio d’anni, l’idea è che tutti i cittadini cinesi, così come le aziende, avranno accesso al proprio account centralizzato dove verranno archiviati i loro punteggi. Il PCC promuove la SKS come una pietra miliare sulla strada verso una “società socialista armoniosa”. Ufficialmente i sistemi di punti mirano a modernizzare l'amministrazione e a promuovere la fiducia all'interno della società, nonché tra le autorità, la popolazione e l'economia. Tuttavia, il potenziale intrinseco dei sistemi può far sì che essi siano percepiti come mezzi di controllo sociale. Solo nel 2014 – il primo anno di SKS – in Cina si sono verificate circa 90 rivolte, ufficialmente descritte come “incidenti di massa”, con una media di 000 al giorno. Da allora i numeri non hanno fatto altro che aumentare.

Mezzi di controllo sociale

Per affrontare queste turbolenze, la Cina sta attingendo alla sua storia millenaria di centralizzazione statale e burocrazia. I sistemi di controllo legittimati dal confucianesimo furono parzialmente trasferiti nell'organizzazione leninista della Repubblica popolare. Questi includevano Hukou – un sistema di registrazione delle famiglie e la loro iscrizione in unità sociali note come Danwei – in cui ciascuna unità monitorava i propri membri e registrava le informazioni in protocolli politici (Dang'an). Queste strutture determinavano le promozioni, l’adesione ai partiti e persino il matrimonio. Dopo la morte di Mao Zedong, alcuni di questi sistemi di controllo sociale hanno perso importanza a causa dei cambiamenti politici avvenuti nel periodo delle riforme. Allo stesso modo, la propaganda statale è diventata più importante dopo il 1989. Con l’SKS, la Cina entra in una nuova fase della politica di controllo e sorveglianza in cui il PCC combina il potenziale dei metodi di sorveglianza analogici e digitali, con la propaganda e sottili forme di disciplina. Lo sviluppo di Internet e della tecnologia mobile come gli smartphone e le tecnologie integrate – orologi e occhiali intelligenti – ha fornito ai servizi di sicurezza e ai dipartimenti di propaganda nuovi mezzi di sorveglianza e influenza.

Allo stesso tempo, il PCC trae profitto dall’unicità dell’Internet cinese. Non solo il web è soggetto a una regolamentazione severa; L'accesso a Internet è limitato dal "firewall cinese". Internamente, "Golden Shield" è il mezzo principale per monitorare l'attività online. Una parte importante di questa è "l'Agenzia per l'informazione del pubblico e il monitoraggio della sicurezza della rete", che in forma abbreviata viene spesso chiamata "l'Agenzia per il monitoraggio della rete". Ci sono anche una serie di altri dipartimenti governativi, ministeri e autorità responsabili del monitoraggio della rete. Oltre a una serie di agenti di polizia e ispettori appositamente formati assunti dal settore privato, i sistemi di intelligenza artificiale vengono utilizzati per setacciare Internet alla ricerca di qualsiasi dichiarazione critica nei confronti del regime. Inoltre, nei forum online è attivo un intero esercito di commentatori fedeli al regime, conosciuto colloquialmente come il "partito degli anni Cinquanta" (五毛党). Sono accusati di cercare di influenzare il dibattito pubblico a sostegno del PCC.

Lo spionaggio si estende dalla valutazione delle informazioni creditizie alle indagini di
comportamento dei consumatori attraverso programmi fedeltà e dai servizi di noleggio di biciclette e auto alle piattaforme di campagne politiche.

I giganti del web cinesi: Baidu, Alibaba og Tencent. Sin da quando è stata concepita Internet, il PCC l’ha vista come una forma di comunicazione che deve essere controllata. Tuttavia, la censura statale non mira a sopprimere completamente i commenti critici nei confronti del regime. Piuttosto, il Partito Comunista Cinese sta cercando di impedire che le campagne collettive su larga scala giungano a buon fine. Allo stesso tempo, come nel caso della censura in generale, molte delle misure di controllo cinesi possono essere aggirate, almeno parzialmente. La Cina presenta quindi un panorama online relativamente eterogeneo. Questo panorama è altrettanto completamente diverso da quello che abbiamo in Occidente. Poiché il web cinese è in gran parte tagliato fuori dal World Wide Web, non è nemmeno dominato dai giganti del web statunitensi. Hanno invece preso forma strutture commerciali distintive. Le tre aziende più grandi – Baidu, Alibaba e Tencen – sono conosciute con la denominazione BAT. Non solo forniscono l’infrastruttura per i sistemi di controllo sociale, ma sono anche in prima linea nello sviluppo dell’intelligenza artificiale a livello mondiale.

Tutte e tre le società hanno accesso a enormi riserve di dati. Il motore di ricerca del colosso Baidu è anche responsabile della gestione della più grande enciclopedia online cinese e del servizio di pagamento Baidu Pay. Alibaba, la società conosciuta in Occidente come "AliExpress", è a sua volta il principale attore delle vendite online in Cina. Alimenta anche una popolare piattaforma cliente-cliente, Taobao Wang, che viene utilizzata da circa 470 milioni di persone al mese. Inoltre, Alibaba possiede circa un terzo della piattaforma di microblogging più popolare della Cina, Sina Weibo, utilizzata da circa 380 milioni di persone al mese. Il gruppo di servizi finanziari dell'azienda abbraccia anche il sistema di credito sociale Sesame Credit e la popolare app di pagamento Alipay. L'anno scorso il gruppo Alibaba ha registrato un fatturato di circa 8,3 miliardi di dollari USA. Dal 2016 è proprietaria anche del quotidiano di Hong Kong South China Morning Post.

La terza società del gruppo, Téngxùn, è conosciuta in Occidente come Tencent. Tra i giocatori, è da anni un nome familiare al di fuori della Cina grazie alla sua partecipazione in società di videogiochi. Inoltre Tencent possiede anche azioni del popolare social media mondiale Snapchat, ma molto meno conosciuto. Altri servizi sono QQ e WeChat: con quasi 900 milioni di utenti attivi, QQ è il servizio di messaggistica più popolare in Cina, mentre WeChat è un servizio di messaggistica per smartphone che raggiunge circa un miliardo di persone in tutto il mondo. Con la funzione WeChat Pay, WeChat diventa anche un'app di pagamento utilizzata in tutta la Cina.

(Meta)dati e altre tracce digitali

Per gli utenti internet cinesi questi servizi fanno parte della vita di tutti i giorni. Circa il 95% degli utenti naviga online tramite dispositivi mobili, alcuni anche con un PC. Come altri utenti di Internet, lasciano un gran numero di tracce digitali – dettagli personali e dati sulle loro abitudini online – che vengono poi raccolti e valutati sia dallo Stato che dagli attori commerciali, che possono quindi identificare, classificare e classificare i diversi utenti. Questi dati costituiscono la base per lo SKS e il calcolo dei punti. Il calcolo dei punti viene effettuato utilizzando algoritmi e intelligenza artificiale, un processo non visibile agli utenti. I sistemi digitali hanno altre due caratteristiche particolarmente rilevanti per i sistemi di controllo sociale: da un lato, i dati memorizzati possono essere copiati e venduti un numero infinito di volte; d’altronde i sistemi digitali non dimenticano mai. Inoltre gli SKS cinesi creano sistemi ibridi: incorporano nelle valutazioni dati digitali e analogici, cioè registrano non solo il comportamento online, ma anche ciò che viene fatto al di fuori della rete. Ciò è reso possibile attraverso un maggiore utilizzo di fotocamere “intelligenti” che riconoscono i volti negli spazi pubblici. L’integrazione della sorveglianza analogica e digitale è particolarmente avanzata nella provincia a maggioranza musulmana dello Xinjiang, dove anche il numero di “incidenti di massa” è sorprendentemente elevato.

Credito di sesamo di Alibaba

Il sistema Sesame Credit di Alibaba fornisce un buon esempio di come vengono calcolati i punti. Come le aziende occidentali, Alibaba filtra grandi quantità di dati dai suoi utenti, poiché i suoi servizi SoMe forniscono informazioni sui loro stati d'animo, preferenze e chi è "amico" di chi. Vengono raccolti in dettaglio anche i dati relativi agli ordini di prodotti e all'interazione con vari annunci pubblicitari sul web. Altrettanto importanti sono i processi di pagamento e le ricerche su Internet, che sono supportate da metadati sulle pagine visitate e dati dinamici. Lo scoring viene poi effettuato su cinque aree: la storia creditizia dell'utente, la sua liquidità, le sue generalità, le sue abitudini e modelli di comportamento e i suoi contatti SoMe. Il punteggio più basso nel sistema Sesame Credit è 350, mentre il punteggio massimo è 950. Il punteggio odierno premia particolarmente bene l'acquisto di prodotti Alibaba.

I sistemi di controllo legittimati dal confucianesimo furono in parte trasferiti in quello leninista
l'organizzazione della Repubblica Popolare.

Il sistema Sesame Credit di Alibaba è in qualche modo simile ai programmi bonus come la carta fedeltà Payback in Germania. Registrandosi a questo servizio e consentendo così la registrazione, l'utilizzo e la vendita dei propri dati personali, gli utenti ottengono vantaggi che aumentano con il loro livello nel sistema a punti. Nel sistema Sesame Credit gli utenti, a un certo livello, possono richiedere prestiti o prodotti di credito immediati senza dover versare un acconto.

Anche nei settori legati alla sicurezza si possono trarre benefici. Dopo un certo punteggio in classifica, è più veloce passare i controlli di sicurezza negli aeroporti. Ci sono vantaggi anche oltre i confini della Cina: nel 2015 le ambasciate di Singapore e Lussemburgo hanno offerto condizioni di visto semplificate per i cittadini cinesi che hanno raggiunto un certo numero di punti. Per calcolare tutto questo, il sistema Sesame Credit funziona con un gran numero di database commerciali e pubblici. Dal 2015 include anche il più grande servizio di appuntamenti cinese, Baihe, che contiene informazioni sensibili su circa 90 milioni di persone. Il sistema Sesame Credit incorpora anche i database dei tribunali cinesi, con gravi conseguenze per i condannati, che devono trovarsi a dover affrontare ulteriori restrizioni. Le conseguenze di ciò si possono vedere in una delle ultime misure restrittive: dal 1° maggio 2018 ai cittadini sulla lista nera delle autorità può essere impedito di viaggiare in treno o in aereo per un massimo di un anno. Le sanzioni erano già possibili, anche se in forma più blanda: nel marzo dello scorso anno la Commissione per lo sviluppo e la riforma ha rivelato che a oltre 9 milioni di persone era stato vietato qualsiasi trasporto aereo, mentre più di tre milioni non potevano acquistare biglietti ferroviari di prima classe a causa dei negativi informazione . Tra le persone colpite ci sono persone che si dice abbiano pubblicato false informazioni su attività terroristiche – un'accusa nota per essere interpretata in modi molto indulgenti in tutto il mondo.

Monitoraggio ludico: il principio della gamification

Resta da vedere quanto saranno diffusi i sistemi di controllo sociale nel 2020, quando il PCC si muoverà per introdurli a livello nazionale. In Occidente vengono già paragonati a due principi classici dei sistemi disciplinari e penali: il panopticon di Bentham – in particolare interpretato da Michel Foucault – e la distopia 1984 di George Orwell. Tali confronti non riescono ancora a cogliere l'intera portata del SKS. Il sistema a punti cinese è una forma di sorveglianza tecnologica che coinvolge su un piano di parità gli attori commerciali e statali.

Allo stesso tempo, a differenza del "Grande Fratello" di Orwell, sono tipicamente concepiti come giochi interattivi e offrono quindi una libertà di azione e una partecipazione attiva molto maggiore da parte di chi viene monitorato. La tecnica cosiddetta “gamification”, fondamentale nello sviluppo dei giochi per computer, gioca un ruolo centrale. Lo scopo è quello di mantenere l'attenzione degli spettatori il più a lungo possibile e allo stesso tempo di far sviluppare loro sentimenti positivi nei confronti della partita. Oggi la gamification viene utilizzata in quasi tutti gli ambiti della società, compresi l’esercito, l’amministrazione e il marketing. L'SKS motiva gli utenti non solo attraverso le classifiche, ma anche attraverso diversi livelli, promozioni e "minigiochi". I punteggi consentono alle persone di confrontarsi con gli altri, il che le incoraggia ad aumentare il proprio punteggio. Anche la possibilità di ricevere piccoli premi incoraggia le persone a partecipare – un effetto che ovviamente aiuta a rendere popolari tra i consumatori occidentali i programmi fedeltà e le tessere associative. Il reclutamento ha un effetto valanga: una volta registrati, gli utenti pubblicizzano il prodotto nella propria cerchia e attirano così più clienti nel sistema. I servizi quindi non solo riescono a conquistare ampie quote di mercato, ma finiscono anche come monopoli.

In Oriente e in Occidente: Internet sotto sorveglianza

Sebbene varie forme di sorveglianza ludica non siano un caso speciale cinese, le persone in Occidente generalmente reagiscono con disagio quando sentono parlare dei sistemi di controllo sociale cinesi. Ciò testimonia non solo come i pregiudizi occidentali sulla Cina giochino ancora un ruolo, ma anche come i processi di digitalizzazione vengano recepiti in questa parte del mondo in modo acritico. I discorsi occidentali sono troppo spesso ciechi di fronte al fatto che la maggior parte di Internet è già completamente commercializzata. È un luogo in cui le aziende raccolgono e valutano grandi quantità di dati per creare e vendere profili utente. Questo spionaggio spazia dalla valutazione delle informazioni creditizie alle indagini sul comportamento dei consumatori attraverso programmi fedeltà e dai servizi di noleggio di biciclette e auto alle piattaforme di campagne politiche come Change.org.

La Commissione per lo sviluppo e la riforma ha rivelato che a oltre nove milioni di persone è stato vietato qualsiasi viaggio aereo, mentre oltre tre milioni non sono stati in grado di acquistare biglietti ferroviari di prima classe a causa di informazioni negative archiviate

Anche in Occidente questo continuo confronto e valutazione porta alla dissoluzione della sfera privata, oltre a una cultura di conformità nella sfera privata e alla tendenza delle persone a diventare caute nel creare attriti nella vita lavorativa. Il risultato è che aumenta la minaccia di un “irrigidimento sociale”, rendendo più difficile resistere all’ingiustizia e alla disuguaglianza sociale. Questo sviluppo è stato favorito dal diffuso malinteso secondo cui i dati e soprattutto gli algoritmi sono per lo più neutrali, nonostante il fatto che i programmi per computer siano scritti da persone che portano con sé le proprie convinzioni personali e ovviamente siano anche fallibili. A ciò si aggiunge il fatto che sono soprattutto le aziende e gli Stati a guidare la digitalizzazione, il che significa che sono anche loro a determinare la direzione. Sebbene i governi, a differenza delle aziende private, debbano in teoria essere responsabili nei confronti dei cittadini, abbiamo appreso, più recentemente attraverso le fughe di notizie di Snowden, che gli stati occidentali sono affamati di dati tanto quanto i regimi autoritari. Nemmeno cinque anni dopo lo scandalo della NSA, nulla è cambiato in questo contesto. Al contrario, la sorveglianza statale è diventata ancora più diffusa, anche grazie alla cooperazione tra le autorità e il settore privato.

Per gli individui, proteggersi dalla sorveglianza di massa sta diventando sempre più difficile, soprattutto perché sappiamo sempre meno dei dispositivi "intelligenti" che utilizziamo quotidianamente e delle tecniche di manipolazione che vengono utilizzate. Quasi nessuno sa quali tracce di dati rimangono quando navighiamo in rete senza protezione, per non parlare delle conclusioni dettagliate che si possono trarre quando si tratta dei nostri pensieri e desideri personali. Non siamo quindi del tutto consapevoli di quanto la sfera privata sia già in piena disintegrazione. I servizi di crittografia e anonimizzazione forniscono una certa protezione, ma non sono una risposta definitiva di fronte ai cambiamenti tecnologici e digitali che stanno cambiando la nostra società nel bene e nel male. Oltre al puro furto di dati, i database coprono un altro pericolo sottovalutato. Gli stati e le aziende possono sciogliersi, ma l’informazione digitale rimane intatta. Non possiamo prevedere quali conclusioni trarranno le future autorità o aziende e i loro manager dai loro database, né da quali dati e categorie giudicheremo.

L’SKS cinese ci pone quindi la questione di come vengono raccolte, trasferite, valutate e vendute enormi quantità di dati su tutti noi. A che tipo di società porterà la sorveglianza di massa? E cosa possiamo fare per contrastarlo? Una cosa è chiara: i dati sono potere. È una forza che non possiamo percepire nel mondo fisico, e quindi il potere basato sull’informazione, come la radiazione radioattiva, è un pericolo che percepiamo solo vagamente. A livello globale, è quindi giunto il momento di affrontare la questione di come cambiano il potere e la manipolazione nell’era digitale. Le implicazioni ci costringono a porre nuove domande su potere e legittimità, privacy, libertà e vita buona – e a decidere se vogliamo rimanere utenti passivi o impegnarci attivamente nella progettazione dei sistemi che influenzano la nostra esistenza.

Oversatt tramite inglese di Anders Dunker. Først pubblica articoli di politica tedesca e internazionale 7/2018 (tysk versjon). Bidrag ved Fogli per la politica tedesca e internazionale.© Katika Kühnreich / Fogli per la politica tedesca e internazionale / Eurozine

• Leggi anche: I moderatori invisibili di Facebook
• Forse ti interessa: Il posto delle donne nella rivoluzione digitale