Mentre le ambizioni geopolitiche della Cina attirano la maggior parte dell'attenzione mondiale, le politiche interne del Partito Comunista Cinese (PCC) vengono attuate relativamente inosservate. Allo stesso modo, sta diventando chiaro che anche la Cina sta subendo una totale trasformazione internamente: entro il 2020, il PCC ha previsto di introdurre sistemi digitali per il controllo sociale su tutto il territorio nazionale.
Attraverso i sistemi di credito sociale (SKS) – alcuni dei quali già operativi – l'obiettivo è quello di creare un punteggio per ogni cittadino cinese in base al suo comportamento. Per calcolarlo viene utilizzata un'enorme quantità di dati: pratiche di pagamento, fogli di carta, abitudini di acquisto, ricerche e messaggi su Internet, nonché comportamento sociale generale. La conformità porta a ricompense come buoni termini di credito, promozioni e tempi di elaborazione ridotti nei controlli di sicurezza. Al contrario, un comportamento indesiderato può comportare una punizione. Gli SKS hanno accesso a una serie di banche dati private e statali.
Sistemi di punteggio digitale
Nel 2014, il PCC ha consentito a otto fornitori di servizi privati di sviluppare i propri sistemi di punti digitali. Tutti i sistemi utilizzano algoritmi e intelligenza artificiale (AI) per calcolare punti e posizioni attraverso processi automatici. Allo stesso tempo, il PCC ha iniziato a installare sistemi di punti statali in "zone speciali" selezionate. Quando gli SKS diventeranno obbligatori in tutta la Cina tra un paio d'anni, l'idea è che tutti i cittadini cinesi, così come le aziende, avranno accesso al proprio account centralizzato dove sono archiviati i loro punteggi. Il PCC promuove SKS come pietra miliare sulla strada della "società socialista armoniosa". Ufficialmente, i sistemi a punti hanno lo scopo di modernizzare l'amministrazione e promuovere la fiducia all'interno della società, nonché tra le autorità, la popolazione e l'economia. Tuttavia, il potenziale intrinseco dei sistemi può significare che essi sono percepiti come mezzi di controllo sociale. Solo nel 2014 – il primo anno di SKS – ci sono state circa 90 rivolte in Cina, ufficialmente descritte come "incidenti di massa", con una media di 000 al giorno. Da allora, i numeri sono solo aumentati.
Mezzi di controllo sociale
Per far fronte a questo tumulto, la Cina sta attingendo alla sua storia millenaria di centralizzazione statale e burocrazia. I sistemi di controllo legittimati dal confucianesimo furono parzialmente trasferiti nell'organizzazione leninista della Repubblica popolare. Questi includevano Hukou – un sistema di registrazione per le famiglie e la loro iscrizione in unità sociali conosciute come Danwei – dove ogni unità controllava i suoi membri e registrava le informazioni in protocolli politici (Dang'an). Queste strutture determinavano promozioni, iscrizioni a partiti, persino matrimoni. Dopo la morte di Mao Zedong, alcuni di questi sistemi di controllo sociale divennero meno importanti a causa dei cambiamenti politici del periodo delle riforme. Allo stesso modo, la propaganda di stato è diventata più importante dopo il 1989. Con l'SKS, la Cina entra in una nuova fase di politica di controllo e sorveglianza in cui il PCC combina il potenziale dei metodi di sorveglianza analogici e digitali, propaganda e sottili forme di disciplina. Lo sviluppo di Internet e della tecnologia mobile come gli smartphone e le tecnologie integrate – orologi e occhiali intelligenti – ha fornito ai servizi di sicurezza e ai dipartimenti di propaganda nuovi mezzi di sorveglianza e influenza.
Allo stesso tempo, il PCC sta approfittando dell'unicità di Internet cinese. Non solo il web è soggetto a una rigida regolamentazione; L'accesso a Internet è limitato dal "firewall cinese". Internamente, "Golden Shield" è il mezzo principale per monitorare l'attività online. Una parte importante di questo è "l'agenzia per l'informazione pubblica e il monitoraggio della sicurezza della rete", che in forma abbreviata viene spesso definita "l'agenzia per il monitoraggio della rete". Ci sono anche una serie di altri dipartimenti governativi, ministeri e autorità responsabili del monitoraggio della rete. Insieme a un certo numero di agenti di polizia e ispettori appositamente addestrati assunti dal settore privato, i sistemi di intelligenza artificiale vengono utilizzati per setacciare Internet alla ricerca di qualsiasi dichiarazione critica nei confronti del regime. Inoltre, un intero esercito di fedeli commentatori del regime è attivo nei forum online, conosciuti colloquialmente come il "partito degli anni Cinquanta" (五毛党). Sono accusati di cercare di influenzare il dibattito pubblico a sostegno del PCC.
Lo spionaggio si estende dalla valutazione delle informazioni creditizie alle indagini su
comportamento dei consumatori attraverso programmi di fidelizzazione e dai servizi di noleggio biciclette e auto alle piattaforme di campagne politiche.
I giganti cinesi di Internet: Baidu, Alibaba og Tencent. Sin da quando Internet è stato concepito, il PCC lo ha visto come una forma di comunicazione che deve essere controllata. Tuttavia, la censura statale non mira a sopprimere completamente i commenti critici sul regime. Piuttosto, il Partito Comunista Cinese sta cercando di impedire la realizzazione di campagne collettive su larga scala. Allo stesso tempo, come per la censura in generale, molte delle misure di controllo cinesi possono essere aggirate, almeno in parte. La Cina presenta quindi online un panorama relativamente eterogeneo. Questo paesaggio è altrettanto completamente diverso da quello che abbiamo in Occidente. Poiché il web cinese è in gran parte tagliato fuori dal World Wide Web, non è nemmeno dominato dai giganti del web statunitensi. Al contrario, hanno preso forma strutture commerciali distintive. Le tre aziende più grandi – Baidu, Alibaba e Tencen – sono conosciute con la denominazione BAT. Non solo forniscono l'infrastruttura per i sistemi di controllo sociale, ma sono anche in prima linea nello sviluppo dell'intelligenza artificiale in tutto il mondo.
Tutte e tre le società hanno accesso a enormi riserve di dati. Il motore di ricerca del colosso Baidu è anche responsabile del funzionamento della più grande enciclopedia online cinese e del servizio di pagamento Baidu Pay. Alibaba, l'azienda conosciuta in occidente come "AliExpress", è a sua volta protagonista delle vendite online in Cina. Alimenta anche una popolare piattaforma cliente-cliente, Taobao Wang, utilizzata da circa 470 milioni di persone al mese. Inoltre, Alibaba possiede circa un terzo della piattaforma di microblogging più popolare della Cina, Sina Weibo, utilizzata da circa 380 milioni di persone al mese. Il gruppo di servizi finanziari dell'azienda abbraccia anche il sistema di credito sociale Sesame Credit e la popolare app di pagamento Alipay. Nell'ultimo anno, Alibaba Group ha registrato un fatturato di circa 8,3 miliardi di dollari USA. Dal 2016 possiede anche il quotidiano di Hong Kong South China Morning Post.
La terza azienda del gruppo, Téngxùn, è conosciuta in occidente come Tencent. Tra i giocatori, è stato per anni un nome familiare al di fuori della Cina a causa della sua partecipazione in società di videogiochi. Inoltre, Tencent ha anche quote nel popolare social media Snapchat, che è molto meno conosciuto. Altri servizi sono QQ e WeChat: con quasi 900 milioni di utenti attivi, QQ è il servizio di messaggistica più popolare in Cina, mentre WeChat è un servizio di messaggistica per smartphone che raggiunge circa un miliardo di persone in tutto il mondo. Con la funzione WeChat Pay, WeChat diventa anche un'app di pagamento utilizzata in tutta la Cina.
(Meta)dati e altre tracce digitali
Per gli utenti Internet cinesi, questi servizi fanno parte della vita quotidiana. Circa il 95% degli utenti è online tramite dispositivi mobili, alcuni anche con PC. Come altri utenti di Internet, lasciano un gran numero di tracce digitali – dettagli personali e dati sulle loro abitudini online – che vengono poi raccolte e valutate sia dallo stato che dagli attori commerciali, che possono quindi identificare, classificare e classificare i diversi utenti. Questi dati costituiscono la base per l'SKS e per i calcoli dei punti. Il calcolo dei punti viene effettuato utilizzando algoritmi e intelligenza artificiale, un processo che non è visibile agli utenti. I sistemi digitali hanno altre due caratteristiche che sono particolarmente rilevanti per i sistemi di controllo sociale: da un lato, i dati memorizzati possono essere copiati e venduti un numero infinito di volte; i sistemi digitali, d'altra parte, non dimenticano mai. Inoltre, gli SKS cinesi creano sistemi ibridi: incorporano dati digitali e analogici nelle valutazioni, in altre parole registrano non solo il comportamento online, ma anche ciò che viene fatto al di fuori della rete. Ciò è reso possibile attraverso un maggiore utilizzo di telecamere "intelligenti" che riconoscono i volti negli spazi pubblici. L'integrazione della sorveglianza analogica e digitale è particolarmente avanzata nella provincia a maggioranza musulmana dello Xinjiang, dove anche il numero di "incidenti di massa" è sorprendentemente elevato.
Credito al sesamo di Alibaba
Il sistema Sesame Credit di Alibaba fornisce un buon esempio di come vengono calcolati i punti. Come le aziende occidentali, Alibaba filtra grandi quantità di dati dai suoi utenti, poiché i suoi servizi SoMe forniscono informazioni sui loro stati d'animo, preferenze e chi è "amico" con chi. Anche i dati per gli ordini di prodotti e l'interazione con vari annunci web vengono acquisiti in dettaglio. Altrettanto importanti sono i processi di pagamento e le ricerche su Internet, supportati da metadati sulle pagine visitate e dati dinamici. Lo scoring viene quindi effettuato in cinque aree: la storia creditizia dell'utente, la sua liquidità, i suoi dati anagrafici, le sue abitudini e comportamenti ei suoi contatti SoMe. Il punteggio più basso nel sistema Sesame Credit è 350 e il massimo è 950. Il punteggio odierno premia particolarmente l'acquisto di prodotti Alibaba.
I sistemi di controllo legittimati dal confucianesimo furono in parte trasferiti in quello leninista
l'organizzazione della Repubblica Popolare.
Il sistema Sesame Credit di Alibaba è in qualche modo simile ai programmi bonus come la carta fedeltà Payback in Germania. Registrandosi a questo servizio e consentendo così la registrazione, l'utilizzo e la vendita dei dati personali, gli utenti ottengono vantaggi che aumentano con il loro livello nel sistema a punti. Nel sistema Sesame Credit, gli utenti – a un certo livello – possono richiedere prestiti immediati o prodotti di credito senza dover pagare un deposito.
Anche nelle aree che hanno a che fare con la sicurezza, si possono trarre vantaggi. Dopo un certo punteggio in classifica, è più veloce passare i controlli di sicurezza negli aeroporti. Ci sono anche vantaggi che si applicano oltre i confini della Cina: nel 2015 le ambasciate di Singapore e Lussemburgo hanno offerto condizioni di visto semplificate per i cittadini cinesi che hanno raggiunto un certo numero di punti. Per calcolare tutto questo, il sistema Sesame Credit funziona con un gran numero di database commerciali e pubblici. Dal 2015 include anche il più grande servizio di incontri della Cina, Baihe, che contiene informazioni sensibili su circa 90 milioni di persone. Il sistema Sesame Credit incorpora anche i database dei tribunali cinesi, con gravi conseguenze per i condannati, che devono trovarsi in ulteriori restrizioni. Le conseguenze di ciò possono essere viste da una delle ultime misure di inasprimento: dal 1° maggio 2018, ai cittadini sulla lista nera delle autorità può essere impedito di viaggiare in treno o in aereo per un massimo di un anno. Le sanzioni erano già possibili, anche se in forma più lieve: nel marzo dello scorso anno, la Commissione per lo sviluppo e le riforme ha rivelato che oltre 9 milioni di persone erano state bandite da tutti i trasporti aerei, mentre oltre tre milioni non potevano acquistare biglietti ferroviari di prima classe a causa di negativi informazioni. Tra le persone colpite ci sono persone che si dice abbiano pubblicato informazioni false su attività terroristiche, un'accusa notoriamente interpretata in modi molto indulgenti in tutto il mondo.
Monitoraggio ludico: il principio della ludicizzazione
Resta da vedere quanto saranno diffusi i sistemi di controllo sociale nel 2020, quando il PCC si muoverà per introdurli a livello nazionale. In Occidente, vengono già confrontati con due principi classici per i sistemi disciplinari e penali: il panopticon di Bentham – soprattutto come interpretato da Michel Foucault – e la distopia 1984 di George Orwell. Tali confronti non colgono ancora l'intera portata dell'SKS. Il sistema a punti cinese è una forma di sorveglianza tecnologica che include attori commerciali e statali su un piano di parità.
Allo stesso tempo, e diversamente dal "Grande Fratello" di Orwell, sono tipicamente progettati come giochi interattivi, e quindi offrono una libertà di azione e una partecipazione attiva molto maggiore da parte di coloro che vengono monitorati. La tecnica nota come "gamification", cruciale nello sviluppo dei giochi per computer, gioca un ruolo centrale. L'obiettivo è quello di mantenere l'attenzione degli spettatori il più a lungo possibile e allo stesso tempo di fargli sviluppare sentimenti positivi nei confronti del gioco. Oggi, la ludicizzazione viene utilizzata in quasi tutti i settori della società, compresi i militari, l'amministrazione e il marketing. L'SKS motiva gli utenti non solo attraverso classifiche, ma anche attraverso diversi livelli, promozioni e "mini-giochi". I punteggi consentono alle persone di confrontarsi con gli altri, il che li incoraggia ad aumentare il proprio punteggio. Anche la possibilità di ricevere piccoli premi incoraggia le persone a partecipare, un effetto che ovviamente contribuisce a rendere popolari i programmi fedeltà e le tessere associative tra i consumatori occidentali. Il reclutamento ha un effetto valanga: una volta registrati, gli utenti pubblicizzano il prodotto nella propria cerchia e attirano così più clienti nel sistema. I servizi quindi non solo riescono a conquistare un'ampia quota di mercato, ma finiscono anche per diventare monopoli.
In Oriente e in Occidente: Internet sotto sorveglianza
Sebbene varie forme di sorveglianza ludica siano ben lungi dall'essere un caso speciale cinese, le persone in Occidente generalmente reagiscono con disagio quando sentono parlare dei sistemi di controllo sociale cinesi. Ciò testimonia non solo quanto i pregiudizi occidentali sulla Cina giochino ancora un ruolo, ma anche come i processi di digitalizzazione vengano accolti in modo acritico in questa parte del mondo. I discorsi occidentali sono troppo spesso ciechi al fatto che la maggior parte di Internet è già ampiamente commercializzata. È un luogo in cui le aziende raccolgono e valutano grandi quantità di dati per creare e vendere profili utente. Questo spionaggio spazia dalla valutazione delle informazioni sul credito alle indagini sul comportamento dei consumatori attraverso programmi di fidelizzazione e dai servizi di noleggio di biciclette e auto a piattaforme di campagne politiche come Change.org.
La Commissione per lo sviluppo e la riforma ha rivelato che oltre nove milioni di persone sono state bandite da tutti i viaggi aerei, mentre oltre tre milioni non sono stati in grado di acquistare biglietti ferroviari di prima classe a causa di informazioni negative memorizzate
Anche in Occidente, questo continuo confronto e valutazione porta a una dissoluzione della sfera privata, oltre a una cultura del conformismo nella sfera privata ea una tendenza delle persone a diventare caute nel creare attriti nella vita lavorativa. Il risultato è che la minaccia di un "irrigidimento sociale" aumenta, rendendo più difficile resistere all'ingiustizia e alla disuguaglianza sociale. Questo sviluppo è stato promosso dal diffuso malinteso secondo cui i dati e soprattutto gli algoritmi sono per lo più neutri, nonostante il fatto che i programmi per computer siano scritti da persone che portano con sé le proprie convinzioni personali e siano ovviamente anche fallibili. A questo si aggiunge il fatto che sono soprattutto le aziende e gli Stati a guidare la digitalizzazione, il che significa che sono anche questi a determinarne la direzione. Sebbene i governi, a differenza delle società private, debbano in teoria rendere conto ai cittadini, abbiamo appreso, più recentemente attraverso le fughe di notizie di Snowden, che gli stati occidentali sono affamati di dati tanto quanto i regimi autoritari. A neanche cinque anni dallo scandalo Nsa, in questo contesto nulla è cambiato. Al contrario, la sorveglianza statale è diventata ancora più diffusa, anche grazie alla cooperazione tra le autorità e il settore privato.
Per gli individui, proteggersi dalla sorveglianza di massa sta diventando sempre più difficile, soprattutto perché sappiamo sempre meno dei dispositivi "intelligenti" che utilizziamo ogni giorno e delle tecniche di manipolazione che vengono utilizzate. Quasi nessuno sa quali tracce di dati rimangono quando navighiamo sul web senza protezione, figuriamoci quali conclusioni dettagliate si possono trarre quando si tratta dei nostri pensieri e desideri personali. Non siamo quindi pienamente consapevoli di quanto la sfera privata sia già in piena disgregazione. I servizi di crittografia e anonimizzazione forniscono una certa protezione, ma non sono una risposta definitiva di fronte ai cambiamenti tecnologici e digitali che stanno cambiando la nostra società nel bene e nel male. Oltre al puro furto di dati, i database coprono un altro pericolo sottovalutato. Stati e aziende possono dissolversi, ma l'informazione digitale rimane intatta. Non possiamo prevedere quali conclusioni trarranno dai loro database autorità o aziende future e i loro dirigenti, o da quali dati e categorie giudicheremo.
L'SKS cinese ci pone quindi di fronte alla questione di come vengano raccolte, trasferite, valutate e vendute enormi quantità di dati su tutti noi. A che tipo di società porterà la sorveglianza di massa? E cosa possiamo fare per contrastarlo? Una cosa è chiara: i dati sono potere. È una forza che non possiamo percepire nel mondo fisico, e quindi il potere basato sull'informazione, come le radiazioni radioattive, è un pericolo che percepiamo solo vagamente. A livello globale, è quindi giunto il momento di affrontare la questione di come il potere e la manipolazione cambino nell'era digitale. Le implicazioni ci costringono a porre nuove domande su potere e legittimità, privacy, libertà e buona vita – e a decidere se vogliamo rimanere utenti passivi o impegnarci attivamente nella progettazione dei sistemi che influenzano la nostra esistenza.
Tradotto in inglese da Anders Dunker. Pubblicato per la prima volta in Blätter für deutsche und internationale Politik 7/2018 (versione tedesca). Contributo a Blätter für deutsche und internationale Politik.© Katika Kühnreich / Blätter für deutsche und internationale Politik / Eurozine
- Leggi anche: I moderatori invisibili di Facebook
- Forse ti interessa: Il posto delle donne nella rivoluzione digitale
