Lo stato di sorveglianza del presidente Xi

Le città cinesi sono le più monitorate al mondo.

La società di sicurezza Comparitech ha steso una classifica basata sul numero di telecamere a circuito chiuso ogni 1.000 persone: la Cina detiene il primato con otto delle prime 10 città più sorvegliate al mondo e l’apice si tocca a Chongqing, grande agglomerato urbano situato nel sud-ovest del paese dove confluiscono i fiumi Azzurro e Jialing.
Nella classifica tra Stati, la Cina è seguita da Malesia e Pakistan, Usa, India, Indonesia, Filippine e Taiwan.
I paesi più virtuosi Irlanda e Portogallo. L’Italia è apparsa a metà classifica.

Le uniche due città non cinesi nella top 10 sono Londra al sesto posto e Atlanta negli Stati Uniti al n. 10 mentre tra le città cinesi, oltre a Chongqingal primo posto con quasi 2,6 milioni di telecamere, ovvero 168,03 per 1.000 persone; Shenzhen, nella provincia meridionale del Guangdong, è arrivata al secondo posto con 159,09 telecamere per 1.000 persone. Urumqi, nota capitale della regione autonoma cinese dello Xinjiang Uygur si è classificata al 14 ° posto, con 12,4 telecamere per 1.000 persone.

Il Piano cinese per costruire la più grande rete di sorveglianza interna che il mondo abbia mai visto prosegue infatti a ritmo serrato.

Una fitta rete di scanner e fotocamere ricopre la maggior parte delle città cinesi. E

“La chiave non è tanto la tecnologia quanto la mancanza di controlli sul potere della polizia.”

La complessa gamma di tecnologie di sorveglianza implementate in tutta la Cina ha suscitato un’attenzione diffusa ed una preoccupazione generale piuttosto fondata in varie parti del mondo.
Due giornalisti collaboratori del New York Times, Paul Mozur e Aaron Krolik hanno esaminato il modo in cui i vari strumenti di sorveglianza vengono combinati all’interno di un sistema integrato costantemente connesso, fatto di tecnologie miste, alcune all’avanguardia ed altre piuttosto datate.

L’articolo, pubblicato a metà dicembre, descrive con ricchezza di particolari e riscontri video come queste funzionalità siano ormai diventate largamente disponibili per le Autorità di polizia di ogni livello e come i corrispondenti dati raccolti possano essere resi accessibili ad una una vasta gamma di terze parti sia pubbliche, per scopi di intelligenze e sicurezza pubblica, che private, per scopi commerciali e di marketing. Il tutto, peraltro, attraverso pratiche di sicurezza del tutto assenti se non inadeguate.
Scanner del telefono, tecnologia di riconoscimento facciale ed enormi database di volti e impronte digitali sono tra gli strumenti utilizzati.

“I dati di ogni persona formano una traccia”, ha riferito, al media statunitense, Agnes Ouyang un’impiegata in ambito tecnologico di Shenzhen intervistata dai giornalisti “che può essere utilizzata dal Governo e può essere utilizzata dai dirigenti delle grandi aziende per mettere in atto forme di controllo e direzione. Le nostre vite valgono tanto quanto lo sporco.”
[…] Even for China’s police, who enjoy broad powers to question and detain people, this level of control is unprecedented. Tracking people so closely once required cooperation from uncooperative institutions in Beijing. The state-run phone companies, for example, are often reluctant to share sensitive or lucrative data with local authorities, said people with knowledge of the system.
[…] Data from the Shijiachi [housing] complex was parked on an unprotected server. Details included 482 residents’ identification numbers, names, ages, marital and family status, and records of their membership in the Communist Party. For those who used the facial-recognition cameras to enter and exit, it also stored a detailed account of their comings and goings.
[…] Nearby networks were similarly unprotected. They held data from 31 residences in the area, with details on 8,570 people. A car-tracking system near Shijiachi showed records for 3,456 cars and personal information about their owners. Across China, unprotected databases hold information on students and teachers in schools, on online activity in internet cafes and on hotel stays and travel records” — Tratto dal corrispondente articolo uscito a dicembre sul New York Times.

La polizia è stata autorizzata a divenire una sorta di custode indiscusso delle enormi quantità di dati personali, compresi i dati biometrici, dei suoi quasi 1,4 miliardi di persone.
I lavoratori migranti, le minoranze, le voci contrarie al regime e i tossicodipendenti, sono tutti profilati.

E i casi d’uso emersi indicano procedure piuttosto inquietanti quanto discutibili sotto molteplici profili di legittimità: dalla profilazione di donne come dedite alla prostituzione sulla base dei soli check-in effettuati in più di un hotel in una notte, alle verifiche e le perquisizioni nelle abitazioni di coloro che vivono in alloggi sovvenzionati per assicurarsi che non prestino assistenza ed ospitalità a persone contrarie al regime o dedite al crimine.

Edward Schwarck, uno studente piuttosto brillante che sta specializzandosi in sicurezza pubblica cinese presso l’Università di Oxford ha approfondito il ruolo del Ministero della Pubblica Sicurezza Cinese descrivendone lo sviluppo nel corso del tempo in chiave di intelligence. Le sue analisi hanno evidenziato come il Ministero iniziò a riformare ed aggiornare le sue strutture di intelligence all’inizio degli anni 2000 con l’intento di ristabilire il “dominio dell’informazione” su una società sempre più fluida e tecnologicamente sofisticata, e hanno dimostrato come lo stesso si sia adattato allo sviluppo tecnologico trasformando ed adeguando alle potenzialità offerte dalle nuove tecnologie le proprie procedure di raccolta, analisi e diffusione delle informazioni fino a dare forma all’attuale sistema di intelligence di pubblica sicurezza.
Schwarck giunge alla pesante considerazione per cui “definire un modello simile come sistema di polizia basato sull’intelligence o sulle analisi predittive distoglie in realtà l’attenzione dal fatto che ciò che sta accadendo nello Xinjiang non riguarda affatto la polizia, ma una forma di vera e propria ingegneria sociale “.

La sorveglianza in Cina è chiaramente molto più di una semplice telecamera. Sniffer WiFi (software utili a localizzare rapidamente un segnale WiFi attivo) e tracker di targhe sono costantemente puntati su auto e telefoni; il riconoscimento facciale si è spinto fino ai complessi abitativi e all’interno delle metropolitane.

Paul Mozur, i cui tweet meritano certamente la nostra attenzione, descrive il sistema di sorveglianza che combina una stazione BTS (che acquisisce automaticamente le informazioni del telefono) con telecamere di riconoscimento facciale. “The idea was to directly link face info to phone info as people walked by.”

E il video allegato al tweet da Mozur mostra il processo ineludibile di acquisizione delle immagini.

“The fake base station is easy to miss. Two cameras capture people coming and going. When we asked, no one, not residents and not building management, knew what it did. The police just showed up one day and put it in.”

“I localizzatori telefonici sono ovunque in Cina. Spesso passano inosservati. Sono solo piccole scatole con antenne incastonate sotto installazioni di telecamere molto più intimidatorie.” Riferisce Mozur.

Nello Xinjiang, dove la Cina ha “internato” 1 milione di Uiguri, il reporter del NYT, ha mappato i localizzatori telefonici presenti in uno dei quartieri della città vecchia di Kashga e ha trovato almeno 37 dispositivi su un’area di un chilometro quadrato in grado di registrare ogni arteria cittadina, comprese le pertinenze private delle abitazioni civili: “A Shaoxing alcuni tecnici incaricati hanno ricevuto il preciso compito di installare, nei pressi dei cancelli di ingresso, strumenti video di riconoscimento facciale.” riporta Mozur.

Il tutto con buona pace delle proteste e delle preoccupazioni rese palesi, non a caso, dai residenti coinvolti.

Sempre su Twitter, Simon Rabinovitch dell’Economist ha mostrato alcuni esempi di come i distributori delle tecnologie di sorveglianza abbiano sviluppato sofisticate tattiche di marketing nel presentano le loro merci non solo al mercato cinese bensì globale.

Ciò nonostante le preoccupazioni sull’ accuratezza e correttezza e su come tali tecnologie potrebbero essere usate dai governi per spiare le persone.

Preoccupazioni peraltro accentuate a seguito di una relazione del Financial Times che mostra come i gruppi cinesi esercitino un’influenza significativa nel definire gli standard internazionali in materia di tecnologia.

Il rapporto descrive in dettaglio come le società tra cui ZTE, Dahua e China Telecom stanno proponendo standard per il riconoscimento facciale all’International Telecommunication Union (ITU) delle Nazioni Unite, l’organismo responsabile degli standard tecnici globali nel settore delle telecomunicazioni.

E IPVM, l’autorità indipendente, leader a livello mondiale nel campo della videosorveglianza non a caso ha ammonito:

Yuan Yang con un articolo nel Finalcial Times intitolato Il ruolo dell’IA nella repressione della Cina sugli Uiguri, ha reso noto quanto emerso da una serie di documenti “riservati” interni al Partito Comunista, i “China cables”. Ne è emerso un quadro dettagliato dei piani del Governo Cinese nella regione di confine dello Xinjiang, dove sono stati arrestati circa 1,8 milioni di membri della minoranza musulmana del paese, gli Uiguri.

Altrettanto ha fatto un report del Consortium of Investigative Journalism sui sistemi di repressione e sorveglianza usate dal governo cinese contro le minoranze musulmane dello Xinjiang: “La tecnologia è in grado di guidare una violazione sistematica dei diritti su scala industriale”.

Il report investigativo del consorzio giornalistico va letto: https://www.icij.org/investigations/china-cables/exposed-chinas-operating-manuals-for-mass-internment-and-arrest-by-algorithm/

La polizia, secondo i documenti pubblicati, userebbe una piattaforma chiamata Ijop (Integrated Joint Operation Platform) per raccogliere e classificare dati personali e informazioni catturate da molteplici sensori come spyware istallati nei telefonini, Wi-Fi sniffers e videocamere TVCC dotate di riconoscimento facciale e visione notturna, installate in stazioni di servizio, nei posti di blocco, ma anche in scuole e palestre.

Tutti questi dati verrebbero quindi elaborati da sistemi di intelligenza artificiale per meglio identificare e mappare i residenti dello Xinjiang o contribuire in vario modo alla Dragnet cinese, ovvero il processo utilizzato dagli organi di polizia per rintracciare i sospetti criminali.

L’uso di questa piattaforma non è peraltro nuovo. Già nel 2016 alcuni report ne avevano descritto le caratteristiche: l’Ijop sarebbe in grado di raccogliere e classificare informazioni molto dettagliate sulle persone indagate, compresa l’aspetto, l’altezza, il gruppo sanguigno, il livello di educazione, le abitudini e la professione svolta. Senza dubbio offre una finestra senza precedenti sulla sorveglianza di massa nello Xinjiang.

Nel report si parla inoltre di un’applicazione diffusa tra i musulmani chiamata Zapya nota in cinese come Kuai Ya.

Zapya sviluppata da DewMobile Inc., consente agli utenti di smartphone di inviare video, foto e altri file direttamente da uno smartphone all’altro senza essere connessi al Web (con ciò rendendola popolare in quelle aree in cui il servizio Internet è scarso o inesistente) e apparentemente incoraggia gli utenti a scaricare il Corano e condividerne gli insegnamenti religiosi con i propri cari.

“I cinesi hanno aderito ad un modello di sorveglianza basato sulla raccolta dei dati in larga scala, e che grazie all’intelligenza artificiale sarebbe in grado di prevedere in anticipo dove potrebbero verificarsi possibili reati” — ha commentato James Mulvenon, direttore dell’Integrazione dell’intelligence presso SOS International, esaminando i documenti del governo cinese “Quindi, con questo sistema, gli organi di polizia rintracciano in maniera preventiva tutte le persone che utilizzano o scambiano dati sospetti, prima ancora che abbiano avuto la possibilità di commettere effettivamente il crimine”.

Il governo cinese ha ovviamente bollato i report e i resoconti giornalistici come “pura invenzione e fake news”.
In una nota, l’ufficio stampa del Governo cinese ha dichiarato: “Non esistono “campi di detenzione” nello Xinjiang. Sono stati istituiti centri di istruzione e formazione professionale per la prevenzione del terrorismo Una “missione” questa talmente “necessaria” da aver indotto Pechino a chiedere fondi di finanziamento alla stessa Banca Mondiale. Questo è almeno quanto emerge da un rapporto pubblicato dal sito americano Axios. Secondo i documenti visionati da Axios, i prestiti chiesti alla Banca Mondiale erano volti appunto all’acquisto della tecnologia di riconoscimento facciale da utilizzare nella regione nord-occidentale dello Xinjiang in Cina. Per l’istituto bancario mondiale tali fondi non sono mai stati erogati.

Lo Xinjiang ha una popolazione di circa 22 milioni, dieci dei quali di etnia uigura che salgono a dodici considerando le altre minoranze turco-musulmane.

Ad oggi, pur non disponendo di numeri ufficiali, sarebbero oltre un milione gli Uiguri detenuti nei “campi di rieducazione e addestramento” della regione.

Tale misura viene giudicata necessaria dal Consiglio di Stato, il supremo organismo amministrativo della della Repubblica Popolare cinese, per “rimuovere il tumore maligno del terrore e dell’estremismo che minaccia le vite e la sicurezza della gente, custodire il valore e la dignità delle persone, proteggere il diritto alla vita, alla salute, allo sviluppo, e per assicurare il godimento di un ambiente sociale pacifico e armonioso”.

Sul punto merita di essere evidenziato come il Parlamento Europeo con una Risoluzione approvata il 19 dicembre scorso abbia fermamente condannato le pratiche repressive e discriminatorie messe in atto dal governo di Pechino nei confronti degli uiguri e delle persone di etnia kazakha.
I deputati hanno chiesto alle autorità cinesi di garantire ai giornalisti e agli osservatori internazionali un accesso libero alla Regione autonoma uigura dello Xinjiang per valutarne la situazione.
Secondo gli europarlamentari è essenziale che l’Ue sollevi la questione della violazione dei diritti umani in Cina in ogni dialogo politico con le autorità cinesi ed hanno chiesto al Consiglio di adottare sanzioni mirate e di congelare i beni, se ritenuto opportuno ed efficace, contro i funzionari cinesi responsabili di una grave repressione dei diritti fondamentali nello Xinjiang.-

Una sorta di quindi sistema alla Minority Report

«Xue Liang», ovvero «Occhio di falco» è il nome del programma di videosorveglianza a tappeto del presidente Xi Jinping e di Pechiono. Un network di sorveglianza onnipresente, totalmente connesso che comprende progetti di videosorveglianza di massa che incorporano la tecnologia di riconoscimento facciale compreso quello emozionale; software di riconoscimento vocale in grado di identificare gli altoparlanti durante le telefonate; e un programma ampio e invadente di raccolta del DNA. Gli operatori di telefonia, in Cina hanno oggi l’obbligo di registrare le scansioni facciali di chi compra un nuovo numero di telefono o un nuovo smartphone poiché come dichiarato a settembre dal ministero cinese dell’Industria e dell’information technology una tale decisione mira “a tutelare i diritti legittimi e gli interessi dei cittadini online”.
Il Great Firewall cinese rende decine di migliaia di siti Web vietati agli utenti della Repubblica popolare cinese, oltre a fungere da strumento di sorveglianza.
Non ultimo il sistema nazionale di credito sociale (un insieme di «modelli» per verificare l’«affidabilità» delle persone associandole a un punteggio e a blacklist) inteso a valutare “e dunque prevenire” la condotta di ogni cittadino cinese in ogni ambito dall’accesso al credito alla tendenza alla commissione dei crimini.
I big data costituiscono la risorsa inestimabile per fare tali previsioni. E chiaramente i funzionari possono attingere a questa capacità di anticipare crimini, le proteste o le impennate maggiori dell’opinione pubblica online, consentendo loro di agire preventivamente e arbitrariamente per annullarne gli effetti.

Un network quindi dove la repressione del crimine va di pari passo con l’analisi di polizia predittiva e la censura con la propaganda: coloro che esprimono opinioni non ortodosse online possono diventare soggetti di attacchi personali mirati nei media statali La sorveglianza e l’intimidazione sono ulteriormente integrate da una vera e propria coercizione, tra cui visite di polizia, arresti, “confinamenti rieducativi”.

Conclusioni

L’origine dell’odierno Panopticon cinese e la sua inarrestabile evoluzione non sono altro che il risultato di un’accelerazione resa possibile dalla grande trasformazione tecnologica del paese (e con essa la nuova straordinaria capacità di raccogliere dati biometrici da parte di Pechino) e dalla sedimentazione dei ragionamenti su cui il partito comunista è impegnato da tempo. Tra questi il «sistema dei crediti sociali» rappresenta solo uno dei tanti aspetti oscuri e distopici dei piani di ingegnerizzazione sociale in Cina. Se infatti da una parte i crediti sociali mirano a creare una società basata sulla fiducia dove però cosa è virtuoso e morale lo decide il partito comunista, un’ulteriore «griglia sociale» sarà stabilita dalle smart city, a loro volta governate socialmente attraverso crediti sociali e capacità tecnologiche che consentono raccolta ed elaborazioni di dati continua.

La diffusione della sorveglianza, in particolar modo applicata all’AI, continua senza sosta. E se Il suo utilizzo da parte di regimi autoritari per progettare repressioni contro popolazioni mirate ha già suonato campanelli d’allarme, tuttavia anche in paesi con forti tradizioni di stato di diritto, l’IA fa sorgere problematiche etiche fastidiose ed urgenti. Un numero crescente di stati nel mondo oltre alla Cina sta implementando strumenti avanzati di sorveglianza dell’IA per monitorare, rintracciare e sorvegliare i cittadini per raggiungere una serie di obiettivi politici: alcuni legali, altri che violano palesemente i diritti umani e molti che cadono in una via di mezzo oscuro.

Questo è il quadro descritto da Carnegie Endowment for International Peace, uno dei più antichi e autorevoli think tank statunitensi di studi internazionali.

“La tecnologia legata alle società cinesi — in particolare Huawei, Hikvision, Dahua e ZTE — fornisce la tecnologia di sorveglianza dell’IA in 63 paesi, 36 dei quali hanno aderito alla Belt and Road Initiative cinese” afferma il Rapporto.
Oltre alle società cinesi, la giapponese NEC Corp. fornisce la tecnologia di sorveglianza dell’IA a 14 paesi e IBM Corp. degli Stati Uniti (IBM, Palntir e Cisco) lo fa in 11 paesi, secondo il rapporto Carnegie.

“Anche altre società con sede in democrazie liberali — Francia, Germania, Israele, Giappone — svolgono un ruolo importante nel proliferare di questa tecnologia”
Tutti questi paesi, evidenzia il Rapporto “non stanno però adottando misure adeguate per monitorare e controllare la diffusione di tecnologie sofisticate collegate a una serie di importanti violazioni”.

Gli esperti esprimono preoccupazione in merito ai tassi di errore del riconoscimento facciale e all’aumento dei falsi positivi per le popolazioni minoritarie. Il pubblico è sempre più consapevole dei pregiudizi algoritmici nei set di dati di addestramento di AI e del loro impatto pregiudizievole sugli algoritmi di polizia predittiva e altri strumenti analitici utilizzati dalle forze dell’ordine. Anche applicazioni IOT benigne — altoparlanti intelligenti, blocchi di accesso remoti senza chiave, display con trattino intelligente per autoveicoli — possono aprire percorsi problematici alla sorveglianza. Le tecnologie pilota che gli Stati stanno testando ai loro confini — come il sistema di riconoscimento affettivo di iBorderCtrl — si stanno espandendo nonostante le critiche che si basano su scienza difettosa e ricerca non comprovata.

Inevitabilmente sorgono le domande inquietanti sull’accuratezza, correttezza, coerenza metodologica e impatto pregiudizievole delle tecnologie di sorveglianza avanzate.

Ma non solo.

Una volta apprezzata la crescente ubiquità degli algoritmi e le loro potenzialità nel bene come nel male, e una volta compresa l’urgenza del tema, la necessità di pensare in modo critico e consapevole sui sistemi di sorveglianza e certo sugli algoritmi di AI in generale diventa evidente. Non servono, però, approcci solo teorici o peggio solo distopici. Parlando di intelligenza artificiale — ci riferiamo a qualcosa che in realtà ha zero intelligenza e zero semantica: il significato e il senso lo danno le persone. Che si parli di stato totalitario o di sorveglianza di massa piuttosto che di monopolio digitale e di capitalismo di sorveglianza, il solo discrimine e la vera ricchezza tra ciò che ci consentirà o meno di guidare consapevolmente ed efficacemente il percorso verso un progetto umano sostenibile e la necessaria riconciliazione tra l’umanità e lo sviluppo tecnologico, dipende in primis dall’uomo stesso.
“Il fine di ogni potere è il potere stesso”.

Se la strategia cinese mira al controllo totalitario della propria società e al predominio in campo scientifico entro il 2030, quella russa si concentra sulle applicazioni in materia di intelligence e d’altra parte, negli Stati Uniti, il modello liberista ha creato una biforcazione tra settore pubblico e privato, in cui i colossi tecnologici della Silicon Valley puntano alla mercificazione deregolata delle opportunità tecnologiche. E, ancora oggi, il ruolo dell’Unione Europea nell’ecosistema digitale globale è in gran parte ancora da decidere.

“E gli uomini vollero piuttosto le tenebre che la luce” come ha tradotto dal greco neotestamentario Giacomo Leopardi in epigrafe a La ginestra o il fiore del deserto.

Barbara Calderini