Finzione o realtà?
In una famosa serie televisiva della CBS, Person of Interest, andata in onda nel 2011, Harold Finch, un solitario scienziato informatico, aveva costruito un sistema di intelligenza artificiale chiamato "The Machine" che raccoglieva e analizzava ogni tipo di dato, dalle telecamere alle telefonate, per prevedere possibili vittime di omicidi.
Finch e il suo aiutante, John, il braccio armato, ex militare e agente segreto, seguendo la possibile vittima prevenivano il crimine. Oggi scopriamo che dei funzionari della sicurezza pubblica nella regione autonoma cinese dello Xinjiang stanno trasformando quella storia in realtà.
Uno sguardo a cosa accade
È stato appena svelato un enorme programma basato sui dati che attinge da record sanitari, dati finanziari, controllo dei veicoli e rapporti di polizia che ha come scopo identificare individui che potrebbero commettere crimini in questa regione nordoccidentale - e politicamente calda - della Cina.
L'iniziativa di questa polizia dei "big data" nello Xinjiang è stat lanciata nel 2016 ed è una delle numerose iniziative di contrasto al crimine avviate dal paese, grazie alle crescenti capacità cinesi nei campi dell'IA e della robotica.
Nella piazza Tiananmen di Pechino, robot che brandiscono Taser pattugliano folle di turisti. Mentre i robot girano di pattuglia lungo percorsi designati, i Taser vengono attivati da un agente che controlla il bot da remoto. A Zhengzhou, la capitale della Henan - una provincia centrale della Cina - robot simili vagano nella stazione dei treni ad alta velocità. Usano software di riconoscimento facciale per aiutare gli agenti a identificare i sospetti, interagire con i clienti e rispondere alle loro domande. Gli agenti di polizia della stazione indossano occhiali da sole con riconoscimento facciale, sviluppati dalla società tecnologica LLVision di Pechino, che riconoscono i documenti falsi e identificano in tempo reale i ricercati. E nella metropoli centrale di Wuhan, il Ministero della Pubblica Sicurezza si è unito al gigante tecnologico Tencent per sviluppare una stazione di polizia completamente automatizzata, guidata dalla tecnologia AI sviluppata da quest'ultimo.
Queste tecnologie, che potrebbero aiutare a correggere i punti deboli dell'infrastruttura di sicurezza pubblica cinese, hanno anche suscitato preoccupazioni per i possibili scenari di abuso che potrebbero generare. Di contro evidenziano i fattori chiave che aiutano la Cina a portare avanti l'uso dell'AI nelle attività di polizia. Il paese, che ha recentemente dichiarato il suo obiettivo di emergere come leader mondiale nell'AI e nella robotica, sta canalizzando ingenti investimenti in questi campi. E come stato a partito unico, può sposare questa tecnologia con la polizia, affrontando meno domande rispetto alle controparti democratiche.
Perché in CIna?
Kam C. Wong, un ex ufficiale di polizia e oggi professore emerito all'Università Xavier di Hong Kong, rileva: "Mentre un certo numero di paesi, tra cui gli Stati Uniti, vantano capacità tecnologiche analoghe a quelle che la Cina sta integrando nelle forze dell'ordine, considerazioni politiche rendono difficile per questi paesi seguirne l'esempio". Wong racconta che sebbene l'uso dell'AI per il Law Enforcement conosce alcune circostanze di applicazione negli Stati Uniti, di solito è fatto in maniera molto attenuata rispetto alla Cina.
In cina al momento la maggior parte delle iniziative si trova in una fase pilota e, pertanto, si tratta di progetti di dimensioni ridotte. Ma l'attrazione che le potenzialità dell'AI e della robotica ha sulle forze di polizia è immensa in un paese con una popolazione fluida e diversificata come quella cinese: circa 1,3 miliardi di persone con una forza di polizia relativamente sottosviluppata e non controllata centralmente. Se la sicurezza pubblica è la massima priorità - e i diritti umani sono in qualche modo vicini al fondo della lista aggiungiamo noi - come in Cina, questa attrazione può essere una forza quasi irresistibile.
Un drone gestito dalla polizia stradale pattuglia un'autostrada a Guangzhou, capitale della provincia meridionale del Guangdong, durante i tre giorni di vacanza del primo maggio 2016.
Alcune opinioni
Secondo Eda Erbeyli, project manager presso Daxue Consulting, con sede a Shanghai, la tecnologia sta aiutando a colmare il divario tra la polizia urbana e quella rurale. A Shenzhen l'Ufficio comunale di pubblica sicurezza sta sviluppando un sistema di cooperazione tridimensionale di intelligence in cui la polizia della città e la polizia rurale possono condividere contenuti tramite un enorme cloud di dati.
Nonostante tali iniziative, la polizia rurale non dispone delle infrastrutture di base per sviluppare i livelli di controllo attuati nelle città cinesi. Una grande maggioranza delle 170 milioni di telecamere a circuito chiuso del paese si trovano nelle aree urbane, secondo Erbeyli, e quelle che si trovano in campagna non sono solitamente collegate a piattaforme che consentono lo sviluppo di soluzioni basate sui big data.
A livello globale, l'uso dell'automazione nelle attività di polizia sta sollevando preoccupazioni molto più gravi della semplice efficacia e dell'inadeguatezza dell'infrastruttura. Per trovare un equilibrio tra privacy, diritti umani e l'enorme potenziale di queste tecnologie controverse, la piena trasparenza durante la transizione è di vitale importanza, secondo Simon Clifford.
Clifford che partecipa alle decisioni di un certo numero di organismi di tecnologie di polizia, tra cui come consulente digitale della polizia nel Comitato di sovrintendenza delle ICT per l'Inghilterra e il Galles, si dice molto preoccupato per i possibili scenari che potrebbero aprirsi.
Non è chiaro cosa stia realmente accadendo in Cina. Una direttiva governativa impedisce alla polizia di Pechino di discutere delle policies della polizia con chiunque non sia autorizzato, in particolare i media. Il dibattito sull'uso dei big data e sulla polizia predittiva ha attirato l'attenzione dei censori cinesi (tanto per l'online che per la stampa tradizionale).
Gloria Laycock, fondatrice del Jill Dando Institute of Security and Crime Science presso l'University College di Londra è perentoria: "Si possono fare queste cose solo in paesi dove non c'è supervisione democratica". La polizia potrebbe riesaminare con successo le riprese della CCTV e identificare i sospetti dopo le rivolte di Londra del 2011, riconosce la Laycock, ma il monitoraggio automatizzato attraverso l'intelligenza artificiale metterebbe le persone in grande disagio. "Le persone nelle società democratiche", continua la Laycock, "possono fidarsi del governo, ma sono sospettose dell'agire di quello che si chiama 'Stato' senza sapere veramente cosa sia o di chi si parli".
E i cinesi che ne pensano?
La risposta dei netizen cinesi è stata in gran parte più di una derisione che di preoccupazione: l'apparizione dei robot della polizia riceve la maggior parte dell'attenzione online in commenti molto diversificati. Un utente di Weibo descriveva i robot di Zhengzhou come "troppo carini", mentre un altro immaginava una delle macchine che mediava una discussione tra due cittadini arrabbiati.
Ma sono emerse anche preoccupazioni riguardo all'obiettivo finale della Cina, e se l'uso della tecnologia avanzata nella polizia sia qualcosa di più della semplice prevenzione della criminalità. "Il programma basato sui big data e la continua crescita nell'uso di telecamere a circuito chiuso con riconoscimento facciale per il monitoraggio dei cittadini riguarda in realtà la governance e il controllo delle masse", afferma Wong.
Echi internazionali
Human Rights Watch ha espresso preoccupazione per l'uso dei dati nelle aree di polizia dello Xinjiang dove le minoranze etniche sono spesso prese di mira da iniziative di pubblica sicurezza. Ma mentre queste preoccupazioni sono giustificate, specialmente quando si tratta di detenere persone per crimini che non hanno ancora commesso, Laycock mette in guardia dal considerare la tecnologia come intrinsecamente minacciosa. In molti casi, suggerisce, la tecnologia può migliorare l'efficienza e negare i tagli ai numeri delle forze di polizia.
Rimangono tante domande, a partire da come e se la Cina troverà questo equilibrio, tuttavia questi devices sono già operativi e il know-how cinese cresce di giorno in giorno. Il modello di sviluppo cinese nel campo delle AI, la facilità di messa in pratica di soluzioni globali e la noncuranza con cui si mettono in piedi sistemi che sembrano negare anche i più basilari diritti umani rendono la Cina un incubatore di innovazione dai toni molto foschi. La questione sul futuro delle Ai di nuovo coinvolge un modello di sviluppo socio-economico e ci interroga eticamente.