Proviamo a leggere alcuni episodi dei mesi scorsi che sembrano far emergere come il panorama tecnologico delle AI sia sempre meno tecnologico e sempre più strategico e connesso alla politica internazionale. Nelle riflessioni che seguono proviamo a fare un bilancio e una lettura della situazione.
Progressi nel campo delle AI e del machine learning Gli ultimi anni hanno visto gli sviluppi nella ricerca e nella commercializzazione del machine learning che sono stati piuttosto sorprendenti. Solo alcuni esempi:
Il riconoscimento delle immagini inizia a raggiungere una precisione a livello umano in attività complesse come, ad esempio la classificazione del cancro della pelle .
Registriamo grandi passi avanti nell'applicare reti neurali alla traduzione automatica su Baidu, Google, Microsoft, ecc. Il sistema Microsoft raggiunge risultati equivaleti a quelli umani nella traduzione mandarino-inglese di notizie (il confronto è con traduttori non esperti).
A marzo 2016, DeepMind ha sviluppato AlphaGo - il primo programma per computer che ha sconfitto un campione del mondo a Go. Ciò è significativo dato che i ricercatori di machine learning stanno cercando di sviluppare un sistema in grado di sconfiggere un giocatore professionista per decenni. AlphaGo è stato addestrato su 30 milioni di mosse giocate da esperti umani.
18 mesi dopo, DeepMind ha rilasciato AlphaZero. A differenza di AlphaGo, AlphaZero non ha utilizzato alcuna mossa giocata in precedenza da esperti umani per allenarsi. Invece, ha imparato solo giocando contro se stesso. AlphaZero non solo era in grado di sconfiggere il suo predecessore AlphaGo, ma in quello che è noto come 'transfer learning' era anche in grado di sconfiggere i migliori computer di scacchi e shogi. I principali ricercatori di ML hanno costantemente rimarcato il significato "inquietante" di un algoritmo più semplice che utilizzava zero dati umani finendo per essere più competente e mostrare più "intelligenza trasferibile". Ovviamente c'è un enorme divario tra la realizzazione di AlphaZero e la cosiddetta Intelligenza Generale Artificiale, ma nondimeno c'è la sensazione che questo possa essere un altro piccolo passo in quella direzione.
Oltre alla ricerca, sono stati compiuti incredibili progressi nell'applicare il machine learning ai grandi mercati, dai motori di ricerca (Baidu) al targeting degli annunci (Facebook) all'automazione dei magazzini (Amazon) a molte nuove aree come le auto a guida autonoma, la scoperta di nuovi farmaci, la sicurezza informatica e la robotica . CB Insights offre una buona panoramica di tutti i mercati in cui le start-up stanno applicando l'machine learning a oggi.
Questo rapido ritmo di cambiamento ha portato i principali professionisti nel mondo delle AI a pensare seriamente al loro impatto sulla società. Persino in Google, la quintessenza delle società di machine learning applicata della vita di ciascuno di noi, la dirigenza sembra stia allontanandosi da una posizione tecno-utopica e stia iniziando a riconoscere pubblicamente i rischi che ne derivano nella ricerca e nella commercializzazione accelerata delle Ai e del machine learning:
Come influenzeranno l'occupazione in diversi settori? Come possiamo capire cosa stanno facendo sotto il cofano? Che dire delle misure di equità? Come potrebbero manipolare le persone? Sono al sicuro? - Sergey Brin, aprile 2018
Tre forme di instabilità Però perché tutto questo dovrebbe importare agli stati nazionali? Esistono 3 modi principali in cui accelerare i progressi nel machine learning potrebbe creare instabilità nell'ordine internazionale:
Le applicazioni commerciali di machine learning creeranno un grande numero di nuove imprese e distruggeranno milioni di posti di lavoro. Nello scenario più estremo, il paese che investirà più efficacemente nelle AI e nel machine learning potrebbe divenire il più forte economicamente.
Il machine learning consentirà nuove modalità di guerra - tanto mediante sofisticati cyber attacchi e nuove capacità di cyber difesa, quanto varie forme di armi autonome e semiautonime, ad esempio il missile anti-nave a lunga gittata di Lockheed Martin. Nello scenario più estremo, il paese che investe per primo e in modo più aggressivo può giungere a una posizione di supremazia militare.
Lo sviluppo di un'AI maggiormente general pourpose consentirà una fondamentale accelerazione nella ricerca scientifica e tecnologica. A mio giudizio è questa la fonte più profonda di instabilità. Si consideri ad esempio lo stato la cui leadership nelle AI consentisse a quel governo di sviluppare una soluzione viabile per un reattore a fusione per la produzione di energia elettrica: nello scenario più estremo ciò potrebbe consentire a un paese di raggiungere una supremazia tecnologica degna di un romanzo di fantascienza.
Il machine learning, per usare le espressioni di Jack Clark, è una tecnologia omnidirezionale e unica che potrebbe avere un impatto su quasi ogni area della politica nazionale. L'intelligenza umana ha modellato tutto quello che vediamo intorno a noi, quindi la nostra capacità di costruire macchine con intelligenza sempre maggiore potrebbe alla fine avere lo stesso impatto.
Nonostante ciò, possiamo trovare alcuni paralleli storici per aiutarci a pensare a come le cose potrebbero svolgersi. La tecnologia nucleare è una tecnologia a duplice uso, conosce tanto usi civili che militari (armi nucleari, radiografia, generazione di energia) così come il petrolio (il cui uso si è esteso dall'illuminazione al riscaldamento, a una gamma incredibilmente ampia di usi industriali e militari). Entrambe queste tecnologie hanno avuto un'enorme influenza sulla geopolitica e relativamente rapidamente i governi sono diventati attori primari nel controllo e sviluppo di queste fonti tecnologiche e lo sono ancora oggi (considerate le 6.800 testate nucleari americane oi 695 milioni di barili di petrolio stoccati nella Strategic Petroleum Reserve del governo USA).
Governi ambiziosi hanno già iniziato a vedere il machine learning come la tecnologia di differenziazione principale del ventunesimo secolo e una gara tra stati e potenze globali è già iniziata. Questa forse avrà una certa somiglianza con la corsa agli armamenti nucleari del secolo scorso e alle tensioni geopolitiche e alle alleanze tra stati nazionali e compagnie multinazionali che abbiamo visto con il petrolio. La supremazia economica, militare e tecnologica è sempre stata una motivazione estremamente potente per i paesi.
Il mix industriale, il costo del lavoro, i dati demografici e i campioni nazionali Mentre le ampie minacce e i benefici di una politica di intelligenza artificiale lungimirante sono comuni tra gli Stati, l'impatto del machine learning varierà sostanzialmente da paese a paese:
In primo luogo, ogni paese ha un diverso mix di industrie dominanti e l'automazione non interesserà tutte le industrie allo stesso ritmo. Guardiamo per esempio ai settori manifatturiero e delle costruzioni. Il settore delle costruzioni ha iniziato solo recentemente a essere trasformato da tecnologie digitali come il Building Information Modeling, mentre la produzione ha già visto da tempo applicazioni sostanziali di robotica e automazione. Questo è chiaro se si guarda in modo comparato i loro guadagni di produttività dal 1995:
L'impatto su salari e posti di lavoro sarà percepito in modo molto diverso dai paesi i cui settori industriali principali sono stati automatizzati prima. Prendiamo ad esempio la Germania, dove l'industria automobilistica rappresenta oltre il 10% del PIL. Questi paesi saranno maggiormente influenzati dalle dinamiche che circondano le auto a guida autonoma rispetto, ad esempio, al Regno Unito, dove l'industria automobilistica contribuisce al 4% del PIL.
In secondo luogo, ogni paese ha un costo del lavoro diverso rispetto al quale le macchine sono attori antagonisti. Ad esempio prendiamo una società che utilizza la robotica per servizi di pulizia come la Avidbot. Questa start-up ha sede a Waterloo, in Canada, e produce robot industriali che utilizzano la visione artificiale per pulire grandi spazi commerciali ad un prezzo inferiore rispetto a qualsivoglia team di pulizia umana nella maggior parte dei paesi sviluppati. Stanno ricevendo ordini per i loro robot da tutto il mondo; tuttavia, la crescita è più rapida in Australia a causa dei maggiori costi della manodopera nel settore delle pulizie che ha questo stato.
Questo grafico mostra bene come le conseguenze economiche dell'automazione possono variare in base al paese:
Se l'analisi dell'OCSE è corretta dal punto di vista previsionale, la Slovacchia dovrà affrontare una sfida più grande a breve termine rispetto alla Norvegia, con il doppio dei posti di lavoro messi a rischio dall'automazione.
In terzo luogo, come Kai-Fu Lee ha mostrato molto bene in un suo recente articolo sul New York Times, solo l'America e la Cina attualmente sono la base delle più grandi compagnie di AI - Google, Apple, Amazon, Facebook, Baidu, Tencent e Alibaba. La strategia industriale nazionale sarà molto diversa se si sarà nei paesi di queste società rispetto a uno stato che ne dovesse essere un cliente.
Infine, dopo che l'AI avrà impattato sul mercato del lavoro, diversi paesi avranno atteggiamenti molto diversi rispetto alla redistribuzione, e ciò influenzerà significativamente il modo in cui si approcceranno alla ridistribuzione del valore creato dall'automazione. Vale la pena notare che, mentre sia la Cina che l'America sono i paesi madre delle principali compagnie di AI, entrambi hanno anche livelli di disuguaglianza di reddito al livello o vicino al livello dei loro picchi storici.
La linea di confine tra pubblico e privato si sfoca Tutto questo scenario viene complicato dal fatto che ci sono attori non statali incredibilmente potenti che sono anche in competizione furiosamente tra loro per sviluppare questa nuova tecnologia. Tutte le 7 più importanti aziende tecnologiche del mondo - Google, Apple, Amazon, Facebook, Alibaba, Tencent, Baidu - stanno facendo enormi investimenti nell'AI, dalle strutture di basso livello e dal silicio ai prodotti di consumo. Inutile dire che la loro esperienza nel machine learning spinge e guida attualmente qualsiasi attore statale.
Man mano che le applicazioni del machine learning crescono, le interazioni tra queste aziende e diversi stati nazionali aumenteranno in complessità. Si consideri ad esempio il trasporto su strada, ci stiamo gradualmente spostando verso la domanda, le auto autonome. Ciò sfocherà sempre più la linea tra i trasporti di massa finanziati con fondi pubblici (ad esempio un autobus) e il trasporto privato (un Uber condiviso). Se questo dovesse portare a un nuovo monopolio nel trasporto su strada questo dovrebbe essere gestito dallo stato (come ad esempio a Londra la "Khan's Cars") o da una società britannica, o da una società multinazionale come Uber?
Come Mariana Mazzucato ha delineato nel suo fantastico libro The Entrepreneurial State, gli stati hanno storicamente svolto un ruolo cruciale nello sviluppo di ricerche a lungo termine e ad alto rischio in campo scientifico e tecnologico finanziando sia la ricerca accademica che quella militare. Queste tecnologie poi sono spesso commercializzate da società private. Con l'avvento di società tecnologiche visionarie e ricche come Google stiamo assistendo a una ricerca a lungo termine e ad alto rischio finanziata dal settore privato. DeepMind è un primo esempio di questo fenomeno.
Questo potrebbe creare una grande tensione se gli interessi di un'azienda privata come Google e di uno stato non saranno allineati. Un esempio di tutto ciò sono le recenti interazioni commerciali tra Google e il Pentagono, che hanno generato la protesta di oltre 4000 dipendenti di Google contro la partecipazione della società allo sviluppo di tecnologie belliche. Questo ha spinto Google a non rinnovare il suo contratto con il Pentagono. Questo è un argomento in rapida evoluzione. Solo una settimana prima, Sergey Brin aveva detto che "aveva capito la controversia e aveva ampiamente discusso la questione con Mr. Page e Mr. Pichai. Tuttavia, ha riportato che pensava che sarebbe stato meglio per la pace se le forze armate del mondo si fossero interconnesse con organizzazioni internazionali come Google piuttosto che lavorare esclusivamente con appaltatori della difesa nazionalisti".
AI con caratteristiche cinesi Nello sviluppo di una strategia nazionale per l'intelligenza artificiale, la Cina è ben al di sopra di tutti gli altri stati. Possiamo chiamare questo lo sviluppo di 'AI con caratteristiche cinesi'. Per la Cina negli ultimi vent'anni, il protezionismo è stato una strategia vincente nello sviluppo di società tecnologiche domestiche durature, e in ultima analisi ha permesso alla Cina di essere l'unico altro paese al mondo con le compagnie di intelligenza artificiale a competere con quelle americane. Al di là di questo, le aziende di tecnologia della Cina sono molto più accoppiate ai dettami della politica nazionale di quanto questo avvenga per esempio nel Regno Unito o negli Stati Uniti, con azioni del governo cinese per prendere una partecipazione di capitale in loro tramite "azioni speciali di gestione" pari all'1%.
Alcuni aspetti degni di nota dei primi sforzi della Cina nello sviluppare un nazionalismo delle AI:
La Cina ha un obiettivo esplicito sviluppato al più alto livello di governo per diventare il leader mondiale nell'intelligenza artificiale entro il 2030. Come nota Jeff Ding, la Cina si considerava in dietro rispetto agli Stati Uniti in materia di intelligenza artificiale e questo è stato uno sforzo importante per recuperare il gap.
La Cina si è impegnata in un parco tecnologico di 2 miliardi di dollari a Pechino.
La Cina ha sviluppato il "Big Fund" (il Credit Suisse stima un investimento totale pari a circa 140 miliardi di dollari) per far crescere l'industria cinese dei semiconduttori. Le prestazioni dei semiconduttori sono un fattore chiave per il progresso nella ricerca e nelle applicazioni del machine learning.
Lo stato sembra focalizzare esplicitamente i propri campioni nazionali - cioè le proprie aziende leader in materia di AI - su campi chiave, ad esempio Tencent nella computer vision per l'imaging medico e Baidu per la guida autonoma.
Lo stato cinese sembra aver riconosciuto l'importanza dei dati per i suoi sforzi di nazionalizzazione delle AI. L'ultima legge cinese in materia di sicurezza informatica impone la revisione dei dati esportati fuori dalla Cina.
La Cina sta implementando specifici incentivi per i talenti internazionali nel mondo delle AI per incentivarli a trasferirsi in Cina.
Gli effetti di questa politica stanno cominciando a farsi sentire. Andrew Moore, Preside della facoltà di Computer Science alla Carnegie Mellon, ha stimato che la percentuale di documenti inviati dalla Cina alle grandi conferenze di AI è passata dal 5% di un decennio fa al 50% di oggi (la cosa è discussa per otto minuti in questa intervista). Ciò presuppone che la Cina pubblichi apertamente tutta la sua ricerca. La quantità ovviamente non è la stessa cosa della qualità e per ora i ricercatori con sede in Nord America e in Europa rimangono i più influenti (si veda il ranking di Google Scholar sulle citazioni). Sembra ragionevole presumere che questo divario inizi a colmarsi.
Al di là della ricerca, le startup cinesi nel mondo delle AI hanno raccolto per il mondo delle start-up lo scorso anno un sorprendente 48% dei finanziamenti globali erogati, rispetto all'11% del 2016.
Probabilmente l'anello più debole della strategia sulle AI in Cina è attualmente nella capacità di progettazione dei semiconduttori, da qui la centralità sia del Big Fund che del piano Cina 2030 e la crescente tensione tra Stati Uniti e Cina in quest'area. Gli Stati Uniti, ad esempio, hanno bloccato l'acquisizione da 117 miliardi di dollari da parte dei cinesi di Qualcomm . Le importazioni annuali cinesi di prodotti correlati ai semiconduttori sono ora pari a 260 miliardi di dollari e sono recentemente aumentate rispetto alla spesa nazionale per il petrolio.
I grafici seguenti illustrano le lacune che la Cina sta cercando di colmare nel campo dei semiconduttori e quanto sono più piccole le aziende cinesi rispetto ai leader del mercato statunitense, taiwanese o sudcoreano. Ciò suggerirebbe anche che Taiwan e la penisola coreana diventeranno un'area ancora più geopoliticamente strategica per la politica estera statunitense e cinese.
Eventi chiave nella corsa alle AI come armamenti Mentre la Cina ha la posizione pubblica più sviluppata e chiara sul nazionalismo delle AI, esiste una concorrenza chiara e crescente tra i principali paesi per guidare il mondo delle AI. L'espressione corsa agli armamenti va capito in senso figurato per descrivere una dinamica competitiva tra attori in cui il valore che stanno creando è in parte una funzione della loro forza relativa rispetto a un concorrente. C'è anche una componente minore di tutto questo che è una corsa agli armamenti letterale, in cui gli stati sono focalizzati su armi autonome e semi-autonome e capacità di machine learning abilitanti a un cyber-attacco e alla cyber-difesa.
Ecco una lista di eventi chiave degli ultimi anni per quanto mi riesce di ricordare.
2014:
La Cina lancia il National Investment Circuit Investment Fund (noto anche come "Big Fund" con 138 miliardi di yuan (21,9 miliardi di dollari) per promuovere l'industria dei semiconduttori alle prime armi.
2015:
2016:
La Casa Bianca di Obama pubblica un rapporto sul futuro dell'intelligenza artificiale. Il rapporto è ampiamente letto e discusso in Cina. Spesa del governo degli Stati Uniti di 1,2 miliardi di dollari in ricerca e sviluppo in ambiti non segretati legati al mondo delle AI. AlphaGo come "momento Sputnik" per la Cina e le AI. Sessanta milioni di persone guardano live i match di AlphaGo contro Lee Sedol. Per noi occidentali che non capiamo il significato storico e la popolarità del Go in Cina, dobbiamo considerare la vittoria di AlphaGo analoga a uno scenario in cui Tencent avesse sviluppato una squadra di robot umanoidi in grado di giocare a calcio e avesse poi sconfitto il Real Madrid nella finale di Champions League. Data la profonda storia di Go come veicolo per la strategia militare, anche l'esercito cinese ne prende atto. Si iniziano a tenere workshop di “Sintesi del gioco tra l'AlphaGo e Lee Sedol e l'automazione mediante AI del Comando Militare e del processo decisionale”. In parte in risposta ad AlphaGo, la Corea del Sud annuncia investimenti per 863 milioni di dollari nella ricerca su l'intelligenza artificiale nei seguenti 5 anni. La Germania non riesce a impedire l'acquisizione cinese del produttore industriale di robotica Kuka per 4,5 miliardi di euro.
2017:
AlphaGo ha sconfitto il numero 1 del mondo nel gioco del Go Kie Jie 3-0 a Wuzhen, in Cina. La copertura video in diretta di AlphaGo contro Ke Jie è stata bloccata in Cina. La Cina annuncia un piano profondamente ambizioso per diventare il leader mondiale nell'intelligenza artificiale entro il 2030. Il Pentagono solleva pubblicamente preoccupazioni in merito al trasferimento di tecnologia dagli Stati Uniti alla Cina in varie aree collegate all'AI. Uso crescente di CFIUS (Comitato per gli investimenti esteri negli Stati Uniti) per bloccare acquisizioni e investimenti in società tecnologiche statunitensi da parte di società o investitori cinesi. Non limitato alle società statunitensi - ad esempio, CFIUS era anche utilizzato per bloccare l'acquisizione cinese di Aixtron (produttore tedesco di apparecchiature per chip utilizzato nei sistemi di armi statunitensi).
2018 (ad oggi):
Gennaio: la Francia annuncia che le acquisizioni straniere di compagnie che operano nel campo delle AI saranno soggette all'approvazione del governo. Marzo: la Francia annuncia il suo piano per le AI - prevede di investire 1,5 miliardi di euro in 4 anni. Il ruolo della Francia è definito da Cédric Villani. Trump utilizza CFIUS per bloccare l' acquisizione di Qualcommm. Aprile: il Regno Unito annuncia il suo piano sulle AI per investire 600 milioni di sterline nei prossimi anni (la spesa annuale esatta non è chiara). La Commissione UE annuncia il desiderio di investire 20 miliardi di euro nelle AI entro il 2020. Gli Stati Uniti considerano l'utilizzo dell'International Emergency Economic Powers Act per andare oltre il blocco degli investimenti e delle acquisizioni cinesi arrivando per bloccare potenziali partnership commerciali tra aziende americane e cinesi. Maggio: la Corea del Sud espande il piano sulle AI 2016 a 2,2 miliardi di dollari in investimenti includendo al creazione di 6 nuovi istituti per l'intelligenza artificiale, un fondo di 1 miliardo di dollari per lo sviluppo di semiconduttori specifici per le applicazioni nel campo delle intelligenze artificiale e un obiettivo globale per raggiungere "il vertice delle AI entro il 2022".
Non ho notizie né di un dibattito italiano né dell'esistenza di piani analoghi per l'Italia.
Conclusioni
I continui e rapidi progressi delle AI e del machine learnig stanno facendo emergere di un nuovo tipo di geopolitica tecnologica che potremmo chiamare il nazionalismo delle AI. Il machine learning è una tecnologia omnidirezionale che sta entrando in contatto con tutti i settori e le parti della società. Le Ai non solo stanno producendo una radicale trasformazione dell'economia ma anche degli eserciti e delle forze armate. Sembra probabile che il machine learning creerà instabilità a livello nazionale e internazionale costringendo i governi ad agire.
La gestione politica delle AI diventerà forse l'area più importante delle politiche industriali e globali di un governo. I paesi più importanti saranno impegnati in una nuova corsa agli armamenti accelerata da queste tecnologie e probabilmente assisteremo a un aumento delle azioni di tipo protezionistico dei vari stati leader del settore per sostenere le eccellenze nazionali, bloccare le acquisizioni di imprese straniere e attrarre talenti.
Probabilmente presto vedremo i primi passi di questa agenda tecno-nazionalista. Tuttavia c'è una differenza profonda tra la previsione che qualcosa accadrà e il credere che questo scenario sia una buona cosa. Il nazionalismo è un sentiero pericoloso, in particolare quando l'ordine internazionale e le norme internazionali sono ancora flebili e insufficienti.
Diviene urgente una riflessione sistematica e globale, sopratutto come paese, di questi temi attivando piani di sviluppo e progetti che ci possano permettere di vivere questa nuova stagione globale che, come nelle stagioni precedenti, è composta di sfide sociali, tecnologiche e geopolitiche.
Serve un'alleanza interdisciplinare tra le varie parti della società civile per cercare e sviluppare il bene del paese.