Antropologia per Intelligenze Artificiali: quale cultura vincerà la corsa all'IA?

Ci saranno tante intelligenze artificiali? Saranno in guerra tra loro? L'Europa ha un futuro nella tecnologia?

and

Feb 08, 2024

Le differenze tra Occidente e Oriente sono reali, vive, e si trasmettono oggi nel processo e negli output di innovazione. L’IA, così come un qualunque prodotto umano, è direttamente influenzato dal contesto in cui viene sviluppata
Al momento i due grandi modelli di IA e di ecosistema di innovazione sono Stati Uniti e Cina: l’Europa, sempre più silente, si sta creando la nicchia della verticalità regolamentare, che serve, ma non produrrà il valore aggiunto che raccoglieranno le due grandi potenze
Il confucianesimo contrapposto al Viaggio dell’Eroe: l’Occidente legato alla figura dell’eroe/eroina individualista, che può essere esempio ispiratore ma anche figura divisoria in un dibattito sempre più sclerotizzato e polarizzato
Il capitalismo della sorveglianza occidentale, silente e ignorato, contrapposto al socialismo della sorveglianza, visibile e accettato

Conosco Filippo Lubrano da anni oramai, e la pubblicazione del libro Antropologia per intelligenze artificiali mi ha subito attirato. Prima di tutto perché usa il plurale nel riferirsi all’IA, dando per scontato che il racconto hollywoodiano della super-IA cattiva che vuole conquistare il mondo sia, per l’appunto, un racconto, e in secondo luogo perché parla di antropologia, e quindi di culture, di società.

Il libro parte infatti da una riflessione: lo sviluppo dell’IA cambia se cambia la cultura in cui l’IA viene sviluppata? L’IA al servizio del socialismo della sorveglianza di stampo cinese sarà diversa dall’IA del capitalismo della sorveglianza americano, o dall’IA super regolamentata che (forse) l’Europa proverà a sviluppare?

Ci siamo presi un po’ di tempo per fare qualche riflessione ad alta voce.

Copertina del libro

Vorrei partire un po’ dal fondo, e in particolare da una storia che mi ha sempre colpito. L’Impero di Mezzo, il paese più tecnologicamente avanzato al mondo e più potente, decide di chiudersi su se stesso e rinunciare all’esplorazione dei mari e degli oceani. A prima vista quasi una decisione irrazionale, ma a posteriori è sempre facile dirlo. Eppure, questa storia mi fa pensare tanto alla nostra Europa, e una serie di decisioni, di prudenze e al trend di chiusura verso le nuove tecnologie che stiamo seguendo, fosse anche su archi di decine di anni. Pensi sia un paragone corretto?

Sì, anche se c'è una grossa differenza tra le due aree. Il primo movimento (quello cinese) è consapevole; quello europeo non pienamente. Ci stiamo ritrovando in una situazione che porterà a un fenomeno simile, ma non lo facciamo per scelta: lo facciamo semplicemente perché, come diceva la Thatcher, "there is no alternative".

Non è un caso che quel che stiamo facendo adesso è specializzarci nella regolamentazione: all’interno dell’AI Act hanno inserito una parte dove si dice che sarà promosso il germogliare di un ecosistema di startup sulla AI, ma, alla realtà dei fatti, quel che vediamo è che noi non abbiamo un campione tecnologico europeo e abbiamo perso praticamente tutti i treni fondamentali, dall’informatizzazione all’AI.

L’Europa ha messo davanti a tutto la protezione dell’individuo, che può avere certamente un’accezione positiva, ma può anche avere effetti negativi molto grandi sul mercato. Penso al GDPR, che è il fiore all’occhiello della protezione privacy a livello globale, ma lo stesso GDPR blocca molto spesso l’uso che si può fare di dati per R&D, ricerca accademica, sviluppi a livello sia pubblico che privato.

Eticamente, è la cosa giusta da fare. Ma riflettiamo un momento, anche solo limitandoci all’Italia: per come è fatto il nostro ecosistema di medio-piccole imprese, soprattutto piccole se non micro, nel momento in cui metti tutti questi paletti (GDPR, Ai-Act,…), si farà una grande fatica perché tutti questi mini-centri che non hanno mai fatto sistema riescano a raggiungere la massa critica per superare la soglia necessaria a diventare rilevanti: nelle startup italiane, per le valutazioni che girano, non ci si può permettere di avere dei reparti dedicati alla privacy o al fair-training degli algoritmi. Per la nostra struttura economica, queste iniziative rischiano di diventare un ostacolo non trascurabile.

Andiamo sul libro. Tu parli di Intelligenze Artificiali, ovvero le IA saranno tante e diverse, collegate a diversi contesti sociali e culturali. Da una parte Cina e Stati Uniti, dall’altra noi, quasi come se fossimo chiusi nel nostro castelletto, spaventati dai barbari innovatori che si combattono attorno a noi. La mia preoccupazione, e non so se condividi, è che se (o quando) le IA dei due poli opposti nel mondo si combatteranno, noi non avremo nulla per difenderci se non, appunto, un sistema regolatorio, e quindi il nostro fossato.

Se ci pensi, in un mondo che è sempre più multipolare, questa suddivisione già esiste da diversi anni, e su ambiti ben più ampi della pura tecnologia IA. Pensa a internet, che è già sottodivisa in gruppi: in Russia hanno una esperienza di internet che è diversa dalla nostra, in Cina un’altra, e così ogni singolo blocco. Noi spesso tendiamo a vedere l'occidente come il mondo e quindi Europa e Stati Uniti che si parlano, parlano una stessa lingua, però c'è un resto del mondo che ha regolamentazioni totalmente diverse e già adesso esperisce internet in maniera profondamente diversa. Questo creerà sempre più cluster: per l’IA, noi oggi usiamo ChatGPT, ma in Cina ne usano altre, totalmente diverse.

Un recente esempio significativo è questo: in un test hanno usato i tre principali modelli IA occidentali e i tre principali cinesi, ponendo la stessa domanda: com’è andato il 2023 in Cina in una parola? Le risposte sono state non solo diverse ma opposte: le IA occidentali hanno parlato di cambiamento, quelle cinesi di solidità. E questa risposta va oltre il sistema di propaganda cinese, è proprio inscritto nell'algoritmo stesso. Quel che probabilmente accadrà è che, mano a mano che sostituiamo l’IA ai motori di ricerca nella nostra esperienza quotidiana, avremo risposte sempre più clusterizzate, e parti del mondo sempre più cieche le une alle altre.

Un ufficio con elementi orientali e occidentali, Midjourney, immagine mia

Ricordo una tua intervista a Federico Rampini sul libro Occidente Oriente1, di cui consiglio la lettura, e ho avuto una percezione molto simile nel tuo libro: tu sei Occidentale e descrivi l’Oriente in modo molto approfondito. Però la mia percezione non è solo la tua volontà di provare a trasmettere quel che hai appreso dalla tua esperienza, ma un allarme su quanto la Cina ci stia distaccando e quanto noi occidentali stiamo rimanendo indietro, e di una cultura che si sta consolidando, che noi non conosciamo, e che è molto più dinamica e molto più aggressiva della nostra attuale.

Fino al primo decennio degli anni Duemila tutti avevano una percezione della Cina come la fabbrica del mondo, arretrata, dove si fabbricavano le cosiddette cineserie, quindi manufatti super low cost. Solo oggi iniziamo ad accorgerci anche qui in Occidente che invece sono avanzati molto più di quel che possiamo immaginare. Una delle esperienze che mi è rimasta più impressa da un viaggio nel 2014, e che infatti riporto nel libro, è che, passeggiando per le strade di Shanghai, mi sono accorto che ero praticamente l’unico in tutta la città a usare il contante. Tutti usavano QR-Code, WeChat, Alipay, eccetera, e a un tratto mi imbattei in un mendicante: non chiedeva l'elemosina con una ciotola per gli spiccioli, ma con un QRCode appeso al collo.

Questo episodio dà un po’ l’idea di come l’Impero di Mezzo si stia trasformando: digitalizzazione totale, Social Credit System, IA, andando a comporre il sistema d’innovazione più avanzato al mondo. Ci sono interi verticali su cui la Cina oramai è prima al mondo: pensiamo a Huawei sul 5G, e al conseguente scontro geopolitico con l’Occidente, alle tecnologie per droni con DJI, o a Hikvision, le telecamere di sorveglianza che costituiscono per distacco il maggior player mondiale… Il dramma è la grande ignoranza nostra, soprattutto sul processo d’innovazione che vige in Cina.

Per fare un esempio, noi diamo per scontato che lo Stato cinese finanzi a pioggia per creare innovazione. In realtà non è così: prima lascia che siano i migliori a scontrarsi e a selezionarsi tra loro, e poi solo su chi emerge viene fatto un investimento importante. Se ci pensi è lo stesso tipo di selezione che si svolge a livello politico, su cui c’è poca consapevolezza nell’opinione pubblica occidentale: c’è Xi Jinping alla guida del Paese, certamente, ma Xi Jinping deve interfacciarsi con duecento probi viri di Partito, che a loro volta sono stati selezionati in quello che noi, in Occidente, chiameremmo Cursus Honorum: non si può accedere a un livello successivo se non si è svolta un’esperienza al gradino più basso, con successo e supporto da parte delle comunità gestite.

E questo, immagino, ha un impatto anche sull’innovazione. Nelle democrazie occidentali abbiamo cicli politici brevi, se non brevissimi, che non permettono una vista di lungo termine. Penso agli editoriali del The Economist, che da mesi solleva preoccupato il tema della rielezione di Donald Trump.. ma se ci pensiamo Joe Biden è in carica da appena tre anni, un lasso di tempo ben diverso dai trenta su cui lavora la politica cinese.

Esatto. Pensiamo al piano Made in China, lanciato nel 2013 con obiettivo al 2025 per creare una manifattura avanzata e non solo a imitazione dell’industria occidentale: sui verticali di cui parlavamo, e molti altri, l’obiettivo è stato raggiunto. Oppure pensiamo alla visione 2049, per il centenario della Repubblica Popolare, visione iniziata ben prima di Xi Jinping, ma nel cui solco lo stesso Xi deve inserirsi. Se ci pensi è completamente l’opposto rispetto alla nostra politica, dove smarcarsi da chi è venuto prima è una regola per poter mantenere il consenso popolare, e infatti in Italia abbiamo stipendi fermi dal Duemila, problematiche che ci portiamo dietro da decenni e non vengono risolte e un sistema innovativo-imprenditoriale sostanzialmente immobile. Con questo non sto idealizzando il modello cinese, che ha evidenti criticità che conosciamo bene: sto solo cercando di ribilanciare parzialmente la narrazione anche sulle parti meno note al pubblico occidentale.

Vorrei approfondire questo aspetto. Tutta la prima parte del libro è dedicata a spiegare come e quanto il confucianesimo penetri il tessuto sociale, politico, economico cinese, e come si contrapponga al razionalismo occidentale e al retroterra che ci avvolge da già ben prima che l’Illuminismo divenisse il sistema vigente. Un tema mi ha colpito nel libro: l’idea dell’eroe. Noi in Occidente abbiamo gli eroi, personaggi forti e carismatici, individualisti ed eccezionali che lottano e superano ogni difficoltà: abbiamo i Sam Altman, Elon Musk con i suoi alti e bassi, ma prima Steve Jobs e Bill Gates, e tornando indietro i Michelangelo, i Leonardo, gli Achille e gli Odisseo. Nel sistema confuciano no, o meglio, meno accentuato. Un po’ come scriveva Tolstoj in Guerra e Pace, la Storia è l’integrale di tutte le micro-storie di chi vive in un certo periodo storico, e non la storia dei singoli eroi: pensi che questa visione abbia un impatto oggi?

Credo che questo sia soprattutto un tema di narrazione. In tutto il mondo i sistemi di innovazione si assomigliano molto. Thomas Edison non è solo nell’invenzione della lampadina, ma esiste sempre e ovunque un humus di innovatori, all'epoca soprattutto localizzati geograficamente, da cui poi qualcuno, magari in alcuni casi sgomitando, riesce a emergere. Questo aspetto è comune in Occidente quanto in Oriente. La maniera in cui la si racconta cambia totalmente. Certamente, la visione socialista va molto più nella direzione di dire che siamo tutti uguali e non c’è nessuno che realmente ha inventato qualcosa. E questo accade in ambito d’innovazione, quindi tecnologico, ma anche in ambito artistico: al Museo Nazionale di Taipei, che è il museo con gli artefatti più importanti di tutta la Cina, è significativo che i due manufatti più rilevanti e iconici raffigurano cose da mangiare. E, soprattutto, che sono anonime: tutto ciò che conta è che siano della dinastia Ming e Tang, ma nessuno conosce il nome dell'artista.

Il nostro anonimo fiorentino del Cinquecento…

Esatto. Non hanno i nostri Leonardo, non hanno questi riferimenti, o meglio sono molto rari: il tema è che non hanno un pantheon che assomiglia al nostro. Noi abbiamo bisogno di venerare delle persone; in Cina, nella visione confuciana, no.

Rifletto su questo tema se sia positivo o negativo per noi occidentali. Da una parte, è positivo l’idea dell’esempio del singolo che sprona a mettersi in gioco, ma dall’altra legare troppe emozioni a una singola persona rischia la polarizzazione delle idee, il gossip divisivo, soprattutto sui social: penso a Elon Musk con i suoi cambi di rotta su X (prima Twitter) o quanto accaduto intorno a Sam Altman non più tardi di due mesi fa.

Storicamente credo sia stato un potenziale motore di innovazione; ora la vedo quasi all’opposto. Senza prendere per forza l’esempio della celebrità, anche solo nel giro delle persone che conosco, nel giro degli scrittori, tutti ambiscono ormai a quello sweet spot in cui sei autorevole ma non ancora famosissimo, per evitarti l’enorme sforzo cognitivo del dover gestire shitstorm e community di follower ed hater, ora che ogni tema e ogni personaggio diventa estremamente divisivo.

Tornando al libro, e in particolare alla seconda parte, parliamo di prospettive dell’IA. So che condividi le riflessioni dell’articolo che avevo scritto in proposito (qui il LINK), ma ti chiedo, forse anche in una domanda un po’ generica: positivo/ista o negativo su potenziali impatti IA?

Per mindset e cultura personale sono sicuramente ottimista, moderatamente ottimista diciamo. Non condivido l'arroganza di chi sostiene che siamo necessariamente l'ultimo step evolutivo nella nella storia dell'umanità e del pianeta Terra: sono aperto alla possibilità che l’IA ci possa aiutare ad abbracciare il prossimo.

Innanzitutto vedo un grosso aiuto per quanto riguarda tutta una serie di problematiche, anche a livello medico sanitario, verticali dove l’IA può avere un impatto enorme. Pensa alle disabilità e alle potenzialità delle tecnologie come quelle di Neuralink (l'azienda di Elon Musk che installa i chip nel cervello), che oggi vediamo in modo caricaturale ma in realtà potrebbero portare qualcosa di estremamente positivo per superare alcuni tipi di malattie o disabilità.

In generale non credo che perderemo la nostra umanità. Usare oggi l’IA non mi fa sentire in contraddizione con chi io sia e cosa pensi: la tecnologia, in questo senso, è assolutamente al nostro servizio: è come avere un assistente molto potente per poter arrivare a un livello di consapevolezza maggiore a cui delegare tutta una serie di cose su cui noi siamo limitati, dalla memoria, alla sintesi dei dati. In generale sì, l’IA può veramente accelerare su un sacco di cose.

Nel libro parli del Social Credit System, il sistema cinese per valutare la bontà dei singoli cittadini. Per noi è un’immagine da incubo, un 1984, e non è un caso che Black Mirror ci abbia regalato uno dei suoi episodi più famosi proprio su un sistema di social score, ma in Cina? Come scrivi, per loro è, al contrario, una cosa bella: come andiamo nei ristoranti guardando Tripadvisor e il numero di stelle collezionate, ci fidiamo delle persone con cui dobbiamo interagire a seconda del social score, che sia una babysitter a cui affidare i bambini o una nuova persona da assumere in azienda. D’altra parte, in Occidente, la sociologa Shoshana Zuboff lancia l’allarme con il suo Il Capitalismo della Sorveglianza2, che è l’incubo opposto, ma molto più silenzioso..

Sì, esatto. Come dico nel libro, anche solo per giustificare le prime duecento pagine (ride, ndr), il focus principale del socialismo della sorveglianza resta l’armonia, il principio cardine della filosofia confuciana, contrapposto alla nostra idea di libertà individuale. In Cina sono disposti a sacrificare anche qualche singola libertà per avere una società che sia armoniosa, in pace, e questo, come sottolineato anche da Xi Jinping, è un obiettivo delegato allo Stato.

Nel nostro caso invece è delegato delle compagnie private ed è qualcosa che noi oggi prendiamo un po’ troppo sotto gamba. I meccanismi con cui i prodotti basati su intelligenze artificiali sono disegnati oggi non hanno l’obiettivo di restituire qualcosa al benessere del paese: devono solo remunerare il capitale azionario. Mi faceva infatti ben sperare vedere nuovi grandi player entrare nel mercato come no-profit (primo fra tutti: OpenAI), ma anche lì, ahimè, le cose pare stiano cambiando...

Perché leggere il libro in una frase?

Ho scritto questo libro principalmente perché penso che un punto di vista del genere mancasse nella narrazione disponibile: il confronto con tutta una parte di mondo che tendiamo a ignorare e su cui, ignorandola, ci permettiamo di tenere una postura da complesso di superiorità occidentale. Spero che la lettura di questo volume possa contribuire a renderci sia un po' più umili, sia più consapevoli quando ci approcciamo a culture diverse, per capire meglio le innovazioni che vi si generano, e che impattano e impatteranno sempre più anche sulle nostre società.

The Alchemist's Gate

Discussion about this post