top of page

Allarme massimo: sicurezza nazionale a rischio con l'intelligenza artificiale cinese

E' necessario un monitoraggio proattivo ed una regolamentazione dei prodotti abilitati all'intelligenza artificiale provenienti dalla Cina e dagli altri Paesi autoritari, afferma il think tank australiano ASPI


G Iuvinale


L'Australian Strategic Policy Institute (ASPI) ha chiesto un maggiore controllo sui prodotti cinesi abilitati all'intelligenza artificiale, tracciando parallelismi con le preoccupazioni sulle apparecchiature 5G cinesi.


"I governi occidentali hanno a lungo considerato le apparecchiature 5G di fabbricazione cinese come un rischio per la sicurezza, provocando divieti e costose iniziative di sostituzione".

Foto Gettyimages

I timori sono incentrati su potenziali backdoor per lo spionaggio di stato e sull'obbligo giuridico per le aziende cinesi di soddisfare le richieste dell'intelligence di Pechino, un'accusa costantemente negata da Huawei.


L'IA cinese

Nel recente rapporto dal titolo " De-risking Authoritarian AI ", Simeon Gilding di ASPI ha sollevato preoccupazioni sui prodotti abilitati all'IA. Ha affermato che tali strumenti rappresentano un rischio maggiore rispetto al 5G e sono più difficili da mitigare.


Mentre il 5G è principalmente limitato al settore delle telecomunicazioni, l'influenza dell'IA abbraccia tutti gli aspetti della vita umana. Il rapporto sottolinea che l'attenzione sulla Cina come potenziale minaccia è dovuta al suo status di potenza tecnologica con portata e ambizioni transfrontaliere.


Nonostante le intenzioni onorevoli dei singoli fornitori di prodotti e servizi cinesi abilitati all'intelligenza artificiale, essi sono soggetti alla direzione delle agenzie di sicurezza e di intelligence di Pechino. Per questo, le democrazie dovrebbero porsi la seguente domanda:


sullo sfondo della crescente concorrenza strategica con la Cina, quali e quanti rischi siamo disposti a sopportare?

Impedire al PCC di infiltrarsi

Come si è più volte evidenziato, “L’approvvigionamento di componenti critici cinesi presenta il rischio di prodotti deliberatamente compromessi o sabotati” riferisce l’U.S.-China Economic and Security Review Commission nel suo ultimo rapporto inviato al Congresso.


Gli scrittori militari di Pechino, come il teorico Ye Zheng, considerano il sabotaggio e lo sfruttamento delle catene di approvvigionamento di un avversario un’efficace tattica militare e di spionaggio.


Nel 2020, un rapporto di SOSI International ha rilevato che i documenti strategici dell’Esercito popolare di liberazione danno la priorità allo “sfruttamento delle catene di approvvigionamento nemiche e ad altre vulnerabilità”, inclusi “attacchi hardware nascosti con mine, interfacce o backdoor incluse nelle infrastrutture di trasporto, informazione e comunicazione”.


Sebbene non tutto l’hardware prodotto in Cina rappresenti una minaccia per la sicurezza nazionale delle infrastrutture, l’Esercito popolare di liberazione (PLA) considera il sabotaggio delle catene di approvvigionamento di un avversario come una tattica di guerra. L’esperto Jan-Peter Kleinhans ha avvertito gli Stati Uniti che “i semiconduttori sono particolarmente vulnerabili al sabotaggio e ad altri exploit durante le fasi di produzione APT di back-end in cui la Cina rivendica una quota di mercato sostanziale”.



Foto Gettyimages

Il fatto che il 90% dei telefoni del mondo e quasi l’80% dei computer siano fabbricati in Cina rende lo sfruttamento dei prodotti tecnologici una seria minaccia. Un rapporto del 2019 dell’ispettore generale del Dipartimento della Difesa americano (DOD) evidenziava che gli Stati Uniti non avevano sviluppato controlli per impedire l’acquisto di prodotti informatici (IT) commerciali offthe-shelf (COTS) con rischi noti per la sicurezza informatica. Ad esempio, il rapporto stabiliva che l’esercito e l’aeronautica degli Stati Uniti avevano acquistato più di 32 milioni di dollari di articoli IT COTS, tra cui computer Lenovo di proprietà cinese, con vulnerabilità note della sicurezza informatica. Nella sua valutazione sulle minacce provenienti dall’uso dei computer Lenovo, il DOD elenca lo spionaggio informatico, l’accesso alla rete e la proprietà, il controllo e l’influenza del governo cinese.

L’approvvigionamento persistente da fornitori cinesi come Lenovo, comporta, quindi, seri rischi alle catene di approvvigionamento della difesa degli Stati Uniti e dei suoi alleati.


L’ingresso di una qualsiasi società cinese fornitrice di tecnologia nel mercato interno di uno Stato equivale, dunque, ad autorizzare un’infiltrazione di Pechino.

Nel 2017, infatti, in Cina è stata adottata la legge sull’intelligence nazionale (NIL) che dispone l’obbligo, per tutte le organizzazioni e i cittadini cinesi, di collaborare con il governo per questioni di sicurezza. A fronte di questa regolamentazione “pervasiva”, gli Stati Uniti hanno reagito adottando misure per limitare il ruolo di numerose imprese cinesi, tra cui Huawei.


Sul piano dell'efficacia, “La NIL si applica a livello globale ai gruppi cinesi, per cui tutte le filiali, anche quelle al di fuori della Cina, potrebbero essere soggette alla NIL. Poiché la società madre cinese è soggetta alla NIL, la NIL potrebbe, dal punto di vista del diritto internazionale pubblico, avere giurisdizione anche sulle filiali estere del gruppo. Inoltre, la capogruppo cinese ha poteri di governance sulle filiali estere, che potrebbero imporre la loro conformità alla NIL. […] La NIL si applica a tutte le organizzazioni in Cina, un termine che sembra includere tutti i tipi di società stabilite in Cina, indipendentemente dalla proprietà, cioè azionisti cinesi privati e pubblici così come azionisti stranieri. […] La NIL si applica a tutti i cittadini cinesi e, poiché non sembra avere un’esplicita limitazione geografica, potrebbe essere interpretata per applicarsi a tutti i cittadini cinesi anche quando risiedono al di fuori della Cina”.


In un contesto del genere, tutti gli attori commerciali cinesi divengono una potenziale estensione del PCC all’estero.

Foto Gettyimages

I rischi evidenziati da ASPI sull'IA cinese

Per l'ASPI si dovrebbero attenzionare tre tipoligie di tecnologia abilitata dall'intelligenza artificiale cinese:

  1. i prodotti e servizi (spesso infrastrutture fisiche), in cui la proprietà cinese espone le democrazie a rischi di spionaggio (in particolare sorveglianza e furto di dati) e sabotaggio (interruzione e negazione di prodotti e servizi);

  2. la tecnologia abilitata all'intelligenza artificiale che facilita l'interferenza straniera (influenza nascosta maligna per conto di una potenza straniera), l'esempio più pervasivo è TikTok

  3. il "Large language model AI" e altri sistemi di intelligenza artificiale generativa emergenti che costituiscono sì una minaccia futura alla quale, però, si dovrebbe iniziare a pensare subito.

L'esportazione da parte della Cina di tecnologia avanzata e basata sull'intelligenza artificiale a prezzi competitivi verso le democrazie solleva, dunque, preoccupazioni per la sicurezza delle infrastrutture critiche dei singoli Stati.

Nello specifico, l'India viene considerata come Stato potenzialmente a rischio perché è interessata da una crescente industrializzazione, rendendo la tecnologia cinese un'opzione interessante per le esigenze delle infrastrutture critiche. Inoltre, il confine condiviso con la Cina, potenza militare nucleare, aumenta ulteriormente il rischio.


ASPI, dunque, raccomanda di prendere in considerazione soglie normative più basse per l'India a causa del delicato panorama della sicurezza. Tuttavia, l'implementazione di tecnologie e sistemi abilitati all'intelligenza artificiale può portare ad aggiornamenti automatici di Internet e del software, spesso al di là della consapevolezza degli utenti finali.


Mentre la regolamentazione dell'IA è in corso, ASPI sottolinea la necessità di concentrarsi su prodotti e servizi abilitati all'IA provenienti da paesi autoritari, che potrebbero essere trascurati nel processo.

Il rapporto avverte anche che il controllo completo diventa quasi impossibile con la presenza pervasiva dell'IA, dall'influenza sul comportamento online al lavoro di gatekeeping e all'accesso al credito. Anche la gestione di sistemi complessi come il traffico autostradale e le operazioni marittime si aggiungono alle sfide.

Un divieto totale di tutta la tecnologia cinese abilitata all'intelligenza artificiale è considerato costoso e dirompente. Ciò richiede l'esplorazione di approcci alternativi.

I rimedi proposti

Per affrontare il problema, ASPI propone un framework in tre parti:

  • auditing

  • red teaming

  • regolamentazione dei prodotti abilitati all'IA.

L'audit comporta la valutazione della criticità di un sistema per la libertà di parola, la salute pubblica e la sicurezza, i servizi essenziali, i processi democratici, ecc. Inoltre, verrebbe valutata la scala di esposizione ad un prodotto o ad un servizio.


Il Red Teaming è un altro aspetto cruciale, con l'obiettivo di identificare i rischi interni al sistema. Il rapporto cita TikTok come argomento per il Red Teaming. In questo processo, i professionisti della sicurezza informatica valuterebbero le potenziali vulnerabilità e il rischio di sfruttare la piattaforma per attività di spionaggio.


Le raccomandazioni di ASPI includono il divieto della tecnologia cinese abilitata all'intelligenza artificiale in alcune parti della rete.
Includono anche il divieto di appalti pubblici, l'utilizzo di tali prodotti o persino un divieto completo. Inoltre, si dovrebbero prendere in considerazione accordi di licenziamento e sforzi nel campo dell'istruzione pubblica.
Se dovessero essere scoperte vulnerabilità gravi che non possono essere mitigate, potrebbe essere ritenuto necessario un divieto generale del prodotto, sostiene l'ASPI.

Nel complesso, il rapporto sottolinea con forza la necessità di un monitoraggio proattivo e di una regolamentazione dei prodotti abilitati all'intelligenza artificiale provenienti da Paesi autoritari. In particolare, il documento si concentra sulla crescente capacità e sulle ambizioni globali della tecnologia IA della Cina come potenziale area di preoccupazione.


(riproduzione riservata)

Leggi anche:

82 visualizzazioni0 commenti

Comments


bottom of page