di Ranieri de Ferrante
L’intelligenza artificiale pone un problema che va oltre la semplice velocità dello sviluppo: occorre decidere se esistano capacità che non vogliamo sviluppare affatto. Dalle limitazioni agli armamenti al Trattato di Washington, da Asilomar alla clonazione, la storia mostra diversi modi di fissare linee rosse. Ma l’AI presenta difficoltà nuove: capacità difficili da misurare, tecnologie in mano a privati, problemi di proliferazione. Le aziende possono chiedere limiti; solo gli Stati possono – forse – trasformarli in trattati efficaci.
Alessandra Chirico, nell’ articolo “L’AI comincia a decidere“, pone una domanda: quando l’intelligenza artificiale cessa di essere strumento e comincia ad agire, chi governa la delega? Questo porta al problema dei limiti. Non tutto ciò che una macchina può fare deve necessariamente esserle consentito, e non tutto ciò che è tecnicamente possibile deve necessariamente essere fatto.
Vorrei costruire su questi ottimi spunti per spostare quella domanda di un passo: prima di decidere che cosa delegare, dovremmo forse chiederci se esistano capacità che non vogliamo sviluppare affatto. Non capacità troppo pericolose oggi ma potenzialmente utili domani, ma limiti oltre i quali decidiamo di non andare. Mai.
E, se queste capacità esistono, chi stabilisce il limite e chi può farlo rispettare?
La discussione ormai coinvolge i massimi livelli: una parte dell’industria mette in guardia sui rischi di uno sviluppo nel quale le capacità crescano più rapidamente del controllo.
Trump non ne vuole sapere, ma il contrasto attraversa la sua stessa amministrazione: secondo Politico, alcuni fra i più stretti collaboratori del Presidente stanno cercando di introdurre controlli sui modelli “frontier”, ed ipotizzano un autorità regolatoria mista governo-industria per valutarli prima della diffusione.
Una volta tanto, voglio difendere Trump, la cui posizione non è irrazionale. Per lui il rischio principale non è che l’AI corra troppo, ma che la Cina corra più velocemente. L’AI sarebbe una “golden goose” strategica e porle ostacoli significherebbe giocare nelle mani di Pechino.
Un’azienda americana che si autoimponesse vincoli più severi dei concorrenti cinesi potrebbe ridurre un rischio globale ma contemporaneamente produrre uno svantaggio strategico per il proprio Paese. Da parte sua, Pechino ha poche ragioni per accettare un vincolo che congeli il suo attuale svantaggio.
Tutti, in qualche modo, hanno ragione.
Credo però che l’issue non sia rallentare o meno. Non è questione di tempi, ma di merito: arrivare alla “fine del mondo” nel 2065 invece che nel 2040 cambia molto per me, che nel 2040 potrei esserci e nel 2065 no. Cambia ben poco: prolungare di qualche decennio il ciclo della presenza umana sulla Terra non può essere l’obiettivo.
Rallentare può essere un modo di avere più tempo per capire, ma non può essere il punto di arrivo, che dovrebbe essere stabilire delle linee rosse oltre le quali non si va.
Ma, come sempre, historia magistra vitae: vediamo i precedenti.
1 – Prima del ‘900
Uno dei primi tentativi di imporre limiti viene dalla Chiesa (sorpresa, sorpresa). Nel 1139 il II Concilio Lateranense proibì l’impiego di archi e balestre contro cristiani. Un divieto deciso da un’autorità che voleva imporlo senza un accordo fra le parti e, soprattutto, senza gli strumenti per farlo rispettare. Prima lezione della storia: un limite non condiviso, non verificabile e non imponibile rischia di rimanere lettera morta.
Nel 1868 la Dichiarazione di San Pietroburgo e nel 1899 la Convenzione dell’Aia fecero un passo ulteriore, vietando fra gli Stati aderenti proiettili esplosivi sotto i 400 grammi e quelli espansivi, i dum-dum. La motivazione era morale, ma si esprimeva in una misura fisica, quantificando e rendendo operativa una scelta etica: non vietava il progresso delle armi, ma stabiliva che alcune caratteristiche erano inaccettabili in un mondo civile.
2 – Washington: quando il limite si può pesare
Un “precedente” interessante arriva dopo la Prima guerra mondiale, quando, nel ‘22 USA, UK, Giappone, Francia e Italia, per evitare una costosissima corsa agli armamenti navali, firmarono il Trattato di Washington. Questo non imponeva alle Marine di costruire più lentamente. Stabiliva quanto potessero costruire e quanto potessero essere grandi le singole unità.
Per le corazzate furono fissati rapporti precisi fra le flotte e limiti di dimensioni: non potevano superare le 35.000 tonnellate di dislocamento né montare cannoni superiori ai 16 pollici. Di conseguenza programmi già avviati vennero cancellati e numerose unità demolite.
Situazione invidiabile, limite quantitativo e misurabile: una nave pesa; un cannone ha un calibro; le navi si contano. Non è però una garanzia: anche una misura apparentemente oggettiva può essere manipolata, e le Marine impararono presto a sfruttare ogni margine offerto dalle definizioni del trattato e, a volte, ad imbrogliare. Interessante: lo fecero tutti, “buoni” e “cattivi”.
Però almeno la tonnellata era un metro comune. Qual è la tonnellata dell’intelligenza artificiale?
La tentazione di definirla esiste già. L’AI Act, della UE, usa la quantità di calcolo impiegata nell’addestramento come uno degli indicatori dei modelli che possono presentare rischio sistemico. Ma la stessa normativa prevede che quella soglia possa cambiare con il progresso algoritmico e l’efficienza dell’hardware.
È quasi una confessione incorporata nella legge: una “tonnellata di nave” era un valore stabile, nell’AI anche la tonnellata invecchia. Un modello più piccolo ma progettato meglio può sviluppare capacità superiori a quelle di uno più grande. Il post-training, la memoria e l’accesso a strumenti, reti e codice possono cambiarne radicalmente le capacità senza modificarne proporzionalmente le dimensioni.
Il problema si sposta quindi da quantità a qualità: non “quanto è grande?”, ma “cosa può fare?”.
3 – Quando il limite diventa “questo no”
Nel secondo dopoguerra il controllo degli armamenti è stato elemento costante e strategico della geopolitica, specialmente riguardo alle armi nucleari. Per noi fra queste la più interessante è la Convenzione sulle armi biologiche del 1972, che vietò un’intera categoria di armi.
Il salto rispetto a Washington è importante. Non si stabilisce quanto agente biologico si possa avere. Si stabilisce che una determinata utilizzazione della conoscenza biologica non deve esistere.
Naturalmente, però, non si sono vietati gli studi biologici, che infatti continuano. E qui nasce il problema. Studiare un agente patogeno per prepararne un vaccino e studiarlo per trasformarlo in un’arma può richiedere conoscenze e strumenti molto simili. Il confine non passa più necessariamente attraverso l’oggetto. Passa attraverso lo scopo, la capacità e l’uso.
Compaiono due problemi, centrali anche per l’AI: verifica e dual use. Una capacità biologica può nascondersi dentro attività apparentemente lecite.
4 – Asilomar: quando sono gli scienziati a fermarsi
Nel 1974 alcuni fra i maggiori scienziati impegnati nelle nuove tecniche del DNA ricombinante si resero conto di stare imparando a fare qualcosa prima di conoscerne con sufficiente certezza le conseguenze. Furono loro stessi a chiedere una moratoria volontaria su alcuni esperimenti.
Nel 1975 la Conferenza di Asilomar trasformò il semplice “fermiamoci” in qualcosa di più sofisticato: distinguiamo gli esperimenti in base al rischio, definiamo livelli diversi di contenimento, consentiamo alcune attività, sottoponiamone altre a cautele severe e lasciamone altre fuori dal perimetro consentito.
Asilomar ci avvicina moltissimo all’attuale discussione sull’intelligenza artificiale.
Il limite diventa qualitativo: questo sì, questo soltanto con determinate precauzioni, questo no.
Ma c’è una secondo motivo che rende Asilomar importante: navi e missili appartenevano agli Stati. Quando due governi decidevano di ridurre un arsenale, controllavano direttamente l’oggetto da ridurre. La genetica non funzionava più così:la conoscenza distribuita fra università, laboratori, istituti di ricerca e imprese faceva sì che lo Stato non possedessenecessariamente la tecnologia che intendeva disciplinare.
Lo Stato doveva quindi governare chi la possedeva, come oggi con l’AI. ChatGPT, Claude e Gemini non appartengono al governo degli Stati Uniti. Anche in Cina lo sviluppo passa attraverso imprese e laboratori che, pur avendo con lo Stato un rapporto diverso da quello occidentale, non coincidono semplicemente con un arsenale militare.
E oggi, come ad Asilomar, parte dell’allarme viene proprio da chi sviluppa la tecnologia.
Asilomar ed AI non sono del tutto analoghi: l’AI è potere economico, industriale e militare, e non ci sono osservatorineutrali.
Una regolamentazione complessa e costosa potrebbe rafforzare chi è già grande, rendendo più difficile l’ingresso di concorrenti o la diffusione di modelli aperti. Motivo in più perché l’industria non possa essere anche arbitro.
E poi Anthropic può imporre limiti a Claude. OpenAI può imporli ai propri sistemi. Non possono imporli a un’azienda cinese. E soprattutto un governo non può fondare la propria sicurezza strategica sulla promessa volontaria di un’impresa privata della potenza concorrente.
Le aziende possono chiedere il limite, ma non possono stipularlo e controllarlo.
La proposta allo studio nella stessa amministrazione Trump di un ente regolatore rappresenterebbe un passaggio intermedio interessante: dall’autoregolamentazione dei laboratori alla regolazione nazionale.
Ma manca ancora un livello: quello internazionale.
5 – Dall’oggetto alla capacità
Negli anni successivi la storia continua a offrire precedenti:
– nel 1987 il trattato INF elimina completamente un’intera categoria di missili;
– nel 1993 la Convenzione sulle armi chimiche affronta esplicitamente il dual use: la chimica industriale continua, ma l’arma chimica viene vietata e sottoposta a dichiarazioni e ispezioni internazionali;
– Nel 1995 vengono vietate le armi laser specificamente progettate per provocare cecità permanente. Il laser resta. Una determinata capacità no;
– Nel 1997 la Dichiarazione UNESCO sul genoma umano indica la clonazione riproduttiva degli esseri umani fra le pratiche contrarie alla dignità umana.
Nessuna di queste Convenzioni dice “rallentiamo finché saremo più preparati” . Si dice: questo non si fa.
Nozione che comincia a circolare anche nella discussione sull’AI. Quando si parla, per esempio, di auto-miglioramento ricorsivo, non si sente più soltanto “non ancora”, ma anche “se mai”. Differenza fondamentale.
6 – La morale diventa diritto
Ricapitoliamo, quindi.
Prima gli Stati limitano soprattutto oggetti misurabili che essi stessi possiedono: navi, cannoni, missili. Poi la tecnologia diventa sempre più distribuita e dual use. Chimica, biologia, genetica e oggi intelligenza artificiale appartengono anche, e talvolta soprattutto, a soggetti privati.
Lo Stato non deve più soltanto limitare se stesso, ma deve decidere ciò che altri possono o non possono fare. In un certo senso gli Stati codificano una morale e la impongono alle aziende.
La formula può sembrare forte, ma è ciò che avviene quando una comunità politica decide che una capacità tecnicamente disponibile non debba essere utilizzata perché contraria a un principio superiore: umanità, dignità, stabilità strategica, sicurezza collettiva. Si passa da morale a norma, e a norma internazionale.
L’istanza può venire da Amodei & Co. La definizione tecnica può nascere nei laboratori. Un’autorità nazionale può trasformarla in regola.
Ma un limite globale può derivare soltanto da un accordo fra Stati.
7 – Il trattato che manca
E qui torniamo a Trump. La sua posizione è perfettamente coerente con la logica della competizione fra Stati: se l’AI sarà una delle principali fonti di potere economico e militare, rallentare unilateralmente significa rischiare di perdere.
Il politico vuole arrivare primo, lo statista ha un problema diverso: si deve chiedere se esistano luoghi non importa chi arrivi primo, ma piuttosto che non ci arrivi nessuno.
Un accordo sull’AI non potrebbe quindi limitarsi a dire “rallentiamo tutti”. Chi è davanti teme di essere raggiunto; chi è dietro teme che il rallentamento congeli il proprio svantaggio.
Il sistema di Washington finì anche perché il Giappone non accettò che il rapporto concordato per le corazzate (l Giappone il 50% degli USA e dell’UK) cristallizzasse permanentemente la propria inferiorità.
Un accordo sull’AI non potrebbe dire che gli USA possono avere un’AI da 100 e la Cina da 60, 80 oppure 95.
Dovrebbe dire che né gli Stati Uniti né la Cina, né nessun altro aderente, svilupperanno o metteranno in esercizio sistemi dotati di determinate capacità. I luoghi dove non si deve andare.
Ma quali? Replicarsi autonomamente? Procurarsi risorse senza autorizzazione? Sottrarsi ai propri sistemi di controllo? Progettare autonomamente agenti biologici? Assumere decisioni irreversibili in sistemi d’arma?
Asimov, con le tre leggi della robotica, l’aveva fatta semplice. Non lo è.
La discussione dovrebbe prendere la forma di linee rosse e dire: “questo mai”.
8 – Il problema della verifica
Washington misurava oggetti. Il controllo nucleare conta testate, missili, silos e lanciatori. La Convenzione chimica identifica sostanze, stabilimenti e quantità. La clonazione riproduttiva individua un atto.
Con l’intelligenza artificiale dovremmo verificare qualcosa di profondamente diverso: una capacità.
Non basta sapere cosa l’altro possiede, ma cosa ciò che possiede è capace di fare.
Una nave da 45.000 tonnellate non cambia dislocamento quando arriva l’ispettore. Un modello può manifestare capacità diverse a seconda degli strumenti ai quali viene collegato, del post-training, della memoria o dell’interazione con altri sistemi.
E una corazzata non si copia, un modello sì.
Quando pesi e codice possono essere replicati e distribuiti, una capacità uscita dal laboratorio può diventare assai più difficile da riportare sotto controllo. Come un virus.
Un futuro accordo sull’AI avrebbe quindi bisogno non soltanto di ispettori, ma di test condivisi, criteri concordati e strumenti di verifica delle capacità che oggi ancora non possediamo pienamente.
9 – La governance della politica
Alessandra Chirico parte dalla “grande delega”: più l’AI diventa capace di agire, più dobbiamo decidere che cosa siamo disposti ad affidarle. Credo sia la domanda giusta, ma prima di stabilire che cosa siamo disposti a delegare a una macchina, dobbiamo decidere se esistano capacità che non vogliamo dare a nessuna macchina; e, separatamente, quali capacità, pur ammissibili, non possano essere messe a disposizione di soggetti che possono sottrarsi ad un controllo efficace.
Sono due problemi diversi. Il primo riguarda il limite: stabilire che una certa capacità non debba esistere. Il secondo riguarda anche la proliferazione: impedire che una capacità consentita finisca nelle mani di chi non accetterebbe comunque di sentirsi vincolato da un accordo. Come le armi nucleari.
Le aziende possono lanciare l’allarme, contribuire a definire il limite e costruire gli strumenti tecnici per verificarlo, ma gli Stati devono trasformarlo in un obbligo reciproco e imporlo, ciascuno nella propria giurisdizione.
Il discorso può cominciare, come ad Asilomar, nei laboratori, può continuare negli organismi nazionali di controllo, ma non può finire lì.
Serve un trattato che non stabilisca soltanto tempi o velocità, ma dove non vogliamo arrivare, come definire quel confine e come verificare che nessuno lo attraversi; e serve, accanto al trattato, una politica di non proliferazione per rendere più difficile che capacità comunque sviluppate arrivino a chi quel trattato non lo riconoscerebbe.
Le tonnellate dell’AI cambiano peso mentre le misuriamo, quindi già il metro è un problema, pur se forse il più piccolo.Figuriamoci il resto …
Soltanto Washington e Pechino, insieme, potranno intervenire efficacemente.
