di Ranieri de Ferrante
Armi che uccidono sotto la guida dell’AI, senza esseri umani nel loop, sono un falso problema. Le armi sono, da sempre, fatte per uccidere. Le armi, da sempre, sfruttano le tecnologie più avanzate e spesso è la guerra a crearle, le tecnologie più avanzate. Anche il Dual use non è un’invenzione di oggi. Quello che conta non sono le applicazioni. Il controllo, se ne esiste la possibilità, va messo a monte, sulle capacità. Perché nel momento in cuiuna capacità esiste, il dibattito rischia di diventare inutile.
Mi è stato rimproverato – con ragione, temo – di parlare troppo spesso di me. Però un’immagine vale spesso più di cento parole, e se è una immagine di cui si è stati parte, se ne può garantire l’autenticità.
L’immagine è di 25 anni fa. Sto parlando con il direttore commerciale di Alenia Marconi Systems, che io guido; facciamo principalmente elettronica per la difesa. Le uniche “armi”, nella definizione più stretta del termine, sono i missili, e non sono mai stati usati in combattimento reale. Il mio interlocutore viene da Oto Melara, sempre Finmeccanica: cannoni e carri armati. “Eh”, mi dice con aria sognante, “il cannone da 105 mm … quello sì che di gente ne ha ammazzata davvero!”.
Al di là di ogni giudizio morale, questa frase mette in luce, in modo quasi scheletrico, un fatto: le armi servono per uccidere.
Tibullo, duemila anni fa, si chiedeva: “Quis fuit horrendos primus qui protulit enses”. Chi è stato il primo a inventarsi le orrende spade? Caro Tibullo, la tua domanda resta senza risposta: la clava non aveva inventore, del gladio sappiamo che veniva dalla Spagna; solo più tardi sono arrivati gli inventori i cui nomi sono entrati nella storia e nell’immaginario: Chassepot, Colt, Kalashnikov, Maxim — non quello del ristorante, quello della mitragliatrice. Oggi però le armi sono diventate così complesse che dietro ogni sviluppo non c’è più un uomo, ma falangi di ingegneri, programmatori, specialisti di materiali, elettronica e software. E di AI.
L’altra cosa di lapalissiana evidenza è che quasi tutte le tecnologie hanno sempre avuto, prima o poi, un dual use. La clava poteva servire a spaccare qualcosa che non fosse necessariamente il cranio del vicino; il fucile a cacciare o impallinare un cacciatore di frodo; l’esplosivo a scavare una galleria. La spada, ammettiamolo, per tagliare il pane era un po’ scomoda. Per quello c’è il fratello minore, il pugnale.
Non sempre, naturalmente, è stato l’impiego militare a precedere quello civile. A volte è avvenuto il contrario. Ma guerra e tecnologia civile si sono sempre scambiate idee, strumenti e applicazioni con una certa disinvoltura. La guerra ha soprattutto una caratteristica: accelera le cose. E’ il più potente dei catalizzatori. Mette a disposizione denaro, urgenza, uomini e una tolleranza al rischio che in tempo di pace sarebbero difficili da trovare. È una specie di incubatore tecnologico formalmente sgradevole. Ma utile nella sostanza.
La violenza come maieutica del cambiamento; la guerra come maieutica del progresso tecnico.
Allora, cosa c’è di così strano nel fatto che i droni siano diventati armi di guerra e non solamente strumenti per fare riprese dall’alto o per far giocare la domenica pomeriggio bambini intelligenti e adulti stupidi?
E cosa c’è di strano, o di sorprendente, nel fatto che l’Intelligenza Artificiale li diriga, anche ora che sono armi?
Dirige già tante cose.
Alloca i compiti ai rider, decide percorsi, sorveglia impianti industriali, contribuisce alla gestione di sistemi enormemente complessi. Nel nostro quotidiano ci ritocca le fotografie, ci porta verso la cella telefonica migliore, sceglie cosa mostrarci sullo schermo. Immagino controlli anche qualche semaforo; se non lo fa, immagino comincerà martedì prossimo. Probabilmente in qualche città cinese.
E anche senza cadere nell’altisonante nome di Intelligenza Artificiale – e lasciamo stare per un momento la “superintelligenza”, parola inventata da chi con l’argomento intelligenza ha scarsa familiarità – quante volte utilizziamo sistemi informatici più o meno complessi come semplici black box?
Dati dentro, risposta fuori.
L’umano controlla i dati; la macchina fornisce la risposta. In mezzo? Lo capiva l’ingegnere che ha impostato il processo. E nel caso di AI nemmeno chi ha impostato il sistema di apprendimento iniziale.
Di solito non ci interessa neppure saperlo, cosa c’è in mezzo. Quando Google Maps mi dice di girare a destra, non interrompo il viaggio per verificare l’algoritmo. Quando la banca decide che una transazione è sospetta, non mi manda l’equazione. Quando un sistema assegna un rider a una consegna, il rider sale in moto o in bici.
Abbiamo costruito una società nella quale una quantità crescente di piccole e grandi decisioni viene presa da meccanismi che utilizziamo proprio perché non abbiamo bisogno – o non abbiamo voglia – di comprenderli. In moltissimo casi, non ne saremmo, comunque, capaci.
Finché la risposta è “gira a destra” il problema sembra modesto.
Quando la risposta diventa “spara”, improvvisamente scopriamo la filosofia.
E allora cominciamo a discutere.
È giusto che una macchina decida autonomamente di uccidere? Deve esserci sempre un uomo nel circuito? L’uomo deve autorizzare ogni singolo attacco? Quanto controllo umano è sufficiente perché il controllo possa ancora chiamarsi umano? Forse la domanda da farsi è se è possibile, in termini di tempo, un intervento umano perché il drone esegua il suo compito, che è uccidere, efficientemente, senza che la preda abbia il tempo di sfuggire.
E poi, chi è responsabile se la macchina sbaglia: il comandante, il programmatore, il fabbricante, quello che ha inserito i dati, o magari il povero ingegnere che tre anni prima aveva scritto qualche migliaio di linee di codice, come parte di un programma da un milione di istruzioni ed algoritmi cui hanno contribuito altre duecento persone?
Domande interessanti. Alcune anche importanti.
Peccato che arrivino tardi.
Il Rubicone, se vogliamo chiamarlo così, non è un confine davanti al quale l’umanità si ferma solennemente per discutere se attraversarlo. L’umanità attraversa Rubiconi in continuazione, quasi senza accorgersene, senza un Cesare sulla riva, senza “alea iacta est”, senza zoccoli e calighe che entrano in acqua.
Semplicemente, un giorno ci si trova dall’altra parte. E allora si organizza il convegno.
Il punto non è più decidere se la tecnologia debba esistere. Esiste. Non è neppure decidere se qualcuno la userà. Se funziona militarmente, qualcuno la userà. Possiamo disciplinarne l’impiego, limitarlo, stabilire responsabilità, trattati, procedure, regole d’ingaggio. Possiamo decidere che certi usi siano illegali e (cercare di) punire chi li pratica.
Ma non possiamo disinventarla.
Una volta che una capacità tecnica è stata dimostrata, diventa parte del patrimonio dell’umanità, nel bene e nel male. Possiamo mettere il coperchio sulla pentola; non possiamo convincerci che dentro non ci sia più niente.
Ed è forse questa la parte più curiosa dell’attuale dibattito sulle armi autonome: mentre discutiamo se sia accettabile che una macchina possa scegliere e colpire autonomamente un bersaglio, sistemi sempre più autonomi sono già entrati nella guerra reale.
Il dibattito procede coi tempi della politica e del diritto; la tecnologia – invece – coi tempi del software. Risulta che esseri umani siano già stati uccisi, mesi fa, da macchine senza uomo nel loop. E alcuni mesi, ai tempi di Internet, sono ere geologiche.
Questo non significa che discuterne sia inutile. Le regole servono. Le convenzioni servono. Anche i semafori servono, pur non impedendo alla gente di costruire automobili.
Ma sarebbe forse opportuno riconoscere che non stiamo discutendo se aprire una porta. La porta è già aperta. Stiamo discutendo quale cartello appenderci sopra e chi debba pagare se qualcuno inciampa entrando. Sperando contro ogni logica che questo cartello venga letto e rispettato.
E’ la porta che va discussa. I livelli di capacità.
Il dibattito sull’intelligenza artificiale (ammesso che si voglia e possa affrontare) deve concentrarsi su quello. Perché se la porta c’è, verrà aperta, e ci passeranno tutti. Chi fa birra, chi assegna deliveries, chi progetta macchine. E chi disegna sistemi d’arma. Dibattere AI militare sì/no potrà apparire logicamente ben incasellato, ma è storicamente fallace.
A rischio di ripetermi: non è l’applicazione da discutere, è la capacità: che serva ad un drone per uccidere o ad un Boeing per atterrare da solo. Una volta disponibile la capacità, l’uso militare arriverà insieme alla birra, alle deliveries e alle automobili.
E allora, alla fine di tutto questo, rimane una domanda, fondamentale nella sua umana ingenuità: a che servono queste chiacchiere? E soprattutto, con questi tempi?
Mi posso dare almeno una risposta ed, alla faccia di chi critica il mio personalismo, mi rimetto al centro. Serve a me, vecchietto pensionato, perché mi ha dato l’occasione di passare un’oretta scrivendo questo articolo.
Forse è l’unico risultato concreto
