di Michele Gabriele Cristiano
Il rapido avanzamento dell’intelligenza artificiale nei sistemi di difesa ripropone una questione che il diritto internazionale umanitario e l’etica pubblica non possono eludere: chi risponde delle decisioni assunte, in tutto o in parte, da un sistema automatizzato?
Il principio del controllo umano, o human oversight, si colloca al centro di questo dibattito non come requisito tecnico accessorio, ma come condizione di legittimità dell’esercizio del potere. La letteratura più recente distingue con crescente nettezza tra un controllo meramente formale, che si riduce alla ratifica di un output già determinato dal sistema, e un controllo sostanziale, che presuppone tempo di deliberazione, capacità di giudizio autonomo e possibilità effettiva di dissenso da parte dell’operatore.
A questo quadro tecnico-giuridico si affianca il contributo dell’enciclica Magnifica Humanitas di Papa Leone XIV, che offre una lettura antropologica della questione: la tecnica non è mai neutra, poiché porta i segni di chi la progetta, la finanzia e la governa, e l’intelligenza artificiale, pur simulando le funzioni cognitive, non fa esperienza, non ha corpo e non matura attraverso la relazione.
Ne deriva che la coscienza dell’errore e la capacità di correzione morale restano prerogative umane, e che la responsabilità non può essere trasferita a un algoritmo. L’intervento qui presentato, tenuto nell’ambito del forum Words of Hope for Magnifica Humanitas, ricompone i due piani, giuridico e antropologico, in una tesi unitaria: il controllo umano è credibile solo se è esercizio effettivo di un giudizio radicato in ciò che ci rende umani.
