di Alessandra Chirico,
La discussione sull’intelligenza artificiale è ancora largamente dominata da una domanda: quanto sarà capace? Quanto potrà comprendere, automatizzare, prevedere e creare; quanto lavoro sarà in grado di sostituire o, al contrario, di moltiplicare; quanto rapidamente potrà evolvere. È una domanda importante, ma non è più quella decisiva.
Man mano che l’intelligenza artificiale passa dall’essere uno strumento che assiste a un sistema che agisce, la questione cambia natura. Il punto non è soltanto ciò che una macchina può fare, ma ciò che noi decidiamo di affidarle. Chi definisce gli obiettivi, stabilisce i confini, decide quali interessi privilegiare, quali rischi accettare e quali conseguenze tollerare?
In altre parole, chi governa la delega? È qui che l’etica dell’intelligenza artificiale smette di essere un esercizio astratto e diventa una questione concreta di potere, responsabilità e governance.
Quando la corsa diventa il problema
L’allarme è arrivato anche dall’interno dei laboratori che stanno costruendo la frontiera dell’AI. Jacob Coxon, ricercatore con esperienza sia in Anthropic sia in OpenAI, ha lasciato Anthropicmettendo in guardia dal rischio che la competizione tra le grandi aziende tecnologiche finisca per prevalere sulla sicurezza. Il suo messaggio è significativo proprio perché proviene dall’interno di quella macchina: il problema non sarebbe soltanto la crescita esponenziale delle capacità dei modelli, ma la pressione competitiva a svilupparli prima che la nostra capacità di comprenderne e governarne i rischi sia realmente maturata.
Resta da capire se un allarme lanciato dall’interno della corsa possa davvero modificarne la traiettoria.
La posizione assunta da Dario Amodei, CEO di Anthropic, suggerisce che il tema sia ormai entrato nel cuore del dibattito. Amodei ha proposto di rallentare il ritmo di sviluppo dei sistemi di frontiera perché la capacità tecnologica sta crescendo più rapidamente delle strutture di sicurezza e supervisione necessarie a governarla. Non per fermare l’innovazione, ma per introdurre valutatori indipendenti, coordinare gli standard di sicurezza tra i principali laboratori e costruire forme di cooperazione internazionale.
Il fatto che a questa posizione abbiano fatto eco figure come Sam Altman ed Elon Musk rende la questione ancora più interessante. Quando alcuni dei protagonisti della corsa chiedono di rallentarla, non siamo più soltanto davanti a un dibattito tecnico sulla sicurezza. Emerge una contraddizione strutturale: chi sta costruendo la tecnologia più potente del nostro tempo comincia a chiedersi se la competizione per costruirla non stia diventando essa stessa un fattore di rischio.
Tra sicurezza e potenza
C’è però una dimensione che rende questa richiesta di prudenza particolarmente difficile, quellageopolitica. L’AI è ormai una componente della competizione economica, militare e strategica tra Stati Uniti e Cina. Se un Paese rallenta e il suo concorrente continua ad accelerare, il rischio è di perdere un vantaggio che non è più soltanto industriale, ma strategico. In questa logica, rallentare può essere interpretato non come prudenza, ma come una forma di disarmo unilaterale.
È così che l’AI rischia di diventare una nuova corsa agli armamenti, nella quale la sicurezza viene subordinata alla necessità di arrivare per primi.
La vicenda di Anthropic con il Pentagono rende questa tensione evidente. Si pensi a quando nel2026 l’azienda ha posto due limiti all’uso di Claude: niente sorveglianza di massa e niente armi letali pienamente autonome senza controllo umano. Ebbene, il Dipartimento della Difesa ha reagito definendo Anthropic un supply chain risk. Un episodio questo che mostra quanto rapidamente l’etica dell’AI possa trasformarsi in una questione di potere, sicurezza nazionale e sovranità.
Questo ci riporta al cuore del problema: chi decide quali limiti non possono essere oltrepassati?
La risposta non dovrebbe tuttavia ridursi alla contrapposizione fra accelerazione e rallentamento. Il problema non è necessariamente la velocità dell’innovazione, quanto la distanza che può crearsi tra la velocità con cui aumenta la capacità di un sistema e quella con cui cresce la nostra capacità di valutarlo, proteggerlo, governarlo e assumerne le conseguenze.
Serve quindi un sistema di adaptive assurance, nel quale gli obblighi di verifica, sicurezza, trasparenza e controllo crescano in funzione della capacità, dell’autonomia e delle conseguenze associate a un sistema.
Finché una tecnologia rimane entro un perimetro di rischio conosciuto, l’innovazione deve poter procedere. Quando una nuova capacità supera invece la nostra possibilità di dimostrare che essa rimane sotto controllo, può diventare ragionevole introdurre una soglia, non per fermare il progresso, ma per consentire alla governance di raggiungerlo.
La questione non è dunque “solo” regolamentare la velocità dell’AI, ma il divario tra capacità e controllo.
Dalla capacità all’agenzia
La distinzione diventa ancora più importante con l’avvento degli agenti AI. Un modello che produce una risposta e un sistema che può accedere a una rete, eseguire codice, effettuare una transazione, modificare un database o coordinare altri sistemi non presentano lo stesso profilo di rischio.
La capacità, da sola, non basta a definire il rischio. Occorre considerare anche autonomia, accesso e conseguenze. È la combinazione di queste dimensioni a determinare il potere effettivo che stiamo trasferendo alla macchina. Ogni sistema che ottimizza qualcosa incorpora, del resto, una scelta precedente: che cosa consideriamo un buon risultato? Quali interessi devono essere privilegiati? Quali costi siamo disposti ad accettare?
L’algoritmo può rendere queste scelte più rapide, pervasive e scalabili, ma non può renderle neutrali.
È qui che si rivela il limite di una certa retorica sull’“AI etica”. L’intelligenza artificiale non possiede un’etica nel senso umano del termine: non assume responsabilità morale e non stabilisce autonomamente ciò che è desiderabile. L’etica sta prima dell’algoritmo, nella definizione dell’obiettivo, nella scelta dei dati, nell’architettura del sistema, nei limiti posti alla sua autonomia e nella decisione di dove e quando utilizzarlo. Soprattutto, si manifesta nella responsabilità di chi mette quel sistema in condizione di agire.
La grande delega
La vera trasformazione introdotta dall’AI potrebbe quindi non essere l’automazione, ma la delega.
Per secoli abbiamo costruito strumenti capaci di ampliare la nostra forza, la nostra velocità e la nostra capacità produttiva. Ora stiamo costruendo sistemi capaci di ampliare anche la nostra capacità di decidere e di agire. È un passaggio qualitativo: delegare a una macchina l’esecuzione di un compito significa trasferire un’attività; delegarle una decisione significa trasferire, almeno in parte, il potere di determinare un esito.
Ogni delega richiede governance. Non basta più chiedersi se un modello sia accurato. Dobbiamo sapere chi può attivarlo, quali informazioni può utilizzare, quali sistemi può raggiungere, entro quali limiti può operare e, soprattutto, chi conserva l’autorità ultima di intervenire.
La domanda che ogni organizzazione dovrebbe porsi prima di introdurre un agente AI è quindi anche una domanda di responsabilità: cosa accadrebbe se il sistema prendesse una decisione che noi non avremmo preso? E chi ne risponderebbe?
Se la risposta non è chiara, il problema non è ancora tecnologico. È un problema di governance.
È significativo poi che una delle formulazioni più radicali di questa esigenza di limite non provenga da un laboratorio tecnologico, ma dalla riflessione filosofica e politica.
Nella sua enciclica Magnifica Humanitas, Papa Leone XIV parla di “disarmare” l’AI. Non significa spegnere la tecnica o rifiutare il progresso, ma sottrarre l’intelligenza artificiale a tre logiche di competizione: militare, economica e cognitiva. Significa mettere in discussione l’equazione per cui la potenza tecnica conferirebbe automaticamente il diritto di governare.
È un principio che va oltre la questione delle armi autonome. Significa affermare che non tutto ciò che può essere tecnicamente fatto debba necessariamente essere fatto e che non ogni aumento di potenza debba tradursi in un aumento equivalente di autonomia.
L’AI amplia il perimetro del possibile. Ma il possibile non coincide necessariamente con il desiderabile. E qui risulta chiaro come la leadership cominci laddove finisce l’automazione. Più cresce la nostra capacità di delegare l’esecuzione, più acquista valore la capacità di definire una direzione. La competenza ci permette di comprendere ciò che è possibile. La leadership ci impone di decidere ciò che è desiderabile.
Questa distinzione sarà sempre più importante in un mondo nel quale l’intelligenza artificiale renderà disponibili capacità prima impensabili. Essere forward-looking non significherà soltanto anticipare il futuro tecnologico, ma contribuire a determinarne la direzione: scegliere, stabilire priorità, assumere trade-off e rispondere delle conseguenze.
Governare l’intelligenza artificiale significa, in ultima istanza, assumere una responsabilità che nessun algoritmo può sostituire: quella di stabilire fini, definire limiti e decidere quali capacità siamo disposti a delegare.
In conclusione, la sfida non sarà vinta, a mio avviso, da chi costruirà semplicemente i sistemi più potenti, ma da chi saprà innovare rapidamente senza perdere il controllo della direzione.
E per ciascuno di noi, il rischio più grande non sarà necessariamente che l’AI impari o meno a decidere, quanto piuttosto che noi smettiamo di farlo.
