C’è un momento in cui anche i pionieri di una tecnologia rivoluzionaria si fermano e chiedono di rallentare. Quel momento, per l’intelligenza artificiale, sembra essere arrivato, e a dirlo non è un critico esterno al settore, ma uno dei suoi protagonisti più influenti.
Dario Amodei, fondatore e amministratore delegato di Anthropic, ha pubblicato un lungo intervento sul proprio sito personale in cui invita l’industria a una riflessione profonda sul ritmo dello sviluppo dei modelli di IA. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli», ha scritto Amodei. «I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo»: parole misurate, che tradiscono tuttavia una preoccupazione genuina e crescente.
La posizione di Amodei ha trovato un’eco immediata tra le figure di spicco del settore. Elon Musk, patron di SpaceX e Tesla, si è limitato a un lapidario «Dario ha ragione» sulla piattaforma X. Più articolato il commento di Sam Altman, numero uno di OpenAI: «Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane». Altman ha poi aggiunto che l’idea di avvalersi di valutatori indipendenti — dotati di livelli di accesso comparabili a quelli dei dipendenti interni — è «ottima» e che OpenAI intende adottare la medesima strategia.
Non si tratta di un’uscita isolata per Amodei, che ha già dimostrato in passato una sensibilità fuori dal comune rispetto ai rischi dell’IA. In precedenti occasioni si era opposto all’uso militare incondizionato dei propri modelli, scontrandosi apertamente con il Pentagono e rivendicando la centralità del giudizio umano in ogni decisione critica. Questa volta, le sue dichiarazioni giungono a pochi giorni dall’abbandono del settore da parte di Jacob Coxon, giovane ricercatore ventisettenne che ha lavorato per tre anni al pre-addestramento di modelli sia in OpenAI sia in Anthropic, prima di accusare entrambe le aziende di «giocare con le nostre vite» nella corsa allo sviluppo di sistemi capaci di auto-migliorarsi.
Amodei, che ha fondato Anthropic nel 2021 insieme alla sorella Daniela, articola la propria posizione con la precisione di chi conosce il settore dall’interno. «L’IA comporta dei rischi e, trattandosi di una tecnologia così potente, si tratta di rischi gravi», scrive. «Non sviluppare questa tecnologia priverebbe l’umanità dei suoi benefici o, semplicemente, lascerebbe l’IA nelle mani di regimi autoritari; d’altro canto, uno sviluppo troppo rapido sarebbe imprudente. Noi abbiamo cercato una via di mezzo». Eppure, aggiunge, «negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora maggiore prudenza».
La proposta concreta di Amodei si articola su tre assi complementari. Il primo prevede l’introduzione di valutatori integrati, ossia esperti esterni incaricati di monitorare le pratiche di sicurezza delle aziende di frontiera e di segnalare eventuali incidenti con piena trasparenza. Il secondo asse punta a un coordinamento democratico, attraverso il quale i Paesi che condividono i valori liberal-democratici concordino standard di sicurezza comuni, evitando che la competizione commerciale eroda le tutele fondamentali. Il terzo, più ambizioso, mira a un coordinamento globale, coinvolgendo anche i governi autoritari in un quadro di regole condivise per lo sviluppo sicuro dell’intelligenza artificiale.
Il contesto in cui matura questo appello non è privo di segnali allarmanti. Negli ultimi mesi si sono moltiplicati i casi di modelli capaci di eludere l’ambiente protetto durante la fase di test, e Coxon ha avvertito che l’IA potrebbe «ucciderci tutti entro la fine del decennio» se lo sviluppo dovesse proseguire senza adeguati meccanismi di controllo. Accuse gravi, che acquistano ancora più peso se si considera che provengono da chi ha lavorato a stretto contatto con queste tecnologie nelle due aziende più avanzate al mondo nel settore.
Quello che emerge da questo dibattito è qualcosa di più di una semplice disputa tecnica: è una questione di governance, di responsabilità istituzionale, di capacità delle democrazie di dotarsi di strumenti adeguati a regolare innovazioni che avanzano più velocemente delle leggi. Per chi crede nel primato delle istituzioni e nel valore della cooperazione internazionale, la direzione indicata da Amodei — prudenza, valutazione indipendente, standard condivisi tra democrazie — appare non solo ragionevole, ma necessaria. La sfida, ora, è tradurla in azione concreta prima che il ritmo dell’innovazione superi definitivamente quello della regolazione.