Per anni, gli avvertimenti sui rischi dell’intelligenza artificiale sono giunti dall’esterno. Scienziati, filosofi, governi e persino la Chiesa si sono interrogati su quanto fosse lecito spingersi oltre e quali potessero essere le conseguenze.

Ora l’avvertimento proviene da una fonte ben più inquietante:  da coloro che lo costruiscono .

Dario Amodei, CEO di Anthropic, ha appena invitato i principali laboratori a rallentare il ritmo di sviluppo dei loro modelli di intelligenza artificiale più potenti. Non propone di fermare lo sviluppo dell’intelligenza artificiale, ma piuttosto di evitare di progredire più velocemente di quanto siamo in grado di comprenderla e controllarla.

Sam Altman, CEO di OpenAI, ha appoggiato la necessità di “dare il ritmo” alla frontiera tecnologica e ha sostenuto le valutazioni indipendenti dei modelli. Elon Musk è stato ancora più conciso: “Dario ha ragione”.

La domanda, quindi, sembra inevitabile:

Chi ha voglia di rallentare?

La risposta non è solo tecnologica. È anche politica ed economica.

La Cina riconosce i rischi. Sta sviluppando standard e meccanismi di sicurezza per mantenere i sistemi di intelligenza artificiale sotto il controllo umano. Tuttavia, respinge l’idea che le preoccupazioni per la sicurezza debbano essere utilizzate per limitare il suo sviluppo tecnologico.

Pechino ha avvertito che “allarmismo, confronto e competizione spietata” danneggiano la governance globale dell’intelligenza artificiale.

Donald Trump ha scelto una risposta molto diversa. Ha minimizzato gli avvertimenti sui rischi dell’intelligenza artificiale e ha riassunto la sua posizione in una sola frase:

“Chi vince nell’IA, vince.”  Chiunque vince la battaglia dell’intelligenza artificiale, vince.

È qui che sorge il dilemma.

Tutti riconoscono che i rischi esistono. Ma chi è disposto a rallentare quando farlo potrebbe significare che qualcun altro arriva prima?

Mesi prima di questa discussione, Leone XIV aveva proposto un altro modo di affrontare il problema.

In  Magnifica Humanitas,  egli sostiene che invocare “prudenza, controlli rigorosi” e persino, in determinate circostanze,  rallentare l’adozione dell’intelligenza artificiale non significa essere contrari al progresso .

Il Papa mette in guardia contro uno squilibrio sempre più evidente: la tecnologia avanza a un ritmo molto più rapido della nostra capacità di comprenderne le conseguenze e di costruire le norme, le istituzioni e il consenso necessari per governarla.

La tecnologia ha imparato a correre più velocemente di noi.

Ecco perché Leone XIV pone un limite altrove: l’intelligenza artificiale deve rimanere sotto la responsabilità umana. L’innovazione non può finire per decidere da sola dove stiamo andando.

E solleva anche una questione scomoda: se vogliamo che l’IA risponda a determinati “valori umani”,  chi decide quali siano questi valori?

Le aziende che sviluppano i modelli, i governi, gli Stati Uniti, la Cina, coloro che possiedono i dati o coloro che controllano la tecnologia.

Perché chiunque definisca i valori di un’intelligenza artificiale acquisisce anche un enorme potere nel definire il mondo in cui tale intelligenza agirà.

Forse è per questo che la discussione non può più essere ridotta a una contrapposizione tra favore e contro l’intelligenza artificiale.

Amodei chiede di rallentare. Altman concorda sulla necessità di regolamentare il ritmo. La Cina riconosce i rischi ma non vuole perdere terreno. Trump risponde che chi vince la battaglia dell’intelligenza artificiale vince.

E Leone XIV introduce una questione diversa.

Non conta chi arriva per primo, ma come vogliamo arrivarci.

Possiamo costruire macchine sempre più veloci, più capaci e più autonome. Possiamo far sì che domani facciano ciò che oggi sembra ancora impossibile.

Ma un’intelligenza artificiale non prova gioia o dolore. Non ama. Non ha amici. Non conosce la fragilità, la speranza o la paura. Può elaborare milioni di testi che descrivono queste esperienze, ma non può viverle. Noi sì.

Pertanto, forse la sfida più grande in questa corsa non è rendere l’intelligenza artificiale sempre più simile a noi. Piuttosto, è che nella nostra ossessione di essere i primi,  finiamo per diventare sempre più simili alle macchine , lasciandoci alle spalle la nostra umanità.