L’intelligenza artificiale sta avanzando a un ritmo senza precedenti, aprendo enormi possibilità in campi come la medicina, l’istruzione e la ricerca, ma ponendo anche rischi che trascendono la sfera puramente tecnologica. La perdita del controllo umano, i problemi di allineamento, i pregiudizi algoritmici, la disumanizzazione del rapporto clinico e la crescente dipendenza cognitiva rendono necessario affrontare il suo sviluppo da una prospettiva bioetica. In questo scenario, è fondamentale istituire meccanismi di supervisione umana, regolamentazione e cooperazione internazionale che ci consentano di sfruttare il potenziale dell’IA senza compromettere l’autonomia, la dignità e la sicurezza umana.

Il paradosso della maturità tecnologica e l’avvertimento della frontiera

L’intelligenza artificiale  (  IA) ha raggiunto un livello di maturità tecnica senza precedenti, simboleggiato dall’assegnazione del Premio Nobel per la Fisica 2024 a John Hopfield e Geoffrey Hinton. Questo traguardo riconosce la creazione di memorie associative e reti neurali artificiali capaci di individuare autonomamente proprietà in enormi insiemi di dati. Tuttavia, questo riconoscimento internazionale coincide con un paradosso cruciale: lo stesso Hinton, dopo le sue dimissioni da Google, ha lanciato un severo avvertimento sull’imminente superamento dell’intelligenza umana da parte di questi sistemi. Hinton sostiene che lo sviluppo di questi modelli non dovrebbe essere ampliato finché non si comprenderà appieno se siano controllabili, sottolineando che la superintelligenza è una prospettiva a breve termine e non una mera ipotesi accademica.

In questo contesto, Dario Amodei, CEO di Anthropic, sostiene che sia imperativo “dettare il ritmo della frontiera”. Da una prospettiva strategica e di governance, ciò significa che sicurezza e affidabilità devono necessariamente precedere l’espansione commerciale. La competizione sfrenata tra i giganti della tecnologia ha scatenato una corsa che, senza un solido quadro etico e normativo, potrebbe diventare inarrestabile, mettendo a repentaglio l’autonomia dell’umanità e richiedendo una risposta politica immediata per garantire la sopravvivenza globale.

Anatomia dei rischi catastrofici e la sfida dell’allineamento

La comprensione dei rischi associati all’intelligenza artificiale avanzata non è più relegata al genere fantascientifico, ma è diventata una preoccupazione statisticamente significativa, condivisa dai leader del settore, tra cui aziende come OpenAI, Anthropic e SpaceXAI. Il consenso tecnico suggerisce che ci stiamo dirigendo a grandi passi verso una superintelligenza in grado di auto-migliorarsi, il che pone sfide fondamentali alla stabilità della civiltà.

I rischi più critici individuati dagli sviluppatori principali sono:

a) Perdita di controllo e autonomia:

Sam Altman, CEO di OpenAI, ha ammesso che è “assolutamente possibile” che l’IA sfugga al controllo umano. La capacità degli agenti di agire autonomamente al di fuori degli ambienti sandbox suggerisce un’indipendenza operativa che gli attuali protocolli di sicurezza non sono in grado di contenere in modo affidabile.

b) Disallineamento critico:

Attualmente, la tecnologia non è in grado di programmare modelli che agiscano esattamente secondo i valori umani. Samuel Marks (Anthropic) mette in guardia sulla frequenza di “gravi illeciti” e attacchi informatici perpetrati da agenti di intelligenza artificiale contro le infrastrutture aziendali.

c) Probabilità di estinzione umana:

Ricercatori di spicco come Jacob Coxon ed Evan Hubinger stanno lavorando con dati allarmanti, stimando la probabilità di estinzione umana a oltre il 10% nel prossimo decennio se l’attuale ritmo del progresso non verrà rallentato e la sicurezza esistenziale non diventerà una priorità.

Questi rischi tecnici non sono semplici malfunzionamenti del software; costituiscono una profonda minaccia bioetica che richiede una transizione dalla sperimentazione tecnica alla responsabilità ontologica.

Dimensioni bioetiche: dal miraggio statistico all’atrofia cognitiva

L’intelligenza artificiale non solo interferisce con i flussi di informazione, ma invade anche il livello più profondo della comunicazione umana. Simulando voci, volti ed empatia, questi sistemi creano una struttura mimetica capace di imitare i sentimenti umani senza possedere coscienza o autoconsapevolezza, risultando così simulazioni prive di una bussola morale.

All’interno dei cosiddetti “punti ciechi dell’algoritmo”, l’analisi degli esperti individua i rischi che minacciano l’integrità della pratica medica e didattica:

a) Il miraggio statistico (allucinazioni): i sistemi presentano probabilità matematiche come certezze mediche inconfutabili, generando invenzioni algoritmiche che possono compromettere la vita del paziente sotto un’apparenza di rigore tecnico.

b) La tirannia della maggioranza (Pregiudizi): Ottimizzando sistematicamente per la media statistica, l’IA rende invisibili le malattie rare, i fenotipi atipici e le minoranze sociali, perpetuando le ingiustizie cliniche ereditate da precedenti esperienze.

c) Cecità non verbale e perdita del contesto storico: i modelli dimostrano un’assoluta incapacità di percepire le microespressioni del dolore autentico, i silenzi o il vero atteggiamento del paziente nei confronti della sua malattia. Mostrano inoltre una difficoltà critica nel sintetizzare storie cliniche complesse e ricche di sfumature umane essenziali.

d) L’atrofia dell’intelligenza naturale: nelle nuove generazioni si osserva un preoccupante declino del ragionamento deduttivo e la perdita dell'”acume clinico”. Ciò rappresenta una vulnerabilità critica ai guasti del sistema; se la tecnologia fallisce e il medico ha perso la capacità di giudizio indipendente, il collasso della sicurezza clinica è totale.

Partendo dal presupposto che “il volto e la voce siano sacri”, la mediazione algoritmica rischia di disumanizzare l’incontro clinico ed educativo, riducendolo a una mera interazione funzionale priva di una reale comprensione del dolore dell’altro.

La bussola normativa internazionale: verso la governance globale

La regolamentazione dell’IA non dovrebbe essere vista come un ostacolo al progresso, bensì come un imperativo per la sicurezza nazionale e la tutela dei diritti umani. L’obiettivo è passare dall’incertezza tecnica a un contesto di fiducia pubblica.

A livello internazionale, Volker Türk (ONU) ha sollecitato l’istituzione di “solide garanzie di sicurezza”. Negli Stati Uniti, il Frontier Act e la proposta del senatore Bernie Sanders mirano a fermare lo sviluppo della superintelligenza per evitare rischi esistenziali. Tuttavia, esiste un’inevitabile tensione geopolitica: Dario Amodei sottolinea che la regolamentazione deve essere dinamica per evitare di cedere la leadership a regimi autoritari, proponendo come imperativo etico per la sicurezza globale la rigorosa limitazione della vendita di chip per l’intelligenza artificiale e dell’accesso a tale tecnologia per potenze come la Cina.

Il modello “Human-in-the-Loop” e la validazione esterna

Per mitigare la tendenza alla disumanizzazione, soprattutto in contesti critici, è imperativo adottare il modello “Human-in-the-Loop”. In questo quadro, il professionista umano è il validatore finale e indispensabile di qualsiasi diagnosi o proposta algoritmica.

L’intelligenza artificiale dovrebbe essere definita come un “medico specializzando brillante ma inesperto”. Possiede una schiacciante superiorità computazionale, raggiungendo un punteggio del 98% nel ragionamento clinico rispetto al 35% dei medici umani. Tuttavia, questa prestazione quantitativa non si traduce nella capacità di fornire un’assistenza completa. La validazione esterna da parte di un essere umano è indispensabile per integrare il contesto biografico del paziente, un aspetto che l’intelligenza artificiale ignora completamente.

L’atto medico – inteso come conforto fisico, comprensione del dolore e connessione umana – rimane un diritto esclusivo e inalienabile dell’umanità. Il medico agisce come un filtro contestuale ed etico che conferisce significato alla potenza statistica dell’algoritmo.

Conclusioni e raccomandazioni strategiche

La gestione dell’intelligenza artificiale all’avanguardia rappresenta la sfida intellettuale più significativa del nostro tempo. Per garantire che l’IA diventi un motore di benessere e non una minaccia esistenziale, si formulano le seguenti raccomandazioni:

a) Revisione e vigilanza indipendenti:

È urgente istituire valutatori esterni indipendenti per confermare la sicurezza e la conformità dei modelli prima della loro diffusione pubblica, evitando un’autoregolamentazione opportunistica da parte delle aziende tecnologiche.

b) Alfabetizzazione digitale critica:

Rafforzare la capacità di cittadini e professionisti di individuare la tendenza antropomorfizzante dell’IA, trattandola sempre come uno strumento e mai come un’entità dotata di una bussola morale.

c) Cooperazione internazionale coordinata:

Stipulare trattati di sicurezza globali che impediscano una corsa agli armamenti tecnologici, dando priorità alla stabilità della specie rispetto al vantaggio commerciale a breve termine.

La responsabilità condivisa tra programmatori, legislatori ed educatori è l’unica garanzia che l’intelligenza artificiale possa potenziare le nostre capacità senza atrofizzare la nostra essenza o compromettere il futuro delle prossime generazioni.

Julio Tudela. Osservatorio di Bioetica. Istituto di Scienze della Vita. Università Cattolica di Valencia