Il documentario “Molly and the Algorithms” ricostruisce la tragedia di Molly Russell, la quattordicenne britannica che si è suicidata nel 2017 dopo essere stata esposta a contenuti dannosi sui social media. Da allora, suo padre ha intrapreso una battaglia legale per chiedere conto ai colossi della tecnologia. Il film mette in luce i pericoli che corrono milioni di bambini e solleva importanti dilemmi bioetici riguardanti il ​​profitto aziendale, la vulnerabilità digitale, la manipolazione dell’autonomia e il principio di non maleficenza.

Un anno fa, la serie di finzione  *Adolescence*  ha sconvolto il pubblico, e in particolare i genitori, ritraendo la vulnerabilità dei minori alla radicalizzazione digitale e alla violenza online. Ora, il documentario  *Molly and the Algorithms* mostra che questo fenomeno non è finzione, ma una realtà sociale allarmante con conseguenze potenzialmente drammatiche. L’esposizione frequente e incontrollata a determinati contenuti e comportamenti a rischio – che gli algoritmi delle piattaforme non solo non riescono a frenare, ma addirittura amplificano per profitto – ha un impatto grave sulla salute mentale dei minori che non possiedono la maturità cognitiva ed emotiva necessaria per distinguere la realtà da ciò che distorce la loro percezione del mondo e di se stessi.

Il regista britannico Marc Silver mette a confronto famiglie e governi con i  gravi danni  che stanno emergendo nelle nuove generazioni plasmate da internet. Il suo documentario svela le conseguenze di un modello economico che mercifica la natura umana grazie alla sua potente capacità di prevedere i modelli comportamentali e soddisfare i desideri immediati. Uno dei dilemmi etici più inquietanti che Silver rivela è come questi sistemi siano progettati per trarre profitto dalla sofferenza e prolungare la dipendenza digitale di bambini e, soprattutto, adolescenti in tempi di crisi, invece di indirizzare gli algoritmi verso la rimozione di contenuti dannosi.

Questo sistema perverso viene analizzato attraverso la storia vera dell’adolescente Molly Russell. La sua famiglia, guidata dall’instancabile determinazione del padre, Ian Russell, ha collaborato strettamente a questa produzione con il fermo intento di sensibilizzare l’opinione pubblica sui pericoli di internet e impedire ad altri genitori di subire lo stesso dolore irreparabile per la tragica fine della figlia. Per svelare questa cruda realtà, il documentario accompagna lo spettatore in un viaggio immersivo e rigoroso, dalla camera da letto di Molly alla straziante analisi delle ricerche e dei contenuti memorizzati sul suo cellulare. Questa narrazione è arricchita da intime testimonianze familiari, dalle esperienze dei suoi amici più cari e dalle comparizioni in tribunale di alti dirigenti di aziende della Silicon Valley, che rivelano la preoccupante contraddizione etica dell’industria tecnologica riguardo ai danni causati dai suoi contenuti automatizzati.

Il cambiamento graduale di Molly

Nella testimonianza della famiglia, il padre descrive un graduale cambiamento nella personalità di Molly, da ragazza allegra e socievole a persona introversa e riservata, mentre sprofondava nell’oscurità. Tuttavia, all’epoca, i genitori non erano consapevoli della causa di questo isolamento, il che impedì loro di prevedere il tragico epilogo. Solo dopo la sua morte  , esaminando i suoi dispositivi, scoprirono che l’algoritmo l’aveva immersa in contenuti incentrati sulla perdita di peso estrema e sull’assimilazione di standard di bellezza irraggiungibili. Questa induzione sistematica verso un’immagine di sé distorta dimostra come queste piattaforme sfruttino le insicurezze intrinseche all’infanzia e all’adolescenza.

La perdita di controllo e protezione all’interno dell’ambiente familiare si riflette nelle parole strazianti di Ian Russell. Il padre della ragazza spiega come i rituali quotidiani di sicurezza – chiudere a chiave la porta d’ingresso dopo aver dato la buonanotte – siano inutili nell’era digitale. Ammette senza mezzi termini che, come molti altri genitori, non era consapevole del fatto che, quando sua figlia era sola in camera sua, il suo  smartphone  apriva una finestra diretta sul mondo esterno, consentendo di prendere decisioni su cosa fosse appropriato o dannoso per una quattordicenne “a distanza, nella Silicon Valley e in via sperimentale”. Questa allarmante rivelazione pone il problema al centro del dibattito etico: la sovranità della casa e il dovere di protezione della famiglia vengono soppiantati dai test algoritmici delle aziende private.

È opportuno sottolineare che la prima di questo documentario coincide con la decisione di diversi Stati membri dell’Unione Europea di valutare il divieto di accesso ai social media per i minori. Francia e Danimarca hanno guidato questa offensiva continentale, introducendo restrizioni generali per i minori di 15 anni e affiancandosi a misure restrittive internazionali come quelle adottate in Australia. Analogamente, paesi come la Spagna – che sta elaborando una propria legge per innalzare l’età minima a 16 anni – e i Paesi Bassi stanno promuovendo una regolamentazione unificata e armonizzata in tutto il blocco. Questa risposta sposta l’attenzione dalla responsabilità individuale delle famiglie all’urgente necessità di un intervento istituzionale per proteggere la salute pubblica e i diritti dei minori dal libero mercato della tecnologia.

Analisi bioetica

Dal punto di vista della bioetica personalista, il caso presentato nel documentario rivela un profondo crollo ontologico e morale: la subordinazione della dignità dell’adolescente al guadagno economico dei giganti della tecnologia. Il modello del capitalismo della sorveglianza mina direttamente il principio di libertà e responsabilità individuale, poiché la vulnerabilità digitale di bambini e adolescenti viene sistematicamente sfruttata. Sfruttando l’immaturità degli adolescenti attraverso loop I processi algoritmici orientati al profitto aziendale non solo manipolano palesemente l’autonomia di un individuo in via di sviluppo, ma violano anche gravemente il principio di non maleficenza. Questo principio non è semplicemente il dovere passivo di “non nuocere”, ma il divieto esplicito e l’obbligo morale di evitare di infliggere dolore o danno intenzionalmente o per negligenza.

Tuttavia, gli algoritmi di raccomandazione operano secondo una logica di ottimizzazione che ignora la vulnerabilità umana: non riescono a distinguere tra l’interesse per contenuti sani e l’ossessione autodistruttiva di un minore in crisi. Alimentando sistematicamente e compulsivamente il ciclo dell’autolesionismo e di standard di bellezza irraggiungibili, le piattaforme tecnologiche si impegnano in una malevolenza attiva e automatizzata. Il danno non è un fallimento collaterale del sistema, ma la diretta conseguenza di una progettazione che privilegia il tempo trascorso davanti allo schermo rispetto al benessere dell’individuo. Nel caso di Molly Russell, l’algoritmo non è stato un testimone neutrale, ma un agente attivo del danno.

Una tale perversione del sistema si allinea perfettamente con ciò che la filosofa Shoshana Zuboff definisce il fondamento della nostra era digitale. Nella sua analisi delle dinamiche delle Big Tech, Zuboff avverte che il capitalismo della sorveglianza rivendica unilateralmente l’esperienza umana come materia prima gratuita da tradurre in dati comportamentali. ^[1]  Applicata alla tragica fine di Molly Russell, questa premessa assume un tono devastante. Le insicurezze, la tristezza e la sofferenza di una ragazza di quattordici anni hanno cessato di essere stati emotivi che richiedevano cura e protezione, diventando invece, agli occhi della Silicon Valley, mera “materia prima” monetizzabile. La mercificazione della psiche riduce l’esistenza dei minori a semplici modelli predittivi di consumo, perpetrando un assoluto crollo etico nella difesa della dignità personale come fine in sé e mai come mezzo per il profitto aziendale.

Questa rottura si collega all’etica di Hans Jonas e al suo imperativo di responsabilità per la civiltà tecnologica. Il filosofo sottolinea che la portata della tecnologia moderna ha superato tutte le categorie etiche tradizionali, poiché le azioni umane possiedono ora un potere distruttivo che può minacciare irreversibilmente l’essenza stessa della vita umana. Applicato agli ambienti virtuali raffigurati nel documentario, l’imperativo tecnologico ci obbliga a considerare un'”euristica della paura”: dare priorità alla prevenzione del danno psicologico e dei rischi per la vita dei minori rispetto all’ottimismo del libero mercato aziendale. Per Jonas, la vera responsabilità etica consiste nell’assicurare che le innovazioni tecnologiche non distruggano le condizioni per un futuro veramente umano e dignitoso per le generazioni presenti e future. ^[2]

Specifiche tecniche

Titolo originale: Molly vs the Machines

Anno: 2026

Regista: Marc Silver

Paese: Regno Unito e Stati Uniti

Durata: 1 ora e 23 minuti.

Amparo Aygües  . Laurea magistrale in Bioetica presso l’Università Cattolica di Valencia. Membro dell’Osservatorio di Bioetica.

***

[1]  Zuboff, S. (2020).  L’era del capitalismo della sorveglianza: la lotta per un futuro umano sulla nuova frontiera del potere . Paidós.

[2]  Jonas, H. (2015).  L’imperativo della responsabilità: un saggio sull’etica per una civiltà tecnologica . Herder.