El documental “Molly y los algoritmos” reconstruye la tragedia de Molly Russell, la adolescente británica de catorce años que se suicidó en 2017 tras la exposición a contenidos dañinos en redes sociales. Desde entonces, su padre libra una batalla en los tribunales para que los gigantes tecnológicos asuman la responsabilidad de lo ocurrido. La pieza audiovisual alerta de los peligros a los que se enfrentan millones de menores y plantea dilemas bioéticos claves en torno al lucro corporativo, la vulnerabilidad digital, la manipulación de la autonomía y la no maleficencia.

Si hace un año la serie de ficción Adolescencia impactaba al público y, particularmente, a los padres al retratar la vulnerabilidad de los menores ante la radicalización digital y la violencia en la red, el documental Molly y los algoritmos muestra que este fenómeno no pertenece al ámbito de la ficción, sino que constituye una alarmante realidad social con potenciales consecuencias dramáticas. La exposición desregulada y frecuente a determinados contenidos y conductas de riesgo —que los algoritmos de las plataformas no solo no frenan, sino que amplifican en busca de beneficio económico— impacta severamente en la salud mental de menores que carecen de la madurez cognitiva y emocional para discernir la realidad de aquello que distorsiona su percepción del mundo y de sí mismos.

El cineasta británico Marc Silver sitúa a las familias y a los Estados frente a los severos daños que comienzan a emerger en las nuevas generaciones moldeadas por Internet. En su documental expone las consecuencias de un modelo económico que mercantiliza la naturaleza humana por su potente capacidad para predecir patrones de conducta y satisfacer deseos inmediatos. Uno de los dilemas éticos más sobrecogedores que desvela Silver es cómo estos sistemas están diseñados para rentabilizar el sufrimiento y prolongar el enganche digital de niños y, sobre todo, de adolescentes en momentos de crisis, en lugar de canalizar los algoritmos hacia la eliminación de contenidos perjudiciales.

Este perverso engranaje se analiza a partir del caso real de la adolescente Molly Russell. Su familia, liderada por la incansable determinación de su padre Ian Russell, ha cooperado estrechamente en esta producción con el firme propósito de alertar sobre los peligros de la red y evitar que otros padres pasen por el mismo e irreparable dolor del trágico final de su hija. Para evidenciar esta cruenta realidad, el documental realiza un inmersivo y riguroso recorrido que lleva al espectador desde la propia habitación de Molly hasta el desgarrador análisis de las búsquedas y contenidos archivados en su teléfono móvil. Este hilo conductor se complementa con el íntimo testimonio familiar, las vivencias de sus amigas más cercanas y los careos judiciales con altos cargos de las corporaciones de Silicon Valley, desvelando la alarmante desconexión ética de la industria tecnológica ante los daños que ocasionan sus contenidos automatizados.

El progresivo cambio de Molly

En el testimonio familiar, su padre describe un progresivo cambio en la personalidad de Molly, quien pasó de ser una joven alegre y sociable a mostrarse retraída e introvertida conforme se adentraba en la oscuridad. Sin embargo, en ese momento sus progenitores desconocían el origen de dicho aislamiento, lo que les impidió prever el trágico desenlace. Fue únicamente tras su fallecimiento cuando, al revisar sus dispositivos, descubrieron que el algoritmo la había sumergido en contenidos orientados a la reducción extrema de peso y a la asimilación de cánones imposibles de belleza. Esta inducción sistemática hacia la distorsión de la autoimagen evidencia cómo las plataformas capitalizan las inseguridades propias del desarrollo infanto-juvenil.

La pérdida de control y protección por parte del entorno familiar queda reflejada en las desgarradoras palabras de Ian Russell. El padre de la menor expone cómo los rituales cotidianos de seguridad —cerrar la puerta de la casa con llave al dar las buenas noches— resultan inútiles en la era digital. Admite con crudeza que, al igual que muchos otros padres, desconocía que cuando su hija estaba sola en la habitación su smartphone abría una ventana directa al exterior, permitiendo que las decisiones sobre lo que es adecuado o nocivo para una niña de catorce años se tomaran “en remoto en Silicon Valley y de forma experimental”. Esta alarmante revelación sitúa el problema en el centro del debate ético: la soberanía del hogar y el deber de protección familiar son suplantados por el ensayo algorítmico de corporaciones privadas.

Cabe señalar que el estreno de este documental coincide con la decisión de diversos Estados de la Unión Europea de plantear la prohibición del acceso a las redes sociales para los menores de edad. Francia y Dinamarca han liderado esta ofensiva continental al legislar restricciones generales para los menores de 15 años, sumándose a medidas internacionales restrictivas como las de Australia. Asimismo, naciones como España —que tramita su propia ley para elevar la edad mínima a los 16 años— y los Países Bajos están presionando para que se unifique y armonice una regulación en todo el bloque comunitario. Esta respuesta traslada el foco desde la responsabilidad individual de las familias hacia la urgencia de una intervención institucional que proteja la salud pública y los derechos de los menores frente al libre mercado tecnológico.

Análisis bioético

Desde la perspectiva de la bioética personalista, el caso expuesto en el documental revela una profunda quiebra ontológica y moral: la subordinación de la dignidad de la adolescente al beneficio económico de los gigantes tecnológicos. El modelo del capitalismo de vigilancia atenta directamente contra el principio de libertad y responsabilidad de la persona, ya que la vulnerabilidad digital infanto-juvenil es instrumentalizada de forma sistemática. Al explotar la inmadurez de los adolescentes mediante bucles algorítmicos orientados al lucro corporativo, no solo se ejerce una flagrante manipulación de la autonomía de una persona en pleno desarrollo, sino que se conculca de forma severa el principio de no maleficencia. Esta premisa no consiste únicamente en el deber pasivo de “no hacer daño”, sino en la prohibición taxativa y la obligación moral de infligir dolor o daño de forma intencionada o por negligencia.

Sin embargo, los algoritmos de recomendación operan bajo una lógica de optimización que ignora la vulnerabilidad humana: no distinguen el interés por un contenido saludable de la obsesión autodestructiva de un menor en crisis. Al alimentar de manera sistemática y compulsiva el bucle de autolesiones y cánones estéticos imposibles, las plataformas tecnológicas incurren en una maleficencia activa y automatizada. El daño no es un fallo colateral del sistema, sino la consecuencia directa de un diseño que prioriza el tiempo de retención en pantalla por encima del bien de la persona. En el caso de Molly Russell, el algoritmo no fue un testigo neutral, sino un agente activo de daño.

Tal perversión del sistema responde perfectamente a lo que la filósofa Shoshana Zuboff define como la base de nuestra era digital. En su análisis sobre las dinámicas de las grandes tecnológicas, Zuboff advierte que el capitalismo de la vigilancia reclama unilateralmente la experiencia humana como materia prima gratuita para ser traducida en datos de comportamiento.^[1] Aplicado al trágico final de Molly Russell, esta premisa adquiere un tinte desolador. Las inseguridades, la tristeza y el sufrimiento de una adolescente de catorce años dejaron de ser estados emocionales que requerían cuidado y protección para convertirse, a ojos de Silicon Valley, en simple “materia prima” monetizable. La mercantilización de la psique reduce la existencia de los menores a meros patrones predictivos de consumo, perpetrando una quiebra ética absoluta en la defensa de la dignidad personal como un fin en sí mismo y jamás como un medio para el lucro corporativo.

Esta quiebra conecta con la ética de Hans Jonas y su imperativo de responsabilidad para la civilización tecnológica. El filósofo subraya que el alcance de la técnica moderna ha superado todas las categorías éticas tradicionales, ya que las acciones humanas ahora poseen un poder destructivo que puede amenazar de forma irreversible la propia esencia de la vida humana. Trasladado a los entornos virtuales que expone el documental, el imperativo tecnológico nos obliga a plantear una “heurística del temor”: anteponer la previsión del daño psicológico y el riesgo vital de los menores al optimismo del libre mercado corporativo. Para Jonas, la verdadera responsabilidad ética reside en velar por que las innovaciones tecnológicas no destruyan las condiciones de posibilidad de un futuro auténticamente humano y digno para las actuales y las próximas generaciones.^[2]

Ficha técnica

Título original: Molly vs the Machines

Año: 2026

Director: Marc Silver

País: Reino Unido y Estados Unidos

Duración: 1h 23 min.

Amparo Aygües . Master Universitario en Bioética por la Universidad Católica de Valencia . Miembro del Observatorio de Bioética

***

[1] Zuboff, S. (2020). La era del capitalismo de la vigilancia: La lucha por un futuro humano en la nueva frontera del poder. Paidós.

[2] Jonas, H. (2015). El principio de responsabilidad. Ensayo de una ética para la civilización tecnológica. Herder.