Durante años las advertencias sobre los riesgos de la inteligencia artificial llegaron desde afuera. Científicos, filósofos, gobiernos y también la Iglesia preguntaban hasta dónde avanzar y cuáles podían ser las consecuencias.

Ahora la advertencia llega desde un lugar más inquietante: desde quienes la construyen.

Dario Amodei, CEO de Anthropic, acaba de pedir que los grandes laboratorios reduzcan el ritmo de desarrollo de los modelos más poderosos. No propone detener la inteligencia artificial, sino evitar avanzar más rápido de lo que somos capaces de comprender y controlar.

Sam Altman, CEO de OpenAI, respaldó la necesidad de “marcar el ritmo” de la frontera tecnológica y apoyó evaluaciones independientes sobre los modelos. Elon Musk fue todavía más breve: “Dario tiene razón”.

La pregunta entonces parece inevitable:

¿Quién se anima a levantar el pie del acelerador?

La respuesta no es solamente tecnológica. También es política y económica.

China reconoce los riesgos. Está desarrollando estándares de seguridad y mecanismos destinados a mantener los sistemas de IA bajo control humano. Pero rechaza que la preocupación por la seguridad se convierta en una herramienta para limitar su desarrollo tecnológico.

Desde Pekín advirtieron que “el alarmismo, la confrontación y la competencia feroz” perjudican la gobernanza global de la inteligencia artificial.

Donald Trump eligió una respuesta muy diferente. Relativizó las advertencias sobre los riesgos de la IA y resumió su posición en una frase:

“Whoever wins AI, wins.” Quien gana la inteligencia artificial, gana.

Ahí aparece el dilema.

Todos pueden reconocer que existen riesgos. Pero ¿quién está dispuesto a disminuir la velocidad cuando hacerlo podría significar que otro llegue primero?

Meses antes de esta discusión, León XIV había planteado otra manera de mirar el problema.

En Magnifica Humanitas sostiene que pedir “prudencia, controles rigurosos” e incluso, en determinadas circunstancias, ralentizar la adopción de la inteligencia artificial no significa estar en contra del progreso.

El Papa advierte sobre un desequilibrio cada vez más evidente: la tecnología avanza a una velocidad mucho mayor que nuestra capacidad para comprender sus consecuencias y construir las normas, instituciones y consensos necesarios para gobernarla.

La tecnología aprendió a correr más rápido que nosotros.

Por eso León XIV coloca el límite en otro lugar: la inteligencia artificial debe permanecer bajo responsabilidad humana. La innovación no puede terminar decidiendo por sí misma hacia dónde vamos.

Y plantea además una pregunta incómoda: si pretendemos que la IA responda a determinados “valores humanos”, ¿quién decide cuáles son esos valores?

Las empresas que desarrollan los modelos, los gobiernos, Estados Unidos, China, quienes poseen los datos o quienes controlan la tecnología.

Porque quien define los valores de una inteligencia artificial también adquiere un enorme poder para definir el mundo en el que esa inteligencia actuará.

Quizás por eso la discusión ya no pueda reducirse a estar a favor o en contra de la inteligencia artificial.

Amodei pide reducir la velocidad. Altman acepta que hay que regular el ritmo. China reconoce los riesgos, pero no quiere perder terreno. Trump responde que quien gane la IA, gana.

Y León XIV introduce una pregunta diferente.

No quién llega primero, sino cómo queremos llegar.

Podemos construir máquinas cada vez más rápidas, capaces y autónomas. Podemos conseguir que mañana hagan aquello que hoy todavía parece imposible.

Pero una inteligencia artificial no siente alegría ni dolor. No ama. No tiene amigos. No conoce la fragilidad, la esperanza ni el miedo. Puede procesar millones de textos que hablan de esas experiencias, pero no puede vivirlas. Nosotros sí.

Por eso, quizás el gran desafío de esta carrera no sea conseguir que la inteligencia artificial se parezca cada vez más a nosotros. Sino que, en nuestra obsesión por llegar primero, nosotros terminemos pareciéndonos cada vez más a las máquinas, dejando nuestra humanidad de lado.