La reciente encíclica del Papa León XIV ha generado una discusión poco habitual fuera de los círculos de tecnología y el ecosistema digital: la relación entre inteligencia artificial, dignidad humana, concentración de poder, derechos fundamentales y democracia. Más allá de las convicciones religiosas que cada persona pueda tener, resulta difícil ignorar un hecho: varias de las preocupaciones que hoy ocupan titulares internacionales son las mismas que organizaciones de derechos digitales, academia, periodistas y sociedad civil venimos advirtiendo desde hace más de una década.

En efecto, la necesidad de transparencia en los sistemas automatizados, los riesgos de la vigilancia masiva, la concentración de poder en pocas empresas tecnológicas, la opacidad algorítmica, la protección de la dignidad humana frente a decisiones automatizadas o los impactos sociales de la inteligencia artificial forman parte de una agenda que no es reciente, ni exclusivamente propia del boom de la IA. Por el contrario, son discusiones que han sido impulsadas durante años desde espacios de gobernanza de Internet, organizaciones de derechos humanos, comunidades técnicas, universidades y colectivos ciudadanos.

En este marco, lo novedoso es quién lo está diciendo y el lugar desde el cual lo dice. Que una voz con el alcance global de la Iglesia Católica coloque estas preocupaciones en el centro del debate público internacional no inaugura la discusión, pero sí contribuye a amplificarla. En buena cuenta, aquello que muchas veces fue tratado como una preocupación de especialistas hoy empieza a ser reconocido como una cuestión de interés y política pública general.

Tecnología, poder y derechos fundamentales

Durante muchos años, desde el movimiento de derechos digitales hemos sostenido que la discusión tecnológica no puede reducirse a innovación, eficiencia o crecimiento económico. La tecnología no es neutral en sus efectos sociales ya que distribuye poder, habilita determinadas formas de control, define condiciones de acceso a servicios y puede ampliar o restringir el ejercicio de derechos fundamentales.

Así, cuando hablamos de inteligencia artificial, identidad digital, vigilancia estatal, moderación de contenidos, plataformas digitales o protección de datos personales, no estamos hablando únicamente de herramientas o arquitectura tecnológicas. Todo lo contrario: estamos hablando de infraestructuras que organizan la vida social y que, por tanto, requieren límites democráticos, garantías jurídicas y mecanismos de rendición de cuentas.

Dicho de otro modo, una tecnología puede ser presentada como eficiente, moderna o inevitable y, aun así, producir exclusión, discriminación o vigilancia indebida. Una política pública puede invocar la innovación y, al mismo tiempo, debilitar garantías básicas. Una empresa puede ofrecer soluciones “inteligentes” mientras reproduce asimetrías de poder difíciles de cuestionar para las personas usuarias.

Por ello, algunas de las preguntas regulatoriamente relevantes son: ¿Bajo qué condiciones debe ser desarrollada, implementada y controlada la tecnología? ¿Quién decide sus fines? ¿Quién audita sus impactos? ¿Quién responde cuando produce daños? ¿Qué derechos quedan comprometidos? ¿Qué alternativas menos lesivas existen? Estas cuestiones han estado en el centro del trabajo de Hiperderecho y de muchas organizaciones de derechos digitales.

Una coincidencia humanista desde distintos lenguajes

Resulta valioso reconocer cuando actores provenientes de posiciones, orientaciones, tradiciones o finalidades distintas llegan a preocupaciones similares.1 La defensa de la dignidad humana frente a procesos de deshumanización tecnológica no pertenece a una sola comunidad, institución o disciplina. Es una preocupación transversal, que puede y debe convocar a voces diversas. Y, es transversal, porque nos afecta a todos, todas y todes.

En ese sentido, Magnifica Humanitas puede leerse como parte de una conversación más amplia sobre los límites éticos, sociales y jurídicos del desarrollo tecnológico. No porque otorgue legitimidad a preocupaciones que ya eran legítimas por sí mismas, sino porque contribuye a que estas ingresen con mayor fuerza en espacios masivos de discusión pública.

En buena cuenta, el valor de esta intervención pública está en ampliar el radio de una conversación que durante años fue impulsada desde la sociedad civil, la academia, las comunidades técnicas y las organizaciones de derechos humanos. Ello no borra el trabajo previo ni reemplaza los marcos de derechos humanos desde los cuales estas discusiones vienen siendo sostenidas. Más bien, confirma que el problema es demasiado importante como para quedar encerrado en comunidades técnicas o especializadas.

Todas las voces suman cuando el objetivo común es evitar que la tecnología se convierta en un mecanismo de subordinación, exclusión o violencia.

El poder tecnológico también puede ser estatal

Una aproximación centrada únicamente en el poder corporativo resultaría insuficiente. En efecto, si bien las grandes empresas tecnológicas concentran una capacidad inédita para ordenar la vida digital, definir condiciones de acceso, perfilar comportamientos y modular la circulación de información, el Estado también puede convertirse en un actor central de riesgo cuando incorpora tecnologías sin límites democráticos claros.

Así, la pregunta por la dignidad humana frente a la tecnología no puede agotarse en la relación entre personas y corporaciones. También debe alcanzar la relación entre ciudadanía y poder público. Los sistemas de vigilancia, las bases de datos centralizadas, la identificación biométrica, el reconocimiento facial en espacios públicos, las herramientas predictivas de seguridad, los sistemas automatizados de decisión administrativa o las infraestructuras de identidad digital pueden ser presentadas como soluciones de eficiencia, modernización o seguridad. Sin embargo, bajo determinados contextos institucionales, también pueden habilitar formas ampliadas de control social.

El riesgo también se encuentra en que el Estado utilice tecnología para vigilar, clasificar, excluir, perseguir o restringir derechos bajo marcos normativos amplios, ambiguos o insuficientemente controlados. Por ello, toda regulación tecnológica debe tomar en cuenta esta doble dimensión del poder. No basta con establecer obligaciones para actores privados si, al mismo tiempo, se habilitan capacidades estatales intrusivas sin controles robustos, sin transparencia, sin supervisión independiente y sin mecanismos efectivos de reparación. Una política pública de transformación digital puede terminar fortaleciendo derechos, pero también puede convertirse en infraestructura para prácticas autoritarias si no incorpora límites materiales, garantías procedimentales y controles posteriores.

En buena cuenta, regular la tecnología desde una perspectiva de derechos humanos implica preguntarse no solo cómo evitar abusos empresariales o abordar la cuestión del poder de las grandes plataformas, sino también cómo impedir que el poder público convierta la innovación en una vía para normalizar la vigilancia, expandir discrecionalidades o producir afectaciones masivas de derechos. La historia reciente de América Latina, además, obliga a asumir esta preocupación con especial cuidado: las tecnologías de seguridad, inteligencia e identificación no operan en el vacío, sino dentro de instituciones concretas, con culturas políticas concretas y con antecedentes concretos de abuso de poder.

El desafío regulatorio también consiste en delimitar con precisión qué puede y qué no puede hacer el Estado con las tecnologías. De esta manera, una agenda humanista de tecnología debe impedir que la promesa de eficiencia termine funcionando como coartada para debilitar libertades. Por ello, el poder tecnológico estatal debe estar sometido a controles democráticos tan exigentes como aquellos que reclamamos frente al poder corporativo.

Tecnología como libertad

En Hiperderecho solemos decir que la tecnología debe servir para ampliar libertades, no para restringirlas. Nuestro lema, “Tecnología como libertad”, expresa precisamente esa convicción. La tecnología no debe entenderse como un fin en sí mismo, sino como una herramienta orientada al desarrollo humano, la autonomía personal, la participación democrática y el ejercicio efectivo de derechos.

El ecosistema digital y la regulación tecnológica deben ser evaluados a partir de una pregunta central: ¿estos permiten que los derechos fundamentales sean potenciados o, por el contrario, generan afectaciones desproporcionadas? Esta pregunta es aplicable a la inteligencia artificial, a los sistemas de identidad digital, a la vigilancia en espacios públicos, a la moderación de contenidos, a la protección de niñas, niños y adolescentes en línea y a cualquier política pública que pretenda ordenar nuestra vida digital.

Coincidimos con la preocupación de fondo expresada en la encíclica: el desarrollo tecnológico debe estar al servicio de la persona y no al revés. Esa coincidencia reconoce que existen mínimos compartidos en una sociedad democrática de valores humanistas: la dignidad humana, la libertad, la igualdad, la privacidad, la autonomía y la posibilidad de vivir en entornos digitales que no nos reduzcan a datos, perfiles o variables de decisión automatizada.

No obstante ello, también corresponde recordar que esta conversación no empieza ahora. Desde hace años, organizaciones de derechos digitales venimos documentando riesgos, proponiendo salvaguardas, litigando casos, acompañando a comunidades afectadas e insistiendo en que la transformación digital debe tener como centro a las personas. Por eso, quizás la principal noticia no sea que el Vaticano esté hablando sobre inteligencia artificial. La principal noticia es que los impactos humanos, sociales y políticos de la tecnología han alcanzado tal magnitud que ya no pueden ser tratados como asuntos secundarios.

Y ello se presenta como una oportunidad para ampliar la conversación pública, sumar nuevas voces y recordar algo que debería ser evidente, pero que muchas veces se pierde entre promesas de transformación digital, modernización de procesos o innovación: ninguna tecnología merece ser llamada progreso si no contribuye a la libertad, la dignidad y el desarrollo pleno de las personas.