Categoría: Inteligencia artificial

Cuando el algoritmo entra al Juzgado: preguntas urgentes sobre IA y justicia en el Perú

No es novedad que la inteligencia artificial (IA) está transformando muchos aspectos de nuestra vida cotidiana. Desde qué videos nos aparecen en redes sociales hasta los sistemas de vigilancia en espacios públicos que captan nuestros rostros, cada vez más decisiones que afectan a las personas se toman con el apoyo de algoritmos. Pero, ¿qué ocurre cuando esta tecnología llega al sistema judicial?

Leer más

Archivos Epstein, inteligencia artificial y desinformación: cuando el morbo reemplaza a la justicia

En los últimos días, los llamados “archivos Epstein” han vuelto a circular con fuerza en redes sociales. Videos virales, hilos “explicativos”, supuestas listas, audios generados por inteligencia artificial (IA) y otros contenidos sensacionalistas prometen revelar “la verdad oculta” sobre uno de los casos de abuso sexual y trata de personas más mediaticos de las últimas décadas. Sin embargo, lejos de contribuir a la comprensión del caso o a las demandas de justicia de las víctimas, esta nueva oleada de contenidos ha reforzado dinámicas de desinformación que distorsionan el debate público y afectan la manera en que socialmente interpretamos las violaciones graves a los derechos humanos.

Leer más

Gobernanza global de la IA: esfuerzos, vacíos y retos

En los últimos cinco años, el crecimiento acelerado de aplicaciones de inteligencia artificial (IA) accesibles al público ha reconfigurado dinámicas institucionales y sociales. Desde la provisión de servicios públicos apoyados en IA hasta la presencia de IA generativa y sistemas de recomendación en nuestros espacios informativos, los posibles efectos, oportunidades y riesgos son múltiples.

Leer más

IA en el Perú: reglamento listo, datos pendientes

El 9 de septiembre de 2025 se publicó el Reglamento de la Ley de Promoción de la Inteligencia Artificial, la primera regulación de alcance general sobre IA en Latinoamérica. Inspirado en el enfoque europeo, el Reglamento clasifica los sistemas en tres niveles de riesgo y establece obligaciones tanto para entidades públicas como privadas. Entre ellas, destacan la supervisión humana en decisiones de alto impacto y la obligación de realizar análisis de impacto en sistemas de riesgo alto.

Leer más

Nuevo Reglamento de IA en el Perú, y ¿nuevas garantías frente a malos usos?

Tras más de dos años desde la publicación de la Ley de IA el 5 de julio de 2023, el 9 de septiembre se publicó su Reglamento. Esto luego de un primer borrador en mayo de 2024, que tuvo una sesión virtual abierta de discusión y un plazo de recepción de comentarios; seguido de un segundo borrador, en noviembre del mismo año, que contó a su vez con un plazo de recepción de comentarios y dos sesiones cerradas de discusión.

Leer más

Nuevos y viejos desafíos en el segundo Proyecto de Reglamento de IA en el Perú

El 19 de noviembre la Secretaría de Gobierno y Transformación Digital (SGTD) publicó el nuevo proyecto de Reglamento de la Ley de IA con cambios significativos respecto a la primera versión de mayo de este año, que comentamos en su oportunidad. Entre las novedades, destacan nuevas competencias para Concytec (supervisar el nivel de riesgo de software de IA), y para Indecopi (supervisar el nivel de riesgo de los sistemas de IA que afecten a los consumidores). También destaca la eliminación de principios como rendición de cuentas, supervisión humana y responsabilidad humana; y la definición de la figura del desarrollador, entre otros cambios.

Leer más

Hiperderecho recibe el premio Llama Impact Innovation Award de Meta

El día 24 de septiembre, en el marco de la Asamblea General de las Naciones Unidas celebrado en Nueva York, se anunció a los ganadores del Llama Impact Innovation Award de Meta. Con el concurso, Meta se propuso premiar a proyectos innovadores que generen impacto social en sus contextos locales a partir del uso de su modelo de lenguaje de código abierto LLaMA. Hiperderecho fue anunciado como una de las organizaciones ganadoras en Latinoamérica con su propuesta para la utilización de LLaMA 3 en un contexto educativo-legal. Leer más

Generar contenido sexual no consentido a través de Inteligencia Artificial ahora es un delito

Este jueves 8 de agosto del 2024, el Poder Ejecutivo introdujo modificaciones importantes en los delitos que sancionan la violencia de género en línea. En uso de la facultad para legislar que le otorga la Ley N° 32089, promulgó el Decreto Legislativo N° 1625, a través del cual se modifican los artículos 154-B y 158 del Código Penal, así como la incorporación del artículo 5-A en la Ley N° 30096 o Ley de delitos informáticos. A continuación, detallamos en qué consisten estos cambios normativos.

Decreto Legislativo 1410: modificación del artículo 154-B

La norma modifica sustancialmente uno de los delitos con más deficiencias de técnica legislativa del DL 1410, promulgado en 2018. Se trata del artículo 154-B, que tipifica el delito de difusión de imágenes, materiales audiovisuales o audios con contenido sexual. Hasta ahora, la redacción del delito hacía que solo se pudiera sancionar a aquellas personas que hubieran accedido al material audiovisual con el consentimiento de la víctima. En la práctica, eso supone problemas de aplicación graves que dejan por fuera casos que también merecen la atención del ordenamiento legal: desde el acceso al material a raíz del robo de celulares o hackeos de cuentas, hasta la difusión en cadena o el famoso “rotar el pack”. Sin embargo, con esta modificación se ha eliminado el requisito de haber obtenido el contenido sexual con la anuencia de la persona que aparece en estos. Es decir, ya no se exige el haber obtenido el consentimiento en la obtención y/o grabación de las imágenes y videos sexuales. Con este cambio normativo, es posible sancionar a toda la cadena de personas que reenvíen el contenido íntimo sexual, sin importar si el mismo fue obtenido o no con el consentimiento o permiso de la persona: ya no hace falta que la persona afectada haya enviado el contenido ni/o que haya permitido la grabación del mismo o la toma de las fotografías. Leer más

Retos de privacidad en los modelos de IA generativa

En los últimos meses, las grandes empresas de tecnología han anunciado y lanzado sus propias versiones de inteligencia artificial generativa. En junio, Tim Cook anunció el lanzamiento de Apple Intelligence para las próximas versiones de los sistemas operativos de sus dispositivos. Apenas ayer, 23 de julio, Meta puso a disposición Meta AI en sus aplicaciones Facebook, Instagram, WhatsApp y Messenger en varios países de latinoamérica. Por su lado, Google desarrolló Gemini, la cual busca integrar a sus diferentes productos y plataformas.

Leer más

Tres riesgos para los derechos humanos en la propuesta de Reglamento peruano de IA

El 2 de mayo, la Secretaría de Transformación y Gobierno Digital (SGTD) publicó la propuesta de Reglamento (en adelante, la propuesta de Reglamento) de la Ley N°31814, Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país (en adelante, la Ley de Promoción de IA). Asimismo, dispuso de un plazo para recibir comentarios o sugerencias, el cual finalizó este sábado 1 de junio,fecha en la que la SGTD también realizó una sesión pública virtual de participación ciudadana a fin de exponer un resumen del Proyecto y recopilar sugerencias.
Leer más