Autor: Lucía León Pacheco

Directora de Investigación

¿Qué tan inteligente es la Ley sobre Inteligencia Artificial aprobada en el Congreso?

El pasado jueves 25 de mayo se aprobó en el Pleno del Congreso el Proyecto de Ley 2775/2022-CR, Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país. Se trata de la primera norma aprobada por el Congreso cuyo objetivo se centra en la promoción de la Inteligencia Artificial (IA), y tuvo bastante éxito para alcanzar consenso: ingresado en agosto, el Proyecto tuvo dictámenes a favor en dos Comisiones, un texto sustitutorio y un último pedido de modificación antes de entrar a la agenda del día, y se aprobó casi por unanimidad (solo una abstención). Con la popularidad que herramientas como Chat-GPT o Dall-e han alcanzado, incluyendo su uso por algunos jueces para la administración de justicia, es claro que esta iniciativa no iba a pasar desapercibida. Sin embargo, ¿supone realmente una nueva regulación para la IA? ¿Cuál es su alcance y qué impactos podría tener su promulgación?

Contenido del proyecto de ley aprobado

El objeto de la ley propuesta, según su artículo 1, es promover el uso de la IA en el marco del proceso de transformación digital con la finalidad de fomentar el desarrollo económico y social del país, para lo cual se debe contar con un entorno seguro que, entre otros, asegure su uso ético.

En el resto de artículos, la norma propuesta se divide en cuatro partes principales:

  • Declaración de principios: En el título preliminar, se establecen principios para el desarrollo y uso de la inteligencia artificial, aunque muchos de ellos son extensibles fuera de este campo específico. Con ello, formarían parte del ordenamiento jurídico peruano principios como el de gobernanza de Internet (el cual también se pretendió formalizar en el Proyecto de Ley General de Internet), seguridad basada en riesgos, desarrollo ético como base fundamental para establecer el marco de responsabilidades en el uso de sistemas como la IA, privacidad, etc.
  • Declaración de interés nacional: Aunque solo se trate de un extremo declarativo de la norma, su enfoque es medular: señala que es de interés nacional la promoción del talento digital en el aprovechamiento de tecnologías emergentes, así como el fomento del desarrollo y uso de IA en la mejora de los servicios públicos, incluyendo la educación, la salud, la justicia, la seguridad ciudadana, la seguridad digital, los programas sociales, la defensa nacional, etc.
  • Definiciones: El texto (luego de las observaciones de la Secretaría de Gobierno y Transformación Digital, SGTD, para incorporar las recomendaciones OCDE) define la inteligencia artificial y la distingue de los sistemas basados en inteligencia artificial. Asimismo, define a las tecnologías emergentes y a los algoritmos.
  • “Roles” de la SGTD en materia de IA: La norma precisa que la autoridad nacional encargada de dirigir, evaluar y supervisar el uso y promoción de la IA es la SGTD, quien tiene a su cargo promover, entre otros: (i) el desarrollo de la IA y su adopción como herramienta que impulse el bienestar del país; (ii) la formación de profesionales competentes en la materia; (iii) la creación y fortalecimiento de infraestructura que habilite el desarrollo de la IA; (iv) la adopción de lineamientos éticos para su uso sostenible, transparente y replicable.
  • Informe anual: En el único extremo de la norma que propone una obligación jurídica concreta, el texto establece que la SGTD remitirá un informe anual al Congreso de la República sobre los avances en dos políticas públicas encaminadas a la fecha: la Política Nacional de Transformación Digital y la Estrategia Nacional de Inteligencia Artificial.

Alcances de la eventual norma

El objetivo central de la norma es la promoción de la inteligencia artificial. Sin embargo, ningún artículo desarrolla o establece alguna medida que, precisamente, la promueva: de hecho, el texto solo incluye una medida concreta (la obligación de reportar avances anualmente al Congreso), y su naturaleza es informativa, no de promoción. Por lo demás, establece definiciones y aprueba principios que pueden resultar orientadores, pero que no son nuevos para nuestro ordenamiento jurídico. Por ejemplo, el Marco de Confianza Confianza Digital, aprobado por Decreto de Urgencia 007-2020, ya establecía que las entidades públicas y las organizaciones del sector privado deben promover y asegurar el uso ético de tecnologías digitales como la IA. Incluso, desde 2019 se creó un Laboratorio de Gobierno y Transformación Digital del Estado a través del cual la SGTD debe promover el aprovechamiento de la IA (art. 2 de la Resolución SGD Nº 003-2019-PCM-SEGDI).

No solo ya existían estas disposiciones normativas referidas a la promoción de la IA por parte de la Secretaría, sino que ya existen instrumentos en construcción relacionados con la materia. Por ejemplo, la Estrategia de Talento Digital, la Política Nacional de Transformación Digital o la Estrategia Nacional de Inteligencia Artificial son instrumentos de política pública en los que la SGTD ya ha estado trabajando con participación de todas las partes interesadas, recogiendo comentarios y propuestas de mejora.

¿Necesitaban las entidades esta norma para empezar a utilizar la inteligencia artificial en sus procesos y/o servicios? En realidad, no. Por ejemplo, en 2021 se aprobó el Reglamento de la Ley Nº 30926, Ley que Fortalece la Interoperabilidad en el Sistema Nacional Especializado de Justicia, según el cual se promueve la adopción de tecnologías emergentes tales como la IA y la cadena de bloques para la prevención de la violencia contra las mujeres e integrantes del grupo familiar en entornos digitales. De otro lado, ese mismo año, la Superintendencia de Registros Públicos autorizó el servicio gratuito de orientación por agente virtual que brinda información empleando IA. Incluso, la Contraloría General de la República también habilitó al personal del Sistema de Control para hacer uso de mecanismos tecnológicos, incluyendo servicios de IA. En materia de salud, el personal del Instituto Nacional de Salud también está facultado a emplear la IA para el cumplimiento de sus funciones y garantizar o viabilizar la interoperabilidad con otras entidades.

Enfoques faltantes

A pesar de que el impacto del Proyecto aprobado sea bastante modesto, sí permite identificar el enfoque detrás del acercamiento del Congreso de la República a la IA. Nada más al definirla, el texto se aparta de una descripción técnica y asume a la IA como una herramienta tecnológica provechosa per sé, señalando su potencial para el beneficio económico y social, pero olvidando que tiene otras aplicaciones (algunas de ellas dañinas), a las cuales no se le deberían dejar de aplicar principios como el de desarrollo ético, privacidad, etc.

A la vez, como se advierte del artículo 2 (“interés nacional”), el presupuesto es que la IA debe ser utilizada para mejorar servicios públicos en su más amplio alcance, desde la administración de justicia hasta la seguridad ciudadana. Sin embargo, es importante advertir que la automatización de la toma de decisiones y la gran capacidad de análisis de datos que tiene la hacen susceptible de ocasionar impactos a gran escala sobre los derechos de las personas. En ese sentido, deben también explorarse otros enfoques:

    • Más evidencia y menos tecnosolucionismo: Aunque nos gustaría creer que hay soluciones tecnológicas sencillas para problemas humanos muy complejos, lo cierto es que la política pública debe estar orientada por evidencia. La prisa e inmediatez para ir al ritmo del desarrollo de las tecnologías es peligrosa porque no permite un adecuado análisis de impacto en derechos humanos (y, a la larga, puede incluso significar candados normativos para la innovación).
    • Servicios públicos sin discriminación: Es importante también reparar en la gravedad de permitir que las decisiones importantes sean tomadas por la IA sin ningún tipo de protocolo o revisión. Los errores cometidos por la IA, en conjunto con su escalabilidad, son dramáticamente graves para los derechos humanos. Se trata de errores para nada inofensivos: está documentado que  el racismo y el sexismo son parte de la arquitectura y lenguaje de la tecnología, una cuestión que amerita atención y remediación. Los procesos de toma de decisión conducidos algorítmicamente requieren un contexto social y humano, y esto importa para todas las personas involucradas con este tipo de tecnologías a diario, con especial impacto para las personas de grupos marginalizados. Por eso, la incorporación de la IA a los servicios públicos debe contar con salvaguardas para los derechos humanos y otros estándares éticos que mitiguen estos riesgos.
    • Usos creativos y libre acceso a la cultura: Aunque aún no ha sucedido, cuando surjan iniciativas de regulación de la IA, debe tenerse en cuenta también a las personas usuarias de estas herramientas, sobre todo en su vertiente generativa, y no únicamente a las industrias. Para muchas personas, las IA generativas constituyen formas de expresión artística y cultural.

Sin duda, la aprobación de este Proyecto (y, en particular, la rapidez con que se le dio trámite y la cantidad de votos a favor que alcanzó) dan cuenta del interés del Congreso de la República por la Internet y las nuevas tecnologías. Esperemos que venga acompañado de un adecuado debate, asesoramiento y convocatoria a personas con experiencia en la materia.

View Fullscreen

Libertad de expresión bajo asedio (ahora también en Internet): Congreso busca endurecer penas de calumnia y difamación

En agosto del año pasado, el congresista Segundo Toribio Montalvo Cubas, de la bancada de Perú Libre, presentó el Proyecto de Ley 02862-2022-CR, para modificar los artículos 131 y 132 del Código Penal e incrementar sus penas cuando se cometan haciendo uso del uso indebido de los medios de comunicación. Con ello, se incrementarían las penas por los delitos de calumnia y de difamación, de modo tal que, en el caso de este último delito, podrían presentarse casos de prisión efectiva de cárcel. Asimismo, el proyecto propone la modificación del artículo 1696 del Código Civil, en lo referente a la responsabilidad extracontractual.
Leer más

La agenda de interés público en el SCCR 43 de la Organización Mundial de la Propiedad Intelectual

La sesión 43 del Comité de Derechos de Autor y Derechos Conexos (SCCR 43) de la Organización Mundial de la Propiedad Intelectual (OMPI) se celebró en Ginebra, Suiza, entre el 13 y el 17 de marzo. Por segundo año consecutivo, Hiperderecho participó de las sesiones de este Comité como parte de la alianza global por el acceso al conocimiento, la A2K Coalition, y de la Alianza de la Sociedad Civil Latinoamericana por el Acceso Justo al Conocimiento. Se trató, además, de la primera oportunidad en que Hiperderecho participa de un foro de la OMPI en calidad de Observador Acreditado, luego del otorgamiento de dicho estatus en julio del año pasado.

La agenda de la OMPI es relevante para nuestra organización porque tiene impacto en cómo se difunde y accede a la cultura, la educación, el conocimiento, la investigación, etc. La conservación, difusión y acceso al saber, con el impacto potencial que ello tiene en el desarrollo, está delimitada por muchas normas sobre Derechos de Autor y Propiedad Intelectual. Por ello, muchos Observadores son asociaciones de bibliotecas, educadores, galerías, museos, productores audiovisuales, etc.
Leer más

Regulación de plataformas: así se vivió la Conferencia por un Internet confiable de UNESCO

¿Deberían las plataformas ser reguladas? ¿Por qué, cómo y con qué salvaguardas? La semana pasada, la oficina principal de la Unesco en París fue sede de la Conferencia #InternetForTrust (“Por un Internet confiable”). Integrantes de la sociedad civil, delegaciones gubernamentales, sector privado, organizaciones internacionales, comunidad técnica, academia y demás actores de todas partes del mundo se hicieron presentes para intentar responder estas y otras preguntas desde sus contextos profesionales y locales. Se trata de un proceso de diálogo iniciado hace meses por Unesco, y que se prolongará por otros más, con el objetivo de lograr la aprobación de la mejor versión de unas Directrices para regular las plataformas digitales que puedan guiar procesos regulatorios nacionales. Leer más

¿Por qué “este contenido no se encuentra disponible”?

Las redes sociales constituyen un importante punto de encuentro para compartir y recibir información, desplegar corrientes de opinión y, en general, expresarnos. Sin embargo, no cualquier tipo de contenido es aceptado en estas plataformas. Naturalmente, desde un punto de vista deliberativo, esta situación puede resultar problemática: ¿quién tiene control sobre los contenidos y por qué? ¿Hay alianzas entre actores políticos y redes sociales? ¿Los dueños de las plataformas deciden sobre qué se discute y sobre qué no?

Dado el actual contexto político peruano, cargado de polarización y desinformación en línea, han surgido muchas teorías sobre eliminación de contenido por razones de antipatía ideológica. Desde distintos espectros, voceros de diversas posiciones políticas denuncian la eliminación de sus publicaciones, atribuyéndola a actores políticos que pudieran estar en contra de su contenido. Sin embargo, la moderación de contenidos obedece a parámetros preestablecidos (e, incluso, automatizados) ajenos a la decisión directa de grupos gubernamentales. Incluso si convenimos en que la eliminación de contenido es cuestionable, es importante identificar a los actores hacia los cuales dirigir nuestras críticas para poder demandar mejoras. Leer más

Gobernanza de Internet: estos son los mensajes finales del IGF 2022

La semana pasada se publicaron los mensajes finales del 17mo Foro de Gobernanza de Internet – IGF 2022, que tuvo lugar en la ciudad de Addis Abeba, Etiopía, entre el 28 de noviembre y el 2 de diciembre. Bajo la consigna de “una Internet resiliente para un futuro común, compartido y sostenible”, las múltiples partes interesadas de todo el mundo se reunieron, tanto presencial como virtualmente, para dar sus aportes en materia de política pública e Internet.

El Foro de Gobernanza de Internet

En 2005, como parte de la Cumbre Mundial de la Sociedad de la Información, se suscribió la Agenda de Túnez. En ella, se solicita al Secretario General de las Naciones Unidas que, mediante un proceso abierto e inclusivo, se procure el diálogo político de múltiples partes interesadas mediante la convocatoria a un Foro de Gobernanza de Internet (IGF). Se trata del evento global más importante en materia de Internet e interés público, el cual convoca a personas de la academia, sociedad civil, gobierno, sector privado y comunidad técnica a dar sus aportes. Leer más

Censura, privacidad y redes sociales

Este artículo se publicó originalmente en inglés por encargo de OPTF, una organización tecnológica sin fines de lucro que está creando la aplicación de mensajería Session.
This article was commissioned by OPTF, a secure tech not-for-profit that is creating the Session messaging app. 

Los fundamentos de la democracia digital y de una Internet abierta se construyen sobre un sólido marco de respeto a los derechos humanos. Las prácticas abusivas que utilizan la tecnología —o la legislación— como herramienta de control y vigilancia están afectando directamente a los derechos digitales. Esto supone un gran peligro para la ciudadanía digital, poniendo en riesgo todo el sistema democrático. Aunque parezca una situación propia de los regímenes dictatoriales, los ciudadanos de los países «democráticos» también están siendo perjudicados por este tipo de prácticas. En el caso de Perú, por ejemplo, está creciendo un ambiente de desinformación, vigilancia y censura.

Actualmente, varias leyes y proyectos de ley afectan un ecosistema digital peruano libre. El año pasado, por ejemplo, se aprobó en el Congreso una ley que amplía los casos en los que la Policía Nacional del Perú puede solicitar la geolocalización de alguien a las empresas de telecomunicaciones sin una orden judicial previa. Además, desde el inicio de la pandemia y hasta hace poco más de un mes, cualquier persona que ingrese a Perú debía autorizar la geolocalización de su celular, sin saber quién se encargará de ello y hasta cuándo. Otra gran amenaza es el Proyecto de Ley General de Internet: una propuesta muy amplia que aborda diferentes temas en un solo texto. Una consecuencia de ello es que algunas disposiciones están pasando desapercibidas, como la facultad excepcional del Estado de autorizar u ordenar el cierre de Internet. Leer más

Comercio electrónico en el Perú: así se vivieron las consultas nacionales para su evaluación

Hace dos semanas se anunció una de las noticias más esperadas en materia financiera: para 2023, Yape y Plin aceptarán transferencias entre sí. Mediante el publicado Reglamento de Interoperabilidad de los Servicios de Pago brindados por los proveedores, acuerdos y sistemas de pagos, el Banco Central de Reserva del Perú dispuso la interoperabilidad de ambas billeteras digitales, que tienen hasta marzo de 2023 para cumplir con dicho mandato. 

Con esta medida, no solo se simplifican las operaciones financieras, sino que, a largo plazo, se fomenta la inclusión financiera y el comercio electrónico. Por ello, estos y otros temas críticos para el ecosistema digital fueron puntos centrales de discusión de las Consultas Nacionales en el contexto de la evaluación sobre el estado de preparación del Perú para el comercio electrónico. Leer más

Luchar contra la desinformación: los retos de la alfabetización informacional

La circulación creciente de la desinformación e información maliciosa es una preocupación cada vez más vigente en la era de la transformación digital. Muchas de las grandes potencialidades de Internet —como la velocidad en la que viaja la información o la capacidad de comunicarnos con distintas personas a la vez en todas partes del mundo— también pueden convertirse en riesgos. 

Existen muchas formas en las que la tecnología y la legislación pueden utilizarse para socavar la democracia. El aumento de la desinformación, la manipulación y la vigilancia se han visto agudizados con la expansión de las TIC. Aunque siempre han existido, su despliegue tiene un impacto a mayor escala hoy en día. La pandemia, por ejemplo, fue una clara demostración de la gravedad de no contar con información clara y precisa —o de medios efectivos para comunicarla—: mientras la incertidumbre crecía, también lo hacían las noticias falsas que ponían en riesgo la salud pública. Leer más

Hiperderecho es acreditado como Observador ante la Organización Mundial de la Propiedad Intelectual

Desde el 14 de julio hasta el 22 de julio, se está celebrando en Ginebra la Sexagésima tercera sesión de la Asamblea de los Estados Miembros de la Organización Mundial de la Propiedad Intelectual (OMPI). Con la opinión favorable unánime de los delegados de los Estados reunidos en sesión, se ha acreditado a Hiperderecho como Observador Permanente de la OMPI. Se trata de la primera vez que se le otorga el estatus de observadora a una institución peruana ante este foro.

¿Por qué es relevante? 

La OMPI es un foro importante de incidencia porque en él los Estados miembros de organismo internacional toman decisiones relevantes sobre temas de propiedad intelectual y derechos de autor que terminan por impactar en el acceso a la cultura y a las ciencias, el conocimiento libre, la salud pública y el acceso a medicinas, etc. Por esa razón, Hiperderecho tiene particular interés en la agenda en materia de excepciones y limitaciones (es decir, flexibilidades a los derechos de autor) que se está gestando en OMPI. 

Al ser admitido como observador, Hiperderecho, en tanto organización interesada en la agenda de acceso al conocimiento y la cultura, podrá participar en las reuniones oficiales de los Estados miembros, manifestando sus posiciones y aportes durante los procesos de debate del orden del día correspondiente. Asimismo, Hiperderecho podrá asistir también a las sesiones de los Comités de la OMPI, como es el caso del Comité Permanente de Derechos de Autor y Derechos Conexos o del Comité de Desarrollo y Propiedad Intelectual, entre otros. 

Acceso abierto: la agenda que monitoreamos

En mayo de este año, tuvimos la oportunidad de acompañar a los equipos de otras organizaciones latinoamericanas participando en la sesión 42 del Comité de Derechos de Autor y Derechos Conexos (SCCR, por sus siglas en inglés), en Ginebra. En dicho espacio, se debatió la propuesta del Grupo Africano para un Plan de Trabajo en Excepciones y Limitaciones, la cual fue aprobada en parte. Como resultado, la Secretaría del Comité deberá invitar a expertos a discutir sobre los problemas de legislación aplicable en el caso de usos transfronterizos de obras protegidas (como sería el caso, por ejemplo, de una clase virtual con participantes de distintos países), a la vez que elaborar herramientas que ayuden a los Estados a redactar legislación interna que apoyen la educación, la investigación y la participación cultural. 

Con nuestro estatus de observadores, en futuras oportunidades Hiperderecho estará respaldando propuestas como la del Grupo Africano y aportando experiencias nacionales que permitan graficar la necesidad de contar con excepciones y limitaciones a los derechos de autor. Con ello, nuestro trabajo seguirá orientado a fortalecer el ejercicio del derecho a la investigación, así como el uso sin restricciones de los recursos digitales por parte de todas las personas.

Bloqueo a Wikimedia

Finalmente, de la misma forma en que creemos que el conocimiento debe circular de manera libre, gratuita y abierta, consideramos que la conversación sobre estas cuestiones debe ser transparente y democrática. Por tal razón, manifestamos nuestra preocupación en torno a que todos los capítulos de la Fundación Wikimedia que solicitaron ser acreditados como observadores hayan sido rechazados, pese a ser actores importantes del ecosistema. Esto, debido al bloqueo político que China lleva realizando en reiteradas oportunidades, con respaldo de países que apelan a la regla del consenso, tales como Venezuela o Cuba.

Accede

Puedes revisar la sesión aquí. El mismo portal de webcast te servirá para acceder a las grabaciones de cualquier otra reunión o sesión de la OMPI, con transcripción de texto.