El jueves 11 de marzo el Congreso peruano aprobó la modificación de la Constitución para incorporar el derecho de acceso a Internet. No obstante, en la medida que estamos ante una reforma constitucional, aún queda realizar una segunda votación en la siguiente legislatura para hacer efectiva dicha modificación. A continuación, unos puntos a tomar en cuenta.
¿Internet libre y abierto?
El dictamen de los Proyectos de Ley 3156/2018-CR, 3607/2018-CR, 5600/2020-CR y 5843/2020-CR, el cual recogía las propuestas hechas hasta el momento para reconocer el derecho de acceso a Internet como un derecho fundamental, incorporaba en el artículo 14 el siguiente texto:
El Estado garantiza el derecho de acceso a internet libre y abierto. Asimismo, promueve el desarrollo científico y tecnológico del país a través de la formación en las tecnologías de la información y comunicación, en especial para el sector educativo y en las zonas rurales del país. (resaltado nuestro)
No obstante, el texto final que fue aprobado fue el siguiente:
El Estado garantiza el derecho de acceso a internet. En las entidades, instituciones y espacios públicos su acceso es gratuito. Asimismo, promueve el desarrollo científico y tecnológico del país a través de la formación en las tecnologías de la información y comunicación, en especial para el sector educativo y en las zonas rurales del país.
El pasado jueves 25 de mayo se aprobó en el Pleno del Congreso el Proyecto de Ley 2775/2022-CR, Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país. Se trata de la primera norma aprobada por el Congreso cuyo objetivo se centra en la promoción de la Inteligencia Artificial (IA), y tuvo bastante éxito para alcanzar consenso: ingresado en agosto, el Proyecto tuvo dictámenes a favor en dos Comisiones, un texto sustitutorio y un último pedido de modificación antes de entrar a la agenda del día, y se aprobó casi por unanimidad (solo una abstención). Con la popularidad que herramientas como Chat-GPT o Dall-e han alcanzado, incluyendo su uso por algunos jueces para la administración de justicia, es claro que esta iniciativa no iba a pasar desapercibida. Sin embargo, ¿supone realmente una nueva regulación para la IA? ¿Cuál es su alcance y qué impactos podría tener su promulgación?
Contenido del proyecto de ley aprobado
El objeto de la ley propuesta, según su artículo 1, es promover el uso de la IA en el marco del proceso de transformación digital con la finalidad de fomentar el desarrollo económico y social del país, para lo cual se debe contar con un entorno seguro que, entre otros, asegure su uso ético.
En el resto de artículos, la norma propuesta se divide en cuatro partes principales:
Declaración de principios: En el título preliminar, se establecen principios para el desarrollo y uso de la inteligencia artificial, aunque muchos de ellos son extensibles fuera de este campo específico. Con ello, formarían parte del ordenamiento jurídico peruano principios como el de gobernanza de Internet (el cual también se pretendió formalizar en el Proyecto de Ley General de Internet), seguridad basada en riesgos, desarrollo ético como base fundamental para establecer el marco de responsabilidades en el uso de sistemas como la IA, privacidad, etc.
Declaración de interés nacional: Aunque solo se trate de un extremo declarativo de la norma, su enfoque es medular: señala que es de interés nacional la promoción del talento digital en el aprovechamiento de tecnologías emergentes, así como el fomento del desarrollo y uso de IA en la mejora de los servicios públicos, incluyendo la educación, la salud, la justicia, la seguridad ciudadana, la seguridad digital, los programas sociales, la defensa nacional, etc.
Definiciones: El texto (luego de las observaciones de la Secretaría de Gobierno y Transformación Digital, SGTD, para incorporar las recomendaciones OCDE) define la inteligencia artificial y la distingue de los sistemas basados en inteligencia artificial. Asimismo, define a las tecnologías emergentes y a los algoritmos.
“Roles” de la SGTD en materia de IA: La norma precisa que la autoridad nacional encargada de dirigir, evaluar y supervisar el uso y promoción de la IA es la SGTD, quien tiene a su cargo promover, entre otros: (i) el desarrollo de la IA y su adopción como herramienta que impulse el bienestar del país; (ii) la formación de profesionales competentes en la materia; (iii) la creación y fortalecimiento de infraestructura que habilite el desarrollo de la IA; (iv) la adopción de lineamientos éticos para su uso sostenible, transparente y replicable.
El objetivo central de la norma es la promoción de la inteligencia artificial. Sin embargo, ningún artículo desarrolla o establece alguna medida que, precisamente, la promueva: de hecho, el texto solo incluye una medida concreta (la obligación de reportar avances anualmente al Congreso), y su naturaleza es informativa, no de promoción. Por lo demás, establece definiciones y aprueba principios que pueden resultar orientadores, pero que no son nuevos para nuestro ordenamiento jurídico. Por ejemplo, el Marco de Confianza Confianza Digital, aprobado por Decreto de Urgencia 007-2020, ya establecía que las entidades públicas y las organizaciones del sector privado deben promover y asegurar el uso ético de tecnologías digitales como la IA. Incluso, desde 2019 se creó un Laboratorio de Gobierno y Transformación Digital del Estado a través del cual la SGTD debe promover el aprovechamiento de la IA (art. 2 de la Resolución SGD Nº 003-2019-PCM-SEGDI).
No solo ya existían estas disposiciones normativas referidas a la promoción de la IA por parte de la Secretaría, sino que ya existen instrumentos en construcción relacionados con la materia. Por ejemplo, la Estrategia de Talento Digital, la Política Nacional de Transformación Digital o la Estrategia Nacional de Inteligencia Artificial son instrumentos de política pública en los que la SGTD ya ha estado trabajando con participación de todas las partes interesadas, recogiendo comentarios y propuestas de mejora.
¿Necesitaban las entidades esta norma para empezar a utilizar la inteligencia artificial en sus procesos y/o servicios? En realidad, no. Por ejemplo, en 2021 se aprobó el Reglamento de la Ley Nº 30926, Ley que Fortalece la Interoperabilidad en el Sistema Nacional Especializado de Justicia, según el cual se promueve la adopción de tecnologías emergentes tales como la IA y la cadena de bloques para la prevención de la violencia contra las mujeres e integrantes del grupo familiar en entornos digitales. De otro lado, ese mismo año, la Superintendencia de Registros Públicos autorizó el servicio gratuito de orientación por agente virtual que brinda información empleando IA. Incluso, la Contraloría General de la República también habilitó al personal del Sistema de Control para hacer uso de mecanismos tecnológicos, incluyendo servicios de IA. En materia de salud, el personal del Instituto Nacional de Salud también está facultado a emplear la IA para el cumplimiento de sus funciones y garantizar o viabilizar la interoperabilidad con otras entidades.
Enfoques faltantes
A pesar de que el impacto del Proyecto aprobado sea bastante modesto, sí permite identificar el enfoque detrás del acercamiento del Congreso de la República a la IA. Nada más al definirla, el texto se aparta de una descripción técnica y asume a la IA como una herramienta tecnológica provechosa per sé, señalando su potencial para el beneficio económico y social, pero olvidando que tiene otras aplicaciones (algunas de ellas dañinas), a las cuales no se le deberían dejar de aplicar principios como el de desarrollo ético, privacidad, etc.
A la vez, como se advierte del artículo 2 (“interés nacional”), el presupuesto es que la IA debe ser utilizada para mejorar servicios públicos en su más amplio alcance, desde la administración de justicia hasta la seguridad ciudadana. Sin embargo, es importante advertir que la automatización de la toma de decisiones y la gran capacidad de análisis de datos que tiene la hacen susceptible de ocasionar impactos a gran escala sobre los derechos de las personas. En ese sentido, deben también explorarse otros enfoques:
Más evidencia y menos tecnosolucionismo: Aunque nos gustaría creer que hay soluciones tecnológicas sencillas para problemas humanos muy complejos, lo cierto es que la política pública debe estar orientada por evidencia. La prisa e inmediatez para ir al ritmo del desarrollo de las tecnologías es peligrosa porque no permite un adecuado análisis de impacto en derechos humanos (y, a la larga, puede incluso significar candados normativos para la innovación).
Servicios públicos sin discriminación: Es importante también reparar en la gravedad de permitir que las decisiones importantes sean tomadas por la IA sin ningún tipo de protocolo o revisión. Los errores cometidos por la IA, en conjunto con su escalabilidad, son dramáticamente graves para los derechos humanos. Se trata de errores para nada inofensivos: está documentado que el racismo y el sexismo son parte de la arquitectura y lenguaje de la tecnología, una cuestión que amerita atención y remediación. Los procesos de toma de decisión conducidos algorítmicamente requieren un contexto social y humano, y esto importa para todas las personas involucradas con este tipo de tecnologías a diario, con especial impacto para las personas de grupos marginalizados. Por eso, la incorporación de la IA a los servicios públicos debe contar con salvaguardas para los derechos humanos y otros estándares éticos que mitiguen estos riesgos.
Usos creativos y libre acceso a la cultura: Aunque aún no ha sucedido, cuando surjan iniciativas de regulación de la IA, debe tenerse en cuenta también a las personas usuarias de estas herramientas, sobre todo en su vertiente generativa, y no únicamente a las industrias. Para muchas personas, las IA generativas constituyen formas de expresión artística y cultural.
Sin duda, la aprobación de este Proyecto (y, en particular, la rapidez con que se le dio trámite y la cantidad de votos a favor que alcanzó) dan cuenta del interés del Congreso de la República por la Internet y las nuevas tecnologías. Esperemos que venga acompañado de un adecuado debate, asesoramiento y convocatoria a personas con experiencia en la materia.
Al día de hoy es prácticamente imposible no haber escuchado de ChatGPT. En clase, en el trabajo o mientras navegamos en nuestra red social favorita hemos visto distintas historias de cómo utilizar esta nueva herramienta para simplificar nuestro trabajo, generar contenido y un sinfín de aplicaciones. Sin embargo, en muchos casos, se está generando una percepción errónea sobre las verdaderas capacidades de ChatGPT.
Para ello, abordaremos, en primer lugar, un poco de la historia y algunos conceptos fundamentales de esta tecnología en tendencia. Posteriormente tocaremos otros temas como la regulación, los mecanismos de moderación para evitar «contaminar» la herramienta y otros posibles impactos de esta tecnología en diversos sectores. Leer más
Las organizaciones integrantes de la Alianza de la Sociedad Civil Latinoamericana para el Acceso Justo al Conocimiento, junto con las organizaciones y personas firmantes, dedicadas al estudio de políticas públicas de internet y a la defensa de derechos fundamentales, expresamos nuestra preocupación frente a la decisión tomada por el juez John G. Koeltl en el caso de Hachette v. Internet Archive el pasado 25 de marzo y nos solidarizamos con el equipo de Internet Archive.
Reconocemos a Internet Archive como una biblioteca sin fines de lucro, ya que cumple las funciones sociales tradicionales de una biblioteca como la preservación, memoria y, fundamentalmente, el proporcionar acceso a la información y el conocimiento. Estas funciones nunca podrán ser cumplidas cabalmente por empresas cuyo fin primordial es el lucro y no el velar por el interés público. La visión arcaica que asocia las bibliotecas con edificios o con la gestión de ejemplares físicos ya no es aceptable en la actualidad. Leer más
Actualmente, existe un gran avance respecto al reconocimiento y tratamiento de la violencia de género. Sin embargo, esto no ocurre respecto a la violencia de género en línea. Recién, en 2018, se publicó el Decreto Legislativo N° 1410 que añadió 4 expresiones de violencia de género en línea en el Código Penal peruano. Antes de esta norma, se esperaba que la violencia digital sea resuelta desde la autogestión y tomando las soluciones que las plataformas de internet ponen a nuestra disposición. El desarrollo de políticas públicas y normativas referidas a este tipo de violencia aún es incipiente y muy escaso.
Consecuentemente, recién en 2018, a través de la plataforma “Nos protegemos contra el acoso virtual”, desde el Estado, se empezó a recoger información y datos sobre violencia de género en línea. A partir de la denuncia y reporte de casos de este tipo de violencia se han generado estadísticas respecto a las manifestaciones de este tipo de violencia, sus modalidades, la frecuencia y el perfil de las víctimas. La creación de esta plataforma de recojo de información es un avance importante. No obstante, este sistema aún es perfectible. El formulario, así como el estudio de la data recogida debe responder a un sistema de recopilación y recopilación estadística que tome en cuenta las particularidades de internet, entendido como un espacio diferente, con características propias. Asimismo, se debe tener en cuenta el funcionamiento y modus operandi de la violencia de género en contextos tecnológicos, la identidad de los agresores, sus potenciales víctimas, así como otros elementos propios de este fenómeno.Leer más
Las tecnologías de espionaje a nivel global se alzan cada vez más como un riesgo crítico para la privacidad y los derechos humanos. Desde Hiperderecho hemos firmado una carta (en inglés) junto a otras organizaciones internacionales en la que se insta a los gobiernos y las empresas a detener su venta y uso. Esta carta fue presentada en el marco de la Cumbre por la Democracia de 2023 y ha sido respaldada por una amplia coalición de organizaciones de derechos humanos, periodistas y defensores de la privacidad de todo el mundo. Leer más
Es importante tener en cuenta que la transición digital no solo implica una transformación tecnológica, sino también un cambio en la forma en la que interactuamos, trabajamos y vivimos en sociedad. Por lo tanto, es esencial fomentar una reflexión crítica y una adopción responsable de las tecnologías, para evitar que se conviertan en herramientas de control y exclusión, en lugar de ser instrumentos de desarrollo y empoderamiento.
En este contexto, eventos como «La transición digital en Perú, compartiendo la experiencia Europea», son una oportunidad para discutir los retos que plantea la digitalización y trabajar juntos hacia una transición digital justa y sostenible que beneficie a todos los sectores de la sociedad.Leer más
