El pasado 7 de abril la Presidencia del Consejo de Ministros (a través de la Secretaría de Gobierno y Transformación Digital) publicó un proyecto de reforma al Reglamento (2019) de la Ley 30259, Ley de Promoción para el uso seguro y responsable de las Tecnologías de la Información y Comunicaciones por Niños, Niñas y Adolescentes (2014) (en adelante normativa de “entornos seguros en línea para NNA”), con el objetivo de someter a consulta pública la propuesta.

En esta nota compartimos las reflexiones y comentarios enviados sobre la propuesta, abordando el origen de la norma y los riesgos que generan las medidas planteadas en torno a la privacidad, datos personales, y libertades informativas.

El origen: la Ley de uso seguro y responsable de las TIC

La Ley 30254 fue publicada hace más de diez años, el 25 de octubre de 2014, con el objetivo de promover el uso seguro y responsable de las TIC por parte de niños, niñas y adolescentes. Y, en esa línea, se declara de interés nacional el desarrollo de políticas públicas orientadas a educar e informar a la población sobre el uso responsable de internet y otras tecnologías digitales; y se crea la Comisión Especial sobre uso seguro y responsable de las TIC por NNA, creada mediante la Ley. Esto es, una comisión de composición multiactor, similar a la Comité de Alto Nivel por un Perú Digital, Innovador y Competitivo o al Foro Multiactor de Gobierno Abierto.

Además, la norma se distingue por imponer a las empresas operadoras del servicio de internet (Win, Claro, Movistar, Entel, Bitel) la obligación de informar sobre la existencia de filtros (gratuitos o pagos) para el bloqueo en dispositivos de páginas de contenido pornográfico o violento, antes de contratar con un cliente y posteriormente enviando recordatorios cada seis meses.

Posteriormente, en 2022, mediante la Ley 31664, se establece una segunda obligación: los establecimientos públicos y privados que brinden el servicio de internet están obligados a garantizar la disponibilidad de registros y filtros mínimos para que NNA no puedan acceder a contenido y/o información pornográfica. Y también deben registrar las autorizaciones a mayores de edad que deseen acceder a dichos contenidos.

Esta adición, que cabe mencionar la hizo la composición actual del Congreso, resulta problemática por varios motivos, entre ellos: no define qué se considera información pornográfica: ¿contenido sexual en mangas? ¿historias de Wattpad? ¿contenido de educación sexual integral? Asimismo, no define qué datos recogería este registro, o cómo se haría la verificación etaria, ni quién estaría a cargo.

Sumado a lo anterior, esta segunda obligación es difícilmente monitoreable. ¿Cómo verificar que las cafeterías, aeropuertos, centro comerciales, bibliotecas, colegios, restaurantes, hoteles u otros establecimientos, estén supervisando que NNA no accedan a contenido pornográfico?

El Reglamento de uso seguro y responsable de las TIC

El Reglamento de la citada Ley se publicó el 2019. Es decir, antes de la modificación realizada por el actual Congreso mediante la Ley 31776, que incorpora la segunda obligación. Por esa razón, su contenido se concentra en el desarrollo de funciones y composición de la Comisión Especial multiactor; y en la primera obligación (de las empresas operadoras del servicio de internet de informar sobre los filtros de bloqueo). Es decir, no se pronuncia sobre la segunda obligación, pues la Ley 31776 de 2022 no implementó modificaciones al Reglamento, pese a que ya se encontraba vigente.

Este problema se busca subsanar ahora mediante la propuesta de modificación al Reglamento de entornos seguros en línea para NNA. Sin embargo, este esfuerzo sólo arrastra errores de origen, esencialmente generados por la Ley 31776 de 2022.

Novedades de la propuesta de modificación del Reglamento: un registro obligatorio sobre hábitos en línea de mayores de edad

Entre las medidas más controvertidas que se proponen, se encuentra la creación de un registro obligatorio para personas mayores de edad que soliciten acceder a contenidos bloqueados en establecimientos con acceso público a internet. Según la propuesta, el registro deberá almacenar información como el lugar, fecha y hora de la autorización a contenido pornográfico para mayores de edad. Esto genera riesgos para la intimidad y protección de datos, pues aunque no se mencione la identidad, podría vincularse a personas determinadas y a aspectos de su vida íntima. Además, el proyecto no precisa la finalidad concreta del registro ni justifica su proporcionalidad.

Además, la obligación general a cualquier establecimiento público que brinde acceso a internet, de evitar que NNA accedan a contenido o información pornográfica, implica que múltiples actores privados y públicos tendrían que implementar mecanismos técnicos y administrativos para controlar contenidos y gestionar registros de acceso. Es decir, para cumplir con la obligación los establecimientos tendrían que implementar sistemas de filtrado sobre toda la red, lo que puede devenir en riesgos como la sobre-censura o el bloqueo excesivo o erróneo de contenidos legítimos, afectaciones a la privacidad para controlar accesos o excepciones,  así como a la libertad de acceso a la información; sin mencionar las cargas desproporcionadas y de difícil cumplimiento.

El bloqueo indiscriminado de páginas web en establecimientos públicos con internet 

Otro aspecto preocupante de la propuesta es la obligación de implementar software de filtrado a contenido pornográfico en todos los establecimientos con acceso público a internet. La propuesta señala, en el artículo 11, que todo establecimiento público  debe contar con un software de bloqueo de “páginas web, canales de conversación o cualquier otra forma de comunicación en red de contenido y/o información pornográfica.”

Esta medida resulta alarmante, pues mediante los filtros de bloqueo se pueden calificar indebidamente ciertos contenidos como inapropiados. Los establecimientos podrían bloquear contenidos educativos sobre prevención de violencia sexual, salud sexual y reproductiva (menstruación, anticoncepción, prevención de infecciones de transmisión sexual, embarazo adolescente, consentimiento, violencia sexual y acceso a servicios de salud), así como información periodística o académica vinculada con estas materias. Es decir, podría convertirse en una herramienta que limita la difusión y el acceso a educación sexual integral. Incluso, esta medida, al considerar en su alcance a canales de conversación, puede restringir la libertad de expresión de quienes transitan por una amplia lista de establecimientos y no usan conexión privada para acceder a internet.

Además, en cuanto a la efectividad de esta medida, es importante señalar que ningún sistema garantiza el bloqueo total de contenidos, especialmente en plataformas cifradas, redes sociales o servicios de mensajería. También es preocupante el posible impacto de estas medidas sobre el principio de neutralidad de red, ya que la propuesta no delimita claramente quién definirá las categorías o listas de contenido bloqueado ni cómo se supervisará el funcionamiento de los filtros.

Por otro lado, el Proyecto plantea características técnicas mínimas para dichos sistemas de filtrado, e incluso menciona “mecanismos automatizados de detección y filtrado y/o bloqueo de contenidos por categorías y/o patrones y/o contexto”. Esto es, sistemas de filtro y bloqueo de contenidos con IA. Sobre este punto, sumado a los anteriores riesgos, cabe recordar que, cuando los filtros incorporen sistemas basados en inteligencia artificial o técnicas de aprendizaje automático, los proveedores u operadores deben informar expresamente dicha circunstancia al usuario y cumplir con las obligaciones aplicables en materia de transparencia algorítmica, protección de datos personales, seguridad, supervisión humana, explicabilidad y gestión de riesgos, conforme a la Ley N.º 31814, su Reglamento. Marco normativo que no fue nombrado o considerado en la propuesta.

La protección de niños, niñas y adolescentes en entornos digitales es un objetivo legítimo y necesario. Sin embargo, las medidas regulatorias deben ser compatibles con estándares de proporcionalidad, protección de datos personales, privacidad, libertad de expresión y libre acceso a la información. Más que apostar exclusivamente por mecanismos de bloqueo, o de filtro/monitoreo de contenidos, que den pie a la vigilancia, las autoridades deberían priorizar la alfabetización digital en las escuelas, el fortalecimiento de competencias digitales de NNA y la prevención de violencias en línea mediante estrategias integrales y participativas.