El pasado 31 de enero de 2024, la congresista Jackeline Katy Ugarte Mamani, integrante del Grupo Parlamentario Unidad y Diálogo Parlamentario, presentó el Proyecto de Ley 6927/2023-CR, denominado “Ley que obliga el uso de la Inteligencia Artificial en las entidades públicas”. El sucinto proyecto señala como finalidad lograr la efectividad en el servicio público. Para ello, propone modificar la Ley de Procedimiento Administrativo General para obligar a todas las entidades públicas, bajo responsabilidad funcional, a implementar herramientas de inteligencia artificial (IA), tanto en su actividad administrativa como en la prestación de servicios públicos. En este artículo veremos qué retos genera esta iniciativa legislativa.
Limitaciones de la iniciativa
En primer lugar, la iniciativa tiene un problema precedente que obstaculiza su correcta aplicación: la Ley 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Esta Ley, que fue aprobada en julio del 2023, es declarativa y no dispone de medidas concretas para su aplicación, salvo el deber de la Secretaría de Gobierno y Transformación Digital de reportar al Congreso avances en la materia. Por ello, el Proyecto de Ley 6927/2023 termina siendo una propuesta de difícil efectividad, por ser también declarativa y al tener como marco regulatorio una Ley embrionaria, cuya reglamentación se encuentra aún en espera.
Sumado a ello, un segundo problema es la ambigüedad de la iniciativa legislativa en cuanto a su objeto y aplicación. Por un lado, no queda claro el objeto de la ley, que sólo señala el “uso de la inteligencia artificial” sin establecer pautas para un uso ético, con un enfoque de derechos humanos y seguro, con protección de los datos personales y con medidas de ciberseguridad, por ejemplo. Y, respecto a su finalidad, menciona la “efectividad en el servicio público”, pero no es sencillo determinar qué problema concreto ha identificado y pretende resolver el grupo parlamentario a través de la propuesta.
Ciertamente, la inteligencia artificial es una herramienta que puede servir para tomar decisiones, resumir y organizar información, traducir información a un lenguaje sencillo, comunicar información a modo de conversación, y mucho más, lo que podría resultar beneficioso en el sector público bajo correctas salvaguardas. Si bien esta herramienta puede ser de suma ayuda en la gestión pública, también representa riesgos para los derechos humanos. Por ejemplo, aquellos sistemas de IA que utilizan bases de datos que incluyen datos personales o sensibles pueden recibir ataques o sufrir daños no deseados. Lo que tendría un impacto en el derecho a la protección de datos personales o el derecho a la privacidad. De igual forma, los sistemas de IA pueden replicar estereotipos en la toma de decisiones a través de sus algoritmos. Teniendo su uso, en consecuencia, resultados discriminatorios o sesgados.
Por ende, si el Proyecto pretende promover el uso de la IA en el sector público, deben encontrarse claramente definidas las finalidades que se persiguen y pautas para su uso ético. Sobre todo cuando se pretende aplicar esta herramienta en el amplio escenario de las entidades públicas, lo que incluye el sector justicia, salud, educación, transporte, seguridad social y demás. Inclusive, más aún cuando se establece como una obligación “bajo responsabilidad funcional”.
Asimismo, en cuanto a la aplicación, en este tipo de normas programáticas, que requieren acciones positivas para su ejecución, sería ideal proponer que las actividades con objetivos estén calendarizados por etapas. En este sentido, como ejemplos positivos se puede mencionar el Sistema del Expediente Judicial Electrónico (EJE), implementado desde el 2017, que dispuso dos etapas para su implementación, una piloto y otra progresiva. De igual forma, el TUO de la Ley 27806, Ley de Transparencia y Acceso a la Información Pública, aprobado en 2019, dispuso plazos para la implementación de internet de las entidades públicas.
IA en el universo de la Administración Pública
El ámbito de aplicación de este Proyecto lo conforman todas las entidades públicas descritas en el artículo I del Título Preliminar de la Ley 27444 (Ley de Procedimiento Administrativo General). Este planteamiento, en lugar de una modificación específica al Título Preliminar o al artículo 29-A sobre Procedimiento Administrativo Electrónico de la Ley 27444, propone una aplicación general que no diferencia entre las heterogéneas entidades públicas o entre los variados tipos de procedimientos administrativos.
Cabe recordar que en los procedimientos generales se encuentran el procedimiento de aprobación automática, el procedimiento de evaluación previa con silencio positivo, el procedimiento de evaluación previa con silencio negativo, y los procedimientos administrativos y servicios prestados en exclusividad estandarizados obligatorios. En adición a ello, están los procedimientos administrativos especiales como son el procedimiento trilateral, el procedimiento sancionador y la actividad administrativa de fiscalización. En consecuencia, resulta importante que en la propuesta legislativa se indique o especifique en qué consistiría o cómo se realizaría la aplicación de la IA en cada uno de estos procedimientos, determinando las necesidades de cada uno y su impacto para los procedimientos en trámite y los futuros procedimientos.
De otro lado, tampoco especifica el Proyecto en qué etapa del procedimiento administrativo se usará la IA, si se utilizará para identificar un acto administrativo, verificar la validez de un acto administrativo, en la tramitación del expediente administrativo, en la resolución de conflictos o toma de decisiones, en la valoración de pruebas, en la imposición de medidas cautelares, en la impugnación, o en otras etapas. Mucho menos es explícito cuál será la aplicación de la IA en el interior de cada etapa, o cómo se emplearía en los servicios públicos. Por ende, sería adecuado que la propuesta legislativa profundice a qué hace referencia cuando señala que se utilizará la IA en la actividad administrativa, y en la prestación de servicios.
Nuevas competencias digitales para nuevas tecnologías
Sumado a ello, se debe recordar que el uso de inteligencia artificial requiere como paso previo que la ciudadanía cuente con el conocimiento y las competencias digitales necesarias para interactuar con la Administración o para acceder a servicios públicos que empleen IA en sus procesos. Inclusive, si se usase la IA sólo para el diseño de plataformas o recopilación de información, en observancia al principio de transparencia, la ciudadanía debería poder entender el funcionamiento para supervisar el uso ético de IA en los servicios públicos.
Algunas cifras de la OECD y de la Unión Internacional de Telecomunicaciones ilustran esta necesidad de desarrollo de competencias digitales. Según la Organización para la Cooperación y el Desarrollo Económico (OECD), el 60% de peruanas/os entre los 16 y 65 años no cuentan con competencias en entornos altamente tecnológicos. Sumado a ello, la Unión Internacional de Telecomunicaciones de las Naciones Unidas ha indicado que en el Perú sólo el 29% de personas conoce cómo enviar correos con documentos adjuntos, sólo un 31% sabe usar herramientas de copiado y pegado, e igualmente sólo un 31% sabe copiar o mover un archivo. Inclusive, la propia Secretaría de Gobierno y Transformación Digital, en su Política Nacional de Transformación Digital (PNTD), identificó como diagnóstico que más del 40% de la población peruana no ejerce ninguna capacidad digital; esto es, no utilizan medios digitales en sus actividades diarias.
Como contracara del citado problema en el ámbito de la Administración Pública, resulta interesante apuntar que la ausencia de capacidades digitales se extiende también a los funcionarios o servidores públicos, quienes son en su mayoría considerados inmigrantes digitales. En otras palabras, los servidores públicos en el Perú se ubican principalmente, según datos de SERVIR, entre los 30-64 años, grupo etario que se caracteriza por no haberse formado en tecnología. Muestra de ello es que, de acuerdo con la Encuesta Nacional de Activos Digitales, sólo el 50% de servidores públicos utiliza el servicio de computación en la nube, y menos de un 8% hace uso de nubes públicas o privadas.
Este escenario resalta el rol protagónico de SERVIR, en coordinación con la Secretaría de Gobierno Digital de la PCM, para la impartición de talleres y fortalecimiento de capacidades digitales, de acuerdo con la Ley de Gobierno Digital y la PNTD. En consecuencia, el Perú padece de una amplia brecha digital, que engloba la ausencia de competencias digitales tanto de parte de las y los administrados, como de la Administración Pública. Lo cual se convierte en un obstáculo a tener en cuenta para la implementación de herramientas de IA en las entidades públicas.
De esta forma, saludamos que la iniciativa reconozca la potencialidad de la IA para mejorar la efectividad en el servicio público. No obstante, para su correcta aplicación, su planteamiento debe diferenciar, de un lado, los distintos procedimientos administrativos y entidades de la Administración Pública. De otro lado, debe diferenciar y esclarecer cómo se llevaría a cabo su implementación en el ámbito de los servicios públicos e indicar las salvaguardas necesarias para el uso ético de la IA.
Sumado a ello, la propuesta debe realizarse de forma progresiva e ir acompañada de políticas públicas orientadas al desarrollo de las competencias digitales para la ciudadanía y para quienes trabajan en la Administración Pública. Sólo de esta manera podrá la propuesta ir más allá de una mera declaración de intereses y convertir a las herramientas de IA en un aliado para la gestión pública.