El pasado 31 de enero de 2024, la congresista Jackeline Katy Ugarte Mamani, integrante del Grupo Parlamentario Unidad y Diálogo Parlamentario, presentó el Proyecto de Ley 6927/2023-CR, denominado “Ley que obliga el uso de la Inteligencia Artificial en las entidades públicas”. El sucinto proyecto señala como finalidad lograr la efectividad en el servicio público. Para ello, propone modificar la Ley de Procedimiento Administrativo General para obligar a todas las entidades públicas, bajo responsabilidad funcional, a implementar herramientas de inteligencia artificial (IA), tanto en su actividad administrativa como en la prestación de servicios públicos. En este artículo veremos qué retos genera esta iniciativa legislativa.
Limitaciones de la iniciativa
En primer lugar, la iniciativa tiene un problema precedente que obstaculiza su correcta aplicación: la Ley 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Esta Ley, que fue aprobada en julio del 2023, es declarativa y no dispone de medidas concretas para su aplicación, salvo el deber de la Secretaría de Gobierno y Transformación Digital de reportar al Congreso avances en la materia. Por ello, el Proyecto de Ley 6927/2023 termina siendo una propuesta de difícil efectividad, por ser también declarativa y al tener como marco regulatorio una Ley embrionaria, cuya reglamentación se encuentra aún en espera.
Sumado a ello, un segundo problema es la ambigüedad de la iniciativa legislativa en cuanto a su objeto y aplicación. Por un lado, no queda claro el objeto de la ley, que sólo señala el “uso de la inteligencia artificial” sin establecer pautas para un uso ético, con un enfoque de derechos humanos y seguro, con protección de los datos personales y con medidas de ciberseguridad, por ejemplo. Y, respecto a su finalidad, menciona la “efectividad en el servicio público”, pero no es sencillo determinar qué problema concreto ha identificado y pretende resolver el grupo parlamentario a través de la propuesta.
Ciertamente, la inteligencia artificial es una herramienta que puede servir para tomar decisiones, resumir y organizar información, traducir información a un lenguaje sencillo, comunicar información a modo de conversación, y mucho más, lo que podría resultar beneficioso en el sector público bajo correctas salvaguardas. Si bien esta herramienta puede ser de suma ayuda en la gestión pública, también representa riesgos para los derechos humanos. Por ejemplo, aquellos sistemas de IA que utilizan bases de datos que incluyen datos personales o sensibles pueden recibir ataques o sufrir daños no deseados. Lo que tendría un impacto en el derecho a la protección de datos personales o el derecho a la privacidad. De igual forma, los sistemas de IA pueden replicar estereotipos en la toma de decisiones a través de sus algoritmos. Teniendo su uso, en consecuencia, resultados discriminatorios o sesgados.
Por ende, si el Proyecto pretende promover el uso de la IA en el sector público, deben encontrarse claramente definidas las finalidades que se persiguen y pautas para su uso ético. Sobre todo cuando se pretende aplicar esta herramienta en el amplio escenario de las entidades públicas, lo que incluye el sector justicia, salud, educación, transporte, seguridad social y demás. Inclusive, más aún cuando se establece como una obligación “bajo responsabilidad funcional”.
Asimismo, en cuanto a la aplicación, en este tipo de normas programáticas, que requieren acciones positivas para su ejecución, sería ideal proponer que las actividades con objetivos estén calendarizados por etapas. En este sentido, como ejemplos positivos se puede mencionar el Sistema del Expediente Judicial Electrónico (EJE), implementado desde el 2017, que dispuso dos etapas para su implementación, una piloto y otra progresiva. De igual forma, el TUO de la Ley 27806, Ley de Transparencia y Acceso a la Información Pública, aprobado en 2019, dispuso plazos para la implementación de internet de las entidades públicas.
IA en el universo de la Administración Pública
El ámbito de aplicación de este Proyecto lo conforman todas las entidades públicas descritas en el artículo I del Título Preliminar de la Ley 27444 (Ley de Procedimiento Administrativo General). Este planteamiento, en lugar de una modificación específica al Título Preliminar o al artículo 29-A sobre Procedimiento Administrativo Electrónico de la Ley 27444, propone una aplicación general que no diferencia entre las heterogéneas entidades públicas o entre los variados tipos de procedimientos administrativos.
Cabe recordar que entre los procedimientos generales regulados por la norma cuya modificación se pretende, se encuentran el procedimiento de aprobación automática, el procedimiento de evaluación previa con silencio positivo, el procedimiento de evaluación previa con silencio negativo, y los procedimientos administrativos y servicios prestados en exclusividad estandarizados obligatorios. En adición a ello, están los procedimientos administrativos especiales como son el procedimiento trilateral, el procedimiento sancionador y la actividad administrativa de fiscalización. Sin embargo, la propuesta legislativa no especifica en qué medida o cómo se realizaría la aplicación de la IA en cada uno de estos procedimientos. La propuesta tampoco toma en cuenta la diferente naturaleza de cada procedimiento, así también cómo cada uno puede afectar de manera distinta las esferas jurídicas de los administrados.
De la misma forma, tampoco especifica el Proyecto en qué etapa del procedimiento administrativo es pertinente utilizar la IA y cómo ello puede afectar el debido procedimiento administrativo:, si se utilizará para motivar un acto administrativo, verificar la validez de un acto administrativo, evaluar las solicitud y/o descargos del administrado, en la tramitación del expediente administrativo, en la resolución de conflictos o toma de decisiones, en la valoración de medios probatorios, en la imposición de medidas provisionales, en la evaluación de los recursos impugnatorios o en otras etapas. Mucho menos es explícito cuál será la aplicación de la IA en el interior de cada etapa, o cómo se emplearía en los servicios públicos.
La propuesta tampoco cuenta con medidas de fiscalización o auditoría, por parte de la ciudadanía, cuando la Administración Pública utilice IA en su toma de decisiones. ¿Qué salvaguardas implementa la norma para que el uso de IA no afecte derechos fundamentales? ¿Qué periodicidad de evaluación se debe hacer sobre la herramienta? ¿Qué herramienta de IA puede y/o debe implementar? ¿La IA a utilizar debe ser de software abierto? ¿Se comunicará al ciudadano cuando una decisión se haya tomado con apoyo de la IA? ¿Cuánto es el porcentaje de participación de la IA en la toma de la decisión administrativa? Todas estas son preguntas que nos surgen al momento de revisar la propuesta, pero no se obtiene respuesta alguna en su lectura.
En este sentido, resulta imperante un mejor análisis de la naturaleza de cada procedimiento regulado en la Ley 27444 y cómo la implementación de la IA puede mejorar su realización, determinando las necesidades de cada tipo de procedimiento y su impacto en los que están en trámite y los futuros procedimientos. Asimismo, sería adecuado que la propuesta legislativa profundice a qué hace referencia cuando señala que se utilizará la IA en la actividad administrativa, y en la prestación de servicios.
Nuevas competencias digitales para nuevas tecnologías
Sumado a ello, se debe recordar que el uso de inteligencia artificial requiere como paso previo que la ciudadanía cuente con el conocimiento y las competencias digitales necesarias para interactuar con la Administración o para acceder a servicios públicos que empleen IA en sus procesos. Inclusive, si se usase la IA sólo para el diseño de plataformas o recopilación de información, en observancia al principio de transparencia, la ciudadanía debería poder entender el funcionamiento para supervisar el uso ético de IA en los servicios públicos.
Algunas cifras de la OECD y de la Unión Internacional de Telecomunicaciones ilustran esta necesidad de desarrollo de competencias digitales. Según la Organización para la Cooperación y el Desarrollo Económico (OECD), el 60% de peruanas/os entre los 16 y 65 años no cuentan con competencias en entornos altamente tecnológicos. Sumado a ello, la Unión Internacional de Telecomunicaciones de las Naciones Unidas ha indicado que en el Perú sólo el 29% de personas conoce cómo enviar correos con documentos adjuntos, sólo un 31% sabe usar herramientas de copiado y pegado, e igualmente sólo un 31% sabe copiar o mover un archivo. Inclusive, la propia Secretaría de Gobierno y Transformación Digital, en su Política Nacional de Transformación Digital (PNTD), identificó como diagnóstico que más del 40% de la población peruana no ejerce ninguna capacidad digital; esto es, no utilizan medios digitales en sus actividades diarias.
Como contracara del citado problema en el ámbito de la Administración Pública, resulta interesante apuntar que la ausencia de capacidades digitales se extiende también a los funcionarios o servidores públicos, quienes son en su mayoría considerados inmigrantes digitales. En otras palabras, los servidores públicos en el Perú se ubican principalmente, según datos de SERVIR, entre los 30-64 años, grupo etario que se caracteriza por no haberse formado en tecnología. Muestra de ello es que, de acuerdo con la Encuesta Nacional de Activos Digitales, sólo el 50% de servidores públicos utiliza el servicio de computación en la nube, y menos de un 8% hace uso de nubes públicas o privadas. ¿Cómo se va a volver obligatorio el uso de IA en las entidades públicas si una gran mayoría de servidores carece de las competencias digitales necesarias para su ejecución?
En este escenario resalta el rol protagónico de SERVIR, en coordinación con la Secretaría de Gobierno Digital de la PCM, para la impartición de talleres y fortalecimiento de capacidades digitales, de acuerdo con la Ley de Gobierno Digital y la PNTD.
En buena cuenta, el Perú padece de una amplia brecha digital, que engloba la ausencia de competencias digitales tanto de parte de las y los administrados, como de la Administración Pública. Lo cual se convierte en un obstáculo a tener en cuenta para la implementación de herramientas de IA en las entidades públicas.
De esta forma, saludamos que la iniciativa reconozca la potencialidad de la IA para mejorar la efectividad en el servicio público. No obstante, para su correcta aplicación, su planteamiento debe diferenciar, de un lado, los distintos procedimientos administrativos y entidades de la Administración Pública. De otro lado, debe diferenciar y esclarecer cómo se llevaría a cabo su implementación en el ámbito de los servicios públicos e indicar las salvaguardas necesarias para el uso ético de la IA y que esta sea respetuosa de los derechos fundamentales.
Sumado a ello, la propuesta debe realizarse de forma progresiva e ir acompañada de políticas públicas orientadas al desarrollo de las competencias digitales para la ciudadanía y para quienes trabajan en la Administración Pública. Sólo de esta manera podrá la propuesta ir más allá de una mera declaración de intereses y convertir a las herramientas de IA en un aliado para la gestión pública.