El pasado 16 de abril el Pleno del Congreso aprobó una serie de Proyectos de Ley acumulados, en los cuales se proponían cambios en el Código Penal, como la inclusión del uso de IA y tecnologías similares como circunstancias de agravación en los delitos, o la modificación de delitos contra la propiedad intelectual.

Esta proactividad legislativa con la que está actuando el Congreso en temas de IA resulta cuestionable en temas de forma y fondo. En este caso, se trata de Proyectos de Ley presentados en marzo que a la fecha, ya acumulados y, tras ser aprobados por el Pleno, se enviaron al Ejecutivo esta semana. Por lo que queda pendiente su aprobación y eventual promulgación como Ley.

¿Siempre el uso de IA es un agravante?

Más allá de la velocidad, -y peligro de poco debate-, que muestra el tracto legislativo de estos proyectos, también resulta preocupante el desconocimiento del que parten los legisladores. Así, asumir que el uso de la IA o cualquier tecnología es como regla una circunstancia agravante es un error.

En esta ocasión, vale la pena recordar el debate producido hace algunos años atrás respecto del Internet, que ocasionó que agentes de sociedad civil de varios países se pronunciaran en contra de la penalización de internet en el Perú, y alertando de una posible vulneración al principio de neutralidad regulatoria. Principio que merece ser enunciado también en este caso, pues el Congreso pretende sancionar de forma distinta de las conductas presenciales, a aquellas que ocurran en el entorno digital.

Ante esto, cabría preguntarnos ¿es idóneo, necesario y proporcional determinar una mayor reprochabilidad a una conducta por el uso de un medio tecnológico? Parece ser que la premisa detrás de estos proyectos es que el uso de IA añade siempre un daño exponencial a los delitos. Sin embargo, si bien como cualquier medio puede facilitar la comisión de un delito, el uso de IA por sí mismo no es determinante para que se consuma una mayor reprochabilidad.

Por ejemplo, imaginemos que una persona utiliza la imagen del periodista Federico Salazar para hacer un video deepfake  y promocionar su emprendimiento de venta de hamburguesas a domicilio a través de TikTok. En este caso hipotético, la cuenta de esta persona tiene 20 seguidores, y el video ha sido visto por 50 personas, de las cuales sólo 1 lo vio completo (datos que se pueden corroborar a través de las estadísticas para creadores de Tik Tok). Si aplicamos la propuesta legislativa a este ejemplo, dicha persona podría recibir una pena de cárcel de 1 a 3 años, puesto que ha difundido información falsa a través de tecnologías de inteligencia artificial (deepfake). Mientras que, si, en otro supuesto hipotético, un presentador en un congreso académico con más de 500 asistentes, le atribuye a uno de los expositores ser cabecilla de una organización criminal, sólo sería pasible de una sanción económica, de noventa a ciento veinte días-multa.

Lo que intentamos mostrar con estos ejemplos es que no hay fundamento para afirmar que el uso de IA por sí mismo genera una mayor reprochabilidad penal. Por tanto, no se debería incorporar como regla general el uso de IA como una circunstancia agravante en los delitos, tal como hace el Proyecto de Ley aprobado en el Congreso.

De hecho, ya existen reportes de malas experiencias en regular conductas ilícitas virtuales con penas mayores a los ilícitos cometidos presencialmente. Desde Hiperderecho hemos podido observar a través del análisis de sentencias, que los jueces no están preparados para evaluar el efectivo alcance, y por tanto la reprochabilidad penal adicional, que genera la comisión de ilícitos en Internet.

¿Pena de cárcel por el mal uso de una tecnología emergente?

Otro punto importante que está pasando desapercibido es que el Congreso está atribuyendo penas de cárcel por el mal uso de una tecnología emergente en un país que tiene pendiente retos como las brechas digitales, la falta de conectividad en zonas rurales y cobertura de redes 5G a nivel nacional, la ausencia de infraestructura necesaria para el funcionamiento de internet, el analfabetismo digital, entre otros.

Así, los esfuerzos legislativos deben partir de un análisis crítico sobre los niveles de inclusión y apropiación digital de la ciudadanía. El uso responsable de la IA, así como el uso responsable de cualquier tecnología (piénsese en contenidos televisivos, el uso de la computadora, o el celular), empezará por un cambio educativo, social y cultural. Para lo que necesitamos contar con un profesorado escolar y universitario mejor capacitado, no sólo en IA, sino en datos personales, derechos digitales, libertad de expresión, funcionamiento de algoritmos, impacto medioambiental y más. Se deben sentar primero entonces estas bases, antes de recurrir apresuradamente a la sanción penal.

Inclusive, teniendo en cuenta que la sanción penal es la medida de última ratio, para los delitos más graves, que causen mayor reprochabilidad social, habría que preguntarnos si esta es la vía correcta, o si sería preferible atender a otras salidas primero, como la responsabilidad civil o administrativa. Sobre todo si es que, paralelamente, en el país se quiere promover el uso de IA en el proceso nacional de transformación digital. Y, si es que (tal como lo señala la Ley de IA) es de interés nacional la promoción del talento digital en el aprovechamiento de las tecnologías emergentes y nuevas tecnologías

Entonces, ¿cuándo y cómo regular el mal uso de IA?

Con lo anterior no sugerimos que en algunos casos sí sea necesario regular el mal uso de IA, pero esto debería realizarse analizando el tipo base de cada delito. Como sucedió, por ejemplo, con el delito de difusión de imágenes íntimas sin consentimiento, que fue modificado el año pasado. Como se puede observar, en este caso no se dispuso el uso de IA como agravante, sino se agregó como parte del tipo penal: “El que, sin autorización, difunde, revela, publica, cede o comercializa imágenes, materiales audiovisuales, audios con contenido sexual reales, incluidos aquellos que hayan sido elaborados o modificados por medios digitales o tecnológicos, de cualquier persona, será reprimido con pena privativa de libertad (…)”.

Por tanto, la necesidad de agregar en la conducta penal el uso de IA debe ser analizado delito por delito. No debería ser impuesto como regla para todos el mal uso de IA como una circunstancia agravante que amerita en consecuencia mayores años de pena privativa de libertad, mucho menos si es que (como se advirtió) la privación de libertad es la última medida de sanción en la que debería pensar una sociedad. Y existe antes la posibilidad de sancionar civil o administrativamente.

Dicho análisis permitirá también identificar si es que existe la necesidad de regular; es decir, si existe siquiera un vacío normativo. Por ejemplo, cuando se suscitó la noticia de que en un colegio de Lima estudiantes usaron fotografías públicas de redes sociales de sus compañeras para crear material de abuso sexual infantil, muchos penalistas afirmaron correctamente que esta conducta se subsumía en el delito de “pornografía infantil” (delito en el que, por cierto, está pendiente el cambio de nombre a “material de abuso sexual contra niñas, niños y adolescentes”, como ha recomendado UNICEF). Por tanto, no era necesaria una modificación donde explícitamente se mencione la palabra “IA”, siendo que ya estaba previsto sancionar la “fabricación” de “imágenes de carácter sexual, en los cuales participen menores de 18 años de edad”1.

Asumir lo contrario lleva a propuestas incoherentes como la que se comenta, que además de la modificación de agravantes penales, propone precisar que los delitos contra la propiedad intelectual, protegen la autoría “humana”, como si no fuera la persona el centro de imputación de derechos y obligaciones del sistema jurídico. Esto también supone un completo descuido del principio de responsabilidad humana, que contiene la primera propuesta de reglamentación de la Ley de IA.

Partir del desconocimiento y de una no solicitada proactividad legislativa por regular la IA, podría dar la apariencia de que el Congreso está instrumentalizando temas de moda, como es la IA, con fórmulas viejas de populismo punitivo (mayores penas, más mano dura); para camuflar su incapacidad de luchar contra el avance de la delincuencia y el crimen organizado.

¿Te interesa mayor información sobre esta iniciativa del Congreso?

Te invitamos a leer el oficio enviado desde Hiperderecho a la Comisión de Justicia y Derechos Humanos del Congreso.