Entre el 5 y el 6 de mayo, Hiperderecho participó del II Seminario Big Techs, Información y Democracia, que en esta ocasión se desarrolló en Bogotá, Colombia. El evento, esta vez organizado por Observacom, fue una continuación de discusiones iniciadas en diciembre del año pasado durante el I Seminario, que se celebró en Sao Paulo, Brasil.

¿Cómo se relacionan las Big Techs con la democracia y el espacio de información?

En la actualidad, gran parte del debate público tiene lugar en Internet. Noticias, campañas electorales, hallazgos científicos, lanzamientos musicales, e incluso deliberaciones de funcionarios se difunden o transmiten a través de grandes plataformas de Internet. Esto ha hecho que el poder de las grandes plataformas sea crítico para las democracias: sus términos y condiciones, de naturaleza privada, tienen impacto e implicaciones en el espacio público de deliberación. Los sistemas de recomendación y de moderación privada de contenidos, por ejemplo, pueden distorsionar el debate público (al generar cámaras de eco, permitir el microtargeting, etc.) y afectar la libertad de expresión (cuando se elimina contenido legítimo). 

Para discutir posibles respuestas a esta problemática, el evento abordó 4 temas principales a través de paneles expositivos y grupos de trabajo para profundizar más la conversación:

• Regulación democrática de plataformas: Se presentó la iniciativa latinoamericana por una regulación de las plataformas, abordando puntos cruciales y urgentes como la transparencia, la rendición de cuentas, el debido proceso, etc. A la vez, se reportaron casos de malas iniciativas de regulación existentes, destacando el hecho de que debemos apuntar hacia una regulación de procesos y no de contenidos. Asimismo, se reconoció la necesidad de contar con una regulación asimétrica que diferencie entre distintos tipos de actores y plataformas.
• Algoritmos, noticias y pluralismo en redes sociales: Se discutió el impacto que los sistemas de recomendación y priorización algorítmica tienen sobre la diseminación de información y, en consecuencia, sobre el acceso a información plural en línea.
• Regulación económica de las plataformas digitales: Las grandes plataformas digitales son, además, grandes corporaciones con una posición dominante en el mercado, con más de un giro o modelo de negocio y con grandes implicancias para las telecomunicaciones. En ese sentido, es necesario también discutir qué tipo de regulación económica, desde una perspectiva de derechos del consumidor y de la competencia, les es aplicable y qué reformas pueden realizarse.
• Inteligencia artificial como bien público: Se discutió el rol de la inteligencia artificial en el espacio de información, abordando tanto casos de éxito como casos de alto riesgo para los derechos humanos. 

Inteligencia Artificial como bien público: ¿qué medidas adoptar?

Hiperderecho fue parte del último panel del evento, relacionado con la regulación democrática de la inteligencia artificial. Se trató de un espacio para discutir algunos alcances del informe La IA como bien público: garantizar el control democrático de la IA en el espacio de información, un documento del Foro sobre Información & Democracia que contiene más de 200 recomendaciones a policy-makers, empresas, desarrolladores y sociedad civil.

De nuestra parte, recurrimos al caso peruano para ilustrar algunas ideas clave que a continuación compartimos:

• Es importante tener claridad sobre el enfoque. La inteligencia artificial no es una herramienta intrínsecamente positiva: de hecho, por eso se discuten recomendaciones que posibiliten que la IA esté al servicio del interés público. Lamentablemente, la Ley de promoción de IA (Ley 31814) no parte de esta premisa, sino que, al contrario, define a la inteligencia artificial como una tecnología de propósito general que está en capacidad de mejorar el bienestar de las personas, contribuir a una actividad económica global sostenible positiva, aumentar la innovación y la productividad, y ayudar a responder a los desafíos globales. Aunque no negamos que tenga este potencial, consideramos que ni se trata de un rasgo que la define, ni se trata de un escenario fácil de alcanzar (de hecho, si no se adoptan medidas de prevención de riesgos, no será posible alcanzarlo). 
• Los mecanismos importan: En 2021, incluso antes de la aprobación de la Recomendación sobre la ética de la IA de Unesco, el Perú estaba discutiendo su Estrategia Nacional de Inteligencia Artificial. Lamentablemente, se trató de un proyecto sin concluir. En paralelo, sin embargo, avanzaron iniciativas como la aprobación de la actual Ley 31814, y su posterior proyecto de Reglamento, elaborado por la Secretaría de Gobierno y Transformación Digital, ente rector en la materia. Aunque se trata de un Reglamento bastante denso (con sus aciertos y desaciertos),  lejos de la naturaleza prácticamente declarativa de la Ley, no tiene el mismo impacto que una política con articulación de distintos sectores y con indicadores de éxito hubiera tenido. A esto hay que sumarle las competencias que (no) tiene la SGTD para supervisar adecuadamente el cumplimiento de su propio Reglamento.
• Hay muchas tareas pendientes: El proyecto de Reglamento prevé obligaciones importantes para implementadores de sistemas de IA en ámbitos como la administración de justicia o el acceso a programas sociales (“alto riesgo”). Algunos de ellos son, por ejemplo, “implementar prácticas adecuadas de diseño, tratamiento, formulación de supuestos y disponibilidad de los datos de entrenamiento, validación y prueba a fin de que los datos a utilizarse incrementen su pertinencia, representatividad y completitud” o “incorporar un programa de trazabilidad de los datos”. Más allá de la preocupación por el origen de los datos (por ejemplo, en materia de protección de datos personales o de extractivismo de datos), también vale la pena preguntarnos por el modelo de gobernanza de datos actual. ¿Cómo puede haber pertinencia y representatividad de datos si, en la actualidad, carecemos de datasets fundamentales en la Plataforma Nacional de Datos Abiertos? ¿Qué lugar puede haber para la interoperabilidad si ni siquiera el sector justicia ha alcanzado esa meta?

Conoce más

El evento se transmitió en Youtube y puedes revisar las grabaciones del primer y segundo día del encuentro. Asimismo, te invitamos a revisar el documento de Estándares para una regulación democrática de las grandes plataformas y la Declaración latinoamericana sobre transparencia de las plataformas en Internet, que gatillaron varias de las conversaciones tenidas, así como las recomendaciones de IA como bien público.