El día 27 de mayo se publicó la decisión del Consejo Asesor de Contenido de Meta (Oversight Board) a raíz de una publicación en Facebook que contenía una foto generada con IA en la que aparecía una defensora de derechos humanos peruana con el rostro ensangrentado.

La decisión unánime fue de retirar la publicación, que provenía de la cuenta de uno de los líderes del grupo “La Resistencia”, conocido en Perú por sus agresiones físicas y virtuales hacia periodistas y defensores de derechos humanos.

¿Qué es el Oversight Board?

El Oversight Board, fundado en 2020, es un Comité de 21 expertas y expertos de diferentes partes del mundo, sus perfiles son diversos, aunque prioritariamente académicos y tienen como punto en común la experiencia en políticas públicas y redacción, como periodistas, escritores o editores.
Este Consejo tiene como objetivo mejorar la moderación de contenidos en las plataformas del grupo tecnológico Meta. Esto es, busca mejorar las decisiones de moderación de contenido en Facebook, Instagram y Threads, a fin de no vulnerar la libertad de expresión, y de ponderar este derecho con otros derechos humanos como la igualdad, privacidad e integridad.

Se trata de un organismo con vocación de independencia e imparcialidad, que ha resuelto casos difíciles en libertad de expresión, que involucran desde la difusión de contenido artístico de desnudos con IA, hasta publicaciones sobre desinformación en contextos electorales; siendo uno de sus decisiones más emblemáticas la de suspender temporalmente el acceso de la cuenta de Facebook e Instagram del actual presidente, Donald Trump, en el marco del recuento electoral de 2020.

Sin duda un órgano importante teniendo en cuenta la posición dominante de Meta en el mercado de las redes sociales. Cuya función y continuidad no debe pasar desapercibida, sobre todo en un contexto de cambios en la moderación de contenidos y el fact-checking.

¿Cuál fue la decisión?

En su argumentación, el Oversight Board tuvo en consideración la difusión (1000 vistas) y alcance (100 reacciones) de la publicación que contenía la fotografía generada con IA, así como la facilidad para identificar en la fotografía a una persona particular, claramente identificable, una defensora líder de derechos humanos en Perú.
De igual forma, siendo en estos casos tan importante evaluar el contexto en el que se enmarca la publicación bajo análisis, el Consejo hizo un recuento del contexto peruano, aludiendo, con base en informes de organismos internacionales, a la crisis política existente, a la búsqueda de control y desarticulación de ONGs, así como a la persecución a activistas y defensores de derechos humanos. A partir de ello, el Consejo concluyó de forma unánime que la publicación calificaba como una amenaza «velada o implícita» según el Estándar Comunitario de Violencia e Incitación, de las políticas de Facebook. Por lo cual, revocó la decisión inicial de Meta de mantener la publicación.
Además de ello, emitió dos recomendaciones para Meta: (i) que adecue sus políticas comunitarias, de forma que aclare que las amenazas indirectas están prohibidas en cualquier forma escrita, visual o verbal; y (ii) que realice una evaluación anual de precisión sobre amenazas indirectas, enfocándose en errores de detección que afecten a defensores de derechos humanos y discursos políticos, con el fin de mejorar la identificación de amenazas que ocurren con poca frecuencia pero pueden tener un impacto grave.

Esta decisión no solo representa un hito importante en el camino hacia la justicia y la reparación —aunque sea de forma limitada— que puede buscar una defensora peruana, sino que también sienta un precedente para el Perú y la región sobre las confusiones que a veces existen entre la libertad de expresión y la violencia en línea, como ocurre con los discursos de odio.

¡Cualquiera puede participar!

Recuerda que periódicamente el Oversight Board elige casos sobre los que se pronunciará, y hace público un resumen del caso para que cualquier persona, de forma individual u organizada, pueda enviar comentarios. No existen requisitos adicionales, ni un mínimo de extensión en el comentario. Asimismo, tú eliges si deseas que los comentarios sean públicos o no. Anímate a participar en las discusiones globales más importantes en materia de libertad de expresión, y ejerce así tu activismo digital y presencia on-line. Recuerda que Internet lo construímos tod@s.
En este caso, el Oversight Board recibió 65 comentarios públicos, de los cuales 60 provenían de América Latina y el Caribe. ¿Quieres saber más sobre el tema? A continuación te invitamos a leer los comentarios enviados por el equipo de Hiperderecho.