Pornografía deepfake no consentida o material de abuso sexual: ¿cómo afecta a las mujeres?

Los deepfakes son un fenómeno que comienza su popularidad alrededor de 2017 a raíz de una discusión en Reddit, un sitio web similar a X, caracterizado por sus posts y foros de discusión. Si bien al principio los deepfakes fueron una innovación para los usuarios de la comunidad virtual, que lo utilizaban para usos recreativos no perjudiciales o incluso voluntariamente para contenido sexual, hoy en día la mayor parte de la pornografía deepfake en Internet no es consentida. En ese sentido, califica más bien como material de abuso sexual y no como “pornografía” -que es consentida-, aunque el nombre genérico o popular que se le ha asignado es pornografía deepfake.

Si bien aún se utilizan algunas aplicaciones o páginas web para crear deepfakes de forma lúdica, haciendo que la cara de una persona aparezca en el cuerpo de spiderman, por ejemplo; otros usos de los deepfakes han provocado, como reporta la UNESCO, proxenetas de IA (AI Pimps) y la automatización de la distribución de la pornografía deepfake. Esto conduce no sólo a un comportamiento delictivo, sino a la explotación de los cuerpos o rostros de las mujeres, con fines lucrativos. En otras palabras, esto conduce a un nuevo método para desplegar la violencia de género en línea sobre las mujeres. Teniendo esto en cuenta, a continuación se enumeran algunos de los efectos de la pornografía deepfake no consentida sobre los derechos humanos de las mujeres.

Impactos en la salud física y mental

Para empezar, según el National Center on Sexual Exploitation, la pornografía deepfake no consentida – e incluso las imágenes falsas de desnudos, creadas con el rostro de una persona mediante photoshop o IA- forman parte de un problema mayor denominado abuso sexual basado en imágenes (IBSA, por sus siglas en inglés). Un término amplio que incluye la creación, extorsión, robo, amenaza, distribución o cualquier uso de materiales sexualmente explícitos sin el consentimiento de la persona representada.

Algunos de los efectos sobre la salud mental de las víctimas de IBSA son síntomas psicológicos nocivos como la humillación, sentimientos significativos de impotencia, desesperanza, angustia psicológica y trastornos sociales. También sufren traumas, trastorno de síndrome postraumático, ansiedad, depresión, sentimientos de pérdida de control, deterioro del sentido de sí mismas y dificultades para desarrollar confianza en los demás. Efectos psicológicos que, cabe recordar, no sólo repercuten en el bienestar mental, sino también en la salud física. De manera ilustrativa, según la OMS, las personas con trastornos mentales graves mueren en una media entre 10 y 20 años antes que la población general.

Dentro de estos efectos, un caso particular son los efectos sobredimensionados que existen para las mujeres que son figuras públicas. En estos casos, la popularidad de las mujeres y su imagen pública juega en su contra debido a la rapidez de los usuarios y espectadores para crear tendencias en las redes sociales asociadas a la difusión del material de abuso sexual, lo que genera la viralización del contenido.

Impactos en el trabajo

En lo que respecta al mercado laboral, las víctimas de la pornografía deepfake no consentida han denunciado, además de pérdidas de tiempo y dinero, la perdida de su empleo, así como el daño a su reputación y empleabilidad debido a la viralización o difusión del contenido sexual.

De nuevo, en este ámbito, un grupo de especial protección son las figuras públicas. En estos casos, la creación y difusión de pornografía deepfake puede ser incluso una herramienta de coacción o una amenaza para la profesión que desempeñan, como en el caso de las mujeres defensoras de derechos humanos o las periodistas.

Un ejemplo de ello es Rana Ayyub, periodista de investigación de la India, que fue víctima de pornografía deepfake como parte de una campaña de desinformación para desacreditarla profesionalmente como periodista de investigación. Situación que se provocó después de que fuera invitada por los principales medios de comunicación a comentar las circunstancias políticas en torno a la violación de una niña. En este caso, la pornografía deepfake no consentida se instrumentalizó para desacreditar su reputación, credibilidad e imagen profesional. Lo que tuvo un efecto silenciador para ella, y un grave daño a su carrera.

Esto demuestra que, independientemente de que el contenido sexual difundido haya sido sintético o falso, los daños para las mujeres siguen siendo los mismos a los que se habrían provocado por la difusión de contenido sexual real: la pérdida de oportunidades laborales o del puesto de trabajo actual -y, por tanto, pérdidas económicas-, así como la exclusión del espacio público. Perjuicios que son más graves en Estados conservadores o con un historial de desprecio de los derechos y la autonomía de las mujeres, donde la sociedad no condena a quienes generaron abusiva y perversamente el contenido sexual, sino a aquellas mujeres que aparecen en este.

Impactos en la integridad personal

Las víctimas de deepfakes también han denunciado ser objeto de acoso sexual, amenazas de muerte, amenazas de violación, extorsión, acoso y mensajes sexuales no deseados de desconocidos o depredadores sexuales. Todas estas conductas representan graves amenazas para la seguridad y la integridad personal de las mujeres. Aunque algunas de estas acciones se llevan a cabo a través de canales digitales, también se han denunciado intentos de contacto personal.

Este fue el caso de Noelle Martin, actual abogada y defensora de los derechos de la mujer, que a los 17 años fue víctima de pornografía deepfake no consentida. A raíz de esta experiencia, ella denunció públicamente haber sufrido de acoso sexual y amenazas, tanto online como offline. Debido a la difusión de su intimidad y datos personales, como su dirección, nombre de su colegio e identificación de familiares o amistades.

Esto sucede debido a la naturaleza y las características de internet. Como la facilidad para encontrar información personal, la facilidad de hacerse viral y la dificultad para borrar contenidos de forma permanente. Así, esto hace que los datos personales de las víctimas (nombre, dirección, lugar de trabajo, identidad de familia o amigos) estén expuestos a todo el mundo, incluidos los agresores.

Impactos en la libertad de expresión

La difusión del material de abuso sexual creado mediante los deepfakes, también genera una autocensura de la presencia de las mujeres en línea y su expulsión del mundo digital. Este problema ha sido denominado como «efecto silenciador» y pone en entredicho tanto el compromiso político con las mujeres, como la integridad del espacio informativo y la participación en línea en condiciones de igualdad.

Por otro lado, el efecto silenciador también afecta a la relación de las mujeres con Internet, dando la impresión de ser un espacio inseguro. En consecuencia, tiene un efecto negativo en su capacidad para navegar por internet de forma segura, y en su libre expresión de ideas, opiniones o juicios.  Según un informe de ocho países encuestados por Amnistía Internacional, entre el 63% y el 83% de las mujeres introdujeron algún cambio en su forma de utilizar las plataformas de redes sociales, a raíz de una agresión de género en línea. Dentro de este grupo, en el caso concreto de USA, 81% de las mujeres realizaron cambios en sus publicaciones y comportamiento online. El mismo estudio muestra además que el efecto silenciador envía un mensaje a las mujeres, especialmente a las que se encuentran en una situación de vulnerabilidad, para que se autocensuren. De lo contrario, se estarían exponiendo a la misma violencia digital que sufren sus compañeras.

Así pues, está claro que la pornografía deepfake no consentida no sólo tiene efectos individuales sobre las víctimas, sino que tiene efectos sobre la pluralidad del debate en línea, sobre la discusión de temas de interés público. Y, por tanto, sobre la democracia. Especialmente, teniendo en cuenta el papel de las figuras públicas femeninas en el debate, como periodistas, activistas y políticas, quienes sufren frecuentemente ataques de acoso sexual en línea, y son más propensas a recibir otro tipo de agresiones por su visibilidad.

Reflexión

La pornografía deepfake no consentida, mejor calificada como material de abuso sexual, es una forma de violencia de género en línea y tiene los mismos efectos perjudiciales que la viralización o difusión de contenido sexual íntimo sin consentimiento, independientemente de que sea material falso o sintético.

Cabe señalar que la pornografía deepfake no consentida no es sólo una expresión de mal gusto; no es una cuestión de gustos, sino una práctica lesiva contra los derechos humanos de las mujeres. Más allá de indicar que se trata de comportamientos tóxicos para la comunidad online, es una forma de violencia de género en línea, y debería constituir un delito.

Tampoco se trata, como podrían alegar algunas personas, de expresiones artísticas porque, a diferencia de lo que podría ocurrir con pinturas o dibujos físicos o digitales, los rostros -y a veces los cuerpos- se obtienen y manipulan sin el consentimiento de la titular de la imagen. Además, estas nuevas tecnologías dan una apariencia de realidad, cada vez más detallada, a contenidos sexuales no consentidos, lo que los hace indistinguibles o iguales a contenido real.

Afecta así los derechos de imagen, honor y buena reputación de las mujeres.

Asimismo, el material de abuso sexual creado a través de deepfakes se utilizan como una arma para silenciar a las mujeres en el espacio público o como una nueva forma de continuar reduciendolas a objetos de consumo para la satisfacción masculina. Esto, como se ha mencionado, tiene impactos, principalmente -pero no sólo-, en sus derechos a la salud, al trabajo, así como a la integridad personal y a la libertad de expresión.

¿Cuál es tu primer recuerdo de Internet? ¿Por qué Internet es importante para ti?

Hoy, 17 de mayo, celebramos el Día Mundial del Internet, una fecha de gran relevancia que nos invita a reflexionar sobre el impacto y la importancia de la red en nuestras vidas. Esta conmemoración, que tiene su origen en la iniciativa de la Asociación de Usuarios de Internet de España y que se remonta al año 2005, nos brinda la oportunidad de reconocer los avances tecnológicos, así como los desafíos y oportunidades que Internet ofrece a nivel mundial. 

En Hiperderecho, dedicamos un espacio importante a luchar contra la violencia de género en línea, promover un mayor entendimiento de Internet, alertar sobre proyectos de ley que lo amenazan, etc. Constantemente hacemos incidencia por derechos como la privacidad, la libertad de expresión o el acceso al conocimiento en línea. Hoy, conmemorando el Día Mundial del Internet, queremos celebrarlo contándote cómo se ve el ejercicio de esos derechos en nuestra vida diaria. Aprovechamos este espacio para que cada miembro de nuestro equipo cuente sus primeros recuerdos de Internet y la importancia que tiene para su vida. Leer más

Libertad de prensa, crisis ambiental y espacios de información

Entre el 2 y 4 de mayo, el gobierno de Chile y la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) fueron anfitriones y organizadores de la 31° Conferencia por el Día Mundial de la Libertad de Prensa (DMLP). Bajo el lema “una prensa para el planeta”, el evento de este año buscó llamar la atención sobre la importancia del periodismo y la libertad de expresión frente a la crisis climática global.

“Esta historia hay que contarla”

El medioambiente, los ecosistemas, la diversidad biológica y la vida de millones de personas en el mundo se ven afectadas por la crisis climática. Con el fin de poner sobre la palestra el rol crucial que el periodismo ambiental cumple al visibilizar esta problemática y exponerla hacia la opinión pública, Unesco lanzó la campaña “esta historia hay que contarla”. La consigna pone de relieve que estas contribuciones periodísticas merecen un espacio, pero también nos invita a hacernos otras preguntas. ¿Cómo garantizamos un entorno seguro que permita que haya personas documentando y contando estas historias? Leer más

Reflexiones desde el NetMundial+10 para la Gobernanza de Internet desde el Sur Global

Recientemente, tuvimos la oportunidad de asistir al NetMundial+10, evento que reunió a diversas voces y perspectivas para reflexionar sobre el futuro de la gobernanza de Internet. Celebrado en São Paulo los días 29 y 30 de abril, este encuentro nos dejó una serie de reflexiones valiosas, especialmente desde nuestra posición como organización civil en el Sur Global.

Fortaleciendo la Gobernanza de Internet desde un enfoque multistakeholder

NetMundial+10 destacó la importancia de fortalecer y mejorar los procesos de gobernanza de Internet desde una perspectiva multistakeholder. Se enfatizó la necesidad de incluir de manera significativa a todas las partes interesadas, especialmente a aquellas provenientes del Sur Global, para garantizar una representación equitativa y diversa en la toma de decisiones. Leer más

¿Derecho al olvido? 5 pasos para su regulación

El pasado 15 de abril sesionó la Mesa de Trabajo sobre el derecho al olvido en la sede del Parlamento Andino, en la cual se expuso y discutió un borrador del Proyecto de Marco Normativo sobre el Derecho al Olvido Digital. 

Desde Hiperderecho, Dilmar Villena, nuestro Director Ejecutivo, participó en la mesa de diálogo. Asimismo, a solicitud del Parlamento Andino, enviamos el viernes 19 de abril  nuestros comentarios sobre el Proyecto.  A raíz del citado evento y atendiendo a las reflexiones vertidas, a continuación enunciamos algunas recomendaciones a tener en cuenta al momento de regular el derecho al olvido. 

Definir el derecho al olvido

Los proyectos que se han planteado sobre derecho al olvido en el Perú, como el citado Proyecto del Parlamento Andino o el Proyecto de Ley 4708-2022/CR, tienen como base el Expediente 03041-2021-PHD (Miguel Arévalo Ramírez vs. Google y otros). En este, el Tribunal Constitucional define principalmente el derecho al olvido como aquel que garantiza la eliminación, supresión o retiro de información relacionada con datos personales que es posible hallar usando motores de búsqueda o sistemas informáticos.  Leer más

¿Cómo la jurisprudencia aborda el delito de apología al terrorismo en redes sociales?

En los primeros meses del 2023 se hicieron públicas cuatro sentencias condenatorias por la comisión del delito de apología al terrorismo en Perú. La novedad de estas sentencias es la aplicación de la nueva agravante en este delito: uso de tecnologías de la información o de las telecomunicaciones. Este cambio normativo agrava 4 años en la pena mínima y 7 años en la pena máxima. Con esta agravante, el rango de pena privativa de libertad a imponer es de 8 a 15 años, mientras que el tipo penal básico (sin agravantes) es de 4 a 8 años de prisión. Al tratarse de un incremento importante de la pena y frente a los contextos actuales de movilización nacional a través de protestas y convocatorias que pueden ser físicas como virtuales, así como la polarización de determinados contenidos y las reiteradas acusaciones de terrorismo en estos contextos; decidimos realizar una investigación sobre la jurisprudencia actual de apología al terrorismo a través de internet. Leer más

Diálogos por la protección de datos personales: La Red Iberoamericana en Lima

El pasado 1, 2 y 3 de abril se llevó a cabo en Lima un nuevo encuentro de los grupos de trabajo de la Red Iberoamericana de Protección de Datos Personales (RIPD), con el objetivo de promover una agenda de trabajo conjunta, así como una convergencia regulatoria en la región iberoamericana, en favor de la protección de datos personales.

¿Qué es la Red Iberoamericana de Protección de Datos Personales?

La RIPD surge en junio de 2003 como un foro de diálogo para integrantes del sector privado y público, compuesto por entidades estatales de protección de datos personales y organizaciones internacionales, El objetivo de la Red es, por un lado, convertirse en un espacio de debate regional permanente, de encuentro anual. Y, por otro lado, promover desarrollos normativos necesarios para garantizar una regulación avanzada del derecho fundamental a la protección de datos personales. Leer más

Las tecnologías y el acoso sexual callejero

La semana pasada, el diario El Comercio visibilizó cómo en grupos de Facebook miles de varones se organizaban para acosar sexualmente a las usuarias del Metropolitano de Lima. Encontraron que de manera impune, estos acosadores y usuarios de la plataforma, comparten los horarios de mayor concurrencia, así como expresiones donde celebran que distintos buses de dicho transporte están fallando, pues se aprovechan de la cogestión que esto genera para realizar tocamientos y roces indebidos las usuarias del Metropolitano.

Para las mujeres, este tipo de acciones no son nuevas, pues somos las principales afectadas de este tipo de delitos y por las insuficientes acciones de parte de las autoridades y responsables de las entidades de transporte para prevenir el acoso callejero y mucho más para encontrar reparación o sancionar el acoso callejero, considerando que desde el 2015 existe la Ley N° 30314 que busca prevenir y sancionar el acoso sexual callejero a nivel nacional y desde el 2018 existe el Decreto Legislativo N° 1410 que incorpora el acoso como un delito. Leer más

Crean Sello de Accesibilidad Digital: ¿en qué consiste?

En febrero de este año, la Secretaría de Gobierno y Transformación Digital, mediante Resolución 002-2024-PCM/SGTD, creó el Sello de Accesibilidad Digital como mecanismo para identificar a las plataformas digitales del Estado peruano que cumplen con características mínimas de accesibilidad. Asimismo, publicó los Lineamientos que establecen cómo y con qué criterios se otorgará este Sello. En esta nota compartimos algunas reflexiones al respecto.

¿Qué es la accesibilidad digital y por qué es importante?

Es común decir que los derechos deben ser accesibles (por ejemplo, en el caso del derecho a la educación). Sin embargo, la accesibilidad no es solo un indicador, sino un derecho en sí mismo para las personas con discapacidad. Así está reconocido, por ejemplo, en el artículo 9 de la Convención Internacional sobre los Derechos de las Personas con Discapacidad. Leer más

Hiperderecho en el Encuentro Nacional de Periodistas

Los pasados 15, 16 y 17 de marzo se realizó el 18.o Encuentro Nacional de Mujeres Periodistas. Este año, se llevó a cabo en la ciudad de Puno. Desde Hiperderecho, tuvimos el honor de ser invitadas a facilitar una de las cuatro ponencias que se desarrollaron.

Conversamos con más de 90 periodistas de diferentes regiones del país sobre seguridad digital feminista, reflexionando sobre cómo las tecnologías atraviesan las funciones del periodismo, además de cómo el machismo está presente en cada uno de los diferentes ámbitos de nuestra vida.

El encuentro también contó con la participación de periodistas de las repúblicas hermanas de Chile, Bolivia y Ecuador. Ellas también pudieron compartir experiencias sobre cómo ejercen sus funciones periodísticas desde la vulnerabilidad que las tecnologías de la información y las comunicaciones presentan, así como cuáles son las ventajas del uso de nuevas tecnologías. Leer más