Los deepfakes son un fenómeno que comienza su popularidad alrededor de 2017 a raíz de una discusión en Reddit, un sitio web similar a X, caracterizado por sus posts y foros de discusión. Si bien al principio los deepfakes fueron una innovación para los usuarios de la comunidad virtual, que lo utilizaban para usos recreativos no perjudiciales o incluso voluntariamente para contenido sexual, hoy en día la mayor parte de la pornografía deepfake en Internet no es consentida. En ese sentido, califica más bien como material de abuso sexual y no como “pornografía” -que es consentida-, aunque el nombre genérico o popular que se le ha asignado es pornografía deepfake.
Si bien aún se utilizan algunas aplicaciones o páginas web para crear deepfakes de forma lúdica, haciendo que la cara de una persona aparezca en el cuerpo de spiderman, por ejemplo; otros usos de los deepfakes han provocado, como reporta la UNESCO, proxenetas de IA (AI Pimps) y la automatización de la distribución de la pornografía deepfake. Esto conduce no sólo a un comportamiento delictivo, sino a la explotación de los cuerpos o rostros de las mujeres, con fines lucrativos. En otras palabras, esto conduce a un nuevo método para desplegar la violencia de género en línea sobre las mujeres. Teniendo esto en cuenta, a continuación se enumeran algunos de los efectos de la pornografía deepfake no consentida sobre los derechos humanos de las mujeres.
Impactos en la salud física y mental
Para empezar, según el National Center on Sexual Exploitation, la pornografía deepfake no consentida – e incluso las imágenes falsas de desnudos, creadas con el rostro de una persona mediante photoshop o IA- forman parte de un problema mayor denominado abuso sexual basado en imágenes (IBSA, por sus siglas en inglés). Un término amplio que incluye la creación, extorsión, robo, amenaza, distribución o cualquier uso de materiales sexualmente explícitos sin el consentimiento de la persona representada.
Algunos de los efectos sobre la salud mental de las víctimas de IBSA son síntomas psicológicos nocivos como la humillación, sentimientos significativos de impotencia, desesperanza, angustia psicológica y trastornos sociales. También sufren traumas, trastorno de síndrome postraumático, ansiedad, depresión, sentimientos de pérdida de control, deterioro del sentido de sí mismas y dificultades para desarrollar confianza en los demás. Efectos psicológicos que, cabe recordar, no sólo repercuten en el bienestar mental, sino también en la salud física. De manera ilustrativa, según la OMS, las personas con trastornos mentales graves mueren en una media entre 10 y 20 años antes que la población general.
Dentro de estos efectos, un caso particular son los efectos sobredimensionados que existen para las mujeres que son figuras públicas. En estos casos, la popularidad de las mujeres y su imagen pública juega en su contra debido a la rapidez de los usuarios y espectadores para crear tendencias en las redes sociales asociadas a la difusión del material de abuso sexual, lo que genera la viralización del contenido.
Impactos en el trabajo
En lo que respecta al mercado laboral, las víctimas de la pornografía deepfake no consentida han denunciado, además de pérdidas de tiempo y dinero, la perdida de su empleo, así como el daño a su reputación y empleabilidad debido a la viralización o difusión del contenido sexual.
De nuevo, en este ámbito, un grupo de especial protección son las figuras públicas. En estos casos, la creación y difusión de pornografía deepfake puede ser incluso una herramienta de coacción o una amenaza para la profesión que desempeñan, como en el caso de las mujeres defensoras de derechos humanos o las periodistas.
Un ejemplo de ello es Rana Ayyub, periodista de investigación de la India, que fue víctima de pornografía deepfake como parte de una campaña de desinformación para desacreditarla profesionalmente como periodista de investigación. Situación que se provocó después de que fuera invitada por los principales medios de comunicación a comentar las circunstancias políticas en torno a la violación de una niña. En este caso, la pornografía deepfake no consentida se instrumentalizó para desacreditar su reputación, credibilidad e imagen profesional. Lo que tuvo un efecto silenciador para ella, y un grave daño a su carrera.
Esto demuestra que, independientemente de que el contenido sexual difundido haya sido sintético o falso, los daños para las mujeres siguen siendo los mismos a los que se habrían provocado por la difusión de contenido sexual real: la pérdida de oportunidades laborales o del puesto de trabajo actual -y, por tanto, pérdidas económicas-, así como la exclusión del espacio público. Perjuicios que son más graves en Estados conservadores o con un historial de desprecio de los derechos y la autonomía de las mujeres, donde la sociedad no condena a quienes generaron abusiva y perversamente el contenido sexual, sino a aquellas mujeres que aparecen en este.
Impactos en la integridad personal
Las víctimas de deepfakes también han denunciado ser objeto de acoso sexual, amenazas de muerte, amenazas de violación, extorsión, acoso y mensajes sexuales no deseados de desconocidos o depredadores sexuales. Todas estas conductas representan graves amenazas para la seguridad y la integridad personal de las mujeres. Aunque algunas de estas acciones se llevan a cabo a través de canales digitales, también se han denunciado intentos de contacto personal.
Este fue el caso de Noelle Martin, actual abogada y defensora de los derechos de la mujer, que a los 17 años fue víctima de pornografía deepfake no consentida. A raíz de esta experiencia, ella denunció públicamente haber sufrido de acoso sexual y amenazas, tanto online como offline. Debido a la difusión de su intimidad y datos personales, como su dirección, nombre de su colegio e identificación de familiares o amistades.
Esto sucede debido a la naturaleza y las características de internet. Como la facilidad para encontrar información personal, la facilidad de hacerse viral y la dificultad para borrar contenidos de forma permanente. Así, esto hace que los datos personales de las víctimas (nombre, dirección, lugar de trabajo, identidad de familia o amigos) estén expuestos a todo el mundo, incluidos los agresores.
Impactos en la libertad de expresión
La difusión del material de abuso sexual creado mediante los deepfakes, también genera una autocensura de la presencia de las mujeres en línea y su expulsión del mundo digital. Este problema ha sido denominado como «efecto silenciador» y pone en entredicho tanto el compromiso político con las mujeres, como la integridad del espacio informativo y la participación en línea en condiciones de igualdad.
Por otro lado, el efecto silenciador también afecta a la relación de las mujeres con Internet, dando la impresión de ser un espacio inseguro. En consecuencia, tiene un efecto negativo en su capacidad para navegar por internet de forma segura, y en su libre expresión de ideas, opiniones o juicios. Según un informe de ocho países encuestados por Amnistía Internacional, entre el 63% y el 83% de las mujeres introdujeron algún cambio en su forma de utilizar las plataformas de redes sociales, a raíz de una agresión de género en línea. Dentro de este grupo, en el caso concreto de USA, 81% de las mujeres realizaron cambios en sus publicaciones y comportamiento online. El mismo estudio muestra además que el efecto silenciador envía un mensaje a las mujeres, especialmente a las que se encuentran en una situación de vulnerabilidad, para que se autocensuren. De lo contrario, se estarían exponiendo a la misma violencia digital que sufren sus compañeras.
Así pues, está claro que la pornografía deepfake no consentida no sólo tiene efectos individuales sobre las víctimas, sino que tiene efectos sobre la pluralidad del debate en línea, sobre la discusión de temas de interés público. Y, por tanto, sobre la democracia. Especialmente, teniendo en cuenta el papel de las figuras públicas femeninas en el debate, como periodistas, activistas y políticas, quienes sufren frecuentemente ataques de acoso sexual en línea, y son más propensas a recibir otro tipo de agresiones por su visibilidad.
Reflexión
La pornografía deepfake no consentida, mejor calificada como material de abuso sexual, es una forma de violencia de género en línea y tiene los mismos efectos perjudiciales que la viralización o difusión de contenido sexual íntimo sin consentimiento, independientemente de que sea material falso o sintético.
Cabe señalar que la pornografía deepfake no consentida no es sólo una expresión de mal gusto; no es una cuestión de gustos, sino una práctica lesiva contra los derechos humanos de las mujeres. Más allá de indicar que se trata de comportamientos tóxicos para la comunidad online, es una forma de violencia de género en línea, y debería constituir un delito.
Tampoco se trata, como podrían alegar algunas personas, de expresiones artísticas porque, a diferencia de lo que podría ocurrir con pinturas o dibujos físicos o digitales, los rostros -y a veces los cuerpos- se obtienen y manipulan sin el consentimiento de la titular de la imagen. Además, estas nuevas tecnologías dan una apariencia de realidad, cada vez más detallada, a contenidos sexuales no consentidos, lo que los hace indistinguibles o iguales a contenido real.
Afecta así los derechos de imagen, honor y buena reputación de las mujeres.
Asimismo, el material de abuso sexual creado a través de deepfakes se utilizan como una arma para silenciar a las mujeres en el espacio público o como una nueva forma de continuar reduciendolas a objetos de consumo para la satisfacción masculina. Esto, como se ha mencionado, tiene impactos, principalmente -pero no sólo-, en sus derechos a la salud, al trabajo, así como a la integridad personal y a la libertad de expresión.