Deepfakes y abuso digital: Desmantelando la violencia de género facilitada por la tecnología

Este blog fue escrito originalmente en inglés.

Informe de WITNESS al Comité Asesor del Consejo de Derechos Humanos sobre la cuestión de la violencia de género facilitada por la tecnología (TFGBV siglas por su nombre en inglés).

Mientras conmemoramos en todo el mundo en el Día Internacional de la Mujer, también debemos reconocer las continuas amenazas digitales que las afectan de manera desproporcionada. Desde las imágenes íntimas no consentidas (NCII) y el abuso utilizando deepfakes hasta el acoso amplificado algorítmicamente, la violencia de género facilitada por la tecnología amenaza la igualdad de género, la libertad de expresión y la seguridad personal.

Para abordar el urgente problema de la TFGBV, WITNESS ha presentado recomendaciones al Comité Asesor del Consejo de Derechos Humanos de las Naciones Unidas como parte de su estudio sobre la violencia de género facilitada por la tecnología. Nuestro informe destaca las brechas en el actual marco internacional de derechos humanos y ofrece estrategias concretas para fortalecer las respuestas globales a la violencia de género digital basadas en años de trabajo en tecnología y con comunidades vulnerables a nivel mundial.

Desde 2018, WITNESS realizó consultas globales en persona con periodistas, tecnólogxs, líderes y liderezas comunitarixs y otrxs actorxs de derechos humanos. Durante estas conversaciones, la violencia sexual y de género (VSG) basada en la IA se identificó como una de las amenazas más apremiantes en todas las regiones, incluidos el sudeste asiático, África, América Latina y Brasil. El uso indebido de la inteligencia artificial (IA) generativa para crear deepfakes sexuales no consentidos de ciudadanxs de a pie ya es una realidad. Los deepfakes que muestran a mujeres líderezas y activistas en situaciones comprometidas o falsas podrían utilizarse para desacreditar su autoridad, socavar su influencia, erosionar la confianza pública y provocar daños físicos. Esto podría tener un efecto amedrentador y disuadir a las mujeres de participar en los ámbitos político, social y económico, reforzando así la desigualdad de género.

Violencia de género basada en la IA

Años del programa Amenazas y Oportunidades Tecnológicas (TTO) de WITNESS subrayan cómo la IA, en particular la IA generativa y la tecnología deepfake, está siendo utilizada como arma para silenciar y desacreditar a las comunidades vulnerables. Desde 2018, WITNESS ha liderado ‘Prepárate, no entres en pánico’, la primera iniciativa liderada por la sociedad civil que aborda las amenazas de los medios sintéticos sobre el ecosistema de la información. Como parte de este trabajo, WITNESS ha realizado un extenso trabajo sobre evaluaciones de riesgos y daños de las normas de procedencia y autenticidad, junto con la incidencia en torno a las herramientas de detección equitativas y efectivas. Nuestra experiencia ha revelado las importantes limitaciones de estas tecnologías a la hora de responder a la violencia de género facilitada por la tecnología.

Desde 2023, el Grupo de Respuesta Rápida de Deepfakes (DRRF) de WITNESS también ha proporcionado análisis sobre deepfakes en tiempo real en contextos electorales y de conflicto a nivel mundial, destacando el impacto de las falsedades generadas por IA en el ecosistema de la información, la democracia y los derechos humanos. Las lecciones aprendidas del DRRF se traducen directamente en los retos a los que hay que hacer frente cuando se trata de contenido sexual deepfake no consentido, que se utiliza cada vez más como herramienta de intimidación, extorsión y desinformación. Esto tiene graves implicaciones para la democracia, la libertad de expresión y la seguridad personal de las mujeres y las disidencias de género:

• Las mujeres en la política, los medios de comunicación y el activismo están siendo objeto de manera desproporcionada de la desinformación generada por la IA y el acoso en línea, lo que podría disuadirlas de participar en la vida pública.
• La IA está amplificando los riesgos de desinformación y las pautas de abuso existentes, que afectan de manera desproporcionada a grupos ya vulnerables, como las mujeres de color, las mujeres con discapacidad, las mujeres migrantes, las mujeres indígenas, las minorías de género y la población LGBTQ+ en general.
• Las actuales herramientas de detección de IA siguen siendo inadecuadas, en particular para los idiomas distintos del inglés y las comunidades con pocos recursos, lo que hace que la justicia sea inaccesible para muchas sobrevivientes. Y en muchos casos, el hecho de que el contenido sea generado o manipulado por IA no cambia el daño infligido: el daño a la reputación, la credibilidad, la seguridad y la protección personal ya está hecho, con escasos recursos para las personas afectadas.

Brechas en los marcos internacionales de derechos humanos

A pesar de la creciente prevalencia de la violencia sexual y de género, los marcos actuales están mal equipados para hacer frente a las nuevas amenazas digitales, lo que deja a las sobrevivientes con recursos legales limitados. Las principales deficiencias son:

• Aunque los tratados internacionales de derechos humanos abordan la violencia de género en sentido amplio, no tienen en cuenta las dimensiones digitales de los abusos, incluidas las amenazas impulsadas por la inteligencia artificial, ni el impacto desproporcionado de la violencia sexual y de género en los grupos marginados.
• Faltan normas y mecanismos mundiales aplicables para exigir responsabilidades a las compañías de redes sociales y a lxs desarrolladorxs de inteligencia artificial en la respuesta a la violencia sexual y de género.
• La naturaleza transfronteriza del abuso en línea complica la aplicación de la ley y la protección de lxs sobrevivientes, lo que requiere una mayor cooperación internacional.

Reforzar las protecciones

En nuestro reporte, WITNESS pide reformas urgentes para garantizar que los espacios digitales no se conviertan en armas contra las comunidades marginadas. Nuestras recomendaciones clave incluyen:

• Establecer mecanismos y compromisos internacionales con las empresas que ayuden a abordar y garantizar la rendición de cuentas por el uso indebido de contenidos generados por IA con el fin de crear y difundir imágenes íntimas no consentidas.
• Garantizar un acceso equitativo a las soluciones de detección y reforzar la rendición de cuentas de las plataformas tecnológicas, lxs creadorxs de aplicaciones y las tiendas de aplicaciones.
• Crear políticas centradas en las personas sobrevivientes que proporcionen interoperabilidad, eliminación rápida de contenidos perjudiciales y recursos legales accesibles.
• Equipar a activistas, periodistas y organizaciones de la sociedad civil con herramientas y conocimientos para navegar y contrarrestar la violencia sexual y de género.
• Implementar regulaciones globales vinculantes que requieran transparencia en los mecanismos de apropiación y en las prácticas de desarrollo de IA por parte de las empresas tecnológicas.

A medida que WITNESS continúa en vinculación con la ONU y otros organismos internacionales, hacemos hincapié en la urgente necesidad de una mayor protección mundial contra la violencia sexual y de género. En este Día Internacional de la Mujer, instamos a los gobiernos, las empresas tecnológicas y la sociedad civil a tomar medidas significativas para desmantelar las estructuras que permiten la violencia digital.

Publicado el 6 de marzo de 2025