Meta: Necesitamos más protección de los contenidos (no menos) en la era de los deepfakes y la IA
La reciente decisión de Meta de permitir más discurso de odio y dañino en línea en nombre de la libertad de expresión, así como de eliminar la verificación de hechos en Facebook, Threads e Instagram es un retroceso significativo. Esta decisión puede perjudicar gravemente a las comunidades marginadas y vulnerables y agrava los riesgos emergentes de la IA.
«Aunque la verificación de los hechos no es una panacea para la verdad o la confianza, es un elemento fundamental para defender los hechos de la falsedad, exigir responsabilidades a quienes están en puestos de poder y luchando contra la confusión entre la verdad y la mentira», declaró Sam Gregory, Director Ejecutivo de WITNESS. «Aunque las decisiones basadas en la moderación de contenidos pueden salir mal, la mayoría de las veces se trata de prevenir el daño y el odio y de proporcionar información a las personas para ayudarles a hacer sus propios juicios sobre la información que consumen. Seguimos necesitando que las plataformas rindan cuentas y que la moderación de contenidos se base en realidades globales y en los derechos humanos. En los albores de la era de la inteligencia artificial, esta necesidad es mayor que nunca».
La decisión de Meta refleja un desprecio por las voces y necesidades de las personas más afectadas por las amenazas que plantea. Las comunidades marginadas y vulnerables suelen ser las primeras y más profundamente afectadas por la información engañosa y falsa y la incitación al odio, así como por la censura real y coercitiva de sus gobiernos. Las organizaciones con las que trabajamos en Myanmar lo saben muy bien, al igual que las comunidades de personas migrantes y LGBTQI+ en Estados Unidos y en todo el mundo. En lugar de crear mecanismos para ampliar la forma en que las comunidades vulnerables, las personas defensoras de derechos humanos y verificadoras de hechos se protegen, fortalecen la verdad y se enfrentan a las mentiras, las recientes acciones de Meta van en la dirección opuesta y exacerban los riesgos.
Durante más de tres décadas, WITNESS ha ayudado a personas de todo el mundo a utilizar el video y la tecnología para defender los derechos humanos y compartir información fiable. Aunque las herramientas digitales han aumentado la capacidad de testigxs cívicxs, periodistas y la ciudadanía de a pie para documentar y denunciar los abusos, también se han convertido cada vez más en armas para perturbar la sociedad civil, perpetuar el discurso del odio y poner en peligro a las personas defensoras de los derechos y periodistas.
Las nuevas tecnologías, como las herramientas basadas en la inteligencia artificial, han agravado estos problemas, permitiendo la creación de simulaciones convincentes de medios de comunicación auténticos, incluidas sofisticadas y sutiles manipulaciones de audio y video, que pueden socavar aún más la confianza y crear nuevas vías para la desinformación.
«Las mismas comunidades con las que trabaja WITNESS son las que tienen menos acceso y capacidad para enfrentarse a estos nuevos mecanismos de creación de falsedades», afirmó Sam Gregory. «Ya hemos visto cómo la comunidad de verificación de hechos existente a nivel mundial está en desventaja en la lucha para detectar tanto contenido engañoso generado por IA como las afirmaciones de personas en el poder sobre que la realidad ha sido falsificada con IA. Socavarlas y atacarlas aún más agrava esta difícil situación».
En WITNESS, creemos que el futuro de la creación, difusión y moderación de contenidos con IA -y las decisiones sobre cómo ayudará o perjudicará a las comunidades vulnerables a nivel mundial, cómo se aplicarán las salvaguardias y cómo se comunicarán a la gente la autenticidad y la síntesis- están directamente relacionadas con las decisiones que se toman hoy sobre la moderación de contenidos en las redes sociales. Las acciones de Meta reflejan una preocupante tendencia a dar prioridad a la conveniencia corporativa, la proximidad al poder autoritario y una reivindicación sin matices de la libertad de expresión por encima de la legítima rendición de cuentas y la seguridad de las comunidades marginadas.
Estamos comprometidxs a desafiar las estructuras de poder en el sector tecnológico que perpetúan el daño a las personas defensoras de los derechos humanos y a periodistas comunitarios. Este compromiso es especialmente urgente a medida que navegamos las implicaciones de los recientes cambios políticos, como la nueva administración Trump en los EE.UU., que está a punto de ejercer una influencia significativa sobre las empresas de tecnología y la gobernanza de la IA – como lo ejemplifica el reciente anuncio de Meta.
Obtén más información sobre los esfuerzos de WITNESS para dar forma a la tecnología para los derechos humanos aquí en inglés, aquí en español y cómo puedes sumarte aquí.