#03 { Latent Space } Cuando las falsificaciones muestran la verdad por Corin Faife

Algunos investigadorxs de desinformación han argumentado que “deepfake” no debería usarse como un término general para el reemplazo facial con IA.

Sí, los deepfakes originales eran pornográficos, no consensuados y francamente espeluznantes, pero nada dentro de la tecnología indica que deba usarse de esa manera. De hecho, lento pero seguro, estamos viendo más casos de uso que son socialmente beneficiosos o, como mínimo, éticamente neutrales.

A principios de este mes, como parte de la serie de debates WITNESS/MIT Deepfakery, el periodista de investigación y documentalista David France habló sobre su uso de las mismas técnicas de “deepfake” para ocultar la identidad de los activistas LGBTQ en su nueva película Welcome to Chechenia: un retrato poderoso de las vidas de hombres y mujeres homosexuales que intentan huir de la república rusa ante las purgas autorizadas por el estado. En una conversación con Kat Cizek de MIT Open Documentary Lab, que ahora está disponible para ver en YouTube, France explica las muchas preocupaciones de seguridad que surgen al documentar una comunidad tan vulnerable, y cómo el uso de deepfake VFX le permitió ocultar las caras de los participantes y preservar la gama completa de emociones y expresiones faciales.

Es una discusión fascinante porque France presenta no solo el resultado final (como se ve en el largometraje), sino el proceso que lo llevó allí. Disfrazar los rostros de los sujetos del documental fue un requisito clave desde el principio, pero antes de aterrizar en la técnica deepfake, France intentó oscurecer los rostros con dibujos animados de rotoscopio y varios tipos de difuminaciones algorítmicas. Ambos enfoques fueron rechazados por no captar los matices de las escenas que se muestran: ocultaban rostros, pero ocultaban emociones junto con ellos.

Finalmente, después de reunirse con el tecnólogo y especialista en VFX Ryan Laney, France se dio cuenta de que usar las técnicas de reemplazo de rostros con A.I. en el documental podrían mostrar todos los viajes emocionales de las personas participantes, mientras ocultaban completamente sus rostros: usando una forma de engaño para mostrar una verdad subyacente.

France y Laney han hablado de hacer que el proceso sea más accesible y replicable para otrxs cineastas, siendo el primero coautor de un artículo académico sobre el tema y el segundo desarrollando un producto comercial que podría ser utilizado por periodistas. Por lo tanto, podríamos ver que esta técnica se convierta en algo común pronto y, junto con ella, un argumento convincente de que existen casos de uso legítimos para deepfakes. Quién sabe, es posible que incluso tengamos que empezar a llamarlos por otro nombre.

Actualizaciones de tecnología de WITNESS:

• La Comisión de Banda Ancha de la UNESCO para el Desarrollo Sostenible publicó un informe sobre la lucha contra la desinformación respetando la libertad de expresión, del cual Sam Gregory de WITNESS fue un autor colaborador. El informe, titulado Balancing Act, hace un total de 83 recomendaciones para combatir la desinformación, con muchas sugerencias para la política de la plataforma tecnológica.
• DEEPFAKERY, nuestra serie de charlas en vivo sobre deepfakes, arte, sátira, periodismo y derechos humanos, que incluyó la conversación de David France mencionada anteriormente, continúa hasta principios de octubre. Para obtener más información y registrarte, haz clic aquí.

Otras noticias:

• La vigilancia con mascarillas ha llegado, para bien o para mal. Es cierto que el uso de mascarillas es una herramienta barata y eficaz para frenar la propagación del Covid-19, pero siempre debemos tener cuidado con la salud pública que amplía el alcance del estado de vigilancia.
• Y más noticias en la categoría deepfakes for good(ish): La startup de videos con I.A. Synthesia lanzó 50 nuevas voces a su plataforma de generación de videos. Ingresa tu propio guión y un actor generado sintéticamente te entregará el mensaje de tu elección, en teoría aportando personalidad a los mensajes corporativos con un presupuesto bajo.

Regístrate para nuestra serie de transmisiones en vivo DEEPFAKERY aquí: wit.to/deepfakery
Haz clic aquí para suscribirte al boletín en inglés de { Latent Space } Ver boletín original en inglés.