#02 { Latent Space } ¿De quién es el trabajo de detectar deepfakes? por Corin Faife

“Detectar deepfakes no es tan fácil como crees”.

Esa es la etiqueta del nuevo spotdeepfakes.org de Microsoft, coproducido con USA Today, la Universidad de Washington y la plataforma de inteligencia de amenazas Sensity. Si visitas la URL y encontrarás un cuestionario interactivo con diez preguntas sobre deepfakes, cheapfakes y sus implicaciones políticas; por supuesto que yo tenía que tomar el test.

Identifiqué correctamente una fotografía y un video deepfake, pero clasifiqué erróneamente un video real como deepfake (un clip del primer ministro británico Boris Johnson anunciando una elección rápida, que convenientemente borré de la memoria) y luego fallé una pregunta sobre cheapfakes para terminar con 8 / 10. (Algo debería haberme advertido que no sería tan fácil como pensaba …)

Un resumen posterior al cuestionario vinculado a informes de organizaciones como First Draft, Reuters, Data & Society y WITNESS también: recursos que un ciudadano digital podría usar para informarse sobre los medios manipulados. Pero me vino a la mente una pregunta espinosa: ¿hasta qué punto es responsabilidad de las personas hacer este trabajo, cuando el problema está en el ecosistema de los medios en su conjunto?

Soy de la opinión de que algunos de los pensadores contemporáneos más perspicaces sobre el error y la desinformación son aquellos que enfatizan la naturaleza holística e interconectada del problema. Entre estos pensadores se encuentran Whitney Phillips y Ryan M. Milner, cuyo libro You Are Here, disponible gratuitamente como publicación digital, se basa ampliamente en metáforas ambientales como la contaminación, los cultivos, los vientos, las olas y las tormentas para describir un ecosistema en el que ninguna entidad puede realmente estar separados unxs de otrxs.

Lo que pasa con la limpieza de la contaminación de un ecosistema, explican los autores, es que no se puede simplemente limpiar una parte de un lago, o un parche de césped, y esperar que se mantenga saludable cuando todo lo que lo rodea todavía está contaminado. Por su naturaleza, las toxinas ambientales tienden a extenderse de un lugar a otro y no respetan los límites discretos que conforman la geografía humana (ya sea física o virtual).

Por lo tanto, tiene sentido enseñar a las personas cómo detectar mejor los deepfakes. Y tiene sentido invertir en tecnología para detectar deepfakes algorítmicamente, como también lo ha hecho Microsoft. Pero la efectividad de todos estos métodos no se puede considerar por separado de la pregunta de por qué nuestro ecosistema se ha contaminado por la desinformación y qué se puede hacer para remediarlo en su conjunto.

A su vez, esto no puede considerarse por separado de la observación de que las plataformas de redes sociales se han beneficiado enormemente del alojamiento de contenido que impulsa la polarización y el odio, y han creado el tipo de burbujas de filtro que dificultan que los oponentes ideológicos se pongan de acuerdo sobre hechos básicos.

Este no es, por supuesto, un problema de Microsoft a resolver. Realmente es un problema de todxs. Pero debemos reconocer que, a pesar de toda la charla sobre los deepfakes que erosionan la confianza, son como combustible para un fuego, pero no la causa del fuego en sí, un fuego que sigue ardiendo más grande a nuestro alrededor.

Actualizaciones de tecnología de WITNESS:

• Continúa DEEPFAKERY, nuestra serie de charlas en vivo sobre deepfakes, arte, sátira, periodismo y derechos humanos. Para obtener más información y registrarse, haz clic aquí, o ve las grabaciones del episodio 1 y el episodio 2 en nuestro canal de YouTube.
• WITNESS co-firmó una carta pidiendo que el jefe de políticas públicas de Facebook en la India dimita. Los vínculos entre el jefe de política Ankhi Das y el BJP de derecha en la India han sido bien documentados y probablemente hayan contribuido a su enfoque de no intervención con respecto a la incitación a la violencia contra los musulmanes por parte de los funcionarios del BJP.

Otras noticias:

• The Guardian publicó un artículo de opinión escrito por un generador de lenguaje de inteligencia artificial. El artículo se tituló como “GPT-3” y fue escrito íntegramente por AI, aunque con supervisión editorial humana. Un proyecto interesante, pero no todos quedaron impresionados.

Regístrate para nuestra serie de transmisiones en vivo DEEPFAKERY aquí: wit.to/deepfakery
Haz clic aquí para suscribirte al boletín en inglés de { Latent Space } Ver boletín original en inglés.