WITNESS y el proceso de evaluación de daños y uso indebido de C2PA

El blog original fue escrito por Jacobo Castellano y Sam Gregory en inglés

Hacer frente a los daños potenciales en las primeras etapas del proceso de desarrollo de la infraestructura de autenticidad y procedencia (C2PA).

TLDR: Basándonos en el enfoque de WITNESS del desarrollo de una infraestructura de autenticidad que funcione a nivel mundial y respalde el periodismo cívico y los usos y valores de los derechos humanos, hemos sido parte del esfuerzo de desarrollo de especificaciones de la Coalición para la Procedencia y la Autenticidad del Contenido. En este momento, estamos enfocados en identificar y tratar de abordar los daños potenciales de esta área en crecimiento de exploración de tecnología, y continuamos solicitando de manera proactiva aportes para este proceso.

El trabajo de WITNESS sobre la infraestructura de procedencia y autenticidad

A principios de 2021, en WITNESS, establecimos nuestras prioridades en torno a la verdad, la mentira y la responsabilidad en las redes sociales. Un área en la que nos enfocamos fue la necesidad de defender la verdad y los hechos frente al contenido engañoso y la desinformación. Luego, a medida que reformamos y mejoramos las redes sociales, y enfrentamos el odio y la desinformación, debemos evitar que lo valioso se pierda en el proceso. Debemos preservar la diversidad y las voces en la revolución digital, al tiempo que reconocemos el espacio desigual y en conflicto que es el mundo en línea.

WITNESS ha estado trabajando durante más de una década en cómo defendemos las diversas realidades de la experiencia y la evidencia vividas y gradas, mientras nos enfrentamos a los medios engañosos. Más recientemente, lideramos las primeras reuniones globalmente inclusivas sobre cómo manejar nuevas formas de manipulación como deepfakes. Un enfoque para enfrentar tanto los deepfakes como los shallowfakes que está ganando impulso es construir formas más sólidas de rastrear los orígenes de las imágenes, el video y el audio: mostrando si han sido manipulados, mal contextualizados o editados y, de ser así, cómo, cuándo y por quién.

En WITNESS hemos estado describiendo esta tendencia como un movimiento hacia la “infraestructura de procedencia y autenticidad”, y nos hemos basado en nuestra experiencia para ayudar a las comunidades a crear información confiable, así como a lidiar con la información falsa para priorizar un enfoque global basado en los derechos humanos. La colaboración con herramientas como ProofMode junto con el Guardian Project ha informado nuestro trabajo para garantizar que esta infraestructura funcione mejor para los derechos humanos y para habilitar en lugar de desempoderar, las voces críticas. Continuamos este trabajo con nuestro informe ‘Ticks or it didn’t happen: dilemas clave en la construcción de infraestructura de autenticidad para multimedia’ que señaló catorce problemas clave que debemos considerar en una etapa temprana del desarrollo de esta infraestructura (en lugar de intentar solucionar en una etapa posterior). Puedes encontrar un resumen de estos temas clave en nuestro blog y serie de videos Tracing Trust.

Nuestra experiencia y nuestra intención de influir en estas iniciativas en una etapa temprana, desde perspectivas de derechos humanos impulsadas a nivel mundial y experiencias prácticas, moldearon nuestra participación para impulsar con éxito que se reflejen en la Iniciativa de autenticidad de contenido. Más recientemente, ha guiado nuestros esfuerzos dentro de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), donde se están desarrollando especificaciones técnicas para rastrear la procedencia y autenticidad de activos digitales, como videos e imágenes.

Del nicho al uso potencialmente sistémico de la infraestructura

El C2PA está dirigido por Adobe, Arm, Intel, Microsoft, BBC, Truepic y Twitter, y es el esfuerzo más consolidado que conduce hacia un uso más generalizado y potencialmente sistemático de la infraestructura de procedencia y autenticidad.

Teniendo esto en cuenta, la pregunta central que debemos hacernos ahora es la siguiente: a medida que pasamos de una infraestructura de autenticidad de nicho y opt-in, como las iniciadas por lxs defensores de los derechos humanos, a esfuerzos más generalizados impulsados por empresas, gobiernos, plataformas y la demanda pública, ¿Qué tenemos que hacer para garantizar que las medidas a gran escala para comprender la integridad, la procedencia y los cambios en los medios de comunicación no dañen los derechos humanos y las comunidades vulnerables a nivel mundial y, de hecho, protejan la privacidad, la confianza y mejoren la libertad de expresión, así como otros derechos?

Para nosotrxs en WITNESS, una visión óptima de cómo hacer esto bien es aquella en la que respondemos y nos centramos en las necesidades de las personas a nivel mundial, quienes podrían beneficiarse más y ser más perjudicadas por estas tecnologías, una en la que estas tecnologías son señales hacia la confianza, no es una confirmación de que debes creer en algo. Tienen que ser explícitamente una opción para que las utilicen las personas y no requerir la identidad como base fundamental. Técnicamente, necesitamos un ecosistema de herramientas para la verificación independiente, con control del usuarix sobre la privacidad en múltiples niveles. Necesitamos frenar que dicha infraestructura se convierta en una obligación legal o de facto para ser confiables o visibles en las plataformas y en otros lugares, o que sean convertidos en amenazas por “noticias falsas” o más propuestas de leyes de seguridad.

En un esfuerzo por abordar de manera proactiva estas y otras preocupaciones de derechos humanos en una etapa temprana de la C2PA, WITNESS no solo ha abogado por áreas clave en el diseño de las especificaciones, sino que también ha abogado por pasos proactivos para priorizar la evaluación de daños y la evaluación de impacto en los derechos humanos. Más recientemente, esto implicó copresidir el Grupo de trabajo sobre amenazas y daños, donde hemos estado liderando los esfuerzos para comprender los posibles daños y riesgos sistémicos para personas usuarias y la sociedad en general. Queremos asegurarnos de que se refuerce un marco de derechos humanos y de que los problemas globales se escuchen y reflejen en el diseño de estas especificaciones.

Es un paso importante ver estos principios (y otros centrados en cuestiones que incluyen la privacidad) afirmados por otros miembros en los Principios Rectores de la C2PA: “Las especificaciones de la C2PA DEBEN revisarse con una mirada crítica hacia el posible abuso y mal uso del marco”, y “Las especificaciones C2PA DEBEN revisarse para determinar la capacidad de ser abusadas y causar daños no intencionales, amenazas a los derechos humanos o riesgos desproporcionados a grupos vulnerables a nivel mundial”. También hemos visto un número significativo de áreas de posible preocupación abordadas por el diseño de las especificaciones y defendidas por otros miembros de la C2PA.

Enfrentar el daño potencial de forma temprana

El enfoque actual de WITNESS como Copresidente del Grupo de Trabajo de Amenazas y Daños ha sido una evaluación de daños y usos indebidos para identificar posibles daños sistémicos tanto para las personas usuarias como para la sociedad en general (con especial atención a los grupos vulnerables y marginados) que pueden ser causados por el uso previsto, mal uso o abuso de las especificaciones, y desarrollar una estrategia para la prevención o mitigación de estos riesgos. Para WITNESS, esto se basa en nuestro trabajo al ver dilemas críticos en la práctica, así como los identificados en nuestro informe Ticks, a través de nuestras reuniones globales sobre nuevas formas de manipulación de los medios que tuvieron lugar en América Latina, África subsahariana, Asia, Estados Unidos y Europa, así como a través de la investigación.

Especificaciones del C2PA y evaluación de daños y uso indebido

El proceso de evaluación ha incluido sesiones de retroalimentación externa con personas con una amplia gama de experiencias vividas, prácticas y técnicas, todas provenientes de diferentes partes del mundo, y actuando en áreas que incluyen medios cívicos, derechos humanos, desinformación, activismo, tecnología, promoción y rendición de cuentas, y derechos digitales. Estas conversaciones  han informado, y continúan guiando el desarrollo de las especificaciones técnicas, así como la documentación adjunta, que incluye orientación para implementadores, orientación sobre UX, consideraciones de seguridad y un explainer para sensibilizar al público en general.

La evaluación de daños también ha resaltado la necesidad de monitorear el impacto de las especificaciones y de desarrollar mecanismos para reflejar un panorama en evolución y abordar amenazas y daños no identificados y no mitigados.

A medida que avanzamos hacia la publicación de la versión 1.0 de este estándar, WITNESS continúa buscando comentarios sobre posibles daños y usos indebidos, y posibles mitigaciones.

Para comentar sobre las especificaciones técnicas de C2PA y sugerir mejoras, puede visitar el repositorio público aquí o enviar sus comentarios a través de este formulario.

Publicado el 3 de diciembre de 2021.



¿Eres nuev@ en WITNESS? Mantente en contacto.