La gran brecha digital del mañana: Contenidos con o sin procedencia
Este blog fue escrito en su versión original en inglés.
En un mundo plagado de desconfianza ante la información y la desinformación, rastrear el origen y la historia de los medios que consumimos -su procedencia- puede informar nuestra confianza, al igual que saber de dónde proceden nuestros alimentos y cómo se han preparado puede ayudarnos a tomar mejores decisiones sobre lo que comemos.
Con la llegada de la IA generativa y su creciente capacidad para crear contenidos realistas, la transparencia es aún más crítica. Así lo han reconocido las personas líderes del sector, la sociedad civil y las organizaciones internacionales, así como los organismos legislativos y reguladores de todo el mundo, desde la Unión Europea hasta China, pasando por Brasil y Australia, que también han empezado a establecer algún tipo de requisito de divulgación para quienes crean o muestran contenidos generados o editados por IA.
Reforzados por la regulación y la normalización, mecanismos de revelación y divulgación como las marcas de agua, los metadatos criptográficos o las huellas digitales están ganando impulso. Por ejemplo, importantes plataformas y servicios como Youtube, LinkedIn y Adobe ya han adoptado la norma C2PA, que puede ayudar a capturar la procedencia de todo tipo de contenidos, incluidas las fotos tomadas con la cámara o el teléfono. Además, la CEI, la ISO y la UIT han creado la World Standards Cooperation para debatir las áreas prioritarias y los requisitos en este campo.
Sin embargo, a medida que estas tecnologías se generalizan, se va desvelando una realidad diferente: una parte significativa de los contenidos en línea siempre existirá sin una procedencia rastreable.
Varios factores hacen inviable la trazabilidad universal. En primer lugar, porque incluso si logramos crear normas accesibles y un ecosistema de IA estrictamente regulado, millones de personas que utilizan herramientas de IA de código abierto podrían eludir estos requisitos. Otrxs, aunque estén dispuestos a cumplirlos, podrían encontrarlo técnicamente imposible: la norma C2PA, por ejemplo, no funcionará con herramientas que concedan a las personas usuarias acceso a su sistema. Además, está el enorme volumen de ‘contenido multimedia anterior’ -contenidos creados antes de la existencia de estas tecnologías- que podrían perdurar, «ilocalizables», en línea.
Y no se trata sólo de que sea poco práctico concebir que todos los medios puedan incluir de algún modo su procedencia, sino que también hay consideraciones de derechos humanos en juego. Quizá lo más preocupante sea el riesgo de que los regímenes autoritarios u otrxs actorxs malintencionadxs puedan suprimir la libertad de expresión aprovechando los fallos de seguridad de estos mecanismos de revelación y divulgación, obteniendo información privada de los metadatos disponibles (como los identificadores de dispositivos) o promulgando leyes que exijan que la información personal identificable (IPI) se adjunte a la procedencia de un contenido.
Hay salvaguardas que podrían ponerse en marcha para intentar evitar este problema. Entre otras, las personas usuarias deben poder conservar el control sobre su información, y la procedencia capturada debe centrarse en el CÓMO de los contenidos multimedia -cómo se crearon o editaron- y no en QUIÉN -quién los creó, editó o publicó-. Pero incluso con estas y otras salvaguardas, el riesgo de uso indebido y abuso sigue siendo significativo.
Dada la imposibilidad y los posibles perjuicios de una transparencia universal basada en los mecanismos de revelación y divulgación imperantes, ahora debemos ampliar nuestro enfoque para prepararnos para lo que hemos puesto en marcha: un mundo digital dividido entre contenidos que sí tienen -variables niveles y expresiones de- procedencia verificable y contenidos que no la tienen.
Esto significa prepararse para -e intentar evitar- un mundo en el que se pueda confiar en la imagen de una persona periodista y no en la de otra por no tener acceso o no poder utilizar herramientas que recojan su fuente y su historia; en el que las pruebas de violaciones de los derechos humanos puedan ser desestimadas en instancias judiciales por no incluir metadatos criptográficos; o en el que quienes dicen la verdad frente al poder se vean obligadxs a elegir entre visibilidad y seguridad cuando las plataformas exijan información de procedencia potencialmente peligrosa.
La brecha de contenidos del mañana exige claridad sobre lo que significa procedencia verificable y lo que no. Es un marcador de autenticidad, uno entre otros, como la comprobación de hechos, el análisis forense o incluso las experiencias personales y profesionales. No significa que su contenido sea necesariamente veraz ni que se deba confiar automáticamente en él. Del mismo modo, los contenidos sin una procedencia verificable no deben desacreditarse o socavarse automáticamente.
Este reto emergente exigirá una alfabetización mediática a todos los niveles de la sociedad, no sólo entre el público en general. Las industrias y las comunidades clave se enfrentarán a distintos obstáculos: por ejemplo, los tribunales deben desarrollar nuevos métodos para determinar la verdad en este futuro digital dicotómico, mientras que las plataformas de medios sociales tendrán que reimaginar la moderación de contenidos para garantizar un trato justo de las voces que no pueden o no pueden añadir una procedencia verificable a su contenido, y deben resistir la presión para vincular cada vez más y arbitrariamente la actividad de los medios sociales a la identidad humana individual en lugar de centrarse en distinguir la creación de IA de la actividad humana.
La experiencia del usuarix también será decisiva para determinar cómo procesa la gente la información sobre la procedencia. Demasiada información puede resultar abrumadora y, en última instancia, ignorada; muy poca puede ser confusa o engañosa. El reto puede ser aún más complejo con contenidos agregados, como en los resultados de búsqueda de imágenes de Google, donde la procedencia debe transmitirse claramente a través de múltiples elementos a la vez.
Por último, a medida que desarrollamos marcos y estrategias para abordar estos y otros retos a través de políticas, leyes y normas, es crucial que aprendamos de diversas perspectivas globales, especialmente de las poblaciones vulnerables y de aquellos cuyas experiencias pueden ayudarnos tanto a prevenir daños como a aprovechar el potencial que estas tecnologías pueden ofrecer.
Publicado: 05 marzo, 2025