Content Authenticity Initiative, 5 ans après : quelles sont les perspectives ?

Il y a cinq ans, lors d'Adobe MAX 2019, nous avons cofondé la Content Authenticity Initiative (CAI) dont l’objectif est de favoriser la transparence des contenus numériques et de garantir la confiance des consommateurs. Nous étions déjà conscients des risques émergents causés par les manipulations, les deepfakes et les contenus générés par l'IA. Nous avons compris que les créateurs et les consommateurs auraient besoin d'un moyen fiable de retracer l'origine des contenus numériques, afin de comprendre et d’avoir les clés de lecture pour analyser ce dernier. À l'époque, l'IA générative, telle que nous la connaissons aujourd'hui, n'existait pas, et les efforts pour lutter contre les deepfakes se concentraient uniquement sur la détection. Bien que notre coalition ait commencé modestement, nous étions animés par la conviction qu'une norme commune à l’échelle internationale permettrait de construire un écosystème numérique plus fiable, en soutenant à la fois la traçabilité et l'authenticité.

Sensibiliser le grand public

Aujourd'hui, à l'occasion d'Adobe MAX 2024, nous pouvons être fier du chemin parcouru et de tout ce que nous avons appris au cours de ces cinq dernières années.

Notre coalition s'est agrandie et compte aujourd'hui plus de 3 700 membres, dont des acteurs majeurs de l'industrie, notamment des plateformes internationales de réseaux sociaux, d'IA générative, des médias, des grandes entreprises de la Tech, parmi les plus importants fabricants d'appareils photo, des individus de la société civile, des organisations à but non lucratif et bien d'autres encore. Nous nous sommes associés à l'ensemble de l'industrie technologique en tant que co-créateurs de la Coalition for Content Provenance and Authenticity (C2PA), un organisme international qui oeuvre pour la mise en place de normes, afin de développer la solution la plus complète en matière de transparence et d'étiquetage des contenus numériques. Cette technologie, les « Content Credentials », agit comme un “label numérique” pour le contenu en ligne. Nous constatons une adoption croissante et une mise en œuvre généralisée des certifications, presque chaque semaine dans les secteurs public et privé. Cette année seulement, Google, TikTok, OpenAI, Meta, LinkedIn, Amazon, Sony et le ministère américain de la défense (DoD) pour ses images hébergées sur DVIDS ont adopté les Content Credentials.

Lors de notre dernière conférence Adobe MAX, nous avons fait part de nos projets d'intégration des Content Credentials dans nos propres applications, notamment dans le domaine de la vidéo avec Adobe Premiere Pro, où les Content Credentials seront appliqués à des fonctionnalités utilisant le nouveau modèle Firefly Vidéo comme l’Extension générative et du Texte à la vidéo, ainsi qu'à d'autres fonctionnalités d'édition Firefly dans Adobe Creative Cloud pour indiquer l'utilisation de l'IA générative. Nous poursuivons également l'intégration des Content Credentials dans nos applications phares du Creative Cloud telles que Photoshop et Illustrator toujours dans le cadre de notre engagement permanent en faveur d'une innovation responsable pour l'ensemble de nos applications et services. Si la transparence de l'IA générative est essentielle dans de nombreux contextes, nous restons déterminés à faire en sorte que les contenus qui montrent des événements du monde réel et qui proposent une narration authentique puissent être discernable par tous, et tout le temps.

Nous sommes ravis du succès que nous avons rencontré jusqu'à présent, mais notre travail ne s'arrête pas là. Nous savons que les Content Credentials ne sont pas une solution miracle, ils sont un outil essentiel pour restaurer la confiance en ligne, mais nous avons tous un rôle à jouer au-delà de la technologie et de son adoption. Nous devons investir davantage pour éduquer les médias et les individus à maintenir une certaine sensibilité, et parfois de scepticisme, à l'égard du contenu numérique, car les « deepfakes » font partie de notre vie quotidienne. Il est aussi important de faire connaitre tous outils disponibles qui permettent d’obtenir plus de contexte sur le contenu consulté, afin d'éviter d'être trompés. Et si, dans le monde entier et aux États-Unis, nous commençons à voir les premiers progrès dans le secteur public, nous devons continuer à sensibiliser les décideurs politiques, qui ont un rôle essentiel à jouer ici, en veillant à ce que les exigences en matière de provenance soient incluses dans les propositions politiques, notamment pour que les développeurs d'IA intègrent la provenance dans leurs outils et que les plateformes rendent l’information disponible facilement.

Nous sommes plus que jamais convaincus que l'adoption généralisée des Content Credentials jouera un rôle essentiel dans la réalisation de cette vision plus large d'un écosystème numérique plus fiable et plus transparent dans les mois et les années à venir. J'aimerais donc vous en dire un peu plus sur le fonctionnement de l'application web Adobe Content Authenticity que nous avons récemment annoncé et sur la manière dont elle s'inscrit dans le contexte global.

Content Credentials : l’engagement continu d'Adobe auprès des créateurs

Dans le cadre de son engagement en faveur d'une innovation responsable, Adobe s'efforce de protéger et de rendre autonome les créateurs pour garantir la traçabilité de leur travail. Cette initiative est devenue plus urgente à l'ère de l'IA générative, et nous avons récemment demandé aux professionnels de la création quelles étaient leurs dernières réflexions et préoccupations ainsi que leur rapport avec la technologie. Les créateurs ont été clairs : 91 % d'entre eux ont déclaré qu'ils voulaient un moyen fiable de tracer leur travail.

C'est précisément pour cette raison que nous avons annoncé la semaine dernière Adobe Content Authenticity, une nouvelle application web gratuite qui permet aux créateurs d'inclure facilement des Content Credentials à leurs contenus, ce qui les aide à protéger leur travail et à en recevoir l'attribution. Il s'agit d'une étape majeure qui nous permet d'exploiter pleinement le potentiel de ce label numérique, en particulier pour notre communauté créative, qui a été touchée par l'essor rapide de l'IA générative et a besoin d'aide pour protéger son travail contre l'utilisation abusive et la dénaturation.

C'est précisément pour cette raison que nous avons créé les Content Credentials, afin que les créateurs du monde entier puissent avoir plus de contrôle sur leur travail, recevoir une attribution en le signant et même signaler s'ils ne veulent pas que leur contenu soit utilisé par ou pour former d'autres modèles d'IA générative sur le marché. Avec le lancement prochain de l'application web, nous mettons ce pouvoir entre les mains des créateurs du monde entier.

L'application web Content Authenticity sera lancée en version bêta publique gratuite au premier trimestre 2025. Les créateurs peuvent en savoir plus et s'inscrire ici pour être informés de la disponibilité de la version bêta.

L’interopérabilité : une étape primordiale

L'année écoulée a marqué un tournant : les plateformes sociales, les entreprises d'IA générative et les fabricants d'appareils photo ont renforcé l’importance des Content Credentials en se joignant à nos efforts et, plus important encore, en intégrant cette nouvelle solution de provenance et de transparence du contenu. Nous nous sommes rapprochés d'un avenir dans lequel les outils et les technologies de provenance interopérables fonctionnent de manière transparente dans l'écosystème numérique.

Cependant, nous avons conscience que pour que cette solution fonctionne réellement, nous avons besoin d'une mise en œuvre cohérente et efficace. L'interopérabilité fait partie intégrante de tout ce que nous faisons et s'assurer que les produits des différentes entreprises fonctionnent bien ensemble reste une tâche complexe. Nous avons la chance d'avoir les meilleurs concepteurs et experts en produits qui travaillent sur ce projet au sein du C2PA, et nous nous concentrons sur la collaboration entre les secteurs et avec d'autres entreprises afin d'affiner les capacités d'interopérabilité des Content Credentials et de garantir la meilleure (et la plus efficace) expérience utilisateur possible.

Les perspectives pour les cinq prochaines années

En cinq ans, nous sommes extrêmement fiers de ce que nous avons accompli. Nous avons conçu, rendu public et adopté une nouvelle norme à l’échelle internationale en si peu de temps. Aujourd'hui, les Content Credentials sont suffisamment avancés et développés pour être adoptés par d'importants organismes de normalisation, tels que la World Standard Corporation, et sont en passe d'être adoptés en tant que norme ISO, la norme internationale pour les biens et les services de confiance. Chaque jour, nous discutons avec des partenaires potentiels et actuels du monde entier qui voient ce véritable problème de société, qui évolue chaque jour, et la nécessité de le traiter avec urgence, dévouement et attention. Nous sommes tous d'accord sur la nécessité de mettre en place une base de provenance numérique par l'intermédiaire des Content Credentials, et il est enthousiasmant de voir que cette base s'élargit, s'améliore et devient plus accessible jour après jour. C'est un privilège de participer à la conception de ce label avec des ingénieurs, des products managers, des concepteurs, des chercheurs et des leaders d'opinion talentueux. Nous participons à un projet qui aura un impact significatif sur nos vies à tous.

Nous sommes conscients du chemin qui reste à parcourir, aussi difficile que gratifiant, mais nous sommes néanmoins optimistes quant à l'avenir et à l’impact des Content Credentials. Grâce à un travail acharné et à une collaboration étroite entre les entreprises et les pays, nous sommes optimistes et enthousiastes pour tout ce qui est à venir dans la quête d'un écosystème numérique plus fiable, plus transparent et plus équitable.