Vers plus de confiance et de transparence en ligne avec TikTok

Lorsque nous avons lancé le développement d’un outil de provenance il y a quelques années pour lutter contre la désinformation sur Internet, nous savions que pour parvenir à nos fins, une approche basée sur la provenance, la règlementation et la pédagogie était nécessaire à l’instauration d’une chaîne de confiance, de la création à la consultation.

L’annonce de l’adhésion de TikTok à la Content Authenticity Initiative (CAI) menée par Adobe et à la Coalition for Content Provenance and Authenticity (C2PA) marque une étape décisive dans le processus visant à établir systématiquement la provenance du contenu généré par l’IA. Depuis le 9 mai 2024, l’entreprise associe au contenu généré par l’IA et chargé sur sa plateforme des informations de traçabilité, qui feront l’objet d’une prise en charge plus complète à l’avenir. TikTok est le premier réseau social à intégrer les Content Credentials. Avec plus de 170 millions d’utilisateurs rien qu’aux États-Unis, la plateforme et sa vaste communauté créative sont l’un des principaux maillons de la chaîne de confiance nécessaire pour renforcer la transparence en ligne.

Il existe différents moyens de créer des contenus. Vous pouvez les générer, les modifier et les combiner avec ou sans l’aide de l’IA. La CAI, une initiative internationale lancée en 2019 qui compte désormais plus de 3 000 membres, a principalement pour vocation d’aider les utilisateurs à montrer comment leur contenu a été conçu afin d’apporter plus de transparence à l’heure où les images modifiées et trompeuses circulent davantage et où il devient difficile de distinguer le vrai du faux. Puisque la transparence joue un rôle clé dans la fiabilité du contenu, les Content Credentials viennent faire office de « label de provenance » numérique indispensable. Ils incluent en effet des métadonnées qui fournissent des renseignements tels que le nom de l’artiste, la date et l’heure de création, un accès au contenu d’origine, l’historique des modifications et l’éventuel recours à l’IA. La disponibilité de tout ou d’une partie de ces informations permet de garantir différents degrés d’authenticité aux personnes et de progressivement gagner leur confiance quant au contenu généré par l’IA.

Une grande majorité des personnes interrogées (73 % en France, 70 % aux États-Unis, 76 % au Royaume-Uni, et 70 % en Allemagne) estiment qu’il est difficile de contrôler la véracité du contenu numérique. Elles sont en outre très nombreuses (77 % en France, 76 % aux États-Unis, 82 % au Royaume-Uni et 74 % en Allemagne) à juger important de savoir si le contenu consulté a été généré par une IA.

Pour être efficace, une campagne de sensibilisation sur les dangers des deepfakes doit être menée sur deux fronts. D'une part, les personnes doivent prendre conscience que le contenu généré par l’IA peut être utilisé dans un but fallacieux. Comme dans toute campagne de sensibilisation à l’impact des nouvelles technologies, il est important de comprendre que l’IA a la capacité de générer des contenus de synthèse réalistes et qu’en présence de contenus numériques, la vigilance est de mise. D’autre part, il faut faire découvrir aux personnes des outils tels que les Content Credentials afin qu’elles soient averties qu’il existe des moyens d’identifier la fiabilité de ces contenus. Il est temps que l’ensemble des acteurs politiques, économiques et éducatifs, mais également les membres de la société civile, unissent leurs forces et s’attachent à sensibiliser sur le contenu généré par l’IA.

Enfin, en marge de ces campagnes de sensibilisation et de celles sur la traçabilité des technologies, nous allons devoir nous appuyer sur des solutions règlementaires pour restaurer collectivement la confiance vis-à-vis du contenu en ligne. Il est encourageant de voir que les gouvernements, partout dans le monde, légifèrent sur l’authenticité du contenu. Ainsi, nous devons nous assurer d’associer des métadonnées et des technologies de traçabilité à chaque contenu créé, qui ensuite le suivront quelle que soit sa destination. En adoptant des stratégies technologiques, règlementaires et pédagogiques appropriées, nous aurons toutes les cartes en main pour gagner le combat contre les deepfakes. L’annonce de TikTok est l’un des grands moments de cette aventure et nous nous réjouissons de poursuivre notre collaboration avec l’ensemble des parties prenantes.