TikTokと共にオンライン上の信頼および透明性を高める

オンライン上の偽情報に対抗する来歴証明ツールの開発を始めた数年前から、その成功には、来歴証明、政策、教育の3つ全てが連携して、コンテンツの制作から公開までの間に信頼の連鎖を生み出すことが必要であると私たちは認識していました。

本日、TikTokはアドビが設立メンバーであるContent Authenticity Initiative （コンテンツ認証イニシアチブ、以下CAI） 、およびCoalition for Content Provenance and Authenticity （コンテンツ来歴および信頼性のための標準化団体、以下C2PA ）に参加することを発表しました。これは、オンライン上のあらゆる場所で来歴証明を確立するための大きなマイルストーンとなります。本日よりTikTokは、アップロードされたAI生成コンテンツにコンテンツクレデンシャルのラベル付けを開始し、将来的にはコンテンツクレデンシャルの追加サポートも開始する予定です。TikTokは、コンテンツクレデンシャル機能を適用する初のソーシャルメディア・プラットフォームです。米国だけで1億7,000万人以上のユーザーを抱える同社のプラットフォームとクリエイターとユーザーの巨大コミュニティは、オンライン上の透明性を高めるために必要な、信頼の連鎖の重要な一部となります。

コンテンツはさまざまな方法で作成されます。AIを使ってオリジナルのコンテンツを生成することも、AIを使ってコンテンツを編集・組み合わせることも、もちろんAIを全く使わずにコンテンツを作成・編集することもできます。2019年に発足し、現在3,000以上のメンバーを擁するグローバル組織であるCAIは、デジタルコンテンツがどのように作成されたかを示すソリューションを提供することで、多くの改ざんされ誤解を招くような画像が実際の画像と見分けがつかなくなっている世界で、信頼を勝ち得ることを前提としています。透明性はコンテンツの信頼性の鍵です。だからこそ、私たちがデジタルコンテンツの「成分表示ラベル」とも呼んでいるコンテンツクレデンシャルが重要です。コンテンツクレデンシャルには、作成者の名前、コンテンツの作成に使用されたデバイス、作成日時、元のコンテンツへのアクセス、AIが使用されたかどうかを含む編集履歴などの情報を提供できるメタデータが含まれます。この情報の一部またはすべてを提供することで、クリエイターは鑑賞者との真正性のレベルを確立し、デジタル時代で信頼される方法を得ることができます。

リテラシーの向上がこのソリューションの重要なステップになっていることも同様に明らかです。 米国、英国、フランス、ドイツの6,000人以上の消費者を対象にアドビが最近行った「Future of Trust Study」調査によると、消費者はデジタルコンテンツの信頼性を検証するツールを強く求めており、偽情報が選挙の公正性に及ぼしかねない影響に対処するための積極的な対策が早急に必要である、と考えています。特に、大多数の人（米国70%、英国76%、フランス73%、ドイツ70%）が、オンラインで消費しているコンテンツが信頼できるかどうかを確認することが難しくなっていると回答しており、ほとんどの回答者（米国76%、英国82%、フランス77%、ドイツ74%）が、オンラインで目にするコンテンツがAIによって生成されたものかどうかを知ることが重要であると回答しています。

ディープフェイクの危険に対処するための効果的なデジタルリテラシー向上ための活動には、2つのことが必要です。まず、人々は、AIが生成したコンテンツは人々を欺くために使われる可能性があることを理解しなければいけません。他の新技術の影響に関するリテラシー教育と同様に、強力なAIがリアルな合成コンテンツを作成できること、また、デジタルコンテンツを見る際には懐疑的になるべきであることを理解する必要があります。第2に、コンテンツクレデンシャルのようなツールについて一般のリテラシーを向上し、信頼できるコンテンツを特定する方法があることを認知する必要があります。今こそ、すべてのステークホルダー、政府、産業界、学界、市民社会が一丸となって、AIが生成したコンテンツに関するデジタルリテラシーの創造に取り組む時です。

最後に、来歴証明のテクノロジーソリューションやリテラシー教育に加えて、オンラインコンテンツへの信頼をコミュニティ全体で回復するための政策ソリューションが必要です。世界各国の政府がコンテンツの真正性に関する政策を取り入れ始めていることは心強いことです。私たちはコンテンツがどこで作成されようと、どこに行こうとも、来歴証明のメタデータが追加・付随されるようにする必要があります。 テクノロジー、政策、教育への適切なアプローチにより、ディープフェイクとの戦いに勝つためのツールが整います。 本日のTikTokとの発表は、その道のりにおけるエキサイティングな瞬間であり、すべてのステークホルダーと協力して、今後の活動構築をしていくことを楽しみにしています。

この記事は2024年5月9日（米国時間）に公開されたAdvancing Trust and Transparency Online with TikTokの抄訳です。