安全、安心、信頼できるAIの構築：ユーザーとコミュニティに対するアドビのコミットメント

Adobe Fireflyで生成した画像

アドビは、安全、安心、信頼できるAIを推進するためのホワイトハウスの自主的AIコミットメントを支持することを発表しました。これらのコミットメントは、AIの責任ある開発を確保するための強力な基盤であり、この新しいテクノロジーの時代に必要とされる産業界と政府との継続的な協力の重要な一歩です。

アドビは10年以上にわたってAIに投資し、クリエイターが創造性を発揮し、技術を完成させ、デジタルの世界でビジネスを強化できるようAIを活用してきました。変革的なテクノロジーを市場に投入する際、アドビは常にイノベーションと責任あるイノベーションの組み合わせを追求してきました。私たちは、AIの開発と使用に慎重なセーフガードを設けることが、社会に利益をもたらす可能性を最大限に引き出すことにつながると確信しています。

デジタルアーティストの卵から戦時中の写真家、ファッションデザイナー、マーケティング担当者など、何百万人ものクリエイティブな顧客を持つアドビは、AIもクリエイターを中心に開発されなければならないと強く信じています。AIは、クリエイターにとって信じられないような新たな可能性を解き放ち、これまで以上に生産性を高め、想像力によってのみ制約される全く新しい体験をデザインすることを可能にします。しかし、AIのような強力なテクノロジーを実現するには、思慮深く包括的なアプローチが必要です。だからこそアドビは、AIシステムの安全性、セキュリティ、信頼性を確保するとともに、クリエイターに力を与えるAIを開発するという、さらなるコミットメントを共有しているのです。

私たちは、バイデン-ハリス政権がこの重要な分野でリーダーシップを発揮してくれたことに感謝するとともに、これらのコミットメントを今後も適用していく方法を共有できることを誇りに思います。急速に進化するテクノロジーでは、AIに関する法律や規制がイノベーションを確実にサポートするよう、産業界と政府との間で思慮深く深い対話を行うことが極めて重要であり、同時に社会と一般市民にとって不可欠なセーフガードを提供することが重要です。

安全性

アドビは、AIモデルの安全性の確保に取り組んでいます。私たちのすべてのAI製品は、説明責任、責任、透明性というアドビの原則に沿って設計されています。

2019年、アドビはトレーニング、テスト、AI倫理審査委員会による審査を含む包括的なAIプログラムを実施しました。このプログラムの一環として、AIを開発するすべての製品チームは、AI影響評価を完了する必要があります。この複数の部分からなる評価によって、AI機能や製品の潜在的な影響を評価し、潜在的なリスクを特定できるため、製品をリリースする前に懸念事項を修正できます。私たちはまた、ユーザーが有害な可能性のあるアウトプットを報告し、私たちが懸念を是正できるよう、フィードバックの仕組みも提供しています。私たちは、AIが安全かつ責任を持って開発されるよう、この厳格なテストとレビューのプロセスを継続することをお約束します。

さらに、アドビは、これらのコミットメントの基盤となるNISTリスクマネジメントフレームワークへの貢献者であり、AIに関するパートナーシップのメンバーでもあります。私たちは、責任あるAIへの統一的なアプローチを確保できるよう、仲間や政府と学びを共有し、業界のベストプラクティスを確立し続けることを約束します。

セキュリティ

他のアドビ製品や機能と同様に、アドビのAIモデルはアドビの知的財産であり、厳格なセキュリティおよび知的財産保護対策の対象となります。

アドビは、レッドチーム、第三者による侵入テスト、バグ報奨金プログラム、および包括的なインシデント対応プログラムを含む堅牢なセキュリティプログラムを活用して、知的財産、およびAIモデルや製品機能を含むアドビの製品やシステムのセキュリティを確保することをお約束します。

私たちはまた、私たちの人工知能モデルのセキュリティをテストし、保護する方法から得られた情報、ベストプラクティス、および学習について、より広範なAIコミュニティと定期的に共有することも約束します。

信頼

アドビは、AIの時代にデジタルコンテンツにさらなる透明性と信頼をもたらすために、証明と電子透かしのソリューションの推進に取り組んでいます。AIによって、説得力のあるコンテンツを瞬時に生成することがますます容易になっています。私たちは、コンテンツの一部がどこから来て、途中で何が起こったのかを理解するために必要なリソースを人々に提供する必要があります。

画像編集分野のリーダーとして、アドビは過去4年間、この課題に取り組んできました。これは、コンテンツの栄養表示のようなもので、作成者の名前、画像が作成された日付、画像の作成に使用されたツール、編集内容などの情報を表示できます。デジタルクリエイティブのプロセスでどのようなツールが使用されたかを記録することで、コンテンツクレデンシャルは、いつAIで作成されたかを示し、いつ人間が作成したか、または記録デバイスによって物理的な世界で撮影されたかを証明できます。

私たちは、コンテンツ認証イニシアチブ（CAI：Content Authenticity Initiative）と呼ばれる世界的な連合を結成し、AP通信、New York Times、Wall Street Journal、Microsoft、NVIDIA、Nikon、Leica、Universal Music Group、Stability AIなど、業界の枠を超えた1500以上のメンバーがコンテンツクレデンシャルに賛同しています。コンテンツクレデンシャルは、Coalition for Content Provenance and Authenticity (C2PA)によって開発されたオープンスタンダードに基づいて構築されているため、誰でも自分のツールやプラットフォームに実装することができます。

AI生成コンテンツにおける透明性の必要性については、多くの機運が高まっています。これまでのところ、C2PAオープンスタンダードに含まれる重要な電子透かしに多くの議論が集中しています。電子透かしと暗号証明は補完的なものであり、コンテンツの出所を客観的に理解するための強力な統一手段です。私たちが消費するコンテンツにAIが普及するにつれて、画像の成り立ちに関する安全なメタデータ（画像の出所としても知られている）は、人々がコンテンツを文脈とともに見ることを可能にするために重要になると私たちは考えています。

アドビは、ツールやプラットフォーム全体でコンテンツクレデンシャルソリューションを推進し、表示するコンテンツのコンテンツクレデンシャルを維持することをお約束します。コンテンツクレデンシャルは、Photoshopや Lightroomなどの主要なアドビツールでご利用いただけます。また、アドビ独自の生成AIツールであるAdobe Fireflyや、Photoshop、Illustrator、Adobe Expressの生成AI機能で作成されたコンテンツには、生成AIが使用されたことを示すコンテンツクレデンシャルが自動的に添付されます。

私たちは、この技術と対応する標準をオープンな方法で開発し続け、誰もがその恩恵を受けられるようにしていきます。特に、2024年の米国選挙のような、デジタルコンテンツに対する信頼がこれまで以上に重要となる重大な局面に向けてはなおさらです。

最後に、メディア・リテラシーの重要性とコンテンツクレデンシャルのようなツールの使用方法を一般の人々が理解できるよう、教育リソースの開発を支援していきます。

クリエイターに力を

アドビは、AIの安全、安心、信頼性の高い開発を保証するだけでなく、クリエイターがAIの力から利益を得られるよう、重要な措置を講じることを確約します。

クリエイターのコミュニティから寄せられた主な懸念事項の中には、データの使用方法に関する管理と、デジタル時代における作品の所有権の確保があります。アドビでは、生成AIツールであるAdobe Fireflyの最初のモデルを、Adobe Stockコレクションのライセンス画像、オープンライセンスコンテンツ、および著作権が失効したパブリックドメインコンテンツのみでトレーニングしました。また、自社のモデルだけでなく、AIのエコシステム全体でクリエイターが作品を保護できるよう支援しています。

• 「Do Not Train」の実現 - コンテンツクレデンシャルのテクノロジーを活用して、アドビはクリエイターが作品のメタデータに「Do Not Train」タグを添付できるように取り組んでいます。私たちは、クリエイターが自分のコンテンツをAIのトレーニングデータセットから除外する選択肢を提供するために、このテクノロジーの業界標準の採用を推進します。
• なりすまし防止権の確立 - アドビは、AIツールを悪用して商用利用のために意図的にスタイルや肖像をなりすます人々からアーティストを保護するため、なりすまし防止権（FAIR：the Federal Anti-Impersonation Right）を新たに米国連邦法に提唱することに尽力しています。この新しい法律は、アーティストが実際の損害を証明する負担を軽減するための法定損害賠償を含み、肖像とスタイルの両方を保護することを目的としています。これは、AIモデルをトレーニングするためにアーティストの作品が使用され、その結果、元のアーティストを置き換えるような出力が生成されるという不公平さを直接解消するのに役立ちます。しかし、芸術的な創造性の根幹であるスタイルの革新が今後も盛んに発展していくことを保証するために、この法律は狭い範囲で起草されています。

私たちは今、極めて重要な瞬間にいます。信じられないような技術変革の最前線におり、この機会を捉えて、私たちが共に未来を築くにあたり、AIの影響に思慮深く対処することが不可欠です。

アドビは、ホワイトハウスをはじめとする政策立案者、産業界、クリエイター、一般市民と協力し、AIが誰にとっても正しい方法で開発・導入されるよう、コミットメントを守り続けていきたいと考えています。

この記事は Building safe, secure, and trustworthy AI: Adobe’s commitments to our customers and community（著者: Dana Rao）の抄訳です