この記事は米国版ニュースレターを一部再編集したものです。
米国のバイデン大統領は10月30日、人工知能（AI）に関する大統領令を発表した。大きな動きだ。この大統領令について、知っておくべき最も重要な点を確認したい場合は、本誌のこちらの記事を読んでほしい。
私にとって、今回の大統領令の特に興味深い部分の1つは、透かしとコンテンツ認証が強調されている点だ。私は以前、これらのテクノロジーについての記事を少し書いた。コンテンツが機械によって作成されたのか人間によって作成されたのかを判断するために、コンテンツにラベルを付けることを目的とするテクノロジーである。
今回の大統領令では、米国政府が透かしとコンテンツ認証を推進し、米国商務省がそのためのガイドラインを確立し、連邦政府機関が将来的にそのような技術を使用する予定であると述べられている。つまりホワイトハウスは、AIが生み出す誤った情報と戦う方法として、これらの手法に大きな賭けをしているとも言うわけだ。
これらのテクノロジーの推進は、11月1日に始まった英国のAI安全性（AI Safety）サミットでも継続された。米国のカマラ・ハリス副大統領は、政権がテック企業に対し、「音声や映像コンテンツがAIによって生成されたものかどうかを、消費者が見分けるための新しいツールを作成することを奨励している」と述べた。
これらすべてを正確にはどのようにして実現するのかついてはあまり明確ではないが、政府高官は11月5日に記者団に対し、ホワイトハウスは「コンテンツの来歴と真正性のための連合（Coalition for Content Provenance and Authenticity：C2PA）」として知られるオープンソースの技術仕様策定に関わるグループと協力する予定だと語った。
幸運なことに本誌は7月、 C2PAについて詳しく取り上げている。それでは、このC2PAについて知っておくべきことを復習しておこう。
基礎的な話
透かしやその他のコンテンツ認証テクノロジーは、AI生成コンテンツを識別するアプローチを提供しているが、AIが生成したことを検出するわけではない。AIの検出は事後的に実施され、これまでのところ有効性がきわめて低いことが証明されている（AI検出は、既存のコンテンツを評価して「これがAIによって作成されたものかどうか」を調べるテクノロジーを用いる）。
AI検出とは対照的に、透かしとコンテンツ認証は来歴技術とも呼ばれ、オプトイン・モデルで動作する。コンテンツ作成者は、コンテンツの起源と、オンラインでの移動中にどのように変化した可能性があるかについての情報を事前に追加できる。この仕組みを用いることで、その情報を見た人のコンテンツに対する信頼レベルを高められることが期待される。
現在の透かし技術のほとんどは、コンテンツの一部に目に見えないマークを埋め込んで、その素材がAIによって作成されたことを示す仕組みになっている。透かし検出器がそのマークを識別する。コンテンツ認証は、メタデータのような視聴者に見える方法でコンテンツの出所に関する情報をログに記録する、より広範な方法論だ。
C2PAは主に、「コンテンツ・クレデンシャル（Content Credentials）」と呼ばれるプロトコルによるコンテンツ認証に重点を置いているが、透かしと組み合わせることができる。私が7月に記事で書いたように、「暗号技術を利用して、コンテンツの出所に関する詳細情報を符号化する、オープンソースの技術仕様」である。たとえば、ある画像にはそれが最初に作られたデバイス（スマートフォンのカメラなど）、それに編集を加えたツール（フォトショップなど）、そして最終的にはそれが投稿されたソーシャルメディアプラットフォームの情報が記録されることを意味する。時が経つにつれて、その情報が、すべてが記録されたある種の歴史を作り出していく。
その結果、C2PAの支持者が「栄養表示」にたとえる形で収集された、検証可能な情報が得られる。例えば、コンテンツがどこから来たのか、機械で生成されたものであるかどうかについての情報だ。企業がコンテンツの検証を急ぐ中、C2PAの取り組みとそれに関連するオープンソースコミュニティは、この数カ月で急速に成長している。
ホワイトハウスの役割は？
今回の大統領令においてカギとなる部分は、「AI生成コンテンツの検出と、公式コンテンツの認証に関する基準とベストプラクティスを確立する」予定であると商務省が述べ、「連邦政府機関はこれらのツールを使用して、米国国民が政府から受け取る通信が本物であることを簡単に知ることができるようにし、民間企業や世界中の政府の模範となる」との記述だ。
そして重要なのは、本誌の記事に書いたように、この大統領令は業界関係者や政府機関にこのテクノロジーの使用を義務付けるには至っていないということだ。
だが、残念がることはない。本誌が話を聞いた専門家たちは、標準、透かし、コンテンツのラベル付けに関する規定におおむね同意していたが、特に電子透かしはすべての問題を解決するものではなさそうだ。研究者らは、電子透かしは改ざんに対して脆弱であり、偽陽性や偽陰性を引き起こす可能性があることを明らかにしている。
メリーランド大学のソヘイル・フェイジ准教授は、透かし技術について2つの研究を実施し、この技術が「信頼できない」ことを明らかにしている。同准教授によれば、偽陽性と偽陰性のリスクが非常に大きいため、透かしは「基本的には何の情報も与えない」という。
「ホワイトハウスの公式の透かしが隠されたツイートやテキストがあったとしても、そのツイートは実際にはホワイトハウスの敵対者によって書かれたものだと想像してみてください」と、フェイジ准教授は警告する。「それは現在の問題を解決するよりも、さらに多くの問題を引き起こす可能性があります」。
さらに、フェイジ准教授の研究では、コンテンツ認証技術の有効性そのものについては扱っていないが、不可視で改ざんができない透かし技術は理論的には「不可能」であることが判明している。
私はC2PAに、これまで連邦政府とどのように協力してきたかを尋ねた。政府関係チームの共同議長であるムニール・イブラヒムはメールで、C2PAは国家安全保障会議やホワイトハウスなどの連邦機関と「定期的に連絡を取っている」と伝えてくれた。
また、C2PAの広報担当者が別のメールで、ホワイトハウスの行動によりコンテンツ認証情報の認知度が高まり、採用されることを期待していると書いている。同担当者は、連邦機関によるプロトコルの使用に関する計画は明らかにしなかったが、「C2PAとコンテンツの認証情報は今日にも採用する準備ができており、すべての人に連絡して参加することを奨励するものです。私たちは、あらゆる政府機関がテストと導入を開始できるよう教育し、支援する準備ができています」と述べた。
◆
テック政策関連の気になるニュース
- AI政策の動きが渦巻く中、英国のAI安全サミットも多くの話題を呼んだ。ワシントンポストのこの記事には、議論の内容が正確に記載されている。サミットの影響に関するこちらの記事も大いに役立った。
- ワイアードのこの記事は、イスラエル・パレスチナ危機のシミュレーションをするために国連と協力しているAI企業に関するものだ。私は以前に競合予測テクノロジーについての記事を少し書いたので、この分野の展開を興味深く見ているのだが、懐疑的だと言わざるを得ない。
- 地球上で最後に電話が接続された場所であるトケラウの太平洋の小さな島が、どのようにしてサイバー犯罪の温床になったのかを伝える記事を読みふけってしまった。
テック政策関連の注目動向
AIバイアス研究のパイオニアの1人であるジョイ・ブオラムウィニが新しい本を出版した。本誌のメリッサ・ヘイッキラ記者はブオラムウィニににインタビューして、最新の研究とAIのこの重大な瞬間についてどのように考えているかについて話しあった。
ブオラムウィニは、AIシステムの構築方法を根本から再考することを提唱している。「今、AIが過剰にもてはやされる中で、AIに適用されるルールをAI企業に決めさせていることには深刻なリスクがあります。偏った抑圧的な技術の隆盛を許した時代とまったく同じ過ちを繰り返しています」と MITテクノロジーレビューに語った。