アーティストに希望、
生成AIの搾取と闘う
セキュリティ研究者たち

ベン・ジャオは、アーティストと生成AIとの間の闘争に正式に飛び込んだ瞬間を鮮明に覚えている。それは、あるアーティストがAIに「バナナ」を求めたときのことだ。

シカゴ大学のコンピューター・セキュリティ研究者であるジャオ教授は、顔認識テクノロジーから画像を保護するツールを開発したことで名声を得ていた。この研究が、幻想イラストレーターのキム・ヴァン・ドゥーンの目に留まり、2022年11月にコンセプトアート協会（Concept Art Association）が主催するオンライン会議に招待された。この団体は商業メディアで活動するアーティストを支援している。

会議でアーティストたちは、当時まだ始まったばかりだった生成AIブームによってどのように被害を受けたかを詳細に語り合っていた。当時、AIは突如としてあらゆるところに存在するようになっていた。テック業界は、ミッドジャーニー（Midjourney）、ステーブル・ディフュージョン（Stable Diffusion）、そしてオープンAIのダリー2（DALL-E 2）といった画像生成AIモデルに熱狂していた。これらは単純な言葉のプロンプト（指示文）に基づいて、幻想的な世界やアボカドでできた奇妙な椅子などを描くことができた。

しかし、アーティストたちはこの驚異的なテクノロジーを新たな形の窃盗とみなした。彼らは、これらのモデルが自分たちの作品を実質的に盗み、置き換えていると感じていた。インターネット上から自分たちの作品がスクレイピングされ、AIモデルの訓練に利用されていることに気づいた者もいれば、自分の名前がプロンプトとして使用され、その結果AIによる模倣作品がネット上で自分の作品を埋もれさせていることを発見した者もいた。

ジャオ教授はそのとき聞いた話に衝撃を受けたことを覚えている。「人々が文字通り、生活の糧を失いつつあると語っているのです」と、ジャオ教授は今年の春、シカゴの自宅のリビングルームに座りながら私に話した。「それは無視できないことです」。

そこでジャオ教授は、ズーム会議中にこう提案した。もし仮に、AIからアーティストたちの作品を隠し、スクレイピングを妨ぐのに役立つ仕組みを構築できるとしたらどうだろうか？

「誰かが私の名前を入れてプロンプトを作ると、たとえばゴミのようなものが出現するツールがあったらとてもいいですね」と、著名なデジタルアーティストのカーラ・オルティスは答えた。「たとえばバナナとか、何か変なものが」。

その答えだけで、ジャオ教授は十分に納得した。それが、ジャオ教授がこの大義に加わった瞬間だった。

現在まで話を進めると、今、何百万人ものアーティストたちが、そのズーム会議から生まれた2つのツールを導入している。ジャオ教授とシカゴ大学のSANDラボ（「セキュリティ、アルゴリズム、ネットワーキング、データ」の頭文字でSAND）が開発した、「グレイズ（Glaze）」と「ナイトシェード（Nightshade）」である。

同意のないスクレイピングにアーティストたちが対抗するためのツールの中で、おそらく最も優れていると言える武器が「グレイズ（Glaze）」と「ナイトシェード（Nightshade）」である。この2つのツールは、似たような方法で機能する。研究者たちが「ほとんど感知できない」摂動（わずかな乱れ）と呼ぶものを画像の画素に加えることで、機械学習モデルが画像を正しく読み取れないようにしているのだ。2023年3月のリリース以来600万回以上ダウンロードされたグレイズは、画像に実質的な秘密のマントを追加し、AIのアルゴリズムがアーティストのスタイルを把握してコピーするのを防ぐ。一方、昨年の秋にリリースされた際に取り上げたナイトシェードは、画像に目に見えない毒のレイヤーを加え、AIモデルを破壊することでAI企業への攻撃的な姿勢を強めるツールである。ナイトシェードはこれまでに160万回以上ダウンロードされている。

このツールのおかげで「自分の作品をネットに投稿できます」と、オルティスは言う。「大成功です」。彼女のようなアーティストにとって、ネット上で作品が見られることは、より多くの仕事を得るために極めて重要である。営利目的の巨大なAIモデルに無償で作品が使われることに不満がある場合、唯一とれる選択肢はインターネットから作品を削除することだ。しかし、それは自らキャリアを抹殺することを意味する。「私たちにとって、本当に悲惨なことです」とオルティスは付け加える。現在、彼女は仲間のアーティストのために活動する最も熱心な擁護者の1人となり、スタビリティAなどのAI企業を著作権侵害で提訴した集団訴訟に参加している。

しかしジャオ教授が期待しているのは、このツールが個々のアーティストに力を与えること以上の役割を果たすことだ。グレイズとナイトシェードは、パワーバランスの傾きを大企業から個人のクリエイターへと徐々に戻していく闘いの一環であると、ジャオ教授は考えている。

「人間の生活がこれほど低く評価されるのを見るのは、ただただ信じられないほど苛立たしいことです」。ジャオ教授は軽蔑の感情を込めてこう語る。私はそれが特に巨大テック企業について話すときに典型的な彼の態度だと感じるようになった。「そして、それが何度も何度も繰り返され、人間性よりも利益が優先されるのを目の当たりにするのは、信じられないほどイライラするし、頭にきます」。

それらのツールがより広く採用される中で、ジャオ教授の高い目標が真価を問われている。グレイズとナイトシェードは、クリエイターが本当に利用しやすい形でセキュリティを提供できるのか、それともツール自体が憎悪者やハッカーの標的になる中で、自分たちの作品が安全だとアーティストたちに誤って信じ込ませてしまうことになるのだろうか？ 専門家らは大筋で、このアプローチが効果的であり、ナイトシェードが強力な毒であると証明される可能性があることに同意している。しかし中には、グレイズが提供する保護にすでに穴を開けたと主張し、これらのツールを信頼するのは危険だと警告する研究者もいる。

しかし、かつて米国レコード協会（RIAA）に勤務していた著作権弁護士のニール・タークウィッツは、SANDラボが加わったこの闘いについて、より広い視点で見解を示す。その闘いは、1つのAI企業や1人の個人に関する問題ではないと、タークウィッツは言う。「それは、私たちが住みたい世界のルールを定義することなのです」。

熊をつつく

シカゴ大学のコンピューター科学棟の一角にあるSANDラボには、結束の固い十数人の研究者たちがひしめいている。研究室内には、ヘッドセットのメタクエスト（Meta Quest）やハロウィーンパーティの仮装写真など、典型的な職場の雑多な品々があちこちに積み重なっている。しかし、壁にはオルティスの額装された絵画など、オリジナルのアート作品も飾られている。

オルティスのようなアーティストたちと共に（ジャオ教授の言葉を借りれば）「AIブロス」と闘う何年も前から、ジャオ教授と研究室の共同リーダーであり妻でもあるヘザー・チェン教授は、新しいテクノロジーがもたらす害に対抗する活動で実績を築いてきた。

2人は、カリフォルニア大学サンタバーバラ校に在籍していた20年近く前に、それぞれ別の研究でMITテクノロジーレビューの「35歳未満のイノベーター」に選ばれている（チェン教授は2005年に「コグニティブ無線」で、ジャオ教授はその1年後に「ピア・ツー・ピア・ネットワーク」で選出）。しかし現在、2人の主な研究はセキュリティとプライバシーに焦点が置かれるようになっている。

2人は2017年、シカゴ大学データサイエンス研究所の新しい共同所長に就任したマイケル・フランクリンに引き抜かれ、サンタバーバラ校を去った。そして、サンタバーバラ校の研究室に所属していた8人の博士課程の学生全員も、2人を追ってシカゴへ移る決断をした。その後、この研究グループは、アマゾン・エコー（Amazon Echo）のようなAI音声アシスタントのマイクを妨害する「静寂のブレスレット」を開発した。また、ジャオ教授が2020年のニューヨーク・タイムズ紙のインタビューで「プライバシーの鎧」と表現したツール「フォークス（Fawkes）」も開発した。このツールを使えば、自分の写真を顔認識ソフトウェアから保護することができる。さらに、ハッカーが実質現実（VR）ヘッドセットに対してステルス攻撃を仕掛け、機密情報を盗む可能性や、AIが生成した画像と人間が作成したアート作品を区別する方法についても研究している。

「ベンとヘザー、そして2人の研究グループは、AIとその使われ方に関するいくつかの重要な疑問へ的確に焦点を当てたテクノロジーを実際に構築しようとしている点で、ある種ユニークな存在です」と、フランクリンは話してくれた。「2人は、ただ疑問を投げかけるだけでなく、そうした疑問を最前線に押し出すようなテクノロジーを実際に構築しています」。

2年前に空想イラストレーターのヴァン・ドゥーンの興味を引き付けたのは、フォークスだった。彼女は似たような何かが生成AIに対する防御として機能するかもしれないと期待し、コンセプトアート協会のズーム会議への運命的な招待をしたのだ。

このズーム会議が、その後数週間続いた強 …

人気の記事ランキング

1. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
4. This Texas chemical plant could get its own nuclear reactors 化学工場に小型原子炉、ダウ・ケミカルらが初の敷地内設置を申請
5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製