2022年初頭、ダリー（DALL-E）2、ミッドジャーニー（Midjourney）、ステーブル・ディフュージョン（Stable Diffusion）といった画像生成モデルが生成AIブームを巻き起こした。この頃から、多くのアーティストが、人工知能（AI）が生成した画像に自分の作品と奇妙なほど似たものがあることに気づき始めた。調査の結果、彼らの作品が無断でデータセットに収集され、AIモデルの学習に利用されていたことが判明した。そして、AIが彼らの独自のスタイルを模倣した作品を生成していたのである。
これに対し、アーティストたちは反撃に出た。そして、そのための最も強力なツールの一部を開発したのが、シカゴ大学でコンピュータサイエンスの博士課程に在籍するショーン・シャン（26歳）である。
アーティストの作品が無断で利用されている実態を知ったシャンは、「35歳未満のイノベーター」に2005年に選ばれたヘザー・チェン教授と、2006年に選ばれたベン・ジャオ教授とともに、アーティストを保護するツールの開発に乗り出した。そして、シャンが開発したのが「グレイズ（Glaze）」というアルゴリズムだ。
グレイズは、アーティストの個性的なスタイルをAIの模倣から守るためのツールであり、2023年初頭に公開された。さらに同年10月、シャンとそのチームは「ナイトシェード（Nightshade）」という別のツールを発表した。ナイトシェードは、画像に「見えない毒素」を埋め込むことで、AIがその画像を学習データに取り込んだ際に誤った学習をさせる仕組みだ。十分な量の「毒素」を学習したAIモデルは、永久的に破損し、出力が不安定になる可能性がある。これらのアルゴリズムは、画像のピクセルに微細な変更を加えることで、AIの解析を妨害する仕組みとなっている。
グレイズのリリース後、その反響は「圧倒的で、同時にストレスの多いものでした」とシャンは語る。生成AIを推進する一部のグループからは強い反発があり、グレイズの防御を突破しようとする試みも相次いだ。
しかし、アーティストたちはこのツールを絶賛した。グレイズはこれまでに約350万回ダウンロードされ、ナイトシェードも70万回以上ダウンロードされている。また、新しいアート・プラットフォーム「カーラ（Cara）」にも統合され、アーティストが画像をアップロードする際にグレイズの保護を適用できるようになった。
次なる目標として、シャンはAIモデルの監査を支援し、法規制の施行を強化するツールを開発する計画を立てている。さらに、グレイズやナイトシェードをゲーム業界、音楽業界、ジャーナリズムなど、他の分野にも適用できるよう改良を続ける予定だ。「生涯をかけてこのプロジェクトに取り組んでいくつもりです」と彼は話している。
関連記事：
生成AIの「搾取」に対抗する力をアーティストに与えた研究者
- 人気の記事ランキング
-
- What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法
- A Google Gemini model now has a “dial” to adjust how much it reasons 推論モデルは「考えすぎ」、グーグルがGeminiに調整機能
- Meet the researchers testing the “Armageddon” approach to asteroid defense 惑星防衛の最終戦略 科学者たちが探る 「核爆発」研究の舞台裏
- Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
