2022年初頭、ダリー（DALL-E）2、ミッドジャーニー（Midjourney）、ステーブル・ディフュージョン（Stable Diffusion）といった画像生成モデルが生成AIブームを巻き起こした。この頃から、多くのアーティストが、人工知能（AI）が生成した画像に自分の作品と奇妙なほど似たものがあることに気づき始めた。調査の結果、彼らの作品が無断でデータセットに収集され、AIモデルの学習に利用されていたことが判明した。そして、AIが彼らの独自のスタイルを模倣した作品を生成していたのである。

これに対し、アーティストたちは反撃に出た。そして、そのための最も強力なツールの一部を開発したのが、シカゴ大学でコンピュータサイエンスの博士課程に在籍するショーン・シャン（26歳）である。

アーティストの作品が無断で利用されている実態を知ったシャンは、「35歳未満のイノベーター」に2005年に選ばれたヘザー・チェン教授と、2006年に選ばれたベン・ジャオ教授とともに、アーティストを保護するツールの開発に乗り出した。そして、シャンが開発したのが「グレイズ（Glaze）」というアルゴリズムだ。

グレイズは、アーティストの個性的なスタイルをAIの模倣から守るためのツールであり、2023年初頭に公開された。さらに同年10月、シャンとそのチームは「ナイトシェード（Nightshade）」という別のツールを発表した。ナイトシェードは、画像に「見えない毒素」を埋め込むことで、AIがその画像を学習データに取り込んだ際に誤った学習をさせる仕組みだ。十分な量の「毒素」を学習したAIモデルは、永久的に破損し、出力が不安定になる可能性がある。これらのアルゴリズムは、画像のピクセルに微細な変更を加えることで、AIの解析を妨害する仕組みとなっている。

グレイズのリリース後、その反響は「圧倒的で、同時にストレスの多いものでした」とシャンは語る。生成AIを推進する一部のグループからは強い反発があり、グレイズの防御を突破しようとする試みも相次いだ。

しかし、アーティストたちはこのツールを絶賛した。グレイズはこれまでに約350万回ダウンロードされ、ナイトシェードも70万回以上ダウンロードされている。また、新しいアート・プラットフォーム「カーラ（Cara）」にも統合され、アーティストが画像をアップロードする際にグレイズの保護を適用できるようになった。

次なる目標として、シャンはAIモデルの監査を支援し、法規制の施行を強化するツールを開発する計画を立てている。さらに、グレイズやナイトシェードをゲーム業界、音楽業界、ジャーナリズムなど、他の分野にも適用できるよう改良を続ける予定だ。「生涯をかけてこのプロジェクトに取り組んでいくつもりです」と彼は話している。

関連記事：
生成AIの「搾取」に対抗する力をアーティストに与えた研究者

人気の記事ランキング

1. From COBOL to chaos: Elon Musk, DOGE, and the Evil Housekeeper Problem 米「DOGE暴走」、政府システムの脆弱性浮き彫りに
2. Promotion Innovators Under 35 Japan × CROSS U 好評につき第2弾！研究者のキャリアを考える無料イベント【3/14】
3. A new Microsoft chip could lead to more stable quantum computers マイクロソフト、初の「トポロジカル量子チップ」　安定性に強み
4. AI crawler wars threaten to make the web more closed for everyone 失われるWebの多様性——AIクローラー戦争が始まった
5. Inside China’s electric-vehicle-to-humanoid-robot pivot 中国EVメーカーが人型ロボットへの転換を急ぐ裏事情

• 0