2022年初頭、ダリー（DALL-E）2、ミッドジャーニー（Midjourney）、ステーブル・ディフュージョン（Stable Diffusion）といった画像生成モデルが生成AIブームを巻き起こした。この頃から、多くのアーティストが、人工知能（AI）が生成した画像に自分の作品と奇妙なほど似たものがあることに気づき始めた。調査の結果、彼らの作品が無断でデータセットに収集され、AIモデルの学習に利用されていたことが判明した。そして、AIが彼らの独自のスタイルを模倣した作品を生成していたのである。
これに対し、アーティストたちは反撃に出た。そして、そのための最も強力なツールの一部を開発したのが、シカゴ大学でコンピュータサイエンスの博士課程に在籍するショーン・シャン（26歳）である。
アーティストの作品が無断で利用されている実態を知ったシャンは、「35歳未満のイノベーター」に2005年に選ばれたヘザー・チェン教授と、2006年に選ばれたベン・ジャオ教授とともに、アーティストを保護するツールの開発に乗り出した。そして、シャンが開発したのが「グレイズ（Glaze）」というアルゴリズムだ。
グレイズは、アーティストの個性的なスタイルをAIの模倣から守るためのツールであり、2023年初頭に公開された。さらに同年10月、シャンとそのチームは「ナイトシェード（Nightshade）」という別のツールを発表した。ナイトシェードは、画像に「見えない毒素」を埋め込むことで、AIがその画像を学習データに取り込んだ際に誤った学習をさせる仕組みだ。十分な量の「毒素」を学習したAIモデルは、永久的に破損し、出力が不安定になる可能性がある。これらのアルゴリズムは、画像のピクセルに微細な変更を加えることで、AIの解析を妨害する仕組みとなっている。
グレイズのリリース後、その反響は「圧倒的で、同時にストレスの多いものでした」とシャンは語る。生成AIを推進する一部のグループからは強い反発があり、グレイズの防御を突破しようとする試みも相次いだ。
しかし、アーティストたちはこのツールを絶賛した。グレイズはこれまでに約350万回ダウンロードされ、ナイトシェードも70万回以上ダウンロードされている。また、新しいアート・プラットフォーム「カーラ（Cara）」にも統合され、アーティストが画像をアップロードする際にグレイズの保護を適用できるようになった。
次なる目標として、シャンはAIモデルの監査を支援し、法規制の施行を強化するツールを開発する計画を立てている。さらに、グレイズやナイトシェードをゲーム業界、音楽業界、ジャーナリズムなど、他の分野にも適用できるよう改良を続ける予定だ。「生涯をかけてこのプロジェクトに取り組んでいくつもりです」と彼は話している。
関連記事：
生成AIの「搾取」に対抗する力をアーティストに与えた研究者
- 人気の記事ランキング
-
- Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
- OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
- An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
- How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想
