生成AIの「搾取」に対抗する力をアーティストに与えた研究者

2022年のはじめ、「ダリー2（DALL-E 2）」や「ミッドジャーニー（Midjourney）」、「ステーブル・ディフュージョン（Stable Diffusion）」といった画像生成モデルによって生成AIブームに弾みがつくと、アーティストたちは自分が作った画像とAIが生成した画像との間に奇妙な類似点があることに気づき始めた。作品が膨大なデータセットに取り込まれてAIモデルの訓練に使用され、同じような画風の模造品が生み出されていることに気づいたのだ。クライアントがアーティストに依頼するのをやめ、代わりにAIツールを使って画像を制作したために仕事を失った人や、AIを使うように指示され、報酬が下がってしまった人も少なからずいた。

アーティストたちは今、反撃に出ている。反撃に使われている強力なツールのうちいくつかは、シカゴ大学のコンピューターサイエンスの博士課程に在籍し、MITテクノロジーレビューの「2024年のイノベーター」に選出されたショーン・シャン（26歳）が開発したものだ。

シャンはシカゴ大学の学部生のころ、AIのセキュリティとプライバシーについての取り組みを始め、顔認識技術で顔が認識されないようにするツール「フォークス（Fawkes）」の開発プロジェクトに参加した。そして、生成AIブームに苦しむアーティストたちと対話した結果、この分野における最大の闘いの1つの真っ只中に身を投じることになった。アーティストへの影響の大きさを知ったシャンと彼の指導教官であるベン・ジャオ教授（2006年版「35歳未満のイノベーター」に選出）とヘザー・ツェン教授（2005年版に選出）は、支援ツールの開発を決めた。3人は1000人を超えるアーティストから意見を集約し、必要とされているものと保護技術の使われ方を探った。

シャンは、アーティストが自分の画風をAIに模倣されないようにするツール「グレイズ（Glaze）」のアルゴリズムを構築した。Glazeは2023年のはじめに世に出たが、同年10月、シャンはチームとともに「ナイトシェード（Nightshade）」というツールも公開した。Nightshadeは見えない「毒」の層を画像に追加することで、画像生成AIモデルが画像をデータセットに取り込むのを妨害する。機械学習モデルの訓練データに十分な量の毒が取り込まれると、モデルが永久的に破壊されるとともに出力データが予測不可能なものになる可能性がある。どちらのアルゴリズムも、画像のピクセルに目に見えない変更を加える仕組みで、機械学習モデルがによる画像の解釈を混乱させることで機能する。

Glazeに対する反応には、「圧倒されると同時にストレスも大きかった」とシャンは語る。生成AIを支持する人たちからソーシャルメディア上で反発を受け、保護機能を突破しようとする試みもいくつか見られた。

だが、アーティストたちからの反応は非常に好意的だった。Glazeはこれまでに350万回近くダウンロードされている（Nightshadeも70万回を超えている）。また、人気の新しいアート・プラットフォーム「カーラ（Cara）」にも搭載されており、作り手が画像をアップロードする際に保護機能を埋め込むことができる。Glazeは、コンピューター・セキュリティ分野のトップ会議である「USENIXセキュリティ・シンポジウム」で、インターネット・ディフェンス賞を受賞した。

シャンのツールのおかげでアーティストたちは再びネット上で創作活動ができるようになった、とカーラ・オルティスは言う。オルティスはGlazeの開発でシャンのチームに協力したアーティストで、生成AI企業を著作権侵害で訴えた集団訴訟の一員でもある。

「アーティストたちは大きな情熱を持って創作活動をしていますが、そのコミュニティは巧みに利用され、搾取されてきました。彼らはそこに大きなエネルギーを注いでいるのです」とオルティスは語る。

ジャオ教授によると、アーティストがどのような保護を求めているかを最初に理解し、Fawkesに関する共同研究がGlazeの開発に生かせることに気づいたのは、シャンだったという。ジャオ教授は、技術面でのシャンの能力はこれまで見た中で最上級に属すると語っている。だが、本当に卓越しているのは、分野を超えた点をつなぐ能力なのだという。「そうした能力はなかなか訓練できるものではありません」。

シャンは、大企業から人々の手に力の均衡を取り戻したいと語る。

「現在、AI分野で力を持っているのはすべて民間企業であり、彼らは人々や社会を守るような仕事はしていません。彼らの仕事は株主を幸せにすることです」とシャンは言う。AI企業がアーティストたちと協力して、彼らがAIの恩恵を受けられるようにしたり、AIに自分の作品を使わせない選択肢を提示したりすることを、GlazeやNightshadeの開発を通して示すことが目標だ。これらのツールを使って自社の知的財産を保護することを模索している企業もある。

シャンは次なる目標として、規制当局によるAIモデルの監査や法律の施行を支援するツールの開発を目論んでいる。さらに、GlazeとNightshadeの開発をさらに進めて、ゲームや音楽、ジャーナリズムといった産業にも簡単に応用できるようにする計画もある。「生涯をかけてこのプロジェクトに取り組んでいくつもりです」。

• 6

人気の記事ランキング

1. Weight-loss injections have taken over the internet. But what does this mean for people IRL? 週1回の注射で痩せる 「驚異の減量薬」 ブームに潜む危険
2. Promotion MITTR Emerging Technology Nite #30 MITTR主催「生成AIと法規制のこの1年」開催のご案内
3. How “personhood credentials” could help prove you’re a human online オープンAIやMITが「人間の証明」提唱、AIなりすましに備え
4. What this futuristic Olympics video says about the state of generative AI AI生成動画が描いた、1000年後のLAオリンピック
5. Escaping Spotify’s algorithm ミックステープ文化の逆襲、 スポティファイで失われた 音楽の楽しみを取り戻す方法