ティックトック（TikTok）で「ジギー・タイラー」という名前で活動しているクリエイターは昨年の夏、「ティックトック・クリエイター・マーケットプレイス（TikTok Creator Marketplace：TCM）」で発見した不穏な問題を告発する動画を投稿した。TCMはスポンサード・コンテンツにお金を出したい企業とクリエイターをつなぐツールだ。タイラーは自身のTCMのプロフィールに、「Black lives matter（ブラック・ライブズ・マター）」や「supporting Black excellence（黒人の卓越性を後押しする）」といった言葉を入力できなかったと語った。一方で、「white supremacy（白人至上主義）」や「supporting white excellence（白人の卓越性を後押しする）」といった言葉は使えたという。

ティックトックに多くの時間を割いている人なら、おそらくクリエイターが同様の問題について語っているのを目にしたことがあるだろう。

コンテンツ・モデレーションの影響とそれらのルールを適用するアルゴリズムについて理解するには、2つの方法がある。1つはプラットフォーム側の公式の説明に依存する方法、もう1つはクリエイター自身に話を聞く方法だ。タイラーの件では、ティックトックは謝罪し、自動フィルターに責任を押し付けた。ヘイト・スピーチに関連する言葉に対して警告するように設定されていた自動フィルターが、明らかにコンテキストを理解できなかったという。

ちょうどタイラーの動画が口コミで大きく広まっていた頃、コーネル大学のブルック・エリン・ダフィ准教授は、大学院生のコルテン・マイズナーと協力して、ティックトック、インスタグラム、ツイッチ（Twitch）、ユーチューブ、ツイッターのクリエイター30人にインタビューしていた。目的は、クリエイター、特に社会的に疎外されているグループに属する人々が、自身が利用しているプラットフォームのアルゴリズムとモデレーションにどのように対応しているのかを調べることだった。

そこから見えてきたのは、次のようなことだった。クリエイターは、自分が利用しているプラットフォームでの経験から得たノウハウとプラットフォームとの関係を形作るアルゴリズムを理解するために、多大な労力を注ぎ込んでいる。多くのクリエイターは複数のプラットフォームを利用しているため、プラットフォームごとの隠されたルールを知る必要がある。クリエイターの中には、自身が直面したアルゴリズムやモデレーションのバイアスに対応するため、コンテンツの制作やプロモーションの方法を変更している人もいる。

近々公表予定の研究について、ダフィ准教授に話を聞いた（内容を明確にするため、インタビューは編集・要約している）。

◆

——クリエイターは、自分が有名になったプラットフォームのアルゴリズムやモデレーションが、いかに自分の露出に影響を与えるかについて長い間議論をしています。インタビューをしていて、最も驚いたことは何ですか？ 

クリエイターのアルゴリズムに対する理解が、彼らの経験から得たノウハウを形作っているのだということは感覚的に分かっていました。しかし、インタビューをした後で、それがクリエイターの日々の暮らしや仕事にどれほど深い影響を与えているのかということがはっきりと見えてきました。（中略）アルゴリズムを理解するために、どれだけの時間、エネルギー、気配りをつぎ込み、費やしていることか。アルゴリズムにはバイアスがある、というある種の批判的な認識をクリエイターは持っています。にもかかわらず、クリエイターはアルゴリズムを理解しようと、全精力を傾けているのです。それはクリエイター経済が偏った性質になっているということに注目を与えるものです。

——アルゴリズムによる抑制やモデレーションの慣習が原因で、コンテンツが検閲を受けたり、オーディエンスに届かなかったりする可能性について、クリエイターはどの程度の頻度で考えているのでしょうか？ 

クリエイターのコンテンツ制作やコンテンツ・プロモーションの方法の基本構造を形成していると思います。アルゴリズムは気まぐれに変わります。それを予見することはできません。多くの場合、プラットフォーム側から直接クリエイターへの連絡はありません。アルゴリズムの変更は、体験だけでなく収入にも全面的かつ根本的な影響を与えます。

彼らは非常に多くの時間と労力を費やしてこつこつと実験をします。「同じ種類のコンテンツを作る場合でも、別の日には変化をつけます。ある日はこんな服を着て、次の日には別の服を着ます」と話しています。あるいは、異なるハッシュタグのセットを試すというようなこともしています。

クリエイターは、オンラインとオフラインの両方でクリエイター・コミュニティと交流をしていると言っていました。そこでは、いかにアルゴリズムを攻略するのか、言っても良いことは何か、警告を受ける可能性があるものは何か、ということを議論しているそうです。クリエイターにとって、いくつかの重要な共同組織があります。それは従来のように組織化された労働者が考えるような組織とは異なるかもしれませんが、、クリエイターにとっては団結してトップダウン型の権力システムに立ち向かっていくための強力な手段なのです。

——あなたの研究を読みながら、考えていたことがあります。それは、クリエイターに通知をせずにコンテンツを非表示、あるいは一時的に非表示にする「シャドーバン」というモデレーション慣行についてです。プラットフォームはシャドーバンの定義について隠しているため、ジャーナリスト的な視点での報道は難しいのです。しかしシャドーバンは、クリエイターが長年に渡って懸念し続けてきた重要な問題の1つです。研究の中で、シャドーバンというコンセプトをどのように考察していますか？ 

シャドーバンを受けたと断言する人もいれば、「単にコンテンツが悪かっただけ」と言う人もいます。誰でもそういったさまざまな主張ができるため、非常に大きな問題なのです。

シャドーバンの曖昧さは、シャドーバンに力を持たせる一因となっています。プラットフォームで誰がシャドーバンされたのかを実際に証明する方法がないため、多くの憶測を呼ぶからです。しかしシャドーバンがあってもなくても、自分の露出が制限される罰を受けているかのようにクリエイターが振る舞うという事実は、真剣に検討する価値があります。

——こうした問題を解決するために、何かできるのでしょうか？ 

プラットフォームはWebサイトのそこかしこで、クリエイターにとっての利点を宣伝しています。もし十分な才能があって適切なコンテンツを提供できれば、クリエイターはオーディエンスとつながって大金を稼げるというわけです。クリエイターはデータとサイトへの訪問者数を通じて、プラットフォームに大金をもたらしています。しかし、コンテンツ・モデレーションのポリシーや、その適用にどれほどの不均衡があるかについてはほとんど発言権を持っていません。抜本的な透明性の確保は絵空事かもしれませんが、クリエイターのビジネスに根本的な影響を与える決定に関しては、彼らにもっと発言権が与えられて然るべきだと考えています。

• 6
• 6

人気の記事ランキング

1. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
2. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
3. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
4. We saw a demo of the new AI system powering Anduril’s vision for war オープンAIと手を組んだ 防衛スタートアップが目指す 「戦争のアップデート」