メタバースの「覆面警察官」が語った仕事への誇り

人間のモデレーターが、実質現実（VR）の世界の安全性確保に不可欠であることが示されつつある。あるモデレーターは自分の仕事に誇りを持っていると語り、そのきっかけとなったある衝撃的な事件について話してくれた。 by Tate Ryan-Mosley2023.05.15

この記事は米国版ニュースレターを一部再編集したものです。

私は最近、インターネットの最先端で不可欠になりつつある新しい種類の仕事に関する記事を発表した。それはメタバースの「コンテンツ警察」の役割についての記事である。メタバースのコンテンツ・モデレーターは、実質現実（VR）ゴーグルを使って3Dの世界に潜入し、ユーザーと交流してリアルタイムで違反を取り締まる。まるっきり映画のような話だ。実際、ある意味ではまったくその通りである。ただ、アニメの世界のように見えるメタバースであっても、そこにいるのは現実に生き、悪事を働くかもしれない人々だ。そして悪事は直ちに取り締まらなければならない。

私はそうしたコンテンツ・モデレーターの一人であるラヴィ・イェッカンティという人物とチャットをした。彼は、メタバース企業にサービスを提供するサードパーティのコンテンツ・モデレーション企業、ウェブピュリティ（WebPurify）で働いている。イェッカンティはメタバース内でコンテンツ・モデレーションをして、他の人をモデレーターにするための訓練もしている。違反行為を毎日目にするが、仕事を愛しており、その重要性を誇りに思うと語った。記事ではイェッカンティの仕事がどのようなものなのかを説明したが、彼と話したことの中には、記事の形式に収まりきらないような興味深い情報がまだまだある。ここではそれを皆さんに伝えようと思う。

以下は、イェッカンティが自分の仕事について語ってくれたことだ。

——この仕事を始めたきっかけはなんでしょう。どうしてこの仕事に関心を持ったのですか？

この業界で働き始めたのは2014年でした。これまでにテキスト、画像、動画などのコンテンツを何十億と見てきました。仕事は初日からずっと気に入っています。モデレーションの仕事をしている人間が言うのも変かもしれませんが、私は映画、書籍、音楽のレビューからこの業界に入りました。趣味の延長のようなものでした。

——VRにおけるコンテンツ・モデレーションは、過去にしたことがある他の種類のコンテンツ・モデレーションの仕事とどう違いますか？

大きく違うのは体験です。VRにおけるコンテンツ・モデレーションはかなりリアルに感じられます。これまでにたくさんのコンテンツをレビューしてきましたが、VRでは実際にモデレーションしているのは人間の行動であるという点で決定的な違いがあります。

そして自分もVRの一部であり、自分の行動や属性が他のプレイヤーの違反行為を誘発することもあります。私はインド人で訛りがありますが、それがきっかけで他のプレイヤーがいじめ行為に走ることがあります。私のところに来て不快なことを言ったり、インド人であることをネタに私をからかったり、いじめたりといったように。

当然ですが、私たちは自分がモデレーターであるとは明かしません。警戒されたりしないように正体を隠しておかないといけません。

——VRの世界で初めてモデレーションをした時、怖くはありませんでしたか？

確かに感覚は全く違いました。生まれて初めてVRゴーグルを装着した時、畏怖の念を抱きましたね。言葉では表せない体験です。心地の良いものでした。VRでモデレーションを始めて、他のプレイヤーと一緒にゲームを試してみると、少し怖くなってきました。原因は言語の違いかもしれませんし、出会ったこともない世界各地の人たちと一緒にいることを意識するからかもしれません。それに、自分のパーソナルスペースというものもありませんでした。

——メタバースのモデレーションのために、どのような準備をしているのでしょうか？チームの新しいメンバーには、どんな訓練をしているのでしょう？

まずは技能面の準備です。潜入捜査をすると同時にゲームのホストとして振る舞うため、私たちのポリシーを頭に入れておきます。会話を切り出し、他のプレイヤーが楽しんでいるかどうかを尋ね、ゲームの遊び方を教えることが私たちには求められています。

次の準備はメンタルヘルスに関することです。全員のプレイヤーがこちらの望むように振る舞ってくれるわけではありません。嫌がらせをするためだけに来ている人もいます。直面しうるさまざまなシナリオを知り、それにうまく対処する方法を学ぶことで備えます。

私たちはまた、あらゆることを追跡しています。自分たちが遊んでいるゲーム、そのゲームに参加したプレイヤー、ゲームを開始した時間と終了した時間などです。ゲーム中の会話の内容はなんであったか、プレイヤーは汚い言葉を使っていないか、プレイヤーは悪い態度を取っていないか、といったことも追跡します。

時には、イライラのあまり暴言を吐くというような際どいラインの行動を目にすることもあります。それも追跡対象です。プラットフォーム上には子どもがいるかもしれませんから。さらに、そのような振る舞いが一定の限度を超えた場合、たとえば、あまりに個人的なことに及ぶなどした場合は、こちらの対応の選択肢も変わってきます。

——たとえば誰かが非常に人種差別的な発現をした場合、どうするように訓練を受けましたか？

そうですね、追跡内容に基づいて週次報告書を作成し、クライアント企業に提出します。プレイヤーが違反行為を繰り返した度合いによっては、クライアント企業側で何らかの措置を決定することがあります。

リアルタイムで非常に悪質な違反行為があり、ポリシー・ガイドラインに抵触した場合は、別の手段を取ります。対象となるプレイヤーをミュートし、発言が他のプレイヤーに聞こえないようにすることがあります。そのプレイヤーをゲームから追い出した上で、出来事の録音を添えて、クライアント企業にそのプレイヤーを報告することもあります。

——この分野に詳しくない人にぜひ知ってもらいたいことはありますか？

とても楽しいということです。VRゴーグルを初めて着けたときの感覚は今でも覚えています。それに仕事しながら遊べるなんて、そうそうないですよ。

それと、みなさんにはコンテンツ・モデレーションが大切なことであると知ってほしいです。以前、テキスト（このメタバース内ではありませんが）をレビューしていた時のことです。子どもが送信したテキストにこんなものがありました。「誰々に連れ去られて、地下室に閉じ込められた。スマホの電池が切れそう。誰かお願い、警察を呼んで。あいつが来る、お願い助けて」といった内容です。

本当だろうかと疑いました。どうするべきか？これは助けを求めるプラットフォームではありません。ともかくも私は、会社の法務部にそのメッセージを送信し、警察が現場に向かいました。その数カ月後に聞いた話ですが、警察が現場に到着すると、全身アザだらけの男の子が縛られて地下室にいるのが見つかったそうです。

私個人にとって、これは人生を変えた瞬間でした。私はずっとこの仕事について、本当にやりたいことが見つかるまでの腰掛けぐらいに思っていたからです。だいたいの人はこの仕事について、同じように考えているものです。けれどこの一件で私の人生は変わりました。この仕事が現実の世界に影響を及ぼすものなのだと理解できたのです。文字どおり、子どもの命を助けたのですから。私のチームは本当に子どもを救いました。全員、それを誇りに思っています。あの日、私は決心しました。モデレーターを続け、この仕事は本当に大切なのだとみんなにわかってもらえるようにしようと。

◆

テック政策関連の気になるニュース

アナリティクス会社のパランティア（Palantir）が軍事上の戦略的決定を支援するための人工知能（AI）プラットフォームを開発した。「チャットGPT（ChatGPT）」に似たチャットボットを備え、衛星画像を分析して攻撃計画を生成できる。同社は、このプラットフォームは倫理に則り活用されると約束しているが……。

ツイッターの青いチェックマークの崩壊は現実世界に影響を与え始めている。ツイッター上で何を、そして誰を信じるべきかの判断が難しくなり、誤情報が蔓延している。ニューヨーク・タイムズ紙によれば、ツイッターが以前の認証バッジを削除してから24時間以内に、少なくとも11のアカウントが新たにロサンゼルス市警アカウントのなりすましを始めたという。

テック政策関連の注目研究

オンライン上でユーザーが偽情報を報告することの有効性は、以前考えられていたよりも高いかもしれない。スタンフォード大学が発行する「オンライントラスト・アンド・セーフティ誌（Journal of Online Trust and Safety）」で発表された新しい研究により、フェイスブックおよびインスタグラムにおけるユーザーのフェイクニュース報告は、フィードバックやコンテンツの種類など特定の性質に応じて選別した場合、偽情報対策としてかなり有効となることが示された。ユーザーによる偽情報の報告がどれほど正確かを定量的に評価する研究はこれが初めてであり、クラウドソーシングによるコンテンツ・モデレーションの有効性を示唆する好材料である。

人気の記事ランキング

テイト・ライアン・モズリー [Tate Ryan-Mosley]米国版テック政策担当上級記者: 新しいテクノロジーが政治機構、人権、世界の民主主義国家の健全性に与える影響について取材するほか、ポッドキャストやデータ・ジャーナリズムのプロジェクトにも多く参加している。記者になる以前は、MITテクノロジーレビューの研究員としてニュース・ルームで特別調査プロジェクトを担当した。前職は大企業の新興技術戦略に関するコンサルタント。2012年には、ケロッグ国際問題研究所のフェローとして、紛争と戦後復興を専門に研究していた。