ブルースカイで「なりすまし」相次ぐ、ユーザー急増で対策後手

新興ソーシャルメディア・プラットフォーム「ブルースカイ」で著名人になりすました詐欺アカウントが横行している。わずか数カ月で1000万人から2000万人以上に利用者が倍増し、本人確認の仕組みやモデレーション体制の整備が追いついていない。 by Melissa Heikkilä2024.12.12

他の多くの人たちと同じように、私は最近、ソーシャルメディア・プラットフォームの「X」から離れ、ブルースカイ（Bluesky）へ移行した。その過程で、Xでフォローしていた人々の多くをブルースカイでもフォローし始めた。

感謝祭の日、ワイアード（Wired）のAI担当記者であるウィル・ナイトからプライベート・メッセージが届き、私は喜んだ。少なくとも私は、ナイト記者と会話をしているつもりだった。だが、ナイトを名乗る人物がマイアミ出身だと語ったとき、私は疑念を抱いた。実際のナイト記者は英国出身である。そのアカウントのハンドルネームは、本物のウィル・ナイトのハンドルネームとほとんど同じで、プロフィール写真も彼のものを使っていた。

その後、さらに多くのメッセージが届き始めた。著名なテック評論家であるパリス・マルクスからDM（ダイレクト・メッセージ）が届き、私の様子を尋ねてきたのだ。「こっちは絶好調です」と、彼は返信してきた。その後、様子が再び怪しくなった。「取引の調子はどうですか？」。偽マルクスは尋ねてきた。このアカウントはナイト記者のアカウントよりもはるかに洗練されており、過去数週間のツイートやリツイートをマルクスの本物のページから1つ1つ丹念にコピーしていた。

どちらのアカウントも最終的に削除されたが、削除される前には、暗号資産ウォレットと「クラウド・マイニング・プール（cloud mining pool）」のアカウントを私に設定させようとしてきた。ナイト記者とマルクスは本誌の取材に対し、アカウントが自分のものではないこと、そしてこうした「なりすまし」アカウントと数週間にわたって戦ってきたことを告げた。

ナイト記者やマルクスだけではない。ニューヨーク・タイムズ紙のテック系ジャーナリストであるシーラ・フランケルと、研究者で暗号通貨評論家のモリー・ホワイトも、ブルースカイ上での「なりしまし」被害を経験している。これらの偽アカウントの目的は、おそらく詐欺を働くことだったと考えられる。これは、コーネル工科大学セキュリティ・信頼・安全性イニシアチブ（Security, Trust, and Safety Initiative）のアレクシオス・マンツァーリス所長の調査結果と一致する。同所長がブルースカイ上でフォロワー数上位500人のユーザーを手作業でくまなく調べたところ、実名が付けられているアカウント305個のうち、74個のアカウントには少なくとも1つ、場合によっては複数のなりすましアカウントが確認された。

このプラットフォームはここ数カ月で、突然流入した数百万人の新規ユーザーに対応しなければならなくなった。イーロン・マスクによる買収に抗議する人々が、Xから離れたためだ。9月以降、ブルースカイのユーザー基盤は、1000万ユーザーから2000万ユーザー以上へと倍増した。この突然押し寄せた新規ユーザーの波と、それに伴って必然的に現れる詐欺師たちの存在は、ブルースカイがまだ対応に追われている最中であることを示していると、ホワイトは言う。

「これらのアカウントは、作成されるとすぐに私をブロックするため、最初は見ることができません」と、マルクスは言う。マルクスもホワイトも、1つのアカウントが削除されるとすぐに別のアカウントが現れるという、イライラさせられる経験をしている。ホワイトによれば、Xとティックトック（TikTok）でも同じような傾向があったという。

自分が本人であることを証明する方法があれば、こうした事態は防げるかもしれない。イーロン・マスクが買収する以前、かつてのツイッターでは、ジャーナリストや政治家といったユーザーを認証し、ハンドルネームの横に青色のチェックマークを付けていた。それによって人々は、相手が信頼できるニュースソースであることを確認できた。だが、マスクは買収後にこの旧来の認証システムを廃止し、有料顧客に青いチェックマークを提供する方針に切り替えた。

相次ぐ暗号資産なりすまし詐欺によって、旧来のツイッターの認証プロフィールに似たような仕組みを導入するよう、ブルースカイに対して求める声が高まっている。調査ジャーナリストのハンター・ウォーカーなど、一部のユーザーは、ジャーナリストを独自に認証する取り組みを始めた。しかし現在のところ、ユーザーがこのプラットフォーム上で自分自身を照明できる方法は限られている。ブルースカイ上で使用されるユーザー名には、デフォルトで「bsky.social」という接尾辞が付けられる。このプラットフォームでは、報道機関や著名人が自分自身のWebサイトをユーザー名として設定し、それによって身元を証明することを推奨している。たとえば、米国の上院議員は「senate.gov」という接尾辞を使って自分のアカウントを証明してきた。しかし、この手法は完全ではない。実際にその人自身を証明しているわけではなく、特定のWebサイトに関連付けられていることを証明しているだけだからだ。

MITテクノロジーレビューはブルースカイにコメントを求めたが、返答はなかった。しかし同社の安全性チームは、このプラットフォームがなりすましに関するポリシーをより厳格なものに更新し、なりすましアカウントやハンドルネームを不正に取得しているアカウントを削除する方針を投稿した。また、なりすましの通報により迅速に対応するため、モデレーション・チームを4倍に増員したとも述べている。ただ、それでも対応は追いついていないようだ。「以前にお伝えしたように、新規ユーザーの急増によって大量のモデレーション報告が未処理のままとなっています。それでも進展はしています」。ブルースカイは続けてこう述べている。

ブルースカイの非中央集権型の性質が、なりすまし問題の解決をより困難にしている。Xやスレッズ（Threads）などの競合プラットフォームは、社内の中央集権的なチームによって、なりすましのような好ましくないコンテンツや行為をモデレーションしている。対してブルースカイは非中央集権型のオープンソース技術であるATプロトコルをベースに構築されており、ユーザーがどのような種類のコンテンツを見るか、自分でコントロールしたり、特定のコンテンツを中心としたコミュニティを構築したりすることが可能だ。ほとんどの人は、メインのソーシャル・ネットワークであるブルースカイ・ソーシャルにサインアップする。このサービスには、なりすましを禁止する独自のコミュニティ・ガイドラインがある。ブルースカイ・ソーシャルは、ブルースカイの利用方法の1つにすぎず、他のサービスにはそれぞれ独自のモデレーション慣行や規約がある。

ブルースカイが依存するこのコミュニティ主導型のアプローチは、これまでブルースカイ自身が、望ましくない行為を排除するのに大勢のコンテンツモデレーターを必要としてこなかったことを示していると、デジタル・アイデンティティ企業「スプルースID（SpruceID）」のウェイン・チャン創業者兼CEOは言う。しかし、こうしたアプローチを見直す必要が出てくるかもしれない。

「そもそも、このようなアプリを機能させるためには、ある程度の中央集権化が必要です」。チャンCEOは言う。コミュニティ・ガイドラインがあるにもかかわらず、なりすましアカウントの作成を阻止するのは難しく、ブルースカイは疑わしいアカウントを削除しようとして「いたちごっこ」に陥っている。

なりすましのような問題を取り締まることは重要であると、チャンCEOは言う。ブルースカイの信頼性に深刻な影響を及ぼす可能性があるからだ。「『ちょっと、詐欺師たちが私に嫌がらせをしていますよ。自分のブランドを傷つけたいのですか？そうでなければ、私たちにできることは何かありませんか』と訴えることは、ブルースカイのユーザーとして正当な苦情です」。

ブルースカイのオープンソース・コードを攻撃者が悪用して、はるかに大規模なスパムや偽情報キャンペーンを作り出す可能性があるため、この問題を解決することは急務であると、ブルースカイを調査してきたミラノ工科大学のフランチェスコ・ピエッリ助教授は言う。ピエッリの研究チームは、ブルースカイが一般公開されて以来、疑わしいアカウントが増加していることを発見した。

ブルースカイは、現在の取り組みが不十分であることを認めている。ある投稿記事の中でブルースカイは、ドメイン認証以外にもっと多くの本人確認方法をユーザーが求めているというフィードバックを受けており、「アカウント認証を強化するための追加オプションを検討しています」と述べている。

ブルースカイのジェイ・グラバーCEOは、11月末のライブ配信で、このプラットフォームが認証プロバイダーになることを検討していると述べた。ただ、非中央集権型のアプローチを採用しているため、他の企業が独自のユーザー認証サービスを提供できる仕組みも導入する予定だという。「そうすることで、（ユーザーは）私たちブルースカイチームの認証を信頼することを選択できます。または、自分たち自身で認証することも可能です。あるいは、他の企業や個人が独自に認証する可能性もあります」。

しかし、少なくともブルースカイには、「プラットフォーム上のコンテンツを実際にモデレーションしようとするある程度の意思がある」ようだとホワイトは言い、「あれこれ報告する必要がない、もう少し先を見越した仕組みがあればとてもよかったのですが」と付け加えた。

「本当に誰も暗号資産詐欺に騙されないことを願うばかりです」とマルクスは述べた。

人気の記事ランキング

メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者: MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ（POLITICO）』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」（欧州メディア部門）に選出された。