機械学習で偽アカウント検出
フェイスブック対スパマーの
終わりなき戦い

2019年、フェイスブックは四半期あたり平均20億近くの偽アカウントを削除した。詐欺師たちはこれらの偽のアカウントを使って、スパムやフィッシングサイトへのリンク、マルウェアなどを拡散する。罠にかかった罪のないユーザーに壊滅的な被害を与えかねない、「儲かる」ビジネスだ。

フェイスブックは現在、偽アカウントの問題に取り組むために使用している機械学習システムの詳細を公表している。フェイスブックは偽アカウントを2種類に区別する。1つは、「ユーザーによって誤って分類されたアカウント」だ。それらは企業またはペットの個人プロファイルであり、本来は「ページ」にすべきものだ。これは比較的簡単に処理できる。ページに変換するだけで済むからだ。 一方、「違反アカウント」は深刻だ。詐欺やスパムに関与したり、プラットフォームの利用規約に違反したりする個人プロファイルだからだ。違反アカウントは、適用範囲を広げすぎたり本物のアカウントを妨害したりすることがないよう配慮しつつ、できるだけ速やかに削除する必要がある。

そのためフェイスブックは、手動でコーディングしたルールと機械学習を使用して、アカウントの作成前あるいはアカウントがアクティブになる前に（つまり、実際のユーザーに害を及ぼす前に）、偽アカウントの作成をブロックしている。それでもすり抜けてしまった場合は偽アカウントの公開後に対応するが、これまでは検出が複雑で難しかった。そこで登場したのが、「ディープ・エンティティ・クラシフィケーション（Deep Entity Classification：DEC）」と同社が呼ぶ、新しい機械学習システムだ。

深く調べる

DECは、そのアカウントがネットワーク全体でのどのようなコネクションのパターンを持っているかによって、偽のユーザーと実際のユー …

人気の記事ランキング

1. Who’s to blame for climate change? It’s surprisingly complicated. CO2排出「責任論」、単一指標では語れない複雑な現実
2. Exosomes are touted as a trendy cure-all. We don’t know if they work. 「奇跡の薬」エクソソーム、 効果不明も高額治療が横行
3. Who’s to blame for climate change? It’s surprisingly complicated. CO2排出「責任論」、単一指標では語れない複雑な現実
4. AI can now create a replica of your personality AIとの2時間の会話で「そっくりさん」、スタンフォードら新技術