ニューズラインエマージング・テクノロジーの最新情報をお届け。

社会は、オンライン上でのヘイト発言を止めさせるようフェイスブックに要求した。そして、まさに求めた通りのものを手にしたのだ。

ニューヨーク・タイムズ紙のマックス・フィッシャーが、1400ページ以上に及ぶフェイスブックの内部文書の抜粋を公開した。同文書には、7500人以上からなる同社の世界規模のコンテンツ・モデレーター部隊が従うルールが掲載されている。マザーボード（Motherboard）は以前、同文書の一部をすでに公開している。

この文書には、ガイドライン、制約、そして分類方法が雑然と詰め込まれている。ヘイト発言に対するルールだけでも「専門用語だらけで頭が痛くなるような文書が200ページもある」。文書には絵文字の解釈方法も含まれている（たとえば、😂 は「いやがらせ」と「賞賛」の両方の場面で使われる）。また、ヘイト発言をする可能性があるとして監視すべき人々や団体のリストも掲載されている。この文書から分かるのは、フェイスブックは同社が認めている以上に、「世界の言論に対するはるかに強力な裁定人である」ことだとフィッシャーは書いている。

ガイドラインの問題点は、複雑に込み入っているだけでなく、時代遅れのものや誤りが一部含まれていることである。加えて、フェイスブックが受けている（地域の）圧力に応じて、ガイドラインには大きなばらつきがある。「当局がフェイスブックを注意深く監視しているドイツでは、フェイスブックは多くの極右団体をブロックしています。しかし、隣国のオーストリアではたった1つの団体しかブロックしていません」。ほとんどのモデレーターはアウトソーシング企業に雇用されており、最低限のトレーニングしか受けていない。にも関わらず、政治的な出来事に応じて頻繁に変更されるルールに従い、しばしばグーグル翻訳を使いながら、複雑な判断を即座に下して、1日に1000件の投稿を処理することを期待されている。

この文書を見る限り、フェイスブックは中立的なパブリッシング・プラットフォームであると主張し続けることは到底できない。ガイドラインのあちこちに政治的な判断が散見されるからだ。

フェイスブックの元最高セキュリティ責任者（CSO）であるアレックス・スタモスが2018年10月にMITテクノロジーレビューに語っていた通りになった。社会はヘイト発言を取り締まるようフェイスブックに要求したが、より大きな権力を同社に与えただけだった。スタモス元CSOは次のように警告していた。「（テック企業により多くの対策を求めるのは）危険な方向です。これから5年後、10年後には、言語を人間と同じように理解する機械学習システムが存在するかもしれません。そうなれば、オンラインでのすべての発言に対して、機械の速度で、リアルタイムの修正が可能になってしまうかもしれません」。