ニューズラインエマージング・テクノロジーの最新情報をお届け。

ユーチューブ（YouTube）は6月5日に、ヘイトスピーチに関する新ルールを発表した。ナチのイデオロギーを宣伝する動画やホロコーストの存在を否定する動画、サンディフック小学校銃乱射事件のような暴力的行為の記録動画などを禁止するというものだ。これにより、数千チャンネルが閉鎖される見込みだ。だが今度は、複数の教師らが、ナチスの歴史について啓発するためにアップロードされた動画が削除されたとして苦情を出しているという。ガーディアン紙が伝えた。

ヘイトスピーチとその監視方法はユーチューブや他のソーシャルプラットフォームにとって新しい課題ではない。しかし、今回の件は、緊張感を伴う複雑なバランスを有するコンテンツの監視や排除は、方針やアルゴリズムの微調整によって予期せぬ結果を招くリスクがあることを物語っている。それはまた、私たちがネットで消費するコンテンツの管理者として、巨大テック企業がどれほどの力を握っているのかを改めて思い出されるものだ。

だが、問題が複雑だからといって、ユーチューブが責任を回避できるわけではない。ニューヨーク・タイムズ紙は6月3日、ユーチューブの「おすすめ」機能（全閲覧数の70%を叩き出している）が児童性愛者に子どもたちの動画を見つけやすくしていることを明らかにした。ある上院議員は、ユーチューブはあらゆる未成年者の動画をおすすめから完全に外すべきだと述べたが、ユーチューブの視聴者のかなりの割合が子どもであることを考慮すると、同社がその手段を取るとは考えにくい。ユーチューブはまた、ゲイのラテン系ジャーナリストを悩ませる右翼の人格攻撃の排除をめぐっても態度を急変させた。