巨大掲示板を支える自動化
コンテンツ監視の未来

シェーガン・ジェイヴァーは過去4年間、いくつかのサブレディット（投稿サイト「レディット（Reddit）」における「板」）をモデレートしてきた。ページを入念にスクロールし、コミュニティ規則に違反したり、あからさまに不快だったりする投稿をブロックする仕事だ。

コンテンツ・モデレーションについて研究しているジョージア工科大学博士課程生のジェイヴァーは、自動モデレーターが時間の節約だけでなく、心を弱らせるようなコンテンツをふるいにかけることができれば、人間のモデレーターの精神的な負担を軽減できるのではないかと考えた。 そこでジェイヴァーは3人の研究仲間とともに自動モデレーターの「オートモッド（AutoMod）」と呼ばれるシステムが実際に使えるかどうか検証した。

研究チームはレディットのいくつかのページを自らモデレートし、特に人気のあるサブレディットの16人のモデレーターにインタビューした。「r/photoshopbattles」「r/space」「r/explainlikeimfive」「r/oddlysatisfying」「r/politics」など、それぞれに数百万人の参加者がいるサブレディットだ。これらはすべてオートモッドの力を借りてモデレートしている。 ジェイヴァーはその成果を11月初旬、ACM（Association for Computing Machinery）の学会で発表した。

フェイスブック、インスタグラム、ユーチューブなどのソーシャルメディア・プラットフォームは、これまで長らく人間のモデレーターの手作業に依存してきた。コンテンツをくまなく調べ、人種差別や性差別のヘイト・スピーチから、銃乱射の生々しい映像に至るまでの暴力的で不快な要素を削除する仕事は、 多くの場合、最低賃金とわずかな手当てで働いているモデレーターたちによって支えられている。彼らは、深刻な精神的ダメージをもたらすコンテンツの打撃を受けな …

人気の記事ランキング

1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
2. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作り出す、驚きのマイクラ風生成動画