「おすすめ」アルゴリズムは、現在、最も強力な機械学習システムの部類に挙げられる。人々が消費する情報を形作る、その能力のせいだ。特に、ユーチューブ（YouTube）のアルゴリズムは並外れて強い影響力を持つ。ユーチューブのWeb上のトラフィックは、グーグルに次いで2番目であり、ユーザーが視聴する動画の70%が「おすすめ」アルゴリズムによって提供されたものだと推定されている。
近年、ユーチューブのおすすめアルゴリズムの影響力に、極めて厳しい視線が注がれている。それは、同アルゴリズムが人々を動画にくぎ付けにするために最適化された結果、ユーザーがすでに好んでいたり、信じていたりするものをさらに強化する動画を勧める傾向があり、ひいては他の考え方を締め出してしまう中毒性があるからだ。同アルゴリズムはしばしば、最も急進的で物議をかもす動画をユーザーにおすすめし、調査結果が示すように、いともたやすく人々をコンテンツという深いウサギ穴に突き落として過激な政治思想へ導いてしまう。
ユーチューブは公けには、このような問題に対処するための取り組みをしていると言っているが、同社の親会社であるグーグルの新たな論文では、別のことを述べているようだ。この論文では、ユーチューブのアルゴリズムをアップデートし、さらに的を絞ったコンテンツをユーザーに勧めるように提案している。ユーチューブに対するエンゲージメント（ユーザーの愛着）を高めるためだ。
ユーチューブのおすすめアルゴリズムの現在の仕組みはこうだ。まず、ユーザーが視聴している動画のトピックやその他の特徴にマッチする動画を見つけ、数百の動画の候補リストにまとめて、おすすめ動画のサイドバーを埋める。次に、そのリスト項目をユーザーの嗜好によってランク付けする。ユーザーの嗜好は、ユーザーのそれまでのクリック数や「高く評価」しているかどうかなどのやり取りを、機械学習アルゴリズムに与えて学習させる。
新たな論文で提案されたアップデートの中で、研究者たちは特に、「潜在的なバイアス（偏り）」と認 …