この記事は、ジェフ・ホロウィッツ著『 BROKEN CODE: Inside Facebook and the Fight to Expose Its Harmful Secrets（壊れたコード：フェイスブックの内幕とその有害な秘密を暴く闘い）』（未邦訳） からの抜粋である。発行元であるダブルデイ（Doubleday）／ペンギン・ランダムハウスの許可を得て転載している。
Copyright © 2023 by Jeff Horwitz.
2006年、米国特許庁は、「自分以外のソーシャルネットワーク・ユーザーについて自分に関連する情報を含む、自動生成された表示」の申請を受理した。このシステムは、「整理されていない断片的な」コンテンツから関心のある項目を検索するようユーザーに強いるのではなく、「関連する」情報リストを「好ましい順序」で生成することを目的とするものだ。
申請書に記載されていた名前は「ザッカーバーグら」、製品名は「ニュースフィード（News Feed）」だった。
「複数のユーザーに活動のストリームを示す」というアイデア自体は、特に新しいものではなく、写真共有サイトのフリッカー（Flickr）などがすでに実験的に実施していた。だが、フェイスブックのシステムが引き起こした変化は大きかった。フェイスブックユーザーは以前、同サイトで主に通知や「Poke（ポーク、つつく）」、そして友人のプロフィールを見るといった交流活動をしていた。しかしニュースフィードの開始によりユーザーは、投稿やステータスの変更によって更新され続ける「ストリーム」を得られるようになった。
これは当時1000万人いたフェイスブックユーザーにとって衝撃的な変化だった。ユーザーたちは自分の活動が監視され、静的だったプロフィールが更新され続けるコンテンツによって掘り起こされることを喜ばなかった。広範な苦情を受けたザッカーバーグは、ユーザーを安心させるために「あなたの活動を流しているのではありません。むしろ、あなたの活動を気にかけてくれる人々、つまり友人たちとの共有を促進しているのです」というコメントを投稿した。投稿のタイトルは、「落ち着いて。息を吸って吐いて。私たちはあなたの意見を聞いています」だった。
しかし、ユーザーの苦情を「聞く」ことと、「きちんと耳を傾ける」ことは同じではない。同社のクリス・コックス（日本版注：現在はメタの最高製品責任者）が後にプレスイベントで述べたように、ニュースフィードはフェイスブック上での活動を促し、ユーザーを結びつけるという点ではすばやい成功を収めた。エンゲージメントはすぐに倍増し、開始から2週間以内に初めて100万人を超えるメンバーが1つのテーマに参加した。これほど多くの人たちを団結させたテーマとは、一体何だったのだろうか？ それは、「まるでストーカーのような」ニュースフィードを廃止するための請願活動であった。
ユーザーが反発したこの不透明なシステムは、今にして思えば驚くほど単純なものだった。コンテンツのほとんどが時系列の逆順に表示され、人気の投稿とさまざまなコンテンツの両方が確実に視聴されるよう手動で調整されていたのだ。「初期のニュースフィードのランキングは単純な微調整がされていました」とコックスは話す。
しばらくは、このシステムを少し調整するだけで十分うまくいっていた。ユーザーの友だちリストは拡大し、フェイスブックは「広告」、「ページ」、「興味のあるグループ」といった新機能を導入した。しかし、ニュースフィードのエンターテインメント、ミーム、商業活動などが友人の投稿と競合し始めるようになった。そのため、フェイスブックはログインしたばかりのユーザーが、料理ページにある人気のエンチラーダ（日本版注：メキシコ料理の一種）のレシピよりも先に、親友の婚約写真を確実に見られるようにしなければならなかった。
最終的に「エッジランク」と名付けられたこの初期の選別方法は、「投稿の日付」「エンゲージメント量」「ユーザーと投稿者の相互関係」という3つの主要要素に従い、コンテンツに優先順位を付けるというシンプルな図式によるものだった。エッジランクは大したアルゴリズムではなく、単に「新しいか、人気があるか、大事な人からのものか」という質問を大まかに数値化しただけだった。
そこに黒魔術的な要素は全くなかった。だが、ユーザーたちは、フェイスブックが自分の見たものに「いいね！」を付けるというアイデアに再び反発した。しかしその結果、フェイスブックの使用状況を示す指標全体が再び急上昇したのだった。
フェイスブック・プラットフォームの「レコメンデーション・システム」はまだ初期段階にあったが、ユーザーの大きな反対の声と熱心な使用との間にギャップが生じた。その結果、フェイスブックは「システムに関する一般人の意見は無視するのが一番」という不可避の結論に達したのだった。ユーザーは「やめて」と叫んだが、フェイスブックは運用し続けた。そしてしばらくは、これですべてが上手くいったのである。
2010年までには、フェイスブックは「エッジランク」の単純な図式を超え、モデルを訓練して独自の意思決定アルゴリズムを設計することに焦点を当てた、人工知能（AI）分野の機械学習に基づくコンテンツ推奨を目指すようになっていた。エンジニアたちは、単純な計算式に従ってコンテンツをランク付けするように同社のコンピューターをプログラミングするのではなく、ユーザー行動を分析し、独自のランキング計算式を設計するようにプログラミングしたのだ。ユーザーが目にしたのは絶え間ない実験の結果だった。フェイスブックはユーザーから「いいね！」を獲得する可能性が最も高いと予想するものを提供し、その結果をリアルタイムで評価するようになった。
しかし、同社の製品の複雑さが増し、かつてない規模でユーザーのデータを収集し始めたにもかかわらず、フェイスブックはユーザーに関する知識を、関連性の高い広告を表示できるほど十分にはまだ持ってはいなかった。広告主は、フェイスブックでコンテンツを作成することで得られる注目度と話題性の高さは気に入っていたが、有料広告サービスには魅力を感じていなかった。2012年5月、ゼネラルモーターズ（General Motors）はフェイスブックの広告予算をすべて取りさげた。著名なデジタル広告の幹部は、フェイスブックの広告は「基本的にWeb上でもっともパフォーマンスが悪い広告部門の1つ」だと評した。
この問題の解決は、ホアキン・キニョネロ・カンデラが率いるチームにかかっていた。モロッコで育ったスペイン人のキニョネロは英国に住んでいた。2011年、北アフリカ全土にいる友人たちがソーシャルメディア主導の抗議活動について声を上げ始めた時、キニョネロはマイクロソフトでAI研究に取り組んでいた。 …