かつての栄光は失われてしまった。 10年以上前、ソーシャルメディアはアラブ世界やその他の地域で民主主義を求める人々の蜂起を支援したとして称賛を受けた。だが現在では、ソーシャルプラットフォームは誤情報や企業の陰謀、不正行為、精神的健康（メンタルヘルス）に対するリスクなどを生み出す一因となっているという記事がメディアのトップページを賑わしている。2022年の調査では、米国人は政治的言論の粗雑化や、誤情報の拡散、党派支持層の二極化増大の原因としてソーシャルメディアを非難していることが明らかになった。
今、テック企業が最も力を注いでいるのはAI（人工知能）だ。ソーシャルメディア同様、AIはさまざまな形で世界を変える可能性を秘めており、その中には民主主義にとって好ましいものも含まれる。しかし、同時に社会に極めて大きなダメージを与える可能性も持っている。
過去10年間にわたりソーシャルメディアが規制を受けずに進化してきたことについて、私たちが学べることは多い。その学びはAI企業やテクノロジーに直接活かすことができる。これらの教訓は、私たちがソーシャルメディアで犯した間違いをAIで繰り返さないようにするのに役立つ。
特に、ソーシャルメディアが持つ5つの根本的特性が社会に悪影響を及ぼしてきた。AIもまたそのような特性を持っている。注意すべきは、それらが本質的に悪というわけではないことだ。5つの根本的特性はすべて諸刃の剣であり、善にも悪にもなり得る可能性を持っている。誰がそれを利用し、その力が何に対して利用されるのかによっては危険が生じる。ソーシャルメディアに当てはまってきたことは、AIも同様だと考えられる。どちらのケースでも、解決策はテクノロジー利用に対する制限にある。
1.広告
インターネットの世界で広告が果たす役割は、偶然にも、そのほかの何よりも大きくなっている。インターネットが初めて商用化された頃は、ユーザーが Webページ閲覧などのためにマイクロペイメント（少額支払い）をする簡単な方法などなかった。加えて、ユーザーは無料のアクセスに慣れており、サービスのサブスクリプションというモデルを受け入れようとしなかった。広告は、決してそれがベストなものではないとしても、明白なビジネスモデルだった。ソーシャルメディアも依存するモデルだが、それによりソーシャルメディアは何よりもエンゲージメントを優先するようになっている。
グーグルもフェイスブックも、数千億ドル規模のネット広告市場（そう、数千億ドル規模だ）を掌握するためにAIが役に立つと信じている。また、マイクロソフトやアマゾンなどのような従来、広告への依存度が比較的低いテクノロジー大手も、ネット広告市場でより大きなシェアを握るためにAIが役に立つと信じている。
巨大テック企業は、プラットフォームへの支出を継続するように広告主を説得するための材料を必要としている。ターゲット・マーケティングの有効性についての大げさな主張はあるものの、研究者たちはネット広告が実際に、どこで、どんな時に、影響力を持つのか実証するのに長い間苦労してきた。ウーバーやP＆Gなどの大手広告主が最近、デジタル広告に対する支出を数億ドル規模で削減したが、各社は売上には全く影響がなかったと公表している。
業界のリーダーたちは「AIを駆使した広告はかなり良いものになるでしょう」と言うだろう。グーグルは、ユーザーの検索内容に応じてAIが広告コピーを調整できること、また、AIアルゴリズムが最大の成果が出るようにキャンペーンを設定できることを広告主に保証するだろう。アマゾンは、トースターの商品ページをより素敵なものにするために、広告主に自社の画像生成AIを使うよう望んでいるだろう。IBMは自社のワトソンAIが、広告主の広告をより良いものにすると自信を持っているだろう。
これらの手法は人為的操作と紙一重だが、ユーザーにとっての最大のリスクは AIチャットボットの中にある広告から生じる。グーグルやメタがユーザーの検索結果やフィードに広告を埋め込むのと同様に、AI企業も（チャットボットとの）会話に広告を埋め込むよう圧力をかけられることになるだろう。そして、ユーザーとAIチャットボットとの会話は人間同士のような関係性が築かれるため、より有害になる可能性がある。私たちの多くは、アマゾンやグーグルの検索結果ページに出てくる広告をスクロールしてやり過ごすのはだいぶ上手くなったが、AIチャットボットがある製品について言及しているとき、それがユーザーの質問に対する適切な答えなのか、それともAIデベロッパーがメーカーからキックバックを受けているからなのかを見極めるのは、はるかに難しいだろう。
2.監視
Webサイトを収益化する主な方法として、ソーシャルメディアが広告に依存していることがパーソナライズにつながっている。そしてパーソナライズにより、ますます頻繁に監視されるようになった。ソーシャルプラットフォームが、個々のユーザーに最大限アピールできるように広告を調整できることを広告主に納得させるため、プラットフォームはユーザーに関する情報をできる限り多く収集できることを実証しなければならない。
どれだけのスパイ活動が実行されているかは、どんなに誇張してもしすぎるということはない。コンシューマー・レポート（Consumer Reports）が最近実施したフェイスブックについての分析（対象はフェイスブックのみ）によれば、ユーザー1人当たり平均2200社以上の企業が、ユーザーのWebアクティビティを監視していることが分かった。
AIを活用し、広告主から支持されるプラットフォームは、ソーシャルプラットフォームが直面しているものと全く同じいびつで強力な市場インセンティブに直面することになるだろう。チャットボットの運用会社が、自社のチャットボットがユーザーの位置情報や、嗜好に関するデータ、過去のチャット履歴などに基づいてターゲットを絞り、製品を購入するよう説得できると主張できれば、高額な広告出稿料を請求できるだろう。これは容易に想像できる。
私たちが個人向けサービスをAIに依存する中、人為的操作が実施される可能性はますます高まるばかりだ。生成AIによって実現が見込まれることの1つに、AIがユーザーの代弁者となったり、ユーザーの執事としてふるまったりするのに十分に高度なデジタル・パーソナル・アシスタントになるということだ。これには、ユーザーが検索エンジンや、メール・プロバイダー、クラウド・ストレージシステム、電話との間に築く親密性よりもさらに親密な関係が必要となる。ユーザーはそれを常に自分のそばに置いておきたいと思うだろう。そして、ユーザーに代わって最も効果的に働くためには、ユーザーのすべてを知る必要がある。（チャットボットは）友人のように振る舞うので、ユーザーも友人として扱い、チャットボットが下す判断を誤って信頼してしまう可能性がある。
もしユーザーがAIアシスタントに自分のライフスタイルや嗜好を進んで知らせないと選択しても、AIテクノロジーにより、企業はより簡単にユーザーのことを知ることができるだろう。以前実施された実証では、ありふれた質問をすることで個人データをこっそりと引き出そうとする時に、チャットボットがどのように使われるのかが示されている。また、顧客サービス・システムからWebサイトの基本的な検索インターフェイスに至るまで、あらゆるものがチャットボットに統合されることが多くなる中、この種の推論データの収集に（ユーザーが）曝されることは避けられないかもしれない。
3.バイラリティ
ソーシャルメディアにより、ユーザーは誰でも自分の考えを表明できるようになり、即座に世界 …