来年は政治的に激動の年になるだろう。米国、台湾、インド、インドネシアなどの国で大統領選が予定され、40億人以上が投票に向かうため、2024年は史上最大の選挙の年となる。
そして選挙活動では、人工知能（AI）が斬新な方法で活用されている。米国では今年初め、フロリダ州知事ロン・デサンティスの共和党大統領予備選挙陣営がドナルド・トランプ前大統領の加工画像を投稿した。共和党全国委員会は、ジョー・バイデン大統領の再選活動の発表を受け、ディストピアの未来を描いたAI作成の広告を公開した。そしてつい先月、アルゼンチンの大統領候補者はそれぞれ、相手候補者をひどく描写した大量のAI生成コンテンツを作成した。このようなディープフェイクの急増は、新たな政治的競争の場の誕生を告げている。フリーダム・ハウス（Freedom House）が10月に発表した報告書によると、この1年間で少なくとも16か国で人々に疑念を芽生えさせ、反対派を中傷し、公開討論に影響を与えるためにAIが使用された。2024年は世界中で重要な投票が予定されているため、我々はさらなる混乱に備える必要がある。
今後1年の間に、ソーシャルメディア・プラットフォームにもパラダイム・シフトが起こるだろう。フェイスブックなどの活動により、我々はソーシャルメディアのことを「絶え間ないコンテンツが流れ、摩擦のないフィードバックが得られる、一元化されたグローバルな『町の公共広場』」として理解してきた。しかし、X（旧ツイッター）における騒乱や、Z世代におけるフェイスブック・ユーザーの減少、そしてティックトック（TikTok）やディスコード（Discord）といったアプリの台頭は、ソーシャルメディアの未来が大きく変わる可能性を示している。プラットフォームは成長を追求するため、人々の関心を集めることを重視したアルゴリズムや推奨を促進するフィードを通じて感情を増幅し続けた。
しかし、それはユーザーから主体性を奪い（ユーザーは見るものをコントロールできないものだ）、代わりに憎しみや不和に満ちた会話、そして十代の若者の間に蔓延する精神衛生上の問題を残していく。それは15年前に理想主義者たちが夢見た「グローバルで民主的な統一世界の対話」からは程遠いものだ。多くのユーザーがこうしたプラットフォームへの信頼を失い、さまよっている。収益は最大化したが、皮肉なことにそれが利益を損なっているということは明らかだ。
AIがソーシャルメディアをはるかに有害なものにし始めている今、プラットフォームと規制当局はユーザーの信頼を取り戻し、民主主義を守るために迅速に行動する必要がある。私はここに、プラットフォームがユーザーを保護するために強化すべき6つの技術的アプローチを提案する。規制や法律は、これらの行動の多くを奨励または義務付ける上で重要な役割を果たすだろう。これらの改革で誤報やデマに関する問題をすべて解決できるわけではないが、来年の選挙 …