2月24～27日に台湾で開催されたデジタル人権に関する会議、「ライツコン（RightsCon）」に参加した。その時、私は、米国を含む世界各国の市民社会組織が、グローバルなデジタル人権活動の最大の資金提供者の1つである米国政府を失ったことに苦慮する様子をリアルタイムで目の当たりにした。

記事で書いたように、トランプ政権による衝撃的な米国政府の急速な骨抜き化（一部の著名な政治学者が「競争的権威主義」と呼ぶものの推進）は、米国のテック企業の業務や政策にも影響を与えている。 これらの企業の多くは、もちろん米国国外にも多くのユーザーを抱えている。ライツコンに参加した人々は、これらの企業がユーザー数が少ないコミュニティ（特に非英語圏のコミュニティ）と関わり、投資する意欲にすでに変化が見られると述べた。

その結果、特に欧州では、一部の政策立案者やビジネスリーダーが米国発のテクノロジーへの依存を見直し、より優れた自国発の代替策を迅速に立ち上げることができないか検討している。これは特に人工知能（AI）において顕著である。

その最もわかりやすい例のひとつが、ソーシャルメディアだ。ブラジルの国内テクノロジー政策を研究している法学者のヤスミン・クルジ教授は、私にこう言った。「第2次トランプ政権以降、私たちは、米国のソーシャルメディア・プラットフォームが最低限のことすらやってくれるとは期待できなくなりました」。

すでに自動化を利用し、問題のある投稿をフラグ付けするための大規模言語モデル（LLM）の展開も試みているソーシャルメディアのコンテンツ・モデレーション（監視）は、インド、南アフリカ、ブラジルなど、さまざまな場所でジェンダーに基づく暴力を検知できていない。プラットフォームがコンテンツ・モデレーションにLLMをさらに多く活用し始めれば、この問題はさらに悪化する可能性が高いと、欧州非営利法センター（ European Center for Not-for-Profit Law）でAIガバナンスを専門とする人権弁護士のマーレナ・ウィスニアックは言う。「LLMのモデレーションは不十分であり、その不十分なLLMが他のコンテンツのモデレーションにも使用されているのです」とウィスニアック弁護士は私に語った。「本当に堂々巡りで、エラーが繰り返され、拡大しているだけなのです」。

問題の一部は、システムが主に英語圏、それも米国英語のデータに基づいて訓練されていることである。その結果、他の地域の言語や文脈では、その性能が低下する。

複数の言語を同時に処理することを目的とした多言語言語モデルでさえ、非西洋言語では依然としてパフォーマンスが低い。たとえば、医療に関する問い合わせに対するチャットGPT（ChatGPT）の回答に関するある評価では、北米のデータセットではあまり多くない中国語とヒンディー語では、英語やスペイン語よりもはるかに悪い結果が出たことが分かった。

ライツコンに参加した多くの人々にとって、これはソーシャルメディアの文脈内外を問わず、AIに対するコミュニティ主導のアプローチを求める声の正当性を裏付けるものとなった。すなわち、特定の用途向けに設計され、特定の言語や文化的な文脈に特化した小規模な言語モデルやチャットボット、データセットなどである。

これらのシステムは、俗語や差別用語を認識し、複数の言語やアルファベットが混在する形で書かれた単語や文章を解釈し、「再生言語」（かつて差別用語として使用されていたが、対象グループが受け入れることを決めた言葉）を識別するように訓練できる。 これらはすべて、主に英米の英語に基づいて訓練された言語モデルや自動化システムでは見落とされたり、誤分類されたりする傾向がある。例えば、スタートアップ企業、ショアAI（Shhor AI）の創業者は、ライツコンでパネルを主催し、インドの地方言語に焦点を当てた新しいコンテンツ・モデレーションAPIについて語った。

多くの同様のソリューションが数年前から開発されているが、私たちは、英語以外の言語の訓練データを収集するモジラ（Mozilla）が後押しするボランティア主導の取り組みや、アフリカの言語向けにAIを構築する有望なスタートアップ企業レラパAI（Lelapa AI）など、多くのソリューションを取り上げてきた。今年に入って、2025年のブレークスルー・テクノロジー10（世界を変える10大技術）のリストに小規模な言語モデルを含めた。

それでも、現時点は少し違ったものに感じられる。米国のテック企業の行動や政策を形作る第2次トランプ政権は、明らかに大きな要因である。しかし、ほかにも要因はある。

まず、言語モデルに関する最近の研究開発では、データセットのサイズがもはやパフォーマンスの予測因子ではなくなり、より多くの人々が言語モデルを作成できるようになった。実際、「小規模言語モデルは、特定の低リソース言語においては、多言語言語モデルの有力な競合相手となり得ます」。自動コンテンツ管理を研究する民主主義と技術のためのセンター（Center for Democracy & Technology ）の客員研究員であるアリヤ・バティアは言う。

さらに、世界的な状況もある。AIの競争は、ライツコンの1週間前に開催された最近のパリAIサミットの主要テーマであった。それ以来、国（または組織）にAI開発のあらゆる側面を完全に制御させることを目的とする「ソブリン（主権）AI」イニシアティブに関する着実な発表の流れが続いている。

AIの主権は、より広範な「技術主権」への要望の一部に過ぎず、この要望も勢いを増している。このような要求は、米国に転送されるデータのプライバシーとセキュリティに関するより広範な懸念から生じているものだ。欧州連合は2024年11月、初の技術主権・安全保障・民主主義担当委員を任命し、「ユーロスタック」、すなわち「デジタル公共インフラ」の計画に取り組んでいる。この定義はまだ流動的であるが、現代社会や将来のイノベーションを支えるために必要なエネルギー、水、チップ、クラウドサービス、ソフトウェア、データ、AIなどが含まれる可能性がある。

現在、これらはすべて、主に米国のテック企業によって提供されている。欧州の取り組みは、インドのデジタルインフラである「インド・スタック」を一部モデルとしている。インド・スタックには、生体認証システム「アーダール（Aadhaar）」などがある。3月後半、オランダの立法者たちは、同国を米国のテック企業から切り離すためのいくつかの動議を可決した。

これは、スイスに拠点を置くデジタルプライバシー企業、プロトン（Proton）のアンディ・イェンCEO（最高経営責任者）が、ライツコンで私に語った内容と一致する。「トランプ大統領は欧州がより迅速に動くよう仕向けています。欧州が技術主権を取り戻す必要があるという認識に至るように」とイェンCEOは述べた。これは、同大統領がテック企業のCEOたちに影響力を持っていることが理由のひとつであるとイェンCEOは述べ、また、単純に「どの国の将来の経済成長もテクノロジーにかかっている」からでもある。

しかし、政府が関与するからといって、言語モデルにおける包摂に関する問題がなくなるわけではない。「政府の役割について、一定の枠組みが必要だと私は思います。厄介なのは、政府が『これらの言語を推進したい』とか『これらの種類の意見をデータセットに反映させたい』と決定した場合です」と、バティア研究員は言う。「基本的に、モデルが学習する訓練データは、そのモデルが開発する世界観に似ているのです」。

これが最終的にどのような形になるのか、また、どれだけが誇張であると判明するのかは、まだわからない。しかし、どのような展開になろうとも、この分野は注目に値する。

 

• 4

人気の記事ランキング

1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
2. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
3. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
4. How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想