The AI Act is done. Here’s what will (and won’t) change

ついに成立した欧州「AI法」で変わる4つのポイント

AIの開発・運用に関する包括的な規則を定めた欧州「AI法」が3月13日に欧州議会で可決され、5月に施行される予定だ。このAI法によって、これまでと何が変わって、何が変わらないのか、ポイントをまとめてお伝えする。 by Melissa Heikkilä2024.03.25

この記事は米国版ニュースレターを一部再編集したものです。

ついに正式に決定した。3年という歳月の末に、欧州連合（EU）の包括的な新「人工知能（AI）法」が3月13日、欧州議会で可決されたことで、最後の官僚的試練を乗り越えたのだ（AI法については、昨年私が公開したこの記事で5つの重要ポイントを解説している。併せてお読みいただきたい）。

このニュースは、個人的にはひとつの時代の終わりのようにも感じる。2021年に、AI法の初期草案のスクープを入手した最初の記者が私だった。以来、それに続くロビー活動の混乱の行方を見守ってきた。

しかし現実には、困難な作業はこれから始まる。この法制度は5月に施行される予定で、EUに住む人々は年末までに変化を目にし始めるだろう。規制当局は、法律を適切に施行するために準備を整える必要がある。企業は、法律遵守のために最大3年間の猶予を得ることになる。

変わること（および変わらないこと）は次のとおりだ。

1. 一部のAIは、2024年後半に使用が禁止される

この法律は、保健医療、教育、治安維持など、人々の基本的権利に高いリスクをもたらすAIのユースケースに規制を加える。それらは年末までに違法となる見込みだ。

「容認できないリスク」とみなされる使用もいくつかが禁止される。これには、かなり特殊で曖昧なユースケースも含まれている。「サブリミナル的、操作的、または欺瞞的な手法を展開して行動を歪め、情報に基づいた意思決定を損なう」、または社会的に脆弱な人々を食い物にするAIシステムなどである。AI法はまた、政治的意見や性的指向といった機密性の高い特性を推測するシステムや、公共の場でのリアルタイム顔認識ソフトウェアの使用も禁じている。顔認識の専門企業クリアビューAI（Clearview AI）がしたように、インターネットをスクレイピングして顔認識データベースを作成することも違法になる。

しかし、かなり重要な注意事項がある。司法当局には、テロリズムや誘拐などの深刻な犯罪と闘うために、公共の場で機密性の高い生体認証データや顔認識ソフトウェアを使用することが引き続き許可されている。顔認識など議論の的になっているAIのユースケースが完全には禁止されないことから、デジタル権利団体のアクセスナウ（Access Now）や一部の公民権団体は、AI法を「基本的人権の失敗」と呼んでいる。さらに、人々の感情を認識すると主張するソフトウェアの使用が企業や学校で許可されていない一方で、医療上または安全上の理由であれば使用できることになっている。

2. AIシステムとやり取りしていることがより明白になる

テック企業に対しては、ディープフェイクやAI生成コンテンツへのラベル付けが必須になり、チャットボットや他のAIシステムとのやり取り発生時にはユーザーへの通知が義務付けられる。AI法はさらに、検出可能な方法でAI生成メディアを開発するよう企業に義務付ける。これは、偽情報との闘いにおいて有望なニュースである。電子透かしやコンテンツの出所に関する研究を大きく後押しすることになるだろう。

とはいえ、そのすべてが口で言うほど容易ではない。研究は、規制が要求するものよりもはるかに遅れている。電子透かしは未だ実験的なテクノロジーであり、改ざんが容易だ。AI生成コンテンツを確実に検出することは今でも困難である。オープンソースのインターネットプロトコル「C2PA」など、いくつか期待できそうな取り組みはある。しかし出所検出手法を信頼できるものにし、業界全体のスタンダードを構築するには、はるかに多くの研究が必要だ。

3. AIによる被害を受けた市民は苦情を申し立てることができる

AI法により、コンプライアンス、実装、および施行を調整するための新しい欧州AI事務局（European AI Office）が設立される（採用が始まっている）。AI法のおかげで、EU市民はAIシステムによる被害を受けたと疑われる場合、そのシステムに関する苦情を申し立てることができ、システムの意思決定理由について説明を受けられるようになる。これは、自動化がいっそう進む世界で、人々により多くの主体性を与えるための重要な第一歩である。しかし、そのためには人々が適切なレベルのAIリテラシーを持ち、アルゴリズムの害がどのように発生するかを認識している必要がある。多くの人にとって、それらは依然として全く馴染みのない抽象的な概念なのだ。

4. AI企業はより透明性を高める必要がある

AIのほとんどの用途では、AI法に準拠する必要はないだろう。AI法が完全に施行される3年後に新しい義務を負うことになるのは、最重要社会基盤や保健医療などの「高リスク」セクターでテクノロジー開発に携わっているAI企業だけである。その義務とは、より良いデータガバナンス、人による管理の確保、そしてこれらのシステムが人々の権利にどのように影響するかの評価などである。

言語モデルなどの「汎用AIモデル」を開発しているAI企業は、モデルをどのように構築したのか、著作権法をどのように尊重しているのかを示す技術文書を作成して保管し、AIモデルの訓練に使用した訓練用データの概要を公開する必要がある。

モデルに組み込んだデータをテック企業が秘密にしている現状からすれば、これは大きな変化である。AIセクターの乱雑なデータ管理慣行を徹底的に見直すことになるだろう。

「GPT-4」や「Gemini（ジェミニ）」といった最も強力なAIモデルを持つ企業は、さらに厄介な必要条件に向き合うことになる。モデル評価やリスク評価、軽減策の実施、サイバーセキュリティ保護の確保、AIシステムが故障したインシデントの報告などである。それらに応じない企業は巨額の罰金を科されるか、EUで製品が禁止になる可能性がある。

また、アーキテクチャ、パラメーター、重みなど、その構築方法に関してあらゆる詳細を共有している無料のオープンソースAIモデルでは、AI法の義務の多くが免除になることも注目に値する。

◆

アフリカ、AI規制推進を始動

アフリカ経済におけるAI導入には、非常に多くのメリットが予測されている。推定では、企業がより多くのAIツールを使用し始めれば、ナイジェリア、ガーナ、ケニア、南アフリカだけでも2030年までに最大1360億ドル相当の経済的利益を得られると示されている。 55の加盟国からなるアフリカ連合は現在、このエマージング・テクノロジー（萌芽技術）を開発し、規制する方法を模索している。

だが、それは簡単なことではない。アフリカ諸国がテクノロジーの悪用から国民を保護するための独自の規制枠組みを構築しなければ、その過程で人々は被害を受けることになる、と懸念する専門家もいる。これらの国々がAIの利点を活用する方法を見つけない場合にも、経済が取り残される可能性があると危機感を抱く人々もいる。（記事はこちら）

AI関連のその他のニュース

「ゴートシミュレーター」をプレイできるAIは、より役立つマシンへの一歩となるか。グーグル・ディープマインド（Google DeepMind）の新しいAIエージェントは、大げさな物理的挙動が特徴の楽しいアクション・ゲーム「ゴートシミュレーター3（Goat Simulator）」、AIが初めてプレイするゲームを含むさまざまなゲームをプレイできる。複数の環境間でスキルを伝達できる、より汎用化されたAIへの一歩である。（MITテクノロジーレビュー）

交通状況の予測に生成AIを使用する自動運転スタートアップ企業。ワービ（Waabi）によると、同社の新しいモデルはライダー（LiDAR：レーザーによる画像検出・測距）データを使って歩行者、トラック、自転車の動きを予測できる。ドライバーがハイスピードで高速道路に無謀に合流するなどの状況を指示すると、モデルが周囲の車両の動きを予測し、5～10秒先のライダー表現を生成する。（MITテクノロジーレビュー）

オープンAIのミラ・ムラティCTOがソラ（Sora）の訓練用データに関する質問を受け、答えに窮した。ウォール・ストリート・ジャーナル紙のインタビューで、ジャーナリストはムラティ最高技術責任者（CTO）に、オープンAIの新しい映像生成AIシステム「ソラ（Sora）」がYouTube動画で訓練されているかどうか尋ねた。ムラティは「分からない」と答えているが、情報を把握しておくべき立場の人間として恥ずべき回答である。オープンAIは他のAIモデルについて、訓練に使用されたデータの著作権訴訟に直面している。映像が次の訴訟に関わる頭痛の種となっていても驚くことではないだろう。（ウォール・ストリート・ジャーナル紙）

AI破滅論者の中で本当に楽しめたのがこの記事である。 著者のアンドリュー・マランツは、AIが人類に存在の危機をもたらすことを恐れる人々と過ごし、彼らをいらだたせようとした。このストーリーの詳細は愉快で、読み応えも抜群だ。さらに、AIの有害性という問題について、誰に耳を傾けるべきかという疑問を提起している。（ザ・ニューヨーカー）

人気の記事ランキング

メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者: MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ（POLITICO）』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」（欧州メディア部門）に選出された。