人工知能の取り締まりに関して、テクノロジー産業のリーダーは数の力を信じているようだ。

新組織「人々と社会のための人工知能開発パートナーシップ」は、AIに関する社会的対話を促し、システムの不適切な挙動を防ぐためのAI開発ガイドラインの作成を予定しており、参加企業にはグーグルとその子会社のディープマインド、フェイスブック、アマゾン、マイクロソフト、IBMが名を連ねた。このパートナーシップは、AIは可能な限り多くの人の利益になるべきとする信条と、AI開発に対する社会の参画、研究の透明性の保持など、8つの原則に基づいて設立された。

熾烈な争いを繰り広げているライバル同士がこうして協力体制をとる事実から、これらの企業がAIに対して世間が抱いている懸念やマイナスイメージを食い止めることを、どれだけ重視しているかわかる。参加企業はすべて、AIの進歩から莫大な利益を得ている。この分野が厳しい政府規制の対象になって開発が遅れたり、決定的な瞬間にテクノロジーの発展方向が変わってしまったりするのを望んでいないのだ。しかし同時に、近年の急速な進歩は、AIシステムが人間にとって不利に働いたり、差別を引き起こしたり、人々の仕事を奪ったりするなどの懸念も生じている。

グーグル・ディープマインドの共同創業者で、新組織のムスタファ・スレイマン暫定共同議長は「人工知能の開発は、思慮深く前向きに、そしてここが最も大事な部分ですが、倫理的な手段で進めるべきです。それが私たちの共通の義務なのです。AIが世の中によい影響を与えられるかどうかは、アルゴリズムだけの問題ではなく、社会の積極性、あるいは情報の透明性、そしてその周囲で交わされる倫理面での議論にもかかっているのです」と述べた。

AI開発の猛烈なスピードを考えれば、AIが予期しない発展を遂げたり、社会に望ましくない影響を与えたりするのではないかと懸念されるのももっともだ。たとえば、病気を識別する機械学習システムにバイアスの掛かったデータが与えられれば、特定の人々への差別になりかねない。パートナーシップ参加企業は、このような結果に対して強い反発が起こりうることを認識している。

アマゾン機械学習部門のロルフ・ハーブリッチ役員は「AIはアマゾンにとって非常に重要なテクノロジーです。しかし最も価値ある資産は顧客からの信頼です」という。

新組織が具体的に、どのように世間の人々や開発中のAIに働きかけていくのかは明確でない。スレイマン暫定共同議長によると、組織はガイドラインの施行をそこまで強力に推し進めようとはしておらず、世論をリードすることは目指してはいないそうだ。

AIとその関連テクノロジーであるロボット工学などのせいで人間の仕事が奪われたり、公平性が損なわれたりするのではないかという懸念はもっともだ（“How Technology Is Destroying Jobs”参照）。しかし最近の進歩はAIが人類存亡の危機を引き起こすという、突拍子もなく、未来的な警告をもたらした。（“Our Fear of Artificial Intelligence”参照）。技術者が抱える懸念のひとつは、これらの警告によってAIに対する正当性のない批判が巻き起こり、政府がよけいな規制をすることだ。

新組織の暫定共同議長を務めるマイクロソフト・リサーチのエリック・ホロヴィッツ社長は「ここ2～4年に渡り、AIはかなり大げさに宣伝されてきました。不安でいっぱいの反響室にいるような状況では、政府そのものにすら誤解を与えてしまいかねません」という。

今年、AIによる影響として何が予期されるか考えることを目的にした一連のワークショップが米国政府によって企画されており、人工知能のマイナスイメージ払拭には、政府も関心を示している。

AIに関する倫理的難題のいくつかは、より複雑で困難なものとなるだろう。たとえば、互いに相反する複数の倫理的観点を考慮に入れるシステムを考案する難しさが判明するかもしれない。この問題は自律運転型自動車の挙動に関して、概ね理論上の課題として議論されている。AIシステムの透明性と責任性をどのように高めていくのかもまた未解決の問題で、それ自体テクノロジーの進歩なしには解決できない課題だ（「人工知能と言語」）。

パートナーシップ設立のアイディアは、今年1月にニューヨークで開催されたフェイスブック主催のイベントで生まれた。創設メンバーによると、AIをめぐる倫理的な課題に関する議論を目的とするこのイベントで、アップルやポール・アレン人工知能研究所（Ai2）などAI開発に携わる企業や組織が協力して一定の努力をすることについて協議した結果、このパートナーシップが設立されることになったという。

Ai2のオレン・エチオーニCEOは、AIがどのように人々の職を奪いうるかの議論に対処することが、組織の重要な課題になるだろうという。またエチオーニCEOは、組織にとって最大の課題は競合企業同士が効率的に協力できる方法を探ることだろうとも述べた。

「組織のメンバーは世界をリードするハイテク企業ですが、ここでは力を合わせなければなりません」

• 24
• 1
• 1

人気の記事ランキング

1. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
2. Promotion Innovators Under 35 Japan × CROSS U 無料イベント「U35イノベーターと考える研究者のキャリア戦略」のご案内
3. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
4. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
5. AI’s search for more energy is growing more urgent 生成AIの隠れた代償、激増するデータセンターの環境負荷

▼Promotion