グーグルのAI電話予約システム、「不気味」との批判受け改良

「もしもし。予約をしたいのですが」という丁寧な女性の声が電話の向こう側から聞こえた。話しているのは、会話をつなげることができ、チューリング・テストに合格する可能性のあるグーグルの見事な最新の人工知能（AI）システム「デュープレックス（Duplex）」である。

グーグルは今後数週間のうちに、一部のユーザー向けにデュープレックスを試験的に提供する。試験期間中デュープレックスは、グーグル・アシスタントのアプリ内のツールとして、ユーザーに代わって店に電話をし、休日の営業時間を聞いてくれる。今夏中には、レストランや美容室に電話をかけて予約を入れることもできるようにする予定だ。

デュープレックスは、5月にグーグルの年次開発者会議で鳴り物入りで発表されたが、その数日後には物議を醸すようになった。印象的な実演を見た人々が、デュープレックスが（「うーん」や「あー」といった音声を交えることで）人間が話しているように聞こえたことと、ステージ上の実演において自身がAIエージェントであることを明かさなかったことについて懸念を示したのだ。

以後グーグルは、人々の懸念を和らげようと努めてきた。公開実演から数日後に倫理的な批判の声が高まると、すぐさまグーグルは、デュープレックスが電話の話し相手である人間に、自身がAIエージェントであることと電話の内容が録音される旨を伝えると述べた。

6月26日にグーグルは、カリフォルニア州マウンテンビューの繁華街にある、普段は客でにぎわうオレンズ・フムスショップというレストランに大勢の記者を招待した。デュープレックスの進歩を見せるためである。客として来た人々が店の外で入店を拒まれる中、記者たちはレストラン内で、グーグル・アシスタントのチームのメンバーからデュープレックスの仕組みの説明を受け、実際に試してみた。

先月のデュープレックスの実演時から大きく変わったのは、AIエージェントがかけてきた電話だと明確に分かる点だった。記者がレストランのスタッフを装って受けた電話では、AIは女性の声ですぐさま、この電話が自動音声サービスによるものであり、電話の内容が録音されると告げた（グーグルが提供するこの映像を見れば、システムを利用している様子をイメージできるはずだ。記者はメモを取る目的で会話の音声を録音することが許可されたが、発表会への参加条件として録音した音声を公開しないようグーグルに求められていた）。

グーグル・アシスタントの製品デザイン担当副社長のニック・フォックスによると、5月の時点でグーグルは電話がAIによるものだと示す必要があると認識していたという。開発者会議での発表後の反応を受け、その考えの「正当性を確認できた」としている。

「必ずしも人々の批判を受けて変更したわけでは …

人気の記事ランキング

1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
4. How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想