人工知能（AI）は産業を活性化させ、経済の生産性を高めるといわれ、すでに多くの製品に利用され日常的に利用されている。だが、オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI（OpenAI）、電子フロンティア財団などに所属する20名以上の研究者による最新の報告書は、AIが犯罪者や政治家、独裁国家に新たな機会を与えているとして警鐘を鳴らしている。AI研究には秘密にしなければならない部分があるということだ。
発表された報告書「AIの悪意のある利用：予測、予防、緩和（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）」には、AI利用に関する悪夢のような4つのシナリオが書かれている。まるでネットフリックス（Netflix）のSF番組「ブラック・ミラー（Black Mirror）」から引用したようなシナリオだ。
シナリオ1：よりずる賢いフィッシング詐欺
とあるビルのロボット・セキュリティ・システムの管理者が、勤務時間中にフェイスブックを見ている。彼女はそこで列車模型の広告を見つけ、カタログをダウンロードするが、そのカタログがマルウェアに侵されていることには気づいていない。詐欺師はAIを利用して彼女がSNSなどに公に投稿した内容を調べ上げ、列車模型の愛好家であることを割り出し、彼女のためにカタログを作成する。それを開いた瞬間にハッカーは彼女のパソコンに侵入し、ビルのセキュリティ・システム用のIDとパスワードを手に入れ、ビルを支配してしまう。
シナリオ2：マルウェアの感染拡大
東ヨーロッ …