サイバー攻撃を完全自動化、
自律型AIハッカーが
やってくる

人工知能（AI）業界では、エージェントが話題になっている。エージェントは、複雑なタスクを計画し、推論し、実行する能力を持つ。会議の日程調整や食料雑貨の注文、さらにはコンピュターのユーザー権限を引き継ぎ、あなたに代わって設定を変更することさえできる。しかし、その洗練された能力により、エージェントは役に立つアシスタントになると同時に、サイバー攻撃を仕掛けるための強力なツールにもなり得る。エージェントは、脆弱な標的を特定し、そのシステムを乗っ取り、無防備な被害者から貴重なデータを盗むために、容易に利用される可能性があるのだ。

今のところ、サイバー犯罪者によるAIエージェントを使った大規模なハッキングは実行されていない。しかし、エージェントに複雑な攻撃を実行する能力があることは、研究者が実証済みだ。たとえばアンソロピック（Anthropic）は、自社の大規模言語モデル（LLM：Large Language Model）である「クロード（Claude）」で、機密情報を盗むために設計した攻撃に成功した。サイバーセキュリティの専門家は、その種の攻撃が現実世界に広まるのを目の当たりにするようになると警告している。

「最終的に私たちは、エージェントがサイバー攻撃の大部分を実行する世界で生きることになると思います」。サイバーセキュリティ企業「マルウェアバイツ（Malwarebytes）」のセキュリティ専門家であるマーク・ストックリーは言う。「実のところ、どれだけ早くそこに辿り着くのか、というだけの問題です」。

AIエージェントがサイバーセキュリティにもたらし得る脅威の種類については、よくわかっている。一方で明確になっていないのは、現実の世界でAIエージェントを検知する方法だ。AI研究組織のパリセード・リサーチ（Palisade Research）がLLMエージェント・ハニーポット（LLM Agent Honeypot）というシステムを構築したのは、まさにこのためだった。同システムは、政府や軍の貴重な情報サイトを装った脆弱なサーバーを設置している。ハッキングを試みるAIエージェントをそこに引き付け、捕らえようとするためである。

同社のチームは、現実世界でハッキングの試みを追跡することで、このプロジェクトが早期警告システムとして機能し、AI脅威アクターが深刻な問題になる前に、専門家が効果的な防御策を開発するのに役立つと期待している。

パリセード・リサーチの研究責任者であるドミトリー・ヴォルコフは、「人々が抱える理論上の懸念の根拠を明らかにすることが狙いでした」と話す。「私たちは急激な上昇に注目しています。それが起こると、セキュリティ環境が変化したとわかるのです。今後数年のうちに、自律型のハッキング・エージェントは、『これが標的だ。ハッキングを始めろ』と指示されるようになるでしょう」。

AIエージェントは、サイバー犯罪者にとって魅力的で有望なツールとなる。プロハッカーを雇うよりもはるかに安価であり、人間よりはるかに迅速かつ大規模に攻撃を指揮できるからだ。サイバーセキュリティの専門家は、最も収益性が高い類のランサムウェア攻撃は、かなりの専門知識を必要とするために比較的まれである、と考えている。ところが将来的には、そうした攻撃がエージェントにアウトソースされる可 …

人気の記事ランキング

1. China built hundreds of AI data centers to catch the AI boom. Now many stand unused. AIデータセンター 中国でバブル崩壊か？ 需要低迷で大量放置の実態
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. China built hundreds of AI data centers to catch the AI boom. Now many stand unused. AIデータセンター 中国でバブル崩壊か？ 需要低迷で大量放置の実態
4. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
5. The foundations of America’s prosperity are being dismantled 崩壊する科学エコシステム、 トランプ政権がもたらす 「取り返しのつかない損害」