サイバー攻撃を完全自動化、
自律型AIハッカーが
やってくる

人工知能（AI）業界では、エージェントが話題になっている。エージェントは、複雑なタスクを計画し、推論し、実行する能力を持つ。会議の日程調整や食料雑貨の注文、さらにはコンピュターのユーザー権限を引き継ぎ、あなたに代わって設定を変更することさえできる。しかし、その洗練された能力により、エージェントは役に立つアシスタントになると同時に、サイバー攻撃を仕掛けるための強力なツールにもなり得る。エージェントは、脆弱な標的を特定し、そのシステムを乗っ取り、無防備な被害者から貴重なデータを盗むために、容易に利用される可能性があるのだ。

今のところ、サイバー犯罪者によるAIエージェントを使った大規模なハッキングは実行されていない。しかし、エージェントに複雑な攻撃を実行する能力があることは、研究者が実証済みだ。たとえばアンソロピック（Anthropic）は、自社の大規模言語モデル（LLM：Large Language Model）である「クロード（Claude）」で、機密情報を盗むために設計した攻撃に成功した。サイバーセキュリティの専門家は、その種の攻撃が現実世界に広まるのを目の当たりにするようになると警告している。

「最終的に私たちは、エージェントがサイバー攻撃の大部分を実行する世界で生きることになると思います」。サイバーセキュリティ企業「マルウェアバイツ（Malwarebytes）」のセキュリティ専門家であるマーク・ストックリーは言う。「実のところ、どれだけ早くそこに辿り着くのか、というだけの問題です」。

AIエージェントがサイバーセキュリティにもたらし得る脅威の種類については、よくわかっている。一方で明確になっていないのは、現実の世界でAIエージェントを検知する方法だ。AI研究組織のパリセード・リサーチ（Palisade Research）がLLMエージェント・ハニーポット（LLM Agent Honeypot）というシステムを構築したのは、まさにこのためだった。同システムは、政府や軍の貴重な情報サイトを装った脆弱なサーバーを設置している。ハッキングを試みるAIエージェントをそこに引き付け、捕らえようとするためである。

同社のチームは、現実世界でハッキングの試みを追跡することで、このプロジェクトが早期警告システムとして機能し、AI脅威アクターが深刻な問題になる前に、専門家が効果的な防御策を開発するのに役立つと期待している。

パリセード・リサーチの研究責任者であるドミトリー・ヴォルコフは、「人々が抱える理論上の懸念の根拠を明らかにすることが狙いでした」と話す。「私たちは急激な上昇に注目しています。それが起こると、セキュリティ環境が変化したとわかるのです。今後数年のうちに、自律型のハッキング・エージェントは、『これが標的だ。ハッキングを始めろ』と指示されるようになるでしょう」。

AIエージェントは、サイバー犯罪者にとって魅力的で有望なツールとなる。プロハッカーを雇うよりもはるかに安価であり、人間よりはるかに迅速かつ大規模に攻撃を指揮できるからだ。サイバーセキュリティの専門家は、最も収益性が高い類のランサムウェア攻撃は、かなりの専門知識を必要とするために比較的まれである、と考えている。ところが将来的には、そうした攻撃がエージェントにアウトソースされる可 …

人気の記事ランキング

1. A Google Gemini model now has a “dial” to adjust how much it reasons 推論モデルは「考えすぎ」、グーグルがGeminiに調整機能
2. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法
3. Phase two of military AI has arrived 米軍で導入進む「戦場のLLM」、未解決の3つの課題とは？
4. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路

▼Promotion