サイバー犯罪地下市場の AI：ハイプと実務が交わる場所

いま AI とサイバー犯罪について読むと、多くは SF のように聞こえます。自律型 malware、デジタルのスーパー hacker、夜中に企業ネットワークを自動で壊していくモデル。私は、この物語は少し都合がよすぎると思っています。派手で、売りやすく、本当の問題から目をそらします。

危険なのは、犯罪グループが突然それぞれ地下室の天才を持つことではありません。危険なのは、退屈な作業が安く、速く、拡張しやすくなることです。翻訳、書き換え、被害者の分類、phishing の信頼性向上、コード説明、エラーのデバッグ、漏えいデータ分析、social engineering の台本変更、ツールの包装、主張をより専門的に見せる作業です。

地下市場は純粋な真実をあまり売らない

この話題には疑いから入るべきです。犯罪フォーラム、Telegram グループ、cybercrime-as-a-service の売り文句には多くの誇張があります。本物のツールもありますが、名前を変えた open-source、公開モデルの wrapper、盗まれたアカウント、jailbreak prompts、役に立たないパネル、または詐欺師をだます詐欺もあります。

“AI hacking tool” と宣伝されても、それが技術的にすごいとは限りません。USENIX の Malla、つまり “Malicious LLM-integrated applications” の研究は、212 の実サービスから 8 つの backend LLM と 182 の jailbreak prompts を見つけました。市場は実在します。しかし多くは秘密の超モデルではなく、wrapper、jailbreak、公開またはオープンなモデルの悪用です。

Google Threat Intelligence も Xanthorox で同じ構図を説明しています。地下では独自の offensive model として売られていましたが、Google によれば jailbroken commercial APIs と open-source components に依存していました。包装は地下研究所のようでも、中身はずっと普通なことが多いのです。

有用な見方は冷静です。AI は魔法ではありません。ただし既存の workflow にはよく合います。時間を節約し、言語の壁を下げ、1 時間あたりの variants を増やすなら、犯罪者にとって魅力的になります。

すでに現実的なこと

OpenAI、Google Threat Intelligence、Europol の公開レポートはかなり一貫しています。攻撃者は generative AI を、作業を速め品質を上げる場所で使っています。スキルの完全な代替ではなく、増幅器です。

重要なのは phishing と social engineering、fraud と identity abuse、盗難データ処理、技術補助、そして販売と包装です。文章は自然でローカルになります。プロフィール、請求書、support request、投資話は信じやすくなります。logs、dumps、mailbox、CRM exports、screenshots、chats はより速く分類できます。モデルは code を説明し、scripts を直し、errors を読み、exploit ideas を整理できます。平凡な tool でも、文書化と販売支援で見栄えがよくなります。

強い証拠は fraud にある

主張が技術的になるほど、公開証拠は薄くなりがちです。fraud と social engineering は別です。FBI IC3 Report 2025 は “AI Related” を descriptor として使い、22,364 件の苦情と 893,346,472 米ドルの損失を記録しています。これは完全な forensic 測定ではありませんが、強いシグナルです。

AI 関連の investment scams は 6.32 億ドル超、BEC は 3,000 万ドル超、employment scams はほぼ 1,300 万ドルです。最大の確認済み損害は自律 malware ではなく、より良い欺き、より大きい規模、より信じやすい identity から来ています。

私が信じていないこと

犯罪グループがすでに広く自律 AI agents を使い、人間の指示なしで標的を選び、侵害し、lateral movement し、データを抜き、extortion を完了しているとは思いません。

実験や proof of concept はあるでしょう。しかし信頼できるレポートが示すのは、research、translation、code help、campaign preparation、variants、social engineering、data analysis などの部分作業です。英国 NCSC も、2027 年までに完全自動の高度な end-to-end attacks は起こりにくいと見ています。現実的なのは human-machine teaming です。

サイバー犯罪は完全自律にならなくても危険になります。同じグループがより多く試し、より速くローカライズし、より速く学び、より専門的に見えれば十分です。

欺きの品質が上がる

多くの security concept はまだ人間の認識に依存しています。不審なメールを報告する、偽リンクを見抜く、変な言葉に気づく、普通でない依頼を疑う。これは重要ですが、難しくなります。

攻撃者が既知の仕入先のように請求書を書き、実環境に合う support request を作り、LinkedIn メッセージを機械翻訳らしくなくし、10 言語で scam を展開できるなら、防御は変わります。

必要なのは技術的なブレーキです。

• phishing-resistant な強い MFA
• Conditional Access と device binding
• SPF、DKIM、DMARC による mail authentication
• OAuth app abuse の検知
• 新しい inbox rules と怪しい forwarding への防御
• email 外の支払いと approval process
• 被害後ではなく事前の logging

Cybercrime-as-a-Service は専門化する

サイバー犯罪はすでに分業されています。initial-access brokers、phishing kits、malware loaders、ransomware affiliate programs、data brokers、hosting、bulletproof infrastructure、money laundering、translators、call centers、support channels です。

AI はこの構造に入ります。提供者は documentation を速く書き、affiliate は campaigns を速く直し、data broker は leaks をうまく説明し、scammer は customer questions に答え、developer は errors を速く直します。経験の浅い犯罪者も技術的な壁を越えやすくなります。

Microsoft はこれを “tradecraft” と表現します。text、code、media、data summarization、persona building、malware debugging、infrastructure scaffolding の加速です。Google は HONESTCUE のような実験も見ています。重要ですが、これは workflow の部品であり、大量の自律攻撃の証明ではありません。

防御側にはノイズが増える

admins、MSPs、security teams にはノイズが増えます。phishing variants、よく書かれた偽 support、よりきれいな scans、semi-automated recon、 alleged exploits、もっともらしい reports、AI と名乗るが中身の薄い tools です。

中心の質問は「AI が使われたか」ではありません。より良い質問は、実際の attacker path があるか、自社環境に affected system があるか、identity layer は守られているか、external attack surface はあるか、exploitation や preparation を示す telemetry はあるか、impact は証明されているか、です。patch、configure、block、monitor、document のどれが必要かを見ます。

これは AI 時代の Patchday についての考えとも同じです。signals は増えます。しかし security は数字へのパニックではなく、優先順位で勝ちます。

攻撃面を減らす価値が上がる

攻撃が scale するほど、退屈な削減が重要になります。公開 services、local tools、browser extensions、admin accounts、long-lived tokens、shadow IT、安易な承認、所有者のない古い test systems を減らすことです。派手ではありません。hygiene です。しかし欺きが良くなり recon が安くなるほど、この hygiene は重要になります。

いま実務でやること

具体的な質問をします。重要 accounts は phishing-resistant か。新しい OAuth apps、異常な login locations、新しい inbox rules、怪しい forwarding、大量失敗を見えているか。お金、データ、アクセスの process は明確か。重要依頼を第二の既定 channel で確認しているか。remote hiring と helpdesk は十分厳しいか。patching は risk based か。不要な tools を減らしているか。

私の見立て

サイバー犯罪地下市場の AI は遠い未来ではありません。すでに作業の一部です。ただし重要なのは派手な “AI” という言葉ではなく、速度です。

サイバー犯罪はより生産的になり、言語品質が上がり、自動化され、より専門的に包装されます。多くの売り文句は誇張で、詐欺もあり、技術的に平凡なものもあります。それでも市場は動いています。

本当の変化は中間工程にあります。text、code、data、support、variants、scale。防御側もそこを見るべきです。

すべての組織に AI-SOC は不要です。しかしすべての組織に、少ない attack surface、強い identity security、きれいな processes、速い patch paths、盲目にならない telemetry が必要です。

AI はサイバー犯罪を自動的に天才化しません。平凡なサイバー犯罪をより生産的にします。それだけで十分に重大です。

また次回まで、
Joe