AI в киберпреступном подполье: хайп встречается с ремеслом

Когда сегодня говорят об AI и киберпреступности, многое звучит как научная фантастика: автономное вредоносное ПО, цифровые суперхаки, модели, которые ночью сами разбирают корпоративные сети. На мой взгляд, эта история слишком удобна. Она громкая, хорошо продается и отвлекает от реальной проблемы.

Опасность не в том, что у каждой преступной группы внезапно появился собственный гений. Опасность в том, что скучные рабочие шаги становятся дешевле, быстрее и масштабируемее: перевод, переписывание, сортировка жертв, более убедительный phishing, объяснение кода, отладка ошибок, анализ утечек, вариации сценариев social engineering, упаковка инструментов и более профессиональная подача заявлений.

Подполье редко продает чистую правду

К этой теме нужно подходить с недоверием. В криминальных форумах, Telegram-группах и предложениях cybercrime-as-a-service много обещаний. Кто-то продает реальные инструменты. Кто-то продает переименованные open-source проекты, простые wrapper поверх публичных моделей, украденные аккаунты, jailbreak prompts, бесполезные панели или мошенничество против других мошенников.

“AI hacking tool” не обязательно технически впечатляет. Исследование USENIX о сервисах Malla, то есть “Malicious LLM-integrated applications”, изучило 212 реальных сервисов и нашло восемь backend LLM и 182 jailbreak prompts. Рынок реален, но многие предложения являются wrapper, jailbreak и злоупотреблением публичными или открытыми моделями.

Google Threat Intelligence описывает похожий пример с Xanthorox: сервис продавался как собственная offensive model, но по данным Google опирался на jailbroken коммерческие API и open-source компоненты. Упаковка звучит как подпольная лаборатория, а технология внутри часто гораздо проще.

Полезная позиция трезвее: AI не магия, но он хорошо ложится в существующие workflow. Если инструмент экономит время, снижает языковые барьеры или создает больше вариантов в час, он становится интересным.

Что уже правдоподобно

Публичные отчеты OpenAI, Google Threat Intelligence и Europol дают схожую картину: злоумышленники используют generative AI там, где он ускоряет работу и повышает качество. Это не полная замена навыков, а усилитель.

Ключевые области — phishing и social engineering, fraud и злоупотребление идентичностью, обработка украденных данных, техническая помощь, упаковка и продажи. Тексты становятся естественнее и локальнее. Профили, счета, обращения в поддержку и инвестиционные истории выглядят убедительнее. Logs, dumps, mailbox, CRM exports, screenshots и chats можно сортировать быстрее. Модели объясняют код, меняют scripts, интерпретируют ошибки и структурируют идеи exploit. Даже посредственный tool можно лучше документировать и продавать.

Самые сильные доказательства находятся во fraud

Чем технически сложнее утверждение, тем тоньше часто публичные доказательства. Во fraud и social engineering ситуация другая. FBI IC3 Report за 2025 год использует descriptor “AI Related” и указывает 22 364 жалобы с заявленными потерями 893 346 472 долларов США. Это не идеальное forensic измерение, но сильный сигнал.

Investment scams с AI-связью дают более 632 млн долларов потерь, BEC — более 30 млн, employment scams — почти 13 млн. Это подтверждает тезис: самый большой доказанный ущерб идет не от автономного malware, а от более качественного обмана, масштаба и убедительных идентичностей.

Во что я не верю

Я не думаю, что преступные группы уже широко используют автономных AI-агентов, которые сами выбирают цели, компрометируют системы, двигаются lateral, выводят данные и завершают extortion без человеческого руководства.

Эксперименты и proof of concept будут. Но надежные отчеты показывают подзадачи: research, translation, code help, campaign preparation, variants, social engineering и data analysis. Британский NCSC также считает полностью автоматизированные advanced end-to-end attacks маловероятными до 2027 года. Реалистичнее human-machine teaming.

Киберпреступности не нужно стать полностью автономной, чтобы стать опаснее. Достаточно, чтобы те же группы делали больше попыток, быстрее локализовали, быстрее учились и выглядели профессиональнее.

Качество обмана растет

Многие security-концепции все еще полагаются на человеческое распознавание: сотрудники должны сообщать о подозрительных email, замечать ложные ссылки, странный язык и необычные запросы. Это важно, но становится сложнее.

Если атакующий может написать счет в стиле знакомого поставщика, подготовить support request под реальную продуктовую среду, отправить LinkedIn-сообщение без запаха машинного перевода и развернуть scam на десяти языках, защита меняется.

Нужны технические тормоза:

• сильная MFA, желательно phishing-resistant
• Conditional Access и привязка устройств
• чистая mail-аутентификация через SPF, DKIM и DMARC
• обнаружение злоупотребления OAuth apps
• защита от новых inbox rules и подозрительных forwarding
• процессы платежей и approvals вне email
• logging до инцидента, а не после ущерба

Cybercrime-as-a-Service становится профессиональнее

Киберпреступность давно разделена на роли: initial-access brokers, phishing kits, malware loaders, ransomware affiliate programs, data brokers, hosting, bulletproof infrastructure, money laundering, translators, call centers и support.

AI хорошо входит в эту структуру. Поставщик быстрее пишет документацию. Affiliate быстрее адаптирует кампанию. Data broker лучше описывает leak. Scammer отвечает клиентам. Developer быстрее отлаживает ошибки. Менее опытный участник проходит технические барьеры.

Microsoft описывает это как “tradecraft”: ускоритель для text, code, media, data summarization, persona building, malware debugging и infrastructure scaffolding. Google видит эксперименты вроде HONESTCUE. Это серьезно, но это блоки workflow, а не доказательство массовых автономных атак.

Защитник видит больше шума

Для admins, MSP и security teams растет шум: больше phishing variants, аккуратных support fakes, чистых scans, semi-automated recon, предполагаемых exploits, правдоподобных reports и tools с AI в названии, но малой технической глубиной.

Главный вопрос не “использовался ли AI?” Лучше спрашивать: есть ли реальный attacker path, затронутая система, защищенный identity layer, external attack surface, telemetry эксплуатации или подготовки, доказанный impact? Нужно patch, configure, block, monitor или только document?

Это связано с моей мыслью о Patchday в эпоху AI: сигналов больше, но security выигрывается приоритизацией, а не паникой.

Меньшая attack surface становится ценнее

Чем сильнее атаки масштабируются, тем ценнее скучное сокращение: меньше публичных services, local tools, browser extensions, admin accounts, persistent tokens, shadow IT, быстрых исключений и старых тестовых систем без владельца. Это не гламур. Это hygiene. И она важнее, когда обман лучше, а recon дешевле.

Что делать сейчас

Практические вопросы: защищены ли важные accounts от phishing? Видим ли suspicious identity events? Есть ли ясные процессы для денег, данных и доступа? Проверяем ли критичные запросы через второй канал? Достаточно ли строгие remote hiring и helpdesk? Патчим ли по риску? Уменьшаем ли лишние tools?

Моя оценка

AI в киберпреступном подполье — не далекая тема будущего. Он уже часть работы. Но главное не слово “AI”. Главное — скорость.

Киберпреступность становится продуктивнее, лучше языково, автоматизированнее и профессиональнее упакованной. Многие предложения преувеличены, некоторые являются scam, некоторые технически банальны. Но рынок смещается.

Реальное изменение происходит в промежуточных шагах: text, code, data, support, variants, scale. Именно там защитникам нужно начинать.

AI не делает киберпреступность гениальной автоматически. Он делает посредственную киберпреступность продуктивнее. И этого достаточно, чтобы относиться к теме серьезно.

До следующего раза,
Joe