L'IA dans le cybercrime underground : quand le hype rencontre le métier

Quand on lit aujourd’hui sur l’IA et le cybercrime, beaucoup de récits ressemblent à de la science-fiction : malware autonome, superhackers numériques, modèles qui démontent seuls des réseaux d’entreprise pendant la nuit. Je trouve cette histoire trop confortable. Elle fait du bruit, elle se vend bien et elle détourne l’attention du vrai problème.

Le danger n’est pas que chaque groupe criminel possède soudain un génie dans une cave. Le danger est que de nombreuses tâches ennuyeuses deviennent moins chères, plus rapides et plus faciles à industrialiser : traduire, réécrire, trier des victimes, rendre le phishing plus crédible, expliquer du code, déboguer des erreurs, analyser des fuites, varier des scripts d’ingénierie sociale, emballer des outils et donner un aspect plus professionnel à des affirmations.

L’underground vend rarement la vérité pure

Il faut aborder ce sujet avec méfiance. Dans les forums criminels, les groupes Telegram et les offres dites cybercrime-as-a-service, les promesses sont nombreuses. Certains vendent de vrais outils. D’autres vendent des outils open source renommés, de simples wrappers autour de modèles publics, des comptes volés, des prompts de jailbreak, des panneaux inutiles ou de la fraude contre d’autres fraudeurs.

Une “AI hacking tool” n’est donc pas forcément impressionnante. L’étude USENIX sur les services Malla, c’est-à-dire des “Malicious LLM-integrated applications”, est utile ici : 212 services réels, huit LLM de backend et 182 prompts de jailbreak. Le marché est réel, mais beaucoup d’offres sont surtout des wrappers, des jailbreaks et des abus de modèles publics ou ouverts.

Google Threat Intelligence décrit le même schéma avec Xanthorox : présenté comme modèle offensif underground, il reposait selon Google sur des API commerciales jailbreakées et des composants open source. L’emballage ressemble à un laboratoire clandestin, la technique est souvent beaucoup plus ordinaire.

Il faut donc éviter deux extrêmes : tout balayer comme du hype, ou penser que l’IA remplace bientôt toute la sécurité classique. La lecture utile est plus sobre : l’IA n’est pas magique, mais elle s’intègre très bien dans des workflows existants. Dès qu’un outil économise du temps, réduit les barrières linguistiques ou produit plus de variantes par heure, il devient intéressant.

Ce qui est déjà plausible

Les rapports publics d’OpenAI, de Google Threat Intelligence et d’Europol montrent une image cohérente : les attaquants utilisent l’IA générative surtout là où elle accélère le travail et améliore la qualité. Ce n’est pas un remplacement complet de la compétence, mais un amplificateur.

Les domaines les plus importants sont le phishing et l’ingénierie sociale, le fraude et l’abus d’identité, le traitement de données volées, l’aide technique et la vente d’outils. Les textes deviennent plus naturels et mieux localisés. Les profils, factures, demandes de support et récits d’investissement deviennent plus crédibles. Les logs, dumps, boîtes mail, exports CRM, captures et chats peuvent être triés plus vite. Les modèles peuvent expliquer du code, adapter des scripts, interpréter des erreurs ou structurer des idées d’exploitation. Même un outil médiocre peut être mieux documenté, mieux vendu et mieux supporté.

Les preuves les plus solides concernent la fraude

Plus une affirmation est technique, plus les preuves publiques sont souvent fines. Pour la fraude et l’ingénierie sociale, c’est différent. Le rapport FBI IC3 2025 utilise le descripteur “AI Related” et cite 22 364 plaintes pour 893 346 472 dollars de pertes déclarées. Ce n’est pas une preuve forensique parfaite : “AI Related” ne signifie pas que la causalité est démontrée. Mais c’est un signal fort.

Les scams d’investissement liés à l’IA dépassent 632 millions de dollars de pertes déclarées, les cas BEC dépassent 30 millions et les scams d’emploi approchent 13 millions. Cela correspond exactement à la thèse : le plus gros dommage documenté ne vient pas d’un malware autonome, mais d’une tromperie meilleure, d’une meilleure échelle et d’identités plus crédibles.

Ce que je ne crois pas

Je ne crois pas que les groupes criminels utilisent déjà massivement des agents IA autonomes capables de choisir des cibles, les compromettre, se déplacer latéralement, exfiltrer des données et mener une extorsion complète sans direction humaine.

Il y aura des expériences et des preuves de concept. Mais les rapports solides montrent surtout des sous-tâches : recherche, traduction, aide au code, préparation de campagne, variantes, ingénierie sociale et analyse de données. Cela rejoint l’évaluation du NCSC britannique : des attaques avancées entièrement automatisées de bout en bout restent improbables d’ici 2027. Le scénario plus crédible est le travail humain-machine.

Ce n’est pas Hollywood, mais ce n’est pas rassurant. Le cybercrime n’a pas besoin d’être autonome pour devenir plus dangereux. Il suffit que les mêmes groupes lancent plus d’essais, localisent plus vite, apprennent plus vite et paraissent plus professionnels.

La qualité de la tromperie augmente

Beaucoup de concepts de sécurité reposent encore sur la reconnaissance humaine : signaler les mails suspects, repérer les faux liens, remarquer une langue étrange et questionner les demandes atypiques. Cela reste utile, mais devient plus difficile.

Si une facture imite le style d’un fournisseur connu, si une demande de support correspond à un environnement réel, si un message LinkedIn ne ressemble plus à une traduction automatique et si un scam se déploie correctement en dix langues, la défense doit changer.

Il faut des freins techniques :

• MFA forte, idéalement résistante au phishing
• Conditional Access et liaison aux appareils
• authentification mail propre avec SPF, DKIM et DMARC
• détection de l’abus d’applications OAuth
• protection contre les nouvelles règles de boîte mail et les redirections suspectes
• processus de paiement et d’approbation hors e-mail
• journalisation activée avant l’incident

Cybercrime-as-a-Service devient plus professionnel

Le cybercrime est déjà très spécialisé : brokers d’accès initial, kits de phishing, loaders, programmes d’affiliation ransomware, vendeurs de données, hébergement, infrastructure bulletproof, blanchiment, traducteurs, centres d’appel et support.

L’IA s’y insère naturellement. Un fournisseur écrit plus vite sa documentation. Un affilié adapte une campagne. Un vendeur décrit mieux une fuite. Un développeur débogue plus vite. Un acteur moins expérimenté franchit plus facilement les premières barrières.

Microsoft décrit l’IA comme “tradecraft” : accélérateur de texte, code, médias, résumés de données, personas, débogage de malware et scaffolding d’infrastructure. Google observe aussi des expériences comme HONESTCUE, où une API LLM génère du code de seconde étape. C’est sérieux, mais ce sont des briques dans un workflow, pas la preuve d’attaques autonomes massives.

Le défenseur voit plus de bruit

Pour les admins, MSP et équipes sécurité, le bruit augmente : plus de variantes de phishing, de faux supports bien écrits, de scans plus propres, de recon semi-automatisée, d’exploits supposés, de rapports plausibles et d’outils avec IA dans le nom mais peu de substance.

La question centrale n’est pas : “Est-ce que l’IA a été utilisée ?” La meilleure question est : existe-t-il un vrai chemin d’attaque, un système touché chez nous, une couche identité protégée, une surface externe, de la télémétrie d’exploitation ou de préparation, et un impact prouvé ? Faut-il patcher, configurer, bloquer, surveiller ou seulement documenter ?

Cela rejoint mon idée sur le Patchday à l’ère de l’IA : les signaux augmentent. La sécurité se gagne par la priorisation, pas par la panique.

Moins de surface d’attaque vaut plus

Plus les attaques passent à l’échelle, plus la réduction ennuyeuse devient précieuse : moins de services publics, moins d’outils locaux, moins d’extensions, moins de comptes admin, moins de tokens persistants, moins de shadow IT, moins de validations rapides et moins de vieux systèmes de test sans propriétaire.

Ce n’est pas une contre-attaque IA glamour. C’est de l’hygiène. Mais cette hygiène compte davantage lorsque la tromperie s’améliore et que la reconnaissance coûte moins cher.

Ce qu’il faut faire maintenant

Je répondrais par des questions concrètes : nos comptes importants sont-ils protégés contre le phishing ? Voyons-nous les événements d’identité suspects comme nouvelles apps OAuth, connexions inhabituelles, règles de boîte mail, redirections et échecs massifs ? Avons-nous des processus clairs pour l’argent, les données et les accès ? Vérifions-nous les demandes critiques par un second canal ? Contrôlons-nous assez bien le recrutement distant et le helpdesk ? Patchons-nous selon le risque ? Réduisons-nous les outils inutiles ?

Mon classement

Je ne vois pas l’IA dans le cybercrime underground comme un débat lointain. Elle fait déjà partie du travail. Mais le point central n’est pas le mot spectaculaire “IA”. C’est la vitesse.

Le cybercrime devient plus productif, meilleur linguistiquement, plus automatisé et mieux emballé. Beaucoup d’offres restent exagérées, certaines sont des arnaques et certaines sont banales. Mais le marché bouge.

Il ne faut pas regarder seulement la prétendue nouvelle superarme. Le vrai changement se trouve dans les étapes intermédiaires : texte, code, données, support, variantes, échelle.

Toutes les organisations n’ont pas besoin d’un AI-SOC. Mais toutes ont besoin de moins de surface d’attaque, d’une meilleure sécurité d’identité, de processus plus propres, de chemins de patch plus rapides et d’assez de télémétrie pour ne pas être aveugles.

L’IA ne rend pas automatiquement le cybercrime génial. Elle rend le cybercrime moyen plus productif. Et cela suffit pour être très sérieux.

À la prochaine,
Joe