AI nel sottobosco del cybercrime: l'hype incontra il mestiere

Quando oggi si parla di AI e cybercrime, molte storie sembrano fantascienza: malware autonomo, superhacker digitali, modelli che di notte smontano da soli reti aziendali. Credo che questa narrazione sia troppo comoda. Fa rumore, si vende bene e distrae dal problema vero.

Il pericolo non è che ogni gruppo criminale abbia all’improvviso un genio in cantina. Il pericolo è che molte attività noiose diventino più economiche, rapide e scalabili: tradurre, riscrivere, ordinare vittime, rendere il phishing più credibile, spiegare codice, correggere errori, analizzare leak, variare script di social engineering, impacchettare tool e rendere più professionali certe promesse.

L’underground vende raramente verità pura

Bisogna partire con una dose di diffidenza. Nei forum criminali, nei gruppi Telegram e nelle offerte di cybercrime-as-a-service si promette molto. Alcuni vendono strumenti reali. Altri vendono tool open source rinominati, wrapper semplici su modelli pubblici, account rubati, prompt di jailbreak, pannelli inutili o truffe contro altri truffatori.

Una “AI hacking tool” non è automaticamente impressionante. Lo studio USENIX sui servizi Malla, cioè “Malicious LLM-integrated applications”, lo mostra bene: 212 servizi reali, otto LLM di backend e 182 prompt di jailbreak. Il mercato esiste, ma molte offerte sono wrapper, jailbreak e abuso di modelli pubblici o aperti.

Google Threat Intelligence descrive lo stesso schema con Xanthorox: venduto come modello offensivo proprio, ma basato secondo Google su API commerciali jailbroken e componenti open source. La confezione sembra un laboratorio segreto, la tecnica sotto è spesso più banale.

Per questo non servono né cinismo totale né panico. L’AI non è magia, ma entra bene nei workflow esistenti. Se uno strumento risparmia tempo, riduce barriere linguistiche o produce più varianti all’ora, diventa interessante.

Ciò che oggi è plausibile

I report pubblici di OpenAI, Google Threat Intelligence ed Europol sono coerenti: gli attaccanti usano l’AI generativa dove accelera il lavoro e migliora la qualità. Non sostituisce completamente la competenza, la amplifica.

Le aree principali sono phishing e social engineering, frodi e abuso d’identità, elaborazione di dati rubati, supporto tecnico e vendita. I testi diventano più naturali e localizzati. Profili, fatture, richieste di supporto e storie d’investimento diventano più credibili. Log, dump, mailbox, export CRM, screenshot e chat si ordinano più velocemente. I modelli spiegano codice, adattano script, interpretano errori e strutturano idee di exploit. Anche un tool mediocre può essere documentato e supportato meglio.

Le prove più forti sono nelle frodi

Più un’affermazione diventa tecnica, più spesso le prove pubbliche si assottigliano. Nelle frodi e nel social engineering è diverso. Il report FBI IC3 2025 usa il descrittore “AI Related” e riporta 22.364 denunce con 893.346.472 dollari di perdite dichiarate. Non è una prova forense perfetta, ma è un segnale forte.

Spiccano le truffe d’investimento con riferimento all’AI e oltre 632 milioni di dollari di perdite, i casi BEC con oltre 30 milioni e le truffe di lavoro con quasi 13 milioni. Il danno più documentato non arriva da malware autonomo, ma da inganni migliori, più scala e identità più credibili.

Ciò che non credo

Non credo che i gruppi criminali usino già in modo ampio agenti AI autonomi capaci di scegliere obiettivi realistici, comprometterli, muoversi lateralmente, esfiltrare dati e chiudere estorsioni senza guida umana.

Esperimenti e proof of concept ci saranno. Ma i report solidi mostrano soprattutto compiti parziali: ricerca, traduzione, aiuto sul codice, preparazione di campagne, varianti, social engineering e analisi dati. Anche il NCSC britannico considera improbabili attacchi avanzati end-to-end completamente automatizzati entro il 2027. Più probabile è il teaming uomo-macchina.

Il cybercrime non deve diventare autonomo per essere più pericoloso. Basta che gli stessi gruppi lancino più tentativi, localizzino prima, imparino più velocemente e sembrino più professionali.

Aumenta la qualità dell’inganno

Molti programmi di sicurezza contano ancora molto sul riconoscimento umano: segnalare mail sospette, notare link falsi, riconoscere una lingua strana e mettere in dubbio richieste atipiche. Resta importante, ma diventa più difficile.

Se una fattura imita lo stile di un fornitore noto, se una richiesta di supporto combacia con un ambiente reale, se un messaggio LinkedIn non sembra più tradotto automaticamente e se una truffa gira bene in dieci lingue, la difesa cambia.

Servono freni tecnici:

• MFA forte, idealmente resistente al phishing
• Conditional Access e binding del dispositivo
• autenticazione mail pulita con SPF, DKIM e DMARC
• rilevamento dell’abuso di app OAuth
• protezione da nuove regole inbox e inoltri sospetti
• processi di pagamento e approvazione fuori dall’e-mail
• logging attivo prima del danno

Cybercrime-as-a-Service diventa più professionale

Il cybercrime è già diviso in ruoli: broker di accesso iniziale, kit di phishing, loader, programmi ransomware affiliate, broker di dati, hosting, infrastruttura bulletproof, riciclaggio, traduttori, call center e supporto.

L’AI si inserisce bene. Un provider scrive documentazione più in fretta. Un affiliato adatta campagne. Un data broker descrive meglio un leak. Uno scammer risponde ai clienti. Uno sviluppatore corregge errori. Un attore meno esperto supera ostacoli tecnici.

Microsoft chiama questo ruolo “tradecraft”: acceleratore per testo, codice, media, riepilogo dati, persona, debugging malware e scaffolding infrastrutturale. Google osserva anche esperimenti come HONESTCUE, ma sono blocchi dentro un workflow, non prova di attacchi autonomi di massa.

Il difensore vede più rumore

Per admin, MSP e security team aumenta il rumore: più varianti di phishing, falsi supporti ben scritti, scan più puliti, recon semi-automatizzata, presunti exploit, report plausibili e tool con AI nel nome ma poca sostanza.

La domanda centrale non è: “È stata usata l’AI?” Meglio chiedere: esiste un percorso reale d’attacco, un sistema colpito, identità protette, superficie esterna, telemetria di exploit o preparazione, impatto dimostrato? Devo patchare, configurare, bloccare, monitorare o solo documentare?

Questo si collega al mio pensiero sul Patchday nell’era dell’AI: aumentano i segnali, ma la sicurezza si vince con priorità migliori, non con panico.

Meno superficie d’attacco vale di più

Più gli attacchi scalano, più conta la riduzione noiosa: meno servizi pubblici, tool locali, estensioni browser, account admin, token persistenti, shadow IT, eccezioni rapide e vecchi test system senza proprietario. Non è glamour. È igiene. Ma quando l’inganno migliora e la recon costa meno, questa igiene pesa di più.

Cosa fare adesso

Le domande pratiche sono semplici: gli account importanti sono protetti contro il phishing? Vediamo nuove app OAuth, login insoliti, regole inbox, inoltri e fallimenti massivi? Abbiamo processi chiari per denaro, dati e accesso? Verifichiamo richieste critiche su un secondo canale? Controlliamo bene remote hiring e helpdesk? Patchiamo per rischio? Riduciamo i tool inutili?

La mia valutazione

L’AI nel cybercrime underground non è un tema lontano. È già parte del lavoro. Ma il punto chiave non è la parola spettacolare “AI”. È la velocità.

Il cybercrime diventa più produttivo, migliore sul piano linguistico, più automatizzato e confezionato meglio. Molte offerte restano esagerate, alcune sono truffe e alcune sono banali. Ma il mercato si sposta.

Chi guarda solo alla nuova presunta superarma perde il cambiamento reale: testo, codice, dati, supporto, varianti, scala.

Non tutte le organizzazioni hanno bisogno di un proprio AI-SOC. Ma tutte hanno bisogno di meno superficie d’attacco, identità più sicure, processi più puliti, patch più rapide e telemetria sufficiente.

L’AI non rende automaticamente geniale il cybercrime. Rende più produttivo il cybercrime mediocre. Ed è abbastanza per prenderla molto sul serio.

Alla prossima,
Joe