AI katika ulimwengu wa chini wa uhalifu mtandao: kelele hukutana na ufundi

Watu wanapozungumza leo kuhusu AI na uhalifu mtandao, simulizi nyingi husikika kama sayansi ya kubuni: malware inayojiongoza, superhacker wa kidijitali, au modeli zinazovunja mitandao ya kampuni usiku bila msaada. Kwa maoni yangu, simulizi hiyo ni rahisi sana. Inapiga kelele, inauzika vizuri, na inaondoa macho kwenye tatizo halisi.

Hatari si kwamba kila kundi la wahalifu limepata ghafla jiniasi wake wa siri. Hatari ni kwamba kazi nyingi za kawaida zinakuwa nafuu, za haraka na rahisi kupanua: kutafsiri, kuandika upya, kupanga waathirika, kufanya phishing ionekane ya kuaminika, kueleza msimbo, kutatua makosa, kuchambua uvujaji wa data, kubadilisha maandishi ya social engineering, kufungasha zana na kufanya madai yaonekane ya kitaalamu.

Ulimwengu wa chini hauuzi ukweli safi mara nyingi

Mada hii inahitaji mashaka. Kwenye forum za kihalifu, vikundi vya Telegram na huduma za cybercrime-as-a-service, madai ni mengi. Wengine huuza zana halisi. Wengine huuza zana za open source zilizobadilishwa jina, wrappers rahisi juu ya modeli za umma, akaunti zilizoibwa, jailbreak prompts, paneli zisizo na maana au utapeli dhidi ya matapeli wengine.

“AI hacking tool” si lazima iwe ya kiufundi sana. Utafiti wa USENIX kuhusu huduma za Malla, yaani “Malicious LLM-integrated applications”, ulichunguza huduma 212 halisi na kupata backend LLM nane na jailbreak prompts 182. Soko lipo, lakini huduma nyingi ni wrappers, jailbreaks na matumizi mabaya ya modeli za umma au wazi.

Google Threat Intelligence inaonyesha mfano huo kwa Xanthorox: iliuzwa kama modeli yake ya kushambulia, lakini kulingana na Google ilitegemea API za kibiashara zilizojailbreakiwa na vipengele vya open source. Kifungashio kinaweza kusikika kama maabara ya siri; teknolojia chini yake mara nyingi ni ya kawaida.

Mtazamo bora ni mtulivu: AI si uchawi, lakini inaingia vizuri kwenye workflow zilizopo. Ikiwa zana inaokoa muda, inapunguza kizuizi cha lugha au inazalisha matoleo mengi kwa saa, itavutia.

Kilicho na uwezekano leo

Ripoti za OpenAI, Google Threat Intelligence na Europol zinaonyesha picha inayofanana: washambuliaji hutumia AI generative pale inapoharakisha kazi na kuongeza ubora. Si mbadala kamili wa ujuzi, bali ni kizidishi.

Maeneo muhimu ni phishing na social engineering, udanganyifu na matumizi mabaya ya utambulisho, uchakataji wa data iliyoibwa, msaada wa kiufundi, pamoja na kufungasha na kuuza zana. Maandishi yanakuwa ya asili zaidi na ya eneo husika. Wasifu, ankara, maombi ya support na hadithi za uwekezaji zinaaminika zaidi. Logs, dumps, mailbox, export za CRM, picha za skrini na chats zinaweza kupangwa haraka. Modeli zinaweza kueleza code, kubadilisha scripts, kutafsiri errors na kupanga mawazo ya exploit.

Ushahidi mgumu uko kwenye fraud

Kadiri dai linavyokuwa la kiufundi zaidi, ndivyo ushahidi wa umma mara nyingi unavyokuwa mwembamba. Katika fraud na social engineering hali ni tofauti. FBI IC3 Report ya 2025 inatumia descriptor “AI Related” na kutaja malalamiko 22,364 yenye hasara zilizoripotiwa za dola 893,346,472. Huu si ushahidi kamili wa forensics, lakini ni ishara nzito.

Investment scams zenye uhusiano wa AI zina zaidi ya dola milioni 632 za hasara, BEC zaidi ya milioni 30, na employment scams karibu milioni 13. Hilo linaunga mkono hoja kuu: hasara kubwa iliyothibitishwa haitoki kwa malware inayojiongoza, bali kwa udanganyifu bora, ukubwa zaidi na utambulisho unaoaminika zaidi.

Ninachokataa kuamini

Siamini kwamba makundi ya kihalifu tayari yanatumia kwa upana mawakala wa AI wanaojitegemea kuchagua malengo, kuyavamia, kusonga ndani ya mtandao, kuiba data na kukamilisha utekaji bila mwongozo wa binadamu.

Majaribio na proofs of concept yatakuwepo. Lakini ripoti imara zinaonyesha matumizi ya kazi ndogo: utafiti, tafsiri, msaada wa code, maandalizi ya kampeni, variants, social engineering na uchambuzi wa data. NCSC ya Uingereza pia inaona mashambulizi ya juu yaliyo otomatiki kikamilifu hadi mwisho kuwa yasiyo na uwezekano mkubwa kufikia 2027. Kinachoonekana zaidi ni ushirikiano wa binadamu na mashine.

Uhalifu mtandao hauhitaji kuwa huru kabisa ili kuwa hatari zaidi. Inatosha makundi yale yale yaweze kujaribu zaidi, kulocalize haraka, kujifunza haraka na kuonekana ya kitaalamu zaidi.

Ubora wa udanganyifu unaongezeka

Mifumo mingi ya usalama bado inategemea utambuzi wa binadamu: wafanyakazi waripoti email za shaka, watambue link bandia, waone lugha isiyo ya kawaida na wahoji maombi yasiyo ya kawaida. Hilo bado ni muhimu, lakini linakuwa gumu zaidi.

Ikiwa mshambuliaji anaweza kuandika ankara kwa mtindo wa supplier anayejulikana, kuunda ticket ya support inayolingana na mazingira halisi, kutuma ujumbe wa LinkedIn usioonekana kama tafsiri ya mashine na kusambaza scam katika lugha kumi, ulinzi hubadilika.

Vikwazo vya kiufundi vinahitajika:

• MFA imara, ikiwezekana inayostahimili phishing
• Conditional Access na kufunga kifaa
• uthibitishaji wa email kwa SPF, DKIM na DMARC
• kugundua matumizi mabaya ya OAuth apps
• ulinzi dhidi ya rules mpya za inbox na forwarding ya shaka
• michakato ya malipo na approval nje ya email
• logging kabla ya madhara

Cybercrime-as-a-Service inakuwa ya kitaalamu zaidi

Uhalifu mtandao tayari umegawanyika katika majukumu: initial-access brokers, phishing kits, malware loaders, programu za ransomware affiliate, data brokers, hosting, bulletproof infrastructure, mitandao ya money laundering, watafsiri, call centers na support.

AI inaingia vizuri hapo. Mtoa huduma anaandika documentation haraka. Affiliate anabadilisha kampeni. Data broker anaeleza leak vizuri. Scammer anajibu wateja. Developer anatua errors haraka. Mhalifu asiye na uzoefu anapewa msaada kuvuka vikwazo vya kiufundi.

Microsoft inaeleza hili kama “tradecraft”: kiharakishi cha text, code, media, muhtasari wa data, personas, malware debugging na infrastructure scaffolding. Google pia inaona majaribio kama HONESTCUE. Haya ni muhimu, lakini bado ni vipande ndani ya workflow, si ushahidi wa mashambulizi mengi huru kabisa.

Defender anaona kelele zaidi

Admins, MSPs na timu za security wataona kelele zaidi: phishing variants zaidi, fake support zilizoandikwa vizuri, scans safi zaidi, recon nusu-otomatiki, exploits zinazodaiwa, reports zinazosikika kweli na tools zenye AI kwenye jina lakini msingi mdogo wa kiufundi.

Swali kuu si “AI ilitumika?” Swali bora ni: je, kuna njia halisi ya mshambuliaji, system iliyoathirika, identity layer iliyolindwa, attack surface ya nje, telemetry ya exploitation au maandalizi, na impact iliyothibitishwa? Je, nipatch, niconfigure, niblock, nimonitor au niandike tu?

Hii inaendana na wazo langu kuhusu Patchday katika enzi ya AI: signals zinaongezeka, lakini security inashinda kupitia prioritization bora.

Attack surface ndogo inakuwa na thamani zaidi

Kadiri mashambulizi yanavyopanuka, ndivyo reduction ya kawaida inavyokuwa muhimu: services chache zilizo wazi kwa umma, tools chache za ndani, browser extensions chache, admin accounts chache, tokens chache za muda mrefu, shadow IT chache na test systems chache zisizo na mmiliki. Hii si glamour. Ni hygiene. Na hygiene inakuwa muhimu zaidi udanganyifu unapoboreka na recon inapokuwa nafuu.

Cha kufanya sasa

Maswali ya vitendo ni wazi: account muhimu zinalindwa dhidi ya phishing? Tunaona identity events za shaka? Tuna michakato wazi ya pesa, data na access? Tuna-verify maombi muhimu kupitia channel ya pili? Remote hiring na helpdesk ziko imara? Tunapatch kulingana na risk? Tunapunguza tools zisizo muhimu?

Mtazamo wangu

AI katika ulimwengu wa chini wa uhalifu mtandao si mjadala wa mbali. Tayari ni sehemu ya kazi. Lakini hoja kuu si neno “AI”. Hoja kuu ni kasi.

Cybercrime inakuwa produktiv zaidi, bora kilugha, automated zaidi na packaged vizuri zaidi. Huduma nyingi bado zimezidishwa, nyingine ni scams na nyingine ni za kawaida. Lakini soko linabadilika.

Mabadiliko halisi yapo kwenye hatua za kati: text, code, data, support, variants na scale. Hapo ndipo defenders wanapaswa kuanza.

AI haifanyi cybercrime iwe ya kijenius moja kwa moja. Inafanya cybercrime ya wastani iwe produktiv zaidi. Na hiyo inatosha kuwa jambo zito.

Hadi wakati mwingine,
Joe