AI dalam dunia bawah jenayah siber: hype bertemu kemahiran

Apabila orang bercakap tentang AI dan jenayah siber, banyak kisah kedengaran seperti fiksyen sains: malware autonomi, superhacker digital, atau model yang merobohkan rangkaian syarikat sendirian pada waktu malam. Naratif itu terlalu mudah. Ia bising, mudah dijual, dan mengalih perhatian daripada masalah sebenar.

Bahaya AI dalam jenayah siber bukanlah setiap kumpulan penjenayah tiba-tiba mempunyai genius sendiri. Bahayanya ialah banyak kerja rutin menjadi lebih murah, cepat dan mudah diskalakan: menterjemah, menulis semula, menyusun mangsa, menjadikan phishing lebih meyakinkan, menerangkan kod, menyahpepijat ralat, menilai kebocoran data, mengubah skrip social engineering, membungkus alat dan menjadikan dakwaan kelihatan profesional.

Dunia bawah jarang menjual kebenaran tulen

Topik ini perlu dimulakan dengan rasa curiga. Dalam forum jenayah, kumpulan Telegram dan tawaran cybercrime-as-a-service, terlalu banyak dakwaan dibuat. Ada yang menjual alat sebenar. Ada juga yang menjual alat open source yang dinamakan semula, wrapper mudah untuk model awam, akaun curi, prompt jailbreak, panel tidak berguna atau penipuan terhadap penipu lain.

“AI hacking tool” tidak semestinya hebat. Kajian USENIX tentang perkhidmatan Malla, iaitu “Malicious LLM-integrated applications”, meneliti 212 perkhidmatan sebenar dan menemui lapan backend LLM serta 182 prompt jailbreak. Pasaran memang wujud, tetapi banyak tawaran hanyalah wrapper, jailbreak dan penyalahgunaan model awam atau terbuka.

Google Threat Intelligence menggambarkan corak yang sama dengan Xanthorox: dipasarkan sebagai model ofensif sendiri, tetapi menurut Google bergantung pada API komersial yang dijailbreak dan komponen open source. Bungkusannya kedengaran seperti makmal bawah tanah; teknologi di bawahnya sering lebih biasa.

Pandangan yang lebih berguna ialah sederhana: AI bukan sihir, tetapi ia sesuai dengan workflow sedia ada. Jika sesuatu alat menjimatkan masa, mengurangkan halangan bahasa atau menghasilkan lebih banyak variasi sejam, ia menarik.

Apa yang sudah munasabah hari ini

Laporan awam OpenAI, Google Threat Intelligence dan Europol menunjukkan gambaran konsisten: penyerang menggunakan AI generatif terutamanya apabila ia mempercepat kerja dan meningkatkan kualiti. Ia bukan pengganti kemahiran, tetapi penguat.

Kawasan penting ialah phishing dan social engineering, penipuan dan penyalahgunaan identiti, pemprosesan data curi, bantuan teknikal serta pembungkusan dan jualan. Teks menjadi lebih semula jadi dan tempatan. Profil, invois, permintaan sokongan dan cerita pelaburan menjadi lebih dipercayai. Log, dump, mailbox, eksport CRM, tangkapan skrin dan chat boleh disusun lebih cepat. Model boleh menerangkan kod, mengubah skrip, mentafsir ralat dan menyusun idea eksploit. Alat biasa pun boleh didokumentasi dan dipasarkan dengan lebih baik.

Bukti paling kuat berada pada fraud

Semakin teknikal sesuatu dakwaan, semakin nipis bukti awamnya. Fraud dan social engineering berbeza. FBI IC3 Report 2025 menggunakan descriptor “AI Related” dan mencatat 22,364 aduan dengan kerugian dilaporkan sebanyak 893,346,472 dolar AS. Ini bukan ukuran forensik sempurna, tetapi isyarat kuat.

Scam pelaburan berkaitan AI melebihi 632 juta dolar kerugian, kes BEC melebihi 30 juta dan scam pekerjaan hampir 13 juta. Ini menyokong tesis: kerosakan terbesar yang terbukti bukan daripada malware autonomi, tetapi daripada penipuan yang lebih baik, skala lebih besar dan identiti lebih meyakinkan.

Apa yang saya tidak percaya

Saya tidak percaya kumpulan jenayah sudah menggunakan agen AI autonomi secara meluas untuk memilih sasaran, mengkompromi sistem, bergerak lateral, mencuri data dan menyelesaikan pemerasan tanpa arahan manusia.

Eksperimen dan proof of concept akan wujud. Tetapi laporan kukuh menunjukkan AI digunakan untuk subtugas: penyelidikan, terjemahan, bantuan kod, persediaan kempen, variasi, social engineering dan analisis data. NCSC UK juga menilai serangan end-to-end maju yang sepenuhnya automatik masih tidak mungkin sehingga 2027. Yang lebih realistik ialah kerjasama manusia-mesin.

Jenayah siber tidak perlu sepenuhnya autonomi untuk menjadi lebih berbahaya. Cukup jika kumpulan yang sama boleh mencuba lebih banyak, melokalkan lebih cepat, belajar lebih cepat dan kelihatan lebih profesional.

Kualiti penipuan meningkat

Banyak konsep keselamatan masih bergantung pada pengesanan manusia: pekerja melaporkan email mencurigakan, mengenal pasti pautan palsu, perasan bahasa pelik dan mempersoal permintaan luar biasa. Ini masih penting, tetapi semakin sukar.

Apabila penyerang boleh menulis invois seperti pembekal sebenar, membuat tiket sokongan yang sesuai dengan persekitaran nyata, menghantar mesej LinkedIn yang tidak lagi seperti terjemahan mesin, dan menjalankan scam dalam sepuluh bahasa, pertahanan perlu berubah.

Perlu brek teknikal:

• MFA kuat, sebaiknya tahan phishing
• Conditional Access dan pengikatan peranti
• pengesahan email dengan SPF, DKIM dan DMARC
• pengesanan penyalahgunaan aplikasi OAuth
• perlindungan terhadap peraturan inbox baharu dan forwarding mencurigakan
• proses bayaran dan kelulusan di luar email
• logging sebelum kerosakan berlaku

Cybercrime-as-a-Service menjadi lebih profesional

Jenayah siber sudah berpecah kepada peranan: initial-access broker, kit phishing, loader malware, program affiliate ransomware, broker data, hosting, infrastruktur bulletproof, rangkaian pengubahan wang, penterjemah, call center dan sokongan.

AI sesuai dalam struktur ini. Penyedia menulis dokumentasi lebih cepat. Affiliate menyesuaikan kempen. Broker data menerangkan leak dengan lebih baik. Scammer menjawab pelanggan. Pembangun menyahpepijat ralat. Pelaku kurang berpengalaman melalui halangan teknikal.

Microsoft menyebut peranan ini sebagai “tradecraft”: pemecut untuk teks, kod, media, ringkasan data, persona, debugging malware dan scaffolding infrastruktur. Google juga melihat eksperimen seperti HONESTCUE. Ia serius, tetapi masih blok dalam workflow, bukan bukti serangan autonomi besar-besaran.

Defender melihat lebih banyak bunyi

Admin, MSP dan pasukan keselamatan akan melihat lebih banyak noise: variasi phishing, fake support yang kemas, scan lebih bersih, recon separa automatik, exploit yang didakwa, laporan yang masuk akal dan tool dengan nama AI tetapi sedikit isi teknikal.

Soalan utama bukan “adakah AI digunakan?” Soalan lebih baik: adakah laluan serangan sebenar, sistem terkesan, lapisan identiti terlindung, permukaan luaran, telemetri eksploitasi atau persediaan, dan impak terbukti? Perlu patch, konfigurasi, blok, monitor atau hanya dokumentasi?

Ini selari dengan pemikiran saya tentang Patchday dalam era AI: isyarat bertambah, tetapi keselamatan dimenangi melalui keutamaan yang lebih baik.

Kurang permukaan serangan menjadi lebih bernilai

Semakin serangan diskalakan, semakin bernilai pengurangan membosankan: kurang perkhidmatan awam, alat tempatan, extension browser, akaun admin, token kekal, shadow IT, kelulusan cepat dan sistem ujian lama tanpa pemilik. Ia bukan glamour. Ia hygiene. Dan ia menjadi lebih penting apabila penipuan bertambah baik dan recon menjadi murah.

Apa yang patut dibuat sekarang

Tanya perkara praktikal: adakah akaun penting tahan phishing? Adakah kita nampak event identiti mencurigakan? Adakah proses wang, data dan akses jelas? Adakah permintaan kritikal disahkan melalui saluran kedua? Adakah remote hiring dan helpdesk cukup ketat? Adakah patching berdasarkan risiko? Adakah alat tidak perlu dikurangkan?

Penilaian saya

AI dalam dunia bawah jenayah siber bukan perbahasan masa depan jauh. Ia sudah menjadi sebahagian kerja. Tetapi titik utama bukan istilah “AI”. Titik utama ialah kelajuan.

Jenayah siber menjadi lebih produktif, lebih baik dari segi bahasa, lebih automatik dan lebih profesional. Banyak tawaran masih berlebihan, ada yang scam dan ada yang biasa. Namun pasaran bergerak.

Perubahan sebenar berlaku pada langkah pertengahan: teks, kod, data, sokongan, variasi dan skala. Di situlah defender perlu bermula.

AI tidak menjadikan jenayah siber automatik genius. Ia menjadikan jenayah siber sederhana lebih produktif. Itu sudah cukup serius.

Jumpa lagi,
Joe