AI di dunia bawah kejahatan siber: hype bertemu kerja nyata

Saat orang membahas AI dan kejahatan siber, banyak cerita terdengar seperti fiksi ilmiah: malware otonom, superhacker digital, atau model yang membongkar jaringan perusahaan sendirian pada malam hari. Menurut saya cerita itu terlalu nyaman. Ia keras, mudah dijual, dan mengalihkan perhatian dari masalah sebenarnya.

Bahaya AI dalam kejahatan siber bukan karena setiap kelompok kriminal tiba-tiba punya seorang jenius di ruang bawah tanah. Bahayanya adalah banyak pekerjaan membosankan menjadi lebih murah, lebih cepat, dan lebih mudah diskalakan: menerjemahkan, menulis ulang, memilah korban, membuat phishing lebih meyakinkan, menjelaskan kode, men-debug error, menganalisis kebocoran data, memvariasikan skrip social engineering, mengemas tool, dan membuat klaim terlihat profesional.

Dunia bawah jarang menjual kebenaran murni

Topik ini harus dimulai dengan sikap curiga. Di forum kriminal, grup Telegram, dan penawaran cybercrime-as-a-service, banyak hal diklaim. Ada yang menjual tool nyata. Ada juga yang menjual tool open source yang diganti nama, wrapper sederhana di atas model publik, akun curian, jailbreak prompt, panel tidak berguna, atau penipuan terhadap penipu lain.

Sebuah “AI hacking tool” belum tentu canggih. Studi USENIX tentang layanan Malla, yaitu “Malicious LLM-integrated applications”, meneliti 212 layanan nyata dan menemukan delapan backend LLM serta 182 jailbreak prompt. Pasarnya nyata, tetapi banyak penawaran hanyalah wrapper, jailbreak, dan penyalahgunaan model publik atau terbuka.

Google Threat Intelligence melihat pola yang sama pada Xanthorox: dipasarkan sebagai model ofensif sendiri, tetapi menurut Google bergantung pada API komersial yang dijailbreak dan komponen open source. Kemasan terdengar seperti laboratorium rahasia, teknologinya sering jauh lebih biasa.

Jadi dua ekstrem harus dihindari: menganggap semuanya hype, atau menganggap AI akan mengambil alih semua cybercrime. Pandangan yang lebih berguna adalah sederhana: AI bukan sihir, tetapi cocok dengan workflow yang sudah ada. Jika sebuah tool menghemat waktu, mengurangi hambatan bahasa, atau membuat lebih banyak variasi per jam, tool itu akan dipakai.

Yang sudah masuk akal hari ini

Laporan publik dari OpenAI, Google Threat Intelligence, dan Europol cukup konsisten: penyerang memakai AI generatif terutama saat AI mempercepat pekerjaan dan menaikkan kualitas. Bukan pengganti keahlian, melainkan penguat.

Area utamanya adalah phishing dan social engineering, penipuan dan penyalahgunaan identitas, pemrosesan data curian, bantuan teknis, serta pengemasan dan penjualan. Teks menjadi lebih natural dan lokal. Profil, invoice, tiket dukungan, dan cerita investasi menjadi lebih kredibel. Log, dump, mailbox, ekspor CRM, screenshot, dan chat bisa dipilah lebih cepat. Model dapat menjelaskan kode, mengubah script, membaca error, membuat regex, memahami API, atau menyusun ide eksploit. Bahkan tool biasa bisa terdokumentasi dan dipasarkan lebih baik.

Bukti terkuat ada pada fraud

Semakin teknis sebuah klaim, semakin tipis bukti publiknya. Fraud dan social engineering berbeda. FBI IC3 Report 2025 memakai descriptor “AI Related” dan mencatat 22.364 laporan dengan kerugian 893.346.472 dolar AS. Ini bukan ukuran forensik sempurna, tetapi sinyal kuat.

Investment scam dengan kaitan AI mencatat lebih dari 632 juta dolar kerugian, kasus BEC lebih dari 30 juta, dan employment scam hampir 13 juta. Ini sesuai dengan tesis utama: kerusakan terbesar yang terbukti bukan berasal dari malware otonom, tetapi dari penipuan yang lebih baik, skala yang lebih besar, dan identitas yang lebih meyakinkan.

Yang tidak saya percaya

Saya tidak percaya kita sudah berada di titik ketika kelompok kriminal secara luas memakai agen AI otonom yang memilih target, mengompromikan sistem, bergerak lateral, mencuri data, dan menyelesaikan pemerasan tanpa arahan manusia.

Eksperimen pasti ada. Proof of concept juga. Namun laporan yang kuat menunjukkan penggunaan pada subtugas: riset, terjemahan, bantuan kode, persiapan kampanye, variasi, social engineering, dan analisis data. NCSC Inggris juga menilai serangan end-to-end canggih yang sepenuhnya otomatis masih tidak mungkin sampai 2027. Yang lebih realistis adalah kerja sama manusia-mesin.

Cybercrime tidak perlu sepenuhnya otonom agar lebih berbahaya. Cukup jika kelompok yang sama dapat mencoba lebih banyak, melokalkan lebih cepat, belajar lebih cepat, dan terlihat lebih profesional.

Kualitas penipuan meningkat

Banyak konsep keamanan masih sangat bergantung pada manusia: karyawan harus melaporkan email mencurigakan, mengenali link palsu, memperhatikan bahasa aneh, dan mempertanyakan permintaan tidak biasa. Itu tetap penting, tetapi semakin sulit.

Jika penyerang dapat menulis invoice seperti pemasok sungguhan, membuat tiket dukungan yang cocok dengan lingkungan produk nyata, mengirim pesan LinkedIn yang tidak terdengar seperti terjemahan mesin, dan meluncurkan scam rapi dalam sepuluh bahasa, pertahanan harus berubah.

Rem teknis dibutuhkan:

• MFA kuat, idealnya tahan phishing
• Conditional Access dan pengikatan perangkat
• autentikasi email dengan SPF, DKIM, dan DMARC
• deteksi penyalahgunaan aplikasi OAuth
• perlindungan dari aturan inbox baru dan forwarding mencurigakan
• proses pembayaran dan persetujuan di luar email
• logging sebelum kerugian terjadi

Cybercrime-as-a-Service makin profesional

Cybercrime sudah terbagi menjadi peran: initial-access broker, phishing kit, malware loader, program afiliasi ransomware, broker data, hosting, infrastruktur bulletproof, pencucian uang, penerjemah, call center, dan support.

AI cocok di struktur itu. Provider menulis dokumentasi lebih cepat. Afiliasi menyesuaikan kampanye. Penjual data menjelaskan leak lebih baik. Scammer menjawab pelanggan. Developer men-debug lebih cepat. Pelaku yang kurang berpengalaman melewati hambatan teknis.

Microsoft menyebut peran ini sebagai “tradecraft”: akselerator untuk teks, kode, media, ringkasan data, persona, debugging malware, dan scaffolding infrastruktur. Google juga melihat eksperimen seperti HONESTCUE. Ini serius, tetapi tetap bagian dari workflow, bukan bukti serangan otonom massal.

Defender melihat lebih banyak noise

Admin, MSP, dan tim keamanan akan melihat lebih banyak noise: variasi phishing, fake support yang rapi, scan dengan user-agent lebih bersih, recon semi-otomatis, exploit yang diklaim, laporan yang terdengar masuk akal, dan tool dengan nama AI tetapi sedikit substansi.

Pertanyaan utamanya bukan “apakah AI dipakai?” Pertanyaan yang lebih baik: apakah ada jalur serangan nyata, sistem terdampak, identitas terlindungi, permukaan serangan eksternal, telemetri eksploitasi atau persiapan, dan dampak yang terbukti? Perlu patch, konfigurasi, blokir, monitoring, atau cukup dokumentasi?

Ini sejalan dengan tulisan saya tentang Patchday di era AI: jumlah sinyal naik, tetapi keamanan dimenangkan lewat prioritas yang lebih baik.

Permukaan serangan yang lebih kecil makin berharga

Semakin serangan dapat diskalakan, semakin bernilai pengurangan yang membosankan: lebih sedikit layanan publik, tool lokal, ekstensi browser, akun admin, token permanen, shadow IT, persetujuan cepat, dan sistem uji lama tanpa pemilik. Ini bukan serangan balik AI yang glamor. Ini hygiene. Dan hygiene makin penting ketika penipuan membaik dan recon menjadi murah.

Yang perlu dilakukan sekarang

Pertanyaannya praktis: apakah akun penting tahan phishing? Apakah kita melihat event identitas mencurigakan seperti aplikasi OAuth baru, login aneh, aturan inbox baru, forwarding, dan kegagalan massal? Apakah proses uang, data, dan akses jelas? Apakah permintaan kritis diverifikasi lewat kanal kedua? Apakah remote hiring dan helpdesk cukup ketat? Apakah patching berbasis risiko? Apakah tool yang tidak perlu dikurangi?

Penilaian saya

AI di dunia bawah cybercrime bukan diskusi masa depan jauh. Ia sudah menjadi bagian pekerjaan. Tetapi poin terpenting bukan istilah “AI”. Poinnya adalah kecepatan.

Cybercrime menjadi lebih produktif, lebih baik secara bahasa, lebih otomatis, dan lebih profesional dalam kemasan. Banyak penawaran tetap dilebih-lebihkan, sebagian scam, sebagian teknisnya biasa. Namun pasar bergerak.

Perubahan nyata terjadi pada langkah antara: teks, kode, data, support, variasi, dan skala. Di sanalah defender harus fokus.

Tidak semua organisasi perlu AI-SOC sendiri. Tetapi semua organisasi perlu permukaan serangan lebih kecil, keamanan identitas lebih baik, proses lebih bersih, jalur patch lebih cepat, dan telemetri cukup agar tidak buta.

AI tidak otomatis membuat cybercrime menjadi jenius. AI membuat cybercrime biasa menjadi lebih produktif. Dan itu sudah cukup serius.

Sampai jumpa lagi,
Joe