IA no submundo do cibercrime: hype encontra prática

Quando se fala hoje de IA e cibercrime, muita coisa soa como ficção científica: malware autónomo, superhackers digitais, modelos que desmontam redes corporativas sozinhos durante a noite. Essa narrativa é cómoda, barulhenta e vende bem, mas desvia do problema real.

O perigo não é cada grupo criminoso ter de repente um génio na cave. O perigo é que muitas tarefas aborrecidas ficam mais baratas, rápidas e escaláveis: traduzir, reescrever, ordenar vítimas, tornar phishing mais credível, explicar código, depurar erros, analisar fugas de dados, variar scripts de engenharia social, empacotar ferramentas e fazer promessas parecerem profissionais.

O submundo raramente vende verdade pura

É preciso começar com desconfiança. Em fóruns criminosos, grupos de Telegram e ofertas de cybercrime-as-a-service há muitas promessas. Alguns vendem ferramentas reais. Outros vendem open source renomeado, wrappers simples sobre modelos públicos, contas roubadas, prompts de jailbreak, painéis inúteis ou fraude contra outros fraudadores.

Uma “AI hacking tool” não é automaticamente impressionante. O estudo USENIX sobre serviços Malla, “Malicious LLM-integrated applications”, analisou 212 serviços reais e encontrou oito LLMs de backend e 182 prompts de jailbreak. O mercado é real, mas muitas ofertas são wrappers, jailbreaks e abuso de modelos públicos ou abertos.

Google Threat Intelligence descreve algo semelhante com Xanthorox: anunciado como modelo ofensivo próprio, mas baseado, segundo a Google, em APIs comerciais com jailbreak e componentes open source. A embalagem parece laboratório clandestino; a técnica por baixo é muitas vezes simples.

Nem tudo é hype, e a IA também não torna a segurança clássica inútil. A visão útil é mais sóbria: IA não é magia, mas encaixa bem em fluxos de trabalho existentes. Se poupa tempo, reduz barreiras linguísticas ou cria mais variantes por hora, torna-se interessante.

O que já é plausível

Relatórios públicos da OpenAI, Google Threat Intelligence e Europol mostram uma imagem consistente: atacantes usam IA generativa onde ela acelera trabalho e melhora qualidade. Não como substituto total da habilidade, mas como amplificador.

Os pontos principais são phishing e engenharia social, fraude e abuso de identidade, processamento de dados roubados, ajuda técnica e venda. Textos ficam mais naturais e locais. Perfis, faturas, pedidos de suporte e histórias de investimento tornam-se mais credíveis. Logs, dumps, mailboxes, exportações CRM, screenshots e chats podem ser triados mais rápido. Modelos explicam código, adaptam scripts, interpretam erros e estruturam ideias de exploit. Até uma ferramenta mediana pode ser melhor documentada e vendida.

As provas mais fortes estão na fraude

Quanto mais técnica é uma afirmação, mais fina costuma ser a prova pública. Em fraude e engenharia social há indicadores fortes. O relatório FBI IC3 de 2025 usa o descritor “AI Related” e lista 22.364 queixas com 893.346.472 dólares de perdas reportadas. Não é uma medição forense perfeita, mas é um sinal relevante.

Destacam-se scams de investimento com relação a IA e mais de 632 milhões de dólares de perdas, casos BEC com mais de 30 milhões e scams de emprego com quase 13 milhões. Isto confirma a tese: o maior dano documentado não vem de malware autónomo, mas de engano melhor, escala maior e identidades mais credíveis.

O que eu não acredito

Não acredito que grupos criminosos usem amplamente agentes de IA autónomos capazes de escolher alvos realistas, comprometer sistemas, mover-se lateralmente, extrair dados e concluir extorsão sem direção humana.

Haverá experiências e provas de conceito. Mas os relatórios sólidos mostram sub-tarefas: pesquisa, tradução, ajuda com código, preparação de campanhas, variantes, engenharia social e análise de dados. O NCSC britânico também considera improváveis ataques avançados totalmente automatizados de ponta a ponta até 2027. O cenário mais realista é colaboração humano-máquina.

O cibercrime não precisa ser totalmente autónomo para ficar mais perigoso. Basta que os mesmos grupos façam mais tentativas, localizem mais rápido, aprendam mais rápido e pareçam mais profissionais.

A qualidade do engano aumenta

Muitos conceitos de segurança ainda dependem do reconhecimento humano: reportar emails suspeitos, reconhecer links falsos, notar linguagem estranha e questionar pedidos atípicos. Isto continua importante, mas fica mais difícil.

Se uma fatura imita um fornecedor conhecido, se um pedido de suporte combina com um ambiente real, se uma mensagem no LinkedIn já não parece tradução automática e se um scam corre bem em dez línguas, a defesa muda.

São necessários travões técnicos:

• MFA forte, idealmente resistente a phishing
• Conditional Access e vinculação de dispositivos
• autenticação de email com SPF, DKIM e DMARC
• deteção de abuso de apps OAuth
• proteção contra novas regras de inbox e reencaminhamentos suspeitos
• processos de pagamento e aprovação fora do email
• logging antes do dano

Cybercrime-as-a-Service fica mais profissional

O cibercrime já é especializado: brokers de acesso inicial, kits de phishing, loaders, afiliados de ransomware, vendedores de dados, alojamento, infraestrutura bulletproof, lavagem de dinheiro, tradutores, call centers e suporte.

A IA encaixa nessa estrutura. Um fornecedor escreve documentação mais rápido. Um afiliado adapta campanhas. Um vendedor descreve melhor leaks. Um scammer responde a clientes. Um programador depura erros. Um ator menos experiente ultrapassa barreiras técnicas.

Microsoft chama a isto “tradecraft”: acelerador para texto, código, media, resumo de dados, personas, debugging de malware e scaffolding de infraestrutura. A Google vê experiências como HONESTCUE, mas são blocos dentro de um workflow, não prova de ataques autónomos em massa.

O defensor vê mais ruído

Para admins, MSPs e equipas de segurança, aumenta o ruído: mais phishing, falsos pedidos de suporte bem escritos, scans limpos, recon semi-automatizada, supostos exploits, relatórios plausíveis e ferramentas com IA no nome mas pouca substância.

A pergunta central não é: “Foi usada IA?” Melhor perguntar se há um caminho real de ataque, sistema afetado, identidade protegida, superfície externa, telemetria de exploração ou preparação, e impacto comprovado. É preciso corrigir, configurar, bloquear, monitorizar ou apenas documentar?

Isto liga-se ao meu pensamento sobre o Patchday na era da IA: os sinais aumentam, mas segurança ganha-se com melhor priorização.

Menos superfície de ataque vale mais

Quanto mais os ataques escalam, mais valiosa se torna a redução aborrecida: menos serviços expostos, ferramentas locais, extensões, contas admin, tokens persistentes, shadow IT, aprovações rápidas e sistemas de teste abandonados. Não é glamour. É higiene. E fica mais importante quando o engano melhora e a recon fica barata.

O que fazer agora

As perguntas práticas são claras: as contas importantes são resistentes a phishing? Vemos eventos suspeitos de identidade? Temos processos claros para dinheiro, dados e acesso? Validamos pedidos críticos por um segundo canal? Verificamos remote hiring e helpdesk com rigor? Corrigimos por risco? Reduzimos ferramentas desnecessárias?

A minha leitura

A IA no submundo do cibercrime não é debate distante. Já faz parte do trabalho. Mas o ponto central não é a palavra “IA”. É velocidade.

O cibercrime torna-se mais produtivo, melhor linguisticamente, mais automatizado e melhor embalado. Muitas ofertas continuam exageradas, algumas são fraude e outras são banais. Mesmo assim, o mercado muda.

Quem olha apenas para a suposta superarma perde a mudança real: texto, código, dados, suporte, variantes e escala.

Nem toda organização precisa de um AI-SOC. Mas todas precisam de menos superfície de ataque, melhor segurança de identidade, processos mais limpos, caminhos de patch mais rápidos e telemetria suficiente.

A IA não torna o cibercrime genial automaticamente. Torna o cibercrime mediano mais produtivo. E isso já é sério.

Até à próxima,
Joe