trueNetLab logo
PT
De PRISM aos prompts: a nova dependência da IA

De PRISM aos prompts: a nova dependência da IA

10 min read
Ai Security Network

Não passou assim tanto tempo desde que PRISM foi um choque. Em 2013, Edward Snowden mostrou como a Internet já estava centralizada: quando e-mails, chats, ficheiros, fotografias e contactos ficam em poucas grandes plataformas, essas mesmas plataformas tornam-se pontos de acesso estratégicos.

Hoje, a situação está estranhamente invertida. Ninguém precisa de nos obrigar a colocar contexto em sistemas centrais. Fazemo-lo voluntariamente, porque é útil. Deixamos a IA reformular um e-mail difícil, resumir notas de reunião, explicar documentos internos, rever código ou estruturar uma apresentação.

Isto não é estúpido. Funciona. É precisamente por isso que é tão poderoso.

A nova dependência da IA não nasce da coerção, mas da comodidade.

De PRISM ao prompt

É preciso enquadrar PRISM com cuidado. Não foi simplesmente “a NSA lê indiscriminadamente tudo de todos”. Os relatórios oficiais descrevem um mecanismo no âmbito da Section 702, no qual fornecedores norte-americanos tinham de fornecer dados sobre determinados seletores por instruções legais. Ainda assim, o choque político foi justificado. O ponto não era apenas a base jurídica concreta. O ponto era: a Internet, que gostávamos de imaginar livre e distribuída, na prática podia ser muito bem intercetada em poucos pontos.

Hoje entregamos voluntariamente muitos destes dados a sistemas que entram ainda mais fundo no nosso trabalho.

Já não se trata apenas de copiar um texto para um campo de entrada. O novo nível são conectores e agentes. O ChatGPT pode ligar apps e integrações próprias baseadas em MCP. O Microsoft 365 Copilot recolhe contexto do Microsoft Graph e de fontes externas, opcionalmente indexadas ou em direto através de conectores. O Claude oferece integrações com Google Drive, Gmail, GitHub, Slack e Microsoft 365. O Gemini está diretamente no Gmail, Docs, Drive, Sheets, Slides e Meet. O GitHub Copilot pode usar uma base de código como contexto para a compreender mais rapidamente.

Muitos fornecedores escrevem agora explicitamente, para produtos Business e Enterprise, que dados de clientes não são usados por defeito para treinar os modelos fundacionais. Isto é importante e, sendo justo, é uma diferença real face a muitas intuições.

Mas mesmo que estas garantias estejam corretas, o problema estrutural permanece: acesso, preparação de contexto, avaliação de permissões, UI, orquestração e faturação voltam a passar por poucas plataformas.

Não entregamos apenas dados. Habituamo-nos a que o trabalho aconteça através destas plataformas.

A nova dependência chama-se comodidade

Esta dependência não caiu do céu. Vivemos com ela há muito tempo.

No desktop, o Windows é dominante há décadas, o macOS tem um papel importante sobretudo em ambientes criativos, privados e de desenvolvimento, e no smartphone Android e iOS dividem praticamente o quotidiano. Na cloud, AWS, Microsoft Azure e Google Cloud dominam grandes partes da infraestrutura. Somam-se a isso suites Office, app stores, sistemas de identidade, browsers, motores de busca, plataformas Git e redes publicitárias.

Não digo isto num sentido antiamericano. Muitos destes produtos são fortes, estáveis e bem construídos. E sim: hoje vivo no Dubai, também passei tempo nos EUA e movo-me agora bastante pelo espaço asiático e do Médio Oriente. Mas uma grande parte da minha vida foi na Europa, as minhas raízes são europeias, e precisamente porque me entendo como alguém aberto ao mundo, esta unilateralidade tecnológica incomoda-me.

Quando sistema operativo, cloud, suite de produtividade e assistente de IA vêm do mesmo espaço geopolítico, isso é mais do que uma questão de compras. É soberania digital.

Também me deixa nervoso a atual situação política nos EUA. Não porque cada encontro entre governo e economia seja problemático; grandes empresas falam sempre com governos. Fico desconfortável onde um tom político cada vez mais autoritário encontra infraestrutura técnica concentrada: quando o presidente faz CEOs de grandes grupos tecnológicos comparecerem publicamente, exige compromissos de investimento e liga estreitamente temas como controlos de exportação, tarifas, vistos, energia e regulação. A concentração técnica torna-se então um risco operacional político. Não quero dados empresariais numa infraestrutura que pode ser interpelada de forma tão direta não só comercialmente, mas também politicamente.

Este pensamento não é totalmente novo. Lord Palmerston disse em 1848 na Câmara dos Comuns britânica:

We have no eternal allies, and we have no perpetual enemies. Our interests are eternal and perpetual.

A frase é hoje muitas vezes repetida na forma abreviada de que os Estados não têm amigos, mas interesses. Não é preciso gostar disso cinicamente, mas deve ser levado a sério tecnicamente. Infraestrutura de cloud e IA não está fora da política. Está em países, sujeita-se a leis, precisa de energia, chips, licenças de exportação, vistos, mercados de capitais e contactos governamentais.

Isto não se vê apenas nos EUA. No Reino Unido, segundo relatos dos media, a Apple foi confrontada em 2025 com uma Technical Capability Notice que visava acesso a dados iCloud encriptados. A Apple retirou então o Advanced Data Protection para novos utilizadores no Reino Unido, em vez de construir uma backdoor nesse produto. É exatamente este o ponto: mesmo quando um fornecedor constrói bons mecanismos técnicos de proteção, um Estado pode tentar quebrar esses mecanismos por via política ou jurídica.

Nos EUA, com o Patriot Act desde 2001, conhecemos de qualquer forma um quadro de segurança que, após o 11 de setembro, alargou significativamente os poderes estatais. O CLOUD Act juntou-se em 2018 e regula como dados eletrónicos de fornecedores podem ser exigidos, em determinadas condições, também além-fronteiras. Isto não significa que cada fornecedor seja mau ou que cada autoridade leia sempre tudo. Mas significa: como clientes, muitas vezes não sabemos completamente o que acontece realmente a prompts, documentos recolhidos, metadados de conectores, logs, acessos de suporte ou pedidos legais de entrega.

A IA agrava esta situação porque assume um papel diferente do software anterior. Um sistema operativo inicia programas. Uma cloud aloja cargas de trabalho. Uma suite Office guarda documentos. Um assistente de IA, porém, coloca-se entre mim e o meu trabalho. Formula, prioriza, resume, sugere código, ordena informação e participa na decisão sobre o que me aparece sequer como relevante.

Assim, a dependência torna-se mais íntima. Antes, a plataforma era o lugar onde os dados estavam. Hoje, torna-se cada vez mais o lugar onde o trabalho é pensado.

EUA, China e o dilema europeu

Isto vê-se de forma muito clara na corrida da IA. EUA e China travam uma competição real: modelos, chips, capacidade cloud, robótica, investigação, capital, política industrial estatal. O Stanford AI Index descreve que a distância de desempenho entre os modelos de topo norte-americanos e chineses está praticamente fechada.

Acredito que a IA será tão importante como infraestrutura quanto a rede elétrica. Não porque cada janela de chat mude o mundo, mas porque por baixo está a ser construída a próxima camada base: centros de dados, chips, ligações de dados, contratos de energia, plataformas de modelos, stacks de robótica, veículos autónomos e automação industrial. Esta infraestrutura está a nascer agora e depois não ficará parada durante alguns trimestres, mas durante décadas. Quem hoje controla plataformas, chips, normas e modelos operacionais controla uma parte de como economia, administração, mobilidade e produção funcionarão nos próximos anos.

Por isso, a corrida não é apenas hype em torno de chatbots melhores. IA, chips, carros autónomos e robôs mudarão o mundo de forma duradoura nos próximos anos. Talvez nem sempre tão suavemente como soa nas apresentações a investidores. Mas de forma suficientemente profunda para que fosse negligente tratar este desenvolvimento como apenas mais um tema de software.

Entretanto, a Europa olha muitas vezes primeiro para regulação, comissões, programas de financiamento e princípios. Isto não está tudo errado. Regras e direitos fundamentais são importantes. Mas se, no fim, os modelos, chips, clouds e plataformas forem construídos noutro lado, a Europa continua dependente. Talvez tenha então o melhor regulamento, mas não o produto.

ASML é a grande exceção europeia e, ao mesmo tempo, o exemplo perfeito do limite dessa exceção. Sem as máquinas de litografia neerlandesas, muitos dos chips mais modernos não existiriam. Mas até a ASML depende de cadeias de fornecimento globais, licenças de exportação e regras geopolíticas sobre semicondutores. A joia europeia mais forte no setor dos chips é, portanto, importante, mas não está livre das linhas de poder que outros traçam.

Para mim, a indústria automóvel é aqui mais um aviso do que um tema secundário. Durante décadas, a Europa teve engenharia fantástica, marcas e fornecedores. Mas em bateria, software, integração vertical e agilidade de preços, Tesla e BYD mostraram quão perigosa pode ser uma reação lenta. Se a Europa abordar a IA de forma semelhante, ou seja, discutir durante muito tempo, entregar tarde e depois surpreender-se com produtos medianos, não ficará apenas alguns anos atrasada. Ficará estruturalmente dependente.

O olhar de segurança sobre conectores de IA

Do ponto de vista de segurança, conectores de IA não são simples funcionalidades de conveniência. São novos pontos de integração com acesso a dados, identidades e, por vezes, até permissões de escrita. Um assistente que pode pesquisar no SharePoint, Gmail, Slack, Teams, GitHub, Jira ou num CRM é prático. Mas torna-se também uma nova camada no modelo de permissões.

Para administradores e MSPs, é aqui que a coisa fica séria. Um OAuth scope mal definido, um Graph Connector demasiado amplo, um agente com permissões de escrita no sistema de tickets ou um Copilot que resume documentos internos de diferentes zonas de segurança não são pequenos detalhes de UI. São uma possível fuga de dados, um novo tema de auditoria e, no pior caso, um caminho de ataque.

Prompt injection às vezes soa como um problema de brinquedo, mas torna-se desagradável quando um modelo lê conteúdos externos e daí deriva ações. Um documento preparado, um ticket, uma página web ou um e-mail podem então tentar influenciar o assistente. Não é o mesmo que um exploit clássico, mas num mundo com ferramentas, conectores e agentes torna-se operacionalmente relevante.

Antes perguntava-se: que regra de firewall permite este tráfego? Hoje é preciso perguntar também: que assistente pode ver que dados, através de que identidade, com que ferramentas, em que tenant, com que logging e com que possibilidade de alterar coisas?

A IA pertence, portanto, não apenas à discussão de inovação, mas também a IAM, DLP, CASB, SIEM, change management e firewall policy.

O que decorre disto

Para mim, isto não significa que se deva proibir IA ou evitar plataformas centrais por princípio. Seria irrealista e também não seria especialmente inteligente. Mas não se deve continuar a tratar conectores de IA como extensões de browser inofensivas. Quem dá a um assistente acesso a e-mails, documentos, tickets, repositórios e chats internos altera a sua própria arquitetura de segurança.

A pergunta mais importante, portanto, não é apenas: qual é o melhor modelo? Mas também: onde corre, sob que jurisdição, com que dados, que permissões, que logging e com que possibilidade de voltar a trocar de fornecedor?

Talvez seja exatamente essa a forma mais sóbria de soberania digital: não querer construir tudo por conta própria, mas desenhar dependências conscientemente. Algumas tarefas podem funcionar tranquilamente em grandes plataformas. Outras pertencem mais perto dos próprios dados, no próprio tenant, num modelo local ou pelo menos num modelo operativo que continue substituível.

A outra direção

A contrapergunta é: todo o trabalho de IA tem de correr de forma central?

Nem sempre. No artigo A capacidade de computação não utilizada à nossa volta trata-se do outro lado: capacidade de computação não utilizada, modelos locais, redes descentralizadas de armazenamento e computação e a ideia de uma rede inteligente de computação.

Não acredito que plataformas centrais de IA desapareçam. Para isso são demasiado úteis, demasiado bem integradas e simplesmente eficientes para muitas tarefas. Mas acredito que temos de decidir com mais consciência que trabalho deve realmente correr ali e que trabalho pode ficar mais perto dos próprios dados, no próprio tenant, no próprio país ou pelo menos num modelo operativo substituível.

Soberania digital não significa construir tudo por conta própria. Mas significa não aparafusar cada camada do próprio trabalho às mesmas poucas plataformas.

Até à próxima,
Joe

Fontes