PRISMからプロンプトへ: 新しいAI依存

PRISMが衝撃だったのは、まだそれほど昔のことではありません。Edward Snowdenは2013年、インターネットがすでにどれほど集中していたかを示しました。メール、チャット、ファイル、写真、連絡先が少数の大きなプラットフォームに集まると、そのプラットフォームこそが戦略的なアクセス地点になります。

今日の状況は、奇妙なほど反転しています。文脈を中央のシステムに入れるよう、誰かに強制されているわけではありません。便利だから、自分たちでそうしています。難しいメールを書き直させ、会議メモを要約させ、社内文書を説明させ、コードレビューをさせ、プレゼンテーションの構成を作らせます。

それは愚かではありません。実際に機能します。だからこそ、とても強力なのです。

PRISMからプロンプトへ

PRISMは正しく位置づける必要があります。単に「NSAが全員のすべてを無差別に読んでいる」という話ではありませんでした。公式報告書はSection 702の枠組みの中で、米国の事業者が法的な指示に基づき、特定のセレクターに関するデータを提供しなければならない仕組みを説明しています。それでも政治的な衝撃は正当でした。問題は具体的な法的根拠だけではありませんでした。私たちが自由で分散していると思いたがっていたインターネットが、実際には少数の地点で非常にうまく取り出せる状態だったことです。

今日、私たちはそのデータの多くを、自分たちの仕事へさらに深く入り込むシステムへ自発的に渡しています。

もはやテキストを入力欄へコピーするだけではありません。新しい段階はコネクターとエージェントです。ChatGPTはアプリや独自のMCPベースの統合を接続できます。Microsoft 365 CopilotはMicrosoft Graphと外部ソースから文脈を取得し、インデックス済みでも、コネクター経由のライブ取得でも動きます。ClaudeはGoogle Drive、Gmail、GitHub、Slack、Microsoft 365との統合を提供します。GeminiはGmail、Docs、Drive、Sheets、Slides、Meetの中に直接入っています。GitHub Copilotはコードベースを文脈として使い、より速く理解できるようにします。

多くの事業者はBusinessおよびEnterprise向け製品について、顧客データをデフォルトでは基盤モデルの学習に使わないと明示するようになっています。これは重要であり、公平に見れば、漠然とした不安とは本当に違う点です。

しかしその約束が正しいとしても、構造的な問題は残ります。アクセス、文脈の準備、権限評価、UI、オーケストレーション、課金が、また少数のプラットフォームを通って動くからです。

私たちはデータを渡しているだけではありません。仕事がこれらのプラットフォームを通って行われることに慣れていっています。

新しい依存の名前は便利さ

この依存は突然降ってきたものではありません。私たちは長い間、それと一緒に生きてきました。

デスクトップではWindowsが何十年も大きな影響力を持ち、macOSは特にクリエイティブ、個人利用、開発者の環境で重要な役割を果たしています。スマートフォンではAndroidとiOSが日常をほぼ分け合っています。クラウドではAWS、Microsoft Azure、Google Cloudがインフラの広い部分を支配しています。さらにオフィススイート、アプリストア、IDシステム、ブラウザ、検索エンジン、Gitプラットフォーム、広告ネットワークが加わります。

これは反米的な意味で言っているのではありません。これらの製品の多くは強く、安定していて、よく作られています。そしてもちろん、私は今Dubaiに住み、米国でも時間を過ごし、今ではアジアや中東でも多く動いています。しかし人生の大きな部分はヨーロッパにあり、私のルーツはヨーロッパです。だからこそ、自分をとても開かれた人間だと思う分、この技術的な偏りが気になります。

OS、クラウド、生産性スイート、AIアシスタントが同じ地政学的空間から来るなら、それは購買の話だけではありません。デジタル主権の話です。

米国の現在の政治状況にも不安を感じます。政府と企業の会合がすべて問題だという意味ではありません。大企業は常に政府と話します。私が不安になるのは、ますます権威主義的な政治的トーンが、集中した技術インフラと重なる場所です。大統領が大手テック企業のCEOを公の場に呼び出し、投資表明を求め、輸出管理、関税、ビザ、エネルギー、規制を密接に結びつけるとき、技術的な集中は政治的な運用リスクになります。企業データを、商業的にも政治的にもそれほど直接働きかけられるインフラに置きたいとは思いません。

この考えはまったく新しいものではありません。Lord Palmerstonは1848年、British House of Commonsでこう述べました。

We have no eternal allies, and we have no perpetual enemies. Our interests are eternal and perpetual.

この言葉は今日、「国家には友人ではなく利害がある」という短い形で繰り返されることが多いです。皮肉として気に入る必要はありませんが、技術的には真剣に受け止めるべきです。クラウドとAIインフラは政治の外側にありません。国の中にあり、法律に従い、エネルギー、チップ、輸出ライセンス、ビザ、資本市場、政府との接点を必要とします。

これは米国だけで見られるものではありません。英国では2025年、報道によればAppleが暗号化されたiCloudデータへのアクセスを狙うTechnical Capability Noticeに直面しました。Appleはその製品にバックドアを作るのではなく、英国の新規ユーザー向けにAdvanced Data Protectionを取り下げました。ここがまさに要点です。事業者が技術的に優れた保護機構を作っても、国家はそれを政治的または法的に崩そうとすることがあります。

米国ではPatriot Actにより、2001年からすでに9/11後に国家権限を大きく広げた安全保障上の枠組みがあります。CLOUD Actは2018年に加わり、一定の条件のもとで、事業者から電子データを国境を越えて要求できる仕組みを定めています。これは、すべての事業者が悪いとか、すべての当局がいつでも何でも読んでいるという意味ではありません。しかし顧客として、プロンプト、取得された文書、コネクターのメタデータ、ログ、サポートアクセス、法的な開示要求に実際何が起きるのか、私たちはしばしば完全には分かりません。

AIはこの状況をさらに強めます。以前のソフトウェアとは違う役割を担うからです。OSはプログラムを起動します。クラウドはワークロードをホストします。オフィススイートは文書を保存します。しかしAIアシスタントは、私と私の仕事の間に入ります。文章を書き、優先順位を付け、要約し、コードを提案し、情報を整理し、何が私にとって関連性のあるものとして見えるかにも関わります。

そのため依存はより密接になります。以前、プラットフォームはデータが置かれる場所でした。今日、プラットフォームは次第に、仕事が考えられる場所になっています。

米国、中国、そしてヨーロッパのジレンマ

AI競争では、これがいま非常にはっきり見えます。米国と中国は本物の競争をしています。モデル、チップ、クラウド容量、ロボティクス、研究、資本、国家的な産業政策をめぐる競争です。Stanford AI Indexは、米国と中国のトップモデルの性能差が実質的に閉じたと説明しています。

私は、AIはインフラとして電力網に近い重要性を持つと思っています。すべてのチャット画面が世界を動かすからではありません。その下で次の基盤層が作られているからです。データセンター、チップ、データ回線、電力契約、モデルプラットフォーム、ロボティクスのスタック、自動運転車、産業オートメーション。このインフラはいま作られており、数四半期ではなく数十年にわたって残ります。今日プラットフォーム、チップ、標準、運用モデルを支配する者は、今後の経済、行政、モビリティ、生産がどう機能するかの一部を支配します。

だからこの競争はより良いチャットボットをめぐるハイプだけではありません。AI、チップ、自動運転車、ロボットは、今後数年で世界を持続的に変えるでしょう。投資家向けプレゼンテーションで聞こえるほど滑らかではないかもしれません。しかし、これをただのソフトウェアの話として扱うのは無責任なほど深い変化です。

一方ヨーロッパは、多くの場合まず規制、委員会、助成プログラム、原則を見ます。すべてが間違っているわけではありません。ルールと基本権は重要です。しかし最後にモデル、チップ、クラウド、プラットフォームが別の場所で作られるなら、ヨーロッパはそれでも依存したままです。最高の規則はあっても、製品がないかもしれません。

ASMLはここで大きなヨーロッパの例外であり、同時にその例外の限界を示す完璧な例でもあります。オランダのリソグラフィ装置なしでは、多くの最先端チップは存在しません。しかしASMLでさえ、世界的なサプライチェーン、輸出ライセンス、地政学的な半導体ルールに依存しています。ヨーロッパ最強のチップ関連の宝石は重要ですが、他者が引く力の線から自由ではありません。

自動車産業は、私にとってここでは脇道ではなく警告の絵です。ヨーロッパには何十年も素晴らしいエンジニアリング、ブランド、サプライヤーがありました。しかしバッテリー、ソフトウェア、垂直統合、価格のスピードでは、TeslaとBYDが反応の遅さの危険を示しました。ヨーロッパがAIにも同じように向き合い、長く議論し、遅く提供し、その後に平凡な製品に驚くなら、数年遅れるだけではありません。構造的に依存することになります。

AI connectorsをsecurityの目で見る

セキュリティの視点では、AIコネクターは単なる快適機能ではありません。データ、ID、時には書き込み権限へのアクセスを持つ新しい統合ポイントです。SharePoint、Gmail、Slack、Teams、GitHub、Jira、CRMを検索できるアシスタントは実用的です。しかし同時に、権限モデルの新しい層にもなります。

管理者とMSPにとって、ここから話は本気になります。誤って設定されたOAuthスコープ、広すぎるGraphコネクター、チケットシステムで書き込み権限を持つエージェント、または異なるセキュリティゾーンの社内文書を要約するCopilotは、小さなUIの細部ではありません。データ流出の可能性であり、新しい監査テーマであり、最悪の場合は攻撃経路です。

Prompt Injectionは時々おもちゃのような問題に聞こえますが、モデルが外部コンテンツを読み、そこからアクションを導き出すと厄介になります。細工された文書、チケット、Webページ、メールがアシスタントに影響しようとする可能性があります。これは古典的なexploitと同じではありませんが、ツール、コネクター、エージェントの世界では運用上重要です。

以前はこう尋ねました。どのファイアウォールルールがこのトラフィックを許可しているのか。今日ではさらにこう尋ねる必要があります。どのアシスタントがどのデータを見られるのか、どのIDで、どのツールを使い、どのテナントで、どのログが残り、何を変更できる権限を持つのか。

だからAIはイノベーション会議だけでなく、IAM、DLP、CASB、SIEM、変更管理、ファイアウォールポリシーにも入るべきです。

そこから何が続くか

私にとって、これはAIを禁止する、あるいは中央型プラットフォームを一律に避けるという意味ではありません。それは非現実的で、特に賢くもありません。しかしAIコネクターを無害なブラウザ拡張のように扱うべきではありません。アシスタントにメール、文書、チケット、リポジトリ、社内チャットへのアクセスを与える人は、自分のセキュリティアーキテクチャを変えています。

したがって、より重要な問いは「どのモデルが一番良いか」だけではありません。それはどこで動くのか、どの法域の下にあるのか、どのデータを使うのか、どの権限を持つのか、どのログがあるのか、そして事業者を再び変更できる可能性がどれだけあるのか、です。

もしかすると、それこそがデジタル主権の最も冷静な形かもしれません。すべてを自分で作ろうとするのではなく、依存関係を意識して設計することです。いくつかのタスクは大きなプラットフォームで問題なく動かせます。他のものは、自分のデータの近く、自分のテナント、ローカルモデル、少なくとも交換可能な運用モデルに置くべきです。

もう一つの方向

反対側からの問いはこうです。すべてのAI作業は中央で動かなければならないのでしょうか。

必ずしもそうではありません。私たちの周りにある使われていない計算能力という記事では、別の側面を扱っています。未使用の計算能力、ローカルモデル、分散型ストレージとComputeネットワーク、そしてCompute Smart Gridというアイデアです。

私は中央型AIプラットフォームが消えるとは思いません。便利で、よく統合され、多くのタスクには単純に効率的だからです。しかし、どの仕事を本当にそこで動かすべきか、どの仕事を自分のデータの近く、自分のテナント、自分の国、または少なくとも交換可能な運用モデルに残せるかを、もっと意識して決める必要があると思っています。

デジタル主権は、すべてを自分で作るという意味ではありません。しかし、自分の仕事のあらゆる層を同じ少数のプラットフォームに固定しない、という意味ではあります。

また次回まで、
Joe より