trueNetLab logo
JA
AIの価値観は誰が決めるのか?

AIの価値観は誰が決めるのか?

AIにファイアウォールの設定方法を尋ねたとき、私は答えを検証できます。文書を読み、設定を試し、結果が正しいか確認できるからです。

一方、別の問いには、そのような明確な物差しがありません。ある従業員にもう一度チャンスを与えるべきか。特定の監視は正当なのか。安全のために、個人の自由をどこまで犠牲にしてよいのか。

AIは落ち着いて、分かりやすく、説得力のある答えを返せます。だからこそ、その判断基準を知りたいのです。誰の利益を考慮し、どこに境界を引くのか。そして、その境界が正しいと誰が決めたのでしょうか。

そのためAnthropicとOpenAIについては、モデルの能力だけでなく、背後にある考え方や組織構造にも関心があります。両社は、人々が判断を委ねることを想定したシステムを開発しています。責任をどう理解しているのか、詳しく検討する必要があります。

この議論の入り口として興味深いのが、効果的利他主義です。考え方には惹かれます。ただし、その結論の一部には慎重になります。

できるだけ多くの善を実現するという考え

効果的利他主義は、限られたお金、時間、能力で、他者にできるだけ大きな利益をもたらす方法を問います。研究と筋道の通った議論によって、複数の選択肢を比較するという考えです。対象には世界の健康、動物福祉、高度なAIによるリスクなどが含まれます。

支援をその効果で評価するのは合理的だと思います。善意だけでは、誰かが実際に助かったかは分かりません。寄付をしたり、何年もの仕事を注いだりする人は、別の使い方ならもっと役立つのかと問えてよいはずです。

難しくなるのは、性質が大きく異なる効果を比較するときです。

長期主義は、遠い将来に特別な道徳的重みを与えます。その時代に生きるかもしれない人々も、今日の意思決定で考慮すべきだとします。そこから、そうした未来を永久に失わせるリスクを真剣に扱うべきだという議論が生まれます。

最初の段階では、これにもあまり異論はありません。環境汚染や核廃棄物についても、将来世代への配慮を求めているからです。

私が疑問を持つのは、予測の確かさです。今日のどの判断が何世紀も先の暮らしを改善するか、どこまで信頼して判断できるのでしょうか。今日実証できる利益と、遠い将来の大災害を防げる可能性を、どう比較すればよいのでしょうか。

計算は数学的に正しくても、極めて不確かな前提に立つことがあります。想定する未来の利益が十分に大きければ、ほぼすべての現在の優先事項を計算上は上回れます。だからこそ、前提と不確実性、そして期待する利益で何を正当化してよいのかという限界を見たいのです。

思想が影響力に変わるとき

AI開発とのつながりは、少なくとも具体的な資金提供の決定から示せます。Open Philanthropy、現在のCoefficient Givingは、2017年にOpenAIへ3,000万ドルの助成を記録しています。未来についての哲学的考察は、本や議論にとどまりませんでした。どの研究が支援されるかに影響したのです。

ただし、これだけですべての関係企業に共通の思想があるとは言えません。一つの助成は、その後のあらゆる経営判断も、全従業員の信念も説明しません。

そのため私は、効果的利他主義、長期主義、AI安全性研究を区別します。特定の未来哲学に同意しなくても、危険なAI能力に警告できます。効果的な支援に賛同しながら、個々の組織の優先順位を批判することもできます。

AnthropicとOpenAIを評価するうえで特に重要なのは、両社が今日何を決め、それによってどのような力を行使し、その力がどう制限されるかです。

Anthropic:公開された価値観

AnthropicはClaudeに対する意図を、非常に詳しく公開しています。公開された「憲法」は、望ましい価値観と行動を説明し、同社によれば訓練にも使われます。誠実さ、危害の回避、人間による監督などを扱っています。同時に、Claudeの実際の行動が目標から外れることも認めています。

これは評価したい点です。公開文書があれば批判の土台ができます。回答と照らし合わせ、Claudeが自らの指針を守っているか問えます。指針そのものに反対することもできます。

それでも「憲法」という言葉には慎重です。社会的合意や、共同で正当性を与えた規則を思わせるからです。ここで示されているのは、企業が製品に込める意図です。重要な開示ですが、市民に拘束力のある意思決定への参加権を与えるわけではありません。

Anthropicが自身の役割をどう正当化するかも注目に値します。同社は強力なAIの開発を意識的な賭けと説明しています。そうしたシステムがいずれ生まれるなら、安全を重視する研究所が最前線にいるべきだという論理です。

その議論は理解できます。ただし、善意だけでは解消できない利益相反があります。競合より自分たちのほうが責任ある行動を取ると確信すれば、より速い成長と大きな影響力が必要だと結論づけることもできます。

だから私は、この賭けを制限する検証可能な条件に関心があります。どの時点でAnthropicは開発を遅らせるべきなのか。どんな結果が出れば、自らの戦略を疑うのでしょうか。

企業統治のため、AnthropicはLong-Term Benefit Trustを設立しました。メンバーを同社への金銭的利害から隔離し、特別な権利を通じて取締役会の人選に影響させる仕組みです。導入時、同社自身がこれを実験と呼んでいました。

私はこの試みを真剣に受け止めます。しかし、仕組みの存在だけでは、利害が衝突した場合の監督の有効性は証明できません。公開された証券募集文書には、Trustの権利だけでなく、制約や権利を変更できる手続きも記されています。「独立」という安心感のある言葉より、その詳細こそ重要です。

暫定的な評価として、Anthropicは価値観を具体化し、異議を唱えられるようにしています。これは強みです。ただ、信頼するには、安全上の判断が成長や売上を犠牲にする場合でも、想定した監督が機能する証拠が必要です。

OpenAI:社会的使命と経済的利益

OpenAIについても、商業的利益だけを見るのは単純すぎます。公開された構造によると、非営利のOpenAI Foundationが、Public Benefit Corporationとして組織されたOpenAI Groupを支配しています。FoundationはGroupの取締役を任命・交代させられます。同時に、Groupの株式も保有しています。

これは意味のある統治構造です。非営利の使命が完全に消えたという一括りの説明は、公平ではありません。

一方で緊張関係もあります。Foundationの財源がGroupの商業的成功から恩恵を受けるなら、保護の使命と成長への関心は強く絡み合い得ます。それが必ず悪い決定につながるわけではありません。ただ、成長を諦める選択をどれだけ独立して評価できるかが重要になります。

OpenAIもモデルの行動規則を公開しています。Model Specは、人間による制御、誠実さ、危害の回避などを扱います。また、法的・評判上の損害から会社を守ることも目標に挙げています。OpenAIは、提供中のモデルがまだ仕様を完全には満たしていないと認めています。

異なる利害を明示することは有益だと思います。企業は経済的・法的に存続できなければなりません。それでも利用者として、自分の要望、公益、提供者の利益が食い違ったとき、どう決められるのか知りたいのです。

物差しはAnthropicと同じです。公開された規則には価値があります。その実施状況と、決定に対して実効的に異議を申し立てられるかは、別に評価しなければなりません。

したがって、文書だけでどちらの企業が「より利他的」かを順位づけることはできません。文書が示すのは意図と構造です。影響を判断するには、具体的な決定と検証可能な結果も必要です。

両社をどう評価するか

私が最も注目するのは、責任を果たすことが難しくなる場面です。

競合が追い上げてもモデル公開を遅らせる。外部の人が重要性を理解できるように誤りを記録する。影響を受けた人に有効な苦情申立ての手段を提供する。独立した評価者が自分で結論を出せるだけのアクセスを認める。

両社には同じ質問をします。

  • どのような社会的影響が実際に立証されているか。
  • どの境界に拘束力があり、誰が変更できるか。
  • 危険な決定を止められるのは誰か。
  • 誤り、反論、利益相反をどのように公開するか。
  • システムの影響を受けても顧客ではない人には、どんな選択肢があるか。

最後の問いは特に気になります。企業は顧客を大切にしながら、結果を他の人に負わせる判断もできます。購入契約がそうした利益を反映するのは一部にすぎません。

価値観の問題が実務になる

助手が文章を提案するだけなら、使わなければ済みます。しかし、必要な権限を持つシステムがメールを送信し、応募者を一次選考し、企業データにアクセスするようになれば、その指針は直接的な結果を生みます。

哲学的な議論は、権限と責任の問題になります。助手は明示的な指示を拒否してよいのか。いつ確認が必要か。どの情報を共有してよいのか。許可された仕事を誤解した場合、誰が責任を負うのか。

このようなシステムには、明確な権限、追跡可能な操作、処理を停止・取り消す手段という技術的制約を求めます。よく書かれた価値規範はその制御を補えますが、有効性を証明することはできません。

社会全体についても同様です。開発者には製品を設計する余地が必要で、利用者には選択肢が必要です。基本的人権や第三者への深刻な被害に関わる場合は、拘束力ある規則と独立した監督も必要です。その設計は、公の議論に開かれていなければなりません。

私の信頼を強めるもの

AnthropicとOpenAIには、有用で安全なAIのために真剣に働く人がいると認めたいと思います。公開された原則は丁寧な検討に値します。すべての安全上の考慮を宣伝と片づけたり、あらゆる経営判断に道徳的偽善を読み込んだりするのは不公平です。

同時に、目標の説明が特に説得的だというだけで、企業に先に信頼を与えるつもりもありません。

効果的利他主義で私が好きなのは、実際の影響を問う姿勢です。それをAI企業自体にも適用したいのです。システムはどんな利益を生み、どんな害が生じるのか。自らのどんな前提を修正したのか。そして、どの権力を実効的な監督に委ねるつもりなのか。

私の立場は開かれていますが、要求も厳しいままです。モデルの背後にいる人が、常に道徳的に正しいという確信は要りません。決定の経緯を理解し、異議を唱えられ、誤りが責任者にも結果をもたらすことを知りたいのです。

AIに委ねる判断が増えるほど、その可能性が重要になります。

それでは、また次回。
Joe

参考資料