
谁为人工智能赋予价值观?
Ai目录
当我向人工智能询问如何配置防火墙时,我可以检查答案。我可以阅读文档、测试设置,看看结果是否正确。
另一些问题却没有这么明确的标准。我是否应该再给一名员工一次机会?某种监控是否正当?为了安全,可以牺牲多少个人自由?
人工智能能够平静、清晰而有说服力地回答。正因如此,我想知道它依据什么标准作出判断。它考虑谁的利益?在哪里划定界限?又是谁决定这些界限是正确的?
所以,对于Anthropic和OpenAI,我关心的不只是模型能力,还有背后的信念和组织结构。两家公司都在开发希望人们托付决策的系统。它们如何理解责任,值得仔细审视。
有效利他主义为这场讨论提供了一个有意思的切入点。这个理念吸引我,但其中一些结论也让我保持谨慎。
尽可能多地行善,听起来很有道理
有效利他主义探讨如何利用有限的金钱、时间和能力,为他人带来尽可能大的益处。研究和有理有据的论证,应当帮助我们在不同选项之间作出选择。这个运动涵盖的领域包括全球健康、动物福利以及先进人工智能的风险。
我认为,按照实际效果评价帮助是合理的。仅有善意,并不能说明究竟有没有人真正受益。捐款或投入多年工作的人,应该能够追问:换一种用途,会不会产生更大的作用?
当我们比较性质截然不同的影响时,问题就变得困难。
长期主义赋予遥远未来特殊的道德分量。今天作决定时,也应考虑可能生活在遥远未来的人。由此产生的一项论点是:我们应认真对待那些可能永久摧毁这一未来的风险。
起初,我对此也没有太多异议。毕竟,在处理污染或核废料时,我们同样要求考虑后代。
我的怀疑始于预测的可靠性。我们究竟能多可靠地判断,今天哪项决定会改善几个世纪后的生活?如何比较今天能够证实的好处,与在遥远未来可能避免的一场灾难?
计算在数学上可能完全正确,却仍建立在高度不确定的假设之上。如果设定的未来收益足够大,它就可能在计算中压倒几乎所有当下的优先事项。恰恰在这种地方,我希望看到假设、不确定性,以及预期收益究竟可以用来正当化什么的界限。
理念如何变成影响力
理念与人工智能开发之间的联系,至少可以通过具体的资助决定来说明。Open Philanthropy,如今的Coefficient Giving,在2017年的记录中列出了一笔向OpenAI提供的3000万美元资助。关于未来的哲学思考,显然没有停留在书籍和讨论中,它影响了哪些研究能获得支持。
不过,这并不能证明所有参与的公司都有统一的意识形态。一笔资助既无法解释此后每一项商业决定,也无法代表所有员工的信念。
因此,我会区分有效利他主义、长期主义和人工智能安全研究。人们可以警告人工智能危险能力的风险,而不认同某一种未来哲学。也可以认可有效帮助的价值,同时批评个别组织的优先事项。
评价Anthropic和OpenAI时,我首先看的是:它们今天决定什么,通过这些决定行使怎样的权力,以及这种权力受到什么限制。
Anthropic:公开表达的价值主张
Anthropic对Claude的设计意图作出了罕见的详细说明。公开的《宪法》描述了希望模型具备的价值观和行为方式,公司称它被用于训练。内容涉及诚实、避免伤害和人类监督等方面。Anthropic也承认,Claude的实际行为可能偏离这些目标。
这一点值得肯定。公开文档为批评提供了依据。我可以用它衡量回答,追问Claude是否符合自己的规范,也可以反对规范本身。
但对于“宪法”这个词,我仍然谨慎。它让人联想到社会共识和具有集体正当性的规则。这里则是一家公司在说明对产品的设想。这种公开很重要,但并未赋予公众有约束力的共同决策权。
Anthropic如何解释自身角色,也值得关注。公司将开发强大人工智能描述为一次有意识的押注:既然这样的系统无论如何都会出现,就应该让重视安全的实验室参与最前沿的工作。
我理解这项论证。但其中存在利益冲突,我不认为善意就足以消除。一个确信自己比竞争者更负责任的组织,也可能因此认定自己必须更快增长、获得更大影响力。
所以,我关心有哪些可以核实的条件限制这次押注。什么情况下Anthropic必须推迟开发?哪些结果会让公司质疑自己的战略?
在公司治理方面,Anthropic设立了Long-Term Benefit Trust。其成员应与公司财务利益隔离,并通过特殊权利影响董事会的人选。公司在介绍这一结构时,自己也将其称为一项实验。
我认真看待这一尝试。但结构存在本身,还不能证明当利益冲突时监督有多有效。公开的证券发行文件既描述了Trust的权利,也列明限制及修改这些权利的程序。与让人安心的“独立”一词相比,这些细节更值得关注。
我的初步判断是:Anthropic让自己的价值主张变得具体,也允许外界质疑。这是优点。要建立信任,我还需要证据证明,当安全决定会牺牲增长或收入时,预设的监督依然有效。
OpenAI:社会使命与经济利益
对于OpenAI,如果只看商业利益,同样过于简单。按照公开的组织结构,非营利的OpenAI Foundation控制着采用Public Benefit Corporation形式的OpenAI Group。Foundation可以任命和替换Group的董事会成员,同时也持有Group的股权。
这是实质性的控制结构。笼统声称非营利使命已经彻底消失,并不公平。
与此同时,我看到一种张力:如果Foundation的资金能力受益于Group的商业成功,保护性使命和增长利益就可能紧密交织。这未必导致错误决定,但它让另一个问题变得重要:放弃增长的选择,能在多大程度上得到独立评估?
OpenAI也公开模型行为规则。Model Spec涉及人类控制、诚实和避免伤害等内容,还将保护公司免受法律与声誉损害列为目标。OpenAI承认,已部署的模型尚未完全符合这份规范。
我认为,明确说出这些不同利益是有帮助的。一家公司需要在经济和法律上持续运作。但作为用户,我仍想理解:当我的诉求、公共利益和服务商利益不一致时,决定是怎样作出的?
这里我采用与Anthropic相同的标准:公开的规则有价值,但其实际落实,以及有效质疑决定的可能性,必须另行评估。
因此,仅凭这些文档,我无法认真地给出哪家公司“更利他”的排名。文档呈现的是意图和结构。要判断影响,还需要具体决定与可核实的结果。
我会怎样评价两家公司
我最关注的,是承担责任让人感到不舒服的时刻。
当竞争者追赶时,仍推迟模型发布。记录错误,让外界能够理解其影响范围。给受影响的人有效的申诉途径。为独立评估者提供足够访问权限,使其能够得出自己的结论。
我会向两家公司提出相同的问题:
- 哪些社会影响已经得到实际证明?
- 哪些界限具有约束力,谁有权修改?
- 谁能叫停有风险的决定?
- 错误、反对论据和利益冲突如何公开?
- 受到系统影响、却并非其客户的人,有什么选择?
最后一个问题尤其让我在意。一家公司可能善待客户,却同时作出由其他人承担后果的决定。购买合同只能部分反映这些利益。
价值观问题开始变得具体
如果助手只是建议一段文字,我可以不用。但当一个获得相应权限的系统发送邮件、初筛求职申请或访问企业数据时,它的规范就会产生直接后果。
哲学讨论于是变成了权限与责任问题。助手可以拒绝明确指令吗?什么时候必须追问?可以分享什么信息?如果它误解了一项已获授权的任务,谁来负责?
对于这类系统,我会要求技术限制:明确的权限、可追溯的操作,以及停止或撤销流程的方法。一套措辞完善的价值准则可以补充这些控制,但不能证明控制有效。
在社会层面,我的看法也类似。开发者需要设计产品的空间,用户需要选择。当基本权利或对第三方的严重伤害受到影响时,还需要有约束力的规则和独立监督。如何设计这些机制,必须能够公开讨论。
什么会增强我的信任
我愿意承认,Anthropic和OpenAI都有人在认真开发有用、安全的人工智能。它们公开的原则值得仔细讨论。把所有安全考量都贬为营销,或从每项商业决定推断道德虚伪,我认为并不公平。
但我同样不愿意仅仅因为一家公司把目标说得特别动听,就预先给予信任。
有效利他主义吸引我的,是它要求追问实际影响。我也会将这一要求用于人工智能公司本身。它们的系统创造了什么好处?产生了什么伤害?纠正了哪些自身假设?又愿意将哪些权力置于有效监督之下?
因此,我的立场保持开放,也坚持要求。我不需要确信模型背后的人在道德上永远正确。我希望理解决定是如何形成的,能够提出异议,并知道错误会给责任人带来后果。
我们交给人工智能的决定越多,这些可能性就越重要。
下次见,
Joe


