新智元报道
一封开源联名信,把Anthropic一家单独晾在了聚光灯下!
7月24日,英伟达、微软、Meta、Hugging Face、Linux基金会等25家机构联合发布《开放权重与美国AI领导力》(Open Weights and American AI Leadership)公开信,呼吁美国政府不要过早限制可下载、检查、修改和自行部署的开放权重模型。
此后,OpenAI、Google、SpaceX等陆续加入。截至7月28日,据微软官网最新文字名单逐项统计,签署机构已从25家增加到133家。
名单越拉越长,Anthropic的名字始终缺席。
最先点名的,是前特朗普政府AI事务负责人David Sacks,他在X上撂下一句:
整个科技行业,除了Anthropic,都站出来挺开源了。
话锋直指Anthropic,称行业某些人不把开源搞垮不会罢休。
早在联名信之前的7月20日,Benchmark的Bill Gurley已在《华盛顿邮报》撰文,直言开放模型对Anthropic和OpenAI是良性竞争;这次他又补刀:Anthropic的这种「觉悟」,很说明问题。
OpenAI的Peter Steinberger则从另一头开火:OpenAI签了,Anthropic一声不吭。
一时间,「全行业围攻Anthropic」之火越烧越旺。
Anthropic CEO达里奥·阿莫代伊(Dario Amodei)发文正面回应开源争议。
沉默三天后,7月27日,达里奥亲自下场,发文《我们对开源权重模型的立场》(Our position on open-weights models),一上来就把话挑明:
Anthropic从未主张禁止开源权重模型。
联名信
开放才可能通往AI安全
英伟达CEO黄仁勋首条X发帖力挺公开信:世界既需要前沿闭源模型,也需要前沿开源模型。
这封联名信开篇,直接把时间拉回上世纪80年代:当年的开源软件先驱,挑战了「软件必须攥在公司手里才能进步」的主流信念。
几十年后,开源软件撑起了大半个互联网,连全球最大的科技公司、联邦机构都靠它运转。
而AI,正站在同样的岔路口。
信中列出了开源权重(Open Weights)的三条好处:扩大访问、促进竞争、增强客户控制。
初创公司、大学、公共机构,不必从零训练一个模型,也不必为每个任务都付前沿模型的天价,就能用上先进能力。
信中还抛出另外一个重要的判断:
开放,可能才是通往AI安全的重要路径之一。
逻辑是闭源模型也会被攻破、被误用,还可能以外人根本发现不了的方式悄悄出错。
把最先进的能力锁死在少数几家公司手里,等于亲手造出几个「单点故障」。
而开源,能让全世界的研究者一起检查模型行为、一起挖漏洞、一起打补丁。
信里也没有回避风险:权重一旦公开,就再也收不回来,改过的版本也难以追踪。
但它给出的答案仍是正确的应对,而不是禁止开源。
这里注意区分一个概念,开源权重,并不等于开源AI:
公开权重,只是把训练好的那套模型参数放出来;至于用了哪些训练数据、训练代码长什么样、拿到手能不能自由改动和商用,往往并不跟着一起开放。
说到底,前者只是把成品交给你,让你「用上」;后者才是把配方和改造权一起交给你,让你「造得出」。
同样挂着「开源」的名,真正开放的程度,却是两码事。
问题不是要不要开源
是要开放到哪一级
达里奥在博客中直接亮明态度:Anthropic从未主张禁止开源权重模型。
他认为「不具备危险能力的开源模型,是一种公共产品」,对于联名信中列出的三条关于开源权重的优点,他并不反对:
开源模型除了跑起来那点算力,几乎不花什么成本,却能给企业、开发者、研究者带来实打实的价值。
他不完全认同的,是联名信的一个核心论断:开放,必然让防御者比攻击者更受益。
达里奥觉得至少在某些领域,事情可能恰好反过来。
他举的是生物安全。
一个足够强的模型,也许用随处能买到的材料,就能很快把某种流行病级别的病毒武器化;可要防住这类攻击,却是以年计的系统工程。
而攻和防,很多时候根本不在一个时间量级上,开放到底帮了谁,真不好说。
因此,他给的解法是:发布前先做严格测试,用实测说话,而不是一刀切认定「开放=更安全」。
不禁开源
达里奥给出两条路
达里奥并没有反对开源本身,他给出的是两条替代思路。
第一条,管住工业规模的非法蒸馏。
蒸馏(Distillation)本身是一门正常技术,真正该管的,是那些越界的、成规模的滥用:用定向的法律和商业框架去约束它,而不是笼统地把开源一禁了之。
第二条,发布前统一安全测试。
所有足够强的模型,不管开源闭源,都该在正式发布前过一遍安全测试,把网络、生物、对齐风险都测到。能力不够的初创和学术模型,直接豁免。
达里奥说,这一条其实离行业共识不远了。
近几个月,美国政府的态度正在往这个方向转,业界也在提类似方案:按能力大小定门槛,不看你来自哪家、是否开源。
一句话:以后管AI,是按能力测试、按行为处罚,而不是单看它开不开源。
不反对开源
但对开源的担忧没变
达里奥不反对开源,但他对开源的担忧一直没变。
2019年2月,还在OpenAI当研究副总裁的达里奥,参与过一个当时被群嘲的决定:GPT-2不完整公开,分阶段释放,理由是「太危险」。
后来GPT-2很快全量放出,预言里的灾难没有发生,这个决定被很多人当成「过度谨慎」的反面教材。
2023年7月,他以Anthropic CEO的身份,坐上了美国参议院司法委员会的听证席。
2023年7月25日,达里奥出席参议院AI监管听证
当时,他已警告开源规模化「走在危险的路上」,同时也明确做了区分:中小型开源模型对研究和创新有好处,他真正担心的,是资金雄厚的公司把大型前沿模型不受控地放出去。
他给的理由同样是:模型托管在自己手上,被滥用了还有的救:封账号、改行为、加护栏、修漏洞;可权重一旦公开,这些手段全部失效,被改动过的版本还能被私下运行、再分发。
7年下来,达里奥对于开源模型的主张一直没怎么变过。无危险能力的开源模型是公共产品,前沿模型权重一旦放出就收不回。Claude至今一次都没开放过权重。
今年早些时候的长文《技术的青春期》(The Adolescence of Technology)里,他已系统写过这两层担忧。
Anthropic最近还放出过一项研究,探索用模块化训练让开放权重模型更安全。
虽然,达里奥对开源的态度是一贯的,但反对的声音一直都在:既然Anthropic自己走全闭源路线,它对开源的种种安全担忧,会不会只是给「限制对手」准备的一块漂亮挡箭牌?
有技术圈人士干脆把他的潜台词翻译成一句话:「立法者们,请帮我禁掉我的竞争对手」。
论战背后
各有一本商业账
在硅谷这场开源大论战里,其实双方各自都有一本账。
开源阵营这边,开源一旦扩散,英伟达能卖出更多卡,云厂商能接到更多单,开源模型公司能抢下更多地盘,全是受益方。
而Anthropic靠闭源API吃饭,维护一套「可控访问」的秩序,本就符合它的利益。
今年初推出的Project Glasswing,只把最强的模型放给少数经过审核的可信伙伴,走的正是这种门控思路。
但有商业利益,并不意味着其主张就完全是错误的。这次Anthropic真正惹眼的地方在于,当联署名单已经扩至133家时,它仍然没有签字。
达里奥把话说透了:Anthropic从未主张禁止开源权重模型,他真正关注的是怎么开、开到哪个能力等级。
监管的风向,也可能被这场争论悄悄扭转:从「要不要开源」,转向「要如何开源」。
参考资料:
https://www.businessinsider.com/anthropic-open-source-ai-model-weights-criticism-2026-7?utm_source=chatgpt.com
https://www.businessinsider.com/microsoft-nvidia-meta-palantir-jensen-huang-open-source-ai-letter-2026-7
https://www.anthropic.com/news/position-open-weights-models
https://images.nvidia.cn/pdf/Open-Weights-and-American-AI-Leadership.pdfhttps://x.com/JensenHuang/status/2080643682408321103
https://x.com/DavidSacks/status/2081470576653406328?utm_source=chatgpt.com
编辑:元宇