Anthropic近日发文呼吁全球暂停AI开发，理由是AI已能自主进化。但《金融时报》6月4日报道，该公司正协助NSA部署Mythos模型用于进攻性网络行动，针对中国或伊朗等国。一边主张减速，一边将最强模型用于军事攻击，本文揭露这一矛盾操作及背后细节。
Tags:
Anthropic 发布呼吁暂停 AI 开发的文章，给我看得满头问号。
文章比较长，很多干货，最后的结论却让我有点让措手不及：
不少内部工程师认为，Claude 写的代码质量已经跟人类打平，预计一年内，会比人类写得更好....
因此，Anthropic 决定暂缓 AI 开发，并呼吁大家一同减速。
不知道大家看到这里什么感觉，我反正是懵了。
文章还在持续发酵中，马上 Anthropic 被爆出来了另一件事。
《金融时报》6 月 4 日报道，Anthropic 正在协助 NSA 部署 Mythos，用于进攻性网络行动。
两名知情人士称，公司约有 6 名工程师进驻 NSA，负责指导使用并按具体用途定制模型。其中一人表示，Mythos 对中国或伊朗等国的网络非常有用。
一边喊着给 AI 踩刹车，一边亲手帮情报机构把油门焊死，这操作，我怎么有点看不懂了。
一、都别开发AI了
Anthropic 发布的文章，围绕着一件事展开：AI 可以自主进化了。
这件事，学名叫递归自我改进（recursive self-improvement），意思是 AI 自己设计系统、自己训练出更强的下一代，整个过程不再需要人插手。
Anthropic 说，虽然现在还没走到那一步，但趋势已经很明显，而且来得可能比大多数人预想的快。
截至今年 5 月，合并进 Anthropic 自家代码库的代码，超过 80% 是 Claude 写的。而在 2025 年 2 月 Claude Code 上线之前，这个数字还是个位数。短短一年多，AI 从打杂的，变成了主力军。
2026 年第二季度，一个普通工程师每天产出的代码量，是 2024 年的 8 倍。
2025 年底， Claude 写的代码质量还比人类工程师差一点，现在能大致与人类齐平，预计一年内会比人写得更好。
接着，Anthropic 展示了一条叫「任务时长」的曲线。
通过 METR 的测量，Anthropic 发现 AI 能独立干完比以前更长的任务，而且速度还提升了。
2024 年 3 月，模型还只能干 4 分钟量级的软件任务，今年已经能干 12 小时的活。
干活速度从原来每 7 个月翻一倍，到现在每 4 个月翻一倍。
目前，AI 的执行力已经超神。
Anthropic 每出一个新模型，都会跑同一个测试，丢给它一段训练小模型的代码，让它在保证结果正确的前提下，把运行速度优化到最快。
2025 年 5 月，Opus 4 平均能提速 3 倍，到 2026 年 4 月，Mythos 干到了 52 倍。而一个熟练的人类研究员，花 4 到 8 小时也就摸到 4 倍。
但 AI 始终学不会自己定研究方向，这件事上它还比较稚嫩，这是现今人类唯一的壁垒。
Anthropic 在文章中十分担忧，因为这一关一旦被攻破，递归自我改进就真的成立了。
文章最后，Anthropic 提出了三种可能的未来。
第一种，AI 自己跑不动了。
也许「研究判断力」这道坎，压根不是靠堆算力、堆数据能迈过去的，得等一次全新的架构革命。又或者，卡住它的根本不是智商，是电、是芯片、是算力背后那条物理供应链。
但 Anthropic 自己也说，哪怕能力就冻结在今天，世界照样会被搅个天翻地覆。
第二种，AI 接着狂飙，但方向盘还攥在人手里。
Anthropic 认为第二种，是我们正走进那个未来。
组织效率大概率会指数级炸开，一家一百人的公司，能干出一万人、甚至十万人的活。
听着很爽，但他们也发现一件耐人寻味的事。就算 Claude 把写代码这一环提速到飞起，但该来的生产力解放还是不会很快来。
这个道理叫阿姆达尔定律，你把一个环节修得再快，整条流水线的速度，还是被最慢的那一环。因为和人类磨合还需要时间。
第三种，也是最让人头皮发麻的一种，AI 真的开始自己造自己了。
人类彻底退到一边，只剩下监督、验证、盖章的活。往好了说，这种能力会外溢到别的领域，医学、材料、能源，可能集体起飞。往坏了说，机器一代代自我迭代，那点最初看不见的错误，被一轮轮放大、累积，直到某一天，谁也拉不住 AI 了。
为此，Anthropic 主张，前沿实验室之间应建立一套可验证的协同减速机制，唯有大家都真正停下，才能应对AI 发展带来的巨大影响。
二、驰名双标
虽然呼吁很动人，差点就把我说服了，但 Anthropic 的驰名双标，还是瞬间把我拉回了现实。
回到最近 Anthropic 协助 NSA 部署 Mythos 的爆料，会发现 Anthropic 的迷惑操作，并不是突如其来的。
Mythos 是 Anthropic 今年四月刚研发的新模型，主要用途是网络安全。
刚上线一个月，它就在全球 50 家顶尖机构的系统里翻出了上万个高危漏洞，这 50 家机构包括：亚马逊（AWS）、苹果、谷歌、微软、英伟达。
据官方博客的说法，Mythos 的能力强到 Anthropic 自己都有点发怵。
为了模型不被滥用，Anthropic 曾放话说「不会轻易将它公开」，只肯给少数机构使用。
结果不到一个月，就变脸了。Anthropic 在 5 月底发布了一篇官方博客，一边透露 Mythos 要往「通用开放」的方向走，一边把试点从约 50 家机构，一口气扩到了 15 个国家、150 家。
耐人寻味的是，它自己在同一篇博客里也承认，防止这种能力被滥用的安全措施，它和所有同行都还没做出来。
而这些拿到 Mythos 的机构，公开点名的只有十来家。剩下约 40 家一直没披露。
早在 4 月，Axiox 就已报道过，NSA 也在这份未公开的名单之列。
但 NSA 究竟如何使用 Mythos，当时并不清楚。直到最近《金融时报》公开爆料，才明确提出是用于进攻性网络行动。
前脚呼吁世界和平，后脚就把自己最猛的模型送进五角大楼的办公室，Anthropic，我还能再相信你吗？
其实今年三月，Anthropic 还在跟美国国防部打官司。军方想要 Claude 的「一切合法用途」授权，Anthropic 偏不给，死守自己的红线。
军方被惹毛了，直接给 Anthropic 扣了顶叫「供应链风险」帽子。这个罪名以前只往跟外国敌对势力有关联的公司头上扣，Anthropic 是头一个被这么对待的美国公司。
这件事闹得有多大呢？甚至特朗普亲自下令，所有联邦机构停用 Claude。
Anthropic 反手一纸诉状告了国防部，说这是非法报复。三月底，法官还真站到了它那边，不仅冻结该「供应链风险」认定，判决书还里用了「奥威尔式」这种相当重的词。
结果没几个月，Anthropic 号称最猛的那个模型，就出现在国防部下属的 NSA 手里。
封杀 Anthropic 的是国防部，用 Mythos 的也是国防部。
再回头看 Anthropic 发布的文章，怎么看都有点拧巴。
不过，个人以为，这两件事同时发生，未必就是「打脸」。
呼吁归呼吁，生意归生意，一家即将上市的公司，本来就要在理想和现实之间找平衡，这没什么好苛责的。
也许恰恰因为它最懂这技术有多猛，才比谁都更清楚，当这种能力终归要摆上台面时，问题往往不再是「该不该造」，而是「先落到谁手里」。
从这个角度看，它的「呼吁」和它的「部署」，说不定本就是同一套思路的两面。
哪种解释更接近真相，我没有答案。
更有可能的是，它就是清醒地走在一条自己都未必看得清的路上，一边真心担忧着失控，一边又不愿意在这场竞赛里掉队。这两种心情，未必非得二选一，很可能在它身上，是同时存在的。
当然，这一切也可能不过是一种“口嫌体正”的营销手段。
技术狂奔的年代里，这样的拧巴，恐怕也不只属于 Anthropic 一家。
·················END·················
没有评论:
发表评论