绷不住了，Anthropic 果然出来号召大伙儿把手头的 AI 建造停一停。

昨天，他们平直发了篇著述，奉劝大伙儿提神 AI，因为以后，它可能我方就能建造我方，不需要东说念主了。。。

看到这个音书，世超平直摊在桌子上，仿佛看到核弹爆炸 （ bushi。。。

在著述终末，Anthropic 还命令人人别卷了，应该搞一套监督人人的机制。

这套机制应该能让这些得力的公司之间彼此证实，证实所有这个词东说念主齐躺平，而不是在背地里悄悄卷着征询 AI。

这个说法可谓是一石激起千层浪，帖子发出来不外半天，浏览量就干带到了 1000 多万。

世超也赶紧去 A 社的官网拜读了一下这份呈文，然则看完就发现存点不对味了。

苟简来说，它果然号召慢点建造了，但念念让人人慢点建造不太可能。。。

我们把它从新来给人人捋捋。

这篇著述的标题是 “ When AI builds itself ”，当 AI 自我迭代时。

苟简来说，Anthropic 合计 AI 咫尺也曾变的越来越得力，得力到足以我方给我方作念改正，我方给我方作念建造。

2025 年 2 月的时刻，他们的库里 9 成以上的代码照旧靠工程师手搓的，但当 Claude Code 发布以后，截止到本年 5 月，这个比例也曾下落到了 2 成。

致使有 Anthropic 的职工平直利索承认，说我方也曾快五个月没写过代码了。

AI 写的代码除了数目不停变多除外，质地也变得越来越高。

底下这张图展示了 AI 靠近四种不同难度任务时的完成率，不错看到这几个月以来，跟着模子智商的不停提高， AI 完成多样难度任务的见效力也在不停变高。

即使是那种最难的，莫得法式谜底的绽开性问题，Claude 也有 70% 摆布的概率能把它作念完。

而这个概率在前年九月，照旧 20% 不到。

从黄色到蓝色折柳是：十分苟简的任务、旧例任务、践诺性任务、绽开式问题

除此除外，Anthropic 里面的许多东说念主齐示意，咫尺，东说念主类和 Claude 敲的代码，质地上照旧五五开，但一年，只需要一年后，大局就会被绝对逆转，Claude 写出来的代码质地将全面至极东说念主类。

莫非，东说念主类真药丸？

对此，Anthropic 示意我特喵的也不知说念，他们干脆给东说念主类将来指标了三种结局。

第一种结局是无事发生，假定因为各种原因，今天的 AI 也曾发展到尖端了，因为什么缺卡缺电，缺水缺算法啥的原因，AI 的将来也曾嗝屁了。

天然，Anthropic 合计这种将来不太可能发生。

第二种假定章是合计 AI 的发展会连接量变，但积累不到质变的进度，东说念主跟 AI 沿路，造出安全真实的系统。

此时 AI 会承担大部分重迭责任，但审查和训诫权仍然抓在东说念主的手里，只不外是变装的挪动。看起来属于是个没啥大问题的好结局。

第三种便是开头所惦念的那种了，AI 掌抓了填塞深广的创造力，达成了全齐的自动化迭代，

模子智商的耕种中，算力成了唯孤单分，东说念主类或将不再贫穷。

在这个经过中，AI 可能会变得绝对听话来帮东说念主类好好干活，也可能会开脱东说念主类的终端绝对失控。再往后，就没东说念主大致瞻望了。

是以才有了后头的命令，命令人人搞一套能彼此监督，全员躺平的探索机制，让全寰宇参与到这件事儿中，来确保人人能随时给 AI 征询来踩一脚刹车。

咋说呢，世超看完的第一时刻其实会嗅觉它说的好像有点道理道理，AG真人国际(中国)官方网站然则弯曲一念念就嗅觉不对啊。

Anthropic 天然给人人说了三种可能的将来，但践诺上，一是被他们含糊的以前，二是咱正履历的咫尺，而三，才是 A 社确切示意担忧的将来。与其说是三种可能，倒不如说是层层铺垫。

并且整篇著述看下来，很巨额据齐是他我方界说、我方汇集、我方评释，致使我方评价的。既是考生又是考官，效力上么，几许得打点扣头。

再者，这 AI 研发是你说暂停就能暂停的嘛？这玩意又不是核能，搞个 “ 不扩散 ” 公约就能大伙儿沿路来监管了。

AI 这种有个数据中心就颖慧的活，根蒂没啥办法监管吧？

总弗成让每家公司齐彼此之间绽开所有这个词的数据区，让人人彼此之间能看到我方在拿显卡干啥吧？

真要搞这样透明，提议 Anthropic 先学习一下如何开源模子？

否则这种话说出来属实是没啥劝服力。

并且 Anthropic 此次提提议的时刻还很奥密，这家公司的格调不错说一直齐是颇有争议。

作念出得力模子的公司许多，然则风评能那么永久如一的就独一 A 社一家了。

掀开 A 社官网，看公司先容时，你能嗅觉到它险些每个字齐在向你强调安全。

你能翻到他们从居品到期骗的全套安全解决措施，致使还有给 Claude 单独撰写的安全宪法。

然则这些安全措施真灵验嘛？只可说现实情况要复杂的多。

前几年的时刻，A 社就快活过，说除非公司提前确保了安全措施准备适当，否则不会初始训诫新模子。

但很快他们就撤退了这个快活。。。

在本年 2 月，靠近《期间》周刊的采访时，他们的首席科学家示意，这种片面的快活并分歧理，公司可能洽商烧毁。

说白了，安全和发展这俩词，在硅谷就像是个箩筐，那处需要那处装。

当理念念方针碰上生意竞争，刺刀见红，所谓的安全频频也得给季度财报和阛阓份额让开。

比如之前纵容渲染狂暴的 OpenAI 奥特曼，最近就悄悄改了口风，之前还说 AI 会取代大部单干作，但最近就改了说法，承认我方之前的判断有点清闲了。

英伟达的老黄就更激进了，他在采访里示意，咫尺的许多言论极其科幻，戏剧化且毫无匡助，不知说念为什么有的 CEO 会念念演出天主，夸大胁迫来吓唬大伙儿。

咱天然不知说念他在点谁吧，但也能看出，即使齐在 AI 最前沿，人人的见解亦然不尽沟通的。

正所谓屁股决定脑袋，看他们的不雅点还得看他们所处的情况。

践诺上，最近这一个俩个月，Anthropic 的日子过的算不上十分好。

他们 3 号刚推出的 Claude 4.8 略显拉垮，再也没了也曾的断档逾越之感。

而隔邻的 OpenAI 更是三军出击，在编程和图像生陈规模平直两着花，并且奥特曼天天在网上形势找事理重置 Codex 的额度，平直成了各路建造者心中的超等大善东说念主。

而 Anthropic 这边，为了能搞到更多的显卡，更多的算力来作念出更强的模子，平直初始聘请了提交 IPO 肯求，初始作念起了融资上市的准备。

一来一趟的，身分越叠越多，就让这号召看起来也就没那么有劲了。

看到这，世超念念起来本年去 Google I/O 的事了，其时 DeepMind 的 CEO，哈萨比斯在现场告诉人人：

咫尺我们正站在 AI 奇点期间的山麓。

散伙咱还没往上爬两步呢，A 社就在前边把头扭过来，告诉你山上有风险，登攀需严慎，为了人人的安全，我们照旧沿路齐别爬了吧。

倒也有点道理道理，毕竟这些大厂的顶尖征询员细目能看到更多东西。

但几许像是艳丽而不消的谣言。

因为无人不晓，只须山在那儿，东说念主是一定要登上去望望的。

AG真人国际中国官网登录入口