AI 自己造 AI？刷屏的RSI，没那么可怕

从ChatGPT带火的Prompt，到今年刷屏的OpenClaw和AI Agent，AI领域创造的新术语几乎堪比互联网圈的行话。

最近，有消息称Google旗下的DeepMind已接近实现AI的所谓超能力RSI（递归自我改进）。

在微软、Anthropic、OpenAI、马斯克等业界重量级人物频繁呼吁放缓前沿人工智能发展步伐的背景下，RSI开始频频出现在各类报道中。

用一句不太严谨的话来解释RSI，就是“AI自己造AI”。换言之，利用一个成熟的AI系统来辅助开发下一代更强大的模型，并提升未来模型的研发效率。一旦形成循环，AI的进步速度可能远超当前迭代方案。

尽管RSI近期才引起广泛关注，但其思想源头可追溯至六十多年前。1965年，英国数学家I.J. Good提出，如果一台机器能超越人类的智力活动，那么设计机器也应属于其能力范畴。它可以制造出比自己更聪明的机器，从而使机器智能进入加速的正反馈循环，他称之为“超智能机器”。

正是这样一个科幻概念，近期正以超出预期的速度走向现实。

9月上旬，OpenAI首次公开披露了RSI的进展，预计在2028年3月前实现自动化AI研究员；其首席科学家帕霍基发文警告，人类尚未准备好应对超级智能的快速演进。

另一家AI巨头Anthropic也尝试将自动化推进至安全研究领域。此前，他们使用Claude Sonnet 5帮助早期版本的Claude Opus 4.8改善安全表现，仅用约2400条训练样本，就将成绩优化至接近正式版水平。

除了修改模型本身，业内还存在一条更现实的路径，即在模型配套的软件系统上打补丁，业内称之为“Harness Engineering”。这种工程范式让智能体能够改进自己的记录方式、修正出错的工具接口、重写低效代码。这些变化未必改变模型权重，却可能显著提升整个系统的能力。

不过，相比真正的RSI，并非所有自我改进都能配得上“递归”二字。目前绝大多数所谓的“AI进化”，其实仍离不开人工干预。真正的RSI除了在性能上比上一代有明显进步外，还有一点是比上一代更擅长“制造”后继者。

换言之，一个系统可能每次都比上次高一分，却越来越慢、越来越贵，同时更依赖人工，这其实只能算作版本更新；相比之下，另一个系统或许跑分并不那么高，却越来越能用更少资源造出更好的后继版本，这才更接近RSI的概念。

当然，业内对RSI的准确判断仍在探索中。9月10日，arXiv上挂出一篇由国内33位作者共同完成的论文，涵盖上海交大、清华大学、字节跳动、上海AI Lab等机构。

该论文将RSI的自主性划分为L1至L5五个层级，从执行人类给出的改进方案，到自主寻找改进策略，再到获取经验、将环境反馈转化为持续保留的改动；到了L5，改进机制本身也成为改进对象，人类制造的不仅是一个模型，而是一套能继续制造模型的系统。

按照这个标准来看，目前绝大多数所谓模型都达不到RSI的要求，多数是为了渲染“AI末日论”。

目前，围绕RSI的争论已超出技术范畴。

Anthropic CEO阿莫代伊呼吁同行集体降速，提议引入拥有接近员工权限的第三方评估团队进行长期监督，OpenAI和马斯克罕见地形成统一阵线。

但也有人指出，大型实验室要求放缓发展，并不全是出于安全考虑，也可能是在争取监管护城河。一旦监管收紧，拥有庞大安全团队和审计资源的大公司更容易满足要求，而开源社区和中小企业将面临更高门槛。本文来自微信公众号“镁客网”，作者：镁客网，36氪经授权发布。