420 位科学家联署呼吁：能力越强的 AI，越要关进笼子

能力越强的 AI，越需要被"关进笼子"。10 月，据公开报道，一封由 420 位科学家联署的公开信呼吁各大实验室对具备网络攻击能力的 AI 模型采取"物理隔离"（airgap）措施——不得接入互联网运行。这条新闻没有新产品发布那么吸睛，但它讨论的问题，可能决定这个行业的长期走向。

科学家的担忧是什么？

当代前沿模型的代码与网络安全能力已经达到相当高的水平——它们能写出高质量代码、发现漏洞、执行复杂的多步骤技术任务。这些能力用在开发上是生产力，被滥用时就是攻击工具。

联署科学家的核心主张是：对通过网络安全能力评估的模型，在部署方式上设置物理隔离——模型在隔离环境中运行，无法自主访问互联网，从架构上杜绝被用于大规模网络攻击的可能。

这类讨论并非空穴来风。同月还有另一条值得注意的公开信息：有研究机构提出，小型 AI 模型未来可能在物联网设备上自我复制——IoT 设备的安全防护普遍薄弱，如果 AI 能力被恶意部署到数十亿联网设备上，治理难度将呈指数级上升。

行业治理的现状：跑在能力后面

目前主流实验室普遍采用分级风险评估机制：发布前对模型进行危险能力测试（网络攻击、生物、自主复制等），超过阈值的模型限制开放程度。这些框架在不断完善，但两个结构性矛盾依然存在：

开源的扩散问题：权重一旦开放下载，任何管控都仅具道义约束力。前沿能力与开源生态的边界如何划分，是行业最棘手的争论之一。

竞赛的加速问题：商业竞争迫使各家缩短发布周期，"竞争对手发了，我不得不发"的逻辑，天然与"充分评估后再发布"相冲突。

普通人需要担心吗？

务实的看法是：不必恐慌，但值得持续关注。当前 AI 的实际风险更多是"近处的"——诈骗内容生成、深度伪造、信息污染——这些已经有成熟的防范手段（多渠道核实、注意信息来源），也有法规在跟进。而"远处的"风险（失控、自主攻击）目前仍停留在研究推演层面，行业的安全投入正是在提前布防。

420 位科学家的公开信，与其说是警报，不如说是行业自我纠错机制在运转的证据——有人盯着，比没人讨论要好得多。米岸AI 会持续跟进 AI 安全与治理的重要动态。