文章详情

潘多拉魔盒

徐宪民

2026年9月11日

一

潘多拉魔盒出自古希腊神话。

普罗米修斯盗取天火送给人类，触怒主神宙斯。宙斯命令火神赫淮斯托斯用泥土塑造出世间第一个女人潘多拉。众神纷纷赠予她美貌、伶牙俐齿，同时也赋予她强烈的好奇心，将她许配给普罗米修斯的弟弟埃庇米修斯——名字的本意就是“后觉者”。

宙斯送给潘多拉一只密封的容器，也就是后世所说的魔盒，严令禁止她打开。可潘多拉终究抵挡不住好奇心，掀开了盒盖。一瞬间，疾病、瘟疫、战争、嫉妒、贪婪、痛苦、仇恨等灾祸四散飞出。她慌忙合上盒子，唯独把希望留在了盒内。

从此各类苦难散落人间，世界充满磨难。

好奇心本身并没有对错，关键在于人类有没有能力管控好奇心带来的后果。如果人工智能脱离人类管控，就如同亲手打开了潘多拉魔盒。

二

有一位AI模型训练专家科克森选择离职。他2023年加入OpenAI，是多款大模型的核心贡献者；之后转投Anthropic，担任这家公司的核心研究员。

外人看，他连续投身顶尖AI企业，又选择离开，难以理解。用他自己的话说：过去三年，我先后在OpenAI和Anthropic从事模型研发。这两家企业，都没有承担起应有的责任，一门心思朝着超级智能冲刺。这是拿全人类的命运做一场豪赌。

他的担忧主要有两点。

第一，一旦AI强大的能力，和它逐步显现的自主性结合起来，短短数年之内，就有可能造成极端破坏。比如入侵电力、供水等关键基础设施，甚至设计出具有灭绝风险的生物武器。

第二，就是AI的递归自我改进。把普通编程任务交给AI，它可以完成得很好。可如果让AI接手AI研究员的本职工作，由它来研发下一代人工智能呢？

“最可怕的事情，就是人工智能利用自身能力，持续提升自己的智能水平。我们把当下研究员的工作交给它，就会触发大家所说的智能爆炸。它可以脱离人类干预，不断变得更聪明，最终诞生远超人类智慧的存在，而且这一天或许来得很快。”

一旦这个闭环启动，AI就能自主迭代、持续变强，整个过程不需要人类介入，最终诞生智力远远超过人类的智能体。

自然界里，从来没有哪个物种，可以被智力低于自己的物种长久控制。那么，人类真的有把握掌控超级AI吗？

让他感到恐惧的还有时间节奏。他认为，递归自我改进很有可能在未来一两年就出现，到那时，真正的风险才会降临。

直到今天，人类还没有找到管控超级智能的可行方案，甚至都不能说，我们已经走在了正确的道路上。

三

有一个值得留意的现象：在AI企业内部，职位越高的人，反而越担忧AI潜藏的巨大风险。

这里就生出一个疑问：既然这些高层深知风险巨大，为什么还要持续训练、迭代大模型？

这些公司呼吁监管，态度是真诚的。他们真心希望外部力量介入约束，因为他们深陷一场无法轻易退出的竞争博弈，被形势裹挟着向前推进，不断研发这项可能致命的技术。

他们期盼建立国际机制，让整个行业放慢脚步。但同时又不信任竞争对手会主动减速，因此谁都不敢率先踩下刹车。

这不是某个人品行恶劣，也不单纯是资本贪婪，而是一个结构性的困局：所有人都清楚前路有巨大危险，但是没有任何一方，敢于单方面停下研发的脚步。

值得我们深思：倘若未来某一天，真的需要有人为AI发展踩下刹车，当今世界，这套刹车机制存在吗？又该由谁来踩下这关键的一脚？

我们必须站在人类命运共同体的角度思考：原子弹并不可怕，因为它是工具，是人类可以管控的。人工智能也是工具，也不可怕，但前提是它也必须被人类管控。

东方大国必须和联合国一起，与世界人民共同承担起管控AI的历史责任。

(注：您的设备不支持flash)