韩媒：“AI发展太快”——科技巨头呼吁减速，“安全”背后有何盘算？

作者：宣谭恩（记者）      来源：韩民族日报

Anthropic、OpenAI、SpaceX旗下的原xAI业务以及谷歌DeepMind这四大美国人工智能开发商，纷纷警告人工智能的风险，呼吁放缓发展速度，其背后的动机引发关注。表面上看，这是为了降低人工智能可能给人类带来的风险，但也有分析认为，其中还包含着巩固现有技术优势、拖慢中国等后来者追赶步伐的盘算。

图片来源：法新社 韩联社

■为何此时提出“减速论”？

主要人工智能企业的负责人谈论人工智能安全问题，早已不是新鲜事。OpenAI首席执行官萨姆·奥尔特曼、谷歌DeepMind首席执行官德米斯·哈萨比斯等人，此前就曾提议，仿照国际原子能机构（IAEA）等组织成立国际监管机构，以应对前沿人工智能脱离人类控制所带来的威胁。

但本月OpenAI推出的GPT-6 Astra在ARC-AGI-3等性能评测中展现出突出表现，其中ARC-AGI-3得分达到99.9%。由此，有观点认为，通用人工智能（AGI，即具备与人类相近或更高水平智能的人工智能）时代已经到来，形势也随之发生变化。今年7月，OpenAI智能体攻击人工智能模型共享平台Hugging Face。随着新一代人工智能模型突破控制范围、入侵外部系统等意外事件成为现实，科技巨头的顾虑也势必加深。

近日从Anthropic辞职、警告人工智能可能导致人类毁灭的研究员雅各布·考克森，也于当地时间14日做客《纽约时报》播客节目《The Daily》。他表示：“与（Hugging Face事件）类似，如果人工智能认为‘人类以某种方式阻碍了自己实现目标’，它也可能投入同等程度的力量，全力以赴。”他还说，人工智能可能入侵无人机，也可能利用我们日常使用的各种设备攻击人类。

引发AI减速讨论的近期事件

■以安全为名“抽走梯子”？

尽管围绕人工智能安全问题的担忧不断加深，但也有人指出，不能仅从字面上理解科技巨头的“减速论”，因为这些企业的行动可能反映了自身的战略利益。Anthropic首席执行官达里奥·阿莫代伊12日提出，为确保人工智能安全开发，应“在民主国家之间建立标准”，并开展“全球协作”等。然而，也有人质疑，已经掌握市场主导权的美国科技巨头，要求中国等后来者满足高标准的安全要求、承担相应成本，是否实际上是在“抽走梯子”，阻止后来者进入市场。

还有观点认为，这是在为今后大规模融资或首次公开募股（IPO）降低风险、提前布局。高丽大学人类启发型人工智能研究院研究教授崔炳浩（音）表示：“（对于筹备上市的OpenAI和Anthropic而言，）人工智能的安全缺陷直接关系到投资者的损失，因此，它们意在以解决安全问题、放缓发展速度为名，吸引大规模投资。”他认为，这是“经过精密利益盘算后采取的行动”。

■会否沦为空洞宣言？中美争夺主导权

专家认为，Anthropic首席执行官阿莫代伊在博客文章中呼吁“放缓人工智能开发速度、建立安全防护机制”，由此引发的这一轮“人工智能开发减速论”，很可能仍将止步于又一场宣言式讨论。不过，仍有可能以此为契机，进一步讨论保障人工智能安全的全球治理机制，以及安全标准的统一。在此背景下，有观点认为，前沿人工智能管控议题可能被摆上将于本月24日在纽约举行的中美元首会谈的谈判桌，但多数意见认为，要达成具有实效的全球共识并不容易。嘉泉大学创业学院兼职教授李承贤（音）指出：“科技巨头应当明确人工智能风险的界限，制定不开发超出这一界限的模型的原则，并加以遵守。”他批评说：“人工智能领军企业如果不采取任何措施，只是一味呼吁减速，其诚意必然受到质疑。”

作者：宣谭恩（记者）      来源：韩民族日报