OpenAI 将 AGI 定义为政治和经济问题,而不仅仅是技术问题

OpenAI 通过首席执行官 Sam Altman 发布的一份新原则声明,就先进人工智能的未来提出了更广泛的论点:决定性问题不只是性能,还包括治理、可及性以及权力的分配。

公司表示,其使命仍然是确保通用人工智能造福全人类。在这篇新文章中,Altman 提出了 OpenAI 认为指导其工作的五项原则,而公开文本尤其聚焦于民主化、赋能和全民繁荣。

这份声明既像是一份价值观文件,也像是一种定位姿态。随着 AI 系统变得更强大、并更深地嵌入公共生活,实验室正面临越来越大的压力,需要解释的不只是它们如何构建系统,还包括它们认为这些系统应支持怎样的社会秩序。

民主化位居首位

文章中的第一项原则是民主化。OpenAI 表示,它希望抵制那种超级智能将权力集中到少数公司手中的未来。相反,公司主张能力应当更加去中心化地分布,而关于 AI 的关键决策应通过民主程序和平等主义原则来作出,而不是仅由 AI 实验室单独决定。

这种表述之所以重要,是因为它将 OpenAI 放在了当前 AI 周期最核心的张力之一中。最先进的模型需要极其庞大的算力、人才和资本。这些现实自然会把开发集中到相对少数的组织手中。OpenAI 的声明直接承认了这一风险,并试图用一个政治原则来回应:广泛的可及性必须与更广泛的决策参与相结合。

这种措辞带有理想主义色彩,但也具有策略性。一家正在构建前沿系统的公司,明确主张未来不应只由前沿公司来决定。

赋能被视为产品检验标准

第二项原则是赋能。OpenAI 表示,它相信 AI 可以帮助人们实现目标、学到更多、追求抱负,并过上更充实的生活,而社会整体也会因此受益。公司认为,要兑现这一承诺,就需要推出能够让用户完成越来越有价值任务的产品。

这部分声明的特别之处在于,它将理念与产品效用紧密相连。OpenAI 并不是把赋能描述为一种抽象的道德收益,而是以操作层面的方式来定义它:用户应该能够可靠地借助这些系统完成有意义的工作。

文章还强调了自主性。它说,世界是多元的,人们的需求也各不相同。OpenAI 认为,只要部署方式能尽量减少伤害,用户就应被赋予在使用其服务方面较大的自由度。

这种搭配体现了 AI 政策中一种熟悉的平衡。公司希望扩大用户的自由和能力,同时在它认为风险仍不确定或影响重大的领域保留限制。Altman 写道,在不确定情境下,这可能意味着宁可更谨慎一些,而只有在更多证据支持时才放宽约束。