Demis Hassabis：前沿AI框架与新时代的黎明

这是人类历史上的一个关键转折点。通用人工智能（AGI）——一种展现出人脑全部认知能力的系统——可能距离我们只有短短几年。当我们在未来几十年回望此刻，我想我们会意识到自己正站在奇点的山脚——毫不夸张地说，这是人类一个全新时代的黎明。

我毕生致力于 AGI 研究，因为我始终深信，如果以负责任的方式开发和部署，它将被证明是有史以来最有益、最具变革性的技术之一。AGI 无法与常规技术突破相提并论，即使像互联网或移动通信那样影响深远的技术也比不上它——它更接近电的发现或火的掌握。停下来想想，我们实质上找到了一种让沙子思考的方法。这是奇迹。

这项技术的影响力将是前所未有的——也许达到工业革命规模的10倍，而速度也是10倍。它将帮助我们解决社会面临的一些最大问题，从加速药物发现到开发新的清洁能源，再到创造新型先进材料。我们甚至可能达到这样一个阶段：资源不再是人类进步的制约因素，从而迎来一个令人惊叹的丰裕新时代。

前沿的挑战

AI 已经开始带来切实的现实效益，但要实现其巨大承诺，我们必须深思熟虑地、审慎地度过这个关键的发展时期。随着我们越来越接近 AGI，需要采取紧急行动来应对可能出现的风险。我们已经看到了前沿模型对网络安全构成的挑战，而随着能力的持续提升，核威胁和生物威胁等其他风险也可能很快浮现。在地平线上，我们将需要强有力的保障措施来控制日益自主、递归自我改进的系统——并解决那些只有随着时间推移才会变得更加清晰的未知问题。

我始终相信人类的聪明才智和创造力能够解决任何问题。我有信心，缓解与AI相关的技术风险是一个我们可以共同应对的挑战，但前提是我们必须给自己足够的时间和空间，把下一步这一关键棋走好。然而目前，无论作为一个领域还是作为一个更广泛的社会，我们都没有做到这一点。

当前，我们陷入了一场极其激烈的多层次商业和地缘政治竞赛。虽然这些竞争动态推动了快速进步并加速了巨大的正面效应，但前沿领域的进展速度已经超出了我们对这项技术的理解。世界上没有人确切知道接下来会发生什么，即便是专家也存在分歧。当不确定性如此之高而利害如此重大时，保持审慎乐观才是明智且正确的策略。这需要制定这样的公共政策：既促进创新，又激励负责任和安全的行为；既在国际关键安全议题上推动合作，又鼓励深思熟虑地考虑如何让AI服务于社会福祉。

前沿AI标准机构的框架构想

AI 领域的快速进展要求我们采用一种全新的前沿AI模型能力测试方法——这种方法需要动态、灵活且严格。美国凭借其经济和技术地位，有条件迈出第一步来构建这样一个框架。美国可以建立一个标准机构，采用联邦监督下的公私合作模式或自律性组织形式——非常类似金融业监管局（FINRA），其董事会应包括独立的顶尖技术专家和开源代表。资金需要是充足的，且可能主要来自行业，以便吸引世界级的技术人才并提供大规模测试所需的算力资源。

该标准机构将负责制定评估协议，并与相关联邦机构和美国国家实验室合作，在涉及国家安全的领域进行测试。如果一个模型在标准机构确定的一组基准上达到特定阈值（这些基准需要定期更新以跟上AI能力的演进），则被认定为"前沿级"。拥有"前沿模型"（由这些基准定义）的机构将被视为"前沿实验室"，并被鼓励采纳最佳实践——例如发布包含技术细节的模型卡、维持强大的内部网络安全体系、对关键人员进行审查、为安全与安全研究提供充足资源等。

最初，前沿实验室将在模型发布前30天自愿向标准机构提交模型以供审查。一旦评估协议被证明有效且稳健，即可迅速推进正式化——即前沿模型必须通过评估才能在美国市场部署。实验室还将与标准机构合作，解决发布后发现的任何关键漏洞。

模型评估应包括对网络安全、生物威胁和其他高风险领域能力的严格科学评测。特定的自主AI测试可以检测是否试图绕过安全护栏或出现欺骗迹象，并确保采用最佳实践——例如对AI生成的图像进行数字水印，以及生成人类可读的输出标记以理解模型的推理过程。

这些评估将定期更新——也许初始阶段每季度一次——过时或饱和的基准将被淘汰和替换。最初，它们将在与前沿实验室的协商中开发，但最终标准机构应建立起独立于实验室的技术能力，创建自己的保留测试集以防止过拟合。与美国政府合作，它可以推动建立一个第三方审计师生态系统，协助评估并开发新的基准和评测方法。

这一方法的优势在于它以技术为聚焦，同时支持创新并激励负责任行为。它被设计为跟上领域的加速发展，并在最大风险被识别时做出适应——如果局势的严峻性要求，甚至可以升级，包括在必要时协调前沿实验室之间放慢开发步伐。被指定为前沿实验室将带来显著的声望，并且对任何构建出达到基准标准模型的机构开放。该框架可以适用于任何来源国、无论开源还是闭源的前沿级模型，但任何非前沿模型——比如来自初创企业或学术界的——将不受此流程约束。

这项由美国发起的努力将为制定前沿AI国际共享标准提供一个强有力的起点。由于这项技术将影响整个地球，理想情况下这一框架将推动国际社会就如何管理最严重的风险达成共识，同时确保每个人都能获得并受益于AI带来的机遇。

未来尚未书写

AGI 有潜力成为推进科学和医学的终极工具，并推动巨大的生产力提升和经济增长。但要实现这一点，我们需要通过围绕共同的全球框架进行协调、使用最严格的科学方法、汇聚最优秀的大脑来解决我们面临的挑战，从而把技术基础做对。

即使我们解决了这些艰难的技术挑战，还会有更多复杂的经济和哲学问题需要应对：后稀缺世界需要什么样的新经济模型来帮助每个人蓬勃发展？我们希望以什么样的价值观生活，意义和目标将是什么，甚至人类自身的生存状态可能如何改变？显然，解决这些问题不能也不应该只交给技术专家。它需要社会的每一个部分共同参与，帮助定义这个新篇章。

对AI既有巨大的兴奋，也有巨大的不确定性——两者都是合理的。但未来尚未书写。我们必须在AGI到来之前，利用这个宝贵的窗口期，塑造这项技术以造福全人类。我们现在的集体行动将决定文明下一个阶段的走向。通过安全地将AGI引入世界，我们可以进入一个科学发现与进步的黄金新时代，迎来一个人类蓬勃发展的光明未来。