值得构建的未来是人的未来

Thinking Machines 的使命是构建延伸人类意志与判断力的 AI。

人工智能每天能做的事情都在增加，但决定它应该做什么取决于我们——个人、组织、整个人类社会。这些决定需要人们通过与工作的持续接触来获取的知识和判断力，而这种接触越来越多地是在 AI 的辅助下完成的。塑造高级智能的目标也是一个持续的反馈、学习和重新对齐的过程。

今天大多数使用中的 AI 都是在少数几个地方训练出来的，然后就被冻结了。它不会受到其所服务的人的塑造，也不会从他们共同完成的工作中学到多少东西。延伸人类的意志与判断力，要求 AI 像人自身一样多元化和分布式存在。这就是我们选择的道路。

在这条道路上前进，我们正在推进以下技术方向：

• 我们训练强大的模型，推进多模态交互和可定制性等能力。锋利的工具才能延伸人的意志，而人类的判断力需要能够塑造在前沿水平上竞争的模型。
• 我们构建工具，让人们能够将 AI 变成自己的，根据独特需求定制模型。这包括训练模型权重的能力。
• 我们开发交互界面，拓宽人与机器之间的沟通通道，让个人判断能够持续影响 AI 的工作。
• 我们发表研究，面向科学界，因为塑造 AI 的力量需要对其制造方式有深入理解。

我们相信值得构建的未来是人的未来——由人类的知识塑造，由人类的意志引导，由人类的判断力决定。以下是关于这个未来的论证，以及我们正在做的工作。

将智能带到知识产生的地方

AI 的存在是为了服务我们所做的工作。这些工作依赖于关于"事情怎么做"和"什么值得做"的知识——这些知识由从事工作的人持续产生。

想象一位厨师在创造新菜谱，或者一位店主在重新排列展示的商品和价格。他们在追求一组复杂的目标，运用着外人无法立即读懂的技能和知识。这种知识通过反馈不断更新，它不是可以写入数据库的静态仓库。它是局部的——不同的餐厅或店铺通过不同的方式追求不同的结果。店铺和厨房中的集体知识分散在每一位店主和厨师身上。^[1]

知识的分散是一种集体力量，它是整个系统的多样性、适应力和韧性的来源。这就是自由市场优于计划经济的原因。中央计划失败，不是因为不够聪明，而是因为生产性知识的本质：隐性的、局部的、转瞬即逝的，由那些通过工作获得它的人私下持有。^[2]试图将知识聚合起来供一个中央化的智能使用，面临着同样的挑战。

确实存在一些仅凭智能就足够的领域，自主的 AI 不需要人的参与也能突飞猛进。两个例子是国际象棋（最强的引擎纯粹靠自我对弈训练）和数学（前沿模型正在独立解决长期悬而未决的问题）。这些例子有两个共同特征。第一，赋予 AI 的目标是静态且可表达的：赢一盘棋，证明一个定理。第二，这些领域不包含隐藏知识。象棋和数学的规则是普适的，棋盘对所有人可见。但在棋盘之外，仅凭智能是不够的。

要让人工智能从分布式知识中受益，它自身也必须是分布式的。每个组织都由其人员的专业知识驱动，这些知识通过他们的工作获得和表达。我们相信 AI 应该帮助组织培育那种独特的知识，而不是提取知识的一个快照然后用一个标准化的产品去替代它。这种培育是一个持续的过程，需要 AI 与人一起工作，而不是代替人工作。

2014 年，长久以来精通自动化生产的丰田，将其工匠大师重新请回生产线，明确目标是培养工匠精神和知识。领导这项工作的 Mitsuru Kawai 这样解释原因："要做机器的主人，你必须拥有教机器的知识和技能。"^[3]知识的生产和智能的运用互相促进，它们不是替代品。

人们所做的工作可能会改变，转向更多只有人才能带来的东西，但最好的组织将充分利用两者。AI 应该让每个组织以自己的方式卓越，而不是抹平它们之间的差异。

我们的目标是将智能带到知识产生和使用的地方。我们构建工具，让每个人都能用自己独特的知识微调模型，并在知识演进时持续适配模型。我们发表研究和实践指南，让更多人能够获得这种能力。我们设想的前沿 AI 是一个集合体，因为它由其所服务的每一个人在各自独特的位置上塑造，所以像这些人一样多元。

人类参与是一个技术挑战

让人参与到设定目标和与 AI 分享知识的过程中，并不意味着为了抗拒自动化而抗拒自动化。机器能可靠地自己做的事，就应该让它做。但它也应该知道什么时候该独自行动，什么时候该邀请监督和反馈——就像人在团队中工作时一样。最好的合作者会预判：他们了解你想要什么，在你开口之前就把它拿来了，随着时间推移赢得了替你行动的权利。这些都是技术挑战，需要对 AI 的设计和评估方式采取新的方法。

将人类知识和判断力带入与 LLM 协作的一个主要瓶颈，是人与 AI 之间的沟通通道——一个小文本框和一段漫长的等待。这个通道太窄了，无法承载人类智慧和意图的丰富性，也太慢了，无法支持持续的反馈。人们在实时协作时做得最好。我们会打断和纠正，会再看一眼、做个手势，会大声地改变主意。这就是为什么我们在交互模型上下长期赌注：在模型本身中原生处理实时多模态交互的模型，而不是在外部搭一层脚手架。这样构建的话，交互性随智能一起扩展，让模型更聪明的同一种训练也让它成为更好的合作者。正确的界面不仅仅是允许人的参与，而是邀请并奖励参与。

另一个挑战是为评估和优化设定正确的目标。当今衡量 AI 智能的通用指标是模型能够自主执行软件任务的时间跨度，比如 METR 追踪的图表。^[4]我们预期这个基准上的进展会继续，但它最终衡量的只是 AI 自己能做什么，而不是人和机器一起能完成什么。

衡量后者更为复杂，也不是一个实验室自己能完成的。每个组织都要自己评估 AI 是否帮助它磨砺了判断力、发展了新知识、实现了目标。

构建从长远来看让用户更强的 AI，也能很好地对齐激励。一个为每个客户提供单一模型的 AI 实验室，其利益在于吸收每个用户的独特之处，并贬低专业知识培育的价值。通过将 AI 优化为可定制和可协作的，当客户发挥他们的独特优势时，我们就受益了。这些优势的最大化不是靠租一个 AI 然后外包给它，而是靠组织拥有 AI 并根据自身目标来定制它。

去中心化的对齐

人的价值观，就像人的知识一样，存在于每一个个人的头脑中，抗拒被集中。但今天，AI 的价值观和声音是在少数几个地方决定的。单一的价值对齐中心，无论运营得多好，都会成为一个等待被俘获的权力中心。

这创造了危险，特别是如果最有价值的工作由 AI 独自完成而不需要太多人的输入。企业、政府和公民之间的社会契约依赖于个人的生产能力——政府的权力和企业的利润最终都依赖于此。不需要人的权力，就失去了关心人的需求和价值观的激励，转而关心自身的存续。^[5]

即使怀着最好的意图，在一个地方塑造出来的模型也不可避免地编码了其拥有者的价值观，而不是它所服务的每一个个人用户的价值观。^[6]今天每个实验室都用自己的上一代旗舰模型来生成训练数据和奖励信号，以此训练下一代旗舰模型。无论那个循环中产生什么样的"性格"，所有人拿到的都是同一个，而且每一代都继承了上一代的特征——在上一代的输出上长大，被上一代的品味评判。单一的对齐规范压制了创造力和多样性，僵化了进步。言论自由和自由市场让新的想法、商品和服务涌现并竞争，而不是将在某个时间点上存在的偏好平均化。

要让组织和个人把 AI 对齐到自己的价值观，这些价值观必须被编码在模型权重中。如果用户的价值观和诉求只能通过 prompt 影响模型，用户会发现表面属性变了，但深层的习惯依然如故。允许核心模型行为通过 prompt 发生显著改变会牺牲安全性，使一个可塑的中央化模型容易遭到反复攻击。^[7]

深刻塑造模型的力量也是将其用于恶的力量。冯·诺依曼在 1955 年就评论过这个问题^[8]，他写道，技术的有益方面和有害方面"到处紧挨在一起，永远不可能把狮子和羔羊分开。"保护羔羊安全是一个持续的过程，是不断行使判断力和做出选择的结果。我们的目标是给做这些选择的人更强的工具，推进能让模型更安全的研究，但不剥夺其所有权。

人类通过个体的古怪和创造性张力而繁荣。我们设想对齐不是一个单一模型的特征，而是一个生态系统的特征——在不同的地方养育的 AI，它们争论、竞争、互相学习。我们相信要让古怪活下去。

值得构建的未来

科技行业在教机器思考方面取得了令人难以置信的进步，但它们应该思考什么，必须留给我们。什么值得追求，什么值得制造，我们拥有的时间的正确用法是什么。^[9]我们不是要给出一个唯一的答案，而是要给每个人能力，让他们自己的答案成为前沿 AI 发展的一部分。

当前 AI 发展的道路，推向集中化和自主化，把人的参与框定为一种权衡：参与 vs 能力，自主拥有 vs 安全对齐。我们把这些看作需要解决的技术挑战：因为鼓励人的参与而更有能力的 AI，因为根据自身优势定制 AI 而从长远受益的组织，因为由拥有它们的人塑造的多元 AI 而产生的对齐。解决这些挑战正是我们使命所要求的。

未来不是在人类主导和在 AI 面前迅速过时之间的二选一。不同的道路通向许多不同的未来，而我们可以选择走哪一条。我们在构建让天生的与被造的携手同行的技术。