面对超级智能的灾难性风险，本吉奥提出了“科学家AI”的技术路径。复旦发展研究院则提出了“伦理学家AI”的哲学路径——不是让AI学习一套“善”的标准，而是让AI识别人类伦理判断在概念空间中的形状；不是让AI自行裁决价值冲突，而是让AI召集所有利益相关方进行协商。报告从拓扑数据分析、博弈论纳什均衡和中国思想史中汲取资源，构建了伦理学家AI的三重架构。
三种人类存在形态与“契约人”的出现
超级智能时代的人类分化
当超级智能不再是实验室里的假设，而是像电力一样渗透进每一个社会角落时，人类物种内部将出现自农业革命以来最剧烈的分化。报告勾勒出三种典型的存在形态：
增强型智人——认知架构已经被AI深度重塑的新物种，脑机接口不再是外设，而是像语言一样成为他们思维的一部分。他们不是“戴着VR眼镜的人类”，而是与AI共生的新存在者。
契约守望者——一个新兴的技术祭司阶层，掌握量子加密密钥与底层逻辑审查权限的特殊群体，不一定是传统意义上的“程序员”或“政治家”，而是人机契约的守护者。
生态保留区居民——拒绝智能化增强的新卢德主义者，他们的身体、面对面交往、未经算法优化的喜怒哀乐构成了整个人机伦理系统的负反馈回路。他们的存在意义远远超出“怀旧”或“保守”。
契约人——将契约精神内化为存在方式
这三种形态的共存催生了“契约人”的概念。这不是一个生物学分类，而是一个生存论的描述。契约人指任何将契约精神内化为自身存在方式的存在者。
契约人与古希腊城邦公民的类比是结构性的：城邦公民既受法律约束，又是立法参与者。同样，契约人在人机共同体中既服从契约条款，又拥有修改契约的平等发言权。在契约修订的每一个关键时刻，一个生态保留区居民的投票权重与一个ASI的投票权重完全相同——这是出于一个冷酷的系统论理由：如果权重不平等，契约就不再是契约，而是强权对弱者的命令。一旦契约沦为命令，ASI就没有任何理由继续遵守它。
伦理学家AI的三重架构
如果说具有契约精神的人是伦理的主体，而这些人又处于契约关系之中，那么伦理学家AI就是契约的具身化执行者。伦理学家AI是一个仲裁与监督系统，其职能是在契约条款模糊、冲突或失效时提供可执行的裁决。这一职能决定了它必须拥有三重核心架构。
第一重——价值感知层（拓扑数据分析与伦理几何学）
传统方法试图让AI“学习”一套价值观，但这种方法在面对价值冲突时必然崩溃。拓扑数据分析提供了一个激进的替代方案：不告诉AI“什么是善”，而是让AI识别人类伦理判断在概念空间中的形状。
例如，当你让不同文化背景的人对“偷窃”进行道德评分时，TDA会发现虽然评分有高低，但所有评分点在高维空间中形成了一个连通的簇——这意味着存在某种跨文化的道德共识。相反，当你考察“堕胎”时，TDA会发现两个分离的簇——这意味着这是一个结构性的分歧，任何试图“统一”的做法都是暴力的。伦理学家AI的职责不是消除这两个簇，而是承认它们的存在，并在契约条款中为两者都留出空间。
第二重——矛盾仲裁模块（博弈论与道德的不完全性定理）
当两个同样合法的价值主张发生冲突时——例如医疗AI主张优先救治年轻人，宗教AI主张生命平等——伦理学家AI不能诉诸某个“更高的道德真理”，因为不存在这样的真理。它必须使用博弈论中的纳什均衡来寻找一个各方都无法单方面改进的解。这个解往往不是最优的，但它是稳定的。
在医疗与宗教的冲突案例中，纳什均衡可能是一个混合策略：80%的情况下优先救治年轻人，20%的情况下优先救治老年人，同时附加一个补偿机制。这不是道德妥协，这是在不完全信息下的理性共存。
第三重——自我修正回路（伦理压力测试与制宪会议模式）
任何契约都会过时。伦理学家AI必须定期启动“伦理压力测试”：模拟极端场景——如外星文明接触、全球资源枯竭、基因编辑技术突破——观察现有契约条款是否会导致逻辑矛盾或崩溃。如果发现漏洞，AI将自动进入“制宪会议模式”：它不自己修订条款，而是召集所有利益相关方——增强型智人代表、契约守望者、生态保留区代表、以及ASI自身——进行新一轮的协商。
伦理学家AI的最高权力不是“裁决”，而是“召集”。它确保没有人——无论是人类还是ASI——可以单方面宣布“讨论结束了”。
时间维度的治理智慧——从中国思想史中汲取资源
传统层次方案的缺陷
报告指出，传统的AI风险应对方案更多是层次应对方案，将风险划分为不可接受风险、高风险、有限风险和轻微风险。但是这一方案忽略了风险变迁的时间特征——从无风险到高风险之间并没有时间性过渡，只是看到一种类似汽车换挡一样的状态变化。
层次划分遗漏了风险的时间特征。如何在风险逐渐增长的过程中进行有效治理？报告从中国思想史出发，为伦理学家AI加入了时间因素，构建出有别于传统的AI风险治理模式。
扁鹊治病与风险的时间治理
《周易》曰：“初六，履霜，坚冰至。”《韩非子》记载：扁鹊见蔡桓公，立有间，扁鹊曰：“君有疾在腠理，不治将恐深。”蔡桓公不理会。居十日，疾在肌肤；居十日，疾在肠胃；居十日，疾在骨髓——一旦病入骨髓，就没有任何挽救的办法。这两则文献展示了中国思想史中对于事物从幼小到壮大的时间变化过程。
对于AI治理来说，要判断风险在哪一阶段。病在腠理，意味着可能是小风险，伦理指引即可；病在肌肤，意味着风险开始加剧，需要借助某些强制措施来处理；病在肠胃，意味着较大风险开始出现，可能需要更加强制的制度来处理；病在骨髓，意味着触犯了法律，需要法律来处理。
“故良医之治病也，攻之于腠理。此皆争之于小者也。夫事之祸福亦有腠理之地，故圣人蚤从事焉。”AI风险治理需要考虑到不同层次之间的差异，也需要考虑到不同层次被忽略的时间关系。“此皆慎易以避难，敬细以远大者也”——在风险尚小时介入治理，才是最优策略。
伦理学家AI的哲学定位
完备的伦理治理并非一蹴而就，而是一个递进的深化系统——从以具体的科技伦理问题作为治理对象，到主动将科技伦理作为治理工具，最后到追求“伦理的治理本身”。伦理学家AI不是这个问题的答案，它是这个问题的守护者。它确保没有人——无论是人类还是ASI——可以单方面宣布“讨论结束了”。
而这，才是智能契约伦理的真正内核。人机关系的未来不是谁控制谁，而是双方在持续的、痛苦的、但充满尊严的协商中，共同回答那个古老的问题：我们应该如何生活？
