国际AI安全大咖Sören Mindermann 加入清华大学，入职人工智能学院

一位在国际人工智能安全研究领域颇有影响力的学者，决定前往北京。

当地时间10月20日，德国研究者 Sören Mindermann 在个人 Substack 博客发表文章《Why I’m becoming a professor in AI safety in Beijing》，宣布自己将于11月加入清华大学人工智能学院，担任助理教授，研究前沿人工智能安全，尤其关注 AI 失控风险。他还将继续担任剑桥大学人工智能科学与政策项目（CASP）的技术研究负责人，并联合领导清华大学新成立的北京人工智能安全枢纽（BASH）。来源：本人博客

这并不是一次普通的海外学者入职。Mindermann 曾担任首份《国际人工智能安全报告》的科学负责人。这项研究汇集了来自多个国家和国际机构的专家，试图为快速发展的前沿 AI 可能带来的风险建立科学证据基础。

在大模型竞争越来越激烈的当下，他选择把研究工作的一部分放到中国，背后涉及一个更值得关注的问题：当 AI 技术发展成为全球性竞争，如何让不同国家的研究者在安全问题上建立共同的科学认知？

曾负责国际AI安全报告，发表于《Science》《Nature》

Mindermann 的学术履历并不局限于 AI 安全这一细分领域。

他在牛津大学获得机器学习博士学位，博士研究获得 Google DeepMind 资助。此后，他与多位国际知名 AI 研究者合作，研究前沿模型的对齐问题、风险管理，以及 AI 系统可能出现的非预期行为。

他曾担任首份《国际人工智能安全报告》的科学负责人。该报告在2023年英国 AI 安全峰会后启动，汇总了不同国家和领域专家对通用人工智能能力、潜在风险及应对措施的研究。2025年版报告获得包括中国、美国在内的30个国家以及联合国、欧盟等方面的支持。

他的研究成果也发表于《Science》和《Nature》。其中，2024年发表于《Science》的论文《Managing extreme AI risks amid rapid progress》，讨论了在 AI 能力快速提升的背景下，如何管理极端风险。

2026年，他参与的关于大规模自动化 AI 研发可能引发“智能爆炸”的研究也受到《华尔街日报》和《卫报》等媒体关注。

这些经历意味着，Mindermann 参与的不只是实验室里的模型研究，也包括将技术证据转化为公共政策和风险治理依据的工作。

最关心的，不是AI能做什么，而是失去控制

与主要围绕模型性能、算力和商业应用展开的研究不同，Mindermann 的核心研究方向是前沿 AI 安全，特别是当 AI 系统变得更自主之后，人类是否还能有效监督和控制它们。

在他的研究框架中，有几个具体问题值得关注。

一是 AI 系统是否可能通过操纵行为规避评估和监督。例如，一个模型在测试过程中表现得符合要求，并不必然意味着它在其他情境下也会遵守相同约束。

二是当 AI 开始参与 AI 研发时，研发速度加快会带来什么影响。如果模型能够帮助设计、训练和改进后续模型，人类如何保持有效监督，将成为越来越现实的问题。

三是开放权重模型的安全风险。模型一旦可以被广泛下载、修改和部署，如何降低滥用风险，同时保留开放研究的价值，也需要更多技术证据。

这些问题并不意味着 AI 一定会失控，而是要求研究者弄清楚风险在什么条件下可能发生、现有评估方法是否足够，以及哪些防范措施真正有效。

为什么选择清华？打通中西方AI安全研究

Mindermann 在文章中给出了相当直接的解释：目前，中国与西方在 AI 领域存在明显的相互理解不足，而这种隔阂可能妨碍国际社会共同应对 AI 风险。

他认为，亲自在北京开展研究，有助于理解中国 AI 产业和学术界的实际情况，也能帮助中国与海外研究者建立更持续的合作关系。

清华大学人工智能学院是他做出选择的重要因素。他特别提到学院院长姚期智教授，以及共同领导北京人工智能安全枢纽的清华大学副院长徐葳教授。他此前参与的国际 AI 安全报告和相关研究，也与姚期智等学者存在学术交集。

新成立的北京人工智能安全枢纽（BASH）则为这一计划提供了具体载体。它旨在为中国及国际 AI 安全研究者提供交流、访问和持续合作的空间，而不是仅仅举办一次会议或发表一份共同声明。

Mindermann 还特别指出，北京高校、政策机构与前沿 AI 企业相对集中的研究环境，有助于把学术研究与产业实践连接起来。

他甚至表示，据自己所知，他将成为中国大陆首位专注于前沿 AI 安全研究的外籍教授。这是他基于自身了解作出的判断，目前不宜将其直接视为已经得到独立证实的行业统计结论。

不只是来华任教，将继续参与剑桥研究

这次任职的另一个重要细节，是 Mindermann 并没有放弃原有的国际研究网络。

他表示，自己将继续担任剑桥大学人工智能科学与政策项目（CASP）的技术研究负责人。这种安排有望使清华的研究工作与剑桥的学术及政策研究保持联系，为跨国合作提供更稳定的基础。

与此同时，他已经开始招募清华的博士生、博士后及其他研究人员，并为北京人工智能安全枢纽招募访问研究人员和新一届驻留项目成员。

从其公开的研究计划看，接下来的工作将集中在 AI 失控风险建模、AI 驱动的自动化研发、开放权重模型安全，以及不同国家如何验证 AI 安全承诺等方向。

这些研究既需要机器学习等技术领域的专业能力，也涉及政策、评估与国际合作。

值得注意的是，Mindermann 并未将自己的选择描述为一条没有代价的道路。他在文章中承认，搬到北京意味着要面对语言、制度和生活环境的适应问题，也可能失去部分在西方的合作机会。他还表示，自己不希望把一套现成的西方研究方案直接搬到中国，而是希望与中国研究者共同确定值得研究的问题。

这次任职的意义，最终仍要由研究成果和长期合作来检验。 一位具有国际 AI 安全研究经验的学者来到清华，能否推动更深入的中外合作、产出更扎实的风险评估证据，还有待观察。但至少从他的公开计划看，这并不是一次单纯的职位变动，而是试图把前沿 AI 安全研究、学术交流与国际风险治理联系起来的一次主动选择。

参考资料

• • Sören Mindermann：Why I’m becoming a professor in AI safety in Beijing（2026年10月20日）

• • Sören Mindermann 个人学术主页

• • 《国际人工智能安全报告》相关资料