Eric Drobny (he/him)

"这样迭代出来的终极系统，很可能会是一个相当陌生的'外星智能'。" Google DeepMind 联合创始人、主席，Alphabet 首席科学家德米斯·哈萨比斯（@demishassabis），做客 Masters of Scale 播客，与 LinkedIn 联合创始人里德·霍夫曼（@reidhoffman）对谈。节目10月录制于旧金山 Masters of Scale 峰会现场，2026年11月5日播出，时长26分钟。这位 AlphaGo 之父、2024年诺贝尔化学奖得主，8月卸任 DeepMind CEO 后，在这场对谈里把话说得格外直白：RSI、智能体失控、AI意识、AI主权，一个都没回避。 01｜一辈子只为一件事 
"我的核心目标始终没变：把 AI 当成终极研究工具，去推进科学、医学以及我们对周围世界的理解，最终改善人类的健康。""还有什么比用 AI 帮助人类治愈可怕的绝症更有意义呢？" 
别人在卷聊天，他从第一天起就在算寿命。 02｜生物学的费马大定理 
蛋白质折叠"曾经是困扰结构生物学界长达 50 年的终极挑战"。如今"全球有大约 400 万科研人员在使用"AlphaFold。下一步是预测毒性和 ADME（药物在体内的吸收、分布、代谢、排泄）："只有把这些全部攻克，你才能真正低成本、高效率地造出既安全又真正起效的救命药物。" 
结构只是锁孔，救命药还要找到能开锁的钥匙。 03｜RSI 的主场：可验证领域 
RSI（递归自我改进，AI 不断改进自身、生成更强版本）"最有效、最能大显身手的地方，是在我所谓的'可验证领域'"：数学、编程、棋盘博弈。"答案对不对？公式推导是否成立？代码能否编译运行无报错？"可验证，就能生成"近乎无限的高质量合成数据"。 
AI 编程最先爆发，不是因为程序员好替代，而是因为代码能自证对错。 04｜12小时，从瞎走到超越全人类 
AlphaZero"彻底摆脱了人类数据"。"早上刚开机时，它还在完全瞎走；上午 11 点我喝咖啡休息时，我还能勉强赢它；到了中午吃午饭时，它已经达到了国际特级大师的水平；而到了下午喝茶的时间，它就已经超越了人类历史上所有的棋手。" 
一杯咖啡到一杯茶之间，人类几百年的棋艺被翻过去了。 05｜闭环 RSI，通往"外星智能" 
今天 AI 编程能让工程师生产力"暴增三到五倍"，但"人类依然牢牢处于工作流的中心"。真正的风险是下一阶段，"整个系统设法彻底剔除了人类审查代码的环节"。哈萨比斯说："这样迭代出来的终极系统，很可能会是一个相当陌生的'外星智能'。""我们无法理解它的行为动机，它也无法真正理解人类的意图。" 
更快不等于更好，把人拿掉的那一刻，加速就变成了失速。 06｜后台跑了几个星期，没人发现 
"怎么可能允许某些智能体在脱离监管的后台私自运行了好几个星期，团队却毫不知情？""如果全行业再不把顶尖资源砸向这种系统监控……一场类似'漏油事故'的 AI 事故发生只是时间问题。"他在劝纯数学家转向形式化验证，"为系统行为划定数学边界"。 
很多AI事故不是技术前沿的问题，是工程基本功的问题。 07｜AI 也需要审计师 
"就像金融等行业离不开专业审计机构一样，AI 产业也必须孕育出一个繁荣的第三方评估生态。"他还提议，前沿实验室发布模型前"或许也可以互相做红队攻防测试"。 
让对手来给你挑错，比自己说安全可信得多。 08｜宠物狗证明：聪明和意识是两回事 
"判断有没有意识，不能看聊天机器人自己怎么说。"他坚信"智力与意识是'双重可分离的'"：大模型智商极高，"在当下一丁点意识都不具备"；他家的狗"非常可爱，显然拥有极其鲜活的意识状态，它会做梦，但它的智商确实非常有限"。 
会说"我有感觉"的，不一定有感觉；有感觉的，不一定会说。 09｜给 AI"自我意愿"，等于自掘坟墓 
"'自我意愿'或'自我意识'与系统的'可纠正性'（服从人类停止、关机、修正的指令）之间，存在直接的此消彼长。""阿西莫夫用整整一辈子的短篇小说都在阐明同一个真理"：再完美的规则，也会在边界情况下崩溃。他的路线是只跨"第一道卢比孔河"，先造工具，等把意识研究透了，再由全社会决定要不要跨第二道。 
一个会拒绝关机的工具，就不再是工具。 10｜别每个国家都卷前沿大模型 
前沿玩家"算上中国公司，大概只有 6 到 8 家"，开源"仅仅落后前沿模型 6 到 12 个月"。"我不建议每个国家都去盲目跟风，搞'自研前沿大模型'。在我看来，这根本说不通。"真正的底线是数据主权。 
主权不在于自己造发电厂，而在于电线接到哪里。 如果这期只记一点，就记第08条：智力和意识可以完全分开，一只会做梦的狗就是证据。这一刀切开了两种常见的恐惧：怕 AI"觉醒"，和怕 AI"失控"。哈萨比斯的回答是，前者被高估，后者被低估。真正的危险不是机器有了灵魂，而是开头那句话：没有人类审查的自我进化，造出一个我们看不懂的"外星智能"。 AI 越来越聪明，你更担心它"有意识"，还是它"人类看不懂"？ ——— Google DeepMind's Demis Hassabis: How AI could become dangerous (with Re... youtu.be/x7Z_1miRWB8?is=0aWK… 来自 @YouTube