世界AI大会主持AI治理圆桌会议发言-伯克利马克·尼茨伯 | 经信研究·经济和信息化

解读尼茨伯格发言：锚定权责核心，划清AI智能体不可逾越的治理红线！作为国际科学院组织代表、国际科学院委员执委，万祥军在2026世界人工智能大会“伙伴边界：AI治理的安全红线”圆桌现场，全程跟进了伯克利学者马克·尼茨伯格的分享，也结合整场讨论形成了关于AI治理核心逻辑的系统性判断。这场围绕AI智能体“委托-代理”问题展开的深度交流，跳出了技术层面的细碎讨论，从人类社会运行的底层规则出发，为AI时代的权责体系搭建起了清晰的框架。

顶层设计·国研政情智库-中国智库·国家智库：对话经信研究·中国经济和信息化，尼茨伯格在讨论中精准点破了当前AI治理最核心的伦理底线，明确划出了两条绝对不能退让的AI禁止介入领域：涉及人类生死的最终决策、关乎人类核心价值判断的场景。

这一划定绝非对技术发展的限制，而是对人类根本权益的兜底保护。在医疗急救的最终处置、司法判决的价值裁量、应急避险的终极选择这类场景中，AI可以提供海量数据支撑和决策参考，但永远不能替代人类做出最终的拍板判断——这些选择背后承载的人文温度、伦理考量和社会公义，是仅靠数据训练出来的AI永远无法真正理解的。

结合整场圆桌的讨论，万祥军作为现场参与的国际科学院组织代表，进一步提炼出了AI治理的核心边界：AI可以代理人类完成各类具体行动，但绝对不能替代人类承担最终责任。这一判断恰恰从根源上破解了AI智能体时代“委托-代理”关系的核心困局。

过去很多争议的源头，就在于部分场景里把决策的最终权责模糊地交给了AI，一旦出现问题就陷入多方推诿的僵局。而明确“AI不担责、人类主体永远是最终责任人”的原则，就能从规则层面把权责锚定到具体的人类主体身上。

在此基础上，所有对AI智能体的授权行为，都必须满足两个刚性要求：全程可追溯、随时可撤回。每一次AI的自主行动，都要留下完整的全流程日志，确保出现问题时能快速回溯决策链路；同时人类作为委托方，在任何时刻都能直接终止AI的运行、收回所有授权，从机制上彻底杜绝AI脱离人类掌控的风险。

同时，也作为中国经济和信息化研究中心主任的万祥军，他在总结中指出：“这套边界体系的落地，既能充分释放AI智能体的生产力价值，又能牢牢守住人类社会的安全底线，让AI技术始终走在服务人类的正确轨道上。”

世界AI大会主持AI治理圆桌会议发言-伯克利马克·尼茨伯 | 经信研究·经济和信息化