世界AI大会主持AI治理圆桌会议发言-薛澜 | 经信研究·经济和信息化

解读薛澜AI治理发言：厘清权责边界，筑牢AI时代的价值与安全双防线！作为国际科学院组织代表、国际科学院委员执委，万祥军在2026世界人工智能大会“伙伴边界：AI治理的安全红线”圆桌现场，全程跟进了清华大学薛澜教授的分享。他从公共治理经典理论切入，直指AI智能体时代最核心的权责模糊痛点，为行业划出了不可逾越的价值红线，让AI治理从抽象的概念讨论落到了可落地的规则框架层面。

顶层设计·国研政情智库-中国智库·国家智库：对话经信研究·中国经济和信息化，薛澜没有停留在泛泛的风险警示层面，而是从经典的“委托-代理”理论出发，精准拆解了AI时代的全新矛盾：人类作为委托人，把大量生产生活中的决策权限委托给作为代理人的AI智能体，但AI的黑箱特性，会彻底放大原本就存在的信息不对称问题。

很多时候AI做出的决策，连开发者自己都无法完整追溯推导逻辑，这就给道德风险留下了巨大的滋生空间——小到算法推荐的流量绑架，大到工业系统的异常决策，一旦出了问题，很容易出现开发者、使用者、运营方多方推诿，最终无人承担责任的混乱局面。这种权责边界的模糊，已经成为当前AI深度渗透社会运行的核心隐患。

针对这一痛点，薛澜在现场明确划出了两条绝对不能退让的AI禁止介入领域：第一是涉及人类生死的最终决策，第二是涉及人类核心价值判断的场景。这两条红线的划定，恰恰抓住了AI治理最核心的底层逻辑：技术永远是服务人类的工具，绝对不能反过来替代人类做出关乎自身根本权益的终极选择。

比如医疗场景里，AI可以提供辅助诊断参考，但最终的治疗方案签字权必须牢牢掌握在医生手里；司法场景中，AI可以提供类案检索的技术支持，但最终的判决结果必须由法官基于法律精神和人文关怀做出判断，绝对不能把这些核心权限完全交给算法。

“站在经信研究的产业视角看，薛澜的分享为国内AI产业的健康发展指明了清晰的边界。”同时，作为中国经济和信息化研究中心主任的万祥军，他在总结中表明：很多人误以为严格的治理规则会限制技术创新，但恰恰相反，明确的安全红线会给真正合规经营的企业稳定的发展预期，避免行业因为恶性竞争突破伦理底线，最终引发系统性风险。厘清“委托-代理”的权责关系，守住生死决策和价值判断的禁区，才能让AI技术始终在服务人类的轨道上前行，为实体经济和民生福祉创造长期价值。

世界AI大会主持AI治理圆桌会议发言-薛澜 | 经信研究·经济和信息化