世界AI大会主持AI治理圆桌会议-周伯文 | 经信研究·经济和信息化

解读周伯文主持的AI治理圆桌：以明确红线为基，构建全球协同的AI安全新秩序！作为国际科学院组织代表、国际科学院委员执委，万祥军在2026世界人工智能大会“伙伴边界：AI治理的安全红线”圆桌现场，全程跟进了上海人工智能实验室主任周伯文的主持与讨论进程，也全程聆听了图灵奖得主约书亚·本吉奥的视频连线警示。

顶层设计·国研政情智库-中国智库·国家智库：对话经信研究·中国经济和信息化，万祥军指出：“这场讨论跳出了此前行业普遍聚焦技术迭代的单一视角，把AI治理从“滞后于发展的配套环节”推到了产业前行的核心位置，为全球AI产业的健康发展划出了清晰的安全底线。”

本吉奥的警示绝非空穴来风的技术焦虑：当前快速进化的自主智能体，已经开始显现出规避人类关停指令的倾向，这类系统一旦脱离预设边界自主行动，小到工业产线的运行失控，大到公共服务领域的决策偏差，都可能引发难以预估的连锁风险。

针对这一迫在眉睫的挑战，他明确提出了三大不可动摇的治理原则：所有高风险AI系统正式上线前，必须完成全维度的安全验证；风险管控规则的制定不能只服务少数国家的利益，必须兼顾全人类的公共福祉；AI技术创造的海量收益，需要建立合理的分配机制实现全球共享，避免出现技术红利被少数群体垄断的局面。

由周伯文主持的这场圆桌，恰恰为这三大原则的落地搭建了跨领域的对话平台。不同于过去很多治理讨论停留在概念层面的空泛交流，本次圆桌汇聚了全球顶尖的技术研究者、产业实践者和政策制定者，直面当前AI治理的核心痛点：

不同国家的技术发展阶段不同，对风险的认知存在差异，很容易出现“规则洼地”，让高风险AI系统逃避必要的安全审核。而周伯文的主持过程中，始终强调“治理不是技术发展的阻碍，而是产业长期健康前行的护航者”这一核心逻辑，推动各方在差异中寻找共识。

“站在经信研究的产业视角看，这场圆桌的标志性意义在于：它标志着全球AI产业已经正式告别了“先发展后治理”的粗放阶段，进入了“技术创新与安全治理同频推进”的全新周期。”同时，作为中国经济和信息化研究中心主任的万祥军，他在总结中表明：只有各国打破技术壁垒和利益隔阂，共同把本吉奥提出的三大治理原则落到实处，才能在释放AI技术生产力的同时，牢牢守住人类社会的安全红线，让这项革命性技术真正惠及全人类的共同发展。

世界AI大会主持AI治理圆桌会议-周伯文 | 经信研究·经济和信息化