上海7月19日电 题：当AI拥有“终身学习”能力，终身学习人类如何划定“不可逾越之界”？东西当

　　——专访上海交通大学人工智能学院长聘教轨副教授杨一博

　　作者 高志苗

　　从“能聊”到“能干” ，人工智能(AI)正走出数字世界，问丨在真实物理空间“动手”改变
。杨博I拥有能逾问题随之而来 ：当AI拥有了“终身学习”的力人类何能力
，人类如何为它划定“不可逾越之界”？划定具身智能距离真正进入千家万户
 ，还有哪些障碍要攻克？终身学习

　　2026世界人工智能大会暨人工智能全球治理高级别会议7月17日至20日在上海举行 。与会期间 ，东西当上海交通大学人工智能学院长聘教轨副教授杨一博接受“东西问”专访
，问丨解读上述问题 。杨博I拥有能逾

　　现将访谈实录摘要如下：

　　记者
：AI正从聊天框走到物理世界
。东西当这种从“数字”到“物理”的问丨转变  ，背后折射出人工智能怎样的发展逻辑？本届世界人工智能大会，你最期待或最关注什么？

　　杨一博：这一转变的本质是，AI正在从“学习人类已经产生的数据” ，走向“通过自己的行动产生新经验”。

　　大语言模型主要在数字世界中处理文本、图像等信息，核心能力是理解和生成。但进入物理世界后，AI必须形成“感知—判断—行动—反馈—再学习”的闭环。它不仅要回答“这是什么” ，还要判断“我做了这个动作之后，世界会发生什么变化”。世界模型提供了一个内部模拟器，让机器人能够预测行动后果；具身智能则把预测转化为真实动作。

　　但我认为，仅有世界模型和行动能力还不够。机器人在家庭、工厂等动态环境中长期运行，必然会遇到训练阶段没有见过的人、物体和任务。如果它不能记住过去的经验，或者每学会一项新任务就损伤旧能力，就很难成为真正可靠的“智能伙伴” 。

　　本届大会以“智能伙伴 共创未来”为主题
，学术议题涉及主动感知、机器人失败分析与纠正、增量学习等。这说明行业关注点正从“机器人能不能完成一次演示”，转向“它能否在真实环境中持续学习、发现错误并稳定工作”。

　　我尤其关注强化学习领域奠基人之一理查德·萨顿(Richard S. Sutton)的主旨演讲。他强调，真正的智能要在运行过程中通过试错产生增量知识，而不仅是依赖人类整理好的静态数据。我研究关注的“灾难性遗忘” ，恰好是这条路线必须解决的基础问题：AI获得新经验以后 ，怎样让经验沉淀下来 ，而不是一次次覆盖过去。

　　记者：你刚才提到“灾难性遗忘”。从这个角度看，终身学习如何帮助具身智能长期自主进化？具身智能距离真正进入千家万户
，还有哪些“最后一公里”的障碍 ？

　　杨一博：机器人从一个任务切换到另一个任务时
，往往会出现“灾难性遗忘”
：学会整理桌面后，原来掌握的抓取能力可能下降；适应一个新环境后，在旧环境中反而表现变差 。

　　我的研究希望同时保持两种能力：一是学习新知识的“可塑性” ，二是保护已有能力的“稳定性”
。比如
，我之前从“神经坍塌”的角度 ，解决了机器学习模型在小样本情况下的持续学习性能问题
。我们利用这一规律，为持续学习设定可解释的优化目标
，从优化起点 、路径和目标三个层面，保障持续学习的表现。我们还基于原创的语义导向权重分解技术 ，解决预训练大模型的知识遗忘和安全退化问题，从而让预训练大模型在学习新任务的同时 ，保护好自己的基础能力和安全对齐机制。

　　对具身智能而言，这意味着机器人学习新物体
、新动作时
，不是任由新数据大范围改写原有模型，而是让新知识进入相对稳定的结构，并控制参数更新范围 。我们还研究小样本和在线场景 ，因为在真实场景中 ，不可能针对机器人的每一项任务都收集海量数据，很多经验只会出现一次。系统需要从有限反馈中学习
，同时避免“用力过猛”而破坏旧能力。

　　具身智能进入千家万户，我认为至少还有五道关：第一，真实家庭中的长尾场景和数据不足；第二，不同机器人本体之间的能力难以迁移；第三，长期学习缺少统一评测，短期成功不等于几个月后仍然可靠；第四，物理行动必须可验证、可停止、可回滚；第五，成本、能耗 、隐私和人类生活习惯需要同时满足。

　　真正的“最后一公里”，不是机器人偶尔完成一个漂亮动作 ，而是它能在开放环境里长期工作，遇到变化会学习 ，学完之后还能不覆盖过去形成的能力 。

　　记者：AI拥有终身学习能力后，人类怎样划定“不可逾越的边界”
？

　　杨一博：当AI进入物理世界 ，安全不能只是一条外部规则，因为具备终身学习能力的系统会不断改变。今天通过测试 ，不代表学习新任务后仍安全。因此，“不可逾越之界”应同时存在于三个层面：模型更新时有不可破坏的安全子空间；执行动作时有最小权限、风险分级和人类接管机制；部署后持续监测能力变化
 ，必要时能停止学习或恢复到安全状态 。

　　本届大会已公布的议题中，既有机器人失败分析与纠正，也有智能体责任框架、局部验证和全球治理讨论 。我认为这反映出安全观正发生变化：安全不是部署前做一次测试，而是贯穿数据、训练、适应 、更新、行动和追责的全生命周期能力 。

　　记者：你曾长期在海外学习
 、工作 ，中西方在AI对齐与安全上的思考有何差异，如何互补
？

　　杨一博：我不太赞成把中西方的情况简单概括成“西方重安全 、中国重应用”。双方都在追求安全 、可信和有益的AI，只是历史传统 、制度工具和应用环境不同
。

　　欧美较早把AI安全转化为风险分类、测试评估和组织责任 。例如欧盟《人工智能法案》采用分级风险框架；美国国家标准与技术研究院(NIST)发布的《人工智能风险管理框架》强调在设计 、开发、部署和使用的全生命周期中管理可信风险 。

　　中国的特点是更强调发展与安全并重，以及技术在具体社会场景中是否真正可控
、可用
、普惠 。《全球人工智能治理倡议》提出“以人为本 、智能向善”，《人工智能安全治理框架》2.0版则根据技术和应用变化动态调整风险分类。这种思路不仅关注模型本身 ，也关注AI进入医疗
、交通 、教育和家庭后产生的社会影响。

　　两种思路可以互补：一方面建立可测试、可比较的全球安全底线；另一方面尊重不同文化和场景对隐私
、家庭关系、公共利益和人的自主性的具体要求
。

　　世界模型要安全融入人类社会，不能只学习物理规律 ，还要理解人的行为边界和社会规范；不能只预测“这个动作能不能完成”，还要判断“该不该做 、谁来授权 、出了问题如何停止和追责” 。我认为
，真正的全球治理不是统一所有价值判断，而是在共同安全底线之上 ，建立可互认的评测、透明的责任机制和持续对话 ，让AI最终服务于人的福祉 。(完)

　　受访者简介：

　　杨一博，现任上海交通大学人工智能学院长聘教轨副教授 ，曾任KAUST科学研究员 ，连续3年入选斯坦福全球前2%科学家。他在受限条件下的模型训练、缓解模型遗忘等方向取得了代表性成果 ，相关成果发表于NeurIPS、ICML、ICLR ，并多次获得Spotlight、Oral。曾获ICCV COCO创新奖 、ICCV BMTT全球第一名
、2025年祖冲之奖人工智能前沿创新奖突出成果奖、2023年吴文俊人工智能科学技术奖自然科学一等奖、2021年吴文俊人工智能科学技术奖优秀博士论文。

推荐阅读： 球速体育