在上海浦江AI学术年会上,阿里巴巴携手上海人工智能实验室共同推出《守己利他:智能时代做负责任的技术》白皮书。该文件聚焦人工智能体安全议题,提出全行业应对技术风险的三大核心原则:守己、利他、合作。这是阿里巴巴连续第四年发布人工智能治理领域的实践成果,其构建的全栈AI安全防护体系引发学界与产业界关注。
阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上强调,全球AI技术正从"语言交互"向"任务执行"跨越式发展,智能体自主调度资源、完成复杂操作的能力显著增强,但随之而来的安全风险呈现集中爆发态势。"安全已从技术选项变为社会信任的基石,需要全行业建立命运共同体意识。"他指出,阿里巴巴将安全基因深度植入芯片、云计算、模型开发到应用落地的全链条,通过源头管控确保技术产品的本质安全。
针对用户自定义智能体存在的安全隐患,阿里巴巴通义实验室安全负责人张荣用"保险箱与家门口"的比喻形象说明风险差异。他表示,未经专业封装的智能体如同暴露在公共区域的保险箱,而通过系统级安全加固的产品则具备多层防护机制。该团队构建的立体化防护体系包含两大核心策略:强化基础模型的内生安全能力,以及建立覆盖全流程的系统级安全围栏。
在技术实现层面,阿里巴巴依托20余年安全研究积累的千万级真实漏洞数据库,打造出行业领先的安全训练语料库。通过将代码安全知识深度融入千问大模型训练过程,并实施多轮严格的安全对齐,使模型生成的代码安全性在开源领域达到顶尖水平。据权威评测基准SecCodeBench显示,该模型在代码安全指标上持续领跑同类开源产品。
为推动行业共建安全生态,阿里巴巴坚持开源开放战略,将内部验证的安全技术转化为公共产品向全行业共享。这种"守己利他"的实践模式,既保障了自身技术产品的安全性,也为千行百业践行负责任创新提供了可复制的解决方案。随着智能体加速渗透至社会生产生活各领域,这种全链条、系统化的安全治理思路正获得越来越多机构的认可与应用。













