AI智能体狂飙突进,安全与治理能否跟上节奏?

   时间:2025-05-06 16:47 来源:天脉网作者:杨凌霄

在AI领域,一款名为Manus的智能体应用近期引发了广泛讨论。该应用凭借其基于第三方大模型的工程化包装技术,实现了通用AI智能体的功能,迅速走红市场。然而,其背后的“套壳”争议也随之而来,业界对其是否真正掌握了底层核心技术持怀疑态度。

大模型应用套壳现象一直是业内关注的微妙话题。此前,无论是DeepSeek还是OpenAI,亦或是众多加入基础大模型竞争的知名科技企业和AI创业公司,都自豪地宣称自家具备基础大模型自研技术能力。相比之下,Manus及其同类应用因缺乏自研技术而备受质疑。

尽管面临争议,但AI智能体市场的潜力仍然巨大。部分大模型大厂已迅速将目光投向了Manus所在的赛道,试图在这一领域分一杯羹。与此同时,Manus背后的公司“蝴蝶效应”也成功获得了由美国风投Benchmark领投的7500万美元融资,估值飙升至近5亿美元。

市场的热烈反响表明,AI智能体正在成为解决企业智能化转型过程中遗留业务需求和技术空白的关键。然而,AI智能体在产品设计、商业化服务以及安全治理等方面仍面临诸多挑战。这些挑战既是新问题,也是老问题,需要业界共同努力解决。

大厂们正加快布局AI智能体市场。据报道,在Manus走红前后,字节跳动已组建了至少5个团队开发不同AI智能体产品。百度也推出了新应用“心响”,宣称对标Manus,涵盖超200个任务类型。与Manus合作密切的阿里巴巴也推出了AI智能体“心流”,并开启了高级研究模式公测。

为了构建AI智能体生态,大厂们纷纷拥抱MCP机制。阿里云、腾讯云、蚂蚁集团等厂商已先后支持MCP协议,通过引入大量生态伙伴推动国内AI智能体产业发展。民生证券指出,基于类MCP协议+Agentic-based决策路径将成为未来AI智能体的主流范式。

然而,在AI智能体技术快速发展的同时,业界也开始关注其是否真正迎合了当下用户的需求。特别是在安全风险性层面,AI智能体的自主决策和执行能力带来了更高的风险。鉴于其设计初衷是在无人监督的情况下自主执行任务,因此必须密切关注其使用情境以降低风险。

Gartner研究高级总监赵宇指出,目前AI智能体技术仍处于发展初期,无论是攻击还是防御方面都缺乏足够的案例。同时,大部分客户对AI智能体的认知相对不足,至少七成或更多客户不了解其是什么,更不清楚相关的安全风险。因此,业界需要放慢AI智能体的步伐,加强安全治理和风险控制等能力的建设。

随着多智能体协作运行模式的流行,访问控制漏洞、资源竞争和冲突等问题也日益凸显。传统的安全工具将很难进行监控和异常行为检测,导致风险级别与安全管理的复杂度急剧上升。

在正确认识AI智能体方面,业内已经开始关注其原理、成本及风险性等诸多关键因素。尽管围绕AI智能体延伸而出的新名词如Agentic AI、Agentic Workflow、MCP、A2A等成为热门话题,但业界更需要关注其在实际应用场景中的表现。

特别是在自动驾驶等领域,AI智能体需要适应复杂的工作流程和环境变化。因此,在应用和实践AI智能体之前,需要对其进行深入的解构和分析,以确保其能够在动态环境和业务流程中以最佳方式实现预期结果。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报