大模型可靠性破局,蚂蚁密算韦韬:新杀手级应用或将涌现

   时间:2025-07-27 21:48 来源:天脉网作者:杨凌霄

近期,上海迎来了2025年世界人工智能大会(WAIC)的盛大召开,此次大会从7月26日持续至28日,吸引了业界的广泛关注。其中,大模型在专业领域的应用成为了讨论的热点话题。

在WAIC的一个专题论坛上,蚂蚁集团副总裁韦韬发表了关于“从通用智力到专业生产力:高阶程序引领的AI应用新范式”的主题演讲。他提到,大模型作为通用智能的重要里程碑,已展现出强大的泛化适应和归纳内化知识能力,在聊天、编程、客服、翻译等多个领域均取得了显著进展。然而,韦韬也坦诚地指出,大模型在可靠性方面仍面临严峻挑战,处理任务时可能会出现错误,尤其是在任务规模和复杂度增加时,出错概率会急剧上升。

对于专业领域而言,大模型的可靠性至关重要。韦韬强调,要实现大模型在专业化应用中的可靠性,不能单纯依赖大模型本身不犯错,而是需要通过智能体系和工程体系的结合来保障。他类比了人类在工程体系上的进步,指出尽管个体容易犯错,但人类能够构建庞大而可靠的工程体系来完成巨型任务。同样地,通过全新的程序表达、场景知识嵌入和闭环核验反馈机制,我们可以将大模型的不确定智力输出转化为可信的专业生产力。

为此,蚂蚁密算正在探索高阶程序(High-Order Program)大模型可信应用技术框架。该框架的核心组件包括业务逻辑的程序化表达、场景知识图谱和受控工具链,并在全流程中贯穿核验机制,以确保关键执行结果的及时、有效核验和处理。韦韬解释,这一框架借鉴了人类在工程管理体系中的成功经验,通过构建能够有效复用、验证、扩展和派生的机制,即使大模型在应用过程中出现幻觉问题,也能保证达到专业领域所需的精确性和可靠性。

高阶程序(HOP)结合了编程语言的精确性、可扩展性与自然语言的知识语义与语境适配等优势,承载了专业领域的关键知识和实践。通过任务细化拆解与核验,HOP能够确保大模型在专业应用中的可靠性,并通过知识概念匹配实现从专业知识到场景应用的派生适配。目前,这一技术框架已在金融风控、网络入侵检测、医疗重复计费等多个行业场景中初步应用,显著提升了可靠性和时效性。

以金融联合风控为例,传统金融风控体系高度依赖人工干预,导致流程冗长、响应缓慢,且易受人员主观因素影响。在应用HOP技术框架后,复杂的标准作业程序(SOP)被转化为可执行的流程和代码,实现了风控全链路的智能化编排与自动化执行。这不仅缩短了建模周期,还显著减少了重复性数据处理和流程执行等基础工作,降低了处理成本,缓解了专业人才紧缺的局面。

韦韬表示,高阶程序与大模型具有强互补性,能够将大模型这样的通用智力引擎可靠地应用于众多专业场景。他强调,解决大模型可靠性的关键在于工程化和智能化的融合。蚂蚁密算开源HOP,旨在与行业共同推动大模型从人类助手向规模化专业生产力转变。韦韬相信,一旦解决了可靠性问题,大模型将迎来新的杀手级应用。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报