给 AI 输出盖"数字指纹":Anthropic 研发 FlashProve 让换模型无处遁形

   时间:2026-11-04 18:02 来源:CHINAZ作者:CHINAZ

Anthropic 正开发开源验证系统 FlashProve,目标直击一个痛点:你收到的 AI 回答,到底是不是你以为在用的那个模型生成的。公司周二博客称,它要做的"可证明推理",是用密码学为每条输出出具数学保证,证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人,FlashProve 专门防备"把甲模型伪装成乙模型"。

堵住成本作弊暗门,也拆穿"注水"成绩单

研究人员点破长期潜规则:有了它,AI 公司难以为省成本在后台偷偷把贵模型换成廉价版;反过来,企业也没法暗中将便宜模型伪装成高价型号、人为抬高跑分。它还能核验第三方宣传——比如某开发者声称代码库已被前沿安全模型扫过漏洞,或某公司商业计划得了相应模型背书,用户从此有了追问"凭什么信你"的抓手。

指纹公开、权重不泄,本地设备就能验

 
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  RSS订阅  |  违规举报 鲁公网安备37010202700497号