Anthropic 提出可验证 AI 输出来源模型的 FlashProve 方案

Anthropic 提出可验证 AI 输出来源模型的 FlashProve 方案

核心结论

Anthropic 近日公布了 FlashProve 的开放源代码研究方案,用于以加密方式验证某段输出是否确实来自指定 AI 模型。该系统目前仍处于研究阶段,Anthropic 或其他实验室都没有部署计划,因此不能被表述为已经上线的 AI 搜索、SEO 或广告营销功能。

同一时期的一项独立购物测试则显示,AI 搜索和代理式购物中的商品选择可能因模型而变化。测试者把同一批 Shopify 商品和相同请求分别交给 Claude Haiku 4.5、Sonnet 5 与 Opus 5;在六个只包含搜索词的商品搜索中,三个模型最常选择的商品没有一次相同。这个结果对搜索可见度和 AI 营销的直接启示是,商品被目录返回并不等于会被模型推荐。

FlashProve 能验证什么以及不能证明什么

FlashProve 的目标是为模型输出提供一种可验证的“可证明推理”结果,类似收件人用加密邮件签名确认发件人。研究人员称,它可以帮助用户判断答案是否来自其认为正在使用的模型,也可用于识别模型被暗中替换的情况,例如为了降低成本改用更便宜的模型,或为了夸大表现改用更昂贵的模型。

方案要求 AI 实验室为发布的模型公开指纹,再把指纹与具体输出匹配并进行加密验证。指纹不会暴露模型权重,因此理论上也可适用于商业闭源模型;验证设计为较轻量,可在本地设备完成。Anthropic 同时发布了技术规格和部分可运行代码,但研究人员明确表示这是中间进展,而不是完成的研究议程。

Claude 商品测试揭示的 AI 搜索可见度变量

Search Engine Journal 的测试从 Shopify 目录取得商品列表,再让三个 Claude 模型在没有工具、没有网络访问和没有额外购物偏好的条件下做选择。六个商品搜索共进行了 900 次选择;另有防晒、护肤及排序位置测试,总计 1,980 次。测试不是对真实消费者转化率的研究,也不能代表所有 AI 搜索或购物代理。

在六个商品搜索中,Haiku、Sonnet 和 Opus 各自最常选中的商品从未完全一致。三种模型在部分搜索中还会选择不同商家的商品。测试者也发现,模型看到的商品信息会影响理由和选择:Haiku 与 Sonnet 在多个搜索中偏向评论数最多的商品,Opus 则经常把自己的选择称为“安全”或“最安全”的默认选项。

列表位置也可能改变结果。八个护肤搜索把同一组 20 个商品按原顺序和倒序展示;当目录排名第一的商品被移到末尾时,三个模型选择它的次数总体下降,但影响在不同搜索中并不一致。加入“低于 25 美元、适合油性皮肤”等明确条件后,三个模型都不再选择原本排名第一、价格 48 美元的防晒产品,并在 300 次选择中的 298 次选了 25 美元以下的商品。

方法与局限

读者核查 FlashProve 时,应区分公开研究代码、技术规格和实际部署:现有材料只支持前两者,不支持 Anthropic 已将其用于产品、AI 搜索或广告平台。核查购物测试时,应关注其输入范围、模型版本、运行次数和目录快照;测试只让模型读取商品名称、商店、价格、评分、评论数、目录摘要及前三项特征,不能据此断言真实代理会以相同方式排序或带来同样的销售结果。

对 SEO、搜索可见度和 AI 营销团队而言,公开证据支持的范围更有限:同一商品列表在不同模型下可能产生不同推荐,且价格、用户条件、评论信息和列表顺序都可能影响选择。但 FlashProve 尚未上线,购物测试也没有证明某一优化方法能稳定提高商品被 AI 推荐的概率。

参考资料

相关文章

WhatsAppAnthropic 提出可验证 AI 输出来源模型的 FlashProve 方案 – Geolix.ai | 让每一个品牌都能被 AI 看见