Anthropic 研发 FlashProve 系统验证 AI 模型身份

11 月 4 日，据 TechCrunch 报道，Anthropic 正在研发开源系统 FlashProve，旨在通过密码学证明验证一段 AI 输出是否来自指定模型。

该系统要求模型提供商公布模型“指纹”，供用户与输出进行匹配和验证，且指纹不会泄露模型权重。研究人员表示，这可用于防止服务商暗中替换模型，也可验证第三方关于使用特定模型的说法。

研究人员已公开技术规范及部分系统代码，但研究仍在进行，目前没有在 Anthropic 或其他实验室部署该系统的计划。