跳到正文
认知
返回AI 简报
AI 简报科技大约 12 小时前2
待确认单一来源且措辞模糊(如「据悉」「知情人士」),尚无一手证据佐证

Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

IT之家 11 月 4 日消息,Anthropic 正在开发一套开源系统,用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章,这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”(provable inference):通过密码学证明,为特定输出提供数学层面的保证,证明其确实来自某个指定模型。

借助这套系统,用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。据IT之家了解,FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人,而 FlashProve 则能够抵御试图将一个模型伪装成另一个模型的行为,即使实施伪装的正是开发并运行该模型的 AI 公司,也难以绕过验证。

研究人员特别指出,这套系统有望防止 AI 公司为了削减成本而暗中换用更便宜的模型,也可以避免企业偷偷换用更昂贵的模型,以人为抬高性能测试结果。FlashProve 还可以用于验证第三方关于某项任务由先进模型完成的声明。

研究人员写道:“开发者可能声称,他们的软件库已经由某个前沿网络安全模型扫描过漏洞;一家企业也可能声称,其商业计划已经获得了适当模型的认可。用户该如何验证这些说法?”为了实现这一目标,AI 实验室需要为发布的每个模型提供一个“指纹”,之后便可以将其与特定输出进行匹配,并通过密码学方式验证其来源。

关键在于,这些指纹不会泄露模型权重,也就是决定模型行为的内部参数。Anthropic、OpenAI 等闭源模型开发商通常会将这些参数作为商业机密加以保护。因此,AI 实验室可以公开模型指纹,而无需放弃最有价值的资产,这也意味着 FlashProve 同样能够适用于商业闭源模型。

此外,该系统在设计上力求轻量化,用户可以直接在本地设备上完成验证。作为此次发布的一部分,Anthropic 研究人员公布了详细的技术规范,以及系统各个组成部分的可运行代码。这些代码已在 GitHub 上以开源许可证公开。

目前,FlashProve 相关研究仍在进行中,Anthropic 尚未计划在自家或其他 AI 实验室部署这套系统。研究人员在公告中解释称:“这篇研究文章旨在分享阶段性进展,而不是展示一项已经完成的研究计划。

我们之所以公开这些成果,明确目的就是希望其他人能够审视我们的工作,在此基础上加以利用并进一步改进。”

Evidence

来源与证据

待确认 · 1 个信源

报道含未确认信息或模糊归因,尚缺少一手证据支持。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们
科技

百度发布 Apollo World 世界模型,助力无人驾驶规模化落地

百度发布 Apollo World 世界模型,助力无人驾驶规模化落地 4 小时前 百度 Apollo 在相关专场上首次披露面向物理 AI 的智能体驱动全模态世界模型 Apollo World,提出世界模型「2 + 3」判断标准,该模型已用于萝卜快跑全球化测试与验证,助力无人驾驶规模化落地。Apollo World 将虚拟场景内所有交通参与者建模为具备决策与交互能力的 AI 智能体,支持无人车在虚拟城市任意起终点通行,其技术栈还可拓展至机器人等更广泛的物理 AI 场景,虚拟路测效率极高,依托真实运营数据形成真实运营与虚拟验证相互促进的闭环,可帮助消化测试成本与部署风险,破解无人驾驶规模化的「

488单一来源
科技

DeepSeek发布创作者模式,下一代大模型计划基于华为昇腾芯片预训练

“你的Harness,由你定义。”(Your Harness. You Define It)在发布智能体更新后,DeepSeek再次更新Creator Mode(创作者模式)。11月2日,澎湃新闻记者获悉,DeepSeek Harness发布Creator Mode(创作者模式)演示视频,集中展示通过对话创建插件的能力,并公开七组演示的中英文提示词。据DeepSeek在推送中介绍:“来认识DeepSeek Harness中的‘创造模式’,把想法转化为你能直接使用的插件:可以是设计工作台、沙盒游戏,或是一个3D大模型可视化工具,你会创造出什么?”所谓Harness,是指围绕大语言模型构建的一套软

584单一来源
科技

国内三大顶尖大模型负责人乌镇同台对话:开源后如何防范风险

11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇开幕。此次峰会的主题是“开源开放 共建共享——携手构建网络空间命运共同体”,聚焦人工智能的开源开放。这也是世界互联网大会第一次把“开源”置于主题位置。围绕上述主题,当天下午举行的主论坛专门开设了“人工智能乌镇对话”环节。在世界互联网大会人工智能专业委员会首席主任委员、中国工程院院士、之江实验室主任王坚的主持下,国内三大顶尖开源大模型企业——DeepSeek(深度求索)、阿里千问和MiniMax(稀宇科技)的相关负责人针对开源大模型的热点问题展开交流。“人工智能乌镇对话”现场。澎湃新闻记者 徐益平 图国内大模型企业为何纷纷选择开源过去一年

511单一来源
科技

63岁苏州科技大学特聘教授陈建平逝世,主要从事机器学习等领域研究

据苏州科技大学建筑与城市规划学院消息,该学院教师、校特聘教授陈建平同志因病医治无效,于2026年10月28日不幸逝世,享年63岁。公开资料显示,陈建平系苏州科技大学特聘教授、博士生导师,还担任江苏省外国专家工作室领衔专家、江苏省建筑智慧节能重点实验室学术委员会主任、江苏省建筑碳中和技术工程研究中心技术委员会主任、苏州市移动网络技术与应用重点实验室主任、未来技术研究院(筹)院长等职。他主要从事机器学习、大数据分析与应用、智慧城市及数字建筑技术领域的研究工作,主持国家重点研发计划课题、国家自然科学基金、江苏省重点科技计划、江苏省高校自然科学研究重大平台等科研项目。据苏州科技大学建筑与城市规划学院官

24单一来源

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。