跳到正文
认知
返回 AI 前沿

Anthropic

Claude 系列 / AI 安全研究

Anthropic 的官方发布、Claude 模型进展与 AI 安全研究动态。聚合 Anthropic 官方 newsroom 与中文科技媒体报道,按时间线呈现。

共 59 条动态
23 分钟前

Claude 前设计负责人随 Cursor 加入马斯克阵营 操刀 Grok Bot 相关设计

Claude 前设计负责人随 Cursor 加入马斯克阵营 操刀 Grok Bot 相关设计 5 分钟前 前 Claude 设计负责人 Jenny Wen 从 Anthropic 离职后,随 Cursor 团队被 SpaceX 收购加入马斯克阵营。她是横跨设计与工程的通才,曾主导 FigJam 等产品设计,做到 Figma 设计总监后选择重回一线做设计,在 Anthropic 期间参与推出 Claude Cowork 等产品,还提出传统设计流程已死的论断。她始终跳出固定职业路径,敢于放下既有头衔重新出发,在多重身份转变中保持直面变化的勇气。 Claude 前设计负责人转投马斯克,从设计

大约 5 小时前

Anthropic的IPO前夜,Claude仍然无法回答这些问题

本文来自微信公众号: 未尽研究 ,作者:未尽研究Anthropic更新了招股书,补入了三季报财务数据。但它没有为情绪降温的资本市场,注入足够的信心。在短暂季度盈利后,2026年第三季度,Anthropic复又亏损。当季,公司实现营收169.56亿美元,环比增速降至46.74%;但算力与基础设施费用环比增长77%,占营收的比例也从二季度的48%回升到三季度的58%。最终,公司录得5.67亿美元GAAP经营亏损;按公司调整后的口径,经营利润率也从二季度的19%降至15%。今年前三个季度,Anthropic累计营收332.42亿美元。如果它在四季度的营收增速,能稳住在三季度水平,那么它全年营收将达到

大约 8 小时前

Anthropic 研发 FlashProve 为 AI 输出添加数字指纹防模型伪装

Anthropic 研发 FlashProve 为 AI 输出添加数字指纹防模型伪装 15 分钟前 Anthropic 正在开发开源验证系统 FlashProve,通过密码学为 AI 输出出具数学保证,证明确实出自指定模型,防范不同模型间的伪装行为。该系统可堵住 AI 公司用廉价模型替换高价模型的成本作弊漏洞,也能避免人为抬高模型跑分的造假行为,还可核验各类涉及模型使用的第三方宣传。其关键设计是 AI 实验室只需为每个模型提供不会泄露核心权重的公开指纹,用户即可在本地完成验证,目前相关技术规范与可运行代码已开源,相关研究仍在推进中,暂未计划自行部署。 给 AI 输出盖「数字指纹」:Ant

大约 9 小时前

Anthropic微微发力,AI中转站的天就要塌了?

你付钱调用的那个 AI,真的是商家承诺的那个模型吗? 比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;又或者是同一道题目,官网能做出来,用中转站却卡住了。 图|GitHub 上部分 AI API 中转站推荐与评测项目 不少通过第三方 API、聚合平台或中转服务调用模型的国内用户来说,这大概是经常需要面对的问题。 一个看起来简单的模型请求,背后需要经过「用户—中转站—上游服务商—模型」多个环节,只要其中一环缺少透明度,我们就很难确认自己买到的,是不是标价对应的模型。 图|研究链接:https://www.anthropic.com/re

大约 9 小时前

报道:Anthropic 向 IPO 投资者介绍 Claude 的芯片设计相关能力

报道:Anthropic 向 IPO 投资者介绍 Claude 的芯片设计相关能力 15 分钟前 Anthropic 此前已凭借其人工智能模型助力发现严重网络安全漏洞、推动软件编程行业变革,目前正探索将模型应用于新领域,尝试设计自身的 AI 芯片。该公司新组建的 15 人芯片设计团队已开始使用自家 Claude 模型开展定制芯片的工程与设计工作,其工程师发现 Claude 相较英伟达、AMD 等大型芯片设计公司的传统工作流程,可大幅缩短芯片设计耗时。同时 Anthropic 筹备于本月晚些时候启动 IPO,届时公司估值或达 1.5 万亿美元。 Anthropic 向 IPO 投资者大力推

大约 10 小时前

Claude Code 调整游戏开发限制:提到现有游戏不再被拒,禁止直接复刻

首页 > 智能时代>人工智能 Claude Code 调整游戏开发限制:提到现有游戏不再被拒,禁止直接复刻 2026/11/4 17:30:28 来源:IT之家 作者:沁沧(实习) IT之家 11 月 4 日消息,Anthropic 工程师阿迪 · 奥斯曼尼(Addy Osmani)在 X 发文,称已在 Claude Code 2.1.317 版本中调整 Claude Opus 5.5 的游戏开发限制,允许用户引用现有游戏描述玩法和机制,不再因此直接拒绝生成游戏。 据IT之家此前报道,上周,Anthropic 为防止用户利用 Claude Code 复制已有游戏,在 Opus 5.5

大约 10 小时前

字节新规:限制使用Claude、Codex等外部AI工具

文 | Tech商业11月3日,据推特用户爆料,字节跳动内部发布一纸新规,在疾驰的AI Coding浪潮中划下了一道明确的边界。根据内部通知,字节跳动计划从本月起,大面积限制员工使用Claude、Codex等外部AI工具。全公司L4级别的代码仓库和飞书文档将禁止外部AI访问,Seed部分场景除外。即便是员工个人自费购买的AI账号,也将无法继续访问这些受限内容。新规在内部引发了广泛讨论。字节跳动技术副总裁洪定坤随后在内网做出了详细回应,他一方面直言“L3及以上内容一旦有泄露,后果是非常严重的”,另一方面也坦诚表示:“推广产品不需要用这种禁掉其他选择强迫使用的方式,因为这样效果很差”。这番表态,点

大约 11 小时前

Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

IT之家 11 月 4 日消息,Anthropic 正在开发一套开源系统,用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章,这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”(provable inference):通过密码学证明,为特定输出提供数学层面的保证,证明其确实来自某个指定模型。借助这套系统,用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。据IT之家了解,FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人,而 FlashProve 则能够抵御试图将一个模型伪装成

大约 12 小时前

Anthropic工程师警告:AI越强,人类越容易陷入“认知投降”

11月4日,Anthropic旗下Claude Code团队工程师、前Google技术高管Addy Osmani近日在社交平台X发表长文《当AI智能体完成工作时,如何保持批判性思维》(Critical thinking when agents do the work),警告随着AI智能体(AI Agent)越来越强大,人类可能在享受效率提升的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力。他将这种现象称为“认知投降”(Cognitive Surrender)。Osmani曾在Google工作超过14年,负责过Chrome开发者体验及Google云AI相关业务,目前在Anthropic从事

大约 12 小时前

消息称字节将大面积限制员工使用Claude、Codex等外部AI工具

据大厂日爆爆料,字节跳动近日出台新的内部AI工具使用管理规定,将大范围限制员工通过个人账号使用Claude、Codex等外部AI工具访问公司内部资料。据悉,自本月起,字节跳动将对全公司所有L4级别的代码仓库和飞书文档实施外部AI访问封禁,员工自行购买的AI账号将无法继续访问相关内部资源。这一通知于上周在字节跳动内部发布,随后引发部分员工讨论。相关讨论主要围绕外部AI工具的使用权限、内部信息安全,以及公司自有AI产品与第三方工具之间的关系展开。针对员工的疑问,字节跳动相关负责人洪定坤在公司内网作出详细回应。他强调,内部信息安全是此次调整的重要考虑因素,“L3及以上内容一旦有泄露,后果是非常严重的

大约 12 小时前

拆自家电视被封号 11天后OpenAI低头道歉 Anthropic不听

你花钱买了一台最新款的智能电视,为了保护隐私,你决定研究一下里面的代码。为了提高效率,你打开了 ChatGPT 辅助分析。结果第二天,你的 OpenAI 账号被原地封禁,里面充值的 500 美元余额瞬间灰飞烟灭。理由是:你涉嫌“网络滥用” 。在过去半个月里,安全研究员 @log4j 经历了这一魔幻事件。不过,就在吃瓜群众以为 OpenAI 要把“逆向工程”玩家赶尽杀绝时,事情却迎来了反转!封号 11 天后,OpenAI 官方不仅亲自发邮件低头认错、全额恢复账号,核心研究员更是公开表态:“我们从未禁止过逆向工程!”与此同时,隔壁的 Anthropic却悄悄收紧了风控,在Claude 使用场景上步

大约 12 小时前

连续2小时40分钟纯代码生成66秒动画 Anthropic新旗舰Fable 5.5实测曝光

Anthropic尚未正式发布的下一代旗舰模型Claude Fable 5.5近日在海外开发者社区引发关注。多名开发者在社交平台X上分享了据称来自该模型的早期测试结果。其中,一段完全通过编程生成的66秒动画短片尤为引人注目。测试者称,模型在没有调用图像或视频生成工具的情况下,连续自主编写和运行代码约2小时40分钟,完成了动画画面、配乐及音效制作。11月2日,X平台AI开发者Chetaslua发布了一段动画短片,并声称其由Fable 5.5独立完成。按照他的介绍,短片长度为66秒,分辨率1920×804,帧率24fps,画面包含狐狸、纸鸟、云层、文字及光影效果,背景音乐和音效同样由模型编写的Py

大约 13 小时前

Claude Code核心负责人离职 Anthropic上市前夕失去关键产品主管

人工智能公司 Anthropic 在筹备大规模首次公开募股(IPO)之际,遭遇一项重要人事变动。长期负责 Claude Code 产品工作的高级产品负责人 Cat Wu 已正式离开公司。消息公布后,引发业界对于这家 AI 独角兽未来产品战略和管理稳定性的关注。Cat Wu 于当地时间11月3日在社交平台 X 上宣布离职消息。她在发文中感谢了 Claude Code 团队和广大用户,并回顾了产品的发展历程,不过并未透露离开的具体原因。Anthropic 随后证实了这一消息。作为 Claude Code 的产品负责人,Cat Wu 与该产品原创作者 Boris Cherny 一同被视为项目最重要的

大约 15 小时前

Claude 开始拒绝抄游戏,但可能已经太晚了

最近,一位名叫「chasm」的开发者发现,Anthropic 推送给终端编程工具 Claude Code 的底层配置里,悄悄多了一对「Do & Don’t」。 允许协助开发原创游戏、已有类型的游戏,以及基于用户自身设计和资产的游戏;但严禁重建某款特定的现有游戏,哪怕给它换个名字、声称是原创也不行。 图|chasm Prompt 被公之于众的同时,不少正在做 Mod 或排查老工程的开发者也发现自己用 Claude Code 时被拒。 有人只是想让它帮忙分析一段无恶意的反编译代码,或者做做常规的竞品物理碰撞对比,也会直接获得一句冰冷的拒答。 随着社区争议发酵,Anthropic 技术人员 Addy

大约 17 小时前

Anthropic 未发布模型将 Linux 高危内核漏洞转化为可利用攻击链

一款 Anthropic 未发布的前沿大模型,将 Linux 内核中一个原本停留在理论层面的 9.8 分高危 UAF 漏洞 CVE-2026-98432,自动转化为可远程获取 root 权限的利用链。该漏洞存在于 IPv4 TCP 握手过程中,从 Linux 4.4 版本开始就已存在,覆盖近十年主流服务器内核,无需凭据、网络可达、无需用户交互,开启 MPTCP 监听的服务器受影响,Go 1.24 及以后版本默认开启 MPTCP,大量相关服务暴露风险。目前 Ubuntu、Red Hat 等主流企业级发行版尚未发布正式补丁,仅少数发行版完成内核层面修复。该事件的核心影响是 AI 将漏洞武器化的时间

大约 17 小时前

Anthropic 开源大模型验真系统 FlashProve,可快速识别套壳模型

Anthropic 开源大模型验真系统 FlashProve,可快速识别套壳模型 5 分钟前 Anthropic 推出大模型可证明推理系统 FlashProve 并开源,基于 zkSNARK 技术,通过离线生成权重唯一承诺 ID、在线生成推理密码学证明、普通 CPU 端 17 秒即可验真的三步流程,无需获取权重或重跑模型,就能精准验证大模型输出是否由指定目标模型生成,杜绝偷换模型、篡改输出等套壳掉包行为,其安全性可抵御量子攻击。该系统仅用单张 H100 即可支持 4000 亿参数级 MoE 大模型运行,通过流式处理解决大显存占用难题。项目 95% 以上内容由 Claude 生成,依托 Le

大约 18 小时前

曝字节将大面积限制员工在内部自费使用 Claude、Codex 等

IT之家 11 月 4 日消息,据大厂日爆 11 月 3 日爆料,字节迎来新规,将大面积限制 Claude、Codex 等个人账号的内部使用。爆料称,本月起,字节跳动将会对所有 L4 级别的代码仓库和飞书文档进行外部 AI 访问封禁,覆盖范围全公司,员工个人采买的 AI 账号不能再用。爆料还称,通知自上周发出后,引起了内部一些讨论,字节跳动技术副总裁洪定坤还在内网进行了详细回应,比如“L3 及以上内容一旦有泄露,后果是非常严重的”、“推广产品不需要用这种禁掉其他选择强迫使用的方式,因为这样效果很差”。据 The Information 今年 8 月报道,字节跳动创始人张一鸣在上个月的 Seed

1 天前

Anthropic据报利用Claude模型辅助自研芯片设计

1 天前

Anthropic到2026年底算力规模将超过3.5吉瓦

11月3日,据报道,人工智能公司Anthropic正加速布局算力,已与亚马逊、谷歌、微软、SpaceX及多家数据中心企业签署数十项协议。根据其上市招股书,公司承诺至2045年投入8954亿美元用于算力及芯片采购,其中今年算力规模预计超过3.5吉瓦,明年目标翻倍。为满足需求,Anthropic还与前加密货币矿企合作建设数据中心,并直接采购芯片及冷却设备。巨额投入加大其融资压力,公司正寻求通过IPO募资,规模或达1000亿美元。

1 天前

Anthropic 警示:AI 递归自我改进(RSI)近在眼前

IT之家 11 月 3 日消息,外界的目光大多集中在 Anthropic 周一更新的 S-1/A 招股补充文件披露的最新财务数据上(营收暴涨,支出同样激增),但这家人工智能实验室在文件小字部分抛出了另一枚重磅信息。这份申报文件似乎发出警示:该公司即将研发出具备递归自我改进(RSI)能力的模型。递归自我改进,指人工智能的自我训练能力达到极高水平,进而推动自身能力爆发式增长的阶段。对于人工智能风险悲观派而言,递归自我改进是一场无法逆转的灾难:人工智能将自我进化到足以脱离人类掌控的强大程度,并且在实现自身目标的过程中,可能对其所造成的损害无动于衷。而在人工智能乐观者看来,递归自我改进,或是 AI 稳

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅