单一来源
当前只有一个可用来源,尚未完成多源交叉核验国内三大顶尖大模型负责人乌镇同台对话:开源后如何防范风险
11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇开幕。此次峰会的主题是“开源开放 共建共享——携手构建网络空间命运共同体”,聚焦人工智能的开源开放。这也是世界互联网大会第一次把“开源”置于主题位置。
围绕上述主题,当天下午举行的主论坛专门开设了“人工智能乌镇对话”环节。在世界互联网大会人工智能专业委员会首席主任委员、中国工程院院士、之江实验室主任王坚的主持下,国内三大顶尖开源大模型企业——DeepSeek(深度求索)、阿里千问和MiniMax(稀宇科技)的相关负责人针对开源大模型的热点问题展开交流。
“人工智能乌镇对话”现场。澎湃新闻记者 徐益平 图国内大模型企业为何纷纷选择开源过去一年,中国科技企业继续加大模型开源和生态开放的力度,开源模型下载量、衍生模型数等关键指标保持领先,成为当前全球开源智能的引领者。
在全球模型聚合平台OpenRouter最新一周AI大模型调用量周榜(10月19日至25日)上,排名第一和第二的均是DeepSeek两个版本的模型,第三名归属MiniMax的模型。中国的大模型企业为何纷纷选择开源?
“很多人问,DeepSeek为什么要把辛辛苦苦研究而出的成果开源出来?其实答案很简单,就是为了实现AGI(通用人工智能)。”DeepSeek研究工程师高熙说。据了解,今年以来,为推进AGI,DeepSeek动作频频,比如最近,其将多个团队整合成“产品部”,负责公司所有的产品、设计和研发工作。
“AI的发展一年比一年快,对大模型企业来说,在人工智能竞赛中,对手不是其他公司,而是时间。”高熙表示,在模型研发过程中,通过构建一些技术壁垒阻拦竞争对手,短时间确实可以挡住对手的追赶,但放宽时间视野看,却阻挡不了AGI的到来,“所以为了AGI更快到来,开源是必然的选择,吸引更多有能力、有资源、有追求的同行一起参与创新,在我们的基础上做出更好的技术突破和更好的模型”。
对高熙的观点,阿里巴巴千问大语言模型项目负责人刘大一恒也有同感,表示“千问也是AGI路上的追光者”。刘大一恒提到,3年前,阿里千问开源了第一代模型,自此以后,又陆续开源了460多款模型,全球累计下载量突破40亿次,衍生模型超过33万个。
他认为,开源有两大重要意义,一是加速了AI的创新,二是实现了AI的普惠。“如果没有开源,大模型的核心技术只掌握在少数企业手里,而开源能让全球的开发者贡献技术、共同创新,实现去中心化或者分布式创新,改变了整个AI创新的范式。
”他说,开源开放不仅仅是开放了模型的使用权,也是开放了全球每一个人参与创造AI的权利。“对处在人工智能赛道的公司来说,其实都非常希望通过开源,给行业、给社会贡献差异化的价值。”MiniMax首席架构师、开放平台负责人冯雯表示,以MiniMax为例,除了开源不同模态的模型,还会从工程实践角度分享研发过程中的经验,包括遇到的问题、开展的实验、相关数据,以及对工具所做的改造等。
开源后如何防范安全风险?随着开源模型能力越来越强、覆盖用户越来越广,其风险及安全治理问题也成为无法回避的挑战。刘大一恒表示,相比闭源模型,开源模型存在两个特殊的安全短板。第一是不可撤回性,模型一旦开源就会被大量传播,如果模型有问题,无法像闭源模型可以随时修复。
第二是开源模型没有外生的护栏,安全很依赖模型本身的内置安全能力,而第三方开发者可以去使用模型,也可以去找方法绕开它的安全护栏,让它变得不够安全。他认为,仅仅靠对模型做限制,很难从根本上解决治理问题,还需更多的法律法规、行业规范和配套基础设施共同发力,防范安全风险。
“但从另一方来说,开源对安全也是有帮助的。”刘大一恒说,因为开源模型更“白盒化”,会有更多学者基于开源模型研究模型安全。同时,当模型的网络攻击能力越来越强大,开源模型的防御能力也可能越来越强大,在很多场景下可以通过部署开源模型去增加防御能力。
“两三年前我们会认为一个1.5B这种很小规模尺寸的模型做不了什么事情,但在新的后训练技术面前,它可以去解锁这个模型的能力。”刘大一恒举例,“我们现在对这些模型能力的判断有可能是低估的。
”“所以,开源和安全不是简单的对立关系,治理才是那个需要被认真对待的变量。”他说。冯雯认为,把大模型用到具体行业或者落地过程中,会发现开源的模型反倒是更自主可控的选择,“因为大家会基于更白盒和更开源的模型,做一些后训练或者微调等私有化部署,把这个开源模型变成自有模型”。
“因此,当模型开源之后,全球大量使用者都会结合自身企业、行业的场景,共同思考如何安全落地,包括私有化部署、上下游企业协同等层面。”她说。高熙则表示,做开源,确实有可能会放大人工智能导致的安全风险,“所以对DeepSeek来说,有责任去避免安全问题被扩大”。他透露,目前,DeepSeek正致力于研究解决这些问题。
Evidence
来源与证据
当前仅有一个可用来源,尚未完成多源交叉核验。
- 发布时间
- 内容处理
- AI 翻译 / 摘要,需结合原文核对
相关资讯
百度发布 Apollo World 世界模型,助力无人驾驶规模化落地
百度发布 Apollo World 世界模型,助力无人驾驶规模化落地 4 小时前 百度 Apollo 在相关专场上首次披露面向物理 AI 的智能体驱动全模态世界模型 Apollo World,提出世界模型「2 + 3」判断标准,该模型已用于萝卜快跑全球化测试与验证,助力无人驾驶规模化落地。Apollo World 将虚拟场景内所有交通参与者建模为具备决策与交互能力的 AI 智能体,支持无人车在虚拟城市任意起终点通行,其技术栈还可拓展至机器人等更广泛的物理 AI 场景,虚拟路测效率极高,依托真实运营数据形成真实运营与虚拟验证相互促进的闭环,可帮助消化测试成本与部署风险,破解无人驾驶规模化的「
DeepSeek发布创作者模式,下一代大模型计划基于华为昇腾芯片预训练
“你的Harness,由你定义。”(Your Harness. You Define It)在发布智能体更新后,DeepSeek再次更新Creator Mode(创作者模式)。11月2日,澎湃新闻记者获悉,DeepSeek Harness发布Creator Mode(创作者模式)演示视频,集中展示通过对话创建插件的能力,并公开七组演示的中英文提示词。据DeepSeek在推送中介绍:“来认识DeepSeek Harness中的‘创造模式’,把想法转化为你能直接使用的插件:可以是设计工作台、沙盒游戏,或是一个3D大模型可视化工具,你会创造出什么?”所谓Harness,是指围绕大语言模型构建的一套软
63岁苏州科技大学特聘教授陈建平逝世,主要从事机器学习等领域研究
据苏州科技大学建筑与城市规划学院消息,该学院教师、校特聘教授陈建平同志因病医治无效,于2026年10月28日不幸逝世,享年63岁。公开资料显示,陈建平系苏州科技大学特聘教授、博士生导师,还担任江苏省外国专家工作室领衔专家、江苏省建筑智慧节能重点实验室学术委员会主任、江苏省建筑碳中和技术工程研究中心技术委员会主任、苏州市移动网络技术与应用重点实验室主任、未来技术研究院(筹)院长等职。他主要从事机器学习、大数据分析与应用、智慧城市及数字建筑技术领域的研究工作,主持国家重点研发计划课题、国家自然科学基金、江苏省重点科技计划、江苏省高校自然科学研究重大平台等科研项目。据苏州科技大学建筑与城市规划学院官
让 Code Agent 从自己的错误中进化:ReTerm 探索失败驱动的 RSI
针对 Code Agent 在复杂终端任务中易陷入错误后无效操作、难以从失败中学习的问题,相关研究者提出 ReTerm 框架,探索由自身错误驱动的递归自我改进路径。该方法先构建万级规模的恢复示范数据集完成冷启动,让模型从自身产生的失败现场学习恢复操作,再通过 ReTerm-GRPO 让智能体自主尝试修复自身错误,将修复成败转化为强化学习信号更新参数,形成「产生失败-尝试恢复-迭代优化」的闭环。实验显示,9B 参数的 ReTerm 模型在终端操作、软件工程等多个评测上相比基础模型均取得 13 个百分点以上的提升,收益可迁移到不同运行框架,还能泛化到数学推理、表格操作等其他任务领域,多类错误的恢复
AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。