31. 「26Q1」中美大模型差距过去一年变大还是缩小?- Hugging Face | 王铁震
ai-research ai-products strategic
面对中美大模型,王铁震先把问题从单一的排行榜上移开。他曾负责 Hugging Face 在中国的开源生态合作,也做过端侧 AI 应用。他更关心模型在真实工作中能否跑起来、成本是否可以承受。按他的个人使用体验,Claude、Codex 一类美国前沿产品处理复杂任务时仍明显领先;但如果比较的是国产模型是否已经能帮助多数人完成工作、能否让用户愿意持续付费,答案会不同。
主持人对可用的要求更严格。模型不只是回答几轮对话,还要能在长上下文中拆解任务、调用地图或转写等工具,并交付可以检查的结果。对于不会写代码的用户,如果量化策略的数字不对、视频剪辑中某一步断掉,用户无法接手补完,这项能力就还不能投入实际使用。王铁震接受这种高标准,只是提醒它不能覆盖所有人:在国内无法方便使用海外前沿产品的场景里,国产模型只要足以带来工作帮助,也会有真实价值。
前沿体验的差距从哪里来
王铁震把差距归到几项相互关联的条件。第一是训练资源。美国实验室拥有更多算力,因而能以更快节奏训练和发布模型。第二是模型规模。他认为,双方顶级模型的规模仍不在同一量级,不能只拿一个较小的中国模型与美国最大模型直接比较。第三是信息可见性:中国公司公开的模型权重和技术报告,能让外界学习到架构和训练思路;闭源实验室的尝试则较少对外披露。
芯片限制也不是一个单独变量。即使更先进的卡可以购买,公司仍要有足够的估值、融资和收入支撑持续采购。节目中提到,训练是一次性投入,推理成本却随着调用量不断累积;一家公司要扩大训练规模和更新频率,既要买得到卡,也要负担得起。王铁震因此把训练天花板理解为算力、资本与商业化共同形成的约束。
算力与节奏
更充足的训练资源让模型可以更频繁地迭代。
资本与采购
芯片可得不等于企业有能力持续扩大集群。
公开与学习
开源技术报告能外溢经验,闭源探索的细节较难获得。
DeepSeek V4 被看重的工程部分
节目把 DeepSeek V4 的一个优势放在推理成本,而不是只看回答本身。王铁震解释,KV cache 保存的是模型已经计算过的上下文结果。一次对话继续进行时,如果旧结果还在,系统只需计算新增内容,因而减少预填充阶段的计算。它与产品记录用户偏好的长期记忆不同,普通用户未必在界面上看得见,却可能从响应速度和账单中感到差别。
王铁震认为,DeepSeek V4 缩小了 KV cache,使更多缓存可以留在 SSD 中,而不必长期占用更昂贵的内存。缓存保留得更久,后续请求命中旧结果的机会就更高。这是他判断该模型推理价格低、长对话成本更有竞争力的原因之一。节目没有把它说成所有任务都会更快,而是把它作为降低推理开销的一项工程改进。
同样需要耐心处理的是国产卡适配。模型在 NVIDIA 硬件上训练后,换到另一种计算模式,算子实现和数值精度都可能变化。如果同一输入的输出偏差太大,模型就不能交付给用户。王铁震说,适配涉及运行时、框架、应用层,也可能需要针对硬件重新训练、量化和调校。不同企业都在做这类工作;他认为 DeepSeek 的特点在于投入较深,实际把相关硬件用于部署,而不只是展示可以运行。
榜单、任务与数据循环
中国模型在公开榜单上的位置,与一些用户的实际体验之间为何会有落差?王铁震不把问题归为简单的刷榜。他认为,研究团队如果没有充分接触企业和个人的真实任务,就很难知道该优化哪些能力,只能反复围绕已有题目训练。榜单本身并不无用,关键是题目能否反映工作中的难点。
主持人列出过几种他认为更接近现实的任务:为访校清单接入地图和实时展示,处理视频转写、时间戳、语义裁剪与渲染,或者把量化想法整理成可运行的策略。这些任务共同要求模型在长上下文里保持目标,在多步工具调用中不中断,并对结果负责。模型某一环节出错,最终交付物就不能使用。企业合作的价值,在王铁震看来,正是把这类具体需求变成新的评估和训练方向。
这里出现了他对未来的一项推演。模型先跨过可用门槛,用户才会持续使用、付费,并留下真实任务和反馈;提供订阅服务的公司可以据此改善训练与评估,产品又会吸引更多使用。王铁震认为,中国一旦形成这种循环,庞大的本地用户群会带来很强的迭代动力。不过这个过程有条件:开源模型部署在用户自己的环境中时,模型提供方并不会天然拿到运行数据,因此开源下载量本身不等于数据闭环。
开源本地部署
用户掌握数据与部署环境;提供方未必能看到实际任务和反馈。
订阅式服务
在合规与产品设置允许的范围内,提供方更可能从使用中识别常见任务与改进方向。
中国开源模型如何进入海外生态
主持人引用 Hugging Face 春季报告中的一组数据:在该平台过去一年的下载中,中国模型占 41%,美国模型占 36.5%。王铁震随即指出这组数字的统计边界:Hugging Face 在中国大陆无法访问,因此中国大陆的下载没有被计入。它能够说明平台可见范围内,中国模型已获得很大下载量,却不能直接代表中国境内或全球全部使用量。王铁震的判断是,中国模型的总下载量被低估了。
他描述的海外采用也不是一步到位。早期,较小的团队和个人开发者更愿意先按性能、成本和可控性试用;随后,大学研究者把千问等模型视为方便微调的底座,因为模型尺寸选择多、社区教程也多。到第三阶段,一些美国公司在讨论开源模型时,先关注是否好部署,而不再首先关心它来自中国还是美国。这是嘉宾的生态观察,不是完整的市场份额调查,企业合规和政治顾虑仍可能阻碍采购。
节目也借此解释 Hugging Face 的位置。王铁震把它比作模型的集散平台:开源团队可以发布模型,开发者通过统一接口访问、下载或部署;平台上的 Spaces 则让用户直接试用论文对应的演示。对不想下载大模型的人来说,演示把抽象的技术进展变成可以亲手测试的功能。
开源、前沿探索与商业约束
王铁震不认为每家公司都应无限制地开源。他预期,2026 年的重点会更偏向商业可持续性。开源能让技术扩散,也能帮助公司招募研究人员、建立技术品牌、扩大生态,但它不能替代收入。节目提到 Stability 的困境,是为了说明过晚考虑商业化可能反而使继续开源失去资源。依照他的逻辑,能持续赚钱的开源公司,才更可能继续投入公开模型和工具。
这也构成了他对前沿创新的两面判断。一方面,资源较紧、必须尽快产生收入的环境,不利于长期尝试高风险而未必成功的基础研究;这使中国短期内更难拥有美国实验室那样宽松的自由探索空间。另一方面,他把 DeepSeek 的架构探索视为反例:即使资源受限,中国团队也可能发现有价值的技术路径。后发追赶和前沿突破可以同时存在,只是需要不同的资本耐心和组织条件。
模型进入生活后,问题不只在能力
谈到中美差距中较难补齐的一项,王铁震提出更广义的模型安全。他关心模型怎样影响每个人的生活,而不只讨论内容管理。推荐系统提高使用时长是否也会加重沉迷,AI 陪伴会怎样影响青少年心理,代码工具会不会让人因为可以持续生产而延长工作时间,都是节目中被提出的问题。两位嘉宾没有声称已有结论,只认为模型能力和商业使用扩张后,社会不能只问它有没有效用。
他们还比较了形成规范的路径。王铁震的概括是,中国的新产品往往在扩散后更多由政府介入规范,美国则常由学界、产业界和公共讨论推动立法机构回应。主持人补充,社会反馈本身很重要:公众是否把某种伤害说出来,会影响哪些问题得到监管关注。这些判断都是访谈中的观察,而非对两国制度的一般定论。
注意力
提升参与度的产品,也可能改变用户的行为和时间分配。
心理健康
AI 陪伴面向青少年时,影响不能只以使用量衡量。
工作边界
更快的生产工具可能同时带来更高的自我要求。
从代码工具到人人可用的自动化
两人并未把下一轮应用局限在程序员。王铁震希望 AI 更直接帮助办公室人员制作演示文稿、设计和文档。主持人自己已用 HTML 生成页面再导出为演示稿,因此强调非技术用户关心的是能否得到成品,而不是中间用了什么代码。把产品明确标为代码工具,反而可能让很多人不去尝试一个本可通过对话完成的自动化流程。
Hugging Face 生态中也出现了另一条技术线索:让模型给定目标后,自己尝试改进训练方法。节目提到 Auto Research 作为例子,并把模型完全自我迭代的可能性视为尚未证实、同时伴随伦理问题的方向。两位嘉宾没有把这种能力说成已经实现;他们关心的是,一旦训练和研究的门槛继续下降,模型开发与社会使用都会更快变化。
最后谈到孩子成长,王铁震没有提出固定的 AI 时代教育配方。他更在意身体和情绪健康,也希望孩子愿意尝试新事物、找到自己的兴趣。这个回答与整期节目的分寸一致:技术能力会变,比较模型时的指标也会变;但人怎样判断任务、接受结果并安排自己的生活,仍是模型之外的部分。