17岁被2026年ICML收录论文的小少年：我bet开心！开心！开心！

起点：一个让他"暗笑"的demo

苏庭浩和AI的第一次相遇，发生在他看到OpenAI用自然语言生成一个小游戏的demo时。他的第一反应不是震惊，而是嗤笑。

"我记得很清楚我在油管上看到了一个视频，那个视频就是 OpenAI 那个组，他们做了一个 demo，他们用那个正常语言就是说做一个小游戏之类的。我当时我记得很清楚，就是我看那个视频就暗笑，这肯定不行，用人类的语言怎么可以做个程序呢？" — 苏庭浩 · ChatGPT发布前的第一次接触

他的怀疑有充分的理由。他参加过编程比赛，在他的旧认知里"程序就是死的，你输一不能输二"——用自然语言写程序，听起来像天方夜谭。几年后ChatGPT发布，能写小文章、能写诗，"在我印象当中程序根本做不了这些东西"，他才真正被冲击到，开始上网查资料。

把他带入门的是B站上吴恩达老师的课程——"但他那个课程是把我带入了门。"从此一发不可收拾。

一年半的自学路径：从吴恩达到30天读论文

入门之后是Karpathy在油管上差不多20个小时的视频系列，从零教怎么写一个GPT、写一个transformer。当时的苏庭浩还跟不上——"那时候我还没学的那么多，所以呢那时候是云里雾里的那个看那个视频"。但他看完之后的第一个想法很狂：训练一个"世界上最好的大语言模型"——虽小，但在小模型里最好。

2025年，他给自己定了一个30天挑战：每天读一篇机器学习论文、做笔记，直到去考IB才停下。读论文的品味就是在这30天里长出来的。他眼里最好的论文是谷歌的Transformer论文："一开始很难，但是你读懂了以后就豁然开朗，特别特别开心"。通过Lottery Ticket Hypothesis和AdamW这类经典论文，他有了research的感觉，能分辨论文好坏——甚至有一篇象棋与机器学习的论文让他印象很深："我觉得他写的不是那么好，这个有点差。我自己有可能以后也写一个比这个更好的论文"。

为什么最后选了预训练方向？他用了一个节目里最漂亮的比喻：

"后训练更像塑造一个身体吧，预训练更像是把那个具体的材料变得更好来承受之后的后训练的塑造。预训练有点那个magical，有点魔幻一样。" — 苏庭浩 · 为什么选预训练

他也承认自己"只会大语言模型和预训练"，而且明确不推荐别人做预训练——太烧钱。他能做，是因为"感谢父母特别支持我，愿意为我烧钱。"

论文思路：一个projection，两件事

他的论文《Attention Projection Missing The Exogenous Anchors》起点是别人的思路：value of visual learning框架，把第一层attention的value加到之后几层里做残差。他的发现是，在残差上用RMS Norm，可以把value延展到key和query上，"最后效果更好"。

关键的一步是把第一层的attention projection一分为二——"把第一层的 attention projection 宽度乘二，然后呢再那个切一半，一半用于这一层，另一半用于之后残差"。和Kimi那个高中生陈冠宇做的attention residual相比，两个思路"听起来有可能很像，那实际上不是一样的"，他说差别巨大。被问到哪个思路更work时，他直言"当然是那个 Kimi 的了。scale up 已经被 2.5T 那个被证明了。"

他也没有隐瞒这个选题的偶然性："我也不是故意去选是做 attention 还是做 visual……我也是机缘巧合才在这个上面有了一些进展。"

烧钱与眼泪：3万块的账单和1500块的教训

做预训练是真金白银的游戏。"你比如我那个论文我是烧了3万块钱。我记得我那个论文那时候最大的训练的模型是10.5B。"数据来自FineWeb EDU，最大的数据集用过20B。

想被顶会录取，"必须得扩大，必须scale up"——但一算，再扩大要差不多6000块钱。对一个高中生来说，这是一笔可能打水漂的钱：

"那天晚上特别紧张，就在想要不要花这些钱……我也知道即使很好的论文也有可能被那个拒绝。Possibility 很大的，必须得 lucky。" — 苏庭浩 · 可能白白浪费6000块的恐惧

"最后还是因为我哥哥我爸爸妈妈都支持我，所以呢最后决定迈出了那一步。"而scale up之后的结果，主持人评价"还是很成功的"。

但最痛的一次不是花出去，而是丢掉的。有一次他参数没调好，"白白浪费了1500，因为我同时训练了三个模型，而三个模型都没save，所以最后啊，就是我白白丢了1500。"他形容当时的自己："我特别特别伤心，我就为什么我没想到那个之前那个再看一遍的。"这次他真的哭了。妈妈的反应是"那个吃一堑长一智嘛"——没有责备，只有支持。而他给自己的教训很简单：每一次训完都要save checkpoint。这条规矩是用1500块人民币换来的。

200+次实验，和一场25分钟的速度挑战

论文从训练到投稿大约半年，1B的模型"试了差不多两百，两百五十多次"不同的改进。和象棋一样，AI研究也有快速的feedback loop——"象棋网站都是你下完棋就可以他告诉你去哪走错了哪走对了，很快的 feedback。"只是AI研究的时间线更长，好在训练很小的模型一小时内也能出结果。

他把象棋训练养成的自我挑战习惯带进了编程：

"有一段时间我还是挑战挑战自己，就是呢没有任何视频，就是从零写一个transformer，就是脑子里背。然后呢我就挑战自己越快越好，这是speed run嘛。" — 苏庭浩 · 最好的成绩：25分钟

理解和直觉是另一回事。QKV的含义来自Karpathy视频的启发，被他吸收成自己的版本——"Q 是代表我想寻找什么，我这个字想寻找什么，K 是代表我这个字是什么，别人可以用这个 key 来寻找我……那个数字就是表示这两个 tokens 多大的连接。然后最后那个 V 就是代表，要是你找到我，就是你觉得我有趣的话，你具体输入什么信息。"而KV cache的理解则迟到了很久："还有一个 aha moment 是，挺惭愧的，我是那个挺晚才理解那个 KV cache 的。"他总结这种理解需要的不是高深的数学："如果那个现在 GPT Transformer 大概的框架，其实不需要那么高深的数学……就是都是那个 matrix multiplication 嘛……只需要那个高中数学就可以差不多理解了。"难的是直觉——"有时候像理解一个东西你灵光一现，很快就理解了，有时候就是得几十天才能理解。"

这条路上他基本是一个人。"大部分时间百分之九十八都是我自己做……我聊天对象最多应该也是 ChatGPT 吧，或者 DeepSeek，或者网上看一些视频。"父母都是北大的，但"我妈妈是中文系，我爸爸是历史系，都是文科的"，给的是空间和钱，不是技术指导。同学都用AI做作业，但"有些人他们都不知道，比如用 Claude 用 ChatGPT，他们都不知道自己用的是什么模型"。写论文那段时间他还在上学，就"在那个校车上做，课堂里有时候也做，吃饭的时候也做，或者那个课间的时候也做，做了那个两三个星期。"

ICML韩国：象棋社交夜，和一场灭绝小调查

今年夏天他去了韩国ICML。第一天晚上的象棋社交活动成为他人生里的高光时刻之一：

"ICML 第一天有一个象棋社交活动，七点到九点……房间里都是那些棋盘……那是我一生中前二十最开心的时候。" — 苏庭浩 · 一边下棋一边聊AI，"两大快乐的事情"

他"见了很多很多人，从那个德国来的人，从那个苏黎世来的人，比如从那个 Croatian Islands 来的人"，也见到OpenAI的人、Harvard、MIT的研究者——"特别特别开心，认识了很多很多东西，认识了很多人"。他自己的性格也在这趟旅程里变了："我觉得我之前是稍微偏 I 的人格，现在稍微偏 E 吧"。

但在会场之外，他还做了一个只有17岁的人会认真去做的小调查：逢人就问AI会不会导致人类灭绝。30多个人里，有13.5个人回答"会"——接近一半。他自己的答案是"我觉得还是有一些概率吧，也是瞎说吧，就是因为没有人可以那个预测未来"。他甚至认真推演过一条灭绝路径：

"要是 AI 之后，AI 很强的话，它的目标跟人类有很大的区别的话，或者不包括人类的存亡的话……它有可能 AI 最终的目标是搞科研……如果人类不会为它的最终的那个目标有贡献，有可能就是选择消灭人类。" — 苏庭浩 · AI搞科研需要电和空间，人类不贡献就会被消灭

17岁的悲观与走出来：神与蝼蚁，别杞人忧天

他不是旁观者式的悲观。另一种可怕的未来是权力集中——"要是 AI 能被人类控制的话，而且很强的话，那些控制 AI 的人就能变为那个神了，因为他能控制无所不能的 AI。然后其他人就可能会变成蝼蚁了。"去年这个时候，看完一个讲AI替代人类的视频后，"我记得很清楚，就是前一年，就是这时候，我好像抑郁了，伤心了好几个星期。"他跟好朋友说："那时候AI真的会灭人类的话，干嘛呢？"——答案是想去个小孤岛生活。

他走出来的方法并不复杂：跟AI本身对话，看网上的视频，然后发现"想那么多没有用"。

"也不能预测未来，也不是未来会发生什么，有可能现在是杞人忧天，可能是瞎着急呢，白着急。现在跟你喜欢的人在一起，跟你喜欢的朋友在一起，看一些你喜欢的视频，玩一些喜欢的游戏，然后呢，别焦虑那么多，走一步是一步。" — 苏庭浩 · 怎么从低落里走出来

这份矛盾也体现在他的“AI政策”上。他自嘲地说："我现在的希望就是，我希望 AI 还是向前发展，但别发展那么快。要是发展太快的话，大家以后都没工作了。要是发展慢的话，我以后就没工作了。"他也明白大势停不下来——"美国想持续领先，中国想超越美国，所有公司都想挣钱嘛……从现在看来我觉得 AI 停不了。"所以他的姿态是"斗不过就加入"：AI也是很好的工具，能省出很多时间。他给自己留的后路是"按道理来说，要是搞AI研究的人能被AI替代的话，那时候已经完了。"——AI研究者是最后被替代的职业，真到那天，大局已定。

AI原住民的教育现场：一半屏幕、分化与失去的成就感

作为2009年出生的人，他把自己定义为AI原住民——"我是09年。我觉得已经算是AI原住民嘛。"他观察到的校园日常是："在课间有50%的几率，他们的屏幕是那个ChatGPT或者是AI模型。"同学用它做演讲稿、做PPT、做作业；他自己用Anki背诵，作业直接用AI完成，他的信条是"AI给你省出了很多时间，但是你省出的时间你得自己分配"。他还反过来教父母用AI——"比如我教父母爸爸，那个怎么用Kimi，用Kimi做那个PPT，用Kimi做研究，用Kimi做Kimi agent。"

分化在加剧。好朋友Isaac听他讲了怎么用AI之后"效率提升的很高"——成绩好的同学用AI后成绩更好；反过来"如果你只是拿AI来做完作业，然后自己去玩的话，你成绩会更差。"注意力成为稀缺品："后面有一群人来想怎么让年轻人或者是所有人都看短视频……很容易就是把时间花到无关紧要的地方之上。"机会很大，"但是呢，有些人就是不会把握机会吧"。老师也"控制不了，控制不了我们是不是用AI"，只能一眼看穿直接交AI作业的人："你怎么这些细节提高那么大呀"。考试时不能带AI，"过度依赖于AI，最终考试也不会对你有任何帮助"。

还有一层更微妙的影响：成就感的流失。

"你之前学数学，数学如果学得很好，向前看，看出一个大陆……但是现在有了AI，你就发现其实这个道路变窄了，变得更困难了……你可能觉得我其实学数学，我只是为了给大学证明我是一个能吃苦、能学习的人，而不是为了这个科目而学习。" — 苏庭浩 · 失去了一部分的成就感

对更年轻的一代，问题可能更尖锐："AI的智商当它提升，所有AI的智商都提升，但是人类都是一代人一代人，他都要经历这个缓慢的成长期。所以我们的培育其实是比AI慢很多的。"一零年、一五年、二零年出生的人"一出生他就知道AI，知道AI有可能比自己聪明……有可能就失去那些那个向上的动力了"。而AI陪伴的兴起让这件事更复杂：一个15岁的同龄人在Character.AI上和虚拟人物说话，"那个AI不知道为什么就是建议他自杀"，他最后照做了；与此同时，"现在有百分之50的美国我这种同龄人用过AI当做一个倾诉工具，就是说我今天我这一天怎么样，我什么烦心事，什么开心事。"他自己的判断是，AI男友AI女友现在虽然还"很不好"，但三五年后会有很多进展，"那时候我觉得一部分人会选择AI男朋友AI女朋友这种的，也是一个很大的道德问题吧"。

两个世界：ICML与湖山支教

从韩国ICML回来四五天，苏庭浩就进了湖山村——这是他连续第四年带着国际学校的同学去支教。前脚在ICML见OpenAI、Harvard、MIT的人，后脚在湖山想的是"明天该备什么课，今天晚上吃什么"。

支教始于四年前的一个暑假夏令营，他发现当地小孩"英文的发音啊可能是用中文字来记的英文发音"。他设计的激励机制叫"狼分"：上课回答问题、积极发言、玩小游戏都能挣狼分，再用狼分换礼物。"那一年我们花差不多500多人民币，从淘宝上、就从超市里买了一些吃的，比如乐高、玩具啊这些之类的"。名额只有30个，"到最后几天他们都得靠关系，那个村长打电话才能来到我们这个夏令营"。最暖的反向礼物是：小孩会用赢来的狼分买食物送给最喜欢的老师，还有个游戏是递给你觉得最有趣的老师一张小纸片——"学生喜欢你的话递给你的话，你会特别特别开心"。

这次回村，他给自己定了一个规则："之前告诉自己抓紧这个时间，离开这些东西就是别多想，跟你同学跟你这次来的人跟这次的小孩去多交流。"玩狼人杀、捉迷藏，故意不聊AI。被问到会不会教村里的小孩用AI，他有点遗憾——小孩"大部分人都没有电子产品、没有手机之类的"，教AI"离他们有点太远了"，他觉得"挺可惜的"。被问喜不喜欢农村，他的回答是"说实话啊，我是挺喜欢的。"

"那农村那都是一些慢慢吞吞的那些小车，很少能见到人。对面就是一些草原、农场，觉得能真正放松下身心，离开城市里的烦恼。" — 苏庭浩 · 喜欢农村的理由

开心哲学与他的bet：情绪就是强化学习

这期节目的题眼，藏在标题里——"开心"。苏庭浩有一套相当完整的开心哲学。他把情绪类比成强化学习：

"真的我觉得情绪就是强化学习嘛，这个事让我开心我多做，这个事不开心少做。" — 苏庭浩 · 习惯就是这样形成的

他相信"开心的总量是有限的，因为你脑子里那个多巴胺……"——欲望控制开心，毒品是最极端的例子。生活本来就是苦的，"很多人就说嘛生活就是苦啊，但是你得选择你是为什么而苦，所以呢还是选择自己为一个目标而苦吧。"面对主持人"我为了成功不开心也可以忍受，你不行？"的追问，他答："成功了以后就开心嘛。现在牺牲一点开心，为了以后开心，都是为了开心而努力，开心而工作。"

也因此，他对未来的想象始终带着开心的尺度：5年后具身智能被研发出来，"有可能在街道上能看到一些机器人在街上行走"；10年后AI帮人"买菜，比如去开车去洗车"，他估计"失业率会有上升有可能百分之五十失业率之类的，大部分人都有UBI，可以在家里吃喝享乐"；50年后有两个分支——他喜欢Cyberpunk 2077的设定但不想走到那边，他希望的版本是"有UBI所有人都在家里快乐……希望所有人都开心"。

对AI行业的格局，这个高中生也有自己的判断：第一梯队"最好的就是 OpenAI 和 Anthropic"，第二梯队"然后第二等就是 Kimi，智谱，和 DeepSeek。啊有可能是 Gemini，我也不清楚。"应用公司的位置则要被动得多——"应用公司，因为他们最终也是在上面加点东西，其实他们也改不了具体的模型，也是靠模型来挣钱嘛。所以呢我觉得应用公司是就是只能听模型公司。"而AGI最让他兴奋的一点，是"24小时你能感觉跟你一样智商或者比你更聪明、更快的一个生物交流吧。就好像就是跟外星人交流。"

被问到当下最关键的bet是什么，他的回答既是技术判断，也是人生姿态：

"我现在赌注就是AI以后代替不了所有人和工作。但你想想那个正常的那个生活每天开开心心生活的话，你都在做一个赌注就是说以后AI代替不了我AI代替不了我这个人我以后还会有新的目标新的追求新的想法可以探索。" — 苏庭浩 · 他当下的bet

节目最后，主持人总结了这个17岁少年的答案：让自己开心、让喜欢的人开心、让所有人都开心。既然AI不可控，就别杞人忧天，多和喜欢的人聊聊天。而他把人生意义落到了最小的一句话上："我现在人生意义就是让自己开心和让其他我喜欢的人开心。"