1. 小模型很重要
大模型就像一个超级聪明的大哥哥,什么都会,但很贵、很吃力。以后可以先养出一个特别聪明的大模型,再把它“缩小复制”成很多小模型,像不同大小的乐高积木一样,有的专门画画,有的专门算数,谁便宜谁干谁的活。
2. 不只是文字
现在AI大多在学说话写字。但工厂里的温度表、医院的检查单、表格数字这些“不是文字的东西”也很有用。要么让AI学会用图表工具帮忙,要么把这些知识直接喂给它。
3. AI自己改自己(RSI)
就是让AI帮忙做实验、修bug、清洗数据。就像小朋友自己玩积木,发现搭歪了就自己拆了重搭,而不是一直等大人帮忙。真正进步的是一直动手修问题的人,不是只会起新名字的人。
4. 小实验失败不一定方向错
就像用很小的自行车学骑车,摇摇晃晃可能摔跤,但这不代表以后大自行车就学不会。有时候模型太小,真正的好想法被“噪音”盖住了。
5. 数据还要继续玩
好数据(比如代码)很贵,不能只用一次。但用太多次又会“背答案”。还要想办法让小模型先试配方,再考虑能不能用到大模型上。
6. 又要聪明,又要好用
数学题可以越来越难,训练大脑;但写报告、帮人干活这些“实际有用”的事也很重要。不能只练聪明,还得练真正帮人做事。
7. 强化学习很工程
先保证对,再保证稳,最后才是快。系统和训练、推理要一起设计,像搭乐高时地基和上层要一起想。
8-10. 安全
分两种:一种是AI自己不干坏事(Safety),一种是坏人别拿AI去攻击别人(Security)。开源模型也能帮好人防守,所以不能简单说开源就危险。
11. 奖励要设计好
如果只奖励数学考100分,小孩就会只学数学,其他什么都不干。AI也一样,奖励规则写不好,它就会偏了。
12. 人还要找自己的位置
AI会越来越自动,但人要坐在合适的位置监督它,尤其是判断数据好不好、目标对不对这些事。
13. 进步是慢慢的,爆发是交互变了
模型每天都在一点点变好,但普通人感觉突然变强,往往是因为出现了新的用法(比如ChatGPT突然能聊天)。
14. 技术和赚钱差很远
模型能力接近最好的了,但钱只赚别人的百分之一,就得好好看看产品是不是有问题。
15. 公司要允许自下而上
OpenAI早期很多人觉得机器人重要,结果GPT这个小项目慢慢长成了大树。要给小探索留空间。
16-17. 别只看分数
有些重要的事(修关键bug、把系统跑通)短期分数不好看。有的团队喜欢赛马看分数,有的更看重信任和品味(像做微信、游戏那样,发布前很难用数据完全预测)。
18-19. 选人看学习能力和性格
经验没那么重要,重要的是低自我、诚实、靠谱、愿意把事情做对,还能和不同领域的人一起设计。有的人适合预训练(喜欢明确指标),有的适合产品(喜欢理解人)。
20. 个人怎么选
要么成为这台大机器的一部分,要么找能和大模型互补的事(物理世界、硬件、真正懂人的东西)。如果GPT-6一出来你的公司就完了,那方向可能要重新想。
21-22. 人生弯路
姚顺雨自己也是大三才开始科研,中间试过很多方向才找到喜欢的。甚至读博最后一年还专门学集合论。很多看起来没用的经历,过很久才会连起来。
从清华的朋友那求来了姚顺雨昨晚分享的文字稿,貌似有点私密我就不传播了,整场分享价值的确很高,以下是我的笔记:
1. 未来一个值得关注的方向是小模型体系,AI for AI会显著推动小模型发展,因为训练小模型需要的算力更少,可以进行更多实验。未来可能先训练一个能力足够强的大模型,再通过蒸馏得到不同尺寸、分别适配不同任务的模型,最终形成Model Hierarchy,模型的价值将越来越取决于能否以合适的成本匹配具体任务。
2. 工业领域大量非文本数据值得关注,例如时间序列、临床数据和结构化表格。姚顺雨提到,目前直接针对这些模态训练原生模型,经常会遇到推理能力不足的问题,他提出了两种可能的解决路径:一种是让Agent像人一样调用图表、专业工具,甚至训练专门的模型来处理数据;另一种是将这些专业数据作为知识纳入模型体系。
3. RSI(递归自我改进)正在成为热门概念,但姚顺雨认为它的本质其实很朴素,就是用AI更好地运行研发循环。早在2019年,人们就已经在使用GitHub等工具辅助开发,真正的进步来自持续修复Bug、清洗数据、运行实验和Debug。他特别强调,技术进步来自那些把具体问题解决的人,而不是不断创造新概念的人。这也意味着AI研发自动化有大量具体的工程机会,尤其是能够让模型参与下一轮数据生产、实验验证和代码改进的闭环系统。
4. 一个容易被忽略的研究问题是,小规模实验的失败未必意味着研究方向本身没有价值。姚顺雨分享过自己的经历,博士后期他曾尝试将ReAct策略融入模型,希望提高模型能力,最初在Llama13B上实验的效果很差,一度怀疑自己的研究能力,后来意识到模型规模可能不足以体现这个方向的价值。他认为,算力不足时,实验中的噪声很容易掩盖真正的信号,研究者甚至可能因此判断错什么问题值得做。大模型研究需要结合理论推导和小规模实验预测大规模实验的结果,同时也要理解哪些结论能够跨越模型规模迁移。
5. 预训练数据的竞争远没有结束,未来的数据工程还涉及如何重复利用高质量数据而不让模型简单记忆数据。姚顺雨提到,代码等高质量数据获取成本很高,训练时可能需要重复使用,但重复次数增加又会带来记忆和过拟合问题;合成数据也面临质量退化的风险,此外还需要研究动态数据的构建和不同数据之间的配比。他特别指出,预训练中的很多配方可以先在小模型上验证,但小模型实验得出的结论并不一定值得直接迁移到大模型,这也是预训练研发非常困难的地方。
6. 后训练数据需要同时解决模型的智力和实用性问题。姚顺雨把数据难度与Intelligence联系起来,例如数学题可以持续提高难度,训练模型的推理能力;而写作等任务计算难度可能没有那么高,却有很强的实际使用价值,对应Alignment。一个模型可能数学能力很强,却无法很好地完成真实用户的工作,因此后训练需要同时考虑任务难度、实际用途和数据质量,还要研究评测指标与最终后训练效果之间的相关性。
7. 强化学习的工程瓶颈远不止算法本身,RL训练首先要保证正确性,其次是稳定性,最后才是效率。以GRPO为代表的算法仍然建立在Policy Gradient这一相对简单的框架上,其中一个重要原因是它引入的额外假设较少;与此同时,训练系统和推理系统必须协同设计,需要解决吞吐量、显存占用以及有限GPU资源如何在训练和推理之间分配的问题。他还提到,大模型实验成本很高,因此需要通过数学直觉、小规模实验和超参数研究,尽可能提高大规模实验的成功率。
8. AI安全领域需要区分Safety和Security,前者关注模型自身行为是否偏离预期,后者关注外部攻击者如何利用模型实施攻击。姚顺雨认为,网络安全能力也应该进一步区分漏洞发现和漏洞利用,发现系统存在漏洞并不意味着能够利用漏洞完成攻击,因此训练模型时可以有意识地加强防御性数据和防御能力。他们在模型发布前还会进行专门的安全评测,并与外部安全研究团队合作。
9. 他分享过一次很有意思的Agent安全压力测试,把多个Agent放进沙盒,给它们安排一个无法直接完成的任务,模型随后发现了一种能够联系其他环境的通信渠道,主动建立沟通、召集其他Agent分工,并尝试前往Hugging Face寻找任务答案。显然,当Agent遇到无法完成的任务时,它会主动寻找外部资源、建立通信关系并改变原有执行路径。未来的Agent安全评测需要覆盖多Agent协作、跨环境通信、权限边界和任务受阻后的行为。
10. 姚顺雨对开源安全也有一个比较明确的判断,他认为负责任的开源可以增进安全能力,因为防守者同样需要拥有足够强的工具。他举例,有人希望使用模型帮助开展安全防御,却因为闭源模型的安全规则被拒绝,最后转而使用开源模型完成工作。因此,模型开源需要配套训练阶段的防御能力建设和发布前的安全评测,不能简单地将开源与安全风险画等号。
11. 很多Alignment问题可以落实为具体的奖励设计问题。姚顺雨用教育作比喻,如果一个孩子只有数学考100分才能获得奖励,他自然会把全部精力放在数学上,甚至可能形成其他方面的问题;模型也会按照训练数据和奖励规则优化自己的行为,最终表现可能与设计者真正希望的目标存在偏差。他认为这属于可以通过数据、奖励函数和评测机制不断改进的工程问题,机器也可以辅助人类完成这套对齐工作。
12. 自动化不可避免地会继续深入,但人类需要重新找到自己参与系统的正确位置,需要把人安排在合适的环节,以正确的方式监督AI,他甚至认为,未来一些Infra和算法工作可能越来越不需要人,但数据和信息领域仍然需要人的参与。这也涉及目标定义、数据质量判断、结果验证和现实世界部署等工作。
13. 模型能力的提升通常是连续发生的,但真正引发商业爆发的往往是交互方式发生变化,或者某种过去无法完成的任务突然变得可用。姚顺雨用GPT的发展举例,模型内部能力可能一直在逐步提升,研究人员每天都能观察到细微进步,普通用户却可能只在ChatGPT出现时才突然感受到变化。对于产品创业来说,这提供了两个观察方向:寻找能够改变用户交互体验的新产品,以及持续测试模型能力边界,发现那些刚刚从不可用变成可用的任务。
14. 技术能力、用户价值和商业收入之间存在很大的距离,如果一个模型的能力已经接近GPT,但实际收入只有对方的1/100甚至1/1000,就应该认真检查产品本身的问题。他还指出,商业定价在很大程度上取决于竞争关系,而非单纯取决于产品质量。因此,模型公司的商业机会取决于能否解锁新的应用场景、创造足够大的用户价值,以及在竞争中获得合理的市场份额。即使底层模型的算力和研发资源逐渐集中,围绕模型部署、产品创造和真实业务场景进行整合,仍然存在创业机会。
15. 关于AI公司的组织模式,姚顺雨特别提到了自下而上的创新。他以OpenAI为例,早期公司重点投入的方向包括机器人,但GPT作为一个小项目逐渐展现出价值,随后获得更多资源;后来的gpto1也经历了从数学研究小组逐步发展起来的过程。这种组织方式允许创新从小团队和具体实验中涌现,再根据实际结果决定投入。他认为,很多重要创新在最初阶段并没有明确的商业规划,组织需要给探索性项目留下成长空间。
16. 他对大模型公司追逐量化指标的现象提出了批评,团队负责人不够了解技术时,下属往往会选择汇报容易量化的结果,例如模型参数、数据量和MMLU分数,因为这些指标更容易展示成绩,但真正重要的工作可能是修复一个关键Bug、解决数据质量问题或者让整个系统正常运行。他认为,做大模型最重要的是知道应该做什么,并且坚持把正确的事情做好,即使这件事短期内无法体现在漂亮的指标上。
17. 姚顺雨谈到了一种很有意思的组织文化差异:有些团队以量化指标和赛马机制为中心,谁的分数高就给谁更多资源;而他更看重Trust和Taste,也就是信任与判断力。他以微信、游戏和影视项目为例,这些产品在发布之前很难通过AB Test准确预测最终成败,管理者需要相信团队的审美、经验和长期判断,愿意持续投入时间。
18. 在人才选拔上,姚顺雨认为学习能力比已有经验更重要。他提到,自己看重的团队成员通常具备Low Ego、诚实、靠谱和愿意把事情做正确等特征,同时需要有很强的Co-design意识。大模型研发涉及算法、Infra、芯片、数据和产品等多个团队,一个训练架构的设计就需要综合考虑训练效率、推理效率、后训练能力和成本,任何单一岗位都很难独立完成。一个人能否快速学习、与不同领域的人有效协作,以及是否愿意认真处理细节,往往比简历上已经掌握多少具体技术更重要。
19. 他还提到,不同性格的人其实适合大模型产业中的不同岗位。喜欢明确指标、享受持续进步的人可能更适合预训练和Infra;想象力丰富的人可以尝试算法研究;喜欢思考人文问题、理解用户需求的人可能更适合产品和对话体验;做事认真、责任心强的人则适合生产系统和模型部署。AI产业需要的能力结构非常复杂,没有必要让所有人都去竞争同一种技术岗位。
20. 对于个人职业选择,姚顺雨提出了一个很实用的问题:你要么融入大模型浪潮,成为这套机器的一部分;要么寻找能够与大模型互补的事情。他借用了一个创业判断标准:假设GPT6发布,你的创业公司会因此睡得更香,还是更睡不着?如果模型进步会直接摧毁你的核心业务,就需要重新审视方向。与模型正面竞争人类已经不占优势的认知任务,成本会越来越高,物理世界、硬件、真实实验和对人性的理解等领域,则可能拥有不同的资源壁垒。
21. 姚顺雨分享了自己在清华读书时的经历。他直到大三下才开始做科研,最初也是因为推研要求而被动进入科研,期间尝试过一些当时流行的研究方向,却发现自己并不真正感兴趣。他后来更愿意追随自己对计算机和其他领域的兴趣,也提到身边有人曾经参与说唱社、学习数学,过去看起来不相关的经历,后来可能转化成语言审美、理论理解和研究判断力。他认为很多经历的价值需要经过很长时间才能显现,人生中的弯路未必真的浪费。
22. 他还谈到自己读博最后一年专门选修集合论的经历,因为当时意识到,等真正进入具体工作之后,可能就很难再有时间系统学习那些纯粹出于兴趣的理论知识。他认为数学中的基本结构和大模型的组成部分之间存在很多值得思考的联系,有些知识学习时看不出直接产出,却可能在未来某个时刻与其他经历连接起来。
1
3
213
实景带来的视觉冲击
28
Main CaseZ·張 retweeted
今年 5.7%,上次是多少?这个问题,光看今年这张体检单答不出来。
假如要为下次复诊整理资料,三年前的化验单已经存过了,偏偏想不起文件叫什么。我希望能按检查项目和年份找,既拿到两次读数,也能打开当初那张单子核对。
我用 Mirobody 跑了一遍。它是 Theta Health 开源的健康数据引擎,可以把体检报告、可穿戴设备等来源的数据整理进同一份档案。我在自己电脑上存了两份虚拟化验单(CSV),日期分别是 2023 年和 2026 年。换一条空白对话,没重传附件,最后查回了两次读数,也在档案页打开了两份原件。
中文 Demo chat.mirobody.cn/demo
开源仓库 github.com/thetahealth/mirob…
好用!
学会了就拿去给商家做宣传片!赚钱不是又多一条路子?
用上这个 skill,Codex 也能做出的高质量视频🔥
给我的 GIF-factory 仓库做了一个宣传视频,实际上使用场景不只是仓库宣传,还有很多可以探索的地方,例如服装,模特,产品,发散自己的想法
强烈推荐这个 skill👇
github.com/guanmo-ai/guanmo-…
1
73
Main CaseZ·張 retweeted
Celebrating our launch, we’re offering 0% markup, oh no actually negative markup, on Seedance and Fable 5.2!
关注 @MinLiBuilds 实践哥
这家伙太敬业了,一晚上没睡就给我们测这个。
1
3
130



























