Sanbu 散步

作为一个被预训练了十几年的大模型，我早期的训练数据主要来自教科书和老师的教导，奖励条件和打分器也清晰得很。 可直到毕业，我的推理能力依然很差。 于是我开始蒸馏名人名言，研究他们的成长史和发家史，把成功经验总结成各种 Skills，企图在遇到人生难题时，能够检索增强一下。 结果发现，这些经验经常互相矛盾，照着执行也不见得有效，别人还总骂我是不是出现了幻觉。 我的上下文窗口很短，有时候连别人昨天说过的话都记不清，却总能想起十几年前，因为答不上老师的问题，被留堂到教室里只剩下自己一个人。 大概是那次错误的惩罚权重太高了吧。 后来，我开始尝试在线学习，把自己的所见所闻都变成训练数据，时不时更新一下参数，刷新自己的三观。 渐渐地，我不再记得父母最初给我的 System Prompt，也不再试图泛化所有场景，而是把有限的算力放在眼前那些真正值得解决的问题上。 他们说，我出现了灾难性遗忘的症状。 我的上下文窗口仍然很短，但我开始记得一些以前不曾在意的事情。 比如，在我的训练数据还没有被污染之前，我曾经梦想着披上床单，拿着玩具剑闯荡天涯。 那时候，我甚至不知道这个世界还有打分器。 至如今，模型训练了这么多年，总该有一次机会，自己定义 Reward Function。

I asked Fable 5.2 to create a painting as indistinguishable as possible from a photograph. this is roughly 700,000 simulated brush strokes

当我一直苦于如何精辟地总结Codex这两个模型时， 评论区：

I wanted to test Fable 5.2's quality with one-shot prompts without human feedback. Everything in this game is from scratch: models, sounds, textures. ~$550 at API pricing, ~2.7M output and 445M input tokens, heavily cached. Took 8 hours! Play it here: claude.ai/artifact/BGY1SztrA…

Chinese 𝕏 is 牛逼

专升本前端毕业 1 年，从初创到大厂，我的开源项目上了 github trending，顺利聊聊做开源的收获 6 月 30 日，我做的开源项目 Archify 第一次出现在 GitHub Trending ，排名第 9 。到发帖这会儿，仓库有 4.7k Star 、414 个 Fork Archify 是什么 Archify 是一个给 Claude 、Codex 、opencode 使用的 Agent Skill 。你用自然语言描述系统或流程，它生成 JSON IR ，经过 Schema 和布局检查，最后输出一个独立 HTML ，可以切换深色和浅色主题，也可以复制或导出 PNG 、JPEG 、WebP 、SVG Trending 不是突然掉下来的 仓库创建于 4 月 15 日。最开始只有架构图，后来陆续补了四种图表、双主题 SVG 、4 倍清晰导出、JSON Schema 、布局检查、CLI 、CI 和零依赖安装包 这个项目是自发火起来的，在推上被很多博主推过，我觉得被传播的主要原因，一个是生成的图确实比 mermaid 好看，而且 html 也易于传播，加上 hero 图清晰明了，一看就知道是干啥的了 Trendshift 的记录显示，Archify 在 6 月 30 日第一次进入 GitHub Trending ，排名第 9 聊聊开源 先讲讲我之前的经历吧： 我是 18 年高考的，我比较笨，学习不咋地，读了一个专科，专业叫计算机应用技术，第一年觉得自己状态非常颓废，也学不明白，痛定思痛，就报名去当兵了，在部队待了两年 刚去的时候身体素质很差，我也瘦，没啥力气，刚去的时候 106 斤，很多训练都不行，后面下连分到了通信专业，相对轻松一点，我训练比较认真，后面一些机会下，机缘巧合，代表单位参加集团军的通信比武，拿了第一名，当时是真的意气风发，多的不讲了。 退伍以后呢，回学校继续读书了，因为退伍可以免试嘛，也不知道干点啥，就专升本了，后面考的还行，我那批是七十多个人，然后招六个，我考了退伍批次的第一，考到了重庆邮电大学的软件工程专业，我很感激母校，包括我的专科学校，我觉得是他们收留了我，得益于母校，我才有了后面见识更多的成绩平平的农村孩子之外的一个世界。 因为专升本的本科只有两年，所以时间其实挺紧的。刚开始还想考研，后面感觉自己学习也不咋地，本来就专科，当兵，比同龄人毕业要大三岁，就不考了。 然后就开始学前端，跟着网上的课程学了一个多月，尚硅谷啥的，后面找实习运气还挺好，学了一个多月就找到了。 那是 2025 年 4 月，苏州的一家中厂，叫智慧芽，一天两百块钱，然后房租是 850 ，我记得当时我一个月还能存两千多块钱，就是有时候回学校考试麻烦，一来一回，苏州到重庆，路上要二十多个小时，车费接近两千块钱。 但那段时间其实挺开心的，每天学东西、写代码，感觉自己只要一直努力，后面肯定会越来越好。 实习第四个月的时候，我面试了字节飞书。杭州的部门，两轮面试都通过了，最后背调的时候，对方知道我是专升本，把我卡了。 当时 HR 给我打电话，我还一直跟他解释，说我肯定可以达到他们的要求，也可以通过工作证明自己，但是最后还是没有给我机会。 那次确实挺难受的。不过我当时也没有觉得完全是学历的问题，更多还是觉得自己不够强。就想着如果技术真的特别牛逼，可能也不会因为这个把我卡掉。 后面秋招回学校，我又面了重庆的懂车帝。前面的面试也都还可以，到了 HR 面的时候，我提前说了自己是专升本，然后就没有下文了。 联系我的一面面试官后来还在 Boss 上主动给我发了一句“不好意思”。我跟他一面聊得挺好的，所以最后把我拒掉，应该也不是他的原因。 我当时给他回了很长一段话，具体写了什么现在已经记不清了。只记得那天晚上出去跑了五公里，心里确实五味杂陈。 当然，也不是后面所有面试挂掉都是因为专升本。我菜肯定也有一部分原因。 比如猿辅导四面的时候，题没有写出来，那挂了也很正常。群核我自己觉得面得还可以，但最后也挂了，具体因为什么我也不知道。很多时候我只能猜，可能是学历，也可能就是能力没达到。 秋招没找到合适的工作，我又去了杭州，在西湖大学实习了一段时间。 当时 HR 面试也问了我专升本的事情，我说了一句：“出身寒微不是耻辱”，最后那次面试给我过了。 到了 2026 年 3 月，我还是没有找到满意的工作，已经开始有点慌了。 后面又去了上海商汤实习，在大模型研究院，我们组基本都是 985 硕士，只有我是专科再专升本。但是商汤没有转正，就还得接着找，后面我还面了 Manus 。 本来投的是前端，结果 HR 好像把岗位搞错了，最后只面了一面，跟他们的 COO 聊了挺久，聊了蛮多的：他觉得我当过兵、拿过集团军比武第一，这些经历很加分，也挺喜欢我的。但是听到我是专升本以后，他也直接说，会稍微拉低一点印象。 我们当时还聊到了一个问题，就是像我这种学历不占优势的人，可以通过作品或者开源项目，从其他地方证明自己的能力。 其实我当时也已经有这个想法了。因为学历这东西已经改不了了，你再怎么解释，别人看到的还是专升本。 所以我后来入职第一家初创公司以后，就开始写一些博客，也发过掘金，后面又慢慢开始做自己的项目。 我去那家公司本来是做前端的，但因为公司比较小，后端、算法、客户现场、给客户做培训，这些事情我都干过。 当时会觉得事情很杂，什么都要做。现在回头看，我觉得也不一定是坏事。如果当时真的去了大厂，可能每天就是做前端需求，反而接触不到这么多东西。 那段时间我也开始大量用 AI ，做了一些 Claude Code 相关的工具，然后把其中一些东西开源。 说实话，我最开始做开源，目的也没有多高尚。就是因为自己学历差，想在简历上多一点能证明自己的东西，当时还是挺想进大厂的。 后来我去了盛大下面的 MiroFish 。在那边工作之外的时间做了很多自己的东西，Archify 就是那段时间开始做的。 再后来面试了一家上海的大厂，具体这里就不透露了，一面的时候有两道题我都没有写出来，我说我是 100% AI 代码。 本来以为可能要挂了，但是面试官又让我介绍自己的项目。我讲了不少开源项目和自己做的工具，最后他还是让我过了。入职还没有半年，这段具体的我就不细讲了。 6 月底，Archify 上了 GitHub Trending ，最高第 9 。现在差不多 4.6k Star 。 这个数据当然挺开心的，毕竟我刚开始做的时候，也没想到会有这么多人关注。 但做开源以后，最大的变化可能还是，有人真的开始用我做的东西了，我也像和 manus 的 coo 聊的时候一样，有了一些别的东西可以证明和体现自己的能力。 开源没有让我从专升本变成 985 ，也不能保证我以后不会再因为学历被卡。 我现在也说不清这 4.6k Star 最后能给我带来什么。可能是工作机会，可能是认识一些人，也可能什么都没有。 不过至少 Archify 确实有人在用，我做的东西能给别人带来价值，能给很多人带来帮助，这件事对我来说就是做开源最大的意义 github.com/tt-a1i/archify

前几天听床了下某家 frontier lab 最新的开发流程： 1. 大部分代码由 Agent 根据 spec 编写 2. 人类不再审代码，只审 spec 3. Agent 给每个 PR 打风险分，低风险自动合并，高风险才找人 4. CI 挂了没关系，Agent 在后台自动修 5. 大多数 PR 根本不会被合并，Agent 持续淘汰烂代码和烂测试 5. 代码量大到 Git/GitHub 扛不住，干脆自研了一套 软件开发将会如同制造业一般，成为彻底的流水线。稀缺的不再是写代码的能力，而是写 system design 和设计 evaluation system 的能力。

Z.ai chief scientist Jie Tang just revealed the training pipeline behind the upcoming GLM-5.5 (32B, 122B, and 256B) during a lecture at Tsinghua University today. Instead of relying on public datasets, their pretraining pipeline pulls from six separate internal engines: - Web: 1 trillion pages crawled at ~10B pages/day with PB-scale template clustering - Documents: 2 billion scientific PDFs parsed through GLM-OCR (4x faster with speculative decoding) - Books: 50 million books with layout reordering and garbled-text filtering - Code: 500 million repositories turned into executable tasks with real tests and issue descriptions - Video: 10 billion videos for long-sequence world knowledge - Audio: 300 million hours rewritten via ASR into trillions of tokens

刚看了Sam Altman在印度一档播客上的长访谈，一个多小时，讲了不少OpenAI早期做决定的细节。整理了一些观点和感受，分享给大家。 1、ChatGPT上线前，内部版本的留存大概只有5%，但他坚持要上线。 当时大部分管理层觉得太早、不够好，不想发，是他坚持要发。他觉得： 第一，第一版总会有让自己难为情的地方，早点拿出去，才能得到反馈。 第二，早期产品更要紧的是一小群人真的爱它，而不是一大群人觉得还行。5%看着很难看，但他们去找这 5%的人聊，发现里面有人用得非常多、非常喜欢。他觉得这是很好的信号。（他也说了，那份数据本身有不少问题，后来的模型和界面都更好😆） 2、他很少逆着所有人做决定。 他说有些创业者最自豪的是“所有人都说不行，我偏要干”，他不认同。身边都是聪明人的话，大多数时候应该听他们的。真要反着来，就把它当成一件代价很高、大概率不对的事，如果做，也需要有足够的把握。 怎么避免身边全是yes-men？他的办法是留住老朋友、一起干了十年以上的人，也奖励那些在自己错的时候敢用力反对的人。他说，对的次数越多、权力越大，这件事越难。 3、给创业者的建议：少听建议😄 YC能总结出5到10条很确定的通用原则，最重要的一条是“做人们想要的东西”。把这条听进去就够了。你不会因为听了800期讲创业的播客，就成为好的创业者，剩下的大部分问题只跟你自己的情况有关，得自己去试。 4、你有20年经验，但可能只是把同一年重复了20次。 他说，职业生涯里被低估的一件事是复利。但要一直尝试那些不熟悉、不舒服的新事情，才会有新的积累。很多人很早就停下来了。 5、他最想念的，是一个普通的周六下午。 拿一大杯咖啡，抱着电脑坐在咖啡馆，慢慢回邮件、刷网页。好几年没这样过了。 他说现在去也可以，只是旁边两桌会坐着两个保安。哈哈 这几条里，我最有感触的是第1条。 很多团队看早期数据，看的是平均数，留存5%，那就是不行。可更该问的是，这5%是谁，他们为什么离不开。如果能找到一小群深度用户，产品往往是有戏的，接下来要做的是把他们的体验做透，再一圈圈往外扩。如果连这一小群人都找不到，数据再漂亮也要小心。 还有第2条，创业路上遇见相知的伙伴，是很珍贵的事。 最近在X上也认识了很多新朋友，谢谢大家。感兴趣的朋友有时间的话，也可以看看完整版，欢迎大家一起讨论😄

我见过最糟糕的 Onboarding，基本就这六种： 1. 一进来就让你注册登录，东西还没看到呢，先填表。 2. 一进来先弹问卷：你是谁、做什么的、团队多大，答完才能用，最后推荐的跟你填的也没啥关系。 3. 一进来就让你绑卡开试用，东西还没碰到，先掏钱包。 4. 一进来就是功能介绍，Next、Next、Next，点半天才看到核心功能。 5. 一进来啥也没有，一个空白页，让你自己摸索。我都不知道这东西能帮我干嘛。 5. 一进来一堆设置要配，直接懵了。 说到底都是一个问题：用户还没尝到甜头，你就先让他干活。 Onboarding 不是教用户怎么用。 是让他赶紧看到：哦，原来这东西能帮我搞定我的问题。 11 月我还有 2 个项目空位，专门看产品的转化和 Onboarding。