🎓 浙大计科 · 前独角兽 Web 架构 ⚡ 从被 AI 裹挟，到开始驾驭它 📓倔强 90 后老兵的 AI 求生笔记 https://teapawt.org/t.co/O4ylXVvFz0
Joined July 2026
- Tweets1.4K
- Following704
- Followers1.6K
- Likes1.3K
写了《Build an LLM from Scratch》的大神 Sebastian Raschka (@rasbt) 又憋了个大招：用 11 小时视频课，手把手教你用纯 PyTorch 从零手搓一个推理大模型（Reasoning Model）。
不调现成的高层黑盒库，直接拿 Qwen3 (0.6B) 在本地跑通全流程。如果你想看懂 DeepSeek-R1 背后的核心机制，这 8 节课把最关键的技术栈全拆透了：
底层基建：手写 KV-Cache 与流式解码，结合 torch.compile 提速
核心裁判：构建 MATH-500 规则验证器（Verifier），打通评估与 RL 奖励信号
测试时扩展：实现 CoT 采样、自洽性多数投票（Majority Voting）与自修正循环
手写 GRPO：不靠人工标注，从零写完 RLVR 强化学习循环、策略裁剪与 KL 惩罚
R1 蒸馏：抓取 DeepSeek-R1 思维链轨迹，把推理能力蒸馏进小参数模型
全程代码极度干净，简直是今年含金量最高的 LLM 后训练（Post-training）实战教程。强烈建议先码后看：
magazine.sebastianraschka.co…
The complete reasoning-from-scratch video series is now up (and linked) here: magazine.sebastianraschka.co…
(Taking a short break but will be back with LLM model and research updates in November!)
大家都在盯着 Opus 5.5 的跑分看，但说实话，Anthropic 真正恐怖的地方根本不是模型参数，而是他们偷偷打磨出来的这套 Agent 工程底座。
刚刷完 Latent Space 采访 Anthropic 工程和产品大佬的万字长文，全是干货。挑 4 个最颠覆认知的幕后细节聊聊：
1️⃣ 别再把整个 Agent 塞进沙盒了，“大脑”和“手”必须分家 很多团队做 Agent，习惯把上下文逻辑和代码执行环境打包塞进同一个容器里。结果就是：启动慢得要死、沙盒一崩整个对话直接白干，还极容易被注入攻击偷走 API Key。
Anthropic 的解法极其丝滑： • 大脑（管记忆和状态）：在外面独立常驻，永远在线； • 手（管跑代码干脏活）：按需拉起临时沙盒，用完即焚。最绝的是，沙盒里连半个密钥都不放，需要鉴权全走外部代理（Proxy）注入。 哪怕“手”在沙盒里把环境炸穿了，“大脑”也毫发无损，换只手接着干。
2️⃣ Agent 的“长期记忆”没那么玄学，本质就是“让 AI 查 AI 的作业” 大家都在卷复杂的记忆架构，Anthropic 搞了个叫 Dreaming（做梦）的机制，逻辑朴素到好笑：直接派一个后台 Agent，去翻看另一个 Agent 白天干活的历史日志，提炼出经验后再写回记忆库。不搞花里胡哨的新造轮子，全靠基础原语左脚踩右脚。
3️⃣ 每发一次新模型，底层其实都在“大换血” • 为了扛住暴涨的并发，他们直接用 Rust 把 Messages API 重写了一遍； • 多轮对话强制保留 Thinking Blocks（思考块），表面看是为了让 AI 思路不断片，实际上也是为了在物理层面防友商蒸馏白嫖。
4️⃣ 最炸裂的其实是商业账本：人均创收暴涨近 5 倍 很多人觉得大模型公司还在无底洞烧钱，结果 Anthropic 过去一年直接实现了 19% 的 GAAP 净利润（实打实的会计利润，不是调整后的数字游戏）。人均创收从 140 万刀狂飙到 660 万刀，靠的就是“用 Claude 写 Claude”的内部效率飞轮。
看完最大的感受是：AI 圈的下半场，早就过了拼 Prompt 的草莽期了。决定 Agent 生死的，最终还是沙盒隔离、网关鉴权、状态持久化这些实打实的分布式系统老手艺。
现任 Anthropic Claude Code 核心成员、前 Google Chrome 工程总监 Addy Osmani刚发了篇长文，直接点破了很多人现在的 AI 编程误区：你大概率一直在“过度提示”（Overprompting）Claude。
最扎心的一个事实是：Anthropic 官方把 Claude Code 的系统提示词直接砍掉了 80%，结果模型代码跑分一点都没掉！
很多人还在用一两年前伺候老模型的那套“保姆式习惯”写 Prompt，字数越堆越多。面对 Opus 5.5 这代新模型，真正高手都在做减法：
1. 别教它怎么走，只给两件事： 一句话说清「终极目标是什么」+「怎么验证做对了」。只要你给它一个能跑出 Pass/Fail 的单测或判定脚本，它自己就能死磕闭环到底，根本不用你寸步不离地盯着。
2. 别迷信复杂的多 Agent 架构： 很多人喜欢无脑堆 Subagents，但 Addy 直言：子智能体不仅不会让事情变聪明，还会让延迟和账单成倍暴涨。从实测来看，「单个带 Skills 的 Agent」在代码质量和性价比上往往完胜多 Agent 编排。
3. 不知道怎么做，就让它反向面试你： 需求不明确时，别硬憋 Prompt。让 Claude 提问面试你，直到它能整理出一份完整的需求 Spec；然后开个新会话，拿着这份 Spec 丢给它直接开工。
4. 别当人肉代码扫描机： 代码写完，先调一个没看过聊天记录的独立 Agent 去把 Diff 审一遍、改一轮。把低级问题全甩给机器，人类只留着精力给核心业务风险做最终裁判。
一句话总结： 模型每升级一代，你最该做的第一件事不是拼命加规则，而是赶紧去提示词里“删代码”。每隔几个月给你的 Prompt 瘦一次身，别用伺候老模型的旧习惯，束缚了新模型的发挥。
开源这次底裤真有点被扒下来了……之前大家狂欢“开源已经咬死闭源”，结果 AA（@ArtificialAnlys）刚把评测一更新，直接原形毕露。
他们刚发了 Intelligence Index v5（顺手开了个看干活能力的 Progress Index v1）。别急着看谁第一，先看这个恐怖落差：
以前开源权重和榜首只差大约 3 分，这次直接被拉大到了 12 分以上。
榜首 Claude Opus 5.5 (max) 飙到 58，而开源已经放权重的顶级选手（DeepSeek V4.1 Flash / GLM-5.3）才 32 左右——连 Claude Haiku 5.5 的 36 尾灯都没摸着。（目前开源里最高的 Kimi K3.1 Pro 约 46，但还没放权重）。
为什么突然崩盘？因为评测换打法了。
题目、权重、判分标准全动了，现在约 60% 的分值来自「私有测试集或隐藏答案」。说白了：防污染。以前靠公开题库刷上来的水分，被一刀切了个干净。HN 上已经吵翻了，说是不是故意压开源……但无论如何，事实就是落差最大的两块全在硬骨头：HLE-Diamond 和 Terminal-Bench-Science。
最狠的是这次加了 FrontierCode 2.0：
132 道真实开源仓库的改动，判分标准就简单粗暴的一句话——「开源维护者愿不愿给你 merge」。只要踩中任何一个 blocking check，整题直接判 0 分。 以前的榜单是看你跑没跑过测试用例，这个榜是看人愿不愿把代码合进生产。强如 Opus 在这项也才拿了 46% 左右。
另外还有一个扎心的点是「成本」：
前十名的单题调用成本，从 $0.96 到 $13.04，足足差了 13 倍多！GPT-6.1 Sol 只比 Opus 低了大概 4 分，成本却只有它的 1/8。分咬得差不多时，先摸摸自己的账单。
