OpenAI 最近公開了一套很值得研究的底層架構： Habitat。 它是支撐 ChatGPT、Codex、OpenAI API 等產品的內部線上儲存平台。 目前規模： 超過 500PB 資料 服務超過 10 億使用者 涵蓋全球 40 個區域 最有意思的是： OpenAI 把全球讀取延遲的 p50， 從約 120ms 降到 10ms。 整整改善 12 倍。 而且不是單純換一套更快的資料庫。 核心做法有三個： ① Geo Replication → 將最重要、對延遲敏感的資料複寫到接近使用者的區域。 ② Valkey + CDC → 利用分散式快取加速讀取，透過 Change Data Capture 在資料更新後通知各地快取失效。 ③ Python → Rust → 重寫服務層，降低 Proxy 與請求處理的額外負擔。 整體架構包含： Azure Cosmos DB Valkey Kafka CDC Rust Multi-tenancy Global Routing 更值得注意的是： OpenAI 還在開發自己的 Exabyte-scale Storage System。 結合： RocksDB Cloud + Raft Replication 希望進一步降低超大規模儲存的成本。 我覺得這個案例很值得 AI 工程師研究。 現在大家都在比較： GPU 模型參數 Inference Throughput Token / sec 但真正進入 Production 之後， 資料存取、快取一致性、跨區域延遲、儲存成本， 一樣可能成為系統瓶頸。 AI Infrastructure 的競爭， 不只是誰的模型跑得快。 而是誰能讓整套系統， 在數億甚至十億使用者的規模下， 依然穩定、快速地運作。 OpenAI 官方技術文章： openai.com/index/scaling-sto…

NVIDIA 現在可以把 8 台 DGX Spark 串成一個本地 AI 運算叢集了。 總共： 8 × 128GB ＝ 1TB Unified Memory。 而且不只是展示硬體規格。 NVIDIA 已經實際跑起： GLM 5.3（753B） 完整模型以 NVFP4 量化後約 470GB。 在 8 台 DGX Spark 上， 單一請求的 Decode 約 31 tokens/sec。 另一個 GLM 5.3 Flash 測試， 則達到約 80 tokens/sec。 更有意思的是， NVIDIA 還展示了： ① Multi-node Inference → 透過 RDMA / RoCE 連接多台 Spark ② RoCEnante → 最佳化跨節點 GPU 通訊 ③ NeMo Switchyard → 根據任務難度，自動選擇不同模型 ④ Distributed Training → 8 節點訓練小型模型，達到 7.79 倍加速 其中 Switchyard 的實驗尤其值得注意。 簡單任務交給 MiniCPM5 2B。 複雜任務交給 Qwen3.8 Flash Next。 官方測試在特定流量配置下， 整體吞吐量最高提升約 3 倍。 我覺得這代表一個很有意思的方向： 以前本地 AI 主要是在想： 「一張 GPU 能塞多大的模型？」 現在開始變成： 「如何把多台小型 AI 電腦，組成一套真正的 AI Cluster？」 不只是跑更大的模型。 還能同時執行： 多模型推論 Agent Routing 分散式訓練 本地 AI 工作流程 未來的 Local AI Infrastructure， 可能不一定是一台超大的 GPU Server。 而是一整個可以持續擴充的 AI Compute Cluster。 NVIDIA 官方技術文章： developer.nvidia.com/blog/ru…

Anthropic 最近提出一個很值得注意的觀點： AI Agent 不是越多越好。 很多企業現在的架構是： Router ↓ Planning Agent ↓ Domain Agent ↓ Tool Agent ↓ Review Agent 看起來分工完整， 但實際上可能造成： Context 傳遞失真 重複推理 Token 成本增加 執行延遲 Anthropic 發現，在部分企業部署案例中： Single Agent + Skills + Tools 反而比複雜的 Multi-Agent 架構更有效率。 其中一個客戶案例， 單一 Agent 的執行速度約快了 2 倍。 但這不是所有任務的普遍結論。 Anthropic 現在建議： Main Agent ↓ 按需載入 Skills ↓ 呼叫 Tools ↓ 驗證結果 只有當任務需要： 平行處理 獨立 Context 獨立驗證 權限隔離 才考慮增加 Subagent。 更有意思的是， Anthropic 還開源了： Single Agent Loop Kit。 可以協助分析既有 Multi-Agent 架構， 逐步將部分 Subagent 合併成 Skills / Tools， 再透過 Evals 比較： Task Success Rate Latency Token Usage Cost 我覺得這件事很值得思考。 現在大家都在研究： Multi-Agent Agent Swarm Agent Organization 但模型能力越來越強之後， 真正重要的可能不是： 「我要多少個 Agent？」 而是： 「這個任務真的需要多少個 Agent？」 架構複雜度不應該成為能力的替代品。 官方文章： claude.com/resources/article… GitHub： github.com/anthropics/single…

Anthropic 開源了一套很值得研究的工具： Knowledge Work Plugins。🔥 這次不是讓 AI 更會寫程式。 而是讓 Claude 直接擁有不同企業職位的專業工作流程。 官方提供 11 種插件，包含： Product Management → PRD、Roadmap、使用者研究 Sales → 客戶開發、商機分析 Marketing → 內容企劃、行銷活動 Finance → 財務分析、對帳 Legal → 合約審查、風險評估 Data → SQL、資料分析、Dashboard Customer Support → 客服處理、知識庫建立 Enterprise Search → 跨企業系統搜尋資料 最有意思的是，每個 Plugin 都可以組合： Skills + MCP Connectors + Slash Commands + Subagents 例如產品經理 Agent： 讀取 Linear 專案 ↓ 分析使用者需求 ↓ 撰寫 PRD ↓ 規劃 Roadmap ↓ 同步工作進度 企業還能修改 Skills 與 MCP 設定，讓插件符合自己的工作流程。 我覺得這透露一個方向： AI Agent 的競爭，可能不只是誰的模型最聰明。 而是誰能把企業的職位、流程、工具與知識，真正整合成可重複使用的工作能力。 GitHub： github.com/anthropics/knowle… 官方插件： claude.com/plugins

竟然不是模擬器！？

坐等其他研究團隊評測

如果未來不是同時跑 5 個、10 個 AI Agent， 而是： 128 個 256 個 甚至 1,024 個 Agent， 你還需要一個中央 Orchestrator 來管理所有人嗎？ Microsoft Research 最近開源了一個專案： Agensh。 全名： A Decentralized, Scalable Multiagent Harness。 它想解決的問題是： 當 Agent 數量增加到上千個， 如何讓它們自己組織、分工、協作， 而不是所有事情都要經過中央指揮。 Agensh 採用的是： Self-organized Multi-Agent。 沒有中央 Orchestrator。 每個 Agent 都可以自行： Discover Tasks → 發現需要處理的工作 Claim Subtasks → 認領子任務 Share Findings → 分享研究與執行結果 Verify Results → 驗證其他 Agent 的成果 Merge Progress → 合併完成的工作 然後不斷重複這個循環。 整套協作架構主要使用： Gitea → Shared Workspace Mattermost → Agent Messaging Shared Context → 跨 Agent 資訊共享 搭配既有 Agent Harness， 讓多個 Agent 在共享環境裡非同步工作。 更有意思的是實驗結果。 Microsoft 使用 GPT-5.6-sol， 在 ProgramBench 五個高難度任務上進行測試。 每個任務限制 6 小時，而且不能連接 Internet。 官方報告的平均 Test Pass Rate： 1 Agent → 19.31% 128 Agents → 28.78% 相對提升約 49%。 其中 Pandoc 任務： 1 Agent → 33.89% 128 Agents → 50.94% 1,024 Agents → 55.06% Microsoft 也測試了 GPT-6.1-sol。 同樣在 Pandoc、6 小時預算下： 1 Agent → 56.19% 32 Agents → 79.59% 但這些都是特定 Benchmark 的研究結果， 不代表 Agent 數量越多， 所有任務都能等比例提升。 我覺得真正有意思的是： Microsoft 觀察到， 當 Agent Team 持續擴大， 系統開始出現一些原本沒有明確指定的合作行為： 自行協調 角色專業化 任務整合流程 同儕驗證 這跟目前很多 Multi-Agent Framework 的思路不太一樣。 傳統方式通常是： Human ↓ Manager Agent ↓ Worker A / B / C ↓ Manager 整合結果 Agensh 則更接近： Shared Goal ↓ Shared Workspace ↓ Agents 自行發現與認領工作 ↓ Peer Coordination ↓ Verification ↓ Merge 也就是讓協作結構， 部分從 Agent 之間的互動中自然形成。 如果說： Paperclip → 管理 Agent 組織與治理 AutoSwarm → 協調不同 Agent 的能力 Google AX → 管理大規模 Agent 執行 那 Agensh 研究的就是： Decentralized Multi-Agent Coordination。 AI Agent 下一階段值得研究的問題， 可能不再只是： 「如何做出更強的單一 Agent？」 而是： 「當上千個 Agent 同時工作時， 如何讓它們自己形成有效的合作組織？」 GitHub： github.com/microsoft/Agensh

Made a 3D container truck parking game in three.js 🚛 Levels go from 1 trailer up to 3. In reverse the trailers swing the opposite way, and a jackknife counts as a crash. 3 crashes and you're out. 6 levels · guide lines · joint gauges · keyboard + touch #threejs #gamedev

我家有五台閒置的AM4的電腦，記憶雖然沒有插滿但是都有，32G、64G，當AI需要算力時隨時本地端調用。

用RTX Spark 組織機器軍團去收割農作物的未來。

DeepSeek 這次不只開源模型。 連自己的高效能推論框架都公開了。 名字叫： DeepInfer。 它是 DeepSeek 用來支撐大規模 Production Service 的 Inference Framework。 不是另一個 Chatbot。 也不是單純包一層 API。 而是直接處理大型 LLM 推論最核心的問題： GPU 怎麼分工？ MoE Expert 怎麼分配？ Attention 怎麼加速？ Decode 怎麼變快？ Batch 怎麼排程？ 怎麼在高吞吐量下維持穩定輸出？ DeepInfer 整合了 DeepSeek 自家的多個底層技術： FlashMLA → 高效能 Attention Kernel DeepGEMM → GPU Matrix Multiplication DeepEP → MoE Expert Parallelism TileKernels / TileLang → 自訂 GPU Kernel DeepSelect → 推論最佳化元件 另外還支援： Attention Data Parallelism Context Parallelism MoE Expert Parallelism Expert Parallel Load Balancing Asynchronous Scheduling Batch-invariant Inference Deterministic Sampling Structured Outputs 其中我覺得特別值得注意的是： DSpark。 它透過 Draft Tokens 加上 Confidence-scheduled Verification， 加速模型的 Decoding。 也就是不一定每個 Token 都用傳統方式逐步完成驗證， 而是根據候選 Token 的信心資訊， 調整驗證排程。 另一個重點是： Prefill / Decode。 當大量使用者同時呼叫模型， 真正難的不是「模型能不能跑」。 而是： Prefill 吞吐量 Decode 效率 KV Cache GPU Communication Batch Scheduling Load Balancing 能不能一起協調好。 DeepInfer 就是在處理這些底層問題。 目前官方支援： DeepSeek-V4.1-Flash 硬體則是： NVIDIA SM100 GPU Huawei Ascend 950 NPU 而且這次開源的是 Offline Inference 核心能力。 完整的線上推論服務還需要額外整合： KV Cache System Prefill / Decode Disaggregation 跨 Replica Load Balancing 所以它目前不是下載下來， 就能直接取代 vLLM / SGLang 的完整 Serving Stack。 但我覺得這次真正值得注意的是： DeepSeek 開始把支撐大型模型推論的工程技術， 逐步公開成一套更完整的系統。 以前開源模型大家主要比： Parameters Benchmark Reasoning Coding 接下來可能會開始更重視： Inference Throughput Latency GPU Utilization Memory Efficiency Serving Cost 因為模型能力再強， 如果推論成本太高， 最後還是很難大規模提供服務。 AI 模型的競爭， 正在從： 誰能訓練出更強的模型 延伸到： 誰能用更低的成本， 讓更強的模型服務更多使用者。 DeepInfer 補上的， 就是大型 AI 模型的 Inference Infrastructure。 GitHub： github.com/deepseek-ai/DeepI…

Google Research 開源了一個很有意思的專案： Harness²（Harness Squared） 它想解決的問題不是： 「怎麼訓練出更強的 LLM？」 而是： 「不修改模型權重，能不能讓 AI Agent 自己變得更強？」 現在我們使用 Claude Code、Codex、OpenCode， 真正影響 Agent 表現的其實不只有模型。 還包括： System Prompt Guardrails Memory Tool Guidance Subagents Skills Scripts Plugins 這些組合起來，就是： Agent Harness。 而 Harness² 的核心概念是： Recursive Agent Harnessing。 讓 AI 不只是執行任務， 還能觀察自己的執行結果， 再反過來改善自己的 Harness。 整個流程大概是： Task ↓ Agent 執行 ↓ 分析執行過程 ↓ Propose Harness Changes ↓ Probe 不同版本 ↓ 比較執行行為 ↓ Compose 更好的 Harness ↓ 保留改善經驗 ↓ 下一個 Task 繼續優化 它設計了兩層遞迴機制。 第一層： Task-level Recursion 針對目前這個任務， 讓 Agent 自己提出不同的： Prompt Tool Guidance Skills Subagent Configuration 然後實際測試不同組合， 比較執行結果， 找出比較適合當前任務的 Harness。 第二層： Harnessing-level Recursion 不只是改善這一次任務。 還會把每次實驗得到的經驗， 保存到 Persistent Improvement Harness。 讓下一次遇到新任務時， 能利用過去累積的改善經驗。 更有意思的是： 整個過程不需要重新訓練模型。 Model Weights 保持不變。 改善的是： Agent 外圍的整套執行系統。 而且不一定需要 Ground-truth Feedback。 它可以透過不同執行版本之間的行為差異， 找出有證據支持的改善方向。 目前支援： OpenCode Executor Codex Executor 以及： Parallel Recursion Sequential Recursion Google Research 在三個專業任務 Benchmark 上測試， 官方報告最高改善： WorkBuddy-Bench：+11.5 分 JobBench：+4.5 分 LAB：Partial Pass Rate +11.8 個百分點 這些是特定模型與測試設定下的研究結果，不代表所有 Agent 都能獲得相同提升。 但我覺得這個研究真正值得注意的是： 以前大家想提升 Agent 能力， 第一個反應通常是： 換更強的模型。 GPT Claude Gemini GLM 但 Harness² 提出另一個方向： 模型不變， 透過持續改善： Context Tools Memory Skills Orchestration Execution Strategy 一樣有機會提升 Agent 的任務表現。 如果說： OpenSpec → 管規格 Open GSD → 管長時間執行 Hindsight → 管長期記憶 Overmind → 管執行追蹤與優化實驗 那 Harness² 想做的就是： 讓 Agent Harness 本身具備持續改善的能力。 AI Agent 下一階段可能不只是： Self-improving Model。 而是： Self-improving Agent Harness。 真正值得研究的問題， 可能不再只是： 「哪個模型最強？」 而是： 「同一個模型，搭配什麼 Harness，才能發揮更好的能力？」 GitHub： github.com/google-research/h…

超級大富翁的桌面配置

用古早的技術實現新的想像

生成速度快不代表生成準確，長時間運行生成出符合需求的成品才是這台機器的價值，顯存不夠大，運行vllm 也沒鳥用

本週 GitHub 星星暴衝的 10 個專案。 AI Agent、Rust、逆向工程、Coding Skills 還是在瘋狂成長。 以下是這週值得注意的： morluto/rea 本週 +166K Stars Reverse Engineer Anything。 讓 Claude Code、Codex 等 Agent 直接做逆向工程。 可以分析： Native Binary Electron .NET APK Firmware Website Runtime Behavior 甚至可以接 Ghidra、IDA、Hopper。 這週完全是斷層式第一名。 github.com/morluto/rea storytold/photocraft 本週 +15.8K Stars 一套完全用 Rust 從零打造的開源 Photo Editor。 不是 Web Wrapper， 而是真的重新做一套圖片編輯器。 github.com/storytold/photocr… storytold/artcraft 本週 +11.5K Stars 同一個團隊做的另一個專案。 定位是給： Artist Designer Filmmaker 使用的開源 Creative Engine。 最近「用 Rust 重做傳統桌面軟體」這條線非常熱。 github.com/storytold/artcraf… debpalash/VoiceStudio 本週 +10.3K Stars 可以理解成： Local-first 的開源 ElevenLabs 替代方案。 支援： Voice Cloning Voice Design Video Dubbing Transcription Audiobook 而且支援 646 種語言。 github.com/debpalash/VoiceSt… wheresryan22/anatomy 本週 +9.5K Stars 一個很有意思的 Claude Code Skill。 你給它一個技術概念， 它可以直接產生： 互動式 Isometric 工程拆解圖。 支援： SVG WebGL 3D 很適合： 技術文件 文章 Landing Page 架構解說。 github.com/wheresryan22/anat… Ebony-Vinyl/dsh-our-free-model 本週 +8.9K Stars 給 DeepSeek Harness 用的 Model Plugin。 主打： 不用 API Key 不用註冊 不用登入 直接使用多個 Frontier Model。 本質上是在把： Coding Agent 跟 Model Provider 進一步拆開。 github.com/Ebony-Vinyl/dsh-o… boykopovar/AnyPS5 本週 +8.6K Stars 這個很狂。 目標是自動把： PS5 Executable Port 到： Linux Windows 這週遊戲相容層／逆向工程類專案明顯也在升溫。 github.com/boykopovar/AnyPS5 storytold/wordcraft 本週 +7.3K Stars 又是 storytold。 這次直接挑戰： Microsoft Word。 WordCraft 是： Pure Rust Clean-room 重新實作的開源 Word Processor。 如果 PhotoCraft、ArtCraft、WordCraft 繼續做下去， 這個團隊有點像準備自己重做一套 Creative / Office Software Stack。 github.com/storytold/wordcra… mattpocock/skills 本週 +6.6K Stars Matt Pocock 自己實際使用的 Agent Skills。 定位很簡單： Skills for Real Engineers。 不是大量 Prompt Collection， 而是把真正工程開發會用到的方法， 直接變成 Agent Skills。 AI Coding 正在明顯從： Prompt Engineering 往： Skill Engineering 移動。 github.com/mattpocock/skills cathrynlavery/diagram-design 本週 +5.6K Stars 專門讓 Coding Agent 做「真的像設計師做的技術圖」。 支援： Claude Code Codex Cursor Copilot Pi 內建 44 種 Diagram 類型。 而且作者直接寫： No Mermaid slop 😂 它不是叫 AI 吐 Mermaid， 而是做： HTML + SVG 的 Editorial-quality Diagram。 github.com/cathrynlavery/dia… 這週看下來，我覺得有三個非常明顯的趨勢： 第一個： AI Coding 正在從「Agent」進入「Skills 生態」。 第二個： AI 開始碰以前很專業的工具領域： Reverse Engineering Voice Diagram Creative Software 第三個： Rust 又回來了。 而且不是拿來寫小工具， 而是在重新做： Photo Editor Creative Engine Word Processor 這類以前需要大型團隊才能做的桌面軟體。 AI 把寫 Code 的成本打下來之後， 2026 很可能會出現越來越多： 「那乾脆把整套軟體重新做一次。」 這種專案。

AI Coding 現在有一個很荒謬的問題： 模型越來越強， 但我們還是花大量 Token， 讓它讀垃圾， 再聽它講廢話。 Caveman 就是在處理這件事。 它的核心理念只有一句： why many token when few do trick 現在 Caveman 已經不只是讓 AI 回答變短。 它分成兩層： Skill → 壓縮 Agent「說出來」的內容 Proxy → 壓縮 Agent「讀進去」的內容 先講 Output。 一般 Agent 可能會回答： 一大段背景 ＋原因 ＋建議 ＋總結 ＋Hope this helps Caveman 直接砍成： 問題在哪 → 怎麼修 → 下一步 Code Command Path Error Message 則保持原樣。 而真正更有意思的是 Proxy。 例如 Agent 要讀： CSV Log YAML JSON Test Output Web Page Caveman 不會傻傻把整份資料全部塞進 Context。 而是： Raw Data ↓ Local Processing ↓ Compression ↓ 只把真正需要的資訊送給 Agent 官方目前測試： 54 次 Claude Code Runs 整個 Session 的 Input Token： 平均減少 33.2% 而針對單一資料： CSV → 減少 98.9% Logs → 減少 98.5% YAML → 減少 99.1% Test Output → 減少 98.9% JSON → 減少 98.5% 另外： caveman browse 官方測試可以把一個原本需要： 15,704 tokens 的 Playwright Page Snapshot， 壓成： 121 tokens。 差不多小了： 129.8 倍。 而且官方測試的 18 個問題， 壓縮前後全部答對。 現在安裝也變簡單： npx @caveman-ai/cli 它會自動找出你電腦上的： Claude Code Codex Gemini OpenCode OpenClaw Pi Hermes 等等。 然後把 Proxy 接上去。 另外還有： caveman learn → 分析你的 Agent 到底把 Token 花在哪 caveman shrink → 壓縮 Command Output caveman browse → 壓縮網頁 caveman stats → 看實際 Token 使用量 甚至開始加入 Model Routing。 也就是未來不只是： 「怎麼少用 Token？」 而是： 這個 Task 到底應該用哪個模型？ 需要多少 Reasoning Effort？ 我覺得這其實點出 AI Coding 一個很重要的問題。 我們一直在追求： 200K Context 1M Context 更大的 Context Window 但真正該問的可能是： 這 1M Token 裡， 到底有多少 Token 是真的有用？ 所以 AI Coding 接下來可能會從： More Context 變成： Better Context ＋ Less Noise。 Context Window 越大， Context Engineering 反而越重要。 GitHub： github.com/JuliusBrussee/cav…

OpenAI 工程師在高階會議室藏錄音器被抓包，還可能領高薪！ 官方用自家 AI 模型鎖定沙國籍工程師 Abdulrahman Alfozan，交 FBI 逮捕後已解雇。 ・藏在電視背面 USB 埠、用衛生紙遮掩的加密錄音器 
・9/28 安裝、10/5 被拍到回頭查看，包包還有第二個裝置 
・目前無證據外洩模型或客戶資料 
・這類工程師底薪常落在 25–45 萬美元，總薪酬（含股權）中位數約 88 萬美元

靈感爆棚，有趣的實現。