
🎓 00 INTJ @NTUsg 🧑🏻💻 Building AI Products 🎮 Prev @GenshinImpact & @TencentGames 📍 Japanese→MBB→Gaming→ AI Startup
Shanghai
Joined May 2026
- Tweets131
- Following26
- Followers566
- Likes378
UNGETSU retweeted
这可能是市面上写给独立开发者最详细的产品宣传片制作教程。
苦写几个月代码,上线却卡在宣传片?很多朋友问我 Auday 的宣传片怎么做的,其实就是靠 Claude 极强的视频能力,去操作 Seedance 2.5 生成素材,再配合真实界面和配音合成,如果你也有类似需求不妨来看看。
GPT 6 防御性写作 belike:
“虽然我过度防御,但不能推成我在故意回避问题,也没有充分证据证明我在明知有错的情况下继续狡辩。
我不愿直接归结为简单的“嘴硬”,还需要结合具体上下文分析,还不足以认定我在推卸责任,还不能证明是刻意误导,也不能确认我有维护自身形象的动机,不能推成我始终拒绝承认错误。
说我“在回应批评时出现了过度限定和解释倾向”,比直接断言“我就是死不认错”更有依据。“
1
6
741
Auday 1.0.1 is now live!
This update adds Japanese and Korean support for AI-generated content, including summaries, Highlights, daily Reflections and Chat replies. You can switch languages in Settings → AI Primary Language.
It also fixes the silent-recording issue affecting some Apple Watch Ultra users, improves transfer reliability between Apple Watch and iPhone, and brings a major overhaul of local storage for smoother loading and browsing as your recording history grows.
On launch day, Auday reached #1 in the App Store’s paid Lifestyle charts in multiple countries. The response has far exceeded our expectations, and every download, message and suggestion has been a huge encouragement. Behind Auday is a solo developer, working late to collect your feedback, investigate issues and keep improving the app. Thank you for your support and patience.
We also want to explain the choices behind transcription. To support a wider range of iPhones while keeping resource use low and minimizing slowdowns, our current on-device speech recognition model prioritizes speed and efficiency. In tests on iPhone 17 Pro, several hours of audio often took just a few seconds to transcribe. Actual performance varies with the device and recording. That speed comes with some accuracy trade-offs. Auday AI uses surrounding context when interpreting transcripts and generating content to help identify and work through recognition errors, reducing their impact on summaries, analysis and conversations.
For the next update, we plan to introduce an optional speech recognition model with higher accuracy and slightly higher resource requirements, alongside the current lightweight model. You’ll be able to switch between them and choose the balance of speed and accuracy that best suits your iPhone and your needs. We’ll also continue adding support for more languages.
To thank everyone for the support, we’re extending our 50% launch discount for one more week. Buy once, with no Auday subscription.
AppStore: apps.apple.com/us/app/auday-…
Thank you for being part of Auday’s beginning. We’ll keep listening and making it better.
The best AI recording hardware?
You may already own it.
Introducing Auday—now live on Product Hunt.
Turn your Apple Watch into your all-day AI recorder.
Beyond voice, Auday combines health, real-time stress, location, and other signals to understand your everyday life—not just answer your questions.
Record on your wrist. Revisit your day with transcripts, timelines, highlights, reflection, and AI chat.
Almost everything runs locally on your devices. Bring your own API key for AI. We don't even have a backend server.
App Store launch offer: half price. Just $9.99 for a one-time purchase. No subscription.
We'd love your support and feedback on Product Hunt. Take a look, join the conversation, and tell us what you'd want your watch to remember.
Product Hunt: producthunt.com/products/aud…
App Store: apps.apple.com/us/app/auday-…
Website: auday.ai/
🤖 Made with AI
Maybe the whole point of carbon-based life is to write the first line of code for silicon-based life.
After all, the inorganic world once did the same for us.
We just ended up calling its code protein.
1
291
BaiFu is Back!🥂🥂
大家好,我是 BaiFu,开源项目 BettaFish、MiroFish 的原始作者。
项目出圈大半年了,最近才发现有朋友一直把别的账号当成我,想了想还是自己来注册一个和大家打个招呼😆
我的 GitHub 也放上了这个账号,可以从那边找到:github.com/666ghj
4
491
arxiv.org/abs/2608.28444
微软八月底发布了一篇论文《Sliding-window beats linear attention》,主要讨论了采用滑动窗口机制改变推理时的注意力范围及这一方案的潜在优势,一些随想:
为了降低长上下文的推理成本,一些研究尝试把已经训练好的 Transformer 改成线性注意力模型,再通过后训练恢复能力。
这篇论文补上了一个被忽略的比较:直接使用滑动窗口,加上开头几个 attention sinks,不做额外训练,效果会怎样? 论文测算下来,这个工程上更简洁的方案在多组实验里超过了经过后训练的线性注意力模型。它主要针对的是已有模型的线性化改造,没有覆盖从头训练的所有线性注意力架构,也没有纳入保留部分全注意力层的混合模型。
当然,一个复杂方案取得效果之后存在必要的追问:新增的机制究竟贡献了多少?如果其中已经包含滑动窗口,把其他部分拿掉,效果还能保留多少?
关于滑动窗口为什么能做到这一点,我的理解是:单层只关注最近几十个 token,不代表整个模型只能利用这几十个 token。较早的信息可以经过中间位置逐层传递,感受野随着层数扩大。但存在信息传递路径,与能够准确取回某个历史细节,仍然是两件事。
从数据来看,以 Llama 3.1 8B 为底座,在 4K 上下文的 BABILong 测试中,256 窗口的 SWA 准确率是 15%,LoLCATs 是 3%,全注意力是 60%。15% 是 3% 的五倍,但距离 60% 仍然很远。
这也是为什么我更关心它放进 Agent 之后会怎样。
我们知道,模型训练时已经学会的知识,与这次任务临时交给它的信息,承担着不同的作用。一个模型仍然很会写代码、解释概念、组织语言,不代表它还能准确调用二十轮之前的一条用户约束。
而对于 Agent,后者(约束调用情况)经常决定任务是否成功。譬如说,用户要求某个文件不能改,工具返回了一个精确数值,项目里存在一条不常见的业务规则。这些信息未必能靠通用能力补回来。模型即使失去了它们,也可能继续流畅地推进任务,直到交付时才暴露偏差。
这类退化尤其难发现,因为表面上的工作能力可能还在。再看 cache,就比较容易理解问题发生在哪里。
沿用 StreamingLLM 的思路,每层可以保留最初几个位置和最近窗口内的 KV,回收中间已经离开窗口的部分,让缓存规模不再随着序列持续增长。开头的 attention sinks 有助于稳定注意力分配,但它们并不是一份不断更新的全文摘要。能持续处理输入,也不意味着能够随时回查完整历史。
我们假定一个 Agent 的系统提示词有几千 token,包含任务规则、工具说明和用户约束。保留最初四个位置,显然不等于保留整段系统提示词。随着任务推进,部分内容会失去被后续 token 直接访问的路径。
它们可能已经通过中间表示产生影响,但这种影响能否支撑几十轮之后的精确遵守,需要单独验证。尤其是一条只在特殊条件下才会触发的规则:前面一直没用到,不代表后面不重要。 这里也容易把两种缓存混在一起。
简要来说,Prefix caching 复用相同前缀已经计算过的 KV,主要节省重复输入的 prefill 开销;滑动窗口则限制当前生成时可以直接关注哪些历史位置。
所以,系统提示词命中了前缀缓存,不代表其中的每条规则在后续生成时都仍然可被直接访问。反过来,也不能仅凭使用滑窗,就断言前缀缓存命中率一定下降。计算是否复用、状态是否保留、信息是否被正确使用,需要分别看。
顺着这个区别,我对 Agent 设计有一个早期的、进一步的判断:上下文里的信息,应该按使用方式来管理,不能只按出现时间决定去留。
当前步骤的中间输出,通常具有很强的时效性;贯穿任务的约束,需要持续可用;原始证据未必需要一直占着上下文,但必须能够在需要时准确取回。
滑动窗口天然偏向最近的信息,而任务的重要信息未必最近。因此,如果要把这类方案用于 Agent,我会想看一些更贴近真实工作的测试:譬如说把关键规则分别放在系统提示词的开头、中间和末尾,经过多轮工具调用后是否仍然遵守;早期工具返回的精确数值,后续还能否正确引用;加入大量无关输出后,模型能否意识到自己需要重新读取证据。 固定保留关键指令、维护任务状态、按需检索原文,或者引入全注意力层,都可以成为尝试的方向。这些属于应用层的延伸,论文还没有替我们验证。
补救的增加也都应当重新计算成本。因为省下的 KV 可能会转化成额外检索、重复读取、状态维护和失败重试。
对于 Agent 场景,我更愿意比较在相同成功率和约束遵守水平下,完成一次任务究竟需要多少实际消耗、多久。单次生成更便宜,只有在没有被后续返工抵消,才会真正变成产品里的效率收益。
今天读到葬 AI 发表的 Manus 团队关于 Research Bench 的文章。他们尝试提出了“信息量”和“隐喻率”两个指标,将研究报告的质量拆成可以自动评测的 Signal。
我抛出了两个问题,感觉还可以继续向前推一步。文章有一个非常吸引人的观点是关于 GPT 和 Claude 的中间笔记里。
我们知道,GPT 调用 Search 的次数更多,最终报告包含的事实却更少。Manus 团队继续回溯以后发现,Claude 会把每个信息源中的事实和数据逐条记录下来,GPT 更习惯先写成一两百字的完整摘要。
所以最终报告开始生成以前,第一次信息损失已经发生了。
Research Agent 的完整过程大致包含信息搜索、内容读取、笔记写入、上下文选择、材料综合和最终表达。每一次转换都会决定哪些信息能够继续进入下一阶段。原始资料里存在过的事实,一旦没有进入中间笔记,后面的模型除非重新读取来源,否则很难凭空恢复。
因此,中间笔记可以理解为 Research Agent 的 Working Memory,也是一种带宽有限的中间表示。
原子事实和完整摘要服务于不同的目标。摘要更连贯,也更节省 Context;与此同时,它会提前合并事实、判断、因果关系和来源边界。到了最终写作阶段,LLM 失去了一部分重新组合、交叉验证和准确引用材料的空间。
这和我之前把 Agent Memory 理解为推荐系统的思路有些相似。保存了多少历史,只能说明数据层是否完整;真正影响下一轮输出的,是哪些内容以什么形式进入当前 Context。因此一段 Research 的质量,可能有相当部分决定于 Agent 在思考“如何记笔记”的这一过程中。
关于隐喻率,我仍然保留一点疑问。
文章把隐喻表示为 y=f(x),并据此推导隐喻必然造成信息损失。在随机变量和编码方式被清楚定义的情况下,确定性变换确实不会增加信息熵;如果 (f) 可逆,信息量也可以保持不变。Research 真正关心的任务相关语义,又无法直接等同于字符串的信息熵。
自然语言中的读者实际接收到的也不只有 (y),还包括上下文、共享知识和个人经验。隐喻可能降低字面精度,也可能借助双方已有的知识完成更高效的表达。首先,“信息瓶颈”这个词本身就带有隐喻性质,却比重新描述完整机制更容易理解。
至于高密度隐喻在 Research 场景里造成的问题,我倾向于理解为解码成本和语义歧义。
当作者与读者共享同一套语义映射时,隐喻可以压缩表达;当这套映射只存在于模型刚刚经历的任务历史中,读者就必须反向猜测它究竟指向什么。
这也解释了为什么“字段”、“运行”等等这类已经进入公共语言的隐喻无需计算,而 Fable 偏爱的身体隐喻(臭名昭著的“腿”、“臂”),以及 CC 在长程任务中产生的高信息熵黑话,会显著降低可读性。前者拥有相对稳定的公共解释,后者依赖一段只有 Agent 自己完整经历过的 Context。
隐喻率因此是一个很有价值的文风诊断指标。进一步测量时,也许还可以观察:多个独立 Judge 能否把同一句话还原成一致的字面表达;改写前后能够抽取出的原子事实是否一致;同一个隐喻是否对应多个合理解释。
信息量也存在类似的边界。事实点数量衡量的是报告中还剩多少可以单独识别的 Claim,它会受到拆分粒度、事实相关性和重复程度的影响。一个模型可以把同一事实拆成更多条目,也可以堆积大量真实但与任务关系很弱的信息。
如果这些指标最终进入 Harness 的优化目标,还需要防止模型开始学习指标本身:用事实碎片提高信息量,用彻底平直的语言降低隐喻率,最后得到一份分数更高、实际体验更差的报告。
也许 Research Eval 最终需要沿着完整的信息路径展开?模型接触了什么,笔记保留了什么,综合阶段改变了什么,用户最后又能准确理解什么。
从最终报告的角度出发,它只能展示最后幸存的信息,无法告诉我们信息究竟在哪一轮消失。文章里的 Manus 团队通过修改中间笔记方式以后,GPT 最终报告的信息量随之提高,我觉得这已经是一个很有价值的验证,后续期待更多技术和验证方案的出现。
mp.weixin.qq.com/s/2CXssAsQM…
最近在 Fable 5 和 Opus 的长程任务里,频繁看到 CC 一种近乎于发狂、呓语的自造方言、遣词造句的诡异语言现象,类似于:
“账本 15/15 全绿,再给你加几条铁律和红线与你对拍,请你拍板。”
“无主 → 已当场归户。”
“137 项 spine 落地 + 3 死门归零 + 全套绿 + 终审干净。”
“皮要不要重新揉?”
“单腿哑火,打回重判,”
中文社区给它起了一个很准确的名字:新时代文言文。
我倾向于把它理解成 Agent 内部工作语域对 Reporting Layer 的穿透。
Agent 执行长程任务时,需要处理大量工具调用、测试结果、中间状态、异常分支和子代理汇报。为了在有限的 Context Window 中维持工作,它会不断压缩已经形成共识的信息,并为高频状态创造速记。
举例来说,“全绿”压缩了全部测试通过,“归户”压缩了责任模块的重新分配,“死门”指向某个必然阻塞交付的检查点。对于刚刚经历完整任务过程的模型,这些词各自对应着确定的状态;对于只看到最终汇报的人,它们省略的是一段从未参与过的工作历史。
因此,文言文的类比比想象中更加准确。
想起本科在中文系学习古典文献学时,提到过文言文通过省略虚词和共享典故,在昂贵的书写介质上压缩信息;那么 Agent 的工作语言同样受到 Token、时延和上下文长度的约束。文言文作为书面语长期独立演化,逐渐远离口语;Agent 在长程任务中主要阅读自己和子代理的输出,其局部语言环境也越来越多地由自己生成。
因为每一个典故都要求读者预先知道一段历史。新时代文言文中的每个黑话,背后则是一段用户没有看见的 Context。
很显然,可读性比任务结果更难获得稳定的显式 Reward。
测试是否通过、代码能否运行、文件有没有生成,都存在相对清楚的反馈。一段最终汇报被用户接受,无法证明用户真正理解了它;用户没有要求重写,也无法证明这套表达是清楚的。
追溯到 25 年,DeepSeek-R1 的公开论文提供过一个很典型的例子。纯结果奖励训练出的 R1-Zero 出现了明显的语言混杂和可读性问题;加入 Language Consistency Reward 以后,语言得到改善,同时伴随轻微的性能损失。
规范、稳定的人类语言需要被单独放进优化目标。模型更擅长完成任务,并不自然意味着它更擅长向人解释任务。
一个更棘手的问题是反馈闭环。
Agent 每一轮生成的速记都会重新进入 Context,成为下一轮 Token Prediction 最近的语言样本。一个临时创造的词被重复几次以后,便获得了局部语境中的合法性;多个子代理继续引用,又会进一步提高它的权重。
任务越长、参与的 Agent 越多、工作历史越复杂,这套方言就越容易形成。最终汇报继续沿用工作过程中的语言,相当于让一份写给人类的报告,继承了全部机器内部的表达惯性。
说回到中文,尤其是汉语的构词方式,又放大了这种体感。双字复合词拥有很强的生成能力,“归户”“对拍”“死门”即使来自临时借译或语义挪用,字形上依然与正常汉语没有明显区别。
我们会感到这种虚假的熟悉感极其消耗注意力:字都认识,词也都像真的,读者会先怀疑自己遗漏了某种行业常识。
一个推断:也许未来 Agent 系统会长期保留两套语言。一套服务于模型内部的协作与压缩,允许速记、缩写和局部概念;另一套服务于人类验收,在最终输出前重新组织事实、补回因果关系,并假设读者从未看过任务过程。
Reporting Layer 在这里承担的实际功能,是把机器的工作历史重新翻译成人类可以判断的材料。它的质量直接决定使用者能否理解修改、检查证据、识别风险,并保留最后的决策权。
翻译成本最终由谁承担,会成为 Agent 产品的一条重要分界线。
如果 A 社持续基于 ASI 不断在同样的 Bias 取向上走到底,那么 CC Agent 眼中的任务过程,实际上已经被压缩成一套只有 Agent 自己熟悉的典故,最后那句“请你拍板”也会逐渐失去意义。悲观的角度讲,目前似乎 Codex 也偶发这样的呓语,用户似乎仍然拥有形式上的决定权,却失去了形成决定所需要的过程。

















