浅眠Sui记

10 月 20 日，DeepSeek 开源内部大规模推理框架 DeepInfer，并同步开源 Token 编解码组件 deepseek-recipe。基于该框架，V4.1 Flash 的单一集群吞吐达 155 万亿 Tokens/天。 该框架支持分布式推理、推测解码、结构化输出等能力，可在英伟达与华为昇腾平台运行，KVCache 可保留 72 小时以上。

Sottiaux 10 月 18 日回应欧盟用户称，对 Dots 暂不覆盖欧盟表示抱歉，并给出两种解决方案： 1. 在其他地区创建的 Dots 进入欧盟后仍可继续使用。 2. Dots 未来将登陆欧盟。 此前 Dots 在欧洲多地无法使用，欧盟用户多次呼吁 OpenAI 开放该功能。

Google Research 开源了 Harness²，一个递归优化 LLM 智能体的框架。它通过两层递归在不调整模型权重的情况下提升表现，在 WorkBuddy-Bench 等测试中最高提升 11.5 分。 该框架支持并行与顺序递归模式，已集成多款基准测试，采用 Apache 2.0 协议开源。