牛啊!
DeepSeek just open sourced its high-performance, large-scale inference framework DeepInfer in Apache-2.0 license.
github.com/deepseek-ai/DeepI…
Supported features:
- Optimized kernels, model and sampler runtime
- Parallelism: Attention DP / balanced CP, MoE EP + EPLB
- DSpark and confidence-scheduled verification
- SWA bounded replay
- Asynchronous scheduling (zero-overhead batch scheduler)
- Batch-invariant inference
- Deterministic sampling
- Structured output
我只想说 ip.skk.moe 是我的必备网站,背的比我自己的手机号还熟。
烧了点 Opus 5.5 写了一个测速网站。
speed.skk.moe
(欢迎大家一起来寻找神秘小彩蛋)
我在推上还是比较喜欢骂骂那些阴湿的人,以及话痨一下自己的想法。所以正在渐渐的把 Magpie 的反馈渠道收拢到 Discord 里,希望大家去 Magpie Discord server 里去进行反馈,那边会及时的响应的,谢谢大家。
discord.gg/vGSnD3ZKQF
magpie 的 Claude 订阅为什么更费 token?这次改了什么、省了多少:
以前:magpie 用真的 Claude Code 跑你的请求。每个请求都带着 Claude Code 自己的系统提示词,你 agent 的指令只能塞进第一条用户消息里。等于每次请求都多付一份 Claude Code 的提示词,约 1K token。
现在:设置里新增「精简 Claude 系统提示词」开关(默认关)。打开后,Claude Code 启动时用 --system-prompt-file 把你 agent 自己的指令作为系统提示词,替换掉 Claude Code 那一份,第一条消息只剩对话本身。
真实订阅实测(Sonnet 5.5):
· 每个请求固定省约 0.9–1.2K token
· 轻量聊天客户端,3 轮:输入 10,048 → 6,580 token(−35%)
· claude -p 这种自带大提示词的客户端,4 个请求:85.4K → 81.9K(−4%)
客户端自己的提示词越小,省得越多。注意:发请求的仍是真的 Claude Code,但不再带它自己的提示词,看起来没那么像 Claude Code 本身,账号风险请自己权衡。下个版本发布。
已在 v0.1.1277 发布 🎉
开关在:设置 › 回复 › 精简 Claude 系统提示词(默认关)。已安装的 magpie 会自动更新,或到 usemagpie.ai 下载。



















