SuSu_酥酥👅
@NFT_Chen
🔥不可忽略!NaiveAI 首模炸场,Naive-N0.5-Flash 直接冲国产第一梯队!
清华代季峰团队 NaiveAI 刚开源首个模型,MIT 协议,权重可商用,309B MoE,激活仅 15.5B,轻量能打,专攻 Coding + AI R&D。
核心亮点:
🔹原生 100万 Token 超长上下文
🔹SWA+DSA 混合稀疏注意力,全程无全局注意力
清华代季峰团队 NaiveAI 刚开源首个模型,MIT 协议,权重可商用,309B MoE,激活仅 15.5B,轻量能打,专攻 Coding + AI R&D。
核心亮点:
🔹原生 100万 Token 超长上下文
🔹SWA+DSA 混合稀疏注意力,全程无全局注意力
SuSu_酥酥👅@NFT_Chen · Sep 29😱什么?!单次推理时间从 600ms 暴降至 50ms,把 Jev 决策压成眨眼级!
开源引擎 vllm-jev 把 System One 推理从一次 600ms 砍到约 50ms,官方基准常见 5×–50×,并发最高约 43×,候选答案 + 概率,一次前向给出,不生成长文本。
核心亮点
🔹原生挂上 vLLM:调度、批处理、KV cache、编译全吃到
开源引擎 vllm-jev 把 System One 推理从一次 600ms 砍到约 50ms,官方基准常见 5×–50×,并发最高约 43×,候选答案 + 概率,一次前向给出,不生成长文本。
核心亮点
🔹原生挂上 vLLM:调度、批处理、KV cache、编译全吃到
Open quoted post →
· Edited
13 93