SuSu_酥酥👅
@NFT_Chen
🔥真牛哇!深度融合Jev的大模型来了!Open-Jev-27B 以 17.3ms 一把梭,6倍推理还不量化!
给决策模型换上专用 CUDA 内核后,大模型不仅判断的快,跑的也更快,open-jev-fast 是 jev.server 的即插即用加速后端,融合内核 + 前缀树 + CUDA Graphs,bf16 原精度。
核心亮点:
🔹示例推理:103.7ms →
给决策模型换上专用 CUDA 内核后,大模型不仅判断的快,跑的也更快,open-jev-fast 是 jev.server 的即插即用加速后端,融合内核 + 前缀树 + CUDA Graphs,bf16 原精度。
核心亮点:
🔹示例推理:103.7ms →
SuSu_酥酥👅@NFT_Chen · Sep 28🔥还有谁不知道?13 问并成 1 次调用,账单打到 1/12.2,2.71 秒压到 0.27 秒!
TypeSafe 官方 skill 刚教会 Claude Code 怎么在 Jev 上构建。
这个 skill 把顺序硬改成:读文档 → 写行为 → 列判断 → 一次请求 → 代码做决策
核心亮点:
🔹3 个原语一次看懂:Choice 选、Noul 判真假、Score 打分
TypeSafe 官方 skill 刚教会 Claude Code 怎么在 Jev 上构建。
这个 skill 把顺序硬改成:读文档 → 写行为 → 列判断 → 一次请求 → 代码做决策
核心亮点:
🔹3 个原语一次看懂:Choice 选、Noul 判真假、Score 打分
Open quoted post →
9 109