SuSu_酥酥👅
@NFT_Chen
🔥好厉害！本地4GB内存也能把 Laya 跑在自己电脑上了，不是聊天，是秒出结论！
你还用 70B 大模型做工单分流、邮件过滤、紧急度打分了，这已经落伍了。
Unsloth 刚把开源决策模型 Laya（Jev 平替）接到 Desktop：
🔹默认多语言模型仅 678MB，最低 4GB RAM
🔹CPU 也能跑，Win / Mac / Linux / GPU
你还用 70B 大模型做工单分流、邮件过滤、紧急度打分了，这已经落伍了。
Unsloth 刚把开源决策模型 Laya（Jev 平替）接到 Desktop：
🔹默认多语言模型仅 678MB，最低 4GB RAM
🔹CPU 也能跑，Win / Mac / Linux / GPU
SuSu_酥酥👅@NFT_Chen · Sep 28🤯炸了！本地开源 27B，把 JevBench 打成实时赛！
同样是 Open-Jev-27B，同一张 NVIDIA B300，231 个公开任务一个接一个发，HTTP、预热后、按真实延迟 1× 重放：
🔹左侧 Open-Jev（jev.server + FLA）
还在 65 / 231，全跑完要 59.5 秒
🔸右侧 OpenJev-Fast
9.7 秒全部打完，6.1 倍。
平均延迟从
同样是 Open-Jev-27B，同一张 NVIDIA B300，231 个公开任务一个接一个发，HTTP、预热后、按真实延迟 1× 重放：
🔹左侧 Open-Jev（jev.server + FLA）
还在 65 / 231，全跑完要 59.5 秒
🔸右侧 OpenJev-Fast
9.7 秒全部打完，6.1 倍。
平均延迟从
0:13 10 151