SuSu_酥酥👅
@NFT_Chen
😱天呐!3B 本地决策模型把 OpenAI Decision 给彻底干报废了!
Atomic Chat 实测(单卡 RTX 3090 vs 云端 API):
🟢 Liquid d1-3B(本地)
· 决策 8–20 ms
· 约 82 步/秒
· 吃下 86 个苹果
· 零输出 token,一次前向出概率
🔴 OpenAI Decision(云端)
· 单次调用 ~345 ms(视频里冲到 1.8 秒)
·
Atomic Chat 实测(单卡 RTX 3090 vs 云端 API):
🟢 Liquid d1-3B(本地)
· 决策 8–20 ms
· 约 82 步/秒
· 吃下 86 个苹果
· 零输出 token,一次前向出概率
🔴 OpenAI Decision(云端)
· 单次调用 ~345 ms(视频里冲到 1.8 秒)
·
SuSu_酥酥👅@NFT_Chen · Oct 8🤯我靠!Liquid AI 把决策从大模型里单独拆出来了,本地开源能做到毫秒级延迟!在 4090 上 8 ms,Jetson 上也能实时跑,还带视觉!
Open d1 不写字,一次前向直接吐概率。分类、路由、打分、护栏,不用再让 LLM 生成 JSON 再解析。
性能亮点:
🔹 d1-3B 在 Decision Index v0.2.1 拿下 48.57,10B
Open d1 不写字,一次前向直接吐概率。分类、路由、打分、护栏,不用再让 LLM 生成 JSON 再解析。
性能亮点:
🔹 d1-3B 在 Decision Index v0.2.1 拿下 48.57,10B
Open quoted post →
10 151