SuSu_酥酥👅
@NFT_Chen
🤯我靠!Liquid AI 把决策从大模型里单独拆出来了,本地开源能做到毫秒级延迟!在 4090 上 8 ms,Jetson 上也能实时跑,还带视觉!
Open d1 不写字,一次前向直接吐概率。分类、路由、打分、护栏,不用再让 LLM 生成 JSON 再解析。
性能亮点:
🔹 d1-3B 在 Decision Index v0.2.1 拿下 48.57,10B
Open d1 不写字,一次前向直接吐概率。分类、路由、打分、护栏,不用再让 LLM 生成 JSON 再解析。
性能亮点:
🔹 d1-3B 在 Decision Index v0.2.1 拿下 48.57,10B
SuSu_酥酥👅@NFT_Chen · Oct 7🔥炸裂实测!四个决策模型比拼,同一页维基百科「Spider」,谁先撕出“点名蜘蛛”的链接?
本地 Laya 直接开启碾压模式:
🔵Laya(本地 / M5 Max):23 finds,约 34ms/条,检查量约云端 3 倍 ⚪️OpenAI Decisions(云端):9 finds 🟣Jev(云端):9 finds 🟠Clef-Flash(本地):5 finds
本地 Laya 直接开启碾压模式:
🔵Laya(本地 / M5 Max):23 finds,约 34ms/条,检查量约云端 3 倍 ⚪️OpenAI Decisions(云端):9 finds 🟣Jev(云端):9 finds 🟠Clef-Flash(本地):5 finds
7 72