推上吹的火热的 jev，是不是还不如小参数的开源模型，感觉钱都去做营销了

[SilenceLL]

跟 AI 一起读了下，暂时得出来的结论如下：

它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。

[maocat]

看了眼，或者可以叫意图识别小模型

[AdminNB]

大概看了下，只做选择和判断，看起来比较适合用来做一些审核类的场景，跟现有模型比，主要还是速度快吧

[SilenceLL]

@AdminNB 智能判断节点？做审核类还是有点不够吧

[seakingii]

小模型再快也没它这个快,目前这是 100 ms 级别的

[seakingii]

现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.

按我的了解是,一个革命性的思路,但没有什么技术门槛

[dassh]

看了下，相当于文字版本的 yolo world ，感觉确实营销过头了，你一个小模型，当然比 gpt 那些快

有人用 qwen 0.6b 模拟了一个 https://github.com/TheoLeeCJ/openjev

[muyi]

早上看到了这个开源复刻 https://github.com/TianyuCodings/NanoJev

[sillydaddy]

快思考的直觉脑～这个思路没问题吧。

[mkt]

用户：这怎么算的？
jev：你就说快不快吧

[zhmouV2]

低成本的决策模型，但是结果对不对就不知道了

[cobiao]

"System One""Typesafe""noul""RLCD"有点过度包装了,明明就是用于垂直领域的小模型. 但是,针对垂直领域的便宜又快速的小模型,这个方向的确挺看好的,国内估计很快就会有同类产品跟上.前阵子好像国内面壁和讯飞都出了很小的通用 agent,好像是 4b,没什么水花,还是国外会炒作呀.

上个月国外出了个 45M 的 mini 模型 needle2,专门用于智能家居生成结构化输出的,直接可以在浏览器里运行,速度很快,可以实时交互,我还做了一个简单 demo: https://github.com/whitefoxx/line-room 可以玩下. 前几天,needle3 也出来了,更小了,只有 37M,官网可以玩下: https://cactuscompute.com/needle

[prosgtsr]

反正我不信

[ZZITE]

适合在代码程序中结合使用，能解决某些只想要借助 AI 来根据复杂规则输出判断，并输出结构化结果，交给程序继续执行的场景。

[SilenceLL]

@ZZITE 会不会还不如直接跑小参数模型

[zhanying]

@dassh openjev 的 meme 图太难绷了

[luzemin]

主要是：准确、快速、便宜

三者任意一项不满足，就失去价值了

[seakingii]

@SilenceLL 不可能.就算是当前的小参数模型也不会在这个领域比它快. 目前的 LLM 用来决策,它是有这个功能,但是太重了.慢很多

[andyskaura]

@mkt 想到了以前的 fastjson

[seakingii]

用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题

[seakingii]

不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用