开源模型Laya迅速崛起，超越Jev引发热议

近日，Jev模型在开发者圈内引发了热烈讨论。有网友指出，Jev虽然表面上只是一个分类器，但却展现了零样本的能力，并具备接近当前最先进模型的智能水平。这使得许多曾被忽视的传统机器学习方法值得重新探讨。Karpathy对此评价称，Jev处于大语言模型的帕累托最优位置，满足了一类长期被低估的需求，这些任务并不需要模型进行复杂思考，只需输出单个token，便能在低延迟的条件下做出可靠判断。

随着Jev的走红，一个名为Laya的开源多语言决策模型也备受关注，网友称之为“开源版Jev”。目前，Laya在Hugging Face的热门榜单上名列前茅，并出现了多个本地部署版本。Laya的显著特点是支持本地运行，社区项目laya-mlx将其移植到MLX并进行了性能优化。据开发者介绍，该模型在设备上运行时最高占用约1GB内存。在M3 Max上运行贪吃蛇游戏时，决策速度可达到每秒60次，Core ML版本在速度基本不变的情况下，功耗最高降低了64%。

社区的一项对比测试显示，421M版本的Laya与云端的Jev 1.13.0在同一套typed decision中表现截然不同：Laya在30秒内获得46分，决策平均速率为每秒86.5次，P50延迟约为9毫秒，而Jev得分仅1分，决策速率仅为每秒3.2次，API响应时间约317毫秒。另一组M5 Pro的测试结果表明，二者的中位耗时分别为15.3毫秒与298.1毫秒，差距近20倍。 球友会

在俄罗斯方块的测试中，网友atomic.chat称，Laya在16GB MacBook Air上的决策速度是云端Jev的11倍。这些结果反映出两者在部署方式上的差异：Jev每一步都需向云端发送请求并等待返回，而Laya能够直接在本地完成推理，因此在像贪吃蛇和俄罗斯方块这样的高频交互任务中，几十到几百毫秒的延迟差异足以影响最终表现。有网友调侃称“上线三天的开源Laya战胜了发展两三年的Jev”，“Jev的护城河只维持了两天”。

Jev与Laya的竞争展示了大模型领域的另一种发展路径，行业的关注不仅仅在于更复杂的推理和长时间的思考，单步决策、低延迟及本地运行同样存在着真实需求。