openJev

openJev - 浏览器端本地决策模型实验平台，概率直读、JSON生成与性能对比工具

openJev 简介

openJev是一个完全运行在浏览器中的决策模型实验平台，定位为“语义条件判断的本地实验场”。它允许用户选择一个本地模型（MiniCPM5 2B、Qwen3 0.6B或Qwen3.5 4B），分别以两种路径处理同一个决策问题：一种是直接读取模型对选项的概率logits并归一化，另一种是让模型以JSON文本形式逐token生成选项概率。两种方法在同一模型上顺序执行，用户可在自有GPU上测量速度与质量差异。模型权重从Hugging Face下载后保留在浏览器缓存中，输入数据不会离开页面。

openJev 核心功能/服务

概率直读与JSON生成对比：同一决策问题下，一条路径直接读取模型选项logits并归一化，另一条路径要求模型将选项概率写成JSON文本。两种方式在同一加载模型上顺序运行，避免GPU争用，用户可直观对比延迟与准确率差异。
浏览器端本地推理与隐私保护：模型通过wllama加载固定GGUF量化权重，所有推理在浏览器内完成，无后端服务器参与。权重缓存在浏览器中，输入内容不上传，适合对数据隐私敏感的实验场景。
模型质量基准与真实计时：页面展示MiniCPM5 2B、Qwen3.5 4B等模型在Authored、Perturbed与TypeSafe指标下的平衡准确率，并与已发布的Jev托管版本进行对照。所有计时（加载、预热、提示准备、直读执行、首token、生成完成）均通过performance.now()实时测量，无预制结果。

openJev 适合谁

• AI决策模型研究者与开发者：需要对比概率直读与生成式方法在结构化决策任务上效率差异的研究人员，可在本地环境中进行可复现的对照实验。
• 对本地推理感兴趣的技术爱好者：希望了解浏览器端大模型推理能力边界、体验GGUF量化模型实际表现的开发者，可无需搭建后端即可运行完整实验。
• 关注TypeSafe AI与Jev技术路线的从业者：想了解Jev所提出的“机器原生决策”理念在开源模型上能实现何种程度近似效果的技术人员，可通过该实验获得直观参考。

为什么选择openJev

openJev的差异化在于将决策模型的“概率直读”与“文本生成”两条技术路径放在同一界面中直接对比，而非仅提供单一推理结果。实验完全在浏览器端运行，无需注册或等待名单，打开页面即可选择模型开始测试。页面同时展示了已发布Jev的基准数据作为参照，帮助用户理解本地模型与托管版本之间的差距。需注意：本地直读分数仅为显示选项上的softmax，并非校准置信度；量化可能改变模型质量与速度。访问openJev官网，在浏览器中运行您的第一个决策模型对比实验。