过去几年,大家对 AI 的印象几乎等同「聊天机器人」:问它问题,它回你一段文字。然而,二零二六年九月十五日,一家名为 TypeSafe AI 的美国初创公司推出了一个刻意「不会聊天」的模型 Jev,发布视频在 X 上累积约四千万次观看,公司同时宣布获得四千万美元种子轮融资。Jev 的卖点很直接:在分类、分流、评分这类工作上,它的速度和成本都比一般大型语言模型优胜一至两个数量级。本文会详细拆解 Jev 是什么、与大模型有何根本分别、适合哪些企业场景、应如何评估,以及导入时需要注意的地方。
Jev 是什么?
Jev 由 TypeSafe AI 开发,创办人兼首席执行官 Diogo Almeida 曾在 OpenAI 任职约四年,参与过 RLHF、InstructGPT、ChatGPT 及 GPT-4 等研究。他离开 OpenAI 后思考的问题是:模型在聊天方面早已超越人类,为何企业的自动化仍然迟迟未能普及?他的答案是,聊天模型的设计本身并不适合让软件直接使用。于是团队用了两年时间,从模型架构、采样方法到训练方法重新设计,推出他们称为「System One 模型」的新类别,Jev 是第一个公开的型号,目前以早期测试(early access)形式开放。
名字背后的两个概念
「System One」取自心理学家 Daniel Kahneman 的著作《思考,快与慢》:人脑有快速、直觉的「系统一」,也有缓慢、深思的「系统二」。日常大部分判断其实靠系统一完成,例如一眼看出一封邮件是否垃圾邮件。Jev 就是专门处理这类快速判断的模型。至于「Jev」一名,则来自经济学家 William Stanley Jevons 提出的「杰文斯悖论」:当蒸汽机令煤的使用效率大增,煤的总需求反而上升。TypeSafe 认为 AI 也会一样,每当智能的成本下降一个数量级,就会释放出多一个数量级的应用场景。
与大型语言模型的根本分别
一般大型语言模型的输出是「文字」,而且是逐个字(token)依次生成,每个字都要等前一个字出来才能产生。文字很灵活,可以是回答、程序代码,也可以是胡言乱语;软件要使用这些输出,必须先解析和验证,而且总有机会「出轨」。Jev 的做法完全不同:它不生成文字,而是按事先定义好的答案范围,返回「结构化的值」,例如「是或否」、「甲、乙、丙其中一个」、「零至一百的分数」,并且所有答案一次过并行产生。由于答案格式事先锁定,Jev 不会出现格式错误,也不会作出答案范围以外的「幻觉」回应。TypeSafe 形容它像一个「具前沿智能的函数调用」:输入杂乱的数据,输出可以直接被程序使用的决定。
信心分数:决定能否真正自动化的关键
Jev 另一个重要特点,是每个答案都附带经过校准的概率和信心分数。这一点看似技术细节,其实直接决定一项工作能否全自动化。假设一个模型九成五的时候答对,但它不会告诉你哪一次属于答错的那五成,你就不敢让它无人看管地运作。相反,如果模型能如实表达「这次我不太肯定」,企业便可以设计一条清晰的规则:信心高的个案自动处理,信心低的个案转交人工跟进。TypeSafe 为此发展了一套称为「校准决策强化学习」(RLCD)的训练方法,目标是令信心越高的答案,准确度也越高。
速度与成本:数字有多惊人?
根据 TypeSafe 公布的资料,Jev 端到端的响应时间约为七十至五百毫秒,而前沿大模型一般需要数秒甚至更长。收费方面,输入每百万 token 为零点零四二美元,输出更是免费;相比之下,一般大模型的输入收费由每百万 token 零点二至十美元不等,输出往往再贵数倍。在该公司自设的工作流程测试中,Jev 的速度最高约为大模型的一百九十倍,成本约为四百四十分之一。值得留意的是,这些是公司自己公布的数字,而且 TypeSafe 亦坦言这属于实际效益的较高水平;企业应视之为潜力参考,而非保证。
企业可以用 Jev 做什么?
Jev 最适合「答案范围清晰、需要大量重复判断」的工作。第一是分类与分流,例如把客服查询自动派往正确部门,或把文件归入合适类别。第二是评分与排序,例如为销售线索打分、评估申请个案的风险等级。第三是内容审核,例如检查垃圾信息、不当内容或敏感数据外泄。第四是 AI agent 的「守门员」:当 AI 助手准备执行一个指令,例如删除数据库,Jev 可以即时判断这个动作是否不可逆,或者是否偏离用户原本的要求,再决定放行还是拦截。第五是即时应用,由于响应只需零点一秒左右,它可以放进游戏、模拟等对速度要求极高的场景,TypeSafe 甚至示范过用 Jev 即时操控经典游戏《Doom》。
它不适合做什么?
理解 Jev 的限制,与理解它的优势同样重要。Jev 不会写文章、不会撰写邮件、不能作开放式对话,也不适合需要长篇推理或创意生成的工作;这些仍然是大型语言模型的强项。另外,Jev 每次选择的答案选项最多约二百五十五个,选项更多时需要分阶段处理。它目前亦只处理文字形式的数据,尚未支持图像。最重要的是,Jev 仍处于早期测试阶段,长远的稳定性、价格能否持续,都需要时间验证。
老板应该如何评估与导入?
务实的做法可以分四步。第一,盘点公司现有的 AI 或人工工序,找出哪些其实只是「选择题」,例如分类、判断、评分,这些都是可以改用决策模型的候选。第二,选一个量大而规则相对清晰的工序做小型试点,例如客服查询分流,并与现有做法比较准确度、速度和成本。第三,设计好「信心门槛」:信心高于某个水平自动处理,低于水平转交人工,并定期抽查结果。第四,采用「大小模型分工」的架构,由 Jev 这类决策模型处理大量快速判断,大型语言模型只负责真正需要写作和推理的部分。这样既能大幅降低成本,也能提升整个系统的稳定性。
结语:AI 不一定要会聊天
Jev 的出现提醒我们,AI 的价值不在于它能说多少话,而在于它能否可靠地融入日常运作。企业大部分自动化需求,其实是大量细小而重复的判断,用昂贵的聊天模型处理,就好比驾驶跑车送外卖。懂得为不同工作选对工具,才是真正的 AI 策略。想了解如何为公司规划合适的 AI 架构,并把 AI 员工部署到实际业务流程,欢迎前往 ai.ud.hk 了解 UD 的 AI 员工方案。
懂AI,更懂你|UD相伴,AI不冷