程式相關

Jev 是什麼?不寫字、只做判斷的 AI,跟 ChatGPT、Claude 差在哪

最近很紅的 Jev 不是另一個聊天機器人,而是只負責「快速做判斷」的 System One 模型。這篇用電商客服和知識庫的例子,整理 Jev 跟一般 LLM 的差別、適合用在哪,以及容易誤會的地方。

MAP · 本文地圖

最近開發者圈很常討論 Jev。我看了一些實測和應用之後,第一個感覺是:它做的事情很像一個快速的切換器(switch)。

以前要判斷「這句話該走哪條通道」,我們會丟給 ChatGPT、Gemini 或 Claude。它們會想比較久,但對這種單純的分類題,得出來的答案其實差不多。Jev 就是專門把這一步做快、做便宜的東西。

這篇整理我理解的 Jev,以及它跟一般 AI 的差別。

三句話看懂 Jev

  • Jev 不寫字,只做判斷:你給它選項,它回答「選哪個」和「有多確定」,不會產生回覆、程式碼或解釋。
  • 最適合的工作是分流:客服意圖分類、要不要轉真人、該看哪份知識檔、該用哪個模型。
  • 它不取代 LLM,而是站在 LLM 前面:簡單的判斷交給 Jev,真正要寫回答、要推理的部分還是交給 ChatGPT、Claude 這類模型。
  • 已有大公司實際導入:Vercel 把 Agent 指令的安全審查從 OpenAI 模型換成 Jev,速度快了 5~18 倍。
  • 要搭配信心值使用:Jev 會回傳機率,信心不夠時就升級給 LLM 或真人,這才是安全的用法。
  • 小提醒:Jev 本身是 TypeSafe AI 的雲端服務,不是開源模型;開源的是社群做的路由工具和「Open Jev」復刻版。

Jev 是什麼?

Jev 是 TypeSafe AI 在 2026 年 9 月推出的模型,官方把它歸類為 System One 模型。

這個名字來自康納曼的《快思慢想》:

  • System 1(快思):快速、直覺的判斷,像看到紅燈就停。
  • System 2(慢想):慢慢推理、計算,像在解數學題。

ChatGPT、Claude 這類 LLM 比較像 System 2,什麼都能聊、能寫、能推理;Jev 則刻意只做 System 1 的事:讀懂一段文字,然後在你給的答案範圍內,快速做出判斷。

Jev 只會回答三種問題

Jev 的輸出不是一段文字,而是有型別的答案。官方把問題分成三種「原語」:

類型 問的問題 回傳什麼 客服例子
Choice(選擇) 這屬於哪一類? 你定義的其中一個選項 這則訊息是 退貨、物流、帳號 還是 其他?
Score(分數) 程度有多高? 一個數字 這位客人有多生氣?0~2 分
Noul(是非) 是不是? 0~1 的機率 這則訊息是在要求退款嗎?0.95

因為答案是固定格式,你的程式可以直接拿去 if / switch,不用再去解析 AI 寫了什麼、擔心它多講一句廢話讓 JSON 壞掉。

用電商客服來看:同一個意思,同一條通道

客人可能會這樣說:

「退貨」 「我要退貨」 「我要退錢」 「這商品不行,要退」 「東西壞了可以換嗎?」

以前用關鍵字比對,「我要退錢」可能抓不到;改用 LLM 判斷,準是準,但每一句都要等它想一下、花一次完整的 token。

用 Jev 的話,你先定義好通道:

退貨退款 / 換貨 / 物流查詢 / 帳號問題 / 其他

前面四句都會被分到 退貨退款,最後一句可能分到 換貨。接著程式就照通道走:

  • 退貨退款 → 查訂單、帶出退貨流程
  • 客人生氣分數 ≥ 1.5 → 直接轉真人
  • 信心低於 0.7 → 交給 LLM 再判斷一次,或轉真人

JEV・先秒判通道

客人訊息▶ Jev 選通道+信心值▶ 照通道跑流程

信心太低 ▶ 交給 LLM 或轉真人

大部分訊息在這一步就分流完成,不用每句都叫大模型

這就是 Jev 最擅長的事:把很多種說法,收斂成少數幾條固定通道。

Jev 跟一般 AI(LLM)差在哪?

Jev(System One) ChatGPT/Gemini/Claude(LLM)
輸出 選項、分數、是非機率 自由文字
能做的事 分類、評分、判斷 寫作、回答、推理、寫程式、呼叫工具
答案範圍 由你事先定義 開放,可能講出範圍外的東西
信心值 每個答案都附機率 通常沒有可靠的信心值
成本 只算輸入 token,輸出不收費 輸入、輸出都算,推理模型還有思考 token
輸入 目前只吃文字(上限 64k token) 多數支援圖片、檔案、語音
定位 流程裡的「分流器」 流程裡的「大腦」和「嘴巴」

價格的部分,官方目前標價是每百萬輸入 token 0.042 美元,輸出免費。對照一般 LLM 的價格,拿來做大量分類幾乎可以不用算成本。

套進知識庫流程:哪一步換成 Jev?

我自己設計知識庫客服時,會把動作拆成好幾次 AI 呼叫(細節可以看 RAG 入門那篇的兩段式 AI 路由):

  1. 判斷語意:客人在問什麼?
  2. 選知識庫:根據語意,哪幾份知識檔有用?
  3. 回答:把知識檔內容和問題一起交給 AI,產生回覆。

這三步裡,第 1、2 步本質上都是選擇題,正好是 Jev 的強項:

步驟 原本 換成 Jev 之後
1. 判斷語意 LLM 呼叫 Jev Choice:選出意圖通道
2. 選知識檔 LLM 讀目錄後選檔 Jev Choice 或對每份檔案問 Noul「這份跟問題有關嗎?」
3. 產生回答 LLM 還是 LLM,Jev 不會寫回覆

所以比較準確的說法是:Jev 能把前面的判斷步驟變快、變便宜,但最後要寫答案的那一步,還是要交給 LLM。像「退貨要附什麼?」這種問題,Jev 能幫你把它導到「退貨」通道、選出退貨規則那份檔案,但要把規則講成一段客人看得懂的話,仍然是 LLM 的工作。

如果某些通道的回覆是固定的(例如直接回傳退貨表單連結、或轉真人),那整條路可以完全不經過 LLM,這種情況省下的時間和 token 最明顯。

實際案例:Vercel 用 Jev 加速安全審查

要說 Jev 實際能省多少時間,Vercel 是很好的例子。

Vercel 內部有讓 AI Agent 執行指令的工具,而在 Agent 真的去跑一條指令之前,會先經過一道安全審查:判斷這條指令能不能執行,會不會刪錯東西、碰到不該碰的資源。這個「審查員」原本是用 OpenAI 的模型(Luna 5.6)來擔任。

問題是,Agent 每一步都要先過審查,審查員只要慢一點,整個流程就跟著卡住。而「這條指令安不安全」本質上就是一道是非題,正好是 Jev 擅長的事。

Vercel 把審查這一步換成 Jev 之後,根據 TechCrunch 和 The Next Web 的報導:

  • 這一步的速度快了 5~18 倍(以 p95 延遲來看,也就是比較慢的那 5% 請求)
  • 準確度反而比原本更好(報導沒有公布具體數字)

這個案例剛好說明了 Jev 的定位:審查員不需要會寫文章,只需要又快又準地說「可以」或「不行」。把這種卡在每一步前面的判斷交給 Jev,省下的時間會在整個流程裡一直累積。

Vercel 也在 2026 年 9 月把 Jev 上架到自家的 AI Gateway,開發者可以直接透過 AI SDK 呼叫。報導提到,上架 24 小時內就有將近 13% 的付費團隊用過它,是 Vercel 今年採用速度最快的模型。

另一種用法:讓 Jev 決定用哪個模型

除了分流客服,Jev 也被拿來做模型路由。OpenRouter 在 2026 年 9 月 25 日推出了 Jev Router:每個請求先讓 Jev 判斷任務類型和難度,再挑出夠用、又最便宜的模型。

  • 簡單的改名、格式整理 → 交給小模型
  • 困難的除錯、長推理 → 交給強模型,甚至加高推理強度

OpenRouter 自己的測試是,在四組 Agent 基準測試共 423 題中,Jev Router 完成 237 題,舊的 Auto Router 完成 130 題,多解了約 82%。社群也有人做了開源的 jev-model-router,讓 Claude Code 每一輪自動挑模型。

這跟客服分流其實是同一個概念:先用很便宜的判斷,決定後面要花多少成本。

容易誤會的地方

1. Jev 不是開源模型

Jev 是 TypeSafe AI 的雲端服務,要用 API key 呼叫。網路上說的「開源」通常指兩種東西:社群做的路由工具(例如 jev-model-router),以及模仿 Jev 做法、可以自己架的「Open Jev」復刻版。如果你的資料不能出公司,要注意這點:用官方 Jev 時,你送去判斷的文字會經過 TypeSafe 的伺服器。

2. 「結果跟 LLM 差不多」要看題目

在「退貨還是物流」這種清楚的分類題上,Jev 和 LLM 的答案大多一樣,這也是用 Jev 划算的原因。但遇到需要推理的判斷,例如「依照退貨政策第 3 條和這筆訂單日期,這位客人符不符合退款資格」,就不該只靠 Jev 一句話決定。

官方也說得很清楚:它的機率是「整體校準過的」,不保證每一個答案都對。所以實務上一定要設信心門檻,低於門檻就升級給 LLM 或真人。

3. 通道要你自己定義好

Jev 只能在你給的選項裡選。如果選項設計得模糊,例如「退貨」和「售後問題」同時存在,它也會混淆。花時間把通道定義清楚、準備一批真實客人的問句來測,比換什麼模型都重要。

4. 只吃文字

Jev 目前只支援文字輸入。客人傳商品照片說「這個壞了」,照片本身還是要先交給有視覺能力的模型處理。

什麼時候適合用 Jev?

適合:

  • 問題可以整理成固定幾個選項的分類
  • 量很大、每一次都要求快(客服、留言審核、工單分派)
  • 想在 LLM 前面加一層便宜的分流,省 token
  • 需要信心值,決定要不要轉真人

不適合:

  • 需要產生回覆、文章、程式碼
  • 需要多步推理或計算才能得出結論
  • 要處理圖片、語音
  • 資料完全不能離開公司內網(可以考慮自架 Open Jev 類型的方案)

結語:快判斷,加上慢思考

我對 Jev 的理解是:它不是要跟 ChatGPT、Claude 比誰比較聰明,而是把「判斷該走哪條路」這件事,從大模型手上拿出來。

以前我們讓一個很會思考的模型,花時間回答一個其實很簡單的選擇題;現在可以讓 Jev 先秒判通道,有把握的直接走流程,沒把握的再交給 LLM 或真人。對做客服、知識庫、LINE 機器人的人來說,這種「快判斷+慢思考」的分工,會是接下來很實用的架構。

如果你也在設計 AI 客服或知識庫流程,想交流做法,歡迎寫信給我,信箱在關於頁。


參考資料

STAGE CLEAR!

獲得 EXP +80。有問題或想看的主題,歡迎寫信告訴我。