
MedJev-4B 是醫學影像決策模型,將影像、問題及全部候選答案放進同一個 prompt。模型只運算一次便為各選項評分,再以選項編號作答,將工作集中在有固定答案範圍的影像判斷。
這個選擇直接改變了應用程式接收答案的方式。MedJev-4B 不生成 token,即逐步輸出的文字單位,因此程式毋須等待整段回覆,也不用從句子抽取答案。輸出的編號必定對應候選選項,但格式正確不代表判斷正確;需要描述病灶或交代判斷理由的流程,仍不能只靠這個輸出完成。
MedJev-4B 建基於 Qwen3.5-4B,削減的是語言處理深度。原有 32 層中,首 23 層完整保留,第 24 至 31 層刪除,最後一層只留下 query 和 key projections,即計算問題與選項匹配程度的部分。影像編碼與整合結構則維持原樣,並保留整合後的每個影像單位,避免裁剪時移除細小病灶。省下語言運算、保住影像細節,是理解這次改動的核心。
項目文件報告,在 4 個 benchmark、1 張 H20、batch size 1 的條件下,MedJev-4B 的準確率高於全部 20 個 4B 至 9B 通用及醫療模型。除最小的模型外,其餘對照模型也較慢;與 Qwen3.5-4B 相比,平均準確率高 7.93 個百分點,作答速度為其 6.04 倍。測試前會先合併 LoRA adapter,即訓練所得的模型調整部分,避免額外運算推高延遲。這些結果支持指定硬件與測試集上的優勢,不能直接當成其他設備或工作負載的速度承諾。
準備接入工作流程前,可以先核對以下邊界:
- 輸入必須附上候選答案,不能只交影像要求自由撰寫報告。
- 資料準備程式只保留有 2 至 7 個候選答案的樣本。
- 每宗樣本的所有影像都必須能解碼,參考答案亦須唯一對應一個選項。
- 輸出可直接接入選項判斷流程,但不附帶文字推理過程。
- 評測會逐例留下選項概率與延遲,方便追查錯誤集中在哪些個案。
準備好資料後,先用 scripts/prepare_data.py 建立樣本清單並核對剔除數量,再以 scripts/evaluate.sh 產生逐例 JSONL 與 summary.json。要對照公布結果,應在閒置 H20 上以 batch size 1 測試;其他硬件需求與維護節奏未有交代,正式接入前仍須量度自己的延遲與錯誤率。