Dataset 數據集

NaviDC-OCR：1.2B 參數文檔 VLM，統一處理相機與數碼文件

2026 年 8 月 18 日

NaviDC-OCR 把文件理解收斂到一個輕量 Vision-Language Model（VLM）流程，對掃描件和手機拍攝文件都能一起處理。它的重點不只在識別文字，還在版面、表格與公式之間的結構還原。

NaviDC-OCR 是一個輕量級 Vision-Language Model（VLM），專門處理 document understanding，也就是把文件內容、版面和結構一併讀出來。它最實際的價值，在於同時應付 digital documents 和 camera-captured documents，尤其適合文件拍攝角度不正、透視變形或版面較複雜的情境。

這個項目已釋出模型權重與 technical report，使用方式偏向直接載入 Hugging Face 上的模型做推理或再訓練，而不是一套獨立應用程式。它的訓練流程結合 Multi-node Consensus Voting（MCV）、Image-to-Image Self-Verification，以及 progressive four-stage training，顯示作者把大量標註成本轉移到自動化資料整理與驗證。

1.2B 參數，定位是輕量部署而非堆大模型。
同時面向掃描文件與相機拍攝文件，覆蓋範圍比只做單一路徑的做法更廣。
Geometry-aware Document Modeling 與 Curvature-Guided Douglas-Peucker Sampling（CGDP）主要針對彎曲、傾斜和變形頁面。
Content-Structure Decoupled Learning 令表格與公式的內容和結構分開學，較適合複雜文件。
作者聲稱在多個 benchmark 上有強表現，但具體部署成本仍要視推理框架與硬件而定。

和不少只偏重 OCR 文字抽取的做法相比，NaviDC-OCR 更像是把「看懂文件」放在第一位：它不只要讀字，還要保留版面關係與幾何資訊。這會令它在企業文件處理、票據整理、表格抽取、學術文件解析，或者手機拍照掃描的工作流裡更有用，但它仍然是研究型模型，落地時要留意速度、記憶體與實際文件分佈是否接近訓練資料。

GitHub · 模型

Categories: 開源, 視覺模型, 多模態模型, 模型訓練, Qwen, Image, Dataset 數據集

HRM-Text 把基礎模型預訓練門檻壓到千美元級

2026 年 8 月 18 日

想自己預訓練文字模型，通常先被算力同數據成本勸退。HRM-Text嘗試把呢道門檻大幅壓低，連完整訓練流程都一併開放。

最值得留意的地方，不是又多一個 1B 級文字模型，而是有人把「由零開始預訓練 foundation model」整理成一個可落地的開源項目。HRM-Text 屬於模型加訓練框架類型，處理的是中小團隊想自建文字生成模型時，算力、數據量同工程門檻都過高的問題。

它採用 Hierarchical Recurrent Model（HRM）架構，並加入 task completion 同 latent space reasoning，重點不是單純追更大參數，而是用 hierarchical recurrent architecture、PrefixLM sequence packing、FlashAttention 3 同 PyTorch FSDP2，把預訓練成本壓到傳統做法的 130 至 600 倍更低算力需求，以及 150 至 900 倍更低數據需求。呢個取捨很鮮明：換來的不是萬能部署環境，而是一條偏向研究與訓練端、對 Hopper-class GPU 仍有明確要求的路線。

部署同測試方式亦算完整。儲存庫已包含 training、checkpointing、evaluation，同 checkpoint 轉成 Hugging Face Transformers 格式的工具，配合 companion 的 data_io 管線準備 tokenized data 後，就可以按單節點或多節點方式開跑；不過 native Transformers 支援要等下一個 release，native vLLM 支援亦仍在進行中，所以現時較適合想重現訓練流程、驗證成本結構，或者研究 HRM 架構本身的團隊。

參考跑分不算保守：0.6B 版本用 8 張 H100、約 50 小時，GSM8k 有 77.6%，MATH 51.2%；1B 版本用 16 張 H100、約 46 小時，GSM8k 提升到 84.7%，MMLU 60.7%，ARC-C 81.9%。呢啲數字未必代表它已經適合所有產品化場景，但足以證明這條路不是紙上談兵，尤其對大學實驗室、國家語言模型計劃，或者想為小語種、自有語料建立 base model 的團隊，有相當現實的吸引力。

把 foundation model 預訓練成本壓到約千美元級，重點在完整流程而不只是一個模型權重
同時提供訓練、評估、checkpoint 轉換工具，方便重現與延伸研究
目前較依賴 H100 等 Hopper-class GPU，部署彈性未算完全成熟
適合研究機構、語言科技團隊，同要自建基礎模型能力的項目
原生 Transformers 與 vLLM 支援仍在補齊，短期內較偏訓練端使用

項目主頁 · GitHub · 模型

Categories: 開源, 模型, 多模態模型, 模型訓練, Python, Dataset 數據集

LittleLearner 把語言模型的知識邊界控制在小學五年級

2026 年 8 月 18 日

LittleLearner 透過受控課程資料訓練模型，研究能力究竟來自學習，還是只是被提示引出。

模型能否回答問題，不一定代表它真正學過相關知識。LittleLearner 將語言模型（Language Models，LMs）的預訓練資料限制在美國小學 K–5 課程，建立一個可觀察知識邊界的研究沙盒，讓研究者分辨能力是從資料中獲得，還是只是在提示下被引出。

項目的核心是 LittleCurriculum，一個由 FineWeb-Edu 蒸餾而成、約 880 億個 token 的語料庫。資料經過五階段篩選，並按照 Common Core standards 對齊，明確排除五年級以上教授的概念、事實和詞彙；模型則從零開始訓練，並配備使用相同架構、token 數量和訓練配方的 Unfiltered control，方便作出乾淨比較。

LittleLearner 提供 0.6B、1.3B 和 5B 三種規模，另有 Base、GRPO 及 Chatty 版本。研究測試 scaling、SFT+GRPO post-training 和 in-context learning 後發現，這些方法可以放大課程範圍內的能力，卻未能明顯提升範圍以外的表現，顯示預訓練資料可能設定了有效能力上限。

重點包括：
– 88B-token LittleCurriculum 將知識暴露範圍控制在 K–5 課程
– 三種模型規模均設有匹配的 Unfiltered control
– scaling 可改善課程範圍內表現，外推能力只有限度增加
– SFT+GRPO 和 in-context learning 未能突破知識邊界
– 網頁提供 5B 模型的瀏覽器聊天介面、Dataset 和 Model checkpoints

對研究模型能力來源、知識遷移和 post-training 效果的人，LittleLearner 提供了較容易重現和比較的實驗基礎；對一般使用者而言，瀏覽器內的 live chat 則可直接感受一個受控知識範圍模型的回答方式。

項目主頁 · 模型

Categories: 開源, 模型, 模型訓練, Dataset 數據集, Skill 技能

S²VOPD 讓小模型看少一點，Qwen3.5-4B 反而看得更準

2026 年 8 月 18 日

S²VOPD 透過削弱學生模型的視覺資訊，在零標註下提升細粒度感知與數學推理表現。

小模型面對圖片時，減少它能看到的資訊，竟然可以帶來更好的學習訊號。Self-Supervised Visual On-Policy Distillation（S²VOPD）是一種視覺模型訓練方法，透過讓學生模型觀看低解析度、加入隨機 Gaussian noise 的圖片，處理沒有標註、獎勵或更強教師模型可用的限制。

訓練期間，學生模型會根據受干擾的圖片產生回答；採用 Exponential Moving Average（EMA）的教師模型則以原始圖片評分相同的生成前綴，再利用 top-k generalized Jensen-Shannon divergence（JSD）把較完整的 token 分佈傳給學生。教師與學生之間的資訊差異，來自學生少看一點，而不是額外加入 privileged information。

• Qwen3.5-4B 在六項細粒度感知基準的平均準確率，由 70.7% 升至 77.4%
• 4B 模型表現高於 Qwen3-VL-Instruct-235B 的 75.8% 和 GPT-5.4 的 72.8%
• 不需要 labels、rewards、region annotations 或更強教師模型
• 4B 同時提升感知表現 5.7% 和數學推理 3.7%

S²VOPD 使用學生視角縮放至原圖 0.3 至 0.6 倍，並加入 stochastic Gaussian noise。結果顯示，這種做法不只改善視覺感知，也能避免部分 privileged-information 方法在數學推理上的退步；例如 Oₚₛd 和 ZwZ 在部分 MathVision、MathVerse 測試中出現明顯下降。

這項方法較適合研究小型多模態模型訓練、視覺推理和自監督學習的讀者。現有結果集中於六項細粒度感知基準及數學推理測試，能否穩定延伸至其他資料、模型架構和更複雜影像任務，仍需要進一步驗證。

項目主頁

Categories: 開源, 模型訓練, Qwen, Image, Dataset 數據集

MobileMem 把手機長期記憶放入真實場景測試

2026 年 8 月 18 日

手機助手要記住一年的生活，難點不只是搜尋資料，更要理解跨應用、跨模態的長期脈絡。

手機助手若要回答「女兒七歲生日有哪些照片」或核對過敏藥物，單靠短對話記憶很快會失準。MobileMem 屬於端側長期記憶（on-device long-term memory）的評測框架與資料集，將一年手機經歷整理成可重現的測試環境，檢驗記憶系統能否跨應用保留、連結及找回重要資訊。

它涵蓋 365 天、12 個應用程式，以及每位使用者平均 1.72M tokens 的資料規模，來源包括對話、日曆、筆記、瀏覽紀錄和相片等異質內容。與只測單輪問答或獨立文件檢索的做法相比，MobileMem 更接近長期使用情境，但同時令資料整理、隱私處理和推理成本變得更複雜。

資料分為兩條 benchmark track：text 供文字記憶系統處理長期對話與結構化 mobile-app events；omni 則加入 screenshots 和 photos，測試多模態記憶。它本身不是模型，而是用來比較不同 memory systems、分析失敗原因及建立 leaderboard 的測試基礎。

支援文字與多模態兩類測試
涵蓋跨應用、長期且知識密集的 mobile agent trajectories
可從 HuggingFace 下載資料集
Dataset Explorer branch 提供互動式資料瀏覽
現有資訊未列出具體模型分數，需查看 leaderboard 或自行重跑測試

研究人員可先下載 HuggingFace 資料集，按 text 或 omni 軌道接入自己的記憶模型，再利用網站和 Dataset Explorer 檢查案例。適合開發 mobile agents、personalized assistant、長期 RAG 或 multimodal memory 的團隊；涉及健康紀錄、家庭相片等私人內容時，仍要自行確認資料授權、匿名化和端側部署要求。

項目主頁 · GitHub

Categories: 開源, Agentic, RAG, 多模態模型, Medical醫學, 中國, Dataset 數據集

HumanTracker 想解決人形動作評測失真

2026 年 8 月 18 日

影片睇落穩唔穩，未必等於關節誤差低。HumanTracker把人類偏好納入評測，補回人形動作追蹤最常被忽略的一段。

只看關節角度誤差，往往會把腳滑、落地時機錯、支撐不穩這些觀感上很明顯的問題沖淡。HumanTracker屬於資料集加評測工具類型，核心不是再做一個追蹤模型，而是替 humanoid motion tracking 建立更貼近人眼判斷的 benchmark，讓 teleoperation 與 whole-body imitation 的結果不只「數值過關」，影片也更可信。

它的價值在於同時補兩個缺口：一邊擴大測試覆蓋，另一邊重寫評分方法。項目收錄約 153 小時光學動作資料、來自 24 位專業表演者，整理成四類動作家族，專門拉開日常步態、高動態、互動動作與接地穩定性之間的差異；再用 12K human-labeled preference pairs，訓練出偏好對齊的 HumanScore，去判斷哪條 tracker trajectory 更接近人會接受的效果。

跟 MPJPE 這類逐幀 kinematic 指標相比，HumanScore 重點不在每一幀有幾準，而在整段軌跡有沒有出現長時間滑步、抖動、漂移與失去平衡。官方提供的結果顯示，HumanScore 在測試集對人類偏好的對齊率達 90.83%，比較強的傳統診斷指標高 6.78 分；README 亦保留 Succ、MPJPE 與 HumanScore 幾種分數，代表它不是取代舊指標，而是把「物理上站不站得住」這件事補回評估流程。

約 153 小時新採集 optical motion，涵蓋 25K 級別標註片段
HumanScore 來自 trajectory reward model，學的是人對整段動作的偏好
儲存庫提供 evaluation harness、HumanScore reward model 同數據處理工具
適合做人形機械人追蹤、模仿學習、teleoperation 評測的研究團隊使用

這個 GitHub 儲存庫比較像研究評測基建：重點是下載資料集、跑 evaluation harness、再用 HumanScore 與傳統指標一起看結果，而不是即開即用的終端產品。受益最大的會是做人形控制、動作追蹤與模仿策略比較的團隊，因為它能幫你分辨模型究竟只是把姿勢角度擬合得好，還是真的把接觸、穩定與動作連貫度處理好。限制也很明確：它主要提升的是評測可信度，不等於直接改善 tracker 本身能力。

項目主頁 · GitHub

Categories: 開源, 北京大學, 清華大學, World-Action Model, Dataset 數據集

RA-Bench 直指危機假影片檢測盲點

2026 年 8 月 17 日

危機事件影片最麻煩之處，不是合成得花巧，而是看起來太像真。RA-Bench把檢測器拉回真實傳播場景，專門測試這個落差。

RA-Bench: Can we defend against generated crisis videos?

當一段災難、戰事或公共事故影片本身已有真實事件做錨點，檢測器往往無法只靠內容違和感分辨真偽。RA-Bench屬於影片檢測基準資料集，針對的正是 AI 生成危機影片貼近真實新聞片段後，現有偵測方法還能否守得住。

它的做法有一個關鍵判斷：不再拿脫離情境的合成片去測，而是把真實危機影片與對應生成版本配對，並且涵蓋四個開源與五個閉源生成器。資料規模有 17,886 段影片，當中包括 1,830 段 real anchors、16,056 段生成片，另設 RA-Bench-HumanProof 與 RA-Bench-LastMile，前者收錄連人工審查者都一致誤判為真的 633 段影片，後者再測試影片經過連續傳播處理後，檢測器會否失準。

這個項目把「像真」、「會誤導人」、「經社交傳播後失真」三件事放在同一套測試裡。相對於只看配對樣本的資料集，它多了一層來源泛化與傳播鏈穩健性的要求；代價是資料權限較複雜，完整版本有部分 real anchors 只提供原始 URL，未必人人都能直接重跑 full 軌道。

public-media 只評估可重新分發的真實錨點配對，較適合公開重現與初步比較
full 依照完整論文清單評估，也要求處理只提供 URL 的真實來源
Hugging Face 釋出公開媒體約 93.8 GB，生成影片完整提供，真實素材則經權利審核後部分保留來源連結
評估採用 source-matched evaluation，會把每個生成來源放回其對應真實錨點脈絡判斷

對做影片鑑識、內容審核、新聞驗證與多模態安全研究的團隊，RA-Bench的價值很直接：它不是教模型辨認「很像假片的假片」，而是逼它面對會在人類審查與傳播流程中混過去的片段。限制也同樣清楚，這仍是 benchmark，不是現成檢測器；要得出可比較結果，仍要先準備預測輸出、下載資料，並處理部分真實來源無法重分發的存取條件。

項目主頁 · GitHub

Categories: 開源, 香港科技大學, 多模態模型, OpenAI, Video, Dataset 數據集

Qwen3.8-2.4T-A95B 超大型開放權重文字推理模型

2026 年 8 月 14 日

Qwen3.8 把 Qwen-Max 級別能力帶到開放模型，強項不只是答題，而係更穩定完成多步驟工作。

Qwen3.8-2.4T-A95B 把 Qwen-Max 級別的能力開放出來，而且明確建基於 Qwen3.5 的架構底層，BF16 safetensors 格式及1M上下文。定位上屬於 Causal Language Model，面向文字生成、編程、研究工作與長流程 Agentic 任務；相比只追求單輪回答，它更著重規劃、接收環境回饋，以及把多步驟工作做完。

Qwen3.8-2.4T-A95B 的核心規格相當進取：總參數 2.4T（2.4 trillion）參數，但每次啟動 95B，屬於典型大型 Mixture of Experts（MoE）路線，用較高總容量換取較可控的推理成本。模型經過 Pre-training 與 Post-training，並採用 Qwen3.5 架構延伸而來的層設計，包括 Gated DeltaNet、Gated Attention 與 MoE 組合，重點不是單純堆大，而是提升長鏈推理與任務完成的穩定性。

Qwen3.8-2.4T-A95B 主要來自兩個控制點：reasoning_effort 可調整推理深度，preserve_thinking 可保留歷史訊息中的 reasoning context。這代表它比較適合需要反覆修正、逐步執行的工作流，而唔係只看一次輸出的場景。頁面亦提到它對常見 harness 與開發工具有更廣泛支援，模型檔案可配合 Transformers、vLLM、SGLang、TokenSpeed 等推論堆疊。

基礎模型可確認是建基於 Qwen3.5 architectural foundation。
已知開放的是 Hugging Face Transformers 格式的 post-trained 權重。
官方另有 Qwen3.8-Max 版本，功能更多，包含 vision input、non-thinking support、內建工具，以及預設 1M context length；但這些能力屬於官方服務版本，不應直接視為此頁權重全部具備。
從已公開資訊看，它的優勢在於長流程 Agent 執行與專業工作可靠度提升；限制是硬體需求、完整上下文長度與量化部署細節未在此頁交代，離本地輕量部署仍有距離。

跟一般只強調 benchmark 分數的模型相比，它更強調任務完成率、規劃能力與工具鏈兼容性。由於缺少量化版本、推理記憶體需求與更完整評測數字，現階段較適合把它理解成面向高階推論服務與大型基建環境的開放權重，而不是即插即用的本地模型項目。

模型

Categories: 開源, Agentic, 模型訓練, Qwen, API, LLaMa, Ollama, 編程, Dataset 數據集

GLM-5.3 強化程式與安全分析能力

2026 年 8 月 14 日

GLM-5.3 把重點放在寫程式、做 agent 同安全分析，並沿用 GLM-5.2 的架構與參數量。它同時帶來更強的開發表現與漏洞發現能力。

GLM-5.3 走的是實用取向，重點放在複雜軟件工程、agent 工作流同 cybersecurity。對要處理程式審查、漏洞發現、工具調用，或者生成較完整應用的團隊來講，它提供的是更穩定的能力提升，而不只是加大模型規模。

Z.ai 亦將它定位為旗艦模型，並強調 GLM-5.3 同 GLM-5.2 用同一個 base model，改進主要來自 post-training。這代表它嘅提升集中喺後訓練階段，而唔係重新改架構；同時，Open-Source Shield initiative 亦反映出它想推廣防禦型用途，並限制高風險濫用。

在 Z.ai Code Bench 上，GLM-5.3 較 GLM-5.2 有 50% 的編碼提升。
在 Terminal-Bench 3.0 同 Agents’ Last Exam (CLI) 上，取得開源 SOTA 成績。
在 CyberGym 上達到 SOTA，漏洞發現能力明顯加強。
在 exploit benchmarks 上，表現超過 GLM-5.2 一倍以上。
它支援 1M context length 同 128K maximum output tokens，適合長流程任務。

官方亦列出多種能力，包括 Thinking Mode、streaming output、function calling、context caching、structured output 同 MCP，方便接入外部工具同資料源。對要做長對話、複雜任務編排，或者把模型接入現有系統嘅使用場景，這些功能比單次問答更有實際價值。

文中提到，GLM-5.3 在 coding、frontend design、backend logic、simulations 同 complex app generation 都有明顯進步；在 KingBench 3 上得分 73/80，即 91.25%，排到第 1。整體來看，佢更像一個偏向開發同防守用途的強力開源模型，而唔係只靠單一 benchmark 造勢的版本。

項目主頁

Categories: Agentic, MCP, API, 編程, Dataset 數據集

Mechanist：把整個科研鏈串起來

2026 年 8 月 14 日

Mechanist 把模型內部機制研究串成一條自動化流水線，從文獻檢索到實驗驗證都能接手。對做可解釋性、假設檢驗同 GPU 實驗的人，相當有價值。

Mechanist 係一個面向 LLM mechanistic interpretability 的 Autonomous Research Agent，重點唔係幫你寫報告，而係幫你把研究問題拆成可驗證的實驗流程，再逐步產出有證據支撐的結論。它適合需要反覆查文獻、提假設、跑 GPU 實驗、再做 robustness validation 的工作，特別係做模型內部機制分析嘅研究人員同團隊。

使用方式偏向研究工作流而唔係單點工具：先準備 task.md，再喺 Claude Code 入面啟動 /auto，系統會接住做 literature retrieval、hypothesis formulation、experiment implementation 與 execution。項目同時提供 /msearch 同 /mhistory，方便查文獻同追蹤主題脈絡；安裝資料提到要配合 Claude Code、uv，同埋設定 external review model，但 README 亦提到詳細步驟要參考 Quick Start，同時未有完整列出所有命令細節。

它的取捨幾清晰：比起只做文獻整理或者只跑單次實驗，Mechanist 會把整個研究鏈條串起來，仲會喺 GPU budget 內自動縮放實驗規模，唔夠資源時會直接停低並回報。這種做法令佢更像一個可執行的研究夥伴，而唔係純粹的查詢介面。

支援把研究問題轉成可重複驗證的實驗流程
會做文獻檢索、假設生成、實驗執行同穩健性檢查
GPU budget 係硬限制，資源不足會明確停機回報
適合做 mechanistic interpretability、模型分析同研究自動化的人
目前以 Claude Code plugin 形式提供，Codex 支援屬於後續方向

項目主頁 · GitHub

Categories: 開源, Agentic, Anthropic, Dataset 數據集

Page 10 of 29

« Previous 1 … 8 9 10 11 12 … 29 Next »