{"notes":[{"id":"model-evaluation/linguistic-crutch","category":"model-evaluation","legacyPath":"","legacySlug":"","legacyPaths":[],"title":"Linguistic Crutch","subtitle":"腦補的代價","author":"Z. Yuan","paperDate":"2026-01-07","publishedOn":"2026-02-21","paperTitle":"Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR","paperUrl":"https://arxiv.org/abs/2601.03714","bibliography":{"title":"Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR","authors":["Yunhao Liang","Ruixuan Ying","Bo Li","Hong Li","Kai Yan","Qingwen Li","Min Yang","Okamoto Satoshi","Zhe Cui","Shiwen Ni"],"url":"https://arxiv.org/abs/2601.03714","pdfUrl":"https://arxiv.org/pdf/2601.03714v2","codeUrl":null,"preprint":{"id":"2601.03714","submittedOn":"2026-01-07","url":"https://arxiv.org/abs/2601.03714"},"publication":null,"citation":"@misc{modelevaluationlinguisticcrutch2026,\n  title = {{Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR}},\n  author = {Yunhao Liang and Ruixuan Ying and Bo Li and Hong Li and Kai Yan and Qingwen Li and Min Yang and Okamoto Satoshi and Zhe Cui and Shiwen Ni},\n  year = {2026},\n  eprint = {2601.03714},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/2601.03714}\n}\n","citationPath":"/content/papers/citations/model-evaluation/linguistic-crutch.af1f73a098b5.bib"},"thumbnail":{"src":"/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png","width":644,"height":300},"locale":"zh-hant","path":"/content/papers/zh-hant/model-evaluation/linguistic-crutch.eaf147d2fdb2.md","headings":[{"id":"定義問題","text":"定義問題","depth":2},{"id":"解決問題","text":"解決問題","depth":2},{"id":"讓影像條件保持一致","text":"讓影像條件保持一致","depth":3},{"id":"三種破壞方式","text":"三種破壞方式","depth":3},{"id":"另外兩個測試","text":"另外兩個測試","depth":3},{"id":"討論","text":"討論","depth":2},{"id":"句子一旦沒有意思","text":"句子一旦沒有意思","depth":3},{"id":"單字一旦不像單字","text":"單字一旦不像單字","depth":3},{"id":"其他模型呢","text":"其他模型呢？","depth":3},{"id":"問答與長上下文","text":"問答與長上下文","depth":3},{"id":"讀這篇時要知道的事","text":"讀這篇時要知道的事","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{},"guide":null,"relatedReading":[{"id":"deepseek/deepseek-ocr","relation":"citing","topic":""}]},{"id":"deepseek/deepseek-ocr","category":"deepseek","legacyPath":"","legacySlug":"","legacyPaths":[],"title":"DeepSeek-OCR","subtitle":"一圖勝千言","author":"Z. Yuan","paperDate":"2025-10-21","publishedOn":"2026-03-09","world":"external/deepseek-ocr","paperTitle":"DeepSeek-OCR: Contexts Optical Compression","paperUrl":"https://arxiv.org/abs/2510.18234","bibliography":{"title":"DeepSeek-OCR: Contexts Optical Compression","authors":["Haoran Wei","Yaofeng Sun","Yukun Li"],"url":"https://arxiv.org/abs/2510.18234","pdfUrl":"https://arxiv.org/pdf/2510.18234v1","codeUrl":"https://github.com/deepseek-ai/DeepSeek-OCR","preprint":{"id":"2510.18234","submittedOn":"2025-10-21","url":"https://arxiv.org/abs/2510.18234"},"publication":null,"citation":"@misc{deepseekdeepseekocr2025,\n  title = {{DeepSeek-OCR: Contexts Optical Compression}},\n  author = {Haoran Wei and Yaofeng Sun and Yukun Li},\n  year = {2025},\n  eprint = {2510.18234},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/2510.18234}\n}\n","citationPath":"/content/papers/citations/deepseek/deepseek-ocr.66e8e5a7db8d.bib"},"thumbnail":{"src":"/content/papers/assets/6f53ecfe63f39804454a69ef4468c93e8018fa1afbe08d1bb52b7e8d52d194c3.png","width":1288,"height":350},"locale":"zh-hant","path":"/content/papers/zh-hant/deepseek/deepseek-ocr.d61cee3b4441.md","headings":[{"id":"定義問題","text":"定義問題","depth":2},{"id":"解決問題","text":"解決問題","depth":2},{"id":"整體架構","text":"整體架構","depth":3},{"id":"跟著一頁-10241024-的影像走一次","text":"跟著一頁 1024×1024 的影像走一次","depth":3},{"id":"解碼器從壓縮的表示把字還原","text":"解碼器：從壓縮的表示把字還原","depth":3},{"id":"資料與訓練","text":"資料與訓練","depth":3},{"id":"討論","text":"討論","depth":2},{"id":"壓縮比實驗fox-上的-100-頁","text":"壓縮比實驗：Fox 上的 100 頁","depth":3},{"id":"實際文件omnidocbench","text":"實際文件：OmniDocBench","depth":3},{"id":"光學壓縮與遺忘","text":"光學壓縮與遺忘","depth":3},{"id":"發布後的討論","text":"發布後的討論","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{},"guide":null,"relatedReading":[{"id":"model-evaluation/linguistic-crutch","relation":"referenced","topic":""}]}],"text":"2025 年 10 月的 DeepSeek-OCR 宣稱，一頁英文文件的文字 token 只要不超過視覺 token 的 10 倍，就能以約 97% 的精確度讀回來；壓縮到 20 倍，還有約 60%。不少人因此期待，影像也許能拿來壓縮 LLM 的長上下文。\n\n這篇論文的作者想問一個更基本的問題：那些分數，到底有多少來自影像？\n\n題目直譯是「視覺上的實力，還是語言的拐杖？」。DeepSeek-OCR 的解碼器是一個語言模型，它本來就知道英文通常怎麼寫。視覺 token 不夠清楚時，它很可能依前後文把缺的字補上，用網路上的說法，就是**腦補**。補得對，分數就高。\n\n這篇由中國科學院成都計算機應用研究所、日本東北大學等單位的研究者提出，2026 年 1 月 7 日上傳 arXiv，本文依隔天更新的 v2 閱讀。目前是預印本。\n\n\n> [!TIP]\n> \n> **語言先驗是什麼？**\n> \n> 先驗（prior）指的是看到證據之前就有的預期。語言模型讀過大量文字，知道「has already been」後面常接過去分詞，也知道「Speaker」比「Squeaker」常見。\n> \n> 讀字時，模型同時用兩種線索：影像上的筆畫，以及這種「通常會出現什麼」的預期。這篇論文想把兩者拆開來量。\n\n\n## 定義問題\n\n要量語言先驗的貢獻，最直接的辦法是把語言的規律拿掉，影像其他條件維持不變，看分數掉多少。\n\n作者列了五個研究問題：\n\n1. 句子層級的語意破壞，對 DeepSeek-OCR 有什麼影響？\n2. 單字層級的破壞呢？包括字母交換、整個打亂，以及完全隨機的字串。\n3. 這種依賴是 DeepSeek-OCR 獨有，還是其他 OCR 與 VLM 也有？\n4. 在問答與看圖問答上，DeepSeek-OCR 能保留多少語意？\n5. 光學壓縮在多長的上下文會失效？\n\n## 解決問題\n\n### 讓影像條件保持一致\n\n基準是 Fox 的 112 頁英文文件，標準答案的長度在 600 到 2,500 個 token 之間。\n\n作者沒有直接比較原始掃描頁和擾動後的頁面，因為兩者的字體、版面都不同。他們先把標準答案重新渲染成乾淨的圖片，稱為 **text2png**，當作基線；所有擾動版本也用同一套流程渲染。這樣一來，影像上唯一的差別，就是字母的排列。\n\n### 三種破壞方式\n\n**句子層級**：把關鍵名詞、動詞與片語，換成拼法像英文、但沒有意義的詞。例如：\n\n> has already been published in other issues of the Speaker, it won't all be repeated here.\n\n被改成：\n\n> has already been breadboxed in other whispers of the Squeaker, it won't all be rebound here.\n\n字形和版面都還在，句意沒了。\n\n**單字層級**：隨機挑 5% 或 10% 的單字。\n\n- **Swap**：交換單字裡的兩個字母，例如 already 變成 ayreadl。字的結構大致還在，語言知識修得回來。\n- **Shuffle**：整個單字的字母打亂，例如 repeated 變成 eepetadr。字母分布相同，結構全毀。\n\n**零先驗**：整份文件換成 2 到 10 個隨機大小寫字母組成的「單字」，長度分布和原文相同。這裡完全沒有詞彙或語法可以依靠，作者稱它是 OCR 系統的「吐真劑」。\n\n### 另外兩個測試\n\n- **問答**：替每頁 Fox 文件標註三題事實型選擇題，比較 DeepSeek-OCR 看圖作答（VQA）、把文字直接交給語言模型作答（QA），以及其他 3 到 8B 的 VLM。\n- **上下文長度**：請 GPT-5.1 寫五篇各約 5,000 字的英文故事，重複串接到約 20,000 個 token，再切成 500 到 20,000 個 token、每 500 一級的 40 段，渲染成文件圖片，讓 DeepSeek-OCR 的四種模式去讀。\n\n## 討論\n\n### 句子一旦沒有意思\n\n[![上方是一般句子，DeepSeek-OCR 正確讀出；下方是被替換成 breadboxed、whispers、Squeaker、rebound 的句子，模型輸出 rebroadcast、Square 等常見字](/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png)](/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png)\n\n*原論文 Figure 1，取自 [**v2 PDF 第 1 頁**](https://arxiv.org/pdf/2601.03714v2#page=1)。上方為一般輸入，下方為語意破壞後的輸入；右側黃色標示模型改寫的字。*\n\n先看下方那一列。圖片上清楚印著 Squeaker，模型輸出 Square；breadboxed 和 rebound 都被寫成 rebroadcast。這些輸出都是真正的英文單字，句子讀起來也比原文通順。\n\n把 112 頁的平均精確度放在一起：\n\n| 模式（視覺 token） | text2png | 句子破壞 | 下降 |\n| --- | ---: | ---: | ---: |\n| Tiny（64） | 88.00 | 76.75 | 11.25 |\n| Small（100） | 95.23 | 91.56 | 3.67 |\n| Base（256） | 97.93 | 97.31 | 0.62 |\n\n*表：原論文 Table 1 的平均值（%）。*\n\n視覺 token 越少，掉得越多。給到 256 個 token，句子有沒有意思幾乎不影響結果；只有 64 個時，掉了 11 個百分點以上。\n\n### 單字一旦不像單字\n\nSwap 與 Shuffle 的結果在同一個方向。破壞 10% 的單字時，Tiny 模式平均分別下降 9.89 與 11.30 個百分點。Shuffle 傷得比 Swap 重，作者認為這說明模型依賴正常的字母順序來解碼。\n\n個案看得更清楚：\n\n| 情境 | 輸入 | 輸出 |\n| --- | --- | --- |\n| Swap | has ayreadl | has already |\n| Shuffle | it won't all be eepetadr here. | I won't be all expected here. |\n| 零先驗 | EYuoV qUtjpy pWxZCks | E'vuol u'qtippy piwZckus |\n\n*表：原論文 Table 5 節錄。*\n\n前兩列，模型像一個自動校正器，把怪字改成通順的英文。最後一列沒有任何可以「改正」的方向，模型硬把隨機字母拼成像音節的東西，結果既不是原文，也不是單字。\n\n零先驗的平均精確度：Tiny 19.84%、Small 42.12%、Base 61.70%。和 text2png 相比，Tiny 掉了 68 個百分點，Base 也掉了 36 個。\n\n### 其他模型呢？\n\n[![兩張表：一般文字與隨機字母文字上，DeepSeek-OCR、dots.ocr、Qwen2.5-VL、GOT-OCR、MonkeyOCR、SmolDocling、Nougat、HunyuanOCR 等端到端模型，以及 MinerU、PaddleOCR-v5 兩套傳統流程，在各文字長度區間的精確度](/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png)](/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png)\n\n*原論文 Tables 6–7，取自 [**v2 PDF 第 6 頁**](https://arxiv.org/pdf/2601.03714v2#page=6)。上表為一般文字，下表為隨機字母；最右兩欄是傳統的分段式流程。*\n\n最下面一列是平均。挑幾個對照：\n\n| 模型 | 一般文字 | 隨機字母 |\n| --- | ---: | ---: |\n| PaddleOCR-v5（分段式） | 94.44 | 89.53 |\n| MonkeyOCR 3B | 97.37 | 79.97 |\n| GOT-OCR（0.58B） | 98.00 | 57.71 |\n| Qwen2.5-VL 72B | 98.69 | 56.78 |\n| Nougat（0.35B） | 96.82 | 37.94 |\n| DeepSeek-OCR Tiny | 88.00 | 19.84 |\n\n在一般文字上，端到端模型幾乎都在 94% 以上，看不出差別。換成隨機字母，它們掉了 17 到 68 個百分點不等；先偵測文字行、再逐行辨識的 PaddleOCR-v5 只掉 4.9 個百分點。\n\n作者的解釋是，分段式流程把視覺辨識和語言解碼分開了，所以沒有語言規律時仍然讀得出來。端到端模型直接從影像生成文字，視覺上不夠確定的地方，就由語言知識補上。\n\n另一套分段式流程 MinerU 在兩種文字上都不到 10%，原因是它的版面偵測把整張圖當成一個區塊，後面的辨識無從發揮。這個失敗和語言先驗無關，比較時要排除。\n\n### 問答與長上下文\n\n在問答測試裡，DeepSeek-OCR 看圖作答的正確率約 20%，四選一題目的隨機猜測是 25%；把文字直接給 Qwen2.5-3B 等語言模型，正確率超過 90%。作者據此認為，光學壓縮破壞了推理所需的語意。\n\n這個推論要打個折扣。論文也測了把**標準答案文字**直接交給 DeepSeek-OCR 的解碼器，正確率只有 27.7%。DeepSeek-OCR 的原論文說得很清楚，它沒有做監督式微調，不是聊天模型，有些能力要用補完式提示詞才叫得出來。所以這組問答的低分，有相當一部分可能來自解碼器本來就不擅長回答問題，不能全算在壓縮上。\n\n[![DeepSeek-OCR 四種模式在不同上下文長度下的 OCR 精確度，含一個標準差的色帶；橫軸為 token 數（千），Tiny、Base、Large 在約 8.5K 降到零，Small 模式延續到約 10.5K](/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png)](/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png)\n\n*原論文 Figure 3，取自 [**v2 PDF 第 8 頁**](https://arxiv.org/pdf/2601.03714v2#page=8)。橫軸是一張圖裡的文字 token 數（千），縱軸是精確度。*\n\n長上下文測試的曲線，比作者摘要裡的「約一萬 token 崩潰」更早就開始下滑：四種模式在 1,000 到 3,000 token 之間已經明顯降低，Tiny、Base、Large 約在 8,500 token 歸零，Small 撐到約 10,500 才歸零。\n\n論文用 Base 模式舉例：2,500 token 時幾乎完美，只把人名 Xingfu 讀成 Yingxiu；到 3,000 token，前半句已經和原文無關；3,500 與 4,000 token 開始重複同一個片語；8,000 token 時輸出一句「這段文字是圖片的占位符」；再往後只剩空的 HTML 表格標籤。\n\n不過這個實驗把越來越多的文字塞進**同一張圖**。一萬個 token 的英文放在 1024×1024 以內，每個字的像素少得可憐，崩潰的一部分原因可能只是字小到看不清。作者把結果解讀為光學壓縮反而加劇了長上下文的瓶頸；本文認為，這個測試比較直接回答的是「一張固定解析度的圖最多能放多少字」。\n\n### 讀這篇時要知道的事\n\n1. **只測密集的英文段落**。作者在限制一節寫明，公式、程式碼、表格這類語言先驗本來就比較幫不上忙的內容，他們沒有大規模測。\n2. **零先驗是極端條件**。真實文件很少整頁都是隨機字母；它適合拿來量「影像本身能讀出多少」，不適合直接換算成日常文件的錯誤率。\n3. **問答與長上下文測試都有混淆因素**，見上一節。\n4. **基線數量**。摘要說和 13 個基線比較，表格上除了 DeepSeek-OCR 兩種模式，另有 11 個模型或尺寸。\n\n## 結論\n\n這篇論文用一個很簡單的控制實驗，把 OCR 分數裡「看到的」與「猜到的」拆開：\n\n1. **視覺 token 越少，越依賴語言先驗**。句子失去意思時，Tiny 掉 11 個百分點，Base 幾乎不受影響。\n2. **語言規律全部拿掉，端到端模型普遍大跌**。DeepSeek-OCR Tiny 從 88% 掉到約 20%，Qwen2.5-VL 72B 從 98.7% 掉到 56.8%。\n3. **分段式的傳統 OCR 最穩**。PaddleOCR-v5 只掉 4.9 個百分點。\n\n光學壓縮能在正常英文上成立，有一部分正是因為英文有規律，解碼器補得回來。這本身沒有錯，人讀模糊的字也會這樣做；問題在於使用者看不出哪些字是補的。\n\n對工程師來說，這篇最實用的是它的檢查方法：**拿掉語意再測一次**。要用 VLM 讀編號、人名、代碼這類沒有規律的文字之前，先用隨機字串測一測，比看排行榜可靠。\n","imageSizes":{"/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png":{"width":644,"height":300},"/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png":{"width":1277,"height":1100},"/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png":{"width":661,"height":466}}}