{"notes":[{"id":"model-evaluation/linguistic-crutch","category":"model-evaluation","legacyPath":"","legacySlug":"","legacyPaths":[],"title":"Linguistic Crutch","subtitle":"脳内補完の代償","author":"Z. Yuan","paperDate":"2026-01-07","publishedOn":"2026-02-21","paperTitle":"Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR","paperUrl":"https://arxiv.org/abs/2601.03714","bibliography":{"title":"Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR","authors":["Yunhao Liang","Ruixuan Ying","Bo Li","Hong Li","Kai Yan","Qingwen Li","Min Yang","Okamoto Satoshi","Zhe Cui","Shiwen Ni"],"url":"https://arxiv.org/abs/2601.03714","pdfUrl":"https://arxiv.org/pdf/2601.03714v2","codeUrl":null,"preprint":{"id":"2601.03714","submittedOn":"2026-01-07","url":"https://arxiv.org/abs/2601.03714"},"publication":null,"citation":"@misc{modelevaluationlinguisticcrutch2026,\n  title = {{Visual Merit or Linguistic Crutch? A Close Look at DeepSeek-OCR}},\n  author = {Yunhao Liang and Ruixuan Ying and Bo Li and Hong Li and Kai Yan and Qingwen Li and Min Yang and Okamoto Satoshi and Zhe Cui and Shiwen Ni},\n  year = {2026},\n  eprint = {2601.03714},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/2601.03714}\n}\n","citationPath":"/content/papers/citations/model-evaluation/linguistic-crutch.af1f73a098b5.bib"},"thumbnail":{"src":"/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png","width":644,"height":300},"locale":"ja","path":"/content/papers/ja/model-evaluation/linguistic-crutch.2b28ca115eeb.md","headings":[{"id":"問題の定義","text":"問題の定義","depth":2},{"id":"問題の解決","text":"問題の解決","depth":2},{"id":"画像の条件をそろえる","text":"画像の条件をそろえる","depth":3},{"id":"3つの壊し方","text":"3つの壊し方","depth":3},{"id":"ほかの二つのテスト","text":"ほかの二つのテスト","depth":3},{"id":"考察","text":"考察","depth":2},{"id":"文が意味を失うと","text":"文が意味を失うと","depth":3},{"id":"単語が単語らしくなくなると","text":"単語が単語らしくなくなると","depth":3},{"id":"ほかのモデルは","text":"ほかのモデルは？","depth":3},{"id":"質問応答と長いコンテキスト","text":"質問応答と長いコンテキスト","depth":3},{"id":"この論文を読むときの注意点","text":"この論文を読むときの注意点","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{},"guide":null,"relatedReading":[{"id":"deepseek/deepseek-ocr","relation":"citing","topic":""}]},{"id":"deepseek/deepseek-ocr","category":"deepseek","legacyPath":"","legacySlug":"","legacyPaths":[],"title":"DeepSeek-OCR","subtitle":"一枚の絵は千語に値する","author":"Z. Yuan","paperDate":"2025-10-21","publishedOn":"2026-03-09","world":"external/deepseek-ocr","paperTitle":"DeepSeek-OCR: Contexts Optical Compression","paperUrl":"https://arxiv.org/abs/2510.18234","bibliography":{"title":"DeepSeek-OCR: Contexts Optical Compression","authors":["Haoran Wei","Yaofeng Sun","Yukun Li"],"url":"https://arxiv.org/abs/2510.18234","pdfUrl":"https://arxiv.org/pdf/2510.18234v1","codeUrl":"https://github.com/deepseek-ai/DeepSeek-OCR","preprint":{"id":"2510.18234","submittedOn":"2025-10-21","url":"https://arxiv.org/abs/2510.18234"},"publication":null,"citation":"@misc{deepseekdeepseekocr2025,\n  title = {{DeepSeek-OCR: Contexts Optical Compression}},\n  author = {Haoran Wei and Yaofeng Sun and Yukun Li},\n  year = {2025},\n  eprint = {2510.18234},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/2510.18234}\n}\n","citationPath":"/content/papers/citations/deepseek/deepseek-ocr.66e8e5a7db8d.bib"},"thumbnail":{"src":"/content/papers/assets/6f53ecfe63f39804454a69ef4468c93e8018fa1afbe08d1bb52b7e8d52d194c3.png","width":1288,"height":350},"locale":"ja","path":"/content/papers/ja/deepseek/deepseek-ocr.68375c40aca1.md","headings":[{"id":"問題の定義","text":"問題の定義","depth":2},{"id":"問題の解決","text":"問題の解決","depth":2},{"id":"全体のアーキテクチャ","text":"全体のアーキテクチャ","depth":3},{"id":"10241024の画像を1枚たどってみる","text":"1024×1024の画像を1枚たどってみる","depth":3},{"id":"デコーダー圧縮された表現から文字を復元する","text":"デコーダー：圧縮された表現から文字を復元する","depth":3},{"id":"データと学習","text":"データと学習","depth":3},{"id":"考察","text":"考察","depth":2},{"id":"圧縮率の実験foxの100ページ","text":"圧縮率の実験：Foxの100ページ","depth":3},{"id":"実際の文書omnidocbench","text":"実際の文書：OmniDocBench","depth":3},{"id":"光学圧縮と忘却","text":"光学圧縮と忘却","depth":3},{"id":"公開後の議論","text":"公開後の議論","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{},"guide":null,"relatedReading":[{"id":"model-evaluation/linguistic-crutch","relation":"referenced","topic":""}]}],"text":"2025年10月のDeepSeek-OCRは、英語文書1ページのテキストトークンが視覚トークンの10倍以内なら、約97%の精度で読み取れると主張しました。20倍まで圧縮しても約60%です。そこから、画像を使えばLLMの長いコンテキストを圧縮できるかもしれない、と期待した人も少なくありません。\n\nこの論文の著者らは、もっと根本的な問いを立てます。その点数のうち、画像から来ている分はいったいどれだけなのか？\n\n題名を直訳すると「視覚の実力か、言語の松葉杖か？」です。DeepSeek-OCRのデコーダーは言語モデルで、英語が普通どう書かれるかを最初から知っています。視覚トークンが十分に鮮明でなければ、前後の文脈から欠けた文字を補っている可能性が高い。ネットの言葉でいえば、**脳内補完**です。補完が当たれば、点数は高くなります。\n\n本論文は中国科学院成都計算機応用研究所、東北大学などの研究者によるもので、2026年1月7日にarXivへ投稿されました。本稿は翌日更新のv2に基づきます。現時点ではプレプリントです。\n\n\n> [!TIP]\n> \n> **言語的事前知識（language prior）とは？**\n> \n> 事前知識（prior）とは、証拠を見る前から持っている予想のことです。言語モデルは大量のテキストを読んでいるので、「has already been」の後には過去分詞が来やすいことも、「Speaker」が「Squeaker」よりよく使われることも知っています。\n> \n> 文字を読むとき、モデルは二つの手がかりを同時に使います。画像上の字形と、この「普通は何が来るか」という予想です。この論文は、両者を切り分けて測ろうとしています。\n\n\n## 問題の定義\n\n言語的事前知識の寄与を測るなら、最も直接的なのは、画像のほかの条件を変えずに言語の規則性だけを取り除き、点数がどれだけ下がるかを見ることです。\n\n著者らは五つの研究課題を挙げています。\n\n1. 文レベルで意味を壊すと、DeepSeek-OCRにどんな影響があるか？\n2. 単語レベルで壊したらどうか？ 文字の入れ替え、単語全体のシャッフル、そして完全にランダムな文字列を含む。\n3. この依存はDeepSeek-OCRに特有なのか、ほかのOCRやVLMにもあるのか？\n4. 質問応答や、画像を見て答える質問応答で、DeepSeek-OCRはどれだけ意味を保てるか？\n5. 光学圧縮は、どのくらいの長さのコンテキストで破綻するか？\n\n## 問題の解決\n\n### 画像の条件をそろえる\n\nベンチマークはFoxの英語文書112ページで、正解の長さは600〜2,500トークンです。\n\n著者らは、元のスキャンページと摂動後のページを直接は比べていません。両者はフォントもレイアウトも違うからです。まず正解テキストをきれいな画像にレンダリングし直し、これを**text2png**と呼んでベースラインにします。摂動版もすべて同じ手順でレンダリングします。こうすれば、画像上の違いは文字の並びだけになります。\n\n### 3つの壊し方\n\n**文レベル**：重要な名詞、動詞、フレーズを、綴りは英語らしいが意味をなさない語に置き換えます。たとえば次の文は、\n\n> has already been published in other issues of the Speaker, it won't all be repeated here.\n\n次のように書き換えられます。\n\n> has already been breadboxed in other whispers of the Squeaker, it won't all be rebound here.\n\n字形もレイアウトも残っていますが、文の意味は消えています。\n\n**単語レベル**：単語の5%または10%をランダムに選びます。\n\n- **Swap**：単語内の2文字を入れ替えます。たとえばalreadyがayreadlになります。単語の構造はおおむね残っており、言語知識で直せます。\n- **Shuffle**：単語全体の文字をシャッフルします。たとえばrepeatedがeepetadrになります。文字の分布は同じでも、構造は完全に壊れます。\n\n**事前知識ゼロ**：文書全体を、大文字と小文字を混ぜた2〜10文字のランダムな「単語」に置き換えます。長さの分布は原文と同じです。ここには頼れる語彙も文法もまったくありません。著者らはこれを、OCRシステムの「自白剤」と呼んでいます。\n\n### ほかの二つのテスト\n\n- **質問応答**：Foxの各ページに、事実を問う多肢選択問題を3問ずつ付けます。DeepSeek-OCRが画像を見て答える場合（VQA）、テキストを言語モデルに直接渡して答える場合（QA）、そしてほかの3〜8BのVLMを比べます。\n- **コンテキスト長**：GPT-5.1に約5,000語の英語の物語を5本書かせ、繰り返しつなげて約20,000トークンにします。それを500〜20,000トークンまで500刻みの40段階に切り出し、文書画像にレンダリングして、DeepSeek-OCRの4つのモードに読ませます。\n\n## 考察\n\n### 文が意味を失うと\n\n[![上段は普通の文で、DeepSeek-OCRは正しく読み取る。下段はbreadboxed、whispers、Squeaker、reboundに置き換えた文で、モデルはrebroadcast、Squareなどのありふれた単語を出力する](/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png)](/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png)\n\n*原論文Figure 1。[**v2 PDFの1ページ**](https://arxiv.org/pdf/2601.03714v2#page=1)から抜粋。上段は普通の入力、下段は意味を壊した入力です。右側の黄色は、モデルが書き換えた語を示します。*\n\nまず下段を見てください。画像にははっきりSqueakerと印刷されているのに、モデルはSquareと出力しました。breadboxedとreboundは、どちらもrebroadcastと書かれています。出力はどれも実在する英単語で、文は原文より滑らかに読めます。\n\n112ページの平均精度を並べてみます。\n\n| モード（視覚トークン） | text2png | 文の破壊 | 低下 |\n| --- | ---: | ---: | ---: |\n| Tiny（64） | 88.00 | 76.75 | 11.25 |\n| Small（100） | 95.23 | 91.56 | 3.67 |\n| Base（256） | 97.93 | 97.31 | 0.62 |\n\n*表：原論文Table 1の平均値（%）。*\n\n視覚トークンが少ないほど、大きく下がります。256トークンあれば、文に意味があるかどうかは結果にほとんど影響しません。64個しかないと、11ポイント以上下がります。\n\n### 単語が単語らしくなくなると\n\nSwapとShuffleの結果は同じ方向を向いています。単語の10%を壊すと、Tinyモードの平均はそれぞれ9.89ポイントと11.30ポイント下がりました。ShuffleのほうがSwapより打撃が大きく、著者らはこれを、モデルが正常な文字の順序に頼って復号している表れと見ています。\n\n個別の例を見ると、さらにはっきりします。\n\n| 状況 | 入力 | 出力 |\n| --- | --- | --- |\n| Swap | has ayreadl | has already |\n| Shuffle | it won't all be eepetadr here. | I won't be all expected here. |\n| 事前知識ゼロ | EYuoV qUtjpy pWxZCks | E'vuol u'qtippy piwZckus |\n\n*表：原論文Table 5から抜粋。*\n\n最初の2行で、モデルは自動修正機能のように、奇妙な語を自然な英語に直しています。最後の行には「直す」方向がまったくありません。モデルはランダムな文字を無理やり音節らしいものに組み立て、結果は原文でも単語でもないものになりました。\n\n事前知識ゼロでの平均精度は、Tiny 19.84%、Small 42.12%、Base 61.70%です。text2pngと比べると、Tinyは68ポイント、Baseでも36ポイント下がっています。\n\n### ほかのモデルは？\n\n[![2つの表：普通のテキストとランダムな文字列について、DeepSeek-OCR、dots.ocr、Qwen2.5-VL、GOT-OCR、MonkeyOCR、SmolDocling、Nougat、HunyuanOCRなどのエンドツーエンドモデルと、MinerU、PaddleOCR-v5の2つの従来型パイプラインの、テキスト長の区間ごとの精度](/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png)](/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png)\n\n*原論文Tables 6–7。[**v2 PDFの6ページ**](https://arxiv.org/pdf/2601.03714v2#page=6)から抜粋。上の表が普通のテキスト、下の表がランダムな文字列です。右端の2列は従来型の多段式パイプラインです。*\n\n最下行が平均です。いくつか選んで比べます。\n\n| モデル | 普通のテキスト | ランダムな文字列 |\n| --- | ---: | ---: |\n| PaddleOCR-v5（多段式） | 94.44 | 89.53 |\n| MonkeyOCR 3B | 97.37 | 79.97 |\n| GOT-OCR（0.58B） | 98.00 | 57.71 |\n| Qwen2.5-VL 72B | 98.69 | 56.78 |\n| Nougat（0.35B） | 96.82 | 37.94 |\n| DeepSeek-OCR Tiny | 88.00 | 19.84 |\n\n普通のテキストでは、エンドツーエンドモデルのほぼすべてが94%以上で、差が見えません。ランダムな文字列に替えると、17〜68ポイントの幅で下がります。先にテキスト行を検出し、行ごとに認識するPaddleOCR-v5は、4.9ポイントしか下がりません。\n\n著者らの説明では、多段式のパイプラインは視覚的な認識と言語的な復号を分けているので、言語の規則性がなくても読み取れます。エンドツーエンドモデルは画像から直接テキストを生成するので、視覚的に確信が持てない箇所は言語知識で補われます。\n\nもう一つの多段式パイプラインであるMinerUは、どちらのテキストでも10%未満でした。レイアウト検出が画像全体を1つのブロックとして扱ったため、後段の認識が力を発揮できなかったのです。この失敗は言語的事前知識とは無関係なので、比較からは除外する必要があります。\n\n### 質問応答と長いコンテキスト\n\n質問応答のテストでは、DeepSeek-OCRが画像を見て答えた場合の正答率は約20%でした。四択問題をでたらめに答えても25%です。テキストをQwen2.5-3Bなどの言語モデルに直接渡すと、正答率は90%を超えます。著者らはここから、光学圧縮が推論に必要な意味を壊したと考えています。\n\nこの推論は、割り引いて受け取る必要があります。論文は、**正解テキスト**をDeepSeek-OCRのデコーダーに直接渡す条件も測っており、その正答率は27.7%にとどまりました。DeepSeek-OCRの原論文が明記しているとおり、このモデルは教師ありファインチューニングをしておらず、チャットモデルではありません。一部の能力は、補完形式のプロンプトでないと引き出せません。したがって、この質問応答の低い点数のかなりの部分は、デコーダーがもともと質問に答えるのが苦手なことに由来する可能性があり、すべてを圧縮のせいにはできません。\n\n[![DeepSeek-OCRの4つのモードについて、コンテキスト長ごとのOCR精度と1標準偏差の帯。横軸はトークン数（千）。Tiny、Base、Largeは約8.5Kでゼロに落ち、Smallモードは約10.5Kまで続く](/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png)](/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png)\n\n*原論文Figure 3。[**v2 PDFの8ページ**](https://arxiv.org/pdf/2601.03714v2#page=8)から抜粋。横軸は1枚の画像に含まれるテキストトークン数（千）、縦軸は精度です。*\n\n長いコンテキストのテストの曲線は、著者らが要旨に書いた「約1万トークンで崩壊」より早く下がり始めています。4つのモードとも、1,000〜3,000トークンの間ですでにはっきり下がっています。Tiny、Base、Largeは約8,500トークンでゼロになり、Smallは約10,500トークンまで粘ってからゼロになります。\n\n論文はBaseモードで例を示しています。2,500トークンではほぼ完璧で、人名のXingfuをYingxiuと読んだだけです。3,000トークンになると、文の前半がもう原文と無関係になります。3,500と4,000トークンでは、同じフレーズを繰り返し始めます。8,000トークンでは「このテキストは画像のプレースホルダーです」という一文を出力し、その先は空のHTML表タグだけになります。\n\nただし、この実験は**同じ1枚の画像**にどんどん多くのテキストを詰め込んでいます。1万トークンの英語を1024×1024以内に収めれば、1文字あたりのピクセルはごくわずかです。崩壊の一部は、単に字が小さすぎて見えないせいかもしれません。著者らはこの結果を、光学圧縮がかえって長いコンテキストのボトルネックを悪化させたと解釈しています。本稿の見方では、このテストがより直接に答えているのは「固定解像度の画像1枚に、最大どれだけの文字を載せられるか」です。\n\n### この論文を読むときの注意点\n\n1. **密な英語の段落しか測っていない**。著者らは限界の節で、数式、コード、表のように言語的事前知識がもともとあまり役立たない内容は、大規模には測っていないと明記しています。\n2. **事前知識ゼロは極端な条件**。実際の文書が1ページ丸ごとランダムな文字列ということはまずありません。「画像そのものからどれだけ読めるか」を測るには向いていますが、日常的な文書の誤り率へそのまま換算するには向きません。\n3. **質問応答と長いコンテキストのテストには交絡要因がある**。前の節を参照してください。\n4. **ベースラインの数**。要旨では13のベースラインと比較したとしていますが、表にはDeepSeek-OCRの2つのモードのほか、11のモデルまたはサイズが載っています。\n\n## 結論\n\nこの論文は、ごく単純な対照実験で、OCRの点数を「見えた分」と「推測した分」に切り分けました。\n\n1. **視覚トークンが少ないほど、言語的事前知識に頼る**。文が意味を失うと、Tinyは11ポイント下がり、Baseはほとんど影響を受けません。\n2. **言語の規則性をすべて取り除くと、エンドツーエンドモデルは軒並み大きく下がる**。DeepSeek-OCR Tinyは88%から約20%へ、Qwen2.5-VL 72Bは98.7%から56.8%へ落ちます。\n3. **多段式の従来型OCRが最も安定**。PaddleOCR-v5の低下は4.9ポイントだけです。\n\n光学圧縮が普通の英語で成り立つのは、一つには英語に規則性があり、デコーダーが補えるからです。それ自体は間違いではありません。人もぼやけた字を読むときは同じことをします。問題は、どの字が補われたものかを利用者が見分けられないことです。\n\nエンジニアにとって、この論文で最も実用的なのはその検証方法です。**意味を取り除いて、もう一度測る**。番号、人名、コードのように規則性のないテキストをVLMに読ませる前に、まずランダムな文字列で試してみる。そのほうがリーダーボードを見るより確かです。\n","imageSizes":{"/content/papers/assets/3dfc834dee089d76acab6a1ce767b06c592ef84c6b48c2a5f79a7723f9cc3f09.png":{"width":644,"height":300},"/content/papers/assets/5d2501d5e3e771beeb643c417a2fd5186c6c1994a4caa911b27ca6896df3907f.png":{"width":1277,"height":1100},"/content/papers/assets/eab689713edeb816901e8cb5dc077a8708b983866058f104214ba5fd1d9973c3.png":{"width":661,"height":466}}}