{"notes":[{"id":"text-recognition/safl","category":"text-recognition","legacyPath":"text-recognition/2201-safl","legacySlug":"2201-safl","legacyPaths":[],"title":"SAFL","subtitle":"Focal Loss を試してみよう！","author":"Z. Yuan","paperDate":"2022-01-01","publishedOn":"2024-11-06","paperTitle":"SAFL: A Self-Attention Scene Text Recognizer with Focal Loss","paperUrl":"https://arxiv.org/abs/2201.00132","bibliography":{"title":"SAFL: A Self-Attention Scene Text Recognizer with Focal Loss","authors":["Bao Hieu Tran","Thanh Le-Cong","Huu Manh Nguyen","Duc Anh Le","Thanh Hung Nguyen","Phi Le Nguyen"],"url":"https://arxiv.org/abs/2201.00132","pdfUrl":"https://arxiv.org/pdf/2201.00132","codeUrl":null,"preprint":{"id":"2201.00132","submittedOn":"2022-01-01","url":"https://arxiv.org/abs/2201.00132"},"publication":{"venue":"ICMLA","year":2020,"kind":"conference","url":"https://doi.org/10.1109/ICMLA51294.2020.00223"},"citation":"@misc{textrecognitionsafl2022,\n  title = {{SAFL: A Self-Attention Scene Text Recognizer with Focal Loss}},\n  author = {Bao Hieu Tran and Thanh Le-Cong and Huu Manh Nguyen and Duc Anh Le and Thanh Hung Nguyen and Phi Le Nguyen},\n  year = {2022},\n  eprint = {2201.00132},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/2201.00132}\n}\n","citationPath":"/content/papers/citations/text-recognition/safl.ffb8d1295322.bib"},"thumbnail":{"src":"/content/papers/assets/8569c1a98ddccbd2efcd61736984fa56625057d777ef2bc05568618df21334f3.jpg","width":1470,"height":568},"locale":"ja","path":"/content/papers/ja/text-recognition/safl.4987ff7afe6a.md","headings":[{"id":"問題の定義","text":"問題の定義","depth":2},{"id":"問題の解決","text":"問題の解決","depth":2},{"id":"モデルアーキテクチャ","text":"モデルアーキテクチャ","depth":3},{"id":"focal-loss","text":"Focal Loss","depth":3},{"id":"討論","text":"討論","depth":2},{"id":"focal-loss-の効果はどうだったか","text":"Focal Loss の効果はどうだったか？","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{},"guide":null,"relatedReading":[{"id":"object-detection/retinanet","relation":"background","topic":"物体検出から文字認識への Focal Loss"}]},{"id":"object-detection/retinanet","category":"object-detection","legacyPath":"object-detection/1708-retinanet","legacySlug":"1708-retinanet","legacyPaths":[],"title":"RetinaNet","subtitle":"Focal Loss が重要","author":"Z. Yuan","paperDate":"2017-08-07","publishedOn":"2024-08-08","paperTitle":"Focal Loss for Dense Object Detection","paperUrl":"https://arxiv.org/abs/1708.02002","bibliography":{"title":"Focal Loss for Dense Object Detection","authors":["Tsung-Yi Lin","Priya Goyal","Ross Girshick","Kaiming He","Piotr Dollár"],"url":"https://arxiv.org/abs/1708.02002","pdfUrl":"https://arxiv.org/pdf/1708.02002","codeUrl":null,"preprint":{"id":"1708.02002","submittedOn":"2017-08-07","url":"https://arxiv.org/abs/1708.02002"},"publication":{"venue":"ICCV","year":2017,"kind":"conference","url":"https://openaccess.thecvf.com/content_iccv_2017/html/Lin_Focal_Loss_for_ICCV_2017_paper.html"},"citation":"@misc{objectdetectionretinanet2017,\n  title = {{Focal Loss for Dense Object Detection}},\n  author = {Tsung-Yi Lin and Priya Goyal and Ross Girshick and Kaiming He and Piotr Dollár},\n  year = {2017},\n  eprint = {1708.02002},\n  archivePrefix = {arXiv},\n  url = {https://arxiv.org/abs/1708.02002}\n}\n","citationPath":"/content/papers/citations/object-detection/retinanet.7782ba4afe61.bib"},"thumbnail":{"src":"/content/papers/assets/72e05351a2bee439214afa9c111f8ec8ca466561a1fbd6be2b98cbd43305ad47.jpg","width":1746,"height":492},"locale":"ja","path":"/content/papers/ja/object-detection/retinanet.3e92b0bcac1d.md","headings":[{"id":"問題の定義","text":"問題の定義","depth":2},{"id":"解決方法","text":"解決方法","depth":2},{"id":"focal-loss","text":"Focal Loss","depth":3},{"id":"モデル構成","text":"モデル構成","depth":3},{"id":"学習と推論の設定","text":"学習と推論の設定","depth":3},{"id":"実験結果と考察","text":"実験結果と考察","depth":2},{"id":"coco-での結果","text":"COCO での結果","depth":3},{"id":"消融実験","text":"消融実験","depth":3},{"id":"結論","text":"結論","depth":2}],"anchorAliases":{"解決問題":"解決方法","モデルアーキテクチャ":"モデル構成","訓練パラメータ設定":"学習と推論の設定","討論":"実験結果と考察","coco-データセットでの実験結果":"coco-での結果"},"guide":null,"relatedReading":[{"id":"object-detection/fcos","relation":"next","topic":"密な物体検出とサンプル割り当て"},{"id":"retail-product/sku-110k","relation":"comparison","topic":"密集した商品の検出"},{"id":"text-recognition/safl","relation":"next","topic":"物体検出から文字認識への Focal Loss"}]}],"text":"最近、Transformer アーキテクチャが STR（シーンテキスト認識）の分野でますます登場しています。\n\n研究をしていると、ちょっとした楽しみを見つけたくなりますよね。今回、著者は Focal Loss を試してみて、モデルのパフォーマンス向上に役立つかどうかを調べました。\n\n## 問題の定義\n\n最も一般的な訓練方法は、大きく分けて 2 つです。\n\nCTC Loss は、正解文字列に対応するすべてのアライメントの確率を足し合わせます。文字列の正解は必要ですが、特徴列の各位置と各文字の対応を明示的に与える必要はありません。\n\n2 つ目は CrossEntropy Loss です。この損失関数を使用する場合、通常はデコーダーアーキテクチャを使用して出力とラベルを整列させます。デコーダーとしては、LSTM や Transformer を選択することができます。\n\nCrossEntropy Loss があるので、他の損失関数を試すのは自然なアイデアです。隣のオブジェクト検出の分野では、Focal Loss が流行っているようなので、これを試してみるのも良いかもしれません！\n\nそのため、著者は SAFL を提案しました。これは、Focal Loss を損失関数として使用する STR モデルです。\n\n## 問題の解決\n\n### モデルアーキテクチャ\n\n\n\n![SAFL](/content/papers/assets/8569c1a98ddccbd2efcd61736984fa56625057d777ef2bc05568618df21334f3.jpg)\n\n\n\n今回のアーキテクチャはシンプルで、ほとんどの内容は以前に見たことがあります。\n\nまず、TPS 変換を使う画像補正ネットワークがあります。この部分については以下を参照してください：\n\n- [**[16.03] RARE: 自動補正**](/blog/papers/text-recognition/rare)。\n\n次に CNN で特徴を抽出し、Transformer のエンコーダーとデコーダーで文字を認識します。この部分については以下を参照してください：\n\n- [**[19.10] SATRN: Transformer 戦場へ到達**](/blog/papers/text-recognition/satrn)。\n\n著者は最後に CrossEntropy Loss を Focal Loss に置き換えました。\n\nなぜ Focal Loss に変更したのでしょうか？\n\n### Focal Loss\n\n\n\n![data distribution](/content/papers/assets/3f3a72e12a8615a3d86500354d219db30bf8ee29a537ab37d77dff648e9b12f2.jpg)\n\n\n\n著者は訓練データの文字の分布を調べ、出現頻度に偏りがあることを見つけました。こうした偏りがあると、モデルは認識しやすい高頻度の例に寄り、低頻度の例を十分に学べない可能性がある、と著者は考えています。\n\nFocal Loss は、この問題を緩和することができる損失関数であり、式は次のようになります：\n\n$$\n\\text{FL}(p_t) = -\\alpha_t(1 - p_t)^\\gamma \\log(p_t)\n$$\n\nここで $p_t$ は正解文字の予測確率、$\\alpha_t$ と $\\gamma$ は調整可能なパラメータです。$p_t$ が 1 に近づくほど $(1-p_t)^\\gamma$ は小さくなり、予測しやすい文字の寄与が下がります。低頻度の例にも役立つかもしれません。重みは予測の難しさに応じて変わります。\n\nこの論文は以前にも読んだことがあるかもしれません。参考にしてください：\n\n- [**[17.08] RetinaNet: Focal Loss が重要**](/blog/papers/object-detection/retinanet)。\n\n## 討論\n\n### Focal Loss の効果はどうだったか？\n\n\n\n![results](/content/papers/assets/ea14538beb80737051a6bddcad3f797fc86df8cf44fbc2432f8f64b776c8406e.jpg)\n\n\n\nこの表では、Focal Loss を使った変種が、七つのデータセットすべてで負の対数尤度（交差エントロピー）の変種を上回っています。\n\n表の平均精度は **86.9% から 88.2%** に上がり、差は **1.3 ポイント**です。論文本文にある 2.3% とは表の数値が一致しません。差が最も大きい CUTE では **80.6% から 85.4%** で、**4.8 ポイント**の差でした。\n\n## 結論\n\nこの論文では、著者は自己注意機構と Focal Loss を組み合わせたシーンテキスト認識のディープラーニングモデルを提案しました。\n\n実験結果は、SAFL が規則的・不規則なテキストのベンチマークで、比較対象中の最高の平均精度を達成したことを示しています。\n\n\n> [!TIP]\n> \n> もし STR の研究をしているなら、Focal Loss を試してみると、思わぬ効果が得られるかもしれません！\n","imageSizes":{"/content/papers/assets/8569c1a98ddccbd2efcd61736984fa56625057d777ef2bc05568618df21334f3.jpg":{"width":1470,"height":568},"/content/papers/assets/3f3a72e12a8615a3d86500354d219db30bf8ee29a537ab37d77dff648e9b12f2.jpg":{"width":1224,"height":536},"/content/papers/assets/ea14538beb80737051a6bddcad3f797fc86df8cf44fbc2432f8f64b776c8406e.jpg":{"width":1368,"height":656}}}
