期刊論文演算法模型重現 (Reproduction) 常見 5 大坑洞與實務避坑指南

01坑洞一：隱藏超參數與未揭露的資料預處理細節

論文為求版面精簡，往往只列出核心網路架構與主要學習率，卻忽視了影響極大的細節：

• 資料預處理與 Normalization 方差：影像是否有進行 Contrast Stretching、Mean/Std 扣除數值是否經過全局統計。
• Optimizer 隱藏參數：例如 AdamW 的 Weight Decay 常數、β1/β2 設定，或是學習率衰減 (Cosine Annealing) 的 Warmup 輪數。
• 損失函數權重比例：多目標損失函數中，各個 Loss 項之間的 Weighting 常數往往是作者經歷數百次實驗才試出來的秘密。

02坑洞二：隨機種子 (Random Seed) 與 PyTorch CUDNN 不確定性

在深度學習中，神經網路權重初始化、Data Loader 的 Shuffle 與 Dropout 都依賴隨機數生成器。若未嚴格固定以下種子：

import torch, numpy as np, random
torch.manual_seed(42)
np.random.seed(42)
random.seed(42)
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False

即使在同一台電腦跑兩次，模型最終精確度也可能相差 2% ~ 5%！在算力小資料集中，這個差異足以決定論文實驗的成敗。

03坑洞三：評估指標 (Metrics) 計算定義不一致

指標名稱	常見論文計算歧義	鳳凰團隊標準重現規範
mAP (Mean Average Precision)	VOC2007 (11點插值) vs. COCO (101點插值)	統一採用 PyTorchCOCOEval 標準 API 對齊
BLEU Score (NLP)	分詞工具不同 (NLTK vs. sacreBLEU)	使用包含預處理平滑的 sacreBLEU 統一計算
IoU / Dice (圖像分割)	包含背景與不含背景 class 均值	明確區分 Foreground IoU 與 Overall Mean IoU

04坑洞四與五：CUDA/PyTorch 版本相容性與硬體 Batch Size 效應

作者在 8 張 A100 (80GB) 上使用 Batch Size 256 進行 Group Normalization 訓練，若讀者在單張 RTX 4060 (8GB) 上將 Batch Size 降至 16，梯度估計的方差會大幅飆升，導致收斂路徑完全偏離。

此時必須引入 梯度累積 (Gradient Accumulation) 技術，將 16 次小批次梯度累積後再更新一次權重，完美模擬大 Batch Size 的梯度方向。

FAQ常見問題解答