تصنيف الصور باستخدام EfficientNet: أفضل ممارسات التعلم التحويلي

استراتيجية الضبط الدقيق

المرحلة 1: تدريب الرأس فقط (5 حقب)

model = EfficientNet.from_pretrained('efficientnet-b4')
for param in model.parameters():
    param.requires_grad = False
# Unfreeze classifier
for param in model._fc.parameters():
    param.requires_grad = True

المرحلة 2: إلغاء تجميد الكتل العليا (10 حقب)

for param in model._blocks[-20:].parameters():
    param.requires_grad = True

المرحلة 3: ضبط دقيق كامل بمعدل تعلم منخفض (10 حقب)

optimizer = AdamW(model.parameters(), lr=1e-5)

تنعيم التسميات

criterion = nn.CrossEntropyLoss(label_smoothing=0.1)

يقلّل الثقة المفرطة — عادةً +1-2% دقة على المجموعات الصغيرة.