الخسائر والأهداف والاختزال

import torch
from torch import nn
logits = torch.tensor([[2.0,0.0],[0.0,2.0]], dtype=torch.float64, device="cpu")
target = torch.tensor([0,1], dtype=torch.long, device="cpu")
losses = nn.CrossEntropyLoss(reduction="none")(logits, target)
print("loss shape", tuple(losses.shape))
print("per example", [round(x,6) for x in losses.tolist()])
print(f"mean={losses.mean().item():.6f}")

loss shape (2,)
per example [0.126928, 0.126928]
mean=0.126928

تحدد أهداف فهارس الفئات عمود الدرجة الصحيح. يعطي حساب لوغاريتم مجموع الأسس القيم المعروضة، ولم تنفذ وحدة خسارة.

from math import exp, log
z = [2.0,0.0]
m = max(z)
class_loss = m+log(sum(exp(x-m) for x in z))-z[0]
values, valid = [0.2,1.4,99.0], [True,True,False]
numerator = sum(x for x,ok in zip(values,valid) if ok)
denominator = sum(valid)
assert denominator > 0
print(f"class loss={class_loss:.6f}")
print(f"valid mean={numerator/denominator:.6f}")

class loss=0.126928
valid mean=0.800000

يفحص المرجع العددي المنفذ حساب تصنيف مستقراً ومقام مواضع صالحة معلناً؛ ولا يختبر ترجيح خسائر PyTorch أو سلوك ignore_index.