المخرجات والدرجات الخام والخسائر المستقرة

from math import exp, log
z = [1000.0, 999.0]
m = max(z)
log_partition = m + log(sum(exp(v - m) for v in z))
loss = log_partition - z[0]
probabilities = [exp(v - log_partition) for v in z]
print([round(p, 6) for p in probabilities])
print(f"loss={loss:.6f}")

[0.731059, 0.268941]
loss=0.313262

يحفظ طرح أكبر درجة الفروق النسبية ويتجنب حساب exp(1000).

from math import exp, log1p
def binary_loss(z, y):
    assert y in (0, 1)
    return max(z, 0) - z * y + log1p(exp(-abs(z)))
for z, y in [(1000.0, 1), (1000.0, 0), (0.0, 1)]:
    print(f"{z:.1f}, {y}: {binary_loss(z, y):.6f}")

1000.0, 1: 0.000000
1000.0, 0: 1000.000000
0.0, 1: 0.693147

تبقى القيم منتهية لهذه الدرجات الكبيرة؛ والصفر المطبوع يعكس دقة العرض.