التضمينات والأهداف التقابلية

from math import sqrt
def cosine(a, b):
    na = sqrt(sum(x*x for x in a))
    nb = sqrt(sum(x*x for x in b))
    assert na > 0 and nb > 0
    return sum(x*y for x,y in zip(a,b))/(na*nb)
anchor = [1.0, 0.0]
print(f"positive={cosine(anchor,[2.0,0.0]):.1f}")
print(f"negative={cosine(anchor,[0.0,1.0]):.1f}")

positive=1.0
negative=0.0

يتجاهل جيب تمام الزاوية التحجيم الموجب للمتجه غير الصفري؛ وتحتاج الأصفار سياسة صريحة.

from math import exp, log
similarities = [1.0, 0.0]
for temperature in [1.0, 0.5]:
    scores = [s/temperature for s in similarities]
    m = max(scores)
    loss = m + log(sum(exp(s-m) for s in scores)) - scores[0]
    print(f"temperature={temperature:.1f}, loss={loss:.6f}")

temperature=1.0, loss=0.313262
temperature=0.5, loss=0.126928

تتغير خسارة موجب وسالب واحدين مع الحرارة لدرجات ثابتة، ولا تمثل تقييماً لتمثيل متعلم.