Jensen-Shannon 分歧 (JS) - Amazon SageMaker

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Jensen-Shannon 分歧 (JS)

Jensen-Shannon 分歧 (JS) 衡量不同分面的标签分布之间的相互偏离程度。它基于 Kullback-Leibler 分歧,但具有对称性。

Jensen-Shannon 分歧的公式如下:

        JS = ½*[KL(Pa || P) + KL(Pd || P)]

其中 P = ½( Pa + Pd ),即分面 ad 的平均标签分布情况。

二进制、多类别、连续结果的 JS 值范围为 [0, ln(2))。

  • 接近零的值意味着标签的分布情况相似。

  • 正值表示标签分布存在差异,正值越大,差异就越大。

该指标指示某个标签在各分面之间是否存在较大差异。