Сравнивает две вероятности бинарного события через направленную относительную энтропию и симметричное расстояние.
</>быстрый расчёт онлайн
Введите данные
Данные не отправляются на сервер
Результат
Дивергенция KL(P‖Q)1,2бит
Дивергенция Дженсена — Шеннона0,2781 бит
Расстояние Дженсена — Шеннона0,5273
Формула
Как считается результат
Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx.
Пример с тестовыми данными
Вероятность события в P: 0,2; Вероятность события в Q: 0,8
Сравнивает две вероятности бинарного события через направленную относительную энтропию и симметричное расстояние.
Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx.
01
Подготовьте данные
Используйте исходные величины именно для рассматриваемого случая: вероятность события в p; вероятность события в q.
02
Проверьте единицы и условия
Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.
03
Прочитайте результат
KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
Подробное объяснение
Как читать результат
Расшифровка показателей, пример вычисления и ограничения метода — без лишних терминов.
01
Что означают результаты
KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
02
Когда модель применима
Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.
Разбор по шагам
Пример расчёта
Пример 1
Исходные данные
Вероятность события в P: 0,2; Вероятность события в Q: 0,8
Вычисление
Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx. Дивергенция KL(P‖Q): ((xlogx((0,2))+xlogx(1-(0,2))-(0,2) × ln((0,8))-(1-(0,2)) × ln(1-(0,8))) ÷ ln(2)) = 1,2 бит. Дивергенция Дженсена — Шеннона: после вычисления по описанной формуле получаем 0,2780719051 бит. Расстояние Дженсена — Шеннона: после вычисления по описанной формуле получаем 0,5273252366.
KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
Пример 2
Исходные данные
Вероятность события в P: 0,2; Вероятность события в Q: 0,2
Вычисление
Дивергенция KL(P‖Q): ((xlogx((0,2))+xlogx(1-(0,2))-(0,2) × ln((0,2))-(1-(0,2)) × ln(1-(0,2))) ÷ ln(2)) = 0 бит. Дивергенция Дженсена — Шеннона: после вычисления по описанной формуле получаем 0 бит. Расстояние Дженсена — Шеннона: после вычисления по описанной формуле получаем 0.
Этот вариант использует другие исходные данные: Вероятность события в Q — 0,2. KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
Формула и обозначения
Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx.
source — вероятность события в p.
target — вероятность события в q.
Практическое применение
Сравнивает две вероятности бинарного события через направленную относительную энтропию и симметричное расстояние. Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx.
KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
Частые ошибки
Используйте исходные величины именно для рассматриваемого случая: вероятность события в p; вероятность события в q.
Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.
Источники и допущения
Основание расчёта
Метод, правило или ставка сверены с указанным источником. Последняя проверка этой реализации: 2026-09-30.
Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.
Используйте исходные величины именно для рассматриваемого случая: вероятность события в p; вероятность события в q.
KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль.
Как проверить расчёт на конкретном примере?＋
Вероятность события в P: 0,2; Вероятность события в Q: 0,8. Дивергенция KL(P‖Q): 1,2 бит; Дивергенция Дженсена — Шеннона: 0,2780719051 бит; Расстояние Дженсена — Шеннона: 0,5273252366. Для Бернулли DKL(P‖Q)=p log2(p/q)+(1−p)log2((1−p)/(1−q)). JS=H2((p+q)/2)−[H2(p)+H2(q)]/2, расстояние dJS=√JS. Натуральные логарифмы делятся на ln2; у p=0,1 используется предел xlogx.
Какие ограничения есть у метода?＋
Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.
Можно ли изменить исходные данные и сравнить варианты?＋
Да. KL направлена: перестановка P,Q обычно меняет результат. JS симметрична, в выбранной базе ограничена одним битом; её квадратный корень — расстояние, а сама дивергенция не удовлетворяет всем аксиомам метрики. Совпадающие вероятности дают ноль. Сравнивайте варианты в одинаковых единицах и при неизменных допущениях: Два распределения на одних бинарных исходах; Q строго внутри (0,1), чтобы KL оставалась конечной. Для запрещённого Q=0 или 1 при несовместимом P KL бесконечна, поэтому такой ввод отклоняется. Многоклассовые распределения и статистическая неопределённость оценок не включены.