Вычисляет энтропию Шеннона и Gini impurity из частот четырёх категорий.
∑быстрый расчёт онлайн
Введите данные
Данные не отправляются на сервер
Результат
Энтропия Шеннона2бит
Неоднородность Gini0,75
Эффективное число категорий4
Формула
Как считается результат
Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0.
Пример с тестовыми данными
Частота первой категории: 1; Частота второй категории: 1; Частота третьей категории: 1; Частота четвёртой категории: 1
Вычисляет энтропию Шеннона и Gini impurity из частот четырёх категорий.
Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0.
01
Подготовьте данные
Используйте исходные величины именно для рассматриваемого случая: частота первой категории; частота второй категории; частота третьей категории; частота четвёртой категории.
02
Проверьте единицы и условия
Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.
03
Прочитайте результат
Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
Подробное объяснение
Как читать результат
Расшифровка показателей, пример вычисления и ограничения метода — без лишних терминов.
01
Что означают результаты
Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
02
Когда модель применима
Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.
Разбор по шагам
Пример расчёта
Пример 1
Исходные данные
Частота первой категории: 1; Частота второй категории: 1; Частота третьей категории: 1; Частота четвёртой категории: 1
Вычисление
Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0. Энтропия Шеннона: после вычисления по описанной формуле получаем 2 бит. Неоднородность Gini: 1-((1)^2+(1)^2+(1)^2+(1)^2) ÷ ((1)+(1)+(1)+(1))^2 = 0,75. Эффективное число категорий: после вычисления по описанной формуле получаем 4.
Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
Пример 2
Исходные данные
Частота первой категории: 10; Частота второй категории: 0; Частота третьей категории: 0; Частота четвёртой категории: 0
Вычисление
Энтропия Шеннона: после вычисления по описанной формуле получаем 0 бит. Неоднородность Gini: 1-((10)^2+(0)^2+(0)^2+(0)^2) ÷ ((10)+(0)+(0)+(0))^2 = 0. Эффективное число категорий: после вычисления по описанной формуле получаем 1.
Этот вариант использует другие исходные данные: Частота первой категории — 10; Частота второй категории — 0; Частота третьей категории — 0; Частота четвёртой категории — 0. Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
Формула и обозначения
Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0.
first — частота первой категории.
second — частота второй категории.
third — частота третьей категории.
fourth — частота четвёртой категории.
Практическое применение
Вычисляет энтропию Шеннона и Gini impurity из частот четырёх категорий. Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0.
Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
Частые ошибки
Используйте исходные величины именно для рассматриваемого случая: частота первой категории; частота второй категории; частота третьей категории; частота четвёртой категории.
Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.
Источники и допущения
Основание расчёта
Метод, правило или ставка сверены с указанным источником. Последняя проверка этой реализации: 2026-09-30.
Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.
Используйте исходные величины именно для рассматриваемого случая: частота первой категории; частота второй категории; частота третьей категории; частота четвёртой категории.
Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий.
Как проверить расчёт на конкретном примере?＋
Частота первой категории: 1; Частота второй категории: 1; Частота третьей категории: 1; Частота четвёртой категории: 1. Энтропия Шеннона: 2 бит; Неоднородность Gini: 0,75; Эффективное число категорий: 4. Доли pi получаются делением частот на общий объём. Энтропия H=−Σpi·log₂pi, Gini impurity=1−Σpi²; в функции xlogx при x=0 используется непрерывное продолжение x·ln(x)=0.
Какие ограничения есть у метода?＋
Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.
Можно ли изменить исходные данные и сравнить варианты?＋
Да. Оба показателя равны нулю, когда присутствует только одна категория. Максимум для четырёх равных долей составляет 2 бита и 0,75; 2^H — эквивалентное число равновероятных категорий. Сравнивайте варианты в одинаковых единицах и при неизменных допущениях: Gini impurity не является коэффициентом Джини неравенства доходов. Оцениваются наблюдаемые частоты без поправки на малую выборку; названия категорий, порядок и зависимости между наблюдениями не учитываются.