Условная энтропия

Этот онлайн калькулятор рассчитывает средние (полные) условные энтропии H(Y|X) и H(X|Y) случайных величин X и Y по таблице вероятности состояний (X,Y)~p

Статьи, описывающие этот калькулятор

Условная энтропия

Условная энтропия

Таблица вероятности состояний (X, Y) ~ p

Детали расчета

Точность вычисления

Знаков после запятой: 2

H(Y|X)

1.09

H(X|Y)

0.68

Файл очень большой, при загрузке и создании может наблюдаться торможение браузера.

Детали расчета

Шаг
$P_{(x,y)} = \begin{bmatrix}p(x_1,y_1)&p(x_1,y_2)&p(x_1,y_3)&\\p(x_2,y_1)&p(x_2,y_2)&p(x_2,y_3)&\\p(x_3,y_1)&p(x_3,y_2)&p(x_3,y_3)&\\\end{bmatrix} = \begin{bmatrix}0.1&0&0&\\0.2&0.3&0.2&\\0&0&0.2&\\\end{bmatrix}$
$p_x = \begin{bmatrix}0.10\\0.70\\0.20\\\end{bmatrix}$
$p_{y_j\|x_i} = \begin{bmatrix}1&0&0&\\\frac{0.2}{0.70}&\frac{0.3}{0.70}&\frac{0.2}{0.70}&\\0&0&1&\\\end{bmatrix}$
$H(Y\|X) = -\Big(0.1\cdot log_21+0\cdot log_20+0\cdot log_20+0.2\cdot log_2\frac{0.2}{0.70}+0.3\cdot log_2\frac{0.3}{0.70}+0.2\cdot log_2\frac{0.2}{0.70}+0\cdot log_20+0\cdot log_20+0.2\cdot log_21\Big)$
$p_y = \begin{bmatrix}0.30\\0.30\\0.40\\\end{bmatrix}$
$p_{x_j\|y_i} = \begin{bmatrix}\frac{0.1}{0.30}&0&0&\\\frac{0.2}{0.30}&1&\frac{0.2}{0.40}&\\0&0&\frac{0.2}{0.40}&\\\end{bmatrix}$
$H(X\|Y) = -\Big(0.1\cdot log_2\frac{0.1}{0.30}+0.2\cdot log_2\frac{0.2}{0.30}+0\cdot log_20+0\cdot log_20+0.3\cdot log_21+0\cdot log_20+0\cdot log_20+0.2\cdot log_2\frac{0.2}{0.40}+0.2\cdot log_2\frac{0.2}{0.40}\Big)$
Записей: 1 - 7 из 7

Ссылка скопирована в буфер обмена

PLANETCALC Онлайн калькуляторы

Условная энтропия

Статьи, описывающие этот калькулятор

Условная энтропия

Детали расчета

Похожие калькуляторы

Комментарии

PLANETCALC Онлайн калькуляторы

Статьи, описывающие этот калькулятор

Условная энтропия

Похожие калькуляторы

Комментарии

Поделиться этой страницей