КОДИРОВАНИЕ И ПЕРЕДАЧА ИНФОРМАЦИИ

1 КОДИРОВАНИЕ И ПЕРЕДАЧА ИНФОРМАЦИИ

1.1 ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ

Кодирование и передача информации по каналу связи осуществляется в соответствии со схемой канала, изображенной на рисунке 1.1.1.

V_i V_j

	Кодер источника				Декодер источника
			Помехи

 

Z_i Z_j

Канал

Декодер  канала

Кодер  канала

X_i Y_j

Рисунок 1.1.1 - Структура передачи информации

Источник генерирует последовательность сообщений из ансамбля {V, P(V)},

где V – символ сообщения;

P(V) – вероятность символа сообщения, рассчитываемая по формуле:

(1.1.1)

где i=1…m;

m, r – заданные величины.

Кодер источника кодирует сообщение Vi в Zi по алгоритму Шеннона-Фэно.

Энтропия сообщения H(Z), бит/символ вычисляется по следующей формуле:

(1.1.2)

Формула для расчета средней длины кода Lср, бит имеет вид:

(1.1.3)

где L(Zi) – длина кода, бит;

P(Zi) – вероятность кода.

Максимальная энтропия H(Z)max, бит/символ неравномерного двоичного кода Zi определяется по формуле:

(1.1.4)

Зная среднюю длину кода, можно определить коэффициент эффективности Кэф кода Zi по формуле:

(1.1.5)

Для расчета коэффициента избыточности Кизб используется формула:

(1.1.6)

Кодер канала осуществляет простое кодирование повторением n = 3 раз каждого двоичного сигнала сообщения Zi. Таким образом, имеется всего два кода:

Х1=(0 0 0) Х2=(1 1 1)

Вероятность каждого из них определяется по формуле:

(1.1.7)

где к=0,1;

 - количество элементов «к» в коде Zi.

При передаче Xк по каналу связи возможны ошибки с вероятностями, определяемыми следующим образом:

P10=0.2 + 0.02A (1.1.8)

P01=0.2 + 0.02B (1.1.9)

где р10 – вероятность принятия нуля при передаче единицы;

р01 – вероятность принятия единицы при передаче нуля;

А, В – заданные величины.

В дальнейшем, для удобства будут использоваться следующие принятые обозначения:

Х - передаваемый код;

Y - принимаемый код.

При построении канальной матрицы P(Y/X) воспользуемся тем, что при передаче может произойти ошибка лишь в одном разряде X1 или X2.

Тогда в 1 строке матрицы элементы определятся следующим образом:

1 – p01 , i = 1

 

P(x_i,y_j) = P01/3 , i = 2,3,4. (1.1.10)

0 , i = 5,6,7,8.

Элементы канальной матрицы совместной вероятности P(X,Y) определяются по формуле:

P(xi,yj)=P(xi)P(yj/xi) (1.1.11)

Зная матрицу совместной вероятности P(X,Y), можно вычислить элементы матрицы вероятностей P(Y). Они находятся по формуле:

P(yi)=P(x1,yi)+ P(x2,yi) (1.1.12)

В свою очередь, формула для расчета элементов матрицы условной вероятности P(X/Y) имеет вид:

P(xi/yj)=P(xi,yj)/P(yj) (1.1.13)

Энтропия передаваемого сигнала H(X), бит/символ и принимаемого сигнала H(Y), бит/символ определяется соответственно по формуле:

(1.1.14)

(1.1.15)

Условные энтропии H(X/Y), бит/символ и H(Y/X), бит/символ рассчитываются соответственно по формулам:

(1.1.16)

(1.1.17)

Совместная энтропия H(X,Y), бит/символ находится по формуле:

(1.1.18)

Взаимная энтропия I(X,Y), бит/символ определяется по формуле:

(1.1.19)

Передача информации по каналу связи осуществляется со скоростью V, рассчитываемой по формуле:

V = 1000(A+1) (1.1.20)

Постоянную скорость передачи двоичных символов по каналу связи R, бит/с можно рассчитать по формуле:

R = V × I(X,Y) / 3; (1.1.21)

Производительность источника , бит/с определяется по следующей формуле:

= (H(X) × V ) (1.1.22)