Информация и кодирование. Дискретизация сигналов. Теоремы Шеннона, Котельникова и Найквиста для дискретных сообщений

Информация и кодирование - два основных понятия современной информационной техники в области защиты информации. Информация в техническом смысле этого слова и методы защиты информации от ошибок, возникающих в результате передачи сообщений, являются сегодня основой для развития систем защиты информации.

Для обеспечения надежной передачи информации по каналам связи с помехами (с шумом) чрезвычайно важным является решение проблемы кодирования и декодирования информации. С этой целью применяются эффективные методы кодирования и декодирования информации, обеспечивающие контроль и исправление ошибок (восстановление информации).

Аналоговый (непрерывный) сигнал ;с(г) характеризуется непрерывным изменением аргумента и мгновенного значения в пределах диапазонов их изменения.

Цифровой (дискретный) сигнал характеризуется скачкообразным изменением в дискретные моменты времени /& его значений. Цифровой сигнал на интервале наблюдения имеет конечное число отсчетов, представляемых в той или иной системе счисления.

В настоящее время в системах и сетях связи в основном используется цифровое представление сигналов, так как цифровые системы имеют ряд преимуществ перед аналоговыми системами, основные из которых следующие:

  • - при организации связи широко используется компьютерная техника;
  • - связь может осуществляться на большие расстояния даже по каналам низкого качества;
  • - передача не зависит от источника информации и времени, что позволяет передавать информацию не тогда, когда она возникает, а когда готов канал;
  • - допускается возможность шифрования сообщений, что повышает безопасность их передачи;
  • - цифровые системы позволяют осуществить интегральный подход ISDN (Integrated Services Digital Network). Эта аббревиатура имеет два

ю эквивалента на русском языке - ЦСИО (цифровая сеть интегрального обслуживания) и ЦСИС (цифровая сеть с интеграцией служб), которые обеспечивают передачу разных сигналов в одной системе: речь, изображение, данные и т.д.

Для перехода на цифровые системы аналоговый сигнал проходит цифровую обработку.

Дискретное сообщение - сообщение, состоящее из отдельных букв или цифр, например, телеграфное сообщение, передаваемое азбукой Морзе (1837).

Отдельным элементом такого сообщения может быть блок цифр, кодирующий буквы или их последовательность, т.е. кодовый блок, например, пятиэлементный код постоянной длины - код Боде (1875).

Основой теории помехоустойчивого кодирования являются результаты исследования американского математика Клода Эдвуда Шеннона (1916-2001 г.г.). Результаты своих исследований К. Шеннон сформулировал в виде двух теорем:

  • - «Элементы дискретного сообщения можно закодировать так, что скорость передачи информации по каналу связи будет сколь угодно близко приближаться к пропускной способности канала».
  • - «Если производительность источника меньше пропускной способности канала, то сообщение можно закодировать на передающей стороне и декодировать на приемной стороне так, что вероятность ошибки будет сколь угодно мала. И наоборот, если производительность источника больше пропускной способности канала, то вероятность ошибки не может быть сколь угодно малой ни при каком коде».

Вторая теорема предопределяет существование способов кодирования со средней вероятностью ошибки и утверждает, что существует хотя бы один способ кодирования, для которого вероятность ошибки меньше средней. Из теоремы также следует, что помехи в канале не накладывают ограничений на точность передачи, а накладывают ограничения только на скорость передачи, при которой может быть достигнута сколь угодно высокая достоверность передачи. Скорость передачи может быть увеличена также за счет увеличения полосы пропускания сигнала Afm.

Для ограниченного по мощности непрерывного канала, в котором присутствует белый гауссов шум, пропускная способность канала

где Д/т — ширина полосы пропускания в герцах по критерию Найквиста; Ps и Рп — мощности сигнала и шума.

Временная дискретизация - это замена непрерывной (аналоговой) функции её мгновенными отсчетами, следующими с определенными

и интервалами At, называемыми интервалом дискретизации. Частота Юд = 2я/ At называется частотой дискретизации.

Дискретизатор D выполняется на логическом элементе «И», который выполняет функцию логического перемножения сигналов, поданных на его входы (рис. 1.2).

Дискретизатор как перемножитель отсчетов

Рис. 1.2. Дискретизатор как перемножитель отсчетов

Как видно из рисунка 1.2, сигнал на выходе дискретизатора определяется как произведение сигналов на его входах. Если в качестве стробирующих импульсов использовать периодическую последовательность дельта-импульсов вида

то сигнал на выходе дискретизатора Xjj(t) представляет собой последовательность отсчетов и с учетом фильтрующего свойства дельта-функции имеет вид:

Спектр выходного сигнала - спектр произведения двух сигналов, т.е. свертка спектров входных сигналов. Эта операция включает в себя сдвиг, произведение и суммирование. Если учесть особенности интеграла свертки и фильтрующего свойства дельта-функции, спектр сигнала на выходе идеального дискретизатора определяется следующим образом:

Последняя формула показывает, что спектр исходного сигнала Sx(СО) размножается, повторяясь на частотах &С0Д , кратных частоте дискретизации С0Д= 2п/Т.

Резюмируя вышесказанное, отметим, что дискретизированный сигнал Хд(0 представляет собой последовательность отсчетов с интервалом дискретизации At, а его спектр - это периодическая последовательность спектров исходного непрерывного сигнала.

Если в качестве стробирующих импульсов использовать последовательность прямоугольных импульсов, то на выходе дискретизатора будет формироваться сигнал амплитудно-импульсной модуляции (АИМ). Спектр такого сигнала периодический и имеет огибающую, пропорциональную амплитудному спектру прямоугольного видеоимпульса.

Дискретные сообщения исследовал Найквист (1924-28), определивший, что по каналу с полосой Ус? можно передать максимально 2/с импульсов (отсчетов) в секунду, а для исключения межсимвольной интерференции (МСИ) нужно использовать импульсы вида g*(t)=sin(27lfct)/(27lfct). Вид этой функции (результат прохождения прямоугольного импульса через идеальный фильтр нижних частот (ФРЧ) с частотой среза/с) приведен на рис. 1.2.

Нули функции g*(t) соответствуют точкам Tll2fc, где п = 1,2,3 ..., где достигается максимум функций последовательности, передаваемой со скоростью 2/с импульсов/с, что исключает МСИ.

Функция g(t) - вид импульса, прошедшего через идеальный ФНЧ

Рис. 1.2. Функция g(t) - вид импульса, прошедшего через идеальный ФНЧ

Частоту 2/с называют частотой Найквиста, она фигурирует во всех процессах, связанных с дискретизацией аналоговой функции. Функция g*(t) известна также как функция sinc(2Kfct), которая используется в теореме отсчетов.

Непрерывное сообщение - сообщение, представленное непрерывной функцией времени g(t). На практике принято считать g(t) функцией с ограниченным частотой С0с (С0с=27г/с) спектром.

Если представить спектр 5(со) этой функции на интервале (-С0с, С0;) рядом Фурье, а затем восстановить ее, используя обратное преобразование Фурье, то такая функция может быть записана в виде суммы отсчетов функции в момент t^=kAt, называемой рядом Котельникова (1933):

Слагаемые (1.2)- это отклики Gk идеального ФНЧ с частотой среза оос на импульс (выборку), площадь которого равна значению g(t) в момент tk=kAt. Восстановление исходной функции на приеме происходит путем пропускания таких импульсов через ФНЧ.

Функция sine {((Oc(t-kAt)} интересна тем, что при t=kAt она равна 1, а при всех t=iAt для 1Фк равна 0. Поэтому, даже если выходные импульсы и перекрываются, в моменты, соответствующие взятию очередного отсчета, значение функции определяется только одним из них.

Если g(t) рассматривается на конечном интервале Г, она будет определяться числом выборок т, пропорциональным удвоенной верхней частоте среза спектра функции fc: Ш=Т/At=2fcT, т.к. Д/=7е/С0с. Это утверждение известно в мире как теорема отсчетов Найквиста, а у нас как теорема Котельникова.

Функция s(t) с ограниченным частотой оос спектром вполне определяется своими мгновенными значениями g(kAt), отсчитанными через интервал At—Tl/coc, и может быть представлена рядом вида (1.2).

По Шеннону: сигнал g(t) с шириной полосы частот В может быть восстановлен по его отсчетам, взятым со скоростью Найквиста ,путем использования интерполяционной формулы вида:

Создание условий для передачи информации с весьма малой вероятностью ошибки и достаточно высокой эффективностью возможно при кодировании чрезвычайно длинных последовательностей символов. На практике степень достоверности и эффективности ограничивается сложностью и стоимостью аппаратуры кодирования и декодирования, а также временем задержки передаваемого сообщения.

Кодирование - это дискретное отображение элементов одного множества в элементы другого множества по определенному правилу.

В теории связи различают следующие виды кодирования:

  • а) примитивное,
  • б) эффективное (статистическое),
  • в) корректирующее (помехоустойчивое).

Примитивное кодирование связано, например, с представлением чисел в той или иной системе счисления. В современных цифровых системах электросвязи часто применяют представление десятичных чисел в двоичной системе счисления. Примеры примитивного кодирования: перевод чисел из одной системы счисления в другую (метод ИКМ), телеграфный код Бодо и т.д. Однако такое цифровое представление сообщений сохраняет присущую им избыточность.

Эффективное (статистическое) кодирование, называемое также кодированием источника, направлено на сокращение избыточности источника с целью повышения эффективности использования канала связи.

Статистическое кодирование применяется для увеличения скорости передачи информации и информационной эффективности канала связи. Теоретическую основу статистического кодирования составляет первая теорема Шеннона, которая сформулирована в предположении идеального канала связи (канала без ошибок).

Корректирующее (помехоустойчивое) кодирование, называемое кодированием канала, характеризуется искусственно вводимой в кодовые комбинации избыточностью с целью защиты информации от ошибок в реальном канале связи, т.е. канале, в котором возникают ошибки под воздействием помех.

Это, с одной стороны, замедляет передачу информации (уменьшает скорость) из-за внесения некоторой служебной избыточности, но, с другой стороны, повышает верность передачи информации за счет уменьшения вероятности ошибки при передаче сообщений.

Коды, обеспечивающие такую передачу, называются корректирующими или помехоустойчивыми. Примеры: коды с проверкой на четность, коды Хэмминга, Боуза-Чоудхури, Рида-Соломона, циклические коды и т.д.

Теоретическую основу помехоустойчивого кодирования составляет вторая теорема Шеннона. Данная теорема сформулирована для канала с ошибками и справед лива при отсутствии ограничений на задержку.

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ   След >