КОЛИЧЕСТВО ИНФОРМАЦИИ

Количество информации как мера уменьшения неопределенности знаний

Процесс познания окружающего мира приводит к накоплению информации в форме знаний (фактов, научных теорий и т.д.). Получение новой информации приводит к расширению знаний или, как иногда говорят, к уменьшению неопределенности знаний. Если некоторое сообщение приводит к уменьшению неопределенности наших знаний, то можно говорить, что такое сообщение содержит информацию.

Например, после сдачи зачета или выполнения контрольной работы вы мучаетесь неопределенностью, вы не знаете, какую оценку получили. Наконец, учитель объявляет результаты, и вы получаете одно из двух информационных сообщений: «зачет» или «незачет», а после контрольной работы одно из четырех информационных сообщений: «2», «3», «4» или «5».

Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности ваших знаний в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности ваших знаний в четыре раза, так как получено одно из четырех возможных информационных сообщений.

Ясно, что чем более неопределенна первоначальная ситуация (возможно большее количество информационных сообщений), тем больше мы получим новой информации при получении информационного сообщения (в большее количество раз уменьшится неопределенность знаний).

Рассмотрим вопрос об определении количества информации более подробно на конкретных примерах. Пусть у нас имеется монета, которую мы бросаем на ровную поверхность. С равной вероятностью произойдет одно из двух возможных событий — монета окажется в одном из двух положений: «орел» или «решка».

Можно говорить, что события равновероятны, если при возрастающем числе опытов количество выпадений «орла» и «решки» постепенно сближаются. Например, если мы бросим монету 10 раз, то «орел» может выпасть 7 раз, а «решка» — 3 раза, если бросим монету 100 раз, то «орел» может выпасть 60 раз, а «решка» — 40 раз, если бросим монету 1000 раз, то «орел» выпадет 520 раз, а «решка» — 480 и т.д. В итоге при очень большой серии опытов количество выпадений «орла» и «решки» практически сравняются.

Перед броском существует неопределенность наших знаний (возможны два события), и как упадет монета, предсказать невозможно. После броска наступает полная определенность, так как мы видим (получаем зрительное сообщение), что монета в данный момент находится в определенном положении (например, «орел»). Это сообщение приводит к уменьшению неопределенности наших знаний в два раза, так как из двух возможных равновероятных событий реализовалось одно.

Рис. 2.3. Возможные и произошедшее события

В окружающей действительности достаточно часто встречаются ситуации, когда может произойти некоторое количество равновероятных событий. Так, при бросании равносторонней четырехгранной пирамиды существуют 4 равновероятных события, а при бросании шестигранного игрального кубика — 6 равновероятных событий.

Чем больше количество возможных событий, тем больше начальная неопределенность наших знаний и соответственно тем большее количество информации будет содержать сообщение о результатах опыта.

Количество информации можно рассматривать как меру уменьшения неопределенности знаний при получении информационных сообщений.

Рассмотренный выше подход к информации как мере уменьшения неопределенности знания позволяет количественно измерять информацию. Существует формула, которая связывает между собой количество возможных информационных сообщений N и количество информации I, которое несет полученное сообщение:

Бит. Для количественного выражения любой величины необходимо сначала определить единицу измерения. Так, для измерения длины в качестве единицы выбран метр, для измерения массы — килограмм и т.д. Аналогично для определения количества информации необходимо ввести единицу измерения.

За единицу количества информации принимается такое количество информации, которое содержит информационное сообщение, уменьшающее неопределенность знаний в два раза. Такая единица названа бит.

Если вернуться к рассмотренному выше получению информационного сообщения о результатах зачета, то здесь неопределенность как раз уменьшается в два раза и, следовательно, количество информации, которое несет сообщение, равно 1 биту.

Производные единицы измерения количества информации. Минимальной единицей измерения количества информации является бит, а следующей по величине единицей является байт, причем

В информатике система образования кратных единиц измерения количества информации несколько отличается от принятых в большинстве наук. Традиционные метрические системы единиц, например,

Международная система единиц СИ, в качестве множителей кратных единиц используют коэффициент 10^п, где п = 3, 6, 9 и т.д., что соответствует десятичным приставкам кило- (10³), мега- (10⁶), гига- (10⁹) и т.д.

В компьютере информация кодируется с помощью двоичной знаковой системы и поэтому в кратных единицах измерения количества информации используется коэффициент 2^П.

Так, кратные байту единицы измерения количества информации вводятся следующим образом:

• 1 Кбайт = 2¹⁰ байт = 1024 байт;
• 1 Мбайт = 2¹⁰ Кбайт = 1024 Кбайт;
• 1 Гбайт = 2¹⁰ Мбайт = 1024 Мбайт.

Единицы измерения информации

http://uslide.ru/informatika/15967-izmerenie-informacii-klass.html Контрольные задания

• 1. Приведите примеры информационных сообщений, которые приводят к уменьшению неопределенности знаний.
• 2. Приведите примеры информационных сообщений, которые несут 1 бит информации.

Задания для самостоятельного выполнения

• 2.3. Задание с выборочным ответом. За минимальную единицу измерения количества информации принят:
  • а) 1 бод;
  • б) 1 пиксель;
  • в) 1 байт;
  • г) 1 бит.
• 2.4. Задание с кратким ответом. Вычислите, какое количество информации в битах содержится в 1 Кбайте, 1 Мбайте и 1 Гбайте.