Измерение информации

Единицы измерения информации

Самой маленькой величиной является бит

Бит — это один двоичный разряд, принимающий одно из двух значений – «0» или «1».

1 байт = 8 бит

1 килобит (Кбит) = 1024 бит («2» в 10 степени бит)

1 мегабит (Мбит) = 1024 килобит («2» в 10 степени килобит)

1 гигабит (Гбит) = 1024 мегабит («2» в 10 степени мегабит)

1 терабит (Тбит) = 1024 гигабит («2» в 10 степени гигабит)

1. Содержательный подход к измерению информации

В содержательном подходе количество информации, заключенное в сообщении, определяется объемом знаний, который это сообщение несет получающему его человеку.

Eдиница измерения информации определяется следующим образом: Сообщение, уменьшающее неопределенность знания об исходе некоторого события в два раза, несет 1 бит информации.

Согласно этому определению, сообщение в первой из описанных ситуаций несет 1 бит информации, поскольку из двух возможных вариантов ответа был выбран один.

Следовательно, количество информации, полученное во второй и в третьей ситуациях, больше, чем один бит.

N = 2i,

N - количество вариантов исхода;

i - информационный объем сообщения.

2. Алфавитный подход к измерению информации

Данный подход к измерению информации позволяет определить количество информации, заключенной в тексте, записанном с помощью некоторого алфавита.

Под алфавитом некоторого языка мы будем понимать набор букв, знаков препинания, цифр, скобок, пробел и других символов, используемых в тексте.

I = i * k,

где I – количество информации в сообщении
i – количество информации, которое несет один знак
k – количество знаков в сообщении

3. Вероятностный подход к измерению информации

В реальной жизни существует множество ситуаций с различными вероятностями. Например, если у монеты одна сторона тяжелей другой, то при ее бросании вероятность выпадения «орла» и «решки» будет различной.
Сначала разберемся с понятием «вероятность». Введем следующие понятия:
испытание - любой эксперимент;
единичное испытание - испытание, в котором совершается одно действие с одним предметом (например, подбрасывается монетка, или из корзины извлекается шар);
исходы испытаний - результаты испытания (например, при подбрасывании монеты выпал «орел», или из корзины извлекли белый шар);
множество исходов испытания - множество всех возможных исходов испытания;
случайное событие - событие, которое может произойти или не произойти (например, выигрыш билета в лотерее, извлечение карты определенной масти из колоды карт).

Вероятностью случайного события (p) называется отношение числа благоприятствующих событию исходов (k) к общему числу исходов (N):

p=k /N.

Вероятностный подход предполагает, что возможные события имеют различные вероятности реализации.

В этом случае, зная вероятность (p) событий, можно определить количество информации (i) в сообщении о каждом из них из формулы:

2i=1/p.

Меню сайта

Наш опрос

Оцените мой сайт
Всего ответов: 74

Статистика


Онлайн всего: 1
Гостей: 1
Пользователей: 0
Последние новости
Наш опрос
Оцените мой сайт
Всего ответов: 74
Вход на сайт

Поиск
Календарь
«  Ноябрь 2024  »
ПнВтСрЧтПтСбВс
    123
45678910
11121314151617
18192021222324
252627282930