Измерение информации
Единицы измерения информации
Самой маленькой величиной является бит
Бит — это один двоичный разряд, принимающий одно из двух значений – «0» или «1».
1 байт = 8 бит
1 килобит (Кбит) = 1024 бит («2» в 10 степени бит)
1 мегабит (Мбит) = 1024 килобит («2» в 10 степени килобит)
1 гигабит (Гбит) = 1024 мегабит («2» в 10 степени мегабит)
1 терабит (Тбит) = 1024 гигабит («2» в 10 степени гигабит)
1. Содержательный подход к измерению информации
В содержательном подходе количество информации, заключенное в сообщении, определяется объемом знаний, который это сообщение несет получающему его человеку.
Eдиница измерения информации определяется следующим образом: Сообщение, уменьшающее неопределенность знания об исходе некоторого события в два раза, несет 1 бит информации.
Согласно этому определению, сообщение в первой из описанных ситуаций несет 1 бит информации, поскольку из двух возможных вариантов ответа был выбран один.
Следовательно, количество информации, полученное во второй и в третьей ситуациях, больше, чем один бит.
N = 2i,
N - количество вариантов исхода;
i - информационный объем сообщения.
2. Алфавитный подход к измерению информации
Данный подход к измерению информации позволяет определить количество информации, заключенной в тексте, записанном с помощью некоторого алфавита.
Под алфавитом некоторого языка мы будем понимать набор букв, знаков препинания, цифр, скобок, пробел и других символов, используемых в тексте.
I = i * k,
где I – количество информации в сообщении
i – количество информации, которое несет один знак
k – количество знаков в сообщении
3. Вероятностный подход к измерению информации
Вероятностью случайного события (p) называется отношение числа благоприятствующих событию исходов (k) к общему числу исходов (N):
p=k /N.
Вероятностный подход предполагает, что возможные события имеют различные вероятности реализации.
В этом случае, зная вероятность (p) событий, можно определить количество информации (i) в сообщении о каждом из них из формулы:
2i=1/p.