Количество информации

Слайд 1

Слайд 2

Единицы измерения информации

Слайд 3

Содержательный подход. Количество информации, заключенное в сообщении, определяется объемом знаний, который несет это сообщение получающему его человеку . Сообщение содержит информацию для человека, если заключенные в нем сведения являются для этого человека новыми и понятными и, следовательно, пополняют его зна­ния. При содержательном подходе возможна качественная оценка информации: полезная, безразличная, важная, вредная ... Одну и ту же информацию разные люди могут оценить по разному.

Слайд 4

Содержательный подход. Единица измерения количества информации называется бит. Сообщение, уменьшающее неопределенность знаний человека в два раза, несет для него 1 бит информации. Пусть в некотором сообщении содержатся сведения о том, что произошло одно из N равновероятных событий ( равновероятность обозначает, что ни одно событие не имеет преимуществ перед другими). Тогда количество информации, заключенное в этом сообщении, — х бит и число N связаны формулой Хартли: 2 х = N .

Слайд 5

Содержательный подход. Пример. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 15)? Поскольку вытаскивание любого из 32 шаров равновероятно , то количество информации об одном выпавшем номере находится из уравнения: 2 х = 32. Но 32 = 2 5 . Следовательно, х = 5 бит. Очевидно, ответ не зависит от того, какой именно выпал номер.

Слайд 6

Алфавитный подход к измерению информации позволяет определить количество информации, заключенной в тексте. Алфавитный подход является объективным, т.е. он не зависит от субъекта (человека), воспринимающего текст. Множество символов, используемых при записи текста, называется алфавитом. Полное количество символов в алфавите называется мощностью алфавита . Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то количество информации, которое несет каждый символ, вычисляется по формуле: i = log 2 N ,

Слайд 7

Алфавитный подход где N — мощность алфавита. Следовательно, в 2-х символьном алфавите каждый символ «весит» 1 бит ( log 2 2 = 1); в 4-х символьном алфавите каждый символ несет 2 бита информации ( log 2 4 = 2); в 8-ми символьном — 3 бита ( log 2 8 = 3) и т.д.

Слайд 8

Алфавитный подход Один символ из алфавита мощностью 256 (2 8 ) несет в тексте 8 бит информации. Такое количество информации называется байт. Алфавит из 256 символов используется для представления текстов в компьютере. 1 байт = 8 бит. Если весь текст состоит из К символов, то при алфавитном подходе размер содержащейся в нем информации равен: I = К * i , где i — информационный вес одного символа в используемом алфавите.

Слайд 9

Алфавитный подход Пример. Книга, набранная с помощью компьютера, содержит 150 страниц; на каждой странице — 40 строк, в каждой строке — 60 символов. Каков объем инфор­мации в книге? Решение. Мощность компьютерного алфавита равна 256. Один символ несет 1 байт информации. Значит, страница со­держит 40 х 60 = 2400 байт информации. Объем всей инфор­мации в книге (в разных единицах): 2400 х 150 = 360 000 байт. 360000/1024 = 351,5625 Кбайт. 351,5625/1024 = 0,34332275 Мбайт.