шпаргалка

Количесиво инф-ии. Измерение информации.

[ Назад ]

Объемный способ измерения инф. Объем инф. в сообщ. – это кол-во символов в сообщении.

Энтропийный способ измерения инф Количество информации в сообщении определяется тем, насколько уменьшится мера неопределенности после получения сообщения.

Количество информации при наблюдении случайной величины с распределением вероятностей задается формулой Шеннона:



Единицей измерения количества информации является бит, который представляет собой количество информации, получаемое при наблюдении случайной величины, имеющей два равновероятных значения.

При равномерном распределении количество информации задается формулой Хартли:



Справедливы следующие соотношения:



если и - независимы

Алгоритмический способ измерения инф. Любому сообщению можно приписать количественную характеристику, отражающую сложность (размер) программы, к-ая позволяет ее произвести.













































КАТЕГОРИИ:

Network | английский | архитектура эвм | астрономия | аудит | биология | вычислительная математика | география | Гражданское право | демография | дискретная математика | законодательство | история | квантовая физика | компиляторы | КСЕ - Концепция современного естествознания | культурология | линейная алгебра | литература | математическая статистика | математический анализ | Международный стандарт финансовой отчетности МСФО | менеджмент | метрология | механика | немецкий | неорганическая химия | ОБЖ | общая физика | операционные системы | оптимизация в сапр | органическая химия | педагогика | политология | правоведение | прочие дисциплины | психология (методы) | радиоэлектроника | религия | русский | сертификация | сопромат | социология | теория вероятностей | управление в технических системах | физкультура | философия | фотография | французский | школьная математика | экология | экономика | экономика (словарь) | язык Assembler | язык Basic, VB | язык Pascal | язык Си, Си++ |