Предметом исследования являются формулы К. Шеннона для вычисления количества информации в сообщениях дискретного источника и его энтропии, а также простейшие модели дискретных источников.Цель работы – исследование свойств энтропии как количественной меры неопределенности дискретного источника. В ходе работы требуется произвести теоретические исследования энтропии, а также численное моделирование простейших дискретных стационарных и нестационарных источников. Отчет по лабораторной работе выполнить на основе данного преподавателем шаблона и оформить согласно требованиям ГОСТ 7.32-2001 «Отчет о научно-исследовательской работе. Структура и правила оформления»

смоделировать дискретный нестационарный источник и построить гистограмму значений энтропии при принятии определенной серии сообщений (за множество сообщений взять множество различных букв в вашем ФИО + символ ¬"_" в качестве разделителя слов; прописные и строчные не различать; вероятности вычислить по частотам вхождения букв в ФИО; при моделировании предположить, что источник по буквам формирует в точности ваше ФИО; проинтерпретировать динамику изменения энтропии).

Понятие информации предполагает наличие двух объектов: источника информации и потребителя [1, 2]. Информация представляется в виде специальных знаков, символов; характерным носителем информации является сообщение, под которым обычно понимают все то, что подлежит передаче. Статистический подход к оценке качества информации представлен в обширном разделе кибернетики – теории информации, которая занимается математи¬ческим описанием и оценкой методов передачи, хранения, извлече¬ния и классификации информации.Основы теории информации были заложены в 1948 г. американским математиком К. Шенноном, который ввел понятие энтропии как меры неопределенности источника и количества информации через изменение этой неопределенности.Пусть имеется дискретный источник, заданный ансамблем сообщений X = {x1, x2, … xN} и вероятностями формирования этих сообщений P = {p1, p2, … pN}. В силу свойств ансамбля, сообщения множества X являются несовместными событиями

Малые значения энтропии источника говорят о его малой информативности; большие – о неопределенности того, какое именно сообщение будет сформировано источником в определенный момент. Значение энтропии в битах определяет минимальный размер двоичного кода (на одно сообщение в среднем), необходимого для взаимнооднозначного кодирования сообщений источника. Целью данной лабораторной работы является исследование свойств энтропии, предложенной Шенноном, как количественной меры неопределенности дискретного источника. Оформление отчета по лабораторной работе было выполнено согласно требованиям ГОСТ 7.32–2001 «Отчет о научно-исследовательской работе. Структура и правила оформления».

АААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААа АААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААААа