Предметом исследования являются формулы К. Шеннона для вычисления количества информации в сообщениях дискретного источника и его энтропии, а также простейшие модели дискретных источников.  
Цель работы – исследование свойств энтропии как количественной меры неопределенности дискретного источника.  
В ходе работы требуется произвести теоретические исследования энтропии, а также численное моделирование простейших дискретных стационарных и нестационарных источников. Отчет по лабораторной работе выполнить на основе данного преподавателем шаблона и оформить согласно требованиям ГОСТ 7.32-2001 «Отчет о научно-исследовательской работе. Структура и правила оформления».  
  
Задачи лабораторной работы:
1. повторить теоретический материал: дискретные источники сообщений, собственное количество информации и энтропия, стационарные и нестационарные источники;
2. аналитически найти минимальное и максимальное значения энтропии дискретного источника и условия, при которых они достигаются;
3. построить и проинтерпретировать график энтропии источника с двумя состояниями;
4. численно вычислить значения энтропии простейших стационарных систем:
	- идеальной монеты (вероятности выпадения «орла» и «решки» одинаковы);
	- фальшивой монеты со смещенным центром тяжести (взять произвольные значения вероятностей, отклоняющихся от 1/2 не более, чем на 30%; сравнить и объяснить разницу в неопределенности результата броска идеальной монеты и фальшивой);
	- игральной кости (шесть равновероятных исходов);
	- фальшивой игральной кости со смещенным центром тяжести в сторону единицы (шестерка на противоположной грани кости выпадает чаще; значения 2÷5 – по-прежнему с вероятностью 1/6; взять произвольные вероятности единицы и шестерки, отклоняющиеся от 1/6 не более, чем на 20%; сравнить и объяснить разницу в неопределенности результата броска идеальной кости и фальшивой);
5. смоделировать дискретный нестационарный источник и построить гистограмму значений энтропии при принятии определенной серии сообщений (за множество сообщений взять множество различных букв в вашем ФИО + символ ­"<u>⠀</u>" в качестве разделителя слов; прописные и строчные не различать; вероятности вычислить по частотам вхождения букв в ФИО; при моделировании предположить, что источник по буквам формирует в точности ваше ФИО; проинтерпретировать динамику изменения энтропии).