Содержание
- Введение 1
- Основные понятия и определения в теории информации 2
- - Сообщение и источник информации 2.1
- - Канал связи и шум 2.2
- - Вероятность и математическое ожидание 2.3
- Меры количества информации 3
- - Энтропия Шеннона 3.1
- - Взаимная информация 3.2
- - Условная энтропия 3.3
- Применение теории информации 4
- - Сжатие данных 4.1
- - Криптография 4.2
- - Машинное обучение 4.3
- Заключение 5
- Список литературы 6