- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Теория информации (лекция 1) презентация
Содержание
- 1. Теория информации (лекция 1)
- 2. Содержание Информационные характеристики случайных систем Информационные характеристики
- 3. Литература Ватолин, Д. Методы сжатия данных. Устройство
- 4. Литература Панасенко, С.П. Алгоритмы шифрования: специальный справочник
- 5. Информационные характеристики случайных систем Система Дискретная случайная
- 6. Система
- 7. Целостность системы Система – это нечто большее, чем совокупность ее частей.
- 8. Классификация систем по виду сигналов
- 9. Непрерывные и дискретные сигналы
- 10. Классификация систем по определенности
- 11. Детерминированные и случайные системы
- 12. Дискретная случайная система
- 13. Энтропия
- 14. Основание логарифма
- 15. Единица измерения энтропии Двоичный логарифм: бит Натуральный логарифм: нат Десятичный логарифм: дит, харт, бан
- 16. Свойства энтропии Энтропия – величина вещественная, ограниченная,
- 17. Энтропия – величина вещественная и неотрицательная
- 18. Энтропия – величина ограниченная
- 19. Максимальное значение энтропии
- 20. Система с равномерным распределением вероятностей
- 21. Энтропия бинарной системы
- 22. График бинарной энтропии
- 23. Значения для расчета энтропии
- 24. Сложная система
- 25. Энтропия сложной системы
- 26. Условная энтропия
- 27. Энтропия объединения
- 28. Количество информации
- 29. Количество информации по Хартли
- 30. Количество информации по Шеннону
- 31. Взаимная информация
- 32. Расчет взаимной информации
- 33. Непрерывная случайная система
- 34. Информационные характеристики непрерывной случайной системы
- 35. Объем информации Q=kl k – длина сообщения
Слайд 2Содержание
Информационные характеристики случайных систем
Информационные характеристики каналов связи
Кодирование информации
Сжатие информации
Помехоустойчивое кодирование информации
Шифрование
информации
Слайд 3Литература
Ватолин, Д. Методы сжатия данных. Устройство архиваторов, сжатие изображений и видео
/Д. Ватолин, А. Ратушняк, М. Смирнов, В. Юкин. – М.: ДИАЛОГ–МИФИ, 2002.
Вельшенбах, М. Криптография на Си и C++ в действии: учебное пособие /М. Вельшенбах. – М.: Издательство Триумф, 2004.
Вернер, М. Основы кодирования: учебник для ВУЗов /М.Вернер. – М.: Техносфера, 2004.
Кудряшов, Б.Д. Теория информации: учебник для вузов / Б.Д. Кудряшов. – СПб.: Питер, 2009.
Лидовский, В.В. Теория информации: учебное пособие /В.В. Лидовский. – М.: Компания Спутник+, 2004.
Морелос-Сарагоса, Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / Р. Морелос-Сарагоса. – М.: Техносфера, 2005.
Вельшенбах, М. Криптография на Си и C++ в действии: учебное пособие /М. Вельшенбах. – М.: Издательство Триумф, 2004.
Вернер, М. Основы кодирования: учебник для ВУЗов /М.Вернер. – М.: Техносфера, 2004.
Кудряшов, Б.Д. Теория информации: учебник для вузов / Б.Д. Кудряшов. – СПб.: Питер, 2009.
Лидовский, В.В. Теория информации: учебное пособие /В.В. Лидовский. – М.: Компания Спутник+, 2004.
Морелос-Сарагоса, Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / Р. Морелос-Сарагоса. – М.: Техносфера, 2005.
Слайд 4Литература
Панасенко, С.П. Алгоритмы шифрования: специальный справочник /С.П. Панасенко. – СПб: БХВ-Петебург,
2009.
Панин, В.В. Основы теории информации. Учебное пособие для вузов /В.В.Панин. – М.: БИНОМ, Лаборатория знаний, 2011.
Смарт, Г. Криптография /Г. Смарт. – М.: Техносфера, 2005.
Сэломон, Д. Сжатие данных, изображений и звука /Д. Сэлоион. – М.: Техносфера, 2004.
Умняшкин. С.В. Теоретические основы цифровой обработки и представления сигналов: учебное пособие /С.В. Умняшкин. – М.: ИД «ФОРУМ»: ИНФРА-М, 2008.
Яглом, А.М. Вероятность и информация /А.М. Яглом, И.М. Яглом. Изд. 4-е, стереот. – М.: КомКнига, 2006.
Панин, В.В. Основы теории информации. Учебное пособие для вузов /В.В.Панин. – М.: БИНОМ, Лаборатория знаний, 2011.
Смарт, Г. Криптография /Г. Смарт. – М.: Техносфера, 2005.
Сэломон, Д. Сжатие данных, изображений и звука /Д. Сэлоион. – М.: Техносфера, 2004.
Умняшкин. С.В. Теоретические основы цифровой обработки и представления сигналов: учебное пособие /С.В. Умняшкин. – М.: ИД «ФОРУМ»: ИНФРА-М, 2008.
Яглом, А.М. Вероятность и информация /А.М. Яглом, И.М. Яглом. Изд. 4-е, стереот. – М.: КомКнига, 2006.
Слайд 5Информационные характеристики случайных систем
Система
Дискретная случайная система
Энтропия
Количество информации
Информационные характеристики непрерывной случайной системы
Объем
информации
Слайд 15Единица измерения энтропии
Двоичный логарифм: бит
Натуральный логарифм: нат
Десятичный логарифм: дит, харт, бан
Слайд 16Свойства энтропии
Энтропия – величина вещественная, ограниченная, неотрицательная
Система имеет максимальную энтропию при
равновероятном распределении состояний
Система имеет минимальную энтропию при наличии достоверного состояния
Система имеет минимальную энтропию при наличии достоверного состояния
