Что такое теория информации и какие задачи она решает?
Согласен с Владимиром Т. Добавлю от себя:
Теория информации предназначена в первую очередь для перевода информационных IT-сущностей (энтропии и избыточности кода, стойкости шифров, скорости обмена, интенсивность ошибок в канале данных) в понятные для реализации и оценки физические и экономические величины:
- потребляемую мощность,
- расход энергии на единицу информации,
- рентабельность взлома шифров и применения систем безопасности,
- надежность срабатывания систем защиты,
- производительность труда.
Теория информации — это ветвь теории вероятности и математической статистики, определяющая понятие информации.
Теория информации связана с информационной энтропией, коммуникационными системами, передачей данных и теорией скорости искажения, криптографией, сжатием данных, коррекцией ошибок и другими смежными областями.
и еще: http://www.krugosvet.ru/articles/15/1001541/1001541a1.htm