Эссе на тему: "Теория информационных процессов и систем"

Введение. Актуальность темы. В подлинных трудах К. Шеннона была доказана принципиальная возможность решения скрытых проблем, что показалось в конце 40-х гг. полным откровением для специалистов. Это, как и труды в сфере теории возможной помехоустойчивости, созданной в СССР академиком В. А. Котельниковым, вызвало целую лавину изучений, продолжающихся уже более 50 лет.
Отечественные и североамериканские математики (в СССР -- А.Н. Колмогоров, А.И. Хинчин, Р.Л. Добрушин, М.С. Пинскер и др., в США -- А. Файнштейн, Р. Галлагер, Дж. Вольфовиц и др.) дали правильную трактовку этой теории.
С учетом фундаментальных законов передачи сообщений, определенных К. Шенноном, создаются нынешние цифровые системы связи. В соответствии с положениями теории информации в этих системах перед передачей сообщения по каналу связи ликвидируется его избыточность, а потом оно кодируется с применением помехоустойчивых кодов.
На основе этой теории были разработаны алгоритмы, разрешившие существенно сократить избыточность факсимильных, речевых и телевизионных сообщений. Это повергло к бурному формированию во второй половине ХХ в. действенных цифровых систем подвижной, регистрированной и спутниковой связи, а также цифрового звукового и телевизионного вещания. Такие системы уже начали внедряться, а в первом десятилетии XXI в. они полностью заменят системы, разработанные в середине прошлого века.
 Цель работы – рассмотреть научное наследие К.Шеннона. Для достижения цели, решим задачи:
- изучим биографию К.Шеннона;
 - проанализируем научное наследие К.Шеннона.
Клод Элвуд Шеннон - инженер, математик1.1 БиблиографияКлод Элвуд Шеннон - инженер, математик Америки. Родился 30 апреля 1916 года в городе Петоцки, штат Мичиган, США. В юности Шеннон увлекался конструированием механических и автоматических устройств, что позволило ему собирать модели самолетов, радиотехнические цепи, а также радиоуправляемую лодку и небольшую телеграфную систему, данный фактор можно выделить первым на научном пути Клода Элвуда Шеннона.
После окончания общеобразовательной средней школы он поступил в Мичиганский университет, заканчивая который получил степени бакалавра по специальностям математика и электротехника, что ясно показывает, насколько Шеннон был увлечен техническими науками, это второй фактор, так как если бы он разочаровался в этом, мы бы никогда не увидели эволюцию очень важной и по сей день развивающейся науки «кибернетики». Еще студентом его заинтересовали работы Джорджа Буля, применение которым в последствии Шеннон увидел в электрических схемах дифференциального анализатора. В 1938 году публикуется статья, написанная с его магистерской работы «Символьный анализ реле и коммутаторов. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия». Докторская диссертация, написанная во время участия в работе по генетике, называлась «Алгебра для теоретической генетики», и была завершена весной 1940 года. Шеннон получил докторскую степень по математике и степень магистра по электротехнике, данный шаг и есть третий фактор[1].
Впоследствии, он преподал в университете и трудился в американской телефонной компании Белл. Исследуя переключающие цепи, Шеннон обнаружил передовой метод объединения цепей, какой позволяет сократить число контактов реле, нужных в исполнении сложных логических функций. В дальнейшем издает его доклад «Организация двухполюсных переключающих цепей». Сам же Шеннон пытался решить проблемы создания схем переключения.
Со вступлением США во Вторую мировую войну Шеннон примкнул к работе над программой для систем управления огнем для противовоздушной обороны и работал над устройствами обнаружения самолетов противника и наведения на них зенитных указаний, также он разрабатывал криптографические системы, в том числе и правительственную связь. Участие Шеннона в работе можно огласить третьим фактором, как изъяснялся он сам, работа в сфере криптографии подтолкнула его к сотворению теории информации.
В период с 1950 по 1956 года он занимался творением логических машин. Далее он сотворил машину, какая могла играть в шахматы. В 1952 Шеннон сотворил обучаемую машину поиска выхода из лабиринта. В 1966 году он вышел на пенсию.
Клод Шеннон ушел из жизни 24 февраля 2001 года, он внёс вклад в области наук, умещающиеся в понятие «кибернетика», в теорию автоматов, теорию систем правления, теорию вероятностных схем.
1.2 «Математическая теория связи», слава ШеннонаОпубликование статьи «Математическая теория связи» ославила Шеннона, она заключала идеи, ставшие началом нынешних теорий и техник обработки, трансляции и хранения информации. Клод Шеннон обобщил идеи Хартли и ввел мнение информации. Он первым стал анализировать передаваемые извещения и шумы в каналах связи с точки зрения статистики, анализируя разнообразные множества сообщений, как конечные, так и постоянные множества. Конечные сообщения формируются непоследовательной выдачей сообщений некоторых элементов источником. Непрерывные не разделены на элементы, описываются непрерывными функциями времени. Теория информации Шеннона помогла решить ряд проблем: ликвидировать избыточность предаваемых сообщений, выработать кодирование, изобразить сообщение по каналам связи с шумами[3].
Задачи теории информации можно изобразить в виде структурной схемы, типичной системы передачи или хранения информации.
В структурной схеме трансляции сообщения есть назначенный взгляд действия. Исконно источник информации пробуждает сообщение, какое необходимо передать, далее это сообщение реорганизуют в электрические сигналы. После этого кодер источника оптимизирует информацию, далее кодер канала обрабатывает полученное для защиты сообщения от помех при передаче или искажений во время хранения. Модулятор в свою очередь вырабатывает сообщение в сигналы, какие отвечают виду канала или среде накопителя информации. Далее канал связи прибавляет во время передачи сообщения шум, какой помогает защитить его от точного прочтения. Последующие операции осуществляют обратно первым, то есть демодулятор, после этого декодер канала, далее декодер источника и адресат информации[4].
2.  Научное наследие К.Шеннона2.1 Cтиль работы Шеннона. Структуризации процесса передачи данныхБольшую часть своих изучений Шеннон сосредотачивал на темах, какие предельно влияли на научное сообщество. Неудивительно, что его, как инициатора произведения области науки «теория информации», даже объявили «отцом эры дискретности».
Его стиль работы характеризовался большой самостоятельностью, а его итоги были весьма уникальны. Вместе с тем, области науки, в каких он работал, в большой мере определялись воздействием внешних факторов. Точнее говоря, всякая из областей его научной деятельности - теория переключений, генетика, теория информации и криптография - были подсказаны окружением, в каком Шеннон находился в это время и характерными интересами лиц, советами каких он пользовался.
Наиболее увлекательным и ярким примером воздействия среды на выбор темы его изучения является его работа «Алгебра теоретической генетики», изображенная в 1940 г. на степень доктора философии в МТИ. Однако эта работа не привлекала к себе такого интереса, как иные его работы. Тем не менее, вклад в науку, продемонстрированный им в данной работе по генетике, был по духу аналогично на его вклад в работы по теории переключательных схем и теории информации, воздействие которых на науку было большим. Надо отметить, что Шеннон не делал ничего, чтобы продвинуть собственные «непопулярные» работы по генетике, равноправно, как и мало подмеченные работы по криптографии. В итоге эти работы не были приняты обществом и не показали на него заметного влияния. Хотя, как уже изъяснялось, на выбор сферы исследований Шеннона значительное влияние проявляло его окружение, его личная роль в исследовании была совершенно независимой и решающей. Это было объединено с тем, что он работал с математическими теориями, способными представлять различные системы из многообразных областей.
Суть стиля научной работы Шеннона заключалась в его влечении (и способности) первоначально выразить решаемую проблему в наиболее общей, абстрактной форме, а затем перейти от нее к неравносильной, но одновременно простейшей форме, в которой выброшены несущественные детали и потому закономерности изучаемого объекта становятся ясно видимыми. Собственно этим подходом объясняется способность Шеннона взять проблему и использовать к ней математическую теорию, революционизируя в итоге сам способ анализа данной сферы. Такой вклад Шеннона во все сферы, в каких он работал, но в первую очередь - в теорию переключений и теорию информации. Этот его вклад оказал значительное влияние на нынешнее общество.
До 1940 г. не наличествовало сколь-нибудь унифицированной теории связи. К. Шеннон был первым, кто предлагал такую теорию. В послании к Ванневару Бушу (16.02.1939 г.) он в первый раз изобразил универсальную двухступенчатую схему всякой системы связи (ступень 1 - передатчик, ступень 2 - приемник). Из этого можно видеть, что уже тогда - менее чем через год после защиты его магистерской диссертации «Символический анализ релейных и переключательных схем» и параллельно с выполнением его докторской диссертации «Алгебра теоретической генетики» - Шеннон начал работу по структуризации процесса трансляции данных, чтобы найти корень вопроса связи. Позднее, в 1948 г., в своей главной работе «Математическая теория связи» он предложил более совершенную совокупность частей любой системы связи[5]:
1) источник информации;
2) передатчик;
3) канал связи;
4) приемник;
5) хранилище принятой информации.
В этой же работе Шеннон выделил 3 типа систем связи - дискретные, непрерывные и смешанные - и определил, что дискретный случай показывает базой для двух иных случаев и «имеет применения не только в теории связи, но и в теории вычислительных машин, проектировании телефонных станций и иных областях».
Таким образом, мы видим, что в 1939 г. Шеннон был еще отдален от окончания теории связи. Все же уже через 9 лет он выпустил свою «Математическую теорию связи», где дал глубокое и легкое описание обобщенной системы связи. Его объединение в единое целое частей системы связи, его моделирование сообщения как энтропии и его теория о предельных потенциалах связи в условиях шума и без него были скачками через нынешнее ему мышление в технику связи.
Значительный интерес представляет методика, какую применял Шеннон в работе над теорией информации и иными проблемами. Сам он в лекции 1953 г. описал эту методику. «Первое, о чем я должен сказать, это упрощение. Допустим, у вас есть проблема, которую надо решить - построить машину, создать физическую теорию, доказать математическую теорему и т. д.
Тогда, возможно, самый интенсивный подход к постановлению этой проблемы - попробовать пропустить из нее все второстепенное, оставив лишь суть. Всякая проблема содержит данные всевозможных типов, и, если вы выделите основные из них, то яснее увидите, что надо делать и, возможно, найдете решение. Иногда вы можете упростить проблему до такого вида, какой даже не похож на начальную постановку, из какой вы исходили. Но очень часто, решив эту гораздо более простую проблему, вы можете улучшить обретенное решение до того, что вернетесь к решению всей проблемы в ее начальном виде».
Именно так Шеннон формулировал и решал свои проблемы - сначала на самом высоком уровне абстракции, затем выбрасывал все несущественное и, наконец, применял подходящую математику: булеву логику, знакомую ему с дней в Мичигане, - для магистерской диссертации по переключательным схемам, алгебру - для его докторской работы по генетике и теорию вероятностей - для работы по теории связи. Сделав это, Шеннон смог создать научные теории, которые стали базой для соответствующих областей науки и техники.
2.2 «Теория связи в секретных системах»Работа Шеннона «Теория связи в секретных системах» (1945) с грифом секретно, какую рассекретили и издали только лишь в 1949 году, послужила началом обширных исследований в теории кодирования и передачи информации, и, по общему мнению, придала криптографии статус науки. Собственно Клод Шеннон впервой начал изучать криптографию, используя научный подход. В этой статье, Клод назначил основополагающие суждения теории криптографии, без каких криптография уже неимоверна. Существенной заслугой Шеннона является изучения абсолютно секретных систем, и доказательство их существования, а также существование криптостойких шифров, и требуемые для этого условия.
Шеннон также формулировал основные требования, предъявляемые к надежным шифрам. Он ввел ставшие уже привычными понятия рассеивания и перемешивания, и методы творения криптостойких систем шифрования на основе элементарных операций. Данная статья является исходным пунктом исследования науки криптографии.
2.3 «Математическая теория связи»Статья «Математическая теория связи», была издана в 1948 году и сделала Клода Шеннона всемирно популярным. В ней Шеннон изложил свои идеи, ставшие потом началом современных теорий и техник обработки передачи и сохранения информации. Итоги его работ в области передачи информации по каналам связи запустили по всему миру большое число исследований. Шеннон обобщал идеи Хартли и ввел понятие информации, содержащейся в передаваемых сообщениях. В качестве меры информации передаваемого сообщения М, Хартли предложил использовать логарифмическую функцию .
Шеннон первым начал рассматривать передаваемые сообщения и шумы в каналах связи с точки зрения статистики, рассматривая как конечные множества сообщений, так и непрерывные множества сообщений. Развитая Шенноном теория информации помогла решить главные проблемы, связанные с передачей сообщений, а именно: устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. Решение проблемы избыточности подлежащего передаче сообщения позволяет максимально эффективно использовать канал связи[6].
К примеру, современные повсеместно используемые методы снижения избыточности в системах телевизионного вещания на сегодняшний день позволяют передавать до шести цифровых программ коммерческого телевидения, в полосе частот, которую занимает обычный сигнал аналогового телевидения. Решение проблемы передачи сообщения по каналам связи с шумами при заданном соотношении мощности полезного сигнала к мощности сигнала помехи в месте приема, позволяет передавать по каналу связи сообщения со сколь угодно малой вероятностью ошибочной передачи сообщения. Также, это отношение определяет пропускную способность канала. Это обеспечивается применением кодов, устойчивых к помехам, при этом скорость передачи сообщений по данному каналу должна быть ниже его пропускной способности. В своих работах Шеннон доказал принципиальную возможность решения обозначенных проблем, это явилось в конце 40-х годов настоящей сенсацией в научных кругах. Данная работа, как и работы, в которых исследовалась потенциальная помехоустойчивость, дали начало огромному числу исследований, продолжающихся и по сей день, уже более полувека. Ученые из Советского Союза и США (СССР — Пинскер, Хинчин, Добрушин, Колмогоров; США- Галлахер, Вольфовиц, Фейнштейн) дали строгую трактовку изложенной Шенноном теории. На сегодняшний день все системы цифровой связи проектируются на основе фундаментальных принципов и законов передачи информации, разработанных Шенноном.
ЗаключениеКлод Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоцки (англ.)русск., Мичиган, США — 24 февраля 2001, Медфорд, Массачусетс, США) — американский инженер и математик, его работы являются синтезом математических идей с конкретным анализом чрезвычайно сложных проблем их технической реализации.
Я считаю, что Шеннон является наилучшим основателем теории информации, нашедшей применение всовременных высокотехнологических системах связи. Шеннон внес огромный вклад в теорию вероятностных схем, теорию автоматов и теорию систем управления — области наук, входящие в понятие «кибернетика». В 1948 году предложил использовать слово «бит» для обозначения наименьшей единицы информации (в статье «Математическая теория связи»).
Докторскаядиссертация Шеннона, получившая название «Алгебра для теоретической генетики», была завершена весной 1940 года. Шеннон получает докторскую степень по математике и степень магистра по электротехнике.
Работа Шеннона вплотную связана с информационной теорией в области разработки игр, в частности колеса рулетки, машины, читающей мысли, а также машины по сбору кубика Рубика.
Учёный воплотил идею, позволяющую сжать информацию, которая позволяет избежать её потерю при распаковке.
Учёный создал школу, где периодически вёл семинары, где учил студентов находить новые подходы к решению тех или иных задач.
Известны его научные исследования в области финансовой математики. Среди них, электрическая цепь денежного течения в американских пенсионных фондах и обоснование выбора портфеля инвестиций при распределении денежных активов.
Многие сравнивают популярность Клода Шеннона с Исааком Ньютоном.
После 1978 г., на пенсии он занялся теорией жонглирования и сконструировал специальную машину.
Список источников1.Хинчин А. Я. Об основных теоремах теории информации. УМН 11:1 (67) 2016.
2.Колмогоров А. Н. Теория передачи информации. // Сессия Академии Наук СССР по научным проблемам автоматизации производства. 15–20 окт.1956 г. Пленарное заседание. М.: Изд-во АН СССР, 2017.
3.Колмогоров А. Н. Теория информации и теория алгоритмов. М.: Наука, 2017.
4. Шеннон, К.Э. Синтез двухполюсных переключательных схем // Там же. -С. 59-105.
5. Шеннон, К.Э. Надежные схемы из ненадежных реле // Там же. -С. 114-153.
6. Шеннон, К.Э. Вычислительные устройства и автоматы // Там же. -С. 162-180.
7. Шеннон, К.Э. Составление программы для игры в шахматы на вычислительной машине // Там же. - С. 192-215.
8. Шеннон, К.Э. Играющие машины // Там же. - С. 223-231.