Теория информации (1948)

Работа Клода Шеннона "Математическая теория связи" образовала область теории информации.Главная идея заключается в том,что любой источник передачи данных является марковским процессом. В системе связи с символами,такими как буквы, можно определить вероятность следования за одной буквы другой. Например, вероятность того,что за буквой "у" следует буква "к" является высокой.
Шеннон использовал такие цепи для:
- прогнозирования загрузки канала связи и оптимизации применения пропускной способности.
- генерации текста, используя n-граммы. Первая попытка с три-граммой в результате дала предложение:
"IN NO IST LAT WHEY CRATICT FOURE BIRS GROCID"

Марковские цепи, с тех пор, используется для создания текста, изображений и музыки,
а также для распознавания речи.

Изобретения Шеннона

1) В 1950 году он сделал механическую мышку Тесей, дистанционно управляемую сложной электронной схемой. Эта мышка училась находить выход из лабиринта.В честь его изобретения Институт инженеров по электротехнике и электронике учредил международный конкурс "микромышь", в котором до сих пор принимают участие тысячи студентов технических вузов.

2) В те же 50-е годы Шеннон создал машину, которая "читала мысли" при игре в "монетку": человек загадывал "орел" или "решку", а машина отгадывала с вероятностью выше 50%, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать.
Апплет данного приложения.

Это были первые реализации марковской цепи в электрическом виде.