Клод Шеннон

американський криптоаналітик і математик, «батько теорії інформації»

Клод Елвуд Шеннон (англ. Claude Elwood Shannon; *30 квітня, 1916, Петоскі, Мічиган — †24 лютого, 2001, Медфорд, Массачусетс, Сполучені Штати Америки) — американський електротехнік і математик, «батько теорії інформації».

Клод Елвуд Шеннон
Claude Elwood Shannon
Народився30 квітня 1916(1916-04-30)
США Петоскі, Мічиган
Помер24 лютого 2001(2001-02-24) (84 роки)
США Медфорд, Массачусетс
·хвороба Альцгеймера[1]
ПохованняМаунт Оберн[2][3][4]
Місце проживанняГейлорд[5]
КраїнаСША США
Діяльністьматематик, криптограф, інформатик, винахідник, викладач університету, інженер, генетик
Alma materМассачусетський технологічний інститут
Галузьелектротехніка, теорія інформації, кібернетика,математика, криптографія
ЗакладЛабораторія Белла
Науковий ступіньдоктор філософії[6] (1940), бакалавр наук[d][7] (1936) і Магістр наук[d][7] (1937)
Науковий керівникFrank Lauren Hitchcockd і Венівар Буш
Аспіранти, докторантиАйвен Сазерленд[8]
Денні Гілліс[8]
Heinrich Arnold Ernstd[8]
William Robert Sutherlandd[8]
ЧленствоАмериканська академія мистецтв і наук
Нідерландська королівська академія наук[9]
Леопольдина
Американське філософське товариство[7]
Національна академія наук США
Лондонське королівське товариство[10]
Відомий завдяки:Теорія інформації

Алгоритм Шеннона-Фано
Теорема Шеннона — Гартлі
Теорема відліків Віттакера—Найквіста—Котельникова—Шеннона
Теорема Шеннона для каналу з шумами
Перемикальна гра Шеннона (Shannon switching game)
Число Шеннона
Індекс Шеннона (Shannon index)
Теорема Шеннона про кодування джерела[en]
Вираз Шеннона (Shannon's expansion)
Модель Шеннона — Вівера (Shannon-Weaver model of communication)

Інтерполяційна формула Віттекера — Шеннона (Whittaker–Shannon interpolation formula)
У шлюбі зBetty Shannond[5]
Norma Barzmand[11]
Нагороди

Шеннон відомий тим, що запропонував теорію інформації в науковій статті, опублікованій у 1948 році. Йому також приписують винайдення теорії цифрової обчислювальної машини та цифрового каналу в 1937 році, коли, бу́вши 21-річним студентом в Массачусетському технологічному інституті, він написав дисертацію, в якій показав, що з допомогою електричного застосування Булевої алгебри можна сконструювати та розв'язати будь-які логічні і числові зв'язки.

Біографія

ред.

Шеннон народився в Петоскі, штат Мічиган. Його батько, нащадок перших поселенців Нью-Джерсі, був бізнесменом і якийсь час суддею. Його мати, Мейбл Волф Шеннон (1890—1945), дочка німецьких іммігрантів, була учителькою мови, а пізніше директоркою середньої школи Гейлорда, Мічиган. Перші шістнадцять років життя Шеннон провів у Гейлорді, де закінчив школу в 1932 році. Шеннон виявив схильність до механізмів. Найбільше йому вдавалися наука та математика, і вдома він складав моделі літаків, які керувалися по радіо, створив телеграф до фірми друга на відстані пів милі. Підлітком він працював посильним у Western Union. Його дитячим героєм був Томас Едісон, який, як Шеннон пізніше дізнався, був його далеким родичем. Обидва вони були нащадками Джона Огдона, колоніального лідера та предка багатьох видатних людей.

Логічні схеми

ред.

У 1932 Шеннон вступив до Мічиганського університету і здобув вищу освіту в 1936 році з двома ступенями бакалавра, один з електротехніки та другий з математики. На випускному курсі відгукнувся на вакансію роботи в Массачусетському технологічному інституті (МТІ), де він працював над диференціальним аналізатором, своєрідним аналоговим комп'ютером, під керівництвом Веннівера Буша. Проте йому сподобались не так інтегратори на коліщатках, як реле які керували їх роботою.[12]

Влітку 1937-го Шеннон в Лабораторії Белла працював над реле для маршрутизації дзвінків. Там він зрозумів що за допомогою певних комбінацій реле можна виконувати операції булевої алгебри. Восени він повернувся до МТІ, де Веннівер Буш переконав Шеннона долучити цю ідею до своєї магістерської дисертації. Шеннон назвав її «Символьний аналіз релейних та перемикальних схем[en]». [13] Дисертація була опублікована в 1938 році і за неї Шеннон отримав Приз Альфреда Нобеля в 1940 році.

Ідея про те що за допомогою реле можна обчислити будь-яку функцію булевої алгебри лягла в основу всіх сучасних комп'ютерів.

У 1940, Шеннон став Національним науковим співробітником у Інституті перспективних досліджень в Принстоні, Нью-Джерсі. Там Шеннон мав можливість обговорити свої ідеї з впливовими ученими і математиками, такими як Джон фон Нейман, і навіть один раз зустрівся з Альбертом Ейнштейном.

Після цього Шеннон вступив до Лабораторії Белла, щоб продовжити працювати над системою боротьби з лісовими пожежами та криптографією під час Другої світової війни, підписавши контракт з Національним комітетом з дослідження захисту (англ. National Defense Research Committee, NDRC).

Теорія зв'язку в таємних системах

ред.

Робота Шеннона «Теорія зв'язку в секретних системах» (1945) з грифом таємно, яку розсекретили і опублікували тільки в 1949 році, стала початком широких досліджень в теорії кодування і передачі інформації. Ця робота за загальною думкою, надала криптографії статус науки. Саме Клод Шеннон вперше почав вивчати криптографію, використовуючи системний підхід.

В цій статті Шеннон визначив основоположні поняття теорії криптографії, без яких криптографія вже не мислима. Важливою заслугою Шеннона є дослідження абсолютно таємних систем і доведення їх існування, а також існування криптостійких шифрів і необхідні для цього вимоги. Шеннон також сформулював основні вимоги, які ставляться до надійних шифрів. Він ввів поняття розсіювання і змішування, які вже стали звичними, і методи створення систем шифрування на основі простих операцій. Ця стаття є відправною точкою вивчення криптографії.

Математична теорія зв'язку

ред.

Стаття «Математична теорія зв'язку» була опублікована в 1948 році і зробила Клода Шеннона всесвітньо відомим. В ній Шеннон виклав свої ідеї, які стали в майбутньому основою сучасних теорій і технологій обробки, передачі і зберігання інформації. Результати його робіт у галузі передачі інформації каналами зв'язку спричинили по всьому світу велику кількість досліджень. Шеннон повідомив ідеї Гартлі і ввів поняття інформації, яка міститься в повідомлені, що передається (далі за текстом — повідомлення). Як міру інформації повідомлення Р. Гартлі запропонував використовувати логарифмічну функцію  .

Шеннон першим почав розглядати повідомлення і шуми в каналі зв'язку з точки зору статистики, розглядаючи як скінченні множини повідомлень, так і неперервні множини повідомлень. Розвинута Шенноном теорія інформації допомогла вирішити головні проблеми, пов'язані з передачею повідомлень, а саме: усунути надлишковість повідомлень, виконати кодування і передачу повідомлень каналами зв'язку з шумами. Розв'язання проблеми надлишковості повідомлення, яке підлягає передачі, дозволяє максимально ефективно використовувати канал зв'язку.

Наприклад, сучасні широко використовувані методи зниження надлишковості в системах телебачення на сьогоднішній день дозволяють передавати до шести цифрових програм комерційного ТБ у смузі частот, яку займає звичайний сигнал аналогового телебачення. Розв'язання проблеми передачі повідомлення каналами зв'язку з шумами при заданому відношенні потужності корисного сигналу до потужності сигналу завад у місці прийому дозволяє передавати каналом зв'язку повідомлення з задано малою ймовірністю помилкової передачі повідомлення. Також це відношення визначає пропускну здатність каналу. Це забезпечується використанням стійких до завад кодів, при цьому швидкість передачі повідомлень даним каналом повинна бути нижче його пропускної здатності.

У своїх роботах Шеннон довів принципову можливість розв'язання означених проблем, це було справжньою сенсацією в наукових колах 40-х років. Дана робота, як і роботи, в яких досліджувалася потенційна завадостійкість, дали початок великій кількості досліджень, які продовжуються і по цей час — вже більш ніж півстоліття. Вчені з Радянського Союзу і США (Пінскер, Хінчин, Добрушин, Колмогоров; США — Галлахер, Вольфовиц, Фейнштейн) дали строге трактування теорії викладеної Шенноном. На сьогоднішній день всі системи цифрового зв'язку проектуються на основі фундаментальних принципів і законів передачі інформації, розроблених Шенноном. Відповідно до теорії інформації спочатку з повідомлення усувається надлишковість, потім інформація кодується за допомогою стійких до завад кодів, і тільки потім передається каналом користувачу. Значно була скорочена надлишковість телевізійних, мовних і факсимільних повідомлень саме завдяки теорії інформації.

Велика кількість досліджень була присвячена створенню кодів, які є стійкими до завад і простих кодів декодування повідомлень. Дослідження проведені за останні п'ятдесят років взято за основу створеної Рекомендації МСЕ з використання завадостійкого кодування і методів кодування джерел інформації в сучасних цифрових системах.

Теорема про пропускну здатність каналу

ред.

Будь-який канал з шумом характеризується максимальною швидкістю передачі повідомлення, ця межа названа в честь Шеннона. При передачі інформації зі швидкостями, які перевищують цю межу, відбувається невідворотне спотворення даних, але знизу до цієї межі можна наближатися з необхідною точністю, забезпечуючи задано малу ймовірність помилки передачі інформації у каналі з шумом.

Хобі та винаходи

ред.

Крім наукових досліджень Шеннон захоплювався жонглюванням, уніциклінгом[14] та шахами. У 1950 році він розробив шахову програму, яка з'явилася в статті «Програмування шахових ігор для комп'ютера», опублікованій у «Філософському Журналі». Це була перша стаття про проблему комп'ютерних шахів.

Він також винайшов багато пристроїв, включаючи комп'ютер, який працював в римській системі числення, названий THROBAC (THrifty ROman numeral BAckwards-looking Computer), машини (роботи) для жонглювання, комп'ютера для гри шахових ендшпілів.[15]

Шенон виготовив версію некорисної машини (useless machine), яка стала відома в теорії інформації (це була валіза з перемикачем, коли його ввімкнути, відкривається кришка валізи, висувається механічна рука, яка вимикає перемикач і повертається у валізу, кришка якої закривається[16]), втіливши ідею піонера штучного інтелекту Марвіна Мінського. Мінський назвав свій винахід кінцевою[17] машиною (ultimate machine), але більш широким і вживаним залишився термін некорисна машина. Пристрої такого типу також називають ящик залиш мене в спокої (Leave Me Alone Box).

Клод Шеннон побудував маніпулятор для розв'язку головоломки кубик Рубіка[15]

Шеннон розробив Minivac 601, цифровий комп'ютерний тренер для навчання як влаштовані і працюють комп'ютери і як їх використовувати. Компоненти Minivac 601 можна було комбінувати, що дозволяло грати в хрестики-нулики або симулювати систему управління ліфтом. Починаючи з 1961 року, Minivac 601 продавався відділом споживчих товарів корпорації Scientific Development.

Він також вважається співвинахідником разом з Едвардом Торпом носимого комп'ютера.[18] Цей пристрій використовувався для підвищення шансів при грі в рулетку.

Література

ред.
  • Шеннон К. Работы по теории информации и кибернетике. — М. : ИЛ, 1963. — 830 с.
  • Shannon C.E. A Mathematical Theory of Communication. — Bell System Technical Journal, 1948. — Т. 27. — С. 379-423, 623–656.
  • Shannon C.E. Communication in the presence of noise. — Proc. Institute of Radio Engineers, Jan. 1949. — Т. 37, № 1. — С. 10-21.
  • Айзексон, Волтер (2017). Інноватори: Як група хакерів, геніїв та ґіків здійснила цифрову революцію. Київ: Наш Формат. с. 488. ISBN 978-617-7279-81-4.

Вшанування

ред.
  • 18838 Шеннон — астероїд, названий на честь науковця[19].
  • 30 квітня 2016 Гугл розмістив дудл присвячений до 100-ого ювілею зі дня народження Клода Шеннона[20].

Примітки

ред.
  1. Архів історії математики Мактьютор — 1994.
  2. Find a Grave — 1996.
  3. https://www.remembermyjourney.com/Search/Cemetery/325/Map?q=last:%20Shannon&searchCemeteryId=325&birthYear=&deathYear=#deceased=14666286
  4. https://mountauburn.org/event/genius-at-mount-auburn-cemetery-2/
  5. а б Gertner J. The Idea Factory: Bell Labs and the Great Age of American Innovation — 2012.
  6. Архів історії математики Мактьютор — 1994.
  7. а б в NNDB — 2002.
  8. а б в г Математичний генеалогічний проєкт — 1997.
  9. KNAW Past Members
  10. James I. Claude Elwood Shannon 30 April 1916 -- 24 February 2001 // Biogr. Mem. Fellows R. Soc. / J. T. StuartThe Royal Society, 2009. — Vol. 55, Iss. 0. — P. 257–265. — ISSN 0080-4606; 1748-8494doi:10.1098/RSBM.2009.0015
  11. https://books.google.cat/books?id=r3GYDwAAQBAJ&pg=PA31 — С. 31.
  12. Айзексон, 2017, с. 50.
  13. Айзексон, 2017, с. 52.
  14. Айзексон, 2017, с. 129: «Кожен, хто прогулювався коридорами Bell Labs, опинявся під обстрілом випадкових ідей, вбираючи їх, наче сонячна батарея. Клод Шеннон, ексцентричний інформаційний теоретик, час від часу катався довгими, вкритими червоним терраццо коридорами, на одноколісному велосипеді, жонглюючи трьома кульками та підморгуючи колегам.»
  15. а б People: Shannon, Claude Elwood. Музей МТІ. Архів оригіналу за 20 грудня 2016. Процитовано 22 лютого 2018.
  16. https://www.youtube.com/watch?v=z7bVw7lMtUg [Архівовано 30 червня 2017 у Wayback Machine.] починаючи з 5 хв 02 сек
  17. Термін ultimate — багатозначний в англійській мові, маємо значення: кінцевий; завершальний; первісний; досконалий; найкращий (два останні значення — часто в саркастичному сенсі). Тобто для даної реалізації пристрою ultimate machine — філософськи вдалий термін.
  18. The Invention of the First Wearable Computer Online paper by Edward O. Thorp of Edward O. Thorp & Associates (PDF). Архів оригіналу (PDF) за 28 травня 2008. Процитовано 24 лютого 2018.
  19. Lutz D. Schmadel. Dictionary of Minor Planet Names. — 5-th Edition. — Berlin, Heidelberg : Springer-Verlag, 2003. — 992 (XVI) с. — ISBN 3-540-00238-3.
  20. Claude Shannon’s 100th birthday doodle. google.com. Архів оригіналу за 3 травня 2016. Процитовано 1 травня 2016.

Посилання

ред.