Надмірність інформації: відмінності між версіями

[неперевірена версія][неперевірена версія]
Вилучено вміст Додано вміст
Shynkar (обговорення | внесок)
Немає опису редагування
Рядок 1:
'''Надмірність''' в [[теорія інформації|теорії інформації]] це кількість [[біт]]ів, використовуваних для передачі [[Дані|повідомлення]] мінус кількість бітів [[Кількість інформації|фактичної інформації]] в повідомленні. Неофіційно, це кількість витрачених марно «полів» в структурі, що використовується для передачі певних даних. [[Стиснення даних]] є способом зменшити або усунути небажану надмірність, в той час як [[Контрольна сума|контрольні суми]] - — це спосіб додавання потрібної надмірності для цілей [[Виявлення і виправлення помилок|виявлення помилок]] при обміні даними по каналу з шумом.
 
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі.
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, - — явище досить рідкісне. Частіше буває протилежне - — сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел.
 
== Приклади ==
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька [[інформаційна ентропія]]: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери.
 
== Див. також ==
[[en:Redundancy (information theory)]]
[[Категорія:Теорія інформації]]
{{Доробити}}