Надмірність інформації: відмінності між версіями
[неперевірена версія] | [неперевірена версія] |
Вилучено вміст Додано вміст
Shynkar (обговорення | внесок) |
Немає опису редагування |
||
Рядок 1:
'''Надмірність''' в [[теорія інформації|теорії інформації]] це кількість [[біт]]ів, використовуваних для передачі [[Дані|повідомлення]] мінус кількість бітів [[Кількість інформації|фактичної інформації]] в повідомленні. Неофіційно, це кількість витрачених марно «полів» в структурі, що використовується для передачі певних даних. [[Стиснення даних]] є способом зменшити або усунути небажану надмірність, в той час як [[Контрольна сума|контрольні суми]]
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі.
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом,
== Приклади ==
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька [[інформаційна ентропія]]: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери.
== Див. також ==
[[Категорія:Теорія інформації]]
{{Доробити}}
|