Відносна правдоподібність

Припустімо, що в статистиці нам було надано деякі дані, й ми будуємо статистичну модель цих даних. Відно́сна правдоподі́бність (англ. relative likelihood) порівнює правдоподібності (англ. plausibilities) різних моделей-кандидатів, або різні значення параметра єдиної моделі.

Відносна правдоподібність значень параметрів ред.

Припустімо, що нам надано деякі дані $x$ , для яких ми маємо статистичну модель із параметром $θ$ . Припустімо, що оцінкою $θ$ методом максимальної правдоподібності є ${\hat {\theta }}$ . Відносні імовірності інших значень $θ$ може бути знайдено порівнюванням правдоподібностей цих інших значень із правдоподібністю ${\hat {\theta }}$ . Відносну правдоподібність $θ$ означують як^[1]^[2]^[3]^[4]^[5]

{\mathcal {L}}(\theta \mid x)/{\mathcal {L}}({\hat {\theta }}\mid x)

де ${\mathcal {L}}(\theta \mid x)$ позначує функцію правдоподібності. Таким чином, відносна правдоподібність є відношенням правдоподібностей з незмінним знаменником ${\mathcal {L}}({\hat {\theta }}\mid x)$ .

Функція

\theta \mapsto {\mathcal {L}}(\theta \mid x)/{\mathcal {L}}({\hat {\theta }}\mid x)

є функцією відносної правдоподібності (англ. relative likelihood function).

Область правдоподібності ред.

О́бласть правдоподі́́́бності (англ. likelihood region) — це множина всіх значень $θ$ , чиї відносні правдоподібності є більшими або рівними заданому порогові. В термінах відсотків, $p$ %-ву область правдоподібності для $θ$ означують як^[1]^[3]^[6]

\left\{\theta :{\frac {{\mathcal {L}}(\theta \mid x)}{{\mathcal {L}}({\hat {\theta \,}}\mid x)}}\geq {\frac {p}{100}}\right\}.

Якщо $θ$ є єдиним дійснозначним параметром, то $p$ %-ва область правдоподібності зазвичай становить проміжок дійсних значень. Якщо ця область дійсно становить проміжок, то її називають про́міжком правдоподі́бності (англ. likelihood interval).^[1]^[3]^[7]

Проміжки правдоподібності, та, загальніше, області правдоподібності використовують для проміжкового оцінювання^[en] в правдоподібницькій статистиці: вони є подібними до довірчих проміжків у частотницькій статистиці та ймовірних проміжків у баєсовій статистиці. Проміжки правдоподібності тлумачать безпосередньо в термінах відносної правдоподібності, а не в термінах ймовірності накриття^[en] (частотництво) чи апостеріорної ймовірності (баєсівство).

Для заданої моделі проміжки правдоподібності можливо порівнювати з довірчими проміжками. Якщо $θ$ є єдиним дійснозначним параметром, то, за певних умов 14.65%-й проміжок правдоподібності (правдоподібність близько 1:7) для $θ$ буде таким же, як і 95%-й довірчий проміжок (ймовірність накриття 19/20).^[1]^[6] У дещо відмінному формулюванні, пристосованому для використання логарифмічних правдоподібностей (див. теорему Уілкса), перевірна статистика є подвоєною різницею логарифмічних правдоподібностей, а розподіл імовірності цієї перевірної статистики приблизно є розподілом хі-квадрат зі ступенями вільності, що дорівнюють різниці в ступенях вільності між цими двома моделями (тому проміжок правдоподібності $e$ ⁻² є таким же, як і довірчий проміжок 0.954, за припущення, що різницею в ступенях вільності є 1).^[6]^[7]

Відносна правдоподібність моделей ред.

Означення відносної правдоподібності може бути узагальнено для порівнювання різних статистичних моделей. Це узагальнення ґрунтується на ІКА (інформаційному критерієві Акаіке, англ. AIC), або іноді на ІКАк (інформаційному критерієві Акаіке з коригуванням, англ. AICc).

Припустімо, що для деяких наданих даних ми маємо дві статистичні моделі, $M 1$ та $M 2$ . Також припустімо, що $AIC(M 1) \leq AIC(M 2)$ . Тоді відносну правдоподібність $M 2$ по відношенню до $M 1$ означують наступним чином:^[8]

\exp \left({\frac {\operatorname {AIC} (M_{1})-\operatorname {AIC} (M_{2})}{2}}\right)

Щоби побачити, що це є узагальненням ранішого означення, припустімо, що ми маємо деяку модель $M$ із (можливо, багатомірним) параметром $θ$ . Тоді для будь-якого $θ$ встановімо $M 2 = M (θ)$ , а також встановімо $M 1 = M ($ ${\hat {\theta }}$ $)$ . Це загальне означення тепер дає той самий результат, що й раніше означення.

Див. також ред.

Примітки ред.

↑ ^а ^б ^в ^г Kalbfleisch, J. G. (1985), Probability and Statistical Inference, Springer, §9.3 (англ.)
↑ Azzalini, A. (1996), Statistical Inference—Based on the likelihood, Chapman & Hall, §1.4.2, архів оригіналу за 7 травня 2020, процитовано 2 січня 2020 (англ.)
↑ ^а ^б ^в Sprott, D. A. (2000), Statistical Inference in Science, Springer, chap. 2 (англ.)
↑ Davison, A. C. (2008), Statistical Models, Cambridge University Press, §4.1.2 (англ.)
↑ Held, L.; Sabanés Bové, D. S. (2014), Applied Statistical Inference—Likelihood and Bayes, Springer, §2.1 (англ.)
↑ ^а ^б ^в Rossi, R. J. (2018), Mathematical Statistics, Wiley, с. 267 (англ.)
↑ ^а ^б Hudson, D. J. (1971), Interval estimation from the likelihood function, Journal of the Royal Statistical Society, Series B^[en], 33: 256—262 (англ.)
↑ Burnham, K. P.; Anderson, D. R. (2002), Model Selection and Multimodel Inference: A practical information-theoretic approach, Springer, §2.8 (англ.)

[Kalbfleisch-1] а ^б ^в ^г Kalbfleisch, J. G. (1985), Probability and Statistical Inference, Springer, §9.3 (англ.)

[2] Azzalini, A. (1996), Statistical Inference—Based on the likelihood, Chapman & Hall, §1.4.2, архів оригіналу за 7 травня 2020, процитовано 2 січня 2020 (англ.)

[Sprott-3] а ^б ^в Sprott, D. A. (2000), Statistical Inference in Science, Springer, chap. 2 (англ.)

[4] Davison, A. C. (2008), Statistical Models, Cambridge University Press, §4.1.2 (англ.)

[5] Held, L.; Sabanés Bové, D. S. (2014), Applied Statistical Inference—Likelihood and Bayes, Springer, §2.1 (англ.)

[Rossi2018-6] а ^б ^в Rossi, R. J. (2018), Mathematical Statistics, Wiley, с. 267 (англ.)

[Hudson-7] а ^б Hudson, D. J. (1971), Interval estimation from the likelihood function, Journal of the Royal Statistical Society, Series B^[en], 33: 256—262 (англ.)

[8] Burnham, K. P.; Anderson, D. R. (2002), Model Selection and Multimodel Inference: A practical information-theoretic approach, Springer, §2.8 (англ.)

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]