Беззапахове перетворення

Безза́пахове перетво́рення (англ. Unscented Transform, UT) є математичною функцією, що застосовується для оцінювання результату застосування заданого нелінійного перетворення до розподілу ймовірностей, що описується лише засобами скінченного набору статистики. Найпоширенішим застосуванням беззапахового перетворення є нелінійна проєкція оцінок середнього значення та коваріації у контексті нелінійних розширень фільтру Калмана. Його розробник, Деффрі Ульман (англ. Jeffrey Uhlmann), пояснив у інтерв'ю, що прийшов до цієї назви, побачивши беззапаховий дезодорант на столі колеги, бо не вважає, що технічні терміни зобов'язані бути осмисленими, назвати перетворення своїм прізвищем він не міг, а абсурдність є його керівним принципом. Тим не менш, обрана ним назва англійською починається тією ж літерою, що й його прізвище, тому залишається можливість назвати перетворення його прізвищем без зміни абревіатури (англійською).

Передумови

Багато методів фільтрування та керування представляють оцінку стану системи у формі вектора середнього значення та пов'язаної матриці коваріації помилки. Наприклад, оцінене двовимірне положення об'єкта може представлятися вектором середнього положення, $[x,y]$, з невизначеністю, заданою у формі матриці коваріації 2x2, що задає дисперсію в $x$, дисперсію в $y$ та взаємну коваріацію між ними. Нульова коваріація означає, що немає невизначеності чи помилки в тому, що положення об'єкта є точно таким, як задано вектором середнього значення.

Представлення у вигляді середнього значення та коваріації задає лише перші два моменти гаданого, але в іншому невідомого розподілу ймовірностей. У випадку об'єкта, що рухається, невідомий розподіл ймовірностей може представляти невизначеність положення об'єкта у певний момент часу. Представлення у вигляді середнього значення та коваріації є математично зручним, оскільки до вектора середнього значення $m$ та матриці коваріації $M$ може бути застосовано будь-яке лінійне перетворення $T$, як $Tm$ та $TMT^{T}$ відповідно. Ця властивість лінійності не виконується поза першим центральним моментом (середнім значенням) та другим центральним моментом (коваріацією), тому в загальному випадку неможливо визначити середнє значення та коваріацію в результаті нелінійного перетворення, оскільки результат залежить від усіх моментів, а задано лише перші два.

Хоча матриця коваріації часто і вважається очікуваною квадратичною помилкою, пов'язаною із середнім значення, на практиці ця матриця підтримується як верхня межа справжньої квадратичної помилки. Точніше, оцінка середнього значення та коваріації $(m,M)$ консервативно підтримується так, що матриця коваріації $M$ є більшою або рівною справжній квадратичній помилці, пов'язаній з $m$. Математично це означає, що результат віднімання очікуваної квадратичної помилки (що не є зазвичай відомою) від $M$ є невід'ємновизначеною або додатньовизначеною матрицею. Сенс підтримання консервативної оцінки коваріації в тому, що більшість алгоритмів фільтрування та керування мають властивість розходитися (хибити), якщо коваріація є недооціненою. Це відбувається тому, що неправдиво мала коваріація означає меншу невизначеність, і призводить до того, що фільтр надає більше ваги (довіри), ніж це виправдано точністю середнього значення.

Повертаючись до наведеного вище прикладу, коли коваріація є нульовою, визначення положення об'єкта після його руху у відповідності до довільної нелінійної функції $f(x,y)$ є тривіальним: просто застосуйте функцію до вектора середнього значення. Коли коваріація є ненульовою, перетворене середнє значення у загальному випадку не дорівнюватиме $f(x,y)$, і неможливо навіть визначити середнє значення перетвореного розподілу ймовірностей з самих лише його попереднього середнього значення та коваріації. Враховуючи цю невизначеність, нелінійно перетворені середнє значення та коваріацію може бути лише наближено. Найранішим таким наближенням було лінеаризувати нелінійну функцію та застосувати отриману матрицю Якобі до заданих середнього значення та коваріації. Це є основою розширеного фільтру Калмана (англ. Extended Kalman Filter, EKF), і хоча було відомо, що в багатьох умовах він породжує слабкі результати, практичної альтернативи не існувало протягом багатьох десятиліть.

Обґрунтування беззапахового перетворення

У 1994 році Деффрі Ульман зазначив, що розширений фільтр Калмана бере нелінійну функцію та часткову інформацію про розподіл ймовірностей (у формі оцінки середнього значення та коваріації) стану системи, але застосовує наближення до відомої функції, замість застосовувати його до неточно відомого розподілу ймовірностей. Він припустив, що кращим підходом було би використовувати застосовування точної нелінійної функції до наближувального розподілу ймовірностей. Обґрунтування цього підходу наведено в його докторській дисертації, де вперше було визначено термін беззапахове перетворення:

Розгляньмо наступне припущення: З фіксованим набором параметрів мусить бути простіше наближувати заданий розподіл, ніж наближувати довільну нелінійну функцію/перетворення. Виходячи з цього припущення, метою є знаходження параметризації, що фіксувала би інформацію про середнє значення та коваріацію, дозволяючи в той же час пряме пропускання цієї інформації через довільний набір нелінійних рівнянь. Це може досягатися генеруванням дискретного розподілу, що мав би такі самі перший та другий (і можливо вищі) моменти, де кожну точку цього дискретного наближення може бути перетворювано безпосередньо. Середнє значення та коваріація перетвореного ансамблю тоді може обчислюватися як оцінка нелінійного перетворення початкового розподілу. Загальніше, застосування заданого нелінійного перетворення до дискретного розподілу точок, обчислюване так, щоби фіксувати набір відомої статистики невідомого розподілу, називається беззапаховим перетворенням. Оригінальний текст (англ.) Consider the following intuition: With a fixed number of parameters it should be easier to approximate a given distribution than it is to approximate an arbitrary nonlinear function/transformation. Following this intuition, the goal is to find a parameterization that captures the mean and covariance information while at the same time permitting the direct propagation of the information through an arbitrary set of nonlinear equations. This can be accomplished by generating a discrete distribution having the same first and second (and possibly higher) moments, where each point in the discrete approximation can be directly transformed. The mean and covariance of the transformed ensemble can then be computed as the estimate of the nonlinear transformation of the original distribution. More generally, the application of a given nonlinear transformation to a discrete distribution of points, computed so as to capture a set of known statistics of an unknown distribution, is referred to as an unscented transformation.>

Іншими словами, задану інформацію про середнє значення та коваріацію може бути точно закодовано у множині точок, що називаються сигма-точками (англ. sigma points), які при розгляді як елементи дискретного розподілу ймовірностей мають середнє значення та коваріацію, рівні заданим. Цей розподіл може перетворюватися точно, шляхом застосування нелінійної функції до кожної з точок. Середнє значення та коваріація перетвореної множини точок тоді представляють бажану оцінку перетворення. Принциповою перевагою цього підходу є те, що нелінійна функція використовується повноцінно, на відміну від розширеного фільтру Калмана, що замінює її лінійною. Усунення необхідності лінеаризації також надає переваги, незалежні від покращення якості оцінювання. Однією із безпосередніх переваг є можливість застосовування беззапахового перетворення з будь-якою заданою функцією, тоді як лінеаризація може бути неможливою для функцій, що не є диференційовними. Практичною перевагою є те, що беззапахове перетворення може бути простішим для впровадження, оскільки уникає потреби у виведенні та реалізації матриці Якобі для лінеаризації.

Обчислення беззапахового перетворення

Ульман зазначив, що в загальному випадку для визначення дискретного розподілу, що має задані середнє значення та коваріацію в $n$ вимірах, необхідно і достатньо $n+1$ сигма-точок. Розгляньмо наступний симплекс точок у двох вимірах:

$s_{1}=\left[0,{\sqrt {2}}\right]^{T},\quad s_{2}=\left[-{\sqrt {3 \over 2}},-{\sqrt {1 \over 2}}\right]^{T},\quad s_{3}=\left[{\sqrt {3 \over 2}},-{\sqrt {1 \over 2}}\right]^{T}$

Можна переконатися, що наведений вище набір точок має середнє значення $s=0$ та коваріацію $S=I$ (одиничну матрицю). При будь-яких заданих двовимірних середньому значенні та коваріації $(x,X)$ бажані сигма-точки може бути отримано множенням кожної точки на матричний квадратний корінь $X$ та додаванням $x$. Аналогічний канонічний набір сигма-точок може бути згенеровано у будь-якому числі вимірів $n$ шляхом взяття нульового вектора та точок, що відповідають рядкам одиничної матриці, обчислення середнього значення цього набору точок, віднімання цього середнього значення від кожної з точок, так що отримуваний в результаті набір матиме нульове середнє значення, потім обчислення коваріації набору точок з нульовим середнім значенням, і застосування її оберненого значення до кожної точки, так що коваріація набору стане дорівнювати одиничній матриці.

Ульман показав, що можливо зручно генерувати симетричний набір $2n$ сигма-точок зі стовпчиків $\pm {\sqrt {nX}}$, де $X$ є заданою матрицею коваріації, без необхідності обчислення оберненої матриці. Це обчислювально ефективно, та, оскільки точки формують симетричний розподіл, фіксує третій центральний момент (коефіцієнт асиметрії), коли базовий розподіл стану є або може вважатися симетричним. Він також показав, що для впливу на статистику набору можна застосовувати вагові коефіцієнти, включно з від'ємними. Він та Саймон Джуль'є (англ. Simon Julier) опублікували декілька праць, що показали, що використання беззапахового перетворення у фільтрі Калмана, що називається беззапаховим фільтром Калмана (англ. Unscented Kalman Filter, UKF), у ряді застосувань забезпечує значне покращення продуктивності у порівнянні з розширеним фільтром Калмана. Джуль'є також розробив та дослідив прийоми для генерування сигма-точок для фіксації третього моменту (коефіцієнту асиметрії) довільного розподілу, та четвертого моменту (коефіцієнту ексцесу) симетричного розподілу.

Слід зазначити, що Джуль'є та Ульман публікували праці, використовуючи специфічну параметризовану форму беззапахового перетворення у контексті беззапахового фільтру Калмана, що використовувала від'ємні вагові коефіцієнти для фіксації інформації про передбачуваний розподіл. Ця форма беззапахового перетворення є вразливою до чисельних помилок, від яких оригінальні формулювання (вище) не страждають. Згодом Джуль'є описав параметризовані форми, що не використовують від'ємних вагових коефіцієнтів, і також не є предметом цих питань.

Приклад

Беззапахове перетворення визначено для застосування заданої функції до будь-якої часткової характеристики в іншому невідомого розподілу, але найпоширенішим його застосування є для випадку, коли задано лише середнє значення та коваріацію. Звичайним прикладом є перетворення з однієї системи координат до іншої, як-от з декартової координатної сітки до полярних координат.

Припустімо, що двовимірні оцінки середнього значення та коваріації $(m,M)$ задано у декартових координатах як

$m=[12.3,7.6]^{T},\quad M={\begin{bmatrix}1.44&0\\0&2.89\end{bmatrix}}$

Функцією перетворення до полярних координат $f(x,y)\rightarrow [r,\theta ]$ є

$r={\sqrt {(x^{2}+y^{2})}},\quad \theta =\arctan(y/x)$

Множення кожної з сигма-точок канонічного симплекса (наведених вище) на $M^{1/2}={\begin{bmatrix}1.2&0\\0&1.7\end{bmatrix}}$ та додавання середнього $m$ дає

$m_{1}=[0,2.40]+[12.3,7.6]=[12.3,10.0]$

$m_{2}=[-1.47,-1.20]+[12.3,7.6]=[10.8,6.40]$

$m_{3}=[1.47,-1.20]+[12.3,7.6]=[13.8,6.40]$

Застосування функції перетворення $f()$ до кожної з наведених вище точок дає

${m^{+}}_{1}=f(12.3,10.0)=[15.85,0.68]$

${m^{+}}_{2}=f(10.8,6.40)=[12.58,0.53]$

${m^{+}}_{3}=f(13.8,6.40)=[15.18,0.44]$

Середнє значення цих трьох перетворених точок, $m_{UT}={\frac {1}{3}}\Sigma _{i=1}^{3}{m^{+}}_{i}$, є оцінкою беззапаховим перетворенням середнього значення у полярних координатах:

$m_{UT}=[14.539,0.551]$

Оцінкою коваріації беззапаховим перетворенням є

$M_{UT}={\frac {1}{3}}\Sigma _{i=1}^{3}({m^{+}}_{i}-m_{UT})^{2}$

де кожен квадрат під сумою є тензорним добутком векторів. Це дає

$M_{UT}={\begin{bmatrix}2.00&0.0443\\0.0443&0.0104\end{bmatrix}}$

Це можна порівняти з лінеаризованим середнім значенням та коваріацією

$m_{\mbox{linear}}=f(12.3,7.6)=[14.46,0.554]^{T}$

$M_{\mbox{linear}}=\nabla _{f}M\nabla _{f}^{T}={\begin{bmatrix}1.927&0.047\\0.047&0.011\end{bmatrix}}$

Абсолютна різниця між оцінками беззапаховим перетворенням та лінеаризацією є відносно невеликою, однак у застосуваннях для фільтрування сукупний ефект невеликих помилок може призводити до невиправної розбіжності оцінки. Вплив помилок підсилюється, коли коваріація виявляється недооціненою, оскільки це призводить до надлишкової впевненості фільтру в точності середнього значення. У наведеному вище прикладі видно, що лінеаризована оцінка коваріації є меншою за оцінку беззапахового перетворення, що наводить на думку, що лінеаризація, швидше за все, недооцінила дійсну помилку свого середнього значення.

У цьому прикладі неможливо визначити абсолютну точність оцінок беззапахового перетворення та лінеаризації без експериментальної перевірки форми дійсного розподілу ймовірностей, пов'язаного з початковою оцінкою, та середнього значення і коваріації цього розподілу після застосування нелінійного перетворення (наприклад, визначених аналітично, чи чисельним інтегруванням). Такі аналізи виконувалися для перетворень координат за припущення нормальності базових розподілів, і оцінкам беззапахового перетворення властиво бути суттєво точнішими за отримані лінеаризацією.

Емпіричний аналіз показав, що використання мінімального симплексного набору $n+1$ сигма-точок є значно менш точним за використання симетричного набору $2n$ точок, якщо базовий розподіл є нормальним. Це наводить на думку, що використання симплексного набору у наведеному вище прикладі не буде найкращим вибором, якщо базовий розподіл, пов'язаний з $(m,M)$, є симетричним. Навіть якщо базовий розподіл і не є симетричним, цей симплексний набір все одно, швидше за все, є менш точним за симетричний набір, оскільки асиметрія симплексного набору не відповідає асиметрії дійсного розподілу.

Повертаючись до прикладу, мінімальний симетричний набір сигма-точок може бути отримано з матриці коваріації $M={\begin{bmatrix}1.44&0\\0&2.89\end{bmatrix}}$ просто як вектор середнього значення, $m=[12.3,7.6]$, плюс та мінус стовпчики $(2M)^{1/2}={\sqrt {2}}*{\begin{bmatrix}1.2&0\\0&1.7\end{bmatrix}}={\begin{bmatrix}1.697&0\\0&2.404\end{bmatrix}}$:

$m_{1}=[12.3,7.6]+[1.697,0]=[13.997,7.6]$

$m_{2}=[12.3,7.6]-[1.697,0]=[10.603,7.6]$

$m_{3}=[12.3,7.6]+[0,2.404]=[12.3,10.004]$

$m_{4}=[12.3,7.6]-[0,2.404]=[12.3,5.196]$

Ця конструкція гарантує, що середнім значенням та коваріацією наведених вище сигма-точок є $(m,M)$, що можна перевірити безпосередньо. Застосування нелінійної функції $f()$ до кожної з цих сигма-точок дає

${m^{+}}_{1}=[15.927,0.497]$

${m^{+}}_{2}=[13.045,0.622]$

${m^{+}}_{3}=[15.854,0.683]$

${m^{+}}_{4}=[13.352,0.400]$

Середнє значення цих чотирьох перетворених сигма-точок, $m_{UT}={\frac {1}{4}}\Sigma _{i=1}^{4}{m'}_{i}$, є оцінкою беззапаховим перетворенням середнього значення у полярних координатах:

$m_{UT}=[14.545,0.550]$

Оцінкою коваріації беззапаховим перетворенням є

$M_{UT}={\frac {1}{4}}\Sigma _{i=1}^{4}({m^{+}}_{i}-m_{UT})^{2}$

де кожен квадрат під сумою є тензорним добутком векторів. Це дає

$M_{UT}={\begin{bmatrix}1.823&0.043\\0.043&0.012\end{bmatrix}}$

Різниця між оцінками середнього значення беззапаховим перетворенням та лінеаризацією дає міру впливу нелінійності перетворення. Наприклад, якщо перетворення є лінійним, то оцінки беззапахового перетворення та лінеаризації будуть ідентичними. Це спонукає використовувати додавання квадрату цієї різниці до коваріації беззапахового перетворення, щоби захиститися від недооцінки дійсної помилки середнього значення. Цей підхід не покращує точність середнього значення, але може значно покращити точність фільтру з плином часу, зменшуючи ймовірність недооцінки коваріації.

Оптимальність беззапахового перетворення

Ульман зазначив, що при заданні лише середнього значення та коваріації в іншому невідомого розподілу ймовірностей задача перетворення є погано визначеною, оскільки існує безліч розподілів з такими самими двома першими моментами. За відсутності жодної апріорної інформації або припущень про характеристики базового розподілу, будь-які розподіли, що використовуються для обчислення перетворених середнього значення та коваріації, є однаково прийнятними. Іншими словами, не існує вибору розподілу із заданими середнім значенням та коваріацією, що є кращим за пропонований набором сигма-точок, отже, беззапахове перетворення є очевидно оптимальним.

Загальна констатація оптимальності, звісно, є марною для здійснення будь-яких чисельних тверджень про продуктивність беззапахового перетворення, наприклад, у порівнянні з лінеаризацією; тому він, Джуль'є та інші виконали аналіз за різних припущень про характеристики розподілу та/або форму нелінійної функції перетворення. Наприклад, якщо функція є диференційовною, що є необхідним для лінеаризації, цей аналіз підтверджує очікувану та підказувану емпірикою перевагу беззапахового перетворення.

Застосування

Беззапахове перетворення, особливо як частина беззапахового фільтру Калмана, широко замінило розширений фільтр Калмана у багатьох застосуваннях для нелінійного фільтрування та керування, включно з підводною, наземною та повітряною навігацією, та космічними апаратами.

Див. також

• Фільтр Калмана
• Перетин коваріацій
• Ансамблевий фільтр Калмана
• Розширений фільтр Калмана
• Нелінійний фільтр