Добуток Хатрі-Рао (англ.Khatri-Rao product) — матрична операція перемноження матриць, що визначається виразом[1][2]:
в якому ij-й блок являє собою добуток Кронекераmipi × njqj відповідних блоків A і B за умови, що кількість рядків і стовпців обох матриць однакова.
Розмірність добутку — (Σi mipi) × (Σj njqj).
Наприклад, якщо матриці A і B мають блокову розмірність 2 × 2
Стовпцевий добуток Кронекера двох матриць також прийнято називати добутком Хатрі-Рао.
Цей добуток передбачає, що блоки матриць є їх стовпцями. В такому випадку m1 = m, p1 = p, n = q і для кожного j: nj = pj = 1.
Результатом добутку є mp × n- матрица, кожен стовпець якої отримується як добуток Кронекера відповідних стовпців матриць A і B. Спираючись на розбиття матриць з попереднього прикладу на стовпці, отримаємо:
Стовпцева версія добутку Хатрі-Рао застосовується в лінійній алгебрі для аналітичної обробки даних[3] і оптимізації рішень проблеми обернення діагональних матриць.[4][5]
В 1996 р. стовпцевий добуток Хатрі-Рао був запропонований для формалізації задачі оцінювання напрямку приходу та часу затримки сигналів в цифровій антенній решітці[6], а також для опису відгуку 4-координатного радара[7].
Альтернативна концепція добутку матриць, яка на відміну від стовпцевої версії добутку Хатрі-Рао використовує розбиття матриць на рядки, була запропонована Слюсарем В. І.[8] в 1996 р. і названа ним торцевий добуток (англ.face-splitting product)[7][9][10][11] або транспонований добуток Хатрі-Рао (англ.transposed Khatri-Rao product)[12].
Цей тип матричного добутку спирається на перемноження елементів рядків двох і більше матриць з однаковою кількістю рядків за правилом добутку Кронекера. Використовуючи розбиття матриць з попередніх прикладів на рядки:
[19], де — матриця, — матриця, , — вектори з та одиниць відповідно, [20], де є матрицею, — добуток Адамара і — вектор з одиниць. , де — символ проникаючого торцевого добутку матриць.
Аналогічно, , де — матриця, — матриця.
[13], [10], [12], [20],
,
де — вектор, утворений із діагональних елементів матриці , — операція формування вектора з матриці шляхом розташування один під одним її стовпців.
Властивість поглинання добутку Кронекера: [10][15], , ,
де і є векторами узгодженої розмірності,
Для блокових матриць з однаковою кількістю рядків у відповідних блоках
згідно з визначенням[7][10], блоковий торцевий добуток запишеться у вигляді:
.
Аналогічно для блокового транспонованого торцевого добутку (або блокового стовпцевого добутку Хатрі-Рао) двох матриць з однаковою кількістю стовпців у відповідних блоках справедливо[7]:
Родина торцевих добутків матриць стала основою започаткованої Слюсарем В. І. тензорно-матричної теорії цифрових антенних решіток для радіотехнічних систем[12], яка надалі отримала розвиток як частина теорії цифрової обробки сигналів.
Торцевий добуток набув широкого поширення в системах машинного навчання, статистичній обробці великих даних[17]. Він дозволяє скоротити обсяги обчислень при реалізації методу зменшення розмірності даних, що одержав назву тензорний скетч[17] а також швидкого перетворення Джонсона — Лінденштрауса[17]. При цьому здійснюється перехід від матриці великої розмірності до добутку Адамара, що оперує матрицями меншого розміру. Похибки апроксимації данних великої розмірності на основі торцевого добутку матриць задовольняють лемі Джонсона — Лінденштрауса[17][21]. У тому ж контексті ідея торцевого добутку може бути використана для вирішення завдання диференційної приватності (англ.differential privacy)[16]. Крім того, аналогічні обчислення були застосовані для
формування тензорів співпадань в задачах обробки природної мови і побудови гіперграфів подібності зображень[22].
Торцевий добуток використаний у 2003 р. для P-сплайн апроксимації[19], у 2006 р. — для побудови узагальнених лінійних моделей масивів даних (GLAM) при їх статистичній обробці[20], а також для ефективної реалізації ядрових методівмашинного навчання та дослідження взаємодії генотипів з оточуючим середовищем[23].
↑Zhang X; Yang Z; Cao C. (2002), Inequalities involving Khatri–Rao products of positive semi-definite matrices, Applied Mathematics E-notes, 2: 117—124
↑Anna Esteve, Eva Boj & Josep Fortiana (2009): Interaction Terms in Distance-Based Regression, Communications in Statistics — Theory and Methods, 38:19, P. 3501 [1] [Архівовано 26 квітня 2021 у Wayback Machine.]
↑ абC. Radhakrishna Rao. Estimation of Heteroscedastic Variances in Linear Models.//Journal of the American Statistical Association, Vol. 65, No. 329 (Mar., 1970), pp. 161—172
↑ абKasiviswanathan, Shiva Prasad, et al. «The price of privately releasing contingency tables and the spectra of random matrices with correlated rows.» Proceedings of the forty-second ACM symposium on Theory of computing. 2010.
↑ абвгдеThomas D. Ahle, Jakob Bæk Tejs Knudsen. Almost Optimal Tensor Sketch. Published 2019. Mathematics, Computer Science, ArXiv [Архівовано 28 липня 2020 у Wayback Machine.]
↑Ninh, Pham; Rasmus, Pagh (2013). Fast and scalable polynomial kernels via explicit feature maps. SIGKDD international conference on Knowledge discovery and data mining. Association for Computing Machinery. doi:10.1145/2487575.2487591.
↑ абEilers, Paul H.C.; Marx, Brian D. (2003). Multivariate calibration with temperature interaction using two-dimensional penalized signal regression. Chemometrics and Intelligent Laboratory Systems. 66 (2): 159—174. doi:10.1016/S0169-7439(03)00029-7.
↑Ahle, Thomas; Kapralov, Michael; Knudsen, Jakob; Pagh, Rasmus; Velingker, Ameya; Woodruff, David; Zandieh, Amir (2020). Oblivious Sketching of High-Degree Polynomial Kernels. ACM-SIAM Symposium on Discrete Algorithms. Association for Computing Machinery. doi:10.1137/1.9781611975994.9.
↑Bryan Bischof. Higher order co-occurrence tensors for hypergraphs via face-splitting. Published 15 February, 2020, Mathematics, Computer Science, ArXiv [Архівовано 25 листопада 2020 у Wayback Machine.]
↑Johannes W. R. Martini, Jose Crossa, Fernando H. Toledo, Jaime Cuevas. On Hadamard and Kronecker products in covariance structures for genotype x environment interaction.//Plant Genome. 2020;13:e20033. Page 5. [2]