Якщо A — матриця розміру m ×n , B — матриця розміру p ×q , тоді добутком Кронекера є блочна матриця розміру mp ×nq
A
⊗
B
=
[
a
11
B
⋯
a
1
n
B
⋮
⋱
⋮
a
m
1
B
⋯
a
m
n
B
]
.
{\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}.}
Білінійність, асоціативність та некомутативність
ред.
A
⊗
(
B
+
C
)
=
A
⊗
B
+
A
⊗
C
,
{\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C,}
(
A
+
B
)
⊗
C
=
A
⊗
C
+
B
⊗
C
,
{\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C,}
(
k
A
)
⊗
B
=
A
⊗
(
k
B
)
=
k
(
A
⊗
B
)
,
{\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),}
(
A
⊗
B
)
⊗
C
=
A
⊗
(
B
⊗
C
)
,
{\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C),}
де A , B та C є матрицями, а k — скаляр.
A
⊗
B
=
P
(
B
⊗
A
)
Q
.
{\displaystyle A\otimes B=P\,(B\otimes A)\,Q.}
Якщо A та B квадратні матриці , тоді A
⊗
{\displaystyle \otimes }
B та B
⊗
{\displaystyle \otimes }
A є перестановочно подібними , тобто, P = Q T .
A
⊗
B
=
(
I
⊗
B
)
(
A
⊗
I
)
{\displaystyle A\otimes B=(I\otimes B)(A\otimes I)}
, де
I
{\displaystyle I}
- одинична матриця.
Операція транспонування є дистрибутивною відносно добутку Кронекера
(
A
⊗
B
)
T
=
A
T
⊗
B
T
.
{\displaystyle (A\otimes B)^{T}=A^{T}\otimes B^{T}.}
Якщо A , B , C та D є матрицями такого розміру, що існують добутки AC та BD , тоді
(
A
⊗
B
)
(
C
⊗
D
)
=
A
C
⊗
B
D
.
{\displaystyle (A\otimes B)(C\otimes D)=AC\otimes BD.}
A
⊗
{\displaystyle \otimes }
B є оборотною тоді і тільки тоді коли A та B є оборотними, і тоді
(
A
⊗
B
)
−
1
=
A
−
1
⊗
B
−
1
.
{\displaystyle (A\otimes B)^{-1}=A^{-1}\otimes B^{-1}.}
Сума та експонента Кронекера
ред.
Якщо A — матриця розміру n ×n , B — матриця розміру m ×m і
I
k
{\displaystyle I_{k}}
— одинична матриця розміру k ×k тоді ми можемо визначити суму Кронекера
⊕
{\displaystyle \oplus }
, як
A
⊕
B
=
A
⊗
I
m
+
I
n
⊗
B
.
{\displaystyle A\oplus B=A\otimes I_{m}+I_{n}\otimes B.}
e
A
⊕
B
=
e
A
⊗
e
B
.
{\displaystyle e^{A\oplus B}=e^{A}\otimes e^{B}.}
Спектр, слід та визначник
ред.
Якщо A та B квадратні матриці розміру n та q відповідно. Якщо λ1 , …, λn — власні значення матриці A та μ1 , …, μq власні значення матриці B . Тоді власними значеннями A
⊗
{\displaystyle \otimes }
B є
λ
i
μ
j
,
i
=
1
,
…
,
n
,
j
=
1
,
…
,
q
.
{\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,q.}
Слід та визначник добутку Кронекера рівні
tr
(
A
⊗
B
)
=
tr
(
A
)
tr
(
B
)
,
{\displaystyle \operatorname {tr} (A\otimes B)=\operatorname {tr} (A)\,\operatorname {tr} (B),}
det
(
A
⊗
B
)
=
(
det
A
)
q
(
det
B
)
n
.
{\displaystyle \det(A\otimes B)=(\det A)^{q}(\det B)^{n}.}
Сингулярний розклад та ранг
ред.
σ
A
,
i
,
i
=
1
,
…
,
r
A
.
{\displaystyle \sigma _{A,i},\qquad i=1,\ldots ,r_{A}.}
Ненульові сингулярні значення матриці B :
σ
B
,
i
,
i
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{B,i},\qquad i=1,\ldots ,r_{B}.}
Тоді добуток Кронекера A
⊗
{\displaystyle \otimes }
B має r A r B ненульових сингулярних значень
σ
A
,
i
σ
B
,
j
,
i
=
1
,
…
,
r
A
,
j
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{A,i}\sigma _{B,j},\qquad i=1,\ldots ,r_{A},\,j=1,\ldots ,r_{B}.}
Ранг матриці рівний кількості ненульових сингулярних значень, отже
rank
(
A
⊗
B
)
=
rank
(
A
)
rank
(
B
)
.
{\displaystyle \operatorname {rank} (A\otimes B)=\operatorname {rank} (A)\,\operatorname {rank} (B).}
Блокові версії добутку Кронекера
ред.
У випадку блочних матриць можуть використовуватися операції, які пов'язані з добутком Кронекера однак відрізняються порядком перемноження блоків. Такими операціями є добуток Трейсі – Сінгха (англ. Tracy–Singh product ) і добуток Хатрі-Рао .
Добуток Трейсі-Сінгха
ред.
Вказана операція множення блокових матриць полягає в тому, що кожен блок лівої матриці множиться послідовно на блоки правої матриці. При цьому формується структура нової матриці, яка відрізняється від характерної для добутку Кронекера.
Добуток Трейсі - Сінгха визначається як[ 1] [ 2]
A
∘
B
=
(
A
i
j
∘
B
)
i
j
=
(
(
A
i
j
⊗
B
k
l
)
k
l
)
i
j
{\displaystyle \mathbf {A} \circ \mathbf {B} =\left(\mathbf {A} _{ij}\circ \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}}
Наприклад:
A
=
[
A
11
A
12
A
21
A
22
]
=
[
1
2
3
4
5
6
7
8
9
]
,
B
=
[
B
11
B
12
B
21
B
22
]
=
[
1
4
7
2
5
8
3
6
9
]
,
{\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}
A
∘
B
=
[
A
11
∘
B
A
12
∘
B
A
21
∘
B
A
22
∘
B
]
=
[
A
11
⊗
B
11
A
11
⊗
B
12
A
12
⊗
B
11
A
12
⊗
B
12
A
11
⊗
B
21
A
11
⊗
B
22
A
12
⊗
B
21
A
12
⊗
B
22
A
21
⊗
B
11
A
21
⊗
B
12
A
22
⊗
B
11
A
22
⊗
B
12
A
21
⊗
B
21
A
21
⊗
B
22
A
22
⊗
B
21
A
22
⊗
B
22
]
=
[
1
2
4
7
8
14
3
12
21
4
5
16
28
20
35
6
24
42
2
4
5
8
10
16
6
15
24
3
6
6
9
12
18
9
18
27
8
10
20
32
25
40
12
30
48
12
15
24
36
30
45
18
36
54
7
8
28
49
32
56
9
36
63
14
16
35
56
40
64
18
45
72
21
24
42
63
48
72
27
54
81
]
.
{\displaystyle {\begin{aligned}\mathbf {A} \circ \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {A} _{11}\circ \mathbf {B} &\mathbf {A} _{12}\circ \mathbf {B} \\\hline \mathbf {A} _{21}\circ \mathbf {B} &\mathbf {A} _{22}\circ \mathbf {B} \end{array}}\right]={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}
Даний варіант добутку визначений для матриц з однаковою блоковою структурою. Він передбачає, що операція кронекерівського добутку виконується поблоково, в межах однойменних матричних блоків за аналогією з поелементним добутком Адамара , тільки при цьому в якості елементів задіяні блоки матриць, а для переноження блоків використовується добуток Кронекера.
Властивості мішаних добутків :
A
⊗
(
B
∙
C
)
=
(
A
⊗
B
)
∙
C
{\displaystyle \mathbf {A} \otimes (\mathbf {B} \bullet \mathbf {C} )=(\mathbf {A} \otimes \mathbf {B} )\bullet \mathbf {C} }
[ 3] , де
∙
{\displaystyle \bullet }
означає торцевий добуток
(
A
∙
B
)
(
C
⊗
D
)
=
(
A
C
)
∙
(
B
D
)
{\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=(\mathbf {A} \mathbf {C} )\bullet (\mathbf {B} \mathbf {D} )}
[ 4] [ 5] ,
За аналогією:
(
A
∙
L
)
(
B
⊗
M
)
.
.
.
(
C
⊗
S
)
=
(
A
B
.
.
.
C
)
∙
(
L
M
.
.
.
S
)
{\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )...(\mathbf {C} \otimes \mathbf {S} )=(\mathbf {A} \mathbf {B} ...\mathbf {C} )\bullet (\mathbf {L} \mathbf {M} ...\mathbf {S} )}
,
c
T
∙
d
T
=
c
T
⊗
d
T
{\displaystyle c^{\textsf {T}}\bullet d^{\textsf {T}}=c^{\textsf {T}}\otimes d^{\textsf {T}}}
[ 6] , де
c
{\displaystyle c}
і
d
{\displaystyle d}
- вектори ,
(
A
∙
B
)
(
c
⊗
d
)
=
(
A
c
)
∘
(
B
d
)
{\displaystyle (\mathbf {A} \bullet \mathbf {B} )(c\otimes d)=(\mathbf {A} c)\circ (\mathbf {B} d)}
[ 7] ,
Аналогічно:
(
A
∙
B
)
(
M
N
c
⊗
Q
P
d
)
=
(
A
M
N
c
)
∘
(
B
Q
P
d
)
,
{\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {M} \mathbf {N} c\otimes \mathbf {Q} \mathbf {P} d)=(\mathbf {A} \mathbf {M} \mathbf {N} c)\circ (\mathbf {B} \mathbf {Q} \mathbf {P} d),}
F
(
C
(
1
)
x
⋆
C
(
2
)
y
)
=
(
F
C
(
1
)
∙
F
C
(
2
)
)
(
x
⊗
y
)
=
F
C
(
1
)
x
∘
F
C
(
2
)
y
{\displaystyle {\mathcal {F}}(C^{(1)}x\star C^{(2)}y)=({\mathcal {F}}C^{(1)}\bullet {\mathcal {F}}C^{(2)})(x\otimes y)={\mathcal {F}}C^{(1)}x\circ {\mathcal {F}}C^{(2)}y}
,
де
⋆
{\displaystyle \star }
означає векторну згортку , а
F
{\displaystyle {\mathcal {F}}}
є матрицею дискретного перетворення Фур'є [ 8] ,
(
A
∙
L
)
(
B
⊗
M
)
.
.
.
(
C
⊗
S
)
(
K
∗
T
)
=
(
A
B
.
.
.
C
K
)
∘
(
L
M
.
.
.
S
T
)
{\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )...(\mathbf {C} \otimes \mathbf {S} )(\mathbf {K} \ast \mathbf {T} )=(\mathbf {A} \mathbf {B} ...\mathbf {C} \mathbf {K} )\circ (\mathbf {L} \mathbf {M} ...\mathbf {S} \mathbf {T} )}
[ 4] [ 5] ,
де
∗
{\displaystyle \ast }
означає стовпцевий добуток Хатрі-Рао
Окрім того:
(
A
∙
L
)
(
B
⊗
M
)
.
.
.
(
C
⊗
S
)
(
c
⊗
d
)
=
(
A
B
.
.
.
C
c
)
∘
(
L
M
.
.
.
S
d
)
{\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )...(\mathbf {C} \otimes \mathbf {S} )(c\otimes d)=(\mathbf {A} \mathbf {B} ...\mathbf {C} c)\circ (\mathbf {L} \mathbf {M} ...\mathbf {S} d)}
,
(
A
∙
L
)
(
B
⊗
M
)
.
.
.
(
C
⊗
S
)
(
P
c
⊗
Q
d
)
=
(
A
B
.
.
.
C
P
c
)
∘
(
L
M
.
.
.
S
Q
d
)
{\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )...(\mathbf {C} \otimes \mathbf {S} )(\mathbf {P} c\otimes \mathbf {Q} d)=(\mathbf {A} \mathbf {B} ...\mathbf {C} \mathbf {P} c)\circ (\mathbf {L} \mathbf {M} ...\mathbf {S} \mathbf {Q} d)}
, де
c
{\displaystyle c}
і
d
{\displaystyle d}
- вектори.
↑ Tracy, D. S.; Singh, R. P. (1972). A New Matrix Product and Its Applications in Matrix Differentiation. Statistica Neerlandica . 26 (4): 143—157. doi :10.1111/j.1467-9574.1972.tb00199.x .
↑ Liu, S. (1999). Matrix Results on the Khatri–Rao and Tracy–Singh Products. Linear Algebra and Its Applications . 289 (1–3): 267—277. doi :10.1016/S0024-3795(98)10209-4 .
↑ Slyusar, V. I. (27 грудня 1996). End products in matrices in radar applications (PDF) . Radioelectronics and Communications Systems.– 1998, Vol. 41; Number 3 : 50—53. Архів оригіналу (PDF) за 27 липня 2020. Процитовано 11 серпня 2020 .
↑ а б Slyusar, V. I. (13 березня 1998). A Family of Face Products of Matrices and its Properties (PDF) . Cybernetics and Systems Analysis C/C of Kibernetika I Sistemnyi Analiz. 1999 . 35 (3): 379—384. doi :10.1007/BF02733426 . Архів оригіналу (PDF) за 25 січня 2020. Процитовано 11 серпня 2020 .
↑ а б Vadym Slyusar. New Matrix Operations for DSP (Lecture). April 1999. – DOI: 10.13140/RG.2.2.31620.76164/1
↑ Slyusar, V. I. (15 вересня 1997). New operations of matrices product for applications of radars (PDF) . Proc. Direct and Inverse Problems of Electromagnetic and Acoustic Wave Theory (DIPED-97), Lviv. : 73—74. Архів оригіналу (PDF) за 25 січня 2020. Процитовано 11 серпня 2020 .
↑ Thomas D. Ahle, Jakob Bæk Tejs Knudsen. Almost Optimal Tensor Sketch. Published 2019. Mathematics, Computer Science, ArXiv [Архівовано 28 липня 2020 у Wayback Machine .]
↑ Ninh, Pham; Rasmus, Pagh (2013). Fast and scalable polynomial kernels via explicit feature maps . SIGKDD international conference on Knowledge discovery and data mining. Association for Computing Machinery. doi :10.1145/2487575.2487591 .