行列ノルム

線型代数学における行列ノルム（ぎょうれつ-ノルム、英: matrix norm）は、ベクトルのノルムを行列に対し自然に一般化したものである。

性質

以下では K で実数体 R または複素数体 C のいずれかを表すものとする。 K の要素を m-行 n-列の矩形に並べた行列の全体が通常の和とスカラー倍に関して成すベクトル空間をここでは K^m×n で表す。K^m×n 上の行列のノルムはベクトルとしてのノルムである。すなわち、行列 A のノルムを ‖A‖ で表せば

正定値性: ‖A‖ ≥ 0 かつ等号成立は A = O と同値、
斉次性: α ∈ K, A ∈ K^m×n ならば ‖αA‖ = |α|‖A‖,
劣加法性: A, B ∈ K^m×n ならば ‖A + B‖ ≤ ‖A‖ + ‖B‖

が全て満たされる。また、m = n すなわち正方行列の場合には、必ずというわけではないが、単にベクトルとしての条件よりも強い、行列としての性質に対する条件

劣乗法性: ‖AB‖ ≤ ‖A‖‖B‖
∗-性: ‖A‖ = ‖A^∗‖ （ただし A^∗ は複素行列 A の随伴である。実行列なら単に転置をとればよい）

を課すこともある。劣乗法性を持つノルムは劣乗法的ノルム (sub-multiplicative norm) と呼ぶ（文献によっては劣乗法的なものに限って行列ノルムと呼ぶものもある）。劣乗法的行列ノルムを備えた n-次正方行列全体の成す集合はバナッハ代数の一例である。

誘導されたノルム

ベクトル空間 K^m と Kⁿ におけるベクトルのノルムが与えられているとき、それらに対応して (m × n)-行列の空間 K^m×n 上の誘導ノルムあるいは作用素ノルムと呼ばれる行列ノルムが

{\begin{aligned}\|A\|&=\max _{x\in \mathbb {K} ^{n} \atop \|x\|_{\mathbb {K} ^{n}}\leq 1}\|Ax\|_{\mathbb {K} ^{m}}\\[8pt]&=\max _{x\in \mathbb {K} ^{n} \atop \|x\|_{\mathbb {K} ^{n}}=1}\|Ax\|_{\mathbb {K} ^{m}}\\&=\max _{\ x\in \mathbb {K} ^{n} \atop x\neq 0}{\frac {\|Ax\|_{\mathbb {K} ^{m}}}{\|x\|_{\mathbb {K} ^{n}}}}\end{aligned}}

で与えられる。m = n で行列の定める線型写像の定義域と値域で同じノルムを用いている場合、誘導される作用素ノルムは劣乗法的である。ベクトルの p-ノルムに対応して、作用素ノルム

\|A\|_{p}=\max _{x\neq 0}{\frac {\|Ax\|_{p}}{\|x\|_{p}}}

が得られる（これらのノルムは、同じように通例 ‖•‖_p で表される後述の成分ごとのノルムやシャッテン p-ノルムとは別のものである）。特に p = 1 と p = ∞ に対しては

{\begin{alignedat}{2}&\|A\|_{1}&=&\max _{1\leq j\leq n}\sum _{i=1}^{m}|a_{ij}|,\\&\|A\|_{\infty }&=&\max _{1\leq i\leq m}\sum _{j=1}^{n}|a_{ij}|\end{alignedat}}

と計算することができる（前者は列ごとに成分の絶対値の和を計算したうちでその最大のもの、後者は行ごとに同様の和を考えたときの最大のもの、を単に考えればよいということである）。

特に p = 2 かつ m = n, つまり正方行列に対してユークリッドノルムを考えた場合には、誘導された行列ノルムはスペクトルノルムになる。行列 A のスペクトルノルムとは A の最大の特異値、別な言い方をすれば半正定値行列 A^∗ A の最大固有値の平方根

\|A\|_{2}={\sqrt {\lambda _{\text{max}}(A^{*}A)}}=\sigma _{\text{max}}(A)

で与えられる。ここで A^∗ は複素行列 A の随伴行列を表す。

ρ(A) を A のスペクトル半径とすると、誘導ノルムはいずれも不等式

\|A\|\geq \rho (A)

を満たす（スペクトル半径は下界を与えている）。実は ρ(A) は A の誘導ノルム全体を動かしたときの下限を与えているのである。さらに言えば、

\lim _{r\to \infty }\|A^{r}\|^{1/r}=\rho (A)

なるスペクトル半径公式を得ることができる。

成分ごとのノルム

行列の成分ごとのノルムとは、m-行 n-列の行列を単に成分数が mn のベクトルと見なして、ベクトルの通常のノルムを考えたものである。例えばベクトルの p-ノルムを利用すれば

\|A\|_{p}=\left(\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{p}\right)^{\!\!1/p}

というノルムが得られる（これは既述の誘導ノルムや後述のシャッテンノルムとは異なるノルムである）。特別の場合として、p = 2 のときはフロベニウスノルムが、p = ∞ のときは最大値ノルムがそれぞれ得られる。

フロベニウスノルム

p = 2 の場合はフロベニウスノルムまたはヒルベルト＝シュミットノルムと呼ばれる（後者は普通、ヒルベルト空間の作用素に限定して使われる）。このノルムはいくつか異なる定義があるが、

\|A\|_{F}={\sqrt {\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{2}}}={\sqrt {{\text{tr}}(A^{*}A)}}={\sqrt {\sum _{i=1}^{\min\{m,n\}}\!\!\!\!\sigma _{i}^{2}}}

のように書くことができる。ここで A^∗ は行列 A の随伴、σ_i は行列 A の特異値を表し、tr は行列のトレースである。フロベニウスノルムは Kⁿ 上のユークリッドノルムとそっくりであり、行列の空間上の（行列を単にベクトルと見ての）標準内積から得られるノルムになっている。

フロベニウス・ノルムは劣乗法的であり、また数値線型代数学において有益である。このノルムは誘導ノルムより計算が容易なことが多い。

最大ノルム

最大ノルムは p = ∞ に対する成分ごとのノルムとして

\|A\|_{\max }=\max\{|a_{ij}|\}

で定義される。これは劣乗法的行列ノルムではない。

シャッテンノルム

詳細は「シャッテンノルム」を参照

シャッテン p-ノルムは行列の特異値を並べたベクトルにベクトルとしての p-ノルムを考えることで得られる。すなわち、特異値を σ_i で表せば、シャッテン p-ノルムは

\|A\|_{p}=\left(\sum _{i=1}^{\min\{m,n\}}\!\!\!\!\sigma _{i}^{p}\right)^{\!\!1/p}

で定義される。三度の注意となるが、誘導ノルムや成分ごとのノルムと同じ記号を使っているがこれらは別のものである。

シャッテンノルムはいずれも劣乗法的である。さらに任意の行列 A とユニタリ行列 U, V に対して ‖UAV‖ = ‖A‖ となるという意味でユニタリ不変性を持つ。

p = 1, 2, ∞ の場合がよく知られており、p = 2 の場合はすでに述べたフロベニウスノルムが得られる。p = ∞ はスペクトルノルムであり、ベクトルの 2-ノルムから誘導される行列ノルムとして既に述べた。

トレースノルム

残りの p = 1 からは核型ノルム (nuclear norm)、トレースノルム、あるいは樊 (Ky Fan) の 'n'-ノルムとして知られるノルム

\|A\|_{\text{trace}}=\operatorname {tr} ({\sqrt {A^{*}A}})=\!\!\!\sum _{i=1}^{\min\{m,n\}}\!\!\!\!\sigma _{i}

が定まる。ここで行列 A^∗ A の平方根は BB = A^∗ A を満たす行列 B の意味で用いている。

両立するノルム

空間 K^{m×n 上の行列ノルム ‖•‖_ab は Kⁿ 上のノルム ‖•‖_a と K^m 上のノルム ‖•‖_b に対して}

\|Ax\|_{b}\leq \|A\|_{ab}\|x\|_{a}

を満たすとき、‖•‖_a, ‖•‖_b と両立する (consistent) という。‖•‖_a, ‖•‖_b から誘導される作用素ノルムは、その定義から明らかに ‖•‖_a, ‖•‖_b と両立する。誘導ノルムをベクトルのノルムと両立する行列ノルムにまで広げても、スペクトル半径が下限を与えるという命題はなお正しい。

ノルムの同値性

有限次元ベクトル空間 K^m×n の任意のふたつの（ベクトルとしての）ノルム ‖•‖_α, ‖•‖_β に対して、適当な定数 r, s > 0 をとれば

r\left\|A\right\|_{\alpha }\leq \left\|A\right\|_{\beta }\leq s\left\|A\right\|_{\alpha }

が任意の行列 A ∈ K^m×n に対して成立するようにできる。言い換えれば、このようなノルムはどれも同値 (equivalent) なノルムであり、空間 K^m×n に同じ位相を誘導する。

さらに実行列 $A\in \mathbb {R} ^{n\times n}$ の場合、任意のノルム $\|\cdot \|$ に対し一意な正の定数 $k$ が存在して、 $k\|A\|$ が（劣乗法的な）行列ノルムになる。

行列ノルム $\|\cdot \|_{p}$ は、他のいかなる行列ノルム $\|\cdot \|_{q}$ も $\|\cdot \|_{q}\leq \|\cdot \|_{p}$ を満たさないとき、極小（英: minimal）であると呼ばれる。

同値なノルムの例

実行列 $A\in \mathbb {R} ^{m\times n}$ に対し、以下の不等式が成立する^[1] ^[2]:

$\|A\|_{2}\leq \|A\|_{F}\leq {\sqrt {n}}\|A\|_{2}$
$\|A\|_{\max }\leq \|A\|_{2}\leq {\sqrt {mn}}\|A\|_{\max }$
${\frac {1}{\sqrt {n}}}\|A\|_{\infty }\leq \|A\|_{2}\leq {\sqrt {m}}\|A\|_{\infty }$
${\frac {1}{\sqrt {m}}}\|A\|_{1}\leq \|A\|_{2}\leq {\sqrt {n}}\|A\|_{1}$
$\|A\|_{2}\leq {\sqrt {\|A\|_{1}\|A\|_{\infty }}}$

参考文献

^ Golub, Gene; Charles F. Van Loan (1996). Matrix Computations, - Third Edition. Baltimore: The Johns Hopkins University Press, 56-57. ISBN 0-8018-5413-X.
^ Roger Horn and Charles Johnson. Matrix Analysis, Chapter 5, Cambridge University Press, 1985. ISBN 0-521-38632-2.

L. Thomas, Norms and Condition Numbers of a Matrix （英語）
James W. Demmel, Applied Numerical Linear Algebra, section 1.7, SIAM 1997年
Douglas W. Harder, Matrix Norms and Condition Numbers [1]
James W. Demmel, Applied Numerical Linear Algebra, section 1.7, published by SIAM, 1997.
Carl D. Meyer, Matrix Analysis and Applied Linear Algebra, published by SIAM, 2000. [2]
John Watrous, Theory of Quantum Information, 2.4 Norms of operators, lecture notes, University of Waterloo, 2008.

[1] Golub, Gene; Charles F. Van Loan (1996). Matrix Computations, - Third Edition. Baltimore: The Johns Hopkins University Press, 56-57. ISBN 0-8018-5413-X.

[2] Roger Horn and Charles Johnson. Matrix Analysis, Chapter 5, Cambridge University Press, 1985. ISBN 0-521-38632-2.

[1]

[2]