Norm on a vector space of matrices
数学の分野では、ベクトル空間内の要素に対してノルムが定義されます。特に、ベクトル空間が行列で構成される場合、そのようなノルムは行列ノルムと呼ばれます。行列ノルムは、行列の乗算とも相互作用する必要があるという点でベクトルノルムとは異なります。
予選
実数体または複素数体( もしくはその完全な部分集合)が与えられたとき、その体に含まれる行と列を持つ行列のKベクトル空間を行列ノルムとする。行列ノルムは、




ノルムはしばしば二重の縦棒で表されます(例:)。したがって、行列ノルムは以下の性質を満たす関数です。 [1] [2]
すべてのスカラーと行列について
(正の値)
(明確な)
(完全に均質)
(劣加法性または三角不等式を満たす)
行列と並べ替えられたベクトルを区別する唯一の特徴は乗算である。行列ノルムは、乗法性も有する場合に特に有用である:[1] [2] [3]
[あ]
上のすべてのノルムは、乗法以下の範囲に再スケールすることができます。書籍によっては、行列ノルムという用語は乗法以下の範囲のノルムを指すために予約されています。[4]
ユニタリー不変性
すべてのユニタリ行列および行列に対して が成り立つとき、
行列ノルムはユニタリ不変であるといわれます。


対称ゲージ関数は、任意の順列行列に対してとなる 絶対ベクトルノルム である。つまり、


- 非負性: 、 の場合に限り。



- 正の同次性: 任意の実数に対して。


- 三角不等式: .

- 対称性: 任意の順列行列に対して。


ノルムは、特異値ベクトル上の対称ゲージ関数である場合に限り、ユニタリ不変行列ノルムとなる。 [4]
ベクトルノルムによって誘導される行列ノルム
上のベクトルノルム と上のベクトルノルムが与えられていると仮定する。任意の行列Aは、標準基底に関して から への線型演算子を誘導し、対応する誘導ノルム、演算子ノルム、または従属ノルムをすべての行列の空間上で以下のように定義する。ここでは上限を表す。このノルム
は、によって誘導される写像がベクトルをどれだけ引き伸ばせるかを表す。使用されるベクトルノルム に応じて、演算子ノルムとして 以外の表記法を使用できる。















ベクトルによって誘導される行列ノルムp-規範
ベクトルのpノルム()を両方の空間に使用し、対応する演算子ノルムは次のようになる。[2]
これらの誘導ノルムは、以下で扱う行列の「エントリワイズ」pノルムやシャッテンpノルムとは異なり、通常は次のように表記される。


幾何学的に言えば、におけるpノルム単位球を想像し、その球に線型写像を適用することができます。その結果、歪んだ凸形状 となり、 は歪んだ凸形状の最長の「半径」となります。言い換えれば、におけるpノルム単位球を とし、 を包含できる大きさにするには、少なくとも を乗じる必要があります。









p= 1または∞
または、簡単な数式がある
場合。


これは単に行列の列の合計の絶対値の最大値です。
これは単に行列の行の合計の絶対値の最大値です。

例えば
、

スペクトルノルム(p= 2)
(ユークリッドノルムまたはベクトルの -ノルム)
のとき、誘導行列ノルムはスペクトルノルムです。2つの値は無限次元では一致しません。詳細についてはスペクトル半径を参照してください。スペクトル半径とスペクトルノルムを混同しないでください。行列のスペクトルノルムはの最大特異値、つまり行列の最大固有値の平方根です。ここで はの共役転置を表します。[5]ここで は行列の最大特異値を表します。








さらに次のプロパティがあります:
コーシー・シュワルツの不等式によって証明される。
.特異値分解(SVD)によって証明されます。
、ここではフロベニウスノルムです。等式は、行列が階数1の行列または零行列である場合にのみ成立します。

- 逆に言えば、.

。
ベクトルによって誘導される行列ノルムα- そしてβ-規範
上記の定義を一般化することができます。空間とに対してそれぞれベクトルノルムとがあるとします。対応する演算子ノルムは です。
特に、先に定義した は の特別な場合です。







およびの特殊なケースでは、誘導行列ノルムは によって計算できます。ここで、 は行列 の i 番目の行です。





およびの特殊なケースでは、誘導行列ノルムは によって計算できます。ここで、 は行列 の j 番目の列です。





したがって、およびは、それぞれ行列の行と列の 2 ノルムの最大値です。


プロパティ
任意の演算子ノルムはそれを誘導するベクトルノルムと整合しており、
; ; および が、それぞれベクトルノルムのペア; ;および によって誘導される演算子ノルムであると仮定します。すると、







これは
次のこと
から導かれ、
正方行列
がベクトルノルムとによって誘導される正方行列の空間上の演算子ノルムであるとする。このとき、演算子ノルムは部分乗法行列ノルムである。




さらに、そのような規範は不等式を満たす。
| | 1 |
全ての正の整数rに対して成り立ち、ここでρ ( A )はAのスペクトル半径である。対称行列またはエルミート行列Aの場合、2 ノルムについて( 1 )の等式が成り立つ。これは、この場合、2 ノルムがAのスペクトル半径と全く同じだからである。任意の行列の場合、どのノルムに対しても等式が成り立たない可能性がある。反例として、スペクトル半径がゼロになる がある
。いずれにせよ、任意の行列ノルムに対して、スペクトル半径の式が
成り立つ。

エネルギー基準
ベクトルノルムとがそれぞれ対称正定値行列とに基づくエネルギーノルムで与えられる場合、結果として得られる演算子ノルムは次のように与えられる。



との対称行列の平方根をそれぞれ使用すると、演算子ノルムは修正行列のスペクトルノルムとして表すことができます。


一貫性と互換性のある規範
上の行列ノルムは、
すべてのおよびすべてのに対して、
上のベクトルノルムおよび上のベクトルノルムと整合していると呼ばれる。m = nかつ の特別な場合においては、はと整合しているとも言える。












全ての誘導ノルムは定義により矛盾しません。また、 上の任意の約乗法行列ノルムは、を定義することにより、上の適合なベクトルノルムを誘導します。



「エントリごとの」行列ノルム
これらのノルムは、行列をサイズ のベクトルとして扱い、よく知られたベクトルノルムの1つを使用します。例えば、ベクトルpノルム( p ≥ 1 )を用いると、次のようになります。



これは、誘導pノルム (上記参照) や Schatten pノルム (下記参照) とは異なるノルムですが、表記は同じです。
特別な場合p = 2 はフロベニウスノルムであり、p = ∞ は最大ノルムをもたらします。
L 2,1そしてL p,q規範
行列 の次元をm列とする。元の定義によれば、行列 はm次元空間にn 個のデータ点を表す。ノルム[6]は、行列の列のユークリッドノルムの和である。





誤差関数としてのノルムは、各データポイント(列)の誤差が2乗されないため、よりロバストです。ロバストなデータ分析やスパースコーディングで使用されます。

p、q ≥ 1の場合、ノルムは次のようにノルムに一般化できます。



フロベニウスノルム
p = q = 2のノルムはフロベニウスノルムまたはヒルベルト・シュミットノルムと呼ばれるが、後者の用語は(おそらく無限次元の)ヒルベルト空間上の作用素の文脈でより頻繁に用いられる。このノルムは様々な方法で定義できる。


ここで、トレースは対角成分の和であり、は の特異値です。2番目の等式は の明示的な計算によって証明されます。3番目の等式は の特異値分解と、トレースが円シフトに対して不変であるという事実
によって証明されます。



フロベニウス ノルムはユークリッド ノルムの拡張であり、すべての行列の空間上の
フロベニウス内積に由来します。
フロベニウスノルムは乗法的に劣っており、数値線形代数において非常に有用です。フロベニウスノルムの乗法的劣性は、コーシー・シュワルツ不等式を用いて証明できます。実際、乗法的劣性以上の性質を持ち、演算子ノルムが となるとき、 となります。


フロベニウスノルムは誘導ノルムよりも計算が容易な場合が多く、回転(および一般的なユニタリ演算)に対して不変という便利な性質を持っています。つまり、任意のユニタリ行列 に対して不変です。この性質は、トレース()の巡回的な性質から導かれます。




同様に:

ここで、 のユニタリ性(つまり、) を使用しました。


また、

そして

ここで、はフロベニウスの内積、Reは複素数の実部(実数行列の場合は無関係)である。

最大ノルム
最大ノルムは、 p = qが無限大に近づく
ときの極限における要素ごとのノルムです。

このノルムは乗法未満ではありませんが、右辺を に変更すると乗法未満になります。

一部の文献( 「通信の複雑さ」など)では、最大ノルムの別の定義( -ノルムとも呼ばれる)が因数分解ノルムを指していることに注意してください。


シャッテン規範
シャッテンpノルムは、 pノルムを行列の特異値ベクトルに適用するときに生じる。 [2]行列の特異値がσ iで表される場合、シャッテンpノルムは次のように定義される。



これらのノルムは、誘導された p ノルムやエントリごとのpノルムと表記法を共有していますが、異なります。
すべてのシャッテンノルムは乗法性に欠ける。また、ユニタリ不変であり、すべての行列とすべてのユニタリ行列およびに対して成り立つことを意味する。



最もよく知られているケースはp = 1, 2, ∞である。p = 2の場合、前述のフロベニウスノルムが得られる。p = ∞の場合、スペクトルノルムが得られる。これはベクトル2-ノルム(上記参照)によって誘導される演算子ノルムである。最後に、p = 1の場合、核ノルム(トレースノルム、またはKy Fan 'n'-ノルム[7]とも呼ばれる)が得られ、以下のように定義される。

ここで、は となる半正定値行列を表す。より正確には、は半正定値行列であるため、その平方根は明確に定義される。核ノルムは階数関数 の凸包であるため、数理最適化において低階数行列の探索に
よく用いられる。





フォン・ノイマンのトレース不等式とユークリッド空間のヘルダーの不等式を組み合わせると、 のシャッテンノルムのヘルダーの不等式のバージョンが得られます。


特に、これはシャッテンノルム不等式を意味する。

単調な規範
行列ノルムは、ローナー順序に関して単調であるとき、単調であると呼ばれる。したがって、行列ノルムが増加するとは、


フロベニウスノルムとスペクトルノルムは単調ノルムの例である。[8]
カット基準
行列ノルムのもう一つの着想源は、行列を重み付き有向グラフの隣接行列として考えることから生まれます。[9] いわゆる「カットノルム」は、関連するグラフが二部グラフにどれだけ近いかを測定します。
ここで、A ∈ K m × nです。[9] [10] [11] 同等の定義(定数倍を除く)では、条件2| S | > n & 2| T | > m ; S = T ; またはS ∩ T = ∅が課されます。[10]
カットノルムは誘導演算子ノルム‖· ‖∞→1と等価であり、誘導演算子ノルム自体はグロタンディークノルムと呼ばれる別のノルムと等価である。[11]
グロタンディークノルムを定義するには、まず線型作用素K 1 → K 1が単なるスカラーであり、したがって任意のK k → K k上の線型作用素に拡張されることに注意する必要がある。さらに、 K nとK mの基底を任意に選択すれば、任意の線型作用素K n → K m は、各行列要素をスカラー乗算によってK kの要素に乗算することで、線型作用素( K k ) n → ( K k ) mに拡張される。グロタンディークノルムは、この拡張された作用素のノルムである。記号で表すと、次のようになる。[11]
グロタンディークノルムは基底(通常は標準基底とする)とkの選択に依存します。
規範の同等性
任意の 2 つの行列ノルムとに対して、次の関係が成り立ちます。



任意の正数rとsに対して、すべての行列 に対して成り立ちます。言い換えれば、 上のすべてのノルムは同値であり、上に同じ位相を誘導します。これは、ベクトル空間が有限次元 を持つため成り立ちます。




さらに、上のすべての行列ノルムに対して、がすべての に対して部分乗法行列ノルムとなるような唯一の正の実数が存在する。すなわち、






を満たす他の部分乗法行列ノルムが存在しない場合、部分乗法行列ノルムは最小であると言われます。



規範同等性の例
ここで、ベクトルpノルムによって誘導されるノルムをもう一度参照します(上記の「誘導ノルム」のセクションを参照)。

階数の行列については、次の不等式が成り立つ:[12] [13]





参照
注記
- ^この条件は、 正方行列( )
の場合のように、積が定義されている場合にのみ適用されます。より一般的には、行列の乗算が可能でなければなりません。さらに、2つのノルムと は、行列の次元のみが異なる同じ定義を持つか、あるいは2つの異なる種類のノルムであっても「矛盾しない」ものでなければなりません(下記参照)。




参考文献
- ^ ab Weisstein, Eric W. 「行列ノルム」. mathworld.wolfram.com . 2020年8月24日閲覧。
- ^ abcd "Matrix norms". fourier.eng.hmc.edu . 2020年8月24日閲覧。
- ^ Malek-Shahmirzadi, Massoud (1983). 「行列ノルムの特定のクラスの特徴づけ」.線形代数と多重線形代数. 13 (2): 97– 99. doi :10.1080/03081088308817508. ISSN 0308-1087.
- ^ ab Horn, Roger A. (2012). Matrix analysis . Johnson, Charles R. (第2版). Cambridge, UK: Cambridge University Press. pp. 340– 341. ISBN 978-1-139-77600-4. OCLC 817236655。
- ^ Carl D. Meyer、「行列解析と応用線形代数」、§5.2、p.281、Society for Industrial & Applied Mathematics、2000年6月。
- ^ Ding, Chris; Zhou, Ding; He, Xiaofeng; Zha, Hongyuan (2006年6月). R1-PCA: ロバストな部分空間分解のための回転不変L1ノルム主成分分析. 第23回国際機械学習会議. ICML '06. ピッツバーグ, ペンシルベニア州: Association for Computing Machinery . pp. 281– 288. doi :10.1145/1143844.1143880. ISBN 1-59593-383-2。
- ^ Fan, Ky. (1951). 「完全連続作用素の固有値に関する最大値特性と不等式」. Proceedings of the National Academy of Sciences of the United States of America . 37 (11): 760– 766. Bibcode :1951PNAS...37..760F. doi : 10.1073 /pnas.37.11.760 . PMC 1063464. PMID 16578416.
- ^ Ciarlet, Philippe G. (1989).数値線形代数と最適化入門. ケンブリッジ大学出版局, イギリス. p. 57. ISBN 0521327881。
- ^ ab Frieze, Alan; Kannan, Ravi (1999-02-01). 「行列への迅速な近似とその応用」 . Combinatorica . 19 (2): 175– 220. doi :10.1007/s004930050052. ISSN 1439-6912. S2CID 15231198.
- ^ ab Lovász László (2012). 「カット距離」.大規模ネットワークとグラフの限界. AMSコロキウム出版. 第60巻. プロビデンス、ロードアイランド州: アメリカ数学会. pp. 127– 131. ISBN 978-0-8218-9085-1。 Lovász は‖ A ‖ □を[0, 1]に収まるように再スケーリングしていることに注意してください。
- ^ abc Alon, Noga ; Naor, Assaf (2004-06-13). 「グロタンディークの不等式によるカットノルムの近似」.第36回ACM計算理論シンポジウム議事録. STOC '04. シカゴ、イリノイ州、米国: Association for Computing Machinery. pp. 72– 80. doi :10.1145/1007352.1007371. ISBN 978-1-58113-852-8. S2CID 1667427。
- ^ ゴルブ、ジーン、チャールズ・F・ヴァン・ローン(1996). 『行列計算 第3版』 ボルチモア: ジョンズ・ホプキンス大学出版局, 56–57. ISBN
0-8018-5413-X。
- ^ ロジャー・ホーンとチャールズ・ジョンソン著『行列分析』第5章、ケンブリッジ大学出版局、1985年。ISBN 0-521-38632-2。
参考文献
- James W. Demmel、「応用数値線形代数」、セクション 1.7、SIAM 発行、1997 年。
- Carl D. Meyer著『行列解析と応用線形代数』SIAM出版、2000年。[1]
- John Watrous、「量子情報理論」、2.3 演算子のノルム、講義ノート、ウォータールー大学、2011 年。
- ケンドール・アトキンソン著『数値解析入門』、ジョン・ワイリー・アンド・サンズ社、1989年出版