行列の固有分解

線型代数学において固有値分解とは行列正準形式分解することであり、行列は固有値と固有ベクトルを用いて表されます。この方法では、対角化可能な行列のみが分解可能です。分解される行列が正規行列または実対称行列である場合、この分解はスペクトル定理に由来する「スペクトル分解」と呼ばれます

行列の固有ベクトルと固有値の基礎理論

N次元の(非零)ベクトルvが正方N × N行列Aの固有ベクトルであるとは、あるスカラーλに対して、次の形式の線形方程式を満たす場合を言う。λvに対応する固有値と呼ばれる。幾何学的に言えば、 Aの固有ベクトルとは、 A が単に伸長または縮小するベクトルであり、その伸長/縮小量が固有値である。上記の方程式は固有値方程式または固有値問題と呼ばれる。

これにより、固有値に関する方程式が得られる。p ( λ )を特性多項式と呼ぶ。この方程式は特性方程式と呼ばれ、未知数λに関するN次多項式方程式である。この方程式にはN λ 個の異なる解が存在する( 1 ≤ N λN)。解の集合、すなわち固有値はAスペクトルと呼ばれる。[1] [2] [3]

スカラー体が代数的に閉じている場合、p を因数分解する と、 整数n i は固有値λ i代数的重複度呼ばれる。代数的重複度の和はNとなる。

各固有値λ iに対して、特定の固有値方程式が成り立ちます 。各固有値方程式には、 1 ≤ m in i 個の線形独立な解 が存在します。 m i個の解の線形結合(零ベクトルを与えるものを除く)は、固有値λ iに関連付けられた固有ベクトルです。整数m i は、 λ i幾何学的重複度と呼ばれます。代数的重複度n iと幾何学的重複度m i は等しくなることもあれば、そうでないこともありますが、常にm in iとなります。最も単純なケースは、もちろん、m i = n i = 1のときです。線形独立な固有ベクトルの総数N vは、幾何学的重複度を合計することで計算できます 。

固有ベクトルは、固有値でインデックス付けすることができます。この場合、v ij はi番目の固有値に対するj番目の固有ベクトルです。また、より単純な表記法であるv k(k = 1, 2, ..., N v )インデックス付けすることもできます

行列の固有分解

A をn × nの正方行列とし、n 個の線形独立な固有ベクトルq ii = 1, ..., n)を持つものとする。A は次ように因数分解できる。ここでQは Ai目に固有ベクトルq iを持つ正方n × n行列でありΛ は対角要素が対応する固有値Λ ii = λ iである対角行列である。ただし、この方法で因数分解できるのは対角化可能な行列のみである。例えば、欠陥行列(せん断行列)は対角化できない。

n 個の固有ベクトルq i通常は正規化されますが、必ずしもそうである必要はありません。n 個の固有ベクトルの正規化されていないセットv i をQの列として使用することもできます。これは、 Qの固有ベクトルの大きさがQ −1の存在によって分解でキャンセルされることに注目すれば理解できます。固有値λ iの 1 つに複数の線形独立な固有ベクトルがある場合 (つまり、λ iの幾何学的重複度が 1 より大きい場合)、この固有値λ iのこれらの固有ベクトルは相互に直交するように選択できます。ただし、2 つの固有ベクトルが異なる 2 つの固有値に属する場合、それらを互いに直交させるのは不可能な場合があります (以下の例を参照)。 1 つの特別なケースとして、Aが正規行列の場合、スペクトル定理により、直交基底{q i }A を対角化することが常に可能です

この分解は、固有ベクトルの基本特性から導かれます。つまり、非零の固有値を持つ線形独立な固有ベクトルq i は、 xC nに対して、すべての可能な積A xの基底(必ずしも直交とは限らない)を形成します。これは、対応する行列変換の(または値域)と、行列Aの列空間に等しくなります。非零の固有値を持つ線形独立な固有ベクトルq iの数は、行列Aの階数、対応する行列変換の像(または値域)の次元、およびその列空間に等しくなります。

固有値がゼロである線形独立な固有ベクトルq i は、行列変換Aのヌル空間(カーネルとも呼ばれる)の基底(直交するように選択できる)を形成します

2×2実行行列Aは、特異でない行列Qの乗算によって対角行列に分解できる。

次に、ある実対角行列について考えます

左辺の方程式の両辺にQ を掛けると、次の式は 2 つの連立方程式に分解できます。固有値xy を因数分解すると、次 の 2 つのベクトル方程式が得られます。 また、これは、2 つの解を固有値として含む単一のベクトル方程式で表すことができます。ここで、λ は2 つの固有値xyを表し、u はベクトルabを表します。

λ u を左辺にシフトし、 u を因数分解 すると、 Q は非特異なので、 uが非ゼロであることが必須です。したがって、行列Aの固有値の解はλ = 1またはλ = 3となり、 Aの固有分解から得られる対角行列はとなります

解を上記の連立方程式に戻すと

方程式を解くと、次の式が得られます 。したがって、 Aの固有分解に必要な行列Q は次のように なります実数の集合から数 0 を除外することは、行列が非特異であることを保証するために必要です。

固有分解による逆行列

行列A が固有分解可能であり、かつその固有値がいずれもゼロでない場合、A は可逆行列であり、その逆行列は で与えられます 。 が対称行列である場合、は の固有ベクトルから形成されるため、は直交行列であることが保証されます。したがって、となります。さらに、 Λ は対角行列であるため、その逆行列は簡単に計算できます。

実用的な意味合い

実測データ行列に固有値分解を用いる場合、すべての固有値を上記の形でそのまま用いると、逆行列の妥当性が低下する可能性があります。これは、固有値が比較的小さくなるにつれて、逆行列への寄与が大きくなるためです。ゼロ付近、あるいは測定システムの「ノイズ」にある固有値は過度の影響を与え、逆行列を用いた解(検出)を阻害する可能性があります。[4]

2つの緩和策が提案されています。1つは小さい固有値またはゼロの固有値を切り捨てること、もう1つは最も信頼できる固有値をそれ以下の固有値まで拡張することです。また、統計的根拠に基づくもののバイアスのある手法として、ノイズの影響が大きくなるにつれて固有値をロールオフするティホノフ正則化も参照してください。

最初の緩和方法は、元の行列のスパースサンプルに似ており、重要でないと考えられる成分を削除します。ただし、解または検出プロセスがノイズレベルに近い場合、切り捨てによって目的の解に影響を与える成分が削除される可能性があります。

2 番目の緩和策では、固有値が拡張され、低い値は反転に対してあまり影響を及ぼさなくなりますが、それでも寄与は残るため、ノイズに近い解が依然として見つかります。

非常に類似した低い値の固有値が測定ノイズ(ほとんどのシステムでは低いと想定されます)を適切に表していると仮定することで、信頼性の高い固有値を見つけることができます。

固有値が値によってランク付けされている場合、信頼できる固有値は、ソートされた固有値のラプラシアンを最小化することで見つけることができます。 [5]ここで、固有値にはソートされていることを示すために添え字sが付けられます。最小化の位置は、最も低い信頼できる固有値です。測定システムでは、この信頼できる固有値の平方根が、システムのコンポーネント全体の平均ノイズとなります。

関数微積分

固有値分解により、行列の冪級数の計算がはるかに容易になります。f  ( x )が で与えられる 場合Λ対角行列であるためΛの関数は非常に簡単に計算できます。

f  ( Λ )の非対角要素はゼロです。つまり、f  ( Λ )も対角行列です。したがって、f  ( A )の計算は、各固有値上の関数を計算するだけで済みます。

同様の手法は、より一般的には、上記のを用いて、正則関数計算にも適用できる 。ここでも、

これらは関数 の例です。さらに、は指数行列です

スペクトル行列の分解

スペクトル行列は、異なる固有値と完全な固有ベクトルを持つ行列です。この特性により、スペクトル行列は完全に対角化可能であり、固有値分解を用いてより単純な形に分解することができます。この分解プロセスは、特に量子力学、信号処理、数値解析などの分野において、行列の構造と挙動に関する基本的な知見をもたらします。[6]

正規行列

複素数値正方行列正規行列(つまり 、、ここでは共役転置)である場合、かつそれが と分解できる場合のみ、 はユニタリ行列(つまり)、diag( ) は対角行列である。[7]列は直交基底を形成し、 の固有ベクトルで、対応する固有値を持つ[8]

たとえば、2 x 2 の正規行列を考えます

固有値はおよび です

これらの固有値に対応する(正規化された)固有ベクトルは、およびです

対角化は( 、)です

検証は です

この例では、固有値と固有ベクトルを求め、ユニタリ行列と対角行列を形成し、分解を検証すること によって、正規行列を対角化するプロセスを示します。

重要な行列のクラスのサブセット

実対称行列

特別な場合として、任意のn × n対称行列に対して、固有値は実数であり、固有ベクトルは実数かつ直交 とすることができるしたがって、実対称行列Aはと分解することができる。ここで、Q はAの実数かつ直交する固有ベクトルを列とする直交行列でありΛはAの固有値を要素とする対角行列である[9]

対角化可能な行列

対角化可能な行列は、線形独立な固有ベクトルの完全な集合を持つ限り、固有分解を用いて分解することができる。これらは と表される。ここで、は の列が の固有ベクトルである行列でありは の対応する固有値からなる対角行列である[8]

正定値行列

定値行列とは、すべての固有値が正である行列である。コレスキー分解( は下三角行列)を用いてと分解することができる。 [10]

ユニタリ行列とエルミート行列

ユニタリ行列は(実数の場合)または(複素数の場合)を満たす。ここで、は共役転置、は共役転置を表す。これらはユニタリ変換を用いて対角化される[ 8 ]

エルミート行列はを満たす。ここで は共役転置を表す。これらはユニタリ行列または直交行列を用いて対角化できる。[8]

役立つ事実

固有値に関する有用な事実

  • 固有値の積は、A行列式に等しくなります。各固有値は、代数的重複度であるn i乗されることに注意してください
  • 固有値の合計は、Aトレースに等しくなります。各固有値には、代数的重複度n iが乗算されることに注意してください
  • Aの固有値がλ iAが逆行列を持つ場合、 A −1の固有値は単にλ−1
    i
  • Aの固有値がλ iであれば、任意の正則関数fに対して、 f  ( A )の固有値は単にf  ( λ i )になります。

固有ベクトルに関する有用な事実

  • Aがエルミート行列かつフルランク行列である場合、固有ベクトルの基底は互いに直交するように選択することができる。固有値は実数である。
  • A −1の固有ベクトルはAの固有ベクトルと同じです
  • 固有ベクトルは乗法定数までしか定義されません。つまり、Av = λ vならば、任意のスカラーc ≠ 0に対してc vも固有ベクトルとなります。特に、ve v(任意のθに対して)も固有ベクトルとなります。
  • 退化した固有値(複数の固有ベクトルを持つ固有値)の場合、固有ベクトルには線形変換の自由度が追加されます。つまり、(退化した部分空間内の)固有値を共有する固有ベクトルの任意の線形(直交)組み合わせは、それ自体が(部分空間内の)固有ベクトルになります。

固有値分解に関する有用な事実

  • Aは、線形独立な固有ベクトルの数N vが固有ベクトルの次元に等しい場合にのみ、固有分解できる: N v = N
  • スカラー体が代数的に閉じており、p ( λ )に重根がない場合、つまり、A固有分解できます。
  • 「 A は固有分解できる」という記述は、一部の固有値がゼロになる可能性があり、逆変換できないため、Aに逆が存在することを意味するものではありません。
  • 「 Aには逆行列が存在する」という記述は、 A が固有分解可能であることを意味しませ。反例として、逆行列である欠陥行列が挙げられます。

逆行列に関する有用な事実

  • A は、すべての固有値がゼロでない場合にのみ反転できます
  • λ i ≠ 0 かつ N v = Nの場合、逆関数は次のように表される。

数値計算

固有値の数値計算

与えられた行列の固有値を計算したいとします。行列が小さい場合は、特性多項式 を用いて記号的に計算できます。しかし、大きな行列ではこれが不可能な場合が多く、その場合は数値計算法 を使用する必要があります

実際には、大きな行列の固有値は特性多項式を用いて計算されません。多項式の計算自体がコストが高く、高次多項式の正確な(記号的な)根を計算して表現することは困難です。アーベル・ルフィニの定理によれば、高次(5次以上)の多項式の根は、一般に単純にn乗根を用いて表現することはできません。したがって、固有ベクトルと固有値を求める一般的なアルゴリズムは反復的です

ニュートン法など、多項式の根を近似する反復数値アルゴリズムは存在するが、一般的には特性多項式を計算してからこれらの手法を適用するのは現実的ではない。その理由の一つは、特性多項式の係数における小さな丸め誤差が、固有値と固有ベクトルに大きな誤差をもたらす可能性があることである。根は係数の極めて条件の悪い関数であるからである。 [11]

単純かつ正確な反復法はべき乗法である。ランダムベクトルvが選択され、単位ベクトルの列が次のように計算される。

このシーケンスは、 v が固有ベクトルの基底にこの固有ベクトルの非ゼロ成分を持つ場合(また、最大の大きさの固有値が 1 つだけである場合)、ほぼ常に最大の大きさの固有値に対応する固有ベクトルに収束します。 この単純なアルゴリズムは、いくつかの実用的なアプリケーションで役立ちます。たとえば、 Google は、検索エンジンでドキュメントのページランクを計算するためにこれを使用しています。 [12] また、べき乗法は、多くのより洗練されたアルゴリズムの出発点です。 たとえば、シーケンスの最後のベクトルだけでなく、シーケンス内のすべてのベクトルの範囲を調べることで、固有ベクトルのより良い(より速く収束する)近似値を取得できます。このアイデアは、アーノルディ反復法の基礎となっています。[11] また、重要なQR アルゴリズムも、べき乗法の微妙な変換に基づいています。[11]

固有ベクトルの数値計算

固有値が計算されると、ガウス消去法または行列方程式を解く他の方法を使用して方程式を解くことによって、固有ベクトルを計算できます

しかし、実用的な大規模固有値法では、固有ベクトルは通常、固有値計算の副産物として他の方法で計算されます。たとえば、べき乗反復法では、固有ベクトルは実際には固有値(通常は固有ベクトルのレイリー商によって計算されます)の前に計算されます。 [11]エルミート行列(または任意の正規行列) のQRアルゴリズムでは、直交固有ベクトルはアルゴリズムの手順からQ行列の積として得られます。 [11] (より一般的な行列の場合、QRアルゴリズムは最初にシュアー分解を生成し、そこからバックサブスティテューション手順によって固有ベクトルを取得できます[13])エルミート行列の場合、固有ベクトルと固有値の両方が必要な場合、分割統治固有値アルゴリズムはQRアルゴリズムよりも効率的です。[11]

追加トピック

一般化固有空間

固有値の幾何学的重複度は、関連する固有空間、つまりλ IAヌル空間の次元として記述できることを思い出してください。代数的重複度も次元として考えることができます。これは、十分大きい任意のkに対する行列( λ IA ) kのヌル空間である、関連する一般化固有空間(第 1 の意味) の次元です。つまり、一般化固有ベクトルの空間(第 1 の意味) であり、一般化固有ベクトルとは、λ IA を十分な回数連続して適用した場合に最終的に0 になる任意のベクトルです。任意の固有ベクトルは一般化固有ベクトルであるため、各固有空間は関連する一般化固有空間に含まれます。これにより、幾何学的重複度は常に代数的重複度以下であることが簡単に証明されます。

この用法は、以下で説明する一般化固有値問題と混同しないでください

共役固有ベクトル

共役固有ベクトルまたは共役ベクトルは、その共役のスカラー倍に変換された後に送られるベクトルであり、スカラーは線形変換の共役固有値または共役固有値と呼ばれます。共役ベクトルと共役値は、通常の固有ベクトルおよび固有値と本質的に同じ情報と意味を表しますが、代替座標系が使用される場合に発生します。対応する方程式は、たとえば、コヒーレント電磁散乱理論では、線形変換Aは散乱物体によって実行されるアクションを表し、固有ベクトルは電磁波の偏光状態を表します。光学では、座標系は波の観点から定義され、前方散乱アライメント(FSA) と呼ばれ、通常の固有値方程式が生成されますが、レーダーでは、座標系はレーダーの観点から定義され、後方散乱アライメント(BSA) と呼ばれ、共役値方程式が生成されます。

一般化固有値問題

一般化固有値問題(第二の意味)とは、 ABが行列であるとき、次式に従う (非零)ベクトルv を求める問題である。vこの式に従い、あるλ を仮定するとき、 v をABの(第二の意味における)一般化固有ベクトルと呼びλ をAB(第二の意味における)一般化固有値と呼び、これは一般化固有ベクトルvに対応する。λ の取り得る値は、の式に従う必要がある 。

もしn個の線形独立ベクトル{ v 1 , …, v n }が見つかり、任意のi ∈ {1, …, n }に対して、Av i = λ i Bv iが成り立つとすると、行列PDを次のように定義する。すると次の等式が成り立つ。そして証明は

そして、Pは逆数であるため、右からの方程式にその逆数を掛け合わせると、証明が完了します。

Aλ Bλは複素数)の形式の行列の集合は行列ペンシルと呼ばれます。行列ペンシルという用語は、行列のペアABを指すこともあります。[14]

Bが逆行列を持つ場合、元の問題は標準的な固有値問題の形で表すことができます。しかし、ほとんどの場合、逆行列を求めるのではなく、元の一般化固有値問題を解く方が望ましいでしょう。これは、AB がエルミート行列である場合に特に重要です。この場合、B −1 A は一般にエルミート行列ではなく、解の重要な性質はもはや明らかではないからです。

ABがともに対称行列またはエルミート行列であり、Bも正定値行列である場合、固有値λ i は実数であり、異なる固有値を持つ固有ベクトルv 1v 2はB直交(v 1 * Bv 2 = 0)である。[15]この場合、上で定義した行列Pが または を満たす ように固有ベクトルを選択でき、一般化固有ベクトルの基底が存在する(これは欠陥問題ではない)。[14] この場合は、エルミート定値ペンシルまたは定値ペンシルと呼ばれることもある。[14]

参照

注記

  1. ^ Golub, Gene H.; Van Loan, Charles F. (1996), Matrix Computations (第3版), ボルチモア: Johns Hopkins University Press , p. 310, ISBN 978-0-8018-5414-9
  2. ^ Kreyszig, Erwin (1972), Advanced Engineering Mathematics (第3版), New York: Wiley , p. 273, ISBN 978-0-471-50728-4
  3. ^ Nering, Evar D. (1970).線形代数と行列理論(第2版). ニューヨーク: Wiley . p. 270. LCCN  76091646.
  4. ^ Hayde, AF; Twede, DR (2002). Shen, Sylvia S. (編). 「固有値、機器ノイズ、および検出性能の関係に関する考察」. Imaging Spectrometry VIII . Proceedings of SPIE. 4816 : 355. Bibcode :2002SPIE.4816..355H. doi :10.1117/12.453777. S2CID  120953647.
  5. ^ Twede, DR; Hayden, AF (2004). Shen, Sylvia S; Lewis, Paul E (編). 「共分散行列逆行列の拡張法の正規化による改良と一般化」. Imaging Spectrometry IX . Proceedings of SPIE. 5159 : 299. Bibcode :2004SPIE.5159..299T. doi :10.1117/12.506993. S2CID  123123072.
  6. ^ アレール、グレゴワール (2008)。数値線形代数。スプリンガー。ISBN 978-0-387-34159-0
  7. ^ ホーン&ジョンソン 1985、p. 133、定理2.5.3
  8. ^ abcd Shores, Thomas S (2006). 「応用線形代数と行列解析」
  9. ^ ホーン&ジョンソン 1985、136ページ、補論2.5.11
  10. ^ Carl D. Meyer (2023).行列解析と応用線形代数(第2版). Society for Industrial and Applied Mathematics. ISBN 9781611977431
  11. ^ abcdef トレフェセン、ロイド N. ;バウ、デヴィッド (1997)。数値線形代数。サイアム。ISBN 978-0-89871-361-9
  12. ^ Ipsen, Ilse、および Rebecca M. Wills、「Google の PageRank の分析と計算」、2018 年 9 月 21 日にWayback Machineにアーカイブ、第 7 回 IMACS 国際科学計算反復法シンポジウム、フィールズ研究所、トロント、カナダ、2005 年 5 月 5 ~ 8 日。
  13. ^ クアルテローニ、アルフィオ;サッコ、リッカルド。サレリ、ファウスト (2000)。 「セクション5.8.2」。数値数学。スプリンガー。 p. 15.ISBN 978-0-387-98959-4
  14. ^ abc Bai、Z.;デメル、J.ドンガラ、J.ルーエ、A. Van Der Vorst、H. 編(2000年)。 「一般化エルミート固有値問題」。代数固有値問題の解決のためのテンプレート: 実践ガイド。フィラデルフィア:サイアム。ISBN 978-0-89871-471-5. 2010年8月21日時点のオリジナルよりアーカイブ2022年9月9日閲覧。
  15. ^ パーレット、ベレスフォード・N. (1998). 対称固有値問題(再版). フィラデルフィア: 産業応用数学協会. p. 345. doi :10.1137/1.9781611971163. ISBN 978-0-89871-402-9

参考文献

  • フランクリン、ジョエル・N. (1968). 『行列理論』 ドーバー出版. ISBN 978-0-486-41179-8
  • ホーン、ロジャー・A.; ジョンソン、チャールズ・R. (1985).マトリックス分析. ケンブリッジ大学出版局. ISBN 978-0-521-38632-6
  • ホーン、ロジャー・A.; ジョンソン、チャールズ・R. (1991). 『行列解析のトピックス』ケンブリッジ大学出版局. ISBN 978-0-521-46713-1
  • ストラング、G. (1998).線形代数入門(第3版). ウェルズリー・ケンブリッジ出版. ISBN 978-0-9614088-5-5
  • スペクトル分解のインタラクティブなプログラムとチュートリアル。
Retrieved from "https://en.wikipedia.org/w/index.php?title=Eigendecomposition_of_a_matrix&oldid=1310810815"