条件数

Function's sensitivity to argument change

数値解析において、関数の条件数は、入力引数の小さな変化に対して関数の出力値がどれだけ変化できるかを測定する指標です。これは、関数が入力の変化や誤差に対してどれだけ敏感であるか、また入力の誤差が出力にどれだけの誤差をもたらすかを測定するために用いられます。多くの場合、逆問題を解くことになります。つまり、xについて解く場合、 （局所）逆問題の条件数を使用する必要があります。^{[1] [2]} ${\displaystyle f(x)=y,}$

条件数は不確実性伝播理論から導かれ、入力の相対変化に対する出力の漸近的最悪ケース相対変化の値として正式に定義されます。「関数」は問題の解であり、「引数」は問題のデータです。条件数は線形代数の問題に頻繁に適用されます。この場合、微分は単純ですが誤差は様々な方向になる可能性があるため、行列の幾何学から計算されます。より一般的には、条件数は多変数の非線形関数に対して定義できます。

条件数の低い問題は良好条件であると言われ、条件数の高い問題は不良条件であると言われます。数学的な用語で言えば、不良条件の問題とは、入力（独立変数）の小さな変化に対して、答えまたは従属変数が大きく変化する問題です。つまり、方程式の正しい解/答えを見つけるのが難しくなります。条件数は問題の特性です。問題を解く、つまり解を計算するために使用できるアルゴリズムは、問題と対になって存在します。一部のアルゴリズムには後方安定性と呼ばれる特性があり、一般に後方安定アルゴリズムは良好条件の問題を正確に解くことが期待できます。数値解析の教科書には、問題の条件数の公式が示されており、既知の後方安定アルゴリズムが示されています。

経験則として、条件数が の場合、数値計算法による精度低下によって失われる精度に加えて、最大 桁の精度が失われる可能性があります。^[3]しかし、条件数はアルゴリズムで発生する可能性のある最大の不正確さの正確な値を与えるものではありません。一般的には、不正確さを測定するためのノルムの選択に応じて計算される推定値でその範囲を示すだけです。 ${\displaystyle \kappa (A)=10^{k}}$ ${\displaystyle k}$

行列

たとえば、線形方程式Ax  =  bに関連付けられた条件数は、近似後の解xの不正確さの上限を示します。これは、丸め誤差の影響が考慮される前であることに注意してください。条件付けは行列の特性であり、対応するシステムを解くために使用されるコンピュータのアルゴリズムや浮動小数点精度ではありません。特に、条件数は (非常に大まかに) bの変化に対する解x の変化率であると考える必要があります。したがって、条件数が大きい場合、bの小さな誤差でもxに大きな誤差が生じる可能性があります。一方、条件数が小さい場合、xの誤差はbの誤差ほど大きくはなりません。

条件数は、より正確には、xの相対誤差とbの相対誤差の最大比として定義されます。

e をbの誤差とする。Aが非特異行列であると仮定すると、解A −1 b の誤差はA ⁻¹ eと^なる。解の相対誤差とbの相対誤差の比は

${\displaystyle {\frac {\left\|A^{-1}e\right\|}{\left\|A^{-1}b\right\|}}/{\frac {\|e\|}{\|b\|}}={\frac {\left\|A^{-1}e\right\|}{\|e\|}}{\frac {\|b\|}{\left\|A^{-1}b\right\|}}.}$

最大値（bとeがゼロでない場合）は、次のように2つの演算子ノルムの積になります。

${\displaystyle {\begin{aligned}\max _{e,b\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}{\frac {\|b\|}{\left\|A^{-1}b\right\|}}\right\}&=\max _{e\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}\right\}\,\max _{b\neq 0}\left\{{\frac {\|b\|}{\left\|A^{-1}b\right\|}}\right\}\\&=\max _{e\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}\right\}\,\max _{x\neq 0}\left\{{\frac {\|Ax\|}{\|x\|}}\right\}\\&=\left\|A^{-1}\right\|\,\|A\|.\end{aligned}}}$

同じ定義は、任意の一貫した規範、すなわち以下を満たす 規範にも適用されます。

${\displaystyle \kappa (A)=\left\|A^{-1}\right\|\,\left\|A\right\|\geq \left\|A^{-1}A\right\|=1.}$

条件数がちょうど 1 の場合 ( A が線形等長変換のスカラー倍である場合にのみ発生します)、ソリューション アルゴリズムは (原則として、アルゴリズム自体にエラーがない場合)、データの精度よりも劣らないソリューションの近似値を見つけることができます。

しかし、これはアルゴリズムがこの解に急速に収束することを意味するのではなく、アルゴリズムによってもたらされる順方向誤差が中間の丸め誤差の蓄積によって同様に発散しない限り、ソースデータの不正確さ（逆方向誤差）によって任意に発散しないことを意味するだけです。^{[説明が必要]}

条件数は無限大になることもありますが、これは問題が不適切である（データの各選択に対して一意かつ明確に定義された解を持たない、つまり行列が逆行列ではない）ことを意味し、確実に解を見つけられるアルゴリズムは期待できません。

条件数の定義は、 2つの例で説明できるように、ノルムの選択によって異なります。

が（ベクトル）ユークリッドノルム（ L ²ノルムとも呼ばれ、通常は と表記される） によって誘導される行列ノルムである場合、 ${\displaystyle \|\cdot \|}$ ${\displaystyle \|\cdot \|_{2}}$

${\displaystyle \kappa (A)={\frac {\sigma _{\text{max}}(A)}{\sigma _{\text{min}}(A)}},}$

ここで、はそれぞれの最大値と最小の特異値である。したがって、 ${\displaystyle \sigma _{\text{max}}(A)}$ ${\displaystyle \sigma _{\text{min}}(A)}$ ${\displaystyle A}$

• が正規分布 の場合、 およびはそれぞれの最大固有値と最小固有値（モジュライによる）です。 ${\displaystyle A}$ $${\displaystyle \kappa (A)={\frac {\max\{\left|\lambda (A)\right|\}}{\min\{\left|\lambda (A)\right|\}}},}$$ ${\displaystyle \lambda _{\text{max}}(A)}$ ${\displaystyle \lambda _{\text{min}}(A)}$ ${\displaystyle A}$
• がユニタリであれば、 ${\displaystyle A}$ ${\displaystyle \kappa (A)=1.}$

L ²に関する条件数は数値線形代数で頻繁に出現するため、行列の条件数という名前が付けられています。

が（ベクトル）ノルムによって誘導される行列ノルム であり、が下三角非特異（すなわち、すべての に対して）である場合、 ${\displaystyle \|\cdot \|}$ ${\displaystyle L^{\infty }}$ ${\displaystyle A}$ ${\displaystyle a_{ii}\neq 0}$ ${\displaystyle i}$

${\displaystyle \kappa (A)\geq {\frac {\max _{i}{\big (}|a_{ii}|{\big )}}{\min _{i}{\big (}|a_{ii}|{\big )}}}}$

任意の三角行列の固有値は単純に対角要素であることを思い出してください。

このノルムで計算された条件数は、ユークリッド ノルムを基準にして計算された条件数よりも一般的に大きくなりますが、より簡単に評価できます (また、解くべき問題に非線形代数[^{説明が必要]}が含まれる場合、たとえば無理関数や超越関数または数を数値法で近似する場合など、実際に計算できる条件数はこれが唯一の条件数であることがよくあります)。

条件数が1より大幅に大きくない場合、行列は条件付き行列であり、その逆行列は良好な精度で計算できます。条件数が非常に大きい場合、行列は条件付き行列ではないと言われます。実際には、このような行列はほぼ特異行列であり、その逆行列、つまり線形連立方程式の解の計算は大きな数値誤差を生じやすくなります。

逆行列でない行列は、条件数が無限大であるとよく言われます。あるいは、 と定義することもできます。ここで、はムーア・ペンローズ擬逆行列です。正方行列の場合、残念ながら条件数は不連続になりますが、逆行列ではないものの連立方程式の定義に用いられる長方行列の場合は便利な定義です。 ${\displaystyle \kappa (A)=\|A\|\|A^{\dagger }\|}$ ${\displaystyle A^{\dagger }}$

非線形

条件数は非線形関数にも定義可能であり、微積分を用いて計算できます。条件数は点によって変化します。場合によっては、関数の領域または問題の領域における最大（または上限）条件数を全体の条件数として使用できますが、特定の点における条件数の方が重要な場合もあります。

1つの変数

1変数の微分可能関数の絶対条件数は、関数の導関数の絶対値です。 ${\displaystyle f}$

${\displaystyle \left|f'(x)\right|}$

関数としての の相対条件数は である。点で評価すると、これは ${\displaystyle f}$ ${\displaystyle \left|xf'/f\right|}$ ${\displaystyle x}$

${\displaystyle \left|{\frac {xf'(x)}{f(x)}}\right|=\left|{\frac {(\log f)'}{(\log x)'}}\right|.}$

これは経済学における関数の弾力性の絶対値であることに注意してください。

最も簡潔に言えば、これは の対数微分（ ）と の対数微分（ ）の比（絶対値）として理解でき、比 となります。これは、対数微分が関数の相対的変化の微小率であるためです。つまり、 の値でスケールされた微分です。関数が点でゼロを持つ場合、その点での条件数は無限大です。これは、入力の微小な変化によって出力がゼロから正または負に変化し、分母がゼロの比率、つまり相対的変化が無限大になる可能性があるためです。 ${\displaystyle f}$ ${\displaystyle (\log f)'=f'/f}$ ${\displaystyle x}$ ${\displaystyle (\log x)'=x'/x=1/x}$ ${\displaystyle xf'/f}$ ${\displaystyle f'}$ ${\displaystyle f}$

より直接的に言えば、の小さな変化に対しての相対的変化は であり、 の相対的変化はである。この比をとると、 ${\displaystyle \Delta x}$ ${\displaystyle x}$ ${\displaystyle x}$ ${\displaystyle [(x+\Delta x)-x]/x=(\Delta x)/x}$ ${\displaystyle f(x)}$ ${\displaystyle [f(x+\Delta x)-f(x)]/f(x)}$

${\displaystyle {\frac {[f(x+\Delta x)-f(x)]/f(x)}{(\Delta x)/x}}={\frac {x}{f(x)}}{\frac {f(x+\Delta x)-f(x)}{(x+\Delta x)-x}}={\frac {x}{f(x)}}{\frac {f(x+\Delta x)-f(x)}{\Delta x}}.}$

最後の項は差分商（割線の傾き）であり、極限を取ると導関数が得られます。

一般的な基本関数の条件数は、有効数字を計算する上で特に重要であり、導関数からすぐに計算できます。以下に重要なものをいくつか示します。

名前	シンボル	相対条件数
加算/減算	${\displaystyle x+a}$	${\displaystyle \left|{\frac {x}{x+a}}\right|}$
スカラー乗算	${\displaystyle ax}$	${\displaystyle 1}$
分割	${\displaystyle 1/x}$	${\displaystyle 1}$
多項式	${\displaystyle x^{n}}$	${\displaystyle |n|}$
指数関数	${\displaystyle e^{x}}$	${\displaystyle |x|}$
自然対数関数	${\displaystyle \ln(x)}$	${\displaystyle \left|{\frac {1}{\ln(x)}}\right|}$
正弦関数	${\displaystyle \sin(x)}$	${\displaystyle |x\cot(x)|}$
コサイン関数	${\displaystyle \cos(x)}$	${\displaystyle |x\tan(x)|}$
正接関数	${\displaystyle \tan(x)}$	${\displaystyle |x(\tan(x)+\cot(x))|}$
逆正弦関数	${\displaystyle \arcsin(x)}$	${\displaystyle {\frac {x}{{\sqrt {1-x^{2}}}\arcsin(x)}}}$
逆余弦関数	${\displaystyle \arccos(x)}$	${\displaystyle {\frac {|x|}{{\sqrt {1-x^{2}}}\arccos(x)}}}$
逆正接関数	${\displaystyle \arctan(x)}$	${\displaystyle {\frac {x}{(1+x^{2})\arctan(x)}}}$

いくつかの変数

条件数は、ある定義域（例えば、実数の -組）からある余領域（例えば、実数の -組）へデータを写像する任意の関数に対して定義できます。この場合、定義域と余領域は両方ともバナッハ空間です。条件数は、その関数が引数の小さな変化（または小さな誤差）に対してどれほど敏感であるかを表します。これは、多項式の根を求める、あるいは固有値を計算するといった、多くの計算問題における感度や潜在的な精度の問題を評価する上で非常に重要です。 ${\displaystyle f}$ ${\displaystyle m}$ ${\displaystyle x}$ ${\displaystyle n}$ ${\displaystyle f(x)}$

ある点における の条件数（具体的には相対条件数^[4] ）は、の変化が無限小になる極限において、の分数変化と の任意の分数変化の比の最大値として定義される。 ^[4] ${\displaystyle f}$ ${\displaystyle x}$ ${\displaystyle f(x)}$ ${\displaystyle x}$ ${\displaystyle \delta x}$ ${\displaystyle x}$

${\displaystyle \lim _{\varepsilon \to 0^{+}}\sup _{\|\delta x\|\leq \varepsilon }\left[\left.{\frac {\left\|f(x+\delta x)-f(x)\right\|}{\|f(x)\|}}\right/{\frac {\|\delta x\|}{\|x\|}}\right],}$

ここで は のドメイン/コドメイン上のノルムです。 ${\displaystyle \|\cdot \|}$ ${\displaystyle f}$

が微分可能な場合、これは次と等価である: ^[4] ${\displaystyle f}$

${\displaystyle {\frac {\|J(x)\|}{\|f(x)\|/\|x\|}},}$

ここで、 ⁠ ⁠ ${\displaystyle J(x)}$はにおける の偏微分のヤコビ行列を表し、 は行列の誘導ノルムです。 ${\displaystyle f}$ ${\displaystyle x}$ ${\displaystyle \|J(x)\|}$

参照

• 線形最小二乗法の数値解析
• 数値安定性
• ヒルベルト行列
• 不適切問題
• 特異値
• ウィルソン行列

参考文献

1. ベルズリー、デイビッド・A.、クー、エドウィン、ウェルシュ、ロイ・E. (1980). 「条件数」.回帰診断：影響力のあるデータと共線性の原因の特定. ニューヨーク：ジョン・ワイリー・アンド・サンズ. pp.  100– 104. ISBN 0-471-05856-4。
2. Pesaran, M. Hashem (2015). 「多重共線性問題」.時系列とパネルデータ計量経済学. ニューヨーク: オックスフォード大学出版局. pp. 67–72 [p. 70]. ISBN 978-0-19-875998-0。
3. チェイニー、キンケイド (2008). 数値数学とコンピューティング. Cengage Learning. p. 321. ISBN 978-0-495-11475-8。
4. Trefethen, LN; Bau, D. (1997). 数値線形代数. SIAM. ISBN 978-0-89871-361-9。

さらに読む

• デメル、ジェームズ(1990). 「最近傍欠陥行列と不良条件の幾何学」. コックス, MG; ハマーリング, S. (編). 『信頼性の高い数値計算』. オックスフォード: クラレンドン・プレス. pp.  35– 55. ISBN 0-19-853564-3。
• ルートヴィヒ、オズワルド (2025). 「ニューラルユニットにおける情報符号化のスケール不変プロキシとしての条件数」arXiv : 2506.16289 [stat.ML].

外部リンク

• Holistic Numerical Methods Instituteにおける行列の条件数
• 条件数を決定するMATLABライブラリ関数
• 条件数 – 数学百科事典
• 行列条件数を発明したのは誰か？ ニック・ハイアム著

Retrieved from "https://en.wikipedia.org/w/index.php?title=Condition_number&oldid=1318456733"