Covariance and correlation
畳み込み 、相互相関、 自己相関 の視覚的な比較。関数 f に関する演算において 、 f の高さを1.0と仮定すると、5つの異なる点における結果の値は、各点の下の網掛け部分で示されます。また、 f の垂直対称性がその理由であり 、 この例では f と f は同一です。 f ∗ g {\displaystyle f*g} f ⋆ g {\displaystyle f\star g} 信号処理 において 、 相互相関は、2 つの系列の 類似性を、 一方の系列から他方の系列への変位の関数として表す尺度 です。これは、 スライディング ドット積 または スライディング インナー プロダクト とも呼ばれます。これは、長い信号からより短い既知の特徴を探す場合によく使用されます。 パターン認識 、 単粒子分析 、 電子トモグラフィー 、 平均化 、 暗号解読 、 神経生理学 などで応用されています。相互相関は、2 つの関数の 畳み込み と性質が似ています。信号と信号自身の相互相関である 自己相関 では、常に遅延が 0 のところにピークがあり、そのサイズが信号エネルギーになります。
確率論 と 統計学 において、 相互相関 という用語は、2つの ランダムベクトル と の要素間の 相関 を指します 。一方、 ランダムベクトル の 相関 は、 自身の要素間の相関 、つまり の 相関行列 を形成する要素間の相関です。 と のそれぞれが、時系列 で繰り返し実現されるスカラーランダム変数である場合 、 の さまざま な時間的インスタンスの相関は の 自己相関 と呼ばれ、 と の時間にわたる 相互相関 は時間的相互相関と呼ばれます。確率論と統計学において、相関の定義には常に標準化係数が含まれ、相関は -1 から +1 までの値を持ちます。 X {\displaystyle \mathbf {X} } Y {\displaystyle \mathbf {Y} } X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} } Y {\displaystyle \mathbf {Y} } X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} } Y {\displaystyle \mathbf {Y} }
と がそれぞれ 確率密度関数 と を持つ 2つの 独立した 確率変数 である場合 、差の確率密度は （信号処理の意味で）相互相関 によって正式に与えられる 。しかし、この用語は確率論や統計学では用いられない。対照的に、 畳み込み （と の相互相関に相当 ）は、和 の確率密度関数を与える 。 X {\displaystyle X} Y {\displaystyle Y} f {\displaystyle f} g {\displaystyle g} Y − X {\displaystyle Y-X} f ⋆ g {\displaystyle f\star g} f ∗ g {\displaystyle f*g} f ( − t ) ¯ {\displaystyle {\overline {f(-t)}}} g ( t ) {\displaystyle g(t)} X + Y {\displaystyle X+Y}
決定論的信号の相互相関 連続関数およびに対して 、 相互相関は次のように定義されます。 [1] [2] [3] これは と等価です。 ここで は の 複素共役 を表し 、 は 変位 または 遅れ と呼ばれます 。 f {\displaystyle f} g {\displaystyle g} ( f ⋆ g ) ( τ ) ≜ ∫ − ∞ ∞ f ( t ) ¯ g ( t + τ ) d t {\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t)}}g(t+\tau )\,dt} ( f ⋆ g ) ( τ ) ≜ ∫ − ∞ ∞ f ( t − τ ) ¯ g ( t ) d t {\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t-\tau )}}g(t)\,dt} f ( t ) ¯ {\displaystyle {\overline {f(t)}}} f ( t ) {\displaystyle f(t)} τ {\displaystyle \tau }
特定の で最大の相互相関を持つ と の 相関が高い場合 、 における の特徴は において も後で発生するため 、 は だけ 遅れて いる と言えます 。 f {\displaystyle f} g {\displaystyle g} τ {\displaystyle \tau } f {\displaystyle f} t {\displaystyle t} g {\displaystyle g} t + τ {\displaystyle t+\tau } g {\displaystyle g} f {\displaystyle f} τ {\displaystyle \tau }
と が 両方とも周期 の連続周期関数である 場合、 から へ の積分は、 長さ の任意の 区間での積分に置き換えられます 。 これは、 と同等です 。同様に、離散関数の場合、相互相関は次のように定義されます。 [4] [5] これは、次と同等です。 有限離散関数の場合 、（循環）相互相関は次のように定義されます。 [6] これは、次と同等です。 有限離散関数、の場合 、 カーネル相互相関は次のように定義されます。 [7] ここで 、 はカーネル関数のベクトル 、は アフィン変換 です 。 f {\displaystyle f} g {\displaystyle g} T {\displaystyle T} − ∞ {\displaystyle -\infty } ∞ {\displaystyle \infty } [ t 0 , t 0 + T ] {\displaystyle [t_{0},t_{0}+T]} T {\displaystyle T} ( f ⋆ g ) ( τ ) ≜ ∫ t 0 t 0 + T f ( t ) ¯ g ( t + τ ) d t {\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t)}}g(t+\tau )\,dt} ( f ⋆ g ) ( τ ) ≜ ∫ t 0 t 0 + T f ( t − τ ) ¯ g ( t ) d t {\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t-\tau )}}g(t)\,dt} ( f ⋆ g ) [ n ] ≜ ∑ m = − ∞ ∞ f [ m ] ¯ g [ m + n ] {\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m]}}g[m+n]} ( f ⋆ g ) [ n ] ≜ ∑ m = − ∞ ∞ f [ m − n ] ¯ g [ m ] {\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m-n]}}g[m]} f , g ∈ C N {\displaystyle f,g\in \mathbb {C} ^{N}} ( f ⋆ g ) [ n ] ≜ ∑ m = 0 N − 1 f [ m ] ¯ g [ ( m + n ) mod N ] {\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}g[(m+n)_{{\text{mod}}~N}]} ( f ⋆ g ) [ n ] ≜ ∑ m = 0 N − 1 f [ ( m − n ) mod N ] ¯ g [ m ] {\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[(m-n)_{{\text{mod}}~N}]}}g[m]} f ∈ C N {\displaystyle f\in \mathbb {C} ^{N}} g ∈ C M {\displaystyle g\in \mathbb {C} ^{M}} ( f ⋆ g ) [ n ] ≜ ∑ m = 0 N − 1 f [ m ] ¯ K g [ ( m + n ) mod N ] {\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}K_{g}[(m+n)_{{\text{mod}}~N}]} K g = [ k ( g , T 0 ( g ) ) , k ( g , T 1 ( g ) ) , … , k ( g , T N − 1 ( g ) ) ] {\displaystyle K_{g}=[k(g,T_{0}(g)),k(g,T_{1}(g)),\dots ,k(g,T_{N-1}(g))]} k ( ⋅ , ⋅ ) : C M × C M → R {\displaystyle k(\cdot ,\cdot )\colon \mathbb {C} ^{M}\times \mathbb {C} ^{M}\to \mathbb {R} } T i ( ⋅ ) : C M → C M {\displaystyle T_{i}(\cdot )\colon \mathbb {C} ^{M}\to \mathbb {C} ^{M}}
具体的には、 円運動、回転、スケールなどの変換が考えられます。カーネル相互相関は、線形空間からカーネル空間へと相互相関を拡張します。相互相関は運動と等変であり、カーネル相互相関は運動、回転、スケールなどのあらゆるアフィン変換と等変です。 T i ( ⋅ ) {\displaystyle T_{i}(\cdot )}
説明 例として、 x軸に沿った未知のシフト量のみが異なる2つの実数値関数 とを考えてみましょう。相互相関を用いることで 、x軸に沿ってどれだけシフトすれば と一致するかを求めることができます 。この式は基本的に、 関数をx軸に沿ってスライドさせ、各位置における積の積分を計算します。関数が一致すると、 の値が 最大化されます。これは、山（正の領域）が揃っていると、積分に大きく寄与するからです。同様に、谷（負の領域）が揃っていると、2つの負の数の積は正となるため、積分に正の寄与をします。 f {\displaystyle f} g {\displaystyle g} g {\displaystyle g} f {\displaystyle f} g {\displaystyle g} ( f ⋆ g ) {\displaystyle (f\star g)}
相互相関の計算方法を示すアニメーション。左のグラフは、関数 F に対して時間変位 𝜏 だけ位相シフトした緑色の関数 G を示しています。中央のグラフは、関数 F と位相シフトした G を リサージュ曲線 で表したものです。F と位相シフトした G を積分すると、右のグラフ、つまり 𝜏 のすべての値にわたる相互相関が得られます。 複素数値関数 およびでは 、 の 共役 を取ることで、 虚数成分を持つ整列したピーク（または整列した谷）が積分にプラスに寄与することが保証されます。 f {\displaystyle f} g {\displaystyle g} f {\displaystyle f}
計量経済学 では 、ラグド相互相関は相互自己相関と呼ばれることもあります。 [8] ：p.74
プロパティ 関数と 関数の相互相関は、関数と 関数の 畳み込み （ と表記 ） と同等です 。つまり、 f ( t ) {\displaystyle f(t)} g ( t ) {\displaystyle g(t)} ∗ {\displaystyle *} f ( − t ) ¯ {\displaystyle {\overline {f(-t)}}} g ( t ) {\displaystyle g(t)} [ f ( t ) ⋆ g ( t ) ] ( t ) = [ f ( − t ) ¯ ∗ g ( t ) ] ( t ) . {\displaystyle [f(t)\star g(t)](t)=[{\overline {f(-t)}}*g(t)](t).} [ f ( t ) ⋆ g ( t ) ] ( t ) = [ g ( t ) ¯ ⋆ f ( t ) ¯ ] ( − t ) . {\displaystyle [f(t)\star g(t)](t)=[{\overline {g(t)}}\star {\overline {f(t)}}](-t).} がエルミート関数 である 場合 、 f {\displaystyle f} f ⋆ g = f ∗ g . {\displaystyle f\star g=f*g.} と が両方ともエルミートである 場合 、 となります 。 f {\displaystyle f} g {\displaystyle g} f ⋆ g = g ⋆ f {\displaystyle f\star g=g\star f} ( f ⋆ g ) ⋆ ( f ⋆ g ) = ( f ⋆ f ) ⋆ ( g ⋆ g ) {\displaystyle \left(f\star g\right)\star \left(f\star g\right)=\left(f\star f\right)\star \left(g\star g\right)} 。 畳み込み定理 と同様に 、相互相関は次式を満たす。 F { f ⋆ g } = F { f } ¯ ⋅ F { g } , {\displaystyle {\mathcal {F}}\left\{f\star g\right\}={\overline {{\mathcal {F}}\left\{f\right\}}}\cdot {\mathcal {F}}\left\{g\right\},} ここで は フーリエ変換 を表し 、 は の複素共役を表します 。これは であるためです 。 高速フーリエ変換 アルゴリズムと組み合わせることで、この特性は相互相関の効率的な数値計算によく利用されます [9] （ 円相互相関 を 参照）。 F {\displaystyle {\mathcal {F}}} f ¯ {\displaystyle {\overline {f}}} f {\displaystyle f} F { f ( − t ) ¯ } = F { f ( t ) } ¯ {\displaystyle {\mathcal {F}}\left\{{\overline {f(-t)}}\right\}={\overline {{\mathcal {F}}\left\{f(t)\right\}}}} 相互相関は スペクトル密度 と関連しています（ ウィーナー・ヒンチンの定理を 参照）。 関数と の 畳み込み の相互相関は、 カーネルと の 相互相関の畳み込みです 。 f {\displaystyle f} h {\displaystyle h} g {\displaystyle g} g {\displaystyle g} f {\displaystyle f} h {\displaystyle h} g ⋆ ( f ∗ h ) = ( g ⋆ f ) ∗ h {\displaystyle g\star \left(f*h\right)=\left(g\star f\right)*h} 。
ランダムベクトルの相互相関
意味 期待値 と 分散が 存在する ランダム要素 を 含む ランダムベクトル と について、 と の 相互相関行列 は [10] : p.337 で定義され 、 次元は である 。成分ごとに記述すると、 ランダムベクトル と は 同じ次元である必要はなく、どちらもスカラー値である可能性がある。 は 期待値 である 。 X = ( X 1 , … , X m ) {\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})} Y = ( Y 1 , … , Y n ) {\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})} X {\displaystyle \mathbf {X} } Y {\displaystyle \mathbf {Y} } R X Y ≜ E [ X Y ] {\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {Y} \right]} m × n {\displaystyle m\times n} R X Y = [ E [ X 1 Y 1 ] E [ X 1 Y 2 ] ⋯ E [ X 1 Y n ] E [ X 2 Y 1 ] E [ X 2 Y 2 ] ⋯ E [ X 2 Y n ] ⋮ ⋮ ⋱ ⋮ E [ X m Y 1 ] E [ X m Y 2 ] ⋯ E [ X m Y n ] ] {\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\operatorname {E} [X_{1}Y_{1}]&\operatorname {E} [X_{1}Y_{2}]&\cdots &\operatorname {E} [X_{1}Y_{n}]\\\\\operatorname {E} [X_{2}Y_{1}]&\operatorname {E} [X_{2}Y_{2}]&\cdots &\operatorname {E} [X_{2}Y_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\operatorname {E} [X_{m}Y_{1}]&\operatorname {E} [X_{m}Y_{2}]&\cdots &\operatorname {E} [X_{m}Y_{n}]\end{bmatrix}}} X {\displaystyle \mathbf {X} } Y {\displaystyle \mathbf {Y} } E {\displaystyle \operatorname {E} }
例 たとえば、 と が ランダムベクトルである場合、 は 番目 の要素が である行列 になります 。 X = ( X 1 , X 2 , X 3 ) {\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)} Y = ( Y 1 , Y 2 ) {\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)} R X Y {\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }} 3 × 2 {\displaystyle 3\times 2} ( i , j ) {\displaystyle (i,j)} E [ X i Y j ] {\displaystyle \operatorname {E} [X_{i}Y_{j}]}
複素ランダムベクトルの定義 および が 複素乱数ベクトル で、それぞれに期待値と分散が存在する乱数変数が含まれる場合、 および の相互相関行列 は で定義されます。 ここで、 は エルミート転置 を 表します 。 Z = ( Z 1 , … , Z m ) {\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{m})} W = ( W 1 , … , W n ) {\displaystyle \mathbf {W} =(W_{1},\ldots ,W_{n})} Z {\displaystyle \mathbf {Z} } W {\displaystyle \mathbf {W} } R Z W ≜ E [ Z W H ] {\displaystyle \operatorname {R} _{\mathbf {Z} \mathbf {W} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {W} ^{\rm {H}}]} H {\displaystyle {}^{\rm {H}}}
確率過程の相互相関 時系列解析 および 統計 において 、2つの ランダムプロセス の相互相関とは、異なる時刻におけるプロセスの値の相関を、2つの時刻の関数として表すものです。 を 2つのランダムプロセス、 を 任意の時点（ 離散時間 プロセス の 場合は 整数、 連続時間 プロセスの場合は 実数 ）とします。この場合、 は 時刻 におけるプロセスの特定の実行によって生成される 値（または 実現 値）です。 ( X t , Y t ) {\displaystyle (X_{t},Y_{t})} t {\displaystyle t} t {\displaystyle t} X t {\displaystyle X_{t}} t {\displaystyle t}
相互相関関数 プロセスが 時刻 において 、各 について平均 と 、分散 と を 持つと仮定する。この場合、時刻 と の 間の相互相関の定義は [10] : p.392 で示される。 ここでは 期待値 演算子である 。この式は定義されない場合があることに注意されたい。 μ X ( t ) {\displaystyle \mu _{X}(t)} μ Y ( t ) {\displaystyle \mu _{Y}(t)} σ X 2 ( t ) {\displaystyle \sigma _{X}^{2}(t)} σ Y 2 ( t ) {\displaystyle \sigma _{Y}^{2}(t)} t {\displaystyle t} t {\displaystyle t} t 1 {\displaystyle t_{1}} t 2 {\displaystyle t_{2}} R X Y ( t 1 , t 2 ) ≜ E [ X t 1 Y t 2 ¯ ] {\displaystyle \operatorname {R} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[X_{t_{1}}{\overline {Y_{t_{2}}}}\right]} E {\displaystyle \operatorname {E} }
相互共分散関数 乗算の前に平均を引くと、時間と 間の相互共分散が得られます 。 [10] : p.392 平均や分散が存在しない可能性があるため、この式はすべての時系列またはプロセスに対して明確に定義されているわけではないことに注意してください。 t 1 {\displaystyle t_{1}} t 2 {\displaystyle t_{2}} K X Y ( t 1 , t 2 ) ≜ E [ ( X t 1 − μ X ( t 1 ) ) ( Y t 2 − μ Y ( t 2 ) ) ¯ ] {\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[\left(X_{t_{1}}-\mu _{X}(t_{1})\right){\overline {(Y_{t_{2}}-\mu _{Y}(t_{2}))}}\right]}
広義定常確率過程の定義 広義定常で ある 確率過程 のペアを とします 。このとき、 相互共分散関数 と相互相関関数は以下のように与えられます。 ( X t , Y t ) {\displaystyle (X_{t},Y_{t})}
相互相関関数 R X Y ( τ ) ≜ E [ X t Y t + τ ¯ ] {\displaystyle \operatorname {R} _{XY}(\tau )\triangleq \ \operatorname {E} \left[X_{t}{\overline {Y_{t+\tau }}}\right]} または同等 R X Y ( τ ) = E [ X t − τ Y t ¯ ] {\displaystyle \operatorname {R} _{XY}(\tau )=\operatorname {E} \left[X_{t-\tau }{\overline {Y_{t}}}\right]}
相互共分散関数 K X Y ( τ ) ≜ E [ ( X t − μ X ) ( Y t + τ − μ Y ) ¯ ] {\displaystyle \operatorname {K} _{XY}(\tau )\triangleq \ \operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]} または、同様に 、 と は それぞれ プロセス の平均と標準偏差であり 、定常性により時間の経過とともに一定です。 についても同様に 、は 期待値 を示します 。相互共分散と相互相関が から独立しているということは、 が 全体 として広義の定常である という要件によってもたらされる追加情報（個々に広義の定常であることを超えて）です 。 K X Y ( τ ) = E [ ( X t − τ − μ X ) ( Y t − μ Y ) ¯ ] {\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {E} \left[\left(X_{t-\tau }-\mu _{X}\right){\overline {\left(Y_{t}-\mu _{Y}\right)}}\right]} μ X {\displaystyle \mu _{X}} σ X {\displaystyle \sigma _{X}} ( X t ) {\displaystyle (X_{t})} ( Y t ) {\displaystyle (Y_{t})} E [ ] {\displaystyle \operatorname {E} [\ ]} t {\displaystyle t} ( X t , Y t ) {\displaystyle (X_{t},Y_{t})}
広義定常確率 過程 のペアの相互相関は、 一方の過程から測定されたサンプルと他方の過程から測定されたサンプル（およびその時間シフト）の積を平均化することで推定できます。平均に含まれるサンプルは、信号に含まれるすべてのサンプルの任意のサブセット（例えば、有限の時間ウィンドウ内のサンプル、または一方の信号の サブサンプリング （ どちら？ ） ）です。サンプル数が多い場合、平均は真の相互相関に収束します。
正規化 一部の分野（例えば統計学や時系列解析）では、時間依存の ピアソン相関係数 を得るために相互相関関数を正規化すること が一般的です 。しかし、他の分野（例えば工学）では、正規化は通常省略され、「相互相関」と「相互共分散」という用語が同じ意味で使用されます。
確率過程の正規化された相互相関の定義は、 関数が 明確に定義されている場合、その値は の範囲内にある必要があり 、1 は完全な相関を示し、-1 は完全な 反相関 を示します。 ρ X X ( t 1 , t 2 ) = K X X ( t 1 , t 2 ) σ X ( t 1 ) σ X ( t 2 ) = E [ ( X t 1 − μ t 1 ) ( X t 2 − μ t 2 ) ¯ ] σ X ( t 1 ) σ X ( t 2 ) {\displaystyle \rho _{XX}(t_{1},t_{2})={\frac {\operatorname {K} _{XX}(t_{1},t_{2})}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}={\frac {\operatorname {E} \left[\left(X_{t_{1}}-\mu _{t_{1}}\right){\overline {\left(X_{t_{2}}-\mu _{t_{2}}\right)}}\right]}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}} ρ X X {\displaystyle \rho _{XX}} [ − 1 , 1 ] {\displaystyle [-1,1]}
共同広義定常確率過程の場合、定義は、 自己相関を相関として解釈することで、 統計的依存性 の強さのスケールフリーな尺度が得られるため、また正規化が推定された自己相関の統計的特性に影響を及ぼすため、正規化は重要である。 ρ X Y ( τ ) = K X Y ( τ ) σ X σ Y = E [ ( X t − μ X ) ( Y t + τ − μ Y ) ¯ ] σ X σ Y {\displaystyle \rho _{XY}(\tau )={\frac {\operatorname {K} _{XY}(\tau )}{\sigma _{X}\sigma _{Y}}}={\frac {\operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]}{\sigma _{X}\sigma _{Y}}}}
プロパティ
対称性 広義定常確率過程の相互相関関数は次の対称性を持つ: [11] : p.173 広義定常確率過程の相互相関関数は次の対称性を持つ: [11] : p.173 広義定常確率過程の相互相関関数は次の対称性を持つ: R X Y ( t 1 , t 2 ) = R Y X ( t 2 , t 1 ) ¯ {\displaystyle \operatorname {R} _{XY}(t_{1},t_{2})={\overline {\operatorname {R} _{YX}(t_{2},t_{1})}}} R X Y ( τ ) = R Y X ( − τ ) ¯ {\displaystyle \operatorname {R} _{XY}(\tau )={\overline {\operatorname {R} _{YX}(-\tau )}}}
時間遅延解析 相互相関は、2つの信号間の時間遅延を決定するのに役立ちます。例えば、マイクロホンアレイを横切る音響信号の伝播の時間遅延を決定するのに役立ちます。 [12] [13] [ 説明が必要 ] 2つの信号間の相互相関を計算した後、相互相関関数の最大値（信号が負の相関の場合は最小値）は、信号が最もよく揃う時点を示します。つまり、2つの信号間の時間遅延は、 画像処理用語 にあるように、最大値の引数、つまり相互相関の arg maxによって決定されます。 τ d e l a y = a r g m a x t ∈ R ( ( f ⋆ g ) ( t ) ) {\displaystyle \tau _{\mathrm {delay} }={\underset {t\in \mathbb {R} }{\operatorname {arg\,max} }}((f\star g)(t))}
ゼロ正規化相互相関（ZNCC） 画像とテンプレートの明るさが照明や露出条件によって変化する 画像処理 アプリケーションでは、まず画像を正規化することができます。これは通常、各ステップで平均値を減算し、 標準偏差 で割ることで行われます。つまり、テンプレートとサブ画像 の相互相関 は t ( x , y ) {\displaystyle t(x,y)} f ( x , y ) {\displaystyle f(x,y)}
1 n σ f σ t ∑ x , y ( f ( x , y ) − μ f ) ( t ( x , y ) − μ t ) {\displaystyle {\frac {1}{n\sigma _{f}\sigma _{t}}}\sum _{x,y}\left(f(x,y)-\mu _{f}\right)\left(t(x,y)-\mu _{t}\right)}
ここで、 は のピクセル数 、 は の平均 、 は の 標準偏差 です。 n {\displaystyle n} t ( x , y ) {\displaystyle t(x,y)} f ( x , y ) {\displaystyle f(x,y)} μ f {\displaystyle \mu _{f}} f {\displaystyle f} σ f {\displaystyle \sigma _{f}} f {\displaystyle f}
関数解析の 用語で言えば、これは2つの 正規化されたベクトル の内積と考えることができます 。つまり、 かつ ならば、 上記 の和は に等しくなります。 ここで は 内積 、 は L² ノルム です。 コーシー・シュワルツの 法則により、ZNCCの値域は となります 。 F ( x , y ) = f ( x , y ) − μ f {\displaystyle F(x,y)=f(x,y)-\mu _{f}} T ( x , y ) = t ( x , y ) − μ t {\displaystyle T(x,y)=t(x,y)-\mu _{t}} ⟨ F ‖ F ‖ , T ‖ T ‖ ⟩ {\displaystyle \left\langle {\frac {F}{\|F\|}},{\frac {T}{\|T\|}}\right\rangle } ⟨ ⋅ , ⋅ ⟩ {\displaystyle \langle \cdot ,\cdot \rangle } ‖ ⋅ ‖ {\displaystyle \|\cdot \|} [ − 1 , 1 ] {\displaystyle [-1,1]}
したがって、 と が実行行列である場合、それらの正規化された相互相関は、単位ベクトル と の間の角度の余弦に等しくなります。 したがって、は に正のスカラーを乗じた 値に等しい 場合にのみ 等しくなります。 f {\displaystyle f} t {\displaystyle t} F {\displaystyle F} T {\displaystyle T} 1 {\displaystyle 1} F {\displaystyle F} T {\displaystyle T}
正規化相関は、画像内のパターンやオブジェクトのインスタンスを見つけるためのプロセスであるテンプレートマッチング で使用される手法の1つです。また、 ピアソンの積率相関係数 の2次元バージョンでもあります 。
正規化相互相関（NCC） NCC は ZNCC に似ていますが、強度の局所平均値を減算しないという点が異なります。 1 n σ f σ t ∑ x , y f ( x , y ) t ( x , y ) {\displaystyle {\frac {1}{n\sigma _{f}\sigma _{t}}}\sum _{x,y}f(x,y)t(x,y)}
非線形システム 非線形システムにおいてガウス分散を仮定する相互相関関数を使用する際には注意が必要です。入力の特性に依存する特定の状況では、非線形ダイナミクスを持つシステムの入力と出力間の相互相関は、特定の非線形効果を完全に無視する可能性があります。 [14] この問題は、一部の二次モーメントがゼロになることがあり、実際には2つの信号が非線形ダイナミクスによって強く関連しているにもかかわらず、2つの信号間に「相関」（統計的依存性の意味で）がほとんどないと誤って示唆される可能性があるために発生します。
参照
参考文献 ^ Bracewell, R.「相互相関のためのペンタグラム表記法」フーリエ変換とその応用ニューヨーク：McGraw-Hill、46～243ページ、1965年。 ^ Papoulis, A. 『フーリエ積分とその応用』ニューヨーク：McGraw-Hill、pp. 244-245, 252-253, 1962年。 ^ Weisstein, Eric W. 「相互相関」 MathWorld（Wolfram Webリソース）より http://mathworld.wolfram.com/Cross-Correlation.html ^ Rabiner, LR; Schafer, RW (1978). 音声信号のデジタル処理 . 信号処理シリーズ. アッパーサドルリバー, ニュージャージー: Prentice Hall. pp. 147–148. ISBN 0132136031 。 ^ ラビナー、ローレンス・R.; ゴールド、バーナード (1975). デジタル信号処理の理論と応用 . イングルウッド・クリフス、ニュージャージー州: プレンティス・ホール. pp. 401. ISBN 0139141014 。 ^ Wang, Chen (2019). 視覚知覚のためのカーネル学習、第2.2.1章 （博士論文）. 南洋理工大学、シンガポール. pp. 17–18. doi : 10.32657/10220/47835 . hdl : 10356/105527 . ^ Wang, Chen; Zhang, Le; Yuan, Junsong; Xie, Lihua (2018). 「カーネルクロスコレレータ」. AAAI人工知能会議議事録 . 第32回AAAI人工知能会議. 32. 人工知能振興協会: 4179–4186 . doi : 10.1609/aaai.v32i1.11710 . S2CID 3544911. ^ キャンベル、ロー、マッキンレイ (1996). 『金融市場の計量経済学 』 ニュージャージー州: プリンストン大学出版局. ISBN 0691043019 。 ^ Kapinchev, Konstantin; Bradu, Adrian; Barnes, Frederick; Podoleanu, Adrian (2015). 「リアルタイム画像生成のための相互相関のGPU実装」 2015年第9回国際信号処理・通信システム会議 (ICSPCS) . pp. 1– 6. doi :10.1109/ICSPCS.2015.7391783. ISBN 978-1-4673-8118-5 . S2CID 17108908。 ^ abc Gubner, John A. (2006). 電気・コンピュータエンジニアのための確率とランダムプロセス . Cambridge University Press. ISBN 978-0-521-86470-1 。 ^ クン・イル・パーク『確率過程の基礎と通信への応用』シュプリンガー、2018年、978-3-319-68074-3 ^ Rhudy, Matthew; Brian Bucci; Jeffrey Vipperman; Jeffrey Allanach; Bruce Abraham (2009年11月). 相互相関を用いたマイクロフォンアレイ解析法 . 2009 ASME国際機械工学会議論文集, Lake Buena Vista, FL. pp. 281– 288. doi :10.1115/IMECE2009-10798. ISBN 978-0-7918-4388-8 。 ^ Rhudy, Matthew (2009年11月). 軍事インパルス分類器のリアルタイム実装 (修士論文). ピッツバーグ大学. ^ Billings, SA (2013). 非線形システム同定：時間、周波数、時空間領域におけるNARMAX法 . Wiley. ISBN 978-1-118-53556-1 。
さらに読む Tahmasebi, Pejman; Hezarkhani, Ardeshir; Sahimi, Muhammad (2012). 「相互相関関数に基づく多点地統計モデリング」. 計算地球科学 . 16 (3): 779– 797. Bibcode :2012CmpGe..16..779T. doi :10.1007/s10596-012-9287-1. S2CID 62710397.
外部リンク Mathworldの相互相関 http://scribblethink.org/Work/nvisionInterface/nip.html http://www.staff.ncl.ac.uk/oliver.hinton/eee305/Chapter6.pdf
![{\displaystyle [t_{0},t_{0}+T]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/42861c0e088bf0086b4c7ca5bbd5c05f5b625955)
![{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m]}}g[m+n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7ae7436d14af449d42157c82e157f60fa895617f)
![{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[mn]}}g[m]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1e2f1b1ff6554ad1d13c74259ba020f6073de03e)
![{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}g[(m+n)_{{\text{mod}}~N}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4fd4e6fb030aa161b54e49a378264cd3f2a1a469)
![{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[(mn)_{{\text{mod}}~N}]}}g[m]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a7bbedcb034c4c3c58d19f479d622d01b044387b)
![{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}K_{g}[(m+n)_{{\text{mod}}~N}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/061dbe28fd5a202b73d4c3b67b711c90acb794d7)
![{\displaystyle K_{g}=[k(g,T_{0}(g)),k(g,T_{1}(g)),\dots ,k(g,T_{N-1}(g))]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7840b890e6b1c966eda471075b71ea4872ebbdc7)
=[{\overline {f(-t)}}*g(t)](t).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/42bba62c30eba9816006d62139738eada9042b6b)
=[{\overline {g(t)}}\star {\overline {f(t)}}](-t).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/beaed12f1c40290fe0d5f85074565b67101b2b06)
![{\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {Y} \right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/52e05c6dc5d69cbfb2da8703d27f6e1b0b274374)
![{\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\operatorname {E} [X_{1}Y_{1}]&\operatorname {E} [X_{1}Y_{2}]&\cdots &\operatorname {E} [X_{1}Y_{n}]\\\\\operatorname {E} [X_{2}Y_{1}]&\オペレーター名 {E} [X_{2}Y_{2}]&\cdots &\オペレーター名 {E} [X_{2}Y_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\オペレーター名 {E} [X_{m}Y_{1}]&\オペレーター名 {E} [X_{m}Y_{2}]&\cdots &\operatorname {E} [X_{m}Y_{n}]\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/742e24fd35f55178322a662313679ef3dfdea0a3)
![{\displaystyle \operatorname {E} [X_{i}Y_{j}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e511d6ea021c2d4b0579f621faec897ec52a1999)
![{\displaystyle \operatorname {R} _{\mathbf {Z} \mathbf {W} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {W} ^{\rm {H}}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b96a25804b6f71adb2dd4366a18cc65e96553d88)
![{\displaystyle \operatorname {R} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[X_{t_{1}}{\overline {Y_{t_{2}}}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1e6c49fd6a80159006028664b00760b503b0f561)
![{\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[\left(X_{t_{1}}-\mu _{X}(t_{1})\right){\overline {(Y_{t_{2}}-\mu _{Y}(t_{2}))}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b202f0ccc8691a4d40dd8d4c98fa0f53388716dc)
![{\displaystyle \operatorname {R} _{XY}(\tau )\triangleq \ \operatorname {E} \left[X_{t}{\overline {Y_{t+\tau }}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5b171fee784670f0dac44d562d19e13bb97888e3)
![{\displaystyle \operatorname {R} _{XY}(\tau )=\operatorname {E} \left[X_{t-\tau }{\overline {Y_{t}}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/815c784f50990cb9c2e3ec33e182afa5a04960fb)
![{\displaystyle \operatorname {K} _{XY}(\tau )\triangleq \ \operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4dae097558058459f1aa7b0738e4e62de9e8c23d)
![{\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {E} \left[\left(X_{t-\tau }-\mu _{X}\right){\overline {\left(Y_{t}-\mu _{Y}\right)}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cc501844193bdcd2665a4a613fd9fe3c8a260be3)
![{\displaystyle \operatorname {E} [\ ]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/780439555973c827b4819f1ce09717a3f334fd27)
![{\displaystyle \rho _{XX}(t_{1},t_{2})={\frac {\operatorname {K} _{XX}(t_{1},t_{2})}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}={\frac {\operatorname {E} \left[\left(X_{t_{1}}-\mu _{t_{1}}\right){\overline {\left(X_{t_{2}}-\mu _{t_{2}}\right)}}\right]}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/62ffe542d8c069c97cbf975511108207b72c8cd4)
![{\displaystyle [-1,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/51e3b7f14a6f70e614728c583409a0b9a8b9de01)
![{\displaystyle \rho _{XY}(\tau )={\frac {\operatorname {K} _{XY}(\tau )}{\sigma _{X}\sigma _{Y}}}={\frac {\operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]}{\sigma _{X}\sigma _{Y}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9db7fd85b86dc22dc1fc00e4be38faeecc96c42b)
