一般化線形モデル

Class of statistical models

統計学において、一般化線型モデル（GLM ）は、通常の線型回帰を柔軟に一般化したものです。GLMは、線型モデルをリンク関数を介して応答変数に関連付け、各測定値の分散の大きさをその予測値の関数とすることで、線型回帰を一般化します。

一般化線型モデルは、線型回帰、ロジスティック回帰、ポアソン回帰など、様々な統計モデルを統合する方法として、ジョン・ネルダーとロバート・ウェダーバーンによって定式化されました。^[1]彼らは、モデルパラメータの最大尤度推定（MLE）として、反復重み付け最小二乗法を提案しました。MLEは今でも広く利用されており、多くの統計計算パッケージのデフォルト手法となっています。ベイズ回帰や、分散安定化応答への最小二乗フィッティングなど、他の手法も開発されています。

直感

通常の線形回帰は、与えられた未知の量（応答変数、確率変数）の期待値を、観測値（予測変数）の集合の線形結合として予測します。これは、予測変数の一定変化が応答変数の一定変化につながることを意味します（すなわち、線形応答モデル）。これは、応答変数がほぼ一定にどちらの方向にも無限に変化できる場合、あるいはより一般的には、予測変数の変化に比べて比較的小さな量（例えば、人間の身長）に適切です。

ただし、これらの仮定は、応答変数の種類によっては適切ではありません。たとえば、応答変数が常に正で、広い範囲で変化すると予想される場合、入力が一定に変化すると、出力の変化は一定に変化するのではなく、幾何級数的に（つまり指数関数的に）変化します。例として、線形予測モデルが、あるデータ（おそらく主に大きなビーチから収集されたデータ）から、気温が 10 度低下するとビーチを訪れる人が 1,000 人減ることを学習したとします。このモデルは、さまざまなサイズのビーチに一般化できる可能性は低いです。より具体的には、このモデルを使用して、定期的に 50 人の海水浴客が訪れるビーチで気温が 10 度低下した場合の新しい入場者数を予測すると、-950 というあり得ない入場者数を予測してしまうという問題があります。論理的には、より現実的なモデルでは、代わりに一定率のビーチ入場者数の増加を予測します（たとえば、気温が 10 度上昇すると入場者数が 2 倍になり、10 度低下すると入場者数が半分になります）。このようなモデルは、指数応答モデル（応答の対数が線形に変化すると予測されるため、対数線形モデルとも呼ばれます）と呼ばれます。

同様に、はい/いいえの選択をする確率（ベルヌーイ変数）を予測するモデルは、確率が両端で有界（0と1の間）であるため、線形応答モデルとしてはさらに不適切です。例えば、気温の関数として、ある人が海に行く可能性を予測するモデルを考えてみましょう。妥当なモデルは、例えば、気温が10度変化すると、人が海に行く可能性が2倍になったり、2倍になったりすると予測するかもしれません。しかし、確率の観点から「2倍になる」とはどういう意味でしょうか？文字通り確率値が2倍になる（例えば、50%が100%になる、75%が150%になるなど）という意味ではありません。むしろ、オッズが2倍になる、つまり2 :1のオッズから4:1のオッズ、8:1のオッズへと倍増することを意味します。このようなモデルは、対数オッズモデルまたはロジスティックモデルと呼ばれます。

一般化線形モデルは、応答変数が（単なる正規分布ではなく）任意の分布を持つこと、また応答変数の任意の関数（リンク関数）が予測変数とともに線形に変化すること（応答変数自体が線形に変化しなければならないと仮定するのではなく）を許容することで、これらすべての状況をカバーします。たとえば、上記のビーチ参加者数の予測は、通常、ポアソン分布と対数リンクでモデル化されますが、ビーチ参加者の確率の予測は、通常、ベルヌーイ分布（問題の表現方法によっては二項分布）と対数オッズ（またはロジット）リンク関数でモデル化されます。

概要

一般化線形モデル（GLM）では、従属変数の各結果Yは、指数分布族（正規分布、二項分布、ポアソン分布、ガンマ分布などを含む確率分布の大きなクラス）の特定の分布から生成されると仮定されます。分布の条件付き平均μは、独立変数Xによって次の式で表されます。

${\displaystyle \operatorname {E} (\mathbf {Y} \mid \mathbf {X} )={\boldsymbol {\mu }}=g^{-1}(\mathbf {X} {\boldsymbol {\beta }}),}$

ここで、E( Y  |  X )は、 Xを条件とするYの期待値です。Xβは線形予測子、つまり未知のパラメータβの線形結合です。gはリンク関数です。

このフレームワークでは、分散は通常、平均の 関数Vになります。

${\displaystyle \operatorname {Var} (\mathbf {Y} \mid \mathbf {X} )=\operatorname {V} (g^{-1}(\mathbf {X} {\boldsymbol {\beta }})).}$

V が指数分布族に従う場合は便利ですが、分散が予測値の関数であるというだけの可能性もあります。

未知のパラメータβは通常、最大尤度法、最大準尤度法、またはベイズ法を使用して推定されます。

モデルコンポーネント

GLM は次の 3 つの要素で構成されます。

1.指数分布族と考えられるものの中からモデル化のための特定の分布。 ${\displaystyle Y}$

2. 線形予測子、および ${\displaystyle \eta =X\beta }$

3.となるリンク関数。 ${\displaystyle g}$ ${\displaystyle \operatorname {E} (Y\mid X)=\mu =g^{-1}(\eta )}$

確率分布

過剰分散指数分布族は、指数分布族と指数分布分散モデルの一般化であり、およびによってパラメータ化された確率分布族を含み、その密度関数f（または離散分布の場合は確率質量関数）は 、 ${\displaystyle {\boldsymbol {\theta }}}$ ${\displaystyle \tau }$

${\displaystyle f_{Y}(\mathbf {y} \mid {\boldsymbol {\theta }},\tau )=h(\mathbf {y} ,\tau )\exp \left({\frac {\mathbf {b} ({\boldsymbol {\theta }})^{\rm {T}}\mathbf {T} (\mathbf {y} )-A({\boldsymbol {\theta }})}{d(\tau )}}\right).\,\!}$

分散パラメータ、は一般に既知であり、分布の分散と関連しています。関数、、、、 は既知です。この族には、正規分布、指数分布、ガンマ分布、ポアソン分布、ベルヌーイ分布、そして（試行回数が固定の場合）二項分布、多項分布、負の二項分布など、多くの一般的な分布が含まれます。 ${\displaystyle \tau }$ ${\displaystyle h(\mathbf {y} ,\tau )}$ ${\displaystyle \mathbf {b} ({\boldsymbol {\theta }})}$ ${\displaystyle \mathbf {T} (\mathbf {y} )}$ ${\displaystyle A({\boldsymbol {\theta }})}$ ${\displaystyle d(\tau )}$

スカラーおよび（この場合はおよびと表記）の場合、これは次のように簡約される。 ${\displaystyle \mathbf {y} }$ ${\displaystyle {\boldsymbol {\theta }}}$ ${\displaystyle y}$ ${\displaystyle \theta }$

${\displaystyle f_{Y}(y\mid \theta ,\tau )=h(y,\tau )\exp \left({\frac {b(\theta )T(y)-A(\theta )}{d(\tau )}}\right).\,\!}$

${\displaystyle {\boldsymbol {\theta }}}$は分布の平均と関係があります。が恒等関数である場合、分布は標準形（または自然形）にあると言われます。任意の分布は、 を と書き直し、変換 を適用することで標準形に変換できることに留意してください。 が1対1関数でなくても、新しい媒介変数を用いて変換することは常に可能です。指数族のページにあるコメントを参照してください。 ${\displaystyle \mathbf {b} ({\boldsymbol {\theta }})}$ ${\displaystyle {\boldsymbol {\theta }}}$ ${\displaystyle {\boldsymbol {\theta }}'}$ ${\displaystyle {\boldsymbol {\theta }}=\mathbf {b} ({\boldsymbol {\theta }}')}$ ${\displaystyle A({\boldsymbol {\theta }})}$ ${\displaystyle \mathbf {b} ({\boldsymbol {\theta }}')}$

さらに、およびが恒等式である場合、は標準パラメータ（または自然パラメータ）と呼ばれ、平均と次のように関係している。 ${\displaystyle \mathbf {T} (\mathbf {y} )}$ ${\displaystyle \mathbf {b} ({\boldsymbol {\theta }})}$ ${\displaystyle {\boldsymbol {\theta }}}$

${\displaystyle {\boldsymbol {\mu }}=\operatorname {E} (\mathbf {y} )=\nabla _{\boldsymbol {\theta }}A({\boldsymbol {\theta }}).\,\!}$

スカラーとの場合、これは次のように簡約される。 ${\displaystyle \mathbf {y} }$ ${\displaystyle {\boldsymbol {\theta }}}$

${\displaystyle \mu =\operatorname {E} (y)=A'(\theta ).}$

このシナリオでは、分布の分散は^{[2]のように示される。}

${\displaystyle \operatorname {Var} (\mathbf {y} )=\nabla _{\boldsymbol {\theta }}^{2}A({\boldsymbol {\theta }})d(\tau ).\,\!}$

スカラーとの場合、これは次のように簡約される。 ${\displaystyle \mathbf {y} }$ ${\displaystyle {\boldsymbol {\theta }}}$

${\displaystyle \operatorname {Var} (y)=A''(\theta )d(\tau ).\,\!}$

線形予測子

線形予測変数は、独立変数に関する情報をモデルに組み込む量です。記号η（ギリシャ語の「エータ」）は線形予測変数を表します。これはリンク関数を介してデータの期待値と関連付けられます。

ηは未知のパラメータβの線形結合（つまり「線形」）として表される。線形結合の係数は独立変数Xの行列として表される。 したがって、 η は次のように表される。

${\displaystyle \eta =\mathbf {X} {\boldsymbol {\beta }}.\,}$

リンク機能

リンク関数は、線形予測変数と分布関数の平均との関係を提供します。一般的に使用されるリンク関数は多数あり、その選択はいくつかの考慮事項に基づいて行われます。応答の密度関数の指数関数から導出される、明確に定義された標準的なリンク関数が常に存在します。ただし、場合によっては、リンク関数の定義域を分布関数の平均の範囲に一致させるか、ベイズプロビット回帰などのアルゴリズム目的で非標準的なリンク関数を使用することが合理的です。

正準パラメータを持つ分布関数を用いる場合、正準リンク関数とは を で表現する関数、すなわち を表す関数です。 最も一般的な分布では、平均は分布の密度関数の標準形におけるパラメータの1つであり、 は上記で定義したように、密度関数をその正準形に写像する関数です。 正準リンク関数を用いる場合、はの十分な統計量となります。 ${\displaystyle \theta ,}$ ${\displaystyle \theta }$ ${\displaystyle \mu ,}$ ${\displaystyle \theta =g(\mu ).}$ ${\displaystyle \mu }$ ${\displaystyle g(\mu )}$ ${\displaystyle g(\mu )=\theta =\mathbf {X} {\boldsymbol {\beta }},}$ ${\displaystyle \mathbf {X} ^{\rm {T}}\mathbf {Y} }$ ${\displaystyle {\boldsymbol {\beta }}}$

以下は、一般的に使用されるいくつかの指数分布族とそれらが通常使用されるデータ、および標準リンク関数とその逆関数 (ここで行っているように、平均関数と呼ばれることもあります) の表です。

一般的な用途と標準的なリンク関数を持つ一般的な分布

分布	流通のサポート	典型的な用途	リンク名	リンク機能、 ${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=g(\mu )\,\!}$	平均関数
普通	本物： ${\displaystyle (-\infty ,+\infty )}$	線形応答データ	身元	${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\mu \,\!}$	${\displaystyle \mu =\mathbf {X} {\boldsymbol {\beta }}\,\!}$
ラプラス
指数関数	本物： ${\displaystyle (0,+\infty )}$	指数応答データ、尺度パラメータ	負の逆数	${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=-\mu ^{-1}\,\!}$	${\displaystyle \mu =-(\mathbf {X} {\boldsymbol {\beta }})^{-1}\,\!}$
ガンマ
逆 ガウス分布	本物： ${\displaystyle (0,+\infty )}$		逆 二乗	${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\mu ^{-2}\,\!}$	${\displaystyle \mu =(\mathbf {X} {\boldsymbol {\beta }})^{-1/2}\,\!}$
ポアソン	整数： ${\displaystyle 0,1,2,\ldots }$	一定の時間/空間における発生回数	ログ	${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\ln(\mu )\,\!}$	${\displaystyle \mu =\exp(\mathbf {X} {\boldsymbol {\beta }})\,\!}$
ベルヌーイ	整数： ${\displaystyle \{0,1\}}$	単一の「はい/いいえ」の発生の結果	ロジット	${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{1-\mu }}\right)\,\!}$	${\displaystyle \mu ={\frac {\exp(\mathbf {X} {\boldsymbol {\beta }})}{1+\exp(\mathbf {X} {\boldsymbol {\beta }})}}={\frac {1}{1+\exp(-\mathbf {X} {\boldsymbol {\beta }})}}\,\!}$
二項式	整数： ${\displaystyle 0,1,\ldots ,N}$	N 回の「はい/いいえ」出現のうち「はい」出現回数を数える		${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{n-\mu }}\right)\,\!}$
カテゴリカル	整数： ${\displaystyle [0,K)}$	単一のK方向発生の結果		${\displaystyle \mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{1-\mu }}\right)\,\!}$
	Kベクトルの整数：ベクトル内の1つの要素の値が1である。 ${\displaystyle [0,1]}$
多項式	整数のKベクトル: ${\displaystyle [0,N]}$	N 個の合計K通りの出現のうち、異なるタイプ (1、...、K )の出現回数

指数分布とガンマ分布の場合、正準リンク関数の定義域は平均値の許容範囲と一致しません。特に、線形予測変数が正の値をとる場合、平均値が負になるというあり得ない結果が生じる可能性があります。尤度最大化を行う際には、このような事態を避けるための注意が必要です。代替案として、非正準リンク関数を使用する方法があります。

ベルヌーイ分布、二項分布、カテゴリ分布、多項分布の場合、分布のサポートは予測対象となるパラメータと同じ種類のデータではありません。いずれの場合も、予測対象となるパラメータは1つ以上の確率、つまり範囲 内の実数です。結果として得られるモデルはロジスティック回帰（二値ではなくK方向の値を予測する場合は多項ロジスティック回帰）と呼ばれます。 ${\displaystyle [0,1]}$

ベルヌーイ分布と二項分布の場合、パラメータは単一の確率であり、単一の事象の発生確率を示します。ベルヌーイ分布は、単一の結果が常に0か1のいずれかであるにもかかわらず、期待値は実数値の確率、つまり「はい」（または1）の結果の発生確率であるという点で、一般化線型モデルの基本条件を満たしています。同様に、二項分布では期待値はNpであり、つまり「はい」の結果の期待割合が予測される確率となります。

カテゴリ分布と多項分布の場合、予測対象となるパラメータはK個の確率ベクトルであり、すべての確率の合計が1になるという制約があります。各確率は、K個の可能な値のうちの1つが発生する可能性を示します。多項分布、およびカテゴリ分布のベクトル形式の場合、ベクトルの要素の期待値は、二項分布やベルヌーイ分布と同様に、予測される確率と関連付けられます。

フィッティング

最大尤度

最大尤度推定値は、反復的に再重み付けされた最小二乗アルゴリズム、または次の形式の更新を伴うニュートン法を使用して見つけることができます。

${\displaystyle {\boldsymbol {\beta }}^{(t+1)}={\boldsymbol {\beta }}^{(t)}+{\mathcal {J}}^{-1}({\boldsymbol {\beta }}^{(t)})u({\boldsymbol {\beta }}^{(t)}),}$

ここで、は観測情報行列（ヘッセ行列の負）であり、はスコア関数、またはフィッシャーのスコアリング法です。 ${\displaystyle {\mathcal {J}}({\boldsymbol {\beta }}^{(t)})}$ ${\displaystyle u({\boldsymbol {\beta }}^{(t)})}$

${\displaystyle {\boldsymbol {\beta }}^{(t+1)}={\boldsymbol {\beta }}^{(t)}+{\mathcal {I}}^{-1}({\boldsymbol {\beta }}^{(t)})u({\boldsymbol {\beta }}^{(t)}),}$

ここで、はフィッシャー情報行列である。正準リンク関数が使用される場合、これらは同じになる点に注意されたい。^[3] ${\displaystyle {\mathcal {I}}({\boldsymbol {\beta }}^{(t)})}$

ベイズ法

一般に、事後分布は閉じた形式では見つからないため、通常はラプラス近似またはギブスサンプリングなどのマルコフ連鎖モンテカルロ法を使用して近似する必要があります。

例

一般線形モデル

混乱を招く可能性のある点の一つは、2つの広義の統計モデルである一般化線形モデルと一般線形モデルの区別にあります。共同考案者のジョン・ネルダーは、この用語の使用について遺憾の意を表明しています。^[4]

一般線型モデルは、恒等リンクと正規分布に従う応答を持つ一般化線型モデルの特殊なケースと見なすことができます。関心のある結果の最も正確な部分は一般線型モデルでのみ得られるため、一般線型モデルはやや長い歴史を経て発展してきました。非恒等リンクを持つ一般化線型モデルの結果は漸近的であり、大規模なサンプルでうまく機能する傾向があります。

線形回帰

一般化線型モデル（一般線型モデルの一例でもある）の単純かつ非常に重要な例として、線型回帰が挙げられます。線型回帰では、ガウス・マルコフ定理によって最小二乗推定値の使用が正当化されます。ガウス・マルコフ定理は、分布が正規分布であることを仮定しません。

しかし、一般化線型モデルの観点からは、分布関数は定数分散の正規分布であり、リンク関数は恒等関数（分散が既知である場合の標準的なリンク）であると仮定することが有用である。これらの仮定の下では、最小二乗推定値は最大尤度パラメータ推定値として得られる。

正規分布の場合、一般化線形モデルは最大尤度推定値の閉形式表現を持ち、これは便利です。他のほとんどのGLMには閉形式推定値がありません。

バイナリデータ

応答データYがバイナリ（0 と 1 のみの値をとる）の場合、分布関数としては通常ベルヌーイ分布が選択され、 μ _iの解釈はY _iが値 1 をとる確率pになります。

二項関数には、いくつかの一般的なリンク関数があります。

ロジットリンク関数

最も一般的なリンク関数は標準ロジットリンクです。

${\displaystyle g(p)=\operatorname {logit} p=\ln \left({p \over 1-p}\right).}$

この設定の GLM はロジスティック回帰モデル (またはロジット モデル) です。

逆累積分布関数の一般的な選択肢としてのプロビットリンク関数

あるいは、連続累積分布関数（CDF）の逆関数をリンクとして用いることもできます。CDFの値域は二項平均の値域 であるためです。正規CDFはよく用いられ、プロビットモデルが得られます。そのリンクは ${\displaystyle [0,1]}$ ${\displaystyle \Phi }$

${\displaystyle g(p)=\Phi ^{-1}(p).\,\!}$

プロビットモデルを使用する理由は、入力変数を正規CDF（すべてのパラメータの同等のスケーリングによって吸収可能）に一定にスケーリングすると、ロジット関数と実質的に同一の関数が生成されるが、状況によってはロジットモデルよりもプロビットモデルの方が扱いやすいためです。（パラメータに正規分布の事前分布が適用されるベイズ設定では、正規事前分布と正規CDFリンク関数の関係により、プロビットモデルはギブスサンプリングを使用して計算できますが、ロジットモデルは一般的には計算できません。）

補完ログログ（クロッグログ）

補完的な log-log 関数も使用できます。

${\displaystyle g(p)=\log(-\log(1-p)).}$

このリンク関数は非対称であり、ロジットリンク関数やプロビットリンク関数とは異なる結果になることが多い。^{[5]クロッグログモデルは、イベント数が}ポアソン分布に従うと仮定して、イベント（例えば欠陥）が0個または1個以上観測されるアプリケーションに対応する。^[6]ポアソン仮定とは、

${\displaystyle \Pr(0)=\exp(-\mu ),}$

ここで、μは事象の期待数を表す正の数である。pが少なくとも1つの事象を含む観測値の割合を表す場合、その補数は

${\displaystyle 1-p=\Pr(0)=\exp(-\mu ),}$

その後

${\displaystyle -\log(1-p)=\mu .}$

線形モデルでは、応答変数は実数直線全体にわたって値をとる必要があります。μは正でなければならないため、対数をとり、log( μ )を線形モデルとすることで、この正性を強制することができます。これにより、「cloglog」変換が得られます。

${\displaystyle \log(-\log(1-p))=\log(\mu ).}$

アイデンティティリンク

恒等リンクg(p) = pは、二項分布データに対して線形確率モデルを生成するために用いられることもあります。しかし、恒等リンクは0未満または1を超える無意味な「確率」を予測することがあります。これは、cloglog、probit、logit（あるいは任意の逆累積分布関数）などの変換を用いることで回避できます。恒等リンクの主な利点は、線形計算を用いて推定できることです。他の標準的なリンク関数は、p = 0.5付近で恒等リンクとほぼ線形に一致します。

分散関数

「​​準二項分布データは次のとおりです。

${\displaystyle \operatorname {Var} (Y_{i})=\tau \mu _{i}(1-\mu _{i})\,\!}$

ここで、分散パラメータτは二項分布ではちょうど1です。実際、標準二項尤度ではτは省略されます。τ が存在する場合、モデルは「準二項分布」と呼ばれ、修正尤度は準尤度と呼ばれます。これは、τ が一般に、実際の確率分布族に対応する尤度ではないためです。τが1を超える場合、モデルは過分散を示すと言われます。

多項式回帰

二項分布の場合、応答として多項分布（あるいは、計数に対する制約付き一般化線形モデル）を考慮に入れるように簡単に拡張できます。これは通常、以下の2つの方法で行われます。

順序付けられた応答

応答変数が順序変数である場合、次の形式のモデル関数を当てはめることができます。

${\displaystyle g(\mu _{m})=\eta _{m}=\beta _{0}+X_{1}\beta _{1}+\cdots +X_{p}\beta _{p}+\gamma _{2}+\cdots +\gamma _{m}=\eta _{1}+\gamma _{2}+\cdots +\gamma _{m}{\text{ where }}\mu _{m}=\operatorname {P} (Y\leq m).\,}$

m > 2の場合。異なるリンクgは、比例オッズモデルや順序プロビットモデルなどの順序回帰モデルにつながります。

順序なしの応答

応答変数が名義測定値である場合、またはデータが順序モデルの仮定を満たさない場合は、次の形式のモデルを適合することができます。

${\displaystyle g(\mu _{m})=\eta _{m}=\beta _{m,0}+X_{1}\beta _{m,1}+\cdots +X_{p}\beta _{m,p}{\text{ where }}\mu _{m}=\mathrm {P} (Y=m\mid Y\in \{1,m\}).\,}$

m > 2の場合。異なるリンクgは、多項ロジットモデルまたは多項プロビットモデルにつながります。これらは順序応答モデルよりも一般化されており、より多くのパラメータが推定されます。

カウントデータ

一般化線型モデルのもう一つの例としては、ポアソン分布を用いて計数データをモデル化するポアソン回帰があります。リンクは通常、対数、つまり正準リンクです。

分散関数は平均に比例する

${\displaystyle \operatorname {var} (Y_{i})=\tau \mu _{i},\,}$

ここで、分散パラメータτは通常、正確に1に固定されます。そうでない場合、結果として得られる準尤度モデルは、過分散ポアソン分布、または準ポアソン分布と呼ばれることがよくあります。

拡張機能

相関またはクラスター化されたデータ

標準的なGLMでは、観測値は無相関であると仮定されます。縦断的研究やクラスターデザインなどで見られるように、観測値間の相関を考慮するための拡張が開発されています。

• 一般化推定方程式（GEE）は、相関の起源を明示的な確率モデルを用いることなく観測値間の相関を推定するため、明示的な尤度は存在しない。GEEは、相関の起源を説明することなく相関を推定するため、ランダム効果とその分散が本質的に重要でない場合に適している。GEEの焦点は、 Xの1つ以上の要素の変化が特定の個人に与える影響を予測することを可能にする回帰パラメータではなく、母集団全体の平均的な反応（「母集団平均」効果）を推定することにある。GEEは通常、 Huber–White標準誤差と組み合わせて使用​​される。 ^{[7] [8]}
• 一般化線型混合モデル（GLMM）は、線型予測変数にランダム効果を含むGLMの拡張であり、相関の起源を説明する明確な確率モデルを提供します。得られた「被験者固有の」パラメータ推定値は、 Xの1つ以上の要素の変化が特定の個人に与える影響を推定することに焦点を当てている場合に適しています。GLMMは、マルチレベルモデルや混合モデルとも呼ばれます。一般に、GLMMのフィッティングは、GEEのフィッティングよりも計算が複雑で集中的です。

一般化加法モデル

一般化加法モデル（GAM）はGLMの別の拡張であり、線形予測変数ηは共変量Xに対して線形である必要はなく、 x _i sに適用される平滑化関数の合計になります。

${\displaystyle \eta =\beta _{0}+f_{1}(x_{1})+f_{2}(x_{2})+\cdots \,\!}$

平滑化関数f _iはデータから推定される。一般的に、これには多数のデータ点が必要となり、計算負荷も大きくなる。^{[9] [10]}

参照

• 応答モデリング手法
• 一般線形モデルと一般化線形モデルの比較 – 統計線形モデルPages displaying short descriptions of redirect targets
• 分数モデル
• 一般化線形配列モデル
• GLIM（ソフトウェア）
• 準分散
• 自然指数分布族 – 確率分布のクラス
• トゥイーディー分布 – 確率分布の族
• 分散関数 – 統計における平滑化関数Pages displaying short descriptions of redirect targets
• ベクトル一般化線形モデル（VGLM）
• 一般化推定方程式

参考文献

引用

1. ネルダー, ジョン;ウェダーバーン, ロバート(1972). 「一般化線形モデル」.英国王立統計学会誌. シリーズA (一般) . 135 (3). Blackwell Publishing: 370– 384. doi :10.2307/2344614. JSTOR  2344614. S2CID  14154576.
2. McCullagh & Nelder 1989、第 2 章.
3. マッカラー&ネルダー、1989年、p. 43.
4. Senn, Stephen (2003). 「ジョン・ネルダーとの会話」.統計科学. 18 (1): 118– 131. doi : 10.1214/ss/1056397489 .一般線形モデルと一般化線形モデルは全く同じではないものの、もっと馴染みのある、一般線形モデルと混同されないような名前を考えるべきだったのではないかと思います。別の名前を考えていた方が良かった理由は理解できます。
5. 「補完対数対数モデル」（PDF）。
6. 「リンク関数はどれか — ロジット、プロビット、クロッグログ？」ベイジアム・アナリティクス2015年8月14日. 2019年3月17日閲覧。
7. Zeger, Scott L. ; Liang, Kung-Yee ; Albert, Paul S. (1988). 「縦断的データのためのモデル：一般化推定方程式アプローチ」.バイオメトリクス. 44 (4). 国際バイオメトリクス協会: 1049–1060. doi : 10.2307/2531734. JSTOR  2531734. PMID  3233245.
8. ハーディン、ジェームズ、ヒルベ、ジョセフ(2003).一般化推定方程式. ロンドン、イギリス: チャップマン・アンド・ホール/CRC. ISBN 1-58488-307-3。
9. ハスティー＆ティブシラニ 1990.
10. ウッド 2006.

参考文献

• Hastie, TJ ; Tibshirani, RJ (1990).一般化加法モデル. Chapman & Hall/CRC. ISBN 978-0-412-34390-2。
• マドセン、ヘンリック、ティレゴッド、ポール (2011).一般線形モデルと一般化線形モデル入門. チャップマン＆ホール/CRCC. ISBN 978-1-4200-9155-7。
• ピーター・マカラー、ジョン・ネルダー(1989).一般化線形モデル（第2版）.フロリダ州ボカラトン: チャップマン・アンド・ホール/CRC. ISBN 0-412-31760-5。
• ウッド、サイモン（2006年）『一般化加法モデル：Rによる入門』チャップマン＆ホール/CRC. ISBN 1-58488-474-6。

さらに読む

• Dunn, PK; Smyth, GK (2018).一般化線形モデルとRによる例. ニューヨーク: Springer. doi :10.1007/978-1-4419-0118-7. ISBN 978-1-4419-0118-7。{{cite book}}: CS1 maint: publisher location (link)
• Dobson, AJ; Barnett, AG (2008).一般化線形モデル入門（第3版）. フロリダ州ボカラトン: Chapman and Hall/CRC. ISBN 978-1-58488-165-0。
• ハーディン、ジェームズ、ヒルベ、ジョセフ(2007).一般化線型モデルとその拡張（第2版）. カレッジステーション: Stata Press. ISBN 978-1-59718-014-6。{{cite book}}: CS1 maint: publisher location (link)

外部リンク

• ウィキメディア・コモンズの一般化線形モデルに関連するメディア

Retrieved from "https://en.wikipedia.org/w/index.php?title=Generalized_linear_model&oldid=1305675786"