Problem in machine learning and statistical classification
機械学習 と 統計的分類 において 、 多クラス分類 または 多項式分類 とは、インスタンスを3つ以上のクラスのいずれかに分類する問題です(インスタンスを2つのクラスのいずれかに分類する問題は 二項分類 と呼ばれます)。例えば、画像にバナナ、桃、オレンジ、リンゴのどれが写っているかを判断することは、4つのクラス(バナナ、桃、オレンジ、リンゴ)が考えられる多クラス分類問題です。一方、画像にリンゴが含まれているかどうかを判断することは、二項分類問題です(リンゴが含まれているか含まれていないかの2つのクラスが考えられる)。
多くの分類アルゴリズム (特に 多項ロジスティック回帰 ) では、当然 2 つ以上のクラスの使用が許可されますが、一部のアルゴリズムは本質的に 2 値 アルゴリズムです。ただし、これらはさまざまな戦略によって多項分類器に変換できます。
マルチクラス分類は、各インスタンスに対して複数のラベルを予測するマルチラベル分類 と混同しないでください (たとえば、前の例では、画像にリンゴとオレンジの両方が含まれていることを予測します)。
ランダム性よりも優れたマルチクラスモデル 多クラスモデルの混同行列から、モデルが偶然よりも優れているかどうかを判断できます。 [1] を クラス数、 を観測値の集合、 を目標変数のモデルとし 、 を集合 内の観測値の個数とします 。ここで、、、、および に留意します 。 混同 行列 の 各行には、 任意の に対して となる、つまり少なくとも1つの非ゼロのエントリが含まれている と仮定します 。最後に、条件付き確率 の行列を「正規化混同行列」と呼びます 。 K ≥ 3 {\displaystyle K\geq 3} O {\displaystyle {\mathcal {O}}} y ^ : O → { 1 , . . . , K } {\displaystyle {\hat {y}}:{\mathcal {O}}\to \{1,...,K\}} y : O → { 1 , . . . , K } {\displaystyle y:{\mathcal {O}}\to \{1,...,K\}} n i , j {\displaystyle n_{i,j}} { y = i } ∩ { y ^ = j } {\displaystyle \{y=i\}\cap \{{\hat {y}}=j\}} n i . = ∑ j n i , j {\displaystyle n_{i.}=\sum _{j}n_{i,j}} n . j = ∑ i n i , j {\displaystyle n_{.j}=\sum _{i}n_{i,j}} n = ∑ j n . j = ∑ i n i . {\displaystyle n=\sum _{j}n_{.j}=\sum _{i}n_{i.}} λ i = n i . n {\displaystyle \lambda _{i}={\frac {n_{i.}}{n}}} μ j = n . j n {\displaystyle \mu _{j}={\frac {n_{.j}}{n}}} ( n i , j ) i , j {\displaystyle (n_{i,j})_{i,j}} λ i > 0 {\displaystyle \lambda _{i}>0} i {\displaystyle i} ( P ( y ^ = j ∣ y = i ) ) i , j = ( n i , j n i . ) i , j {\displaystyle (\mathbb {P} ({\hat {y}}=j\mid y=i))_{i,j}=\left({\frac {n_{i,j}}{n_{i.}}}\right)_{i,j}}
直感的な説明 リフトは、 2 つのイベントの独立性からの偏差を測定する方法です 。 A {\displaystyle A} B {\displaystyle B}
L i f t ( A , B ) = P ( A ∩ B ) P ( A ) P ( B ) = P ( A ∣ B ) P ( A ) = P ( B ∣ A ) P ( B ) {\displaystyle \mathrm {Lift} (A,B)={\frac {\mathbb {P} (A\cap B)}{\mathbb {P} (A)\mathbb {P} (B)}}={\frac {\mathbb {P} (A\mid B)}{\mathbb {P} (A)}}={\frac {\mathbb {P} (B\mid A)}{\mathbb {P} (B)}}}
事象 と事象が同時に発生する確率は、それらが独立して発生する確率よりも高い、という仮定のもとに成り立ってい ます 。言い換えれば、2つの事象のうちの1つが発生すると、もう1つの事象を観測する確率は高まります。 L i f t ( A , B ) > 1 {\displaystyle \mathrm {Lift} (A,B)>1} A {\displaystyle A} B {\displaystyle B}
満たすべき最初の条件は、 任意の に対してが成り立つことです。そして、データセットのサンプル数をオーバーサンプリングしてもアンダーサンプリングしても、 つまり混同行列の 各行に定数 を乗じても、モデルの品質(偶然よりも良いか悪いか)は変わりません 。したがって、2つ目の条件は、偶然よりも良い結果を得るための必要十分条件は、正規化された混同行列のみに依存するということです。 L i f t ( y = i , y ^ = i ) ≥ 1 {\displaystyle \mathrm {Lift} (y=i,{\hat {y}}=i)\geq 1} i {\displaystyle i} R i {\displaystyle R_{i}} c i {\displaystyle c_{i}}
リフトに関する条件は、One vs Restのバイナリモデルを用いて再定式化できます。任意の に対して、 イベント の指標となる バイナリターゲット変数と、 イベント の指標となる バイナリ モデルを定義します 。各 モデルは「One vs Rest」モデルです。 はイベント と のみに依存するため 、 他のクラスをマージするかどうかは、その値に影響しません。したがって、 となり 、最初の条件は、すべてのOne vs Restのバイナリモデルが偶然よりも優れているということです。 i {\displaystyle i} y i {\displaystyle y_{i}} { y = i } {\displaystyle \{y=i\}} y ^ i {\displaystyle {\hat {y}}_{i}} y i {\displaystyle y_{i}} { y ^ = i } {\displaystyle \{{\hat {y}}=i\}} y ^ i {\displaystyle {\hat {y}}_{i}} L i f t ( y = i , y ^ = i ) {\displaystyle \mathrm {Lift} (y=i,{\hat {y}}=i)} { y = i } {\displaystyle \{y=i\}} { y ^ = i } {\displaystyle \{{\hat {y}}=i\}} L i f t ( y = i , y ^ = i ) = L i f t ( y i = 1 , y ^ i = 1 ) {\displaystyle \mathrm {Lift} (y=i,{\hat {y}}=i)=\mathrm {Lift} (y_{i}=1,{\hat {y}}_{i}=1)}
例 かつ2が関心のあるクラスである 場合、正規化混同行列はとなり 、 となります 。したがって と なります。同様に、1と2の役割を入れ替えると となります 。 を で割ると 、正規化混同行列の必要十分条件は となります 。これで、古典的な2項条件に戻ります。Youden のJは 正(ランダムモデルの場合はゼロ)でなければなりません。 K = 2 {\displaystyle K=2} ( s p e c i f i c i t y 1 − s p e c i f i c i t y 1 − s e n s i t i v i t y s e n s i t i v i t y ) {\displaystyle {\begin{pmatrix}\mathrm {specificity} &1-\mathrm {specificity} \\1-\mathrm {sensitivity} &\mathrm {sensitivity} \end{pmatrix}}} L i f t ( y = 1 , y ^ = 1 ) − 1 = P ( y = y ^ = 1 ) λ 1 μ 1 − 1 = n 1 , 1 n n 1. n .1 − 1 {\displaystyle \mathrm {Lift} (y=1,{\hat {y}}=1)-1={\frac {\mathbb {P} (y={\hat {y}}=1)}{\lambda _{1}\mu _{1}}}-1={\frac {n_{1,1}n}{n_{1.}n_{.1}}}-1} = n 1 , 1 ( n 1 , 1 + n 1 , 2 + n 2 , 1 + n 2 , 2 ) − ( n 1 , 1 + n 1 , 2 ) ( n 1 , 1 + n 2 , 1 ) n 1. n .1 = n 1 , 1 n 2 , 2 − n 1 , 2 n 2 , 1 n 1. n .1 {\displaystyle ={\frac {n_{1,1}(n_{1,1}+n_{1,2}+n_{2,1}+n_{2,2})-(n_{1,1}+n_{1,2})(n_{1,1}+n_{2,1})}{n_{1.}n_{.1}}}={\frac {n_{1,1}n_{2,2}-n_{1,2}n_{2,1}}{n_{1.}n_{.1}}}} L i f t ( y = 1 , y ^ = 1 ) ≥ 1 ⟺ n 1 , 1 n 2 , 2 − n 1 , 2 n 2 , 1 ≥ 0 {\displaystyle \mathrm {Lift} (y=1,{\hat {y}}=1)\geq 1\iff n_{1,1}n_{2,2}-n_{1,2}n_{2,1}\geq 0} L i f t ( y = 2 , y ^ = 2 ) ≥ 1 ⟺ n 1 , 1 n 2 , 2 − n 1 , 2 n 2 , 1 ≥ 0 {\displaystyle \mathrm {Lift} (y=2,{\hat {y}}=2)\geq 1\iff n_{1,1}n_{2,2}-n_{1,2}n_{2,1}\geq 0} n 1. n 2. {\displaystyle n_{1.}n_{2.}} s e n s i t i v i t y s p e c i f i c i t y − ( 1 − s e n s i t i v i t y ) ( 1 − s p e c i f i c i t y ) ≥ 0 ⟺ s e n s i t i v i t y + s p e c i f i c i t y − 1 ≥ 0 ⟺ J ≥ 0 {\displaystyle \mathrm {sensitivity} \ \mathrm {specificity} -(1-\mathrm {sensitivity} )(1-\mathrm {specificity} )\geq 0\iff \mathrm {sensitivity} +\mathrm {specificity} -1\geq 0\iff J\geq 0}
ランダムモデル ランダムモデルとは、ターゲット変数に依存しないモデルです。この特性は混同行列によって簡単に再定式化できます。
命題 — 混同行列のランクが 1 の場合に限り、 モデル はランダムです。 y ^ {\displaystyle {\hat {y}}} y {\displaystyle y}
この命題は、任意の および に対してと なる 2 つの数族と が存在する場合のみ、 の モデルが無情報であるということを示しています 。 y ^ {\displaystyle {\hat {y}}} y {\displaystyle y} ( α i ) i {\displaystyle (\alpha _{i})_{i}} ( β j ) j {\displaystyle (\beta _{j})_{j}} P ( { y = i } ∩ { y ^ = j } ) = α i β j {\displaystyle \mathbb {P} (\{y=i\}\cap \{{\hat {y}}=j\})=\alpha _{i}\beta _{j}} i {\displaystyle i} j {\displaystyle j}
多クラス尤度比と診断オッズ比 正規化混同行列から計算される一般化尤度比を定義する。任意の および について 、 とする 。 のとき 、2が関心クラスである場合、古典的な 尤度比 および を求める 。多クラス 診断オッズ比は、 次の式を用いて定義することもできる。 i {\displaystyle i} j ≠ i {\displaystyle j\not =i} L R i , j = P ( y ^ = j ∣ y = j ) P ( y ^ = j ∣ y = i ) {\displaystyle \mathrm {LR} _{i,j}={\frac {\mathbb {P} ({\hat {y}}=j\mid y=j)}{\mathbb {P} ({\hat {y}}=j\mid y=i)}}} K = 2 {\displaystyle K=2} L R 1 , 2 = L R + {\displaystyle \mathrm {LR} _{1,2}=\mathrm {LR} _{+}} L R 2 , 1 = 1 L R − {\displaystyle \mathrm {LR} _{2,1}={\frac {1}{\mathrm {LR} _{-}}}} D O R i , j = D O R j , i = L R i , j L R j , i = n i , i n j , j n i , j n j , i = P ( y ^ = j ∣ y = j ) / P ( y ^ = i ∣ y = j ) P ( y ^ = j ∣ y = i ) / P ( y ^ = i ∣ y = i ) {\displaystyle \mathrm {DOR} _{i,j}=\mathrm {DOR} _{j,i}=\mathrm {LR} _{i,j}\mathrm {LR} _{j,i}={\frac {n_{i,i}n_{j,j}}{n_{i,j}n_{j,i}}}={\frac {\mathbb {P} ({\hat {y}}=j\mid y=j)/\mathbb {P} ({\hat {y}}=i\mid y=j)}{\mathbb {P} ({\hat {y}}=j\mid y=i)/\mathbb {P} ({\hat {y}}=i\mid y=i)}}}
定理 — 任意の に対して 、 j {\displaystyle j}
P ( y ^ = j ∣ y = j ) − μ j = ∑ i λ i ( P ( y ^ = j ∣ y = j ) − P ( y ^ = j ∣ y = i ) ) {\displaystyle \mathbb {P} ({\hat {y}}=j\mid y=j)-\mu _{j}=\sum _{i}\lambda _{i}(\mathbb {P} ({\hat {y}}=j\mid y=j)-\mathbb {P} ({\hat {y}}=j\mid y=i))}
同様に、すべてが ゼロでない場合: n i , j {\displaystyle n_{i,j}}
1 L i f t ( y = j , y ^ = j ) = ∑ i λ i L R i , j {\displaystyle {\frac {1}{\mathrm {Lift} (y=j,{\hat {y}}=j)}}=\sum _{i}{\frac {\lambda _{i}}{\mathrm {LR} _{i,j}}}}
系 — すべての確率 が固定されている場合、任意の と に対して 、 P ( y ^ = k ∣ y = l ) {\displaystyle \mathbb {P} ({\hat {y}}=k\mid y=l)} i {\displaystyle i} j {\displaystyle j}
lim λ i → 1 ( P ( y ^ = j ∣ y = j ) − μ j ) = P ( y ^ = j ∣ y = j ) − P ( y ^ = j ∣ y = i ) {\displaystyle \lim _{\lambda _{i}\to 1}(\mathbb {P} ({\hat {y}}=j\mid y=j)-\mu _{j})=\mathbb {P} ({\hat {y}}=j\mid y=j)-\mathbb {P} ({\hat {y}}=j\mid y=i)}
同様に、すべてが ゼロでない場合: n i , j {\displaystyle n_{i,j}}
lim λ i → 1 L i f t ( y = j , y ^ = j ) = L R i , j {\displaystyle \lim _{\lambda _{i}\to 1}\mathrm {Lift} (y=j,{\hat {y}}=j)=\mathrm {LR} _{i,j}}
上で述べたように、偶然より良いモデル(またはランダムモデル)は、 任意の およびに対して が成り立つ必要があります 。前の系によれば、尤度比は1以上となります。逆に、尤度比が1以上である場合、定理は 任意の および に対してが成り立つことを示しています 。 L i f t ( y = i , y ^ = i ) ≥ 1 {\displaystyle \mathrm {Lift} (y=i,{\hat {y}}=i)\geq 1} i {\displaystyle i} λ i {\displaystyle \lambda _{i}} L i f t ( y = i , y ^ = i ) ≥ 1 {\displaystyle \mathrm {Lift} (y=i,{\hat {y}}=i)\geq 1} i {\displaystyle i} λ i {\displaystyle \lambda _{i}}
偶然よりも優れた多クラスモデルの定義 次の条件が満たされた場合、 モデル は偶然よりも優れたパフォーマンスを発揮します。 y ^ {\displaystyle {\hat {y}}} y {\displaystyle y}
任意の に対して 、 が成り立ちます 。 j {\displaystyle j} max i P ( y ^ = j ∣ y = i ) = P ( y ^ = j ∣ y = j ) {\displaystyle \max _{i}\mathbb {P} ({\hat {y}}=j\mid y=i)=\mathbb {P} ({\hat {y}}=j\mid y=j)} となる i と j が別個に存在する 。 P ( y ^ = j ∣ y = i ) < P ( y ^ = j ∣ y = j ) {\displaystyle \mathbb {P} ({\hat {y}}=j\mid y=i)<\mathbb {P} ({\hat {y}}=j\mid y=j)} 混同行列のすべての要素がゼロでない場合、すべての尤度比が1以上であり、これらの不規則性の少なくとも1つが厳密であることを意味します。最初の条件を満たすが2番目の条件を満たさないモデルはランダムです。なぜなら、 任意の および に対して が成り立つからです 。 P ( { y ^ = j } ∩ { y = i } ) = P ( y = i ) P ( y ^ = j ∣ y = i ) = P ( y = i ) P ( y ^ = j ∣ y = j ) = α i β j {\displaystyle \mathbb {P} (\{{\hat {y}}=j\}\cap \{y=i\})=\mathbb {P} (y=i)\mathbb {P} ({\hat {y}}=j\mid y=i)=\mathbb {P} (y=i)\mathbb {P} ({\hat {y}}=j\mid y=j)=\alpha _{i}\beta _{j}} i {\displaystyle i} j {\displaystyle j}
最初の条件をより馴染みのある方法で書き直すと、 の観測値 、 の推定値、 および の集合に注目することができます 。任意の に対して が 成り立ちます。モデルがランダム性よりも優れている、あるいはランダムであるのは、それが 目標変数 の 最尤推定値で ある場合のみである と推論されます 。 x {\displaystyle x} y ^ {\displaystyle {\hat {y}}} θ {\displaystyle \theta } y {\displaystyle y} θ ^ ( x ) {\displaystyle {\hat {\theta }}(x)} a r g m a x θ P ( x ∣ θ ) {\displaystyle argmax_{\theta }\mathbb {P} (x\mid \theta )} x {\displaystyle x} x ∈ θ ^ ( x ) {\displaystyle x\in {\hat {\theta }}(x)}
アプリケーション
マルチクラスバランス精度 偶然より良いモデルのパフォーマンスは、バランスのとれた精度や Youden などのメトリックのマルチクラス バージョンを使用して推定できます 。 J {\displaystyle J}
意味 - B a l a n c e d a c c u r a c y = 1 K ∑ i P ( y ^ = i ∣ y = i ) {\displaystyle \mathrm {Balanced\ accuracy} ={\frac {1}{K}}\sum _{i}\mathbb {P} ({\hat {y}}=i\mid y=i)} J = 1 K − 1 ( K b a l a n c e d a c c u r a c y − 1 ) = 1 K − 1 ∑ i μ i ( L i f t ( y = i , y ^ = i ) − 1 ) {\displaystyle \mathrm {J} ={\frac {1}{K-1}}(K\,\mathrm {balanced\ accuracy} -1)={\frac {1}{K-1}}\sum _{i}\mu _{i}(\mathrm {Lift} (y=i,{\hat {y}}=i)-1)}
言い換えれば、 の 場合 、モデルは完璧です。そして、任意のランダムモデルについて、 が成り立ちます (例えば、 ラベルから一様乱数を抽出する場合、 においてターゲット変数の正しい値を予測できる確率は正確に1回です )。 b a l a n c e d a c c u r a c y = 1 {\displaystyle \mathrm {balanced\ accuracy} =1} J = 1 {\displaystyle J=1} b a l a n c e d a c c u r a c y = 1 K {\displaystyle \mathrm {balanced\ accuracy} ={\frac {1}{K}}} K {\displaystyle K} K {\displaystyle K}
バランスの取れたデータセット( 任意の について )において、バランスの取れた精度は、正しく分類された観測値の割合に等しくなります。どのデータセットでも、モデルが偶然よりも優れた結果を出す場合、 および が成り立ちます 。 しかし、 の場合には逆は成り立ちません。 この例からわかるように、混同行列は で あるため、悪いモデル(=偶然よりも悪い)の混同行列です 。しかし、9つの観測値のうち5つは正しく分類されています。これはまた、あるモダリティにおけるモデル性能の低さが、他のモダリティにおける良好な性能によって補われていないことも示しています。 λ i = 1 K {\displaystyle \lambda _{i}={\frac {1}{K}}} i {\displaystyle i} J ≥ 0 {\displaystyle J\geq 0} b a l a n c e d a c c u r a c y ≥ 1 K {\displaystyle \mathrm {balanced\ accuracy} \geq {\frac {1}{K}}} K > 2 {\displaystyle K>2} ( 0 3 0 1 2 0 0 0 3 ) {\displaystyle {\begin{pmatrix}0&3&0\\1&2&0\\0&0&3\end{pmatrix}}} L R 2 , 1 = 0 {\displaystyle \mathrm {LR} _{2,1}=0}
ROCスペース 正規化された混同行列の集合は、ROC 空間( のサブスペース)と呼ばれます 。 がランダム モデルまたは偶然よりも良い結果をもたらすモデルで構成される ROC 空間のサブセットを表す場合、 の位相境界は、 尤度比の少なくとも 1 つが 1 に等しい の 要素の集合であると示すことができます。また、ランダム モデルとは、尤度比がすべて 1 に等しいモデルです。 のとき 、偶然よりも良い結果をもたらすモデルと不良モデルとの間の境界は、ランダム モデルの集合に等しくなります( 詳細については、 roc 曲線 の記事を参照)。ただし、 になると、この境界は確実に大きくなります。また、 のときは 、ROC 空間で不良モデルが占める体積を計算できます。不良モデルはこの空間の 90% を占めますが、 のときは 50% しか占めません 。 [ 0 , 1 ] m 2 {\displaystyle {\mathopen {[}}0,1{\mathclose {]}}^{m^{2}}} E {\displaystyle E} E {\displaystyle E} E {\displaystyle E} K = 2 {\displaystyle K=2} K > 2 {\displaystyle K>2} K = 3 {\displaystyle K=3} K = 2 {\displaystyle K=2}
一般的なアルゴリズム戦略 既存の多クラス分類技術は、以下のように分類できる。
バイナリへの変換 バイナリからの拡張 階層的分類 [2]
このセクションでは、多クラス分類の問題を複数の二値分類問題に縮減するための戦略について説明します。これは、 1対残り と 1対1 に分類できます。多クラス問題を複数の二値問題に縮減することに基づいて開発された手法は、問題変換手法とも呼ばれます。
1対残り One-vs.-rest [3] : 182, 338 (OvRまたは one-vs.-all 、OvAまたは one-against-all 、OAA)戦略では、クラスごとに1つの分類器を訓練し、そのクラスのサンプルを陽性サンプル、それ以外のサンプルを陰性サンプルとする。この戦略では、基本分類器はクラスラベルだけでなく、その決定に対して実数値のスコアを生成する必要がある( スコアリングルール も参照)。離散的なクラスラベルだけでは曖昧性が生じ、1つのサンプルに対して複数のクラスが予測される可能性がある。 [3] : 182 [注 1]
擬似コードでは、バイナリ分類学習器L から構築された OvR 学習器のトレーニング アルゴリズム は次のようになります。
入力: L 、学習器(バイナリ分類器のトレーニングアルゴリズム) サンプル X ラベル y、 ここで y i ∈ {1, … K }はサンプル X i のラベルである 出力: k ∈ {1, …, K } に対する分類器 f k のリスト 手順: {1, …, K }
内の 各 kについて y i = k の場合 は z i = y i 、それ以外の場合 は z i = 0と なる新しいラベルベクトル zを構築する。 Lを X 、 z に 適用して f k を得る 決定を行うということは、すべての分類器を未知のサンプル x に適用し、対応する分類器が最高の信頼スコアを報告する ラベル kを予測することを意味します。
y ^ = arg max k ∈ { 1 … K } f k ( x ) {\displaystyle {\hat {y}}={\underset {k\in \{1\ldots K\}}{\arg \!\max }}\;f_{k}(x)} この戦略は広く普及していますが、いくつかの問題を抱えるヒューリスティック です 。第一に、信頼値の尺度が二値分類器間で異なる可能性があります。第二に、訓練セットにおいてクラス分布が均衡している場合でも、二値分類学習器は不均衡な分布を観測します。これは、通常、負の集合が正の集合よりもはるかに大きいためです。 [3] : 338
1対1 1対1 (OvO)縮約 では、 K 方向多クラス問題に対して K ( K −1)/2個 の二値分類器を訓練する。各分類器は元の訓練セットから2つのクラスのサンプルを受け取り、これらの2つのクラスを区別する方法を学習する必要がある。予測時には投票方式が適用され、 K ( K −1)/2個の 分類器すべてが未学習サンプルに適用され、最も多くの「+1」予測を得たクラスが、統合された分類器によって予測される。 [3] : 339
OvRと同様に、OvOも入力空間の一部の領域が同じ数の票を受け取る可能性があるという曖昧さを抱えている。 [3] : 183
バイナリからの拡張 このセクションでは、既存の二値分類器を拡張して多クラス分類問題を解決する戦略について論じます。多クラス分類問題に対処するために、 ニューラルネットワーク 、 決定木 、 k近傍法 、 ナイーブベイズ 、 サポートベクターマシン 、 エクストリームラーニングマシン に基づく様々なアルゴリズムが開発されています。これらの技術は、アルゴリズム適応技術とも呼ばれます。
ニューラルネットワーク 多クラスパーセプトロンは、多クラス問題への自然な拡張を提供します。出力層に2値出力を持つニューロンを1つだけ持つ代わりに、N個の2値ニューロンを用いることで多クラス分類が可能になります。実際には、ニューラルネットワークの最終層は通常、 ソフトマックス関数 層です。これは、N個のロジスティック分類器を代数的に簡略化したもので、クラスごとにN-1個の他のロジスティック分類器の合計で正規化されます。ニューラルネットワークに基づく分類は、大きな進歩をもたらし、異なる視点から考える余地を広げました。 [4] [5]
極限学習マシン エクストリームラーニングマシン (ELM)は、単層フィードフォワードニューラルネットワーク(SLFN)の特殊なケースであり、入力重みと隠れノードのバイアスをランダムに選択できます。ELMには、多クラス分類のための様々なバリエーションや開発が行われています。
k近傍法 k近傍法 (kNN)は、最も古いノンパラメトリック分類アルゴリズムの一つと考えられています。未知の例を分類するために、その例から他のすべてのトレーニング例までの距離を測定します。k個の最小距離を特定し、これらのk近傍点によって最もよく表されるクラスを出力クラスラベルとします。
ナイーブベイズ ナイーブベイズ は、最大事後確率(MAP)の原理に基づく優れた分類器です。このアプローチは、2つ以上のクラスを持つ場合にも自然に拡張可能であり、 条件付き独立性 という単純化された仮定にもかかわらず、優れた性能を示すことが示されています。
決定木 決定木学習は 強力な分類手法です。この木は、利用可能な特徴量の値に基づいてトレーニングデータの分割を推測し、良好な一般化を実現します。このアルゴリズムは、2クラス分類問題や多クラス分類問題を自然に処理できます。リーフノードは、K個のクラスのいずれかを参照できます。
サポートベクターマシン サポートベクターマシンは 、マージンの最大化、すなわち分離超平面から最も近い例までの最小距離を最大化するという考え方に基づいています。基本的なSVMは2クラス分類のみをサポートしますが、多クラス分類も扱えるように拡張されたモデルが提案されています。これらの拡張では、異なるクラスの分離を処理するために、最適化問題に追加のパラメータと制約が加えられます。
複数式プログラミング マルチエクスプレッションプログラミング (MEP)は、コンピュータプログラムを生成するための進化的アルゴリズムです(分類タスクにも使用できます)。MEPには、複数のプログラムを単一の染色体にエンコードするという独自の特徴があります。これらの各プログラムは、特定のクラスの出力を生成するために使用できるため、MEPは多クラス分類問題の解決に自然に適しています。
階層的分類 階層的分類は、出力空間を 木 構造に分割することで、多クラス分類問題に取り組みます 。各親ノードは複数の子ノードに分割され、各子ノードが1つのクラスのみを表すようになるまで、この処理が続けられます。階層的分類に基づく手法はいくつか提案されています。
学習パラダイム 学習パラダイムに基づいて、既存の多クラス分類技術は、バッチ学習と オンライン学習 に分類できます。バッチ学習アルゴリズムでは、すべてのデータサンプルが事前に利用可能である必要があります。トレーニングデータ全体を使用してモデルをトレーニングし、見つかった関係を使用してテストサンプルを予測します。一方、オンライン学習アルゴリズムは、モデルを逐次反復で段階的に構築します。反復 t では、オンラインアルゴリズムがサンプル x t を受け取り、現在のモデルを使用してそのラベル ŷ t を予測します。次に、アルゴリズムはx t の実際のラベルy tを受け取り、サンプルとラベルのペア (x t 、 y t )に基づいてモデルを更新します 。最近、漸進的学習手法と呼ばれる新しい学習パラダイムが開発されました。 [6] 漸進的学習手法は、新しいサンプルから学習できるだけでなく、新しいデータクラスを学習しながら、これまでに学習した知識を保持することができます。 [7]
評価 多クラス分類システムの性能は、システムの予測値を参照ラベルと比較し、評価指標を用いて評価されることが多い。一般的な評価指標としては、 精度 または マクロF1 が挙げられる。 [8]
参照
注記 ^ マルチラベル分類 では 、OvR は バイナリ関連性 として知られており、複数クラスの予測は問題ではなく機能と見なされます。
参考文献 ^ Foulle, Sebastien (2025年6月). 「Better-than-Random Multiclass Models の数学的特徴付け」. TMLR . ^ Mohamed, Aly (2005). 「多クラス分類手法に関する調査」. 技術報告書, Caltech . ^ abcde ビショップ、クリストファー・M. (2006). パターン認識と機械学習 . シュプリンガー. ^ Ekin, Cubuk (2019). 「Autoaugment:データからの拡張戦略の学習」 IEEE/CVFコンピュータビジョンおよびパターン認識会議議事録 。 ^ Kabir, HM Dipu (2023). 「背景情報を用いたクラス活性化の不確実性の低減」. arXiv : 2305.03238 [cs.CV]. ^ Venkatesan, Rajasekar; Meng Joo, Er (2016). 「多クラス分類のための新しい漸進的学習手法」. Neurocomputing . 207 : 310–321 . arXiv : 1609.00085 . doi :10.1016/j.neucom.2016.05.006. S2CID 12510650. ^ ヴェンカテサン、ラジャセカール。 「プログレッシブ学習テクニック」。 Rajasekar Venkatesan - 研究プロフィール 。 ^ Opitz, Juri (2024). 「分類評価指標の詳細と一般的な評価方法の批判的考察」. Transactions of the Association for Computational Linguistics . 12 : 820–836 . arXiv : 2404.16958 . doi :10.1162/tacl_a_00675.