予測学習

フリー百科事典『ウィキペディア』より

予測学習は、人工知能モデルに新しいデータを与え、その環境、能力、限界を理解する機械学習（ML）技術です。この技術は、神経科学、ビジネス、ロボット工学、コンピュータビジョンなど、多くの分野で応用されています。この概念は、フランスのコンピュータ科学者ヤン・ルカンが1988年にベル研究所で研究していた際に開発・発展させました。ルカンは、金融機関が小切手処理を自動化できるよう、手書き文字を検出するモデルを訓練しました。^[¹^]

予測学習の数学的基盤は17世紀にまで遡ります。当時、英国の保険会社ロイズが予測分析を用いて利益を上げていました。^{[ 2 ]}数学的な概念として始まったこの手法は、人工知能の可能性を広げました。予測学習とは、既存の精神構造を最小限に抑えて学習しようとする試みです。これは、ジャン・ピアジェが子供たちが相互作用を通して世界に関する知識を構築するという記述に着想を得ました。ゲイリー・ドレシャーの著書『Made-up Minds』は、この概念の発展に決定的な役割を果たしました。^{[ 3 ]}

脳が予測と無意識の推論を用いて世界モデルを構築し、その中で知覚の原因を特定できるという考えは、ヘルマン・フォン・ヘルムホルツによるこの研究の反復にまで遡ります。これらの考えは、予測符号化という分野によってさらに発展しました。関連する予測学習理論としては、ジェフ・ホーキンスの記憶予測フレームワークがあり、これは彼の著書『On Intelligence』で概説されています。

数学的手順

トレーニングプロセス

MLと同様に、予測学習は、独立した入力データから未知の従属変数の値を推定することを目的としています。属性セットは、カテゴリデータ（人種、性別、所属などの離散的要因）または数値データ（気温、年収、速度などの連続値）に分類できます。すべての入力値セットはニューラルネットワークに入力され、値を予測します。出力を正確に予測するには、ニューラルネットワークの重み（各予測変数が結果にどの程度影響を与えるかを表す）をバックプロパゲーションによって段階的に調整し、実際のデータに近い推定値を生成する必要があります。 $Y$ $X=(x_{1},x_{2},\dots,x_{n})$ $y$

トレーニングを通じて ML モデルに十分な調整が行われ、実際の値に近い値を予測できるようになると、新しいデータの出力をほとんどエラーなく正しく予測できるようになります。

精度を最大化する

予測学習モデルの精度を最大限に高めるには、リスク式に従って実際の値と比較したときに予測値が特定の誤差しきい値を超えてはなりません。 ${\hat {y}}=F(x)$ $y$

R(F)=E_{xy}L(y,F(x))

、

ここで、は損失関数、は真の値、は予測データです。この誤差関数は、モデルの重みを段階的に調整し、最終的に以下のよく訓練された予測値に到達するために使用されます。^[⁴^] $L$ $y$ $F(x)$

F^{*}(x)={\underset {F(x)}{\operatorname {argmin} }}\,E_{xy}

L(y,F(x))

トレーニング後に誤差が無視できるほど小さくなるか、十分に小さいと判断されると、モデルは収束したとみなされます。

アンサンブル学習

場合によっては、単一の機械学習アプローチだけでは、特定のデータに対する正確な推定値を得るのに十分ではありません。アンサンブル学習とは、複数の機械学習アルゴリズムを組み合わせてより強力なモデルを作成することです。各モデルは次の関数で表されます。

F(x)=a_{0}+\sum _{m=1}^{M}a_{m}f_{m}(x)

、

ここで、はアンサンブルモデルの数、はバイアス、は各変数に対応する重み、は各変数に対応する活性化関数である。アンサンブル学習モデルは、各構成アプローチからの予測値の線形結合として表される。 $M$ $a_{0}$ $a_{m}$ $m$ $f_{m}(x)$

{\hat {a}}_{m}={\underset {a_{m}}{\operatorname {argmin} }}\sum _{i=1}^{N}L\left(y_{i},a_{0}+\sum _{m=1}^{M}a_{m}f_{m}(x_{i})\right)+\lambda \sum _{m=1}^{M}|a_{m}|

ここで、は実際の値、2番目のパラメータは各構成方法によって予測された値、は特定の予測変数に対する各モデルの変動を表す係数である。^[⁴^] $y_{i}$ $\lambda$

アプリケーション

認知発達

感覚運動信号は、物理的な接触時に脳に送られる神経インパルスです。人間の脳は感覚運動信号を予測的に表現する（入力感覚信号とトップダウン予測の間の予測誤差を最小化しようとする）ため、予測学習を用いて感覚運動信号を検出することは、早期認知発達において重要な役割を果たします。調整されていない予測子は本質的に予測能力を持っていないため、更新するには感覚運動経験を通して訓練する必要があります。^[⁵^]永井志江博士は最近の研究論文で、環境と相互作用する感覚運動システムと脳内の感覚運動システムをシミュレートする予測子という2つのモジュールアプローチに基づいて感覚運動信号を予測する予測学習の新しいアーキテクチャを提案しました。 ^[⁵^]

時空間記憶

コンピュータは時空間記憶における予測学習を用いて、構成フレームから画像を完全に作成します。この実装では、予測型リカレントニューラルネットワークが用いられます。これは、時系列などの連続データを扱うように設計されたニューラルネットワークです。^[要出典]予測学習をコンピュータビジョンと組み合わせて用いることで、コンピュータは独自の画像を作成できるようになります。これは、DNA鎖の複製、顔認識、さらにはX線画像の作成といった連続現象の再現に役立ちます。

ソーシャルメディアの消費者行動

最近の研究では、Facebook、Twitter、LinkedIn、YouTube、Instagram、Pinterestといった様々なソーシャルメディアプラットフォームから消費者行動に関するデータが収集されました。予測学習分析を用いることで、研究者はキャンペーンの成功率の判断、消費者を引き付けるための適正価格の見積もり、データの安全性の評価、特定の製品のターゲットとなる消費者の特定オーディエンスの分析など、消費者行動における様々な傾向を発見することができました。^{[ 6 ]}

参照

参考文献

^ 「ヤン・ルカン「予測学習：AIの新たなフロンティア」」" . Nokia Bell Labs . 2017年2月17日. 2023年11月4日閲覧。
^ Corporation, Predictive Success (2019年5月6日). 「予測分析の簡潔な歴史」 . Medium . 2023年10月27日閲覧。
^ ドレッシャー、ゲイリー・L. (1991). 『Made-up Minds: A Constructivist Approach to Artificial Intelligence』MIT Press. ISBN 978-0-262-04120-1。
^ ^a ^b Friedman, Jerome H.; Popescu, Bogdan E. (2008-09-17). 「ルールアンサンブルによる予測学習」 . The Annals of Applied Statistics . 2 (3): 916– 954. arXiv : 0811.1679 . doi : 10.1214/07-AOAS148 . ISSN 1932-6157 .
^ ^a ^b 永井幸恵 (2019-04-29). 「予測学習：早期認知発達における重要な役割」 . Philosophical Transactions of the Royal Society B: Biological Sciences . 374 (1771 ) 20180030. doi : 10.1098/rstb.2018.0030 . ISSN 0962-8436 . PMC 6452246. PMID 30852990 .
^ Chaudhary, Kiran; Alam, Mansaf; Al-Rakhami, Mabrook S.; Gumaei, Abdu (2021-05-25). 「ビッグデータ分析を用いたソーシャルメディア消費者行動予測のための機械学習ベースの数理モデリング」 . Journal of Big Data . 8 (1): 73. doi : 10.1186/s40537-021-00466-2 . ISSN 2196-1115 .

予測学習は、人工知能モデルに新しいデータを与え、その環境、能力、限界を理解する機械学習（ML）技術です。この技術は、神経科学、ビジネス、ロボット工学、コンピュータビジョンなど、多くの分野で応用されています。この概念は、フランスのコンピュータ科学者ヤン・ルカンが1988年にベル研究所で研究していた際に開発・発展させました。ルカンは、金融機関が小切手処理を自動化できるよう、手書き文字を検出するモデルを訓練しました。^[1]

予測学習の数学的基盤は17世紀に遡り、英国の保険会社ロイズが利益を上げるために予測分析を用いていました。 ^[2]数学的な概念として始まったこの手法は、人工知能の可能性を広げました。予測学習は、既存の精神構造を最小限に抑えて学習しようとする試みです。これは、ジャン・ピアジェが子供たちが相互作用を通して世界についての知識を構築するという記述に着想を得ました。ゲイリー・ドレシャーの著書『Made-up Minds』は、この概念の発展に決定的な役割を果たしました。^[3]

脳が予測と無意識の推論を用いて世界モデルを構築し、その中で知覚の原因を特定できるという考えは、ヘルマン・フォン・ヘルムホルツによるこの研究の反復にまで遡ります。これらの考えは、予測符号化という分野によってさらに発展しました。関連する予測学習理論としては、ジェフ・ホーキンスの記憶予測フレームワークがあり、これは彼の著書『On Intelligence』で概説されています。

数学的手順

トレーニングプロセス

MLと同様に、予測学習は、独立した入力データから未知の従属変数の値を推定することを目的としています。属性セットは、カテゴリデータ（人種、性別、所属などの離散的要因）または数値データ（気温、年収、速度などの連続値）に分類できます。すべての入力値セットはニューラルネットワークに入力され、値を予測します。出力を正確に予測するには、ニューラルネットワークの重み（各予測変数が結果にどの程度影響を与えるかを表す）をバックプロパゲーションによって段階的に調整し、実際のデータに近い推定値を生成する必要があります。 $Y$ $X=(x_{1},x_{2},\dots ,x_{n})$ $y$

トレーニングを通じて ML モデルに十分な調整が行われ、実際の値に近い値を予測できるようになると、新しいデータの出力をほとんどエラーなく正しく予測できるようになります。

精度を最大化する

予測学習モデルの精度を最大限に高めるには、リスク式に従って実際の値と比較したときに予測値が特定の誤差しきい値を超えてはなりません。 ${\hat {y}}=F(x)$ $y$

R(F)=E_{xy}L(y,F(x))

、

ここで、は損失関数、は真の値、は予測データです。この誤差関数は、モデルの重みを段階的に調整し、最終的に以下のよく訓練された予測値に到達するために使用されます。^[4] $L$ $y$ $F(x)$

F^{*}(x)={\underset {F(x)}{\operatorname {argmin} }}\,E_{xy}

L(y,F(x))

トレーニング後に誤差が無視できるほど小さくなるか、十分に小さいと判断されると、モデルは収束したとみなされます。

アンサンブル学習

場合によっては、単一の機械学習アプローチだけでは、特定のデータに対する正確な推定値を得るのに十分ではありません。アンサンブル学習とは、複数の機械学習アルゴリズムを組み合わせてより強力なモデルを作成することです。各モデルは次の関数で表されます。

F(x)=a_{0}+\sum _{m=1}^{M}a_{m}f_{m}(x)

、

ここで、はアンサンブルモデルの数、はバイアス、は各変数に対応する重み、は各変数に対応する活性化関数である。アンサンブル学習モデルは、各構成アプローチからの予測値の線形結合として表される。 $M$ $a_{0}$ $a_{m}$ $m$ $f_{m}(x)$

{\hat {a}}_{m}={\underset {a_{m}}{\operatorname {argmin} }}\sum _{i=1}^{N}L\left(y_{i},a_{0}+\sum _{m=1}^{M}a_{m}f_{m}(x_{i})\right)+\lambda \sum _{m=1}^{M}|a_{m}|

ここで、は実際の値、2番目のパラメータは各構成方法によって予測された値、は特定の予測変数に対する各モデルの変動を表す係数です。^[4] $y_{i}$ $\lambda$

アプリケーション

認知発達

感覚運動信号は、物理的な接触時に脳に送られる神経インパルスです。人間の脳は感覚運動信号を予測的に表現する（入力感覚信号とトップダウン予測の間の予測誤差を最小化しようとする）ため、予測学習を用いて感覚運動信号を検出することは、早期認知発達において重要な役割を果たします。調整されていない予測子は本質的に予測能力を持っていないため、更新するには、感覚運動経験を通して訓練する必要があります。 ^[5]永井志江博士は最近の研究論文で、環境と相互作用する感覚運動システムと脳内の感覚運動システムをシミュレートする予測子という2つのモジュールアプローチに基づいて感覚運動信号を予測する予測学習の新しいアーキテクチャを提案しました。^[5]

時空間記憶

コンピュータは時空間記憶における予測学習を用いて、構成フレームから画像を完全に作成します。この実装では、予測型リカレントニューラルネットワークが用いられます。これは、時系列などの連続データを扱うように設計されたニューラルネットワークです。^[要出典]予測学習をコンピュータビジョンと組み合わせて用いることで、コンピュータは独自の画像を作成できるようになります。これは、DNA鎖の複製、顔認識、さらにはX線画像の作成といった連続現象の再現に役立ちます。

ソーシャルメディアの消費者行動

最近の研究では、Facebook、Twitter、LinkedIn、YouTube、Instagram、Pinterestといった様々なソーシャルメディアプラットフォームから消費者行動に関するデータが収集されました。予測学習分析を用いることで、研究者はキャンペーンの成功率の判断、消費者を引き付けるための適正価格の見積もり、データのセキュリティ評価、特定の製品のターゲット層となる消費者の特定オーディエンスの分析など、消費者行動における様々な傾向を発見することができました。^[6]

参照

参考文献

^ 「ヤン・ルカン「予測学習：AIの新たなフロンティア」」Nokia Bell Labs . 2017年2月17日. 2023年11月4日閲覧。
^ Corporation, Predictive Success (2019年5月6日). 「予測分析の簡潔な歴史」. Medium . 2023年10月27日閲覧。
^ ドレッシャー、ゲイリー・L. (1991). 『Made-up Minds: A Constructivist Approach to Artificial Intelligence』MIT Press. ISBN 978-0-262-04120-1。
^ ab Friedman, Jerome H.; Popescu, Bogdan E. (2008-09-17). 「ルールアンサンブルによる予測学習」. The Annals of Applied Statistics . 2 (3): 916– 954. arXiv : 0811.1679 . doi : 10.1214/07-AOAS148 . ISSN 1932-6157.
^ ab 永井幸恵 (2019-04-29). 「予測学習：早期認知発達における重要な役割」. Philosophical Transactions of the Royal Society B: Biological Sciences . 374 (1771) 20180030. doi :10.1098/rstb.2018.0030. ISSN 0962-8436. PMC 6452246. PMID 30852990 .
^ Chaudhary, Kiran; Alam, Mansaf; Al-Rakhami, Mabrook S.; Gumaei, Abdu (2021-05-25). 「ビッグデータ分析を用いたソーシャルメディア消費者行動予測のための機械学習ベースの数理モデリング」. Journal of Big Data . 8 (1): 73. doi : 10.1186/s40537-021-00466-2 . ISSN 2196-1115.

Original text

Rate this translation

Your feedback will be used to help improve Google Translate

[1] 「ヤン・ルカン「予測学習：AIの新たなフロンティア」」" . Nokia Bell Labs . 2017年2月17日. 2023年11月4日閲覧。

[2] Corporation, Predictive Success (2019年5月6日). 「予測分析の簡潔な歴史」 . Medium . 2023年10月27日閲覧。

[3] ドレッシャー、ゲイリー・L. (1991). 『Made-up Minds: A Constructivist Approach to Artificial Intelligence』MIT Press. ISBN 978-0-262-04120-1。

[:1-4] Friedman, Jerome H.; Popescu, Bogdan E. (2008-09-17). 「ルールアンサンブルによる予測学習」 . The Annals of Applied Statistics . 2 (3): 916– 954. arXiv : 0811.1679 . doi : 10.1214/07-AOAS148 . ISSN 1932-6157 .

[:0-5] 永井幸恵 (2019-04-29). 「予測学習：早期認知発達における重要な役割」 . Philosophical Transactions of the Royal Society B: Biological Sciences . 374 (1771 ) 20180030. doi : 10.1098/rstb.2018.0030 . ISSN 0962-8436 . PMC 6452246. PMID 30852990 .

[6] Chaudhary, Kiran; Alam, Mansaf; Al-Rakhami, Mabrook S.; Gumaei, Abdu (2021-05-25). 「ビッグデータ分析を用いたソーシャルメディア消費者行動予測のための機械学習ベースの数理モデリング」 . Journal of Big Data . 8 (1): 73. doi : 10.1186/s40537-021-00466-2 . ISSN 2196-1115 .

[1] 「ヤン・ルカン「予測学習：AIの新たなフロンティア」」Nokia Bell Labs . 2017年2月17日. 2023年11月4日閲覧。

[2] Corporation, Predictive Success (2019年5月6日). 「予測分析の簡潔な歴史」. Medium . 2023年10月27日閲覧。

[3] ドレッシャー、ゲイリー・L. (1991). 『Made-up Minds: A Constructivist Approach to Artificial Intelligence』MIT Press. ISBN 978-0-262-04120-1。

[:1-4] Friedman, Jerome H.; Popescu, Bogdan E. (2008-09-17). 「ルールアンサンブルによる予測学習」. The Annals of Applied Statistics . 2 (3): 916– 954. arXiv : 0811.1679 . doi : 10.1214/07-AOAS148 . ISSN 1932-6157.

[:0-5] 永井幸恵 (2019-04-29). 「予測学習：早期認知発達における重要な役割」. Philosophical Transactions of the Royal Society B: Biological Sciences . 374 (1771) 20180030. doi :10.1098/rstb.2018.0030. ISSN 0962-8436. PMC 6452246. PMID 30852990 .

[6] Chaudhary, Kiran; Alam, Mansaf; Al-Rakhami, Mabrook S.; Gumaei, Abdu (2021-05-25). 「ビッグデータ分析を用いたソーシャルメディア消費者行動予測のための機械学習ベースの数理モデリング」. Journal of Big Data . 8 (1): 73. doi : 10.1186/s40537-021-00466-2 . ISSN 2196-1115.

[

[ 2 ]

[ 3 ]

[

[

[ 6 ]