アレクセイ・イヴァクネンコ

アレクセイ・イヴァクネンコ
生まれる
オレクシー・フリホロヴィチ・イヴァフネンコ
（1913年3月30日）1913年3月30日
ロシア帝国、ポルタヴァ県、コブリャキ
死亡2007年10月16日（2007年10月16日）（94歳）
キエフ、ウクライナ
母校レニングラード電気技術大学（理学修士）
知られているデータ処理のグループ法、 ディープラーニング、帰納的モデリング
受賞歴ソ連名誉科学者ソ連の二つの国家賞
科学者としてのキャリア
フィールド人工知能、 機械学習、 コンピュータサイエンス
機関グルシュコフサイバネティクス研究所、 キエフ電気技術大学、 キエフ工科大学（理学博士）
論文電動機の自動制御のための複合システムの理論 （1954年）

アレクセイ・イヴァクネンコ（ウクライナ語：Олексíй Григо́рович Іва́хненко、1913年3月30日 - 2007年10月16日）はソ連およびウクライナの数学者であり、帰納的統計学習法であるグループ法データ処理（GMDH）の開発で最も有名であり、これによりディープラーニングの創始者の一人とみなされている。[ 1 ] [ 2 ]

幼少期と教育

アレクセイはポルタヴァ県コベリャキの教師の家庭に生まれた。 [ 3 ]母マリア・オペルマンはドイツ系だった。1932年にキエフの電気工科大学を卒業し、ベレズニキの大規模発電所建設に2年間技師として従事した。その後、1938年にレニングラード電気工科大学を卒業した後、戦時中はモスクワの全連邦電気工科大学に勤務した。そこで彼はセルゲイ・レベデフの指導の下、研究室で自動制御の問題を研究した。

1944年にキエフに戻った後も、ウクライナの他の研究機関で研究を続けました。同年、博士号を取得し、その後1954年に理学博士号を取得しました。1964年にはサイバネティクス研究所の複合制御システム部門長に任命されました。同時に、当初は講師として、1961年からはキエフ工科大学で自動制御および技術サイバネティクスの教授として勤務しました。

研究

イヴァクネンコは、パターン認識と複雑系予測に用いられる科学的アプローチである帰納的モデリングの創始者として知られています。[ 4 ]彼はこのアプローチを、グループデータ処理法（GMDH）の開発に用いました。1968年、雑誌「アフトマティカ」に彼の論文「グループデータ処理法 ― 確率的近似法のライバル」が掲載され、[ 5 ]彼の科学的研究における新たな段階の幕開けとなりました。彼はサイバネティクス研究所の数学者とエンジニアからなる専門チームと共に、このアプローチの開発を主導しました。

データ処理のグループ方式

GMDH法は、人工知能における問題解決のための独自のアプローチ、さらには現代のコンピュータによって可能になった科学研究の新たな哲学を提示しています。 [ 4 ]研究者は、「一般理論から特定のモデルへ」という従来の演繹的なモデル構築方法、すなわち対象を監視し、その構造を研究し、その動作原理を理解し、理論を展開し、対象モデルのテストを行う方法に厳密に従う必要はありません。その代わりに、「特定のデータから一般モデルへ」という新しいアプローチが提案されています。つまり、データを入力した後、研究者はモデルのクラス、モデルの種類（バリアント生成）を選択し、モデル選択の基準を設定します。ほとんどの日常業務がコンピュータに移管されるため、客観的な結果に対する人間の影響は最小限に抑えられます。実際、このアプローチは、コンピュータが人間の強力なアドバイザーとして機能できるという人工知能のテーゼの実装の一つと見なすことができます。

GMDHの開発は、サイバネティックスの「ブラックボックス」概念と対になる特徴の連続的な遺伝的選択の原理、ゲーデルの不完全性定理とガボールの「決定選択の自由」原理、[ 6 ]アデマールの不正確さとビールの外的追加原理など、さまざまな科学分野のアイデアの統合から成り立っています。[ 7 ]

GMDHは、不確実性の下での実験データのモデルの構造パラメータ同定の問題を解決するための独自の方法です。[ 8 ]このような問題は、調査対象のオブジェクトまたはプロセスの未知のパターンを近似する数学モデルの構築で発生します。 [ 9 ]それはデータに暗黙的に含まれている情報を使用します。 GMDHは、自動モデル生成、不確定な決定、最適な複雑性のモデルを見つけるための外部基準による一貫した選択という原則を積極的に適用することで、他のモデリング方法と異なります。 GMDHには、ペアワイズ連続特徴を考慮した生物学的選択の進化プロセスを模倣する、自動モデル構造生成のための独自の多層手順がありました。 このような手順は現在、ディープラーニングネットワークで使用されています。[ 10 ]最適なモデルを比較して選択するために、データサンプルの2つ以上のサブセットが使用されます。これにより、サンプル分割によって最適モデルの自動構築中にさまざまな種類の不確実性が暗黙的に認識されるため、予備的な仮定を回避することができます。

1980年代初頭、イヴァクネンコは、ノイズの多いデータのモデル構築問題と、ノイズのあるチャネルを通過する信号との間に有機的な類似性を確立しました。[ 11 ]これにより、ノイズ耐性モデリング理論の基礎を築くことができました。[ 8 ]この理論の主な結果は、最適な予測モデルの複雑さはデータの不確実性のレベルに依存するということです。このレベルが高いほど（ノイズなどにより）、最適なモデルは単純になります（推定パラメータが少ない）。これが、ファジーデータの情報レベルに最適なモデルの複雑さを自動的に適応させる帰納的方法として、GMDH理論の開発のきっかけとなりました。そのため、GMDHは、実験データから知識を抽出するための元祖情報技術であると考えられることがよくあります。

結果

GMDH と並行して、Ivakhnenko は次の一連の結果を開発しました。

  • 自己組織化深層学習ネットワークの構築原理。[ 4 ]
  • 実験データに基づいた自己組織化モデルの理論。[ 12 ]
  • 予測最適化による制御方法。[ 13 ]
  • 交流および非同期電動機の速度自動制御の新しい原理。[ 14 ]
  • 測定された外乱を補償する適応制御のための不変システムの理論。 [ 15 ]彼は外乱の間接測定の原理を開発した。これは「微分フォーク」と呼ばれ、後に実際に使用された。
  • 複合制御の原理（制御変数に対する負帰還と制御外乱に対する正帰還）。[ 16 ]電気モーターの速度制御において、このようなシステムは実際に数多く実装されていた。これは、偏差制御におけるクローズドシステムの利点（高精度）とオープンシステムの利点（高性能）を融合した複合制御システムにおいて、不変条件の実用的実現可能性を証明した。
  • 状況認識に基づく非探索的極限調節器。[ 17 ]
  • 自己学習型パターン認識の原理。これは、彼のリーダーシップの下で開発された認知システム「アルファ」 [ 9 ]で初めて実証されました。
  • サイバネティック予測装置の構築の基礎。[ 18 ]
  • ノイズを含むデータに対する堅牢なモデリングのノイズ耐性原理。[ 8 ]
  • 各ニューロンがアルゴリズムであるアクティブニューロンを持つ多層ニューラルネットワークの設計。

イヴァクネンコは、不変性理論と、測定外乱補償の原理に基づく複合自動制御システムの理論における業績で広く知られています。彼は、磁気増幅器とモータを備えたシステムの適応制御のための装置と手法を開発しました。

彼は、ソ連初の工学サイバネティクスに関するモノグラフ[ 17 ]の著者であり、それは世界中で7つの言語で出版されました。[ 19 ]彼の研究では、複合制御の原理のさらなる発展が、制御システムにおける進化的自己組織化、パターン認識、予測の方法の実装と結び付けられました。

近年、彼の主要なイノベーションであるGMDH法は、帰納的モデリング、複雑なプロセス、およびシステム予測の方法として開発されました。彼のアイデアは現在、ディープラーニングネットワークで利用されています。[ 2 ]この方法の有効性は、生態学、気象学、経済学、テクノロジーの分野で実際の複雑な問題の解決中に繰り返し確認され、国際的な科学コミュニティでの人気が高まりました。[ 20 ]並行して、関連分野であるパターン認識のクラスタリング問題における進化的自己組織化アルゴリズムの開発が行われました。 [ 21 ]環境プロセスのモデリングの進歩はモノグラフに反映されており、[ 22 ] [ 11 ]経済プロセスのモデリングの進歩は書籍に反映されています。[ 13 ] [ 23 ]再帰型多層GMDHアルゴリズムの調査結果は書籍に記載されています。[ 12 ] [ 4 ]

科学派

イヴァフネンコは1963年から1989年まで、専門科学誌「アフトマティカ」（後に「経営と情報科学の問題」）の編集者を務め、ウクライナの帰納的モデリング学派の形成と発展に重要な役割を果たしました。この間、同誌はアメリカ合衆国で「ソビエト・オートマチック・コントロール」（後に「オートメーションと情報科学ジャーナル」）として翻訳・復刊されました。

イヴァフネンコは1945年以来、自身の分野における絶え間ない革新と並行して、積極的な教育活動を続け、最初は理論力学科の助教授、その後は制御システム学部に就任した。1960年からはキエフ工科大学技術サイバネティクス科の教授として、大学や学生への講義に加え、多くの大学院生の研究指導にもあたった。1958年から1964年にかけては、キエフで開催された全連邦不変会議の主催者を務め、そこで禁止されていた不変制御システム理論の発展が再開された。[ 24 ]

彼の尽きることのない情熱は、KPIとサイバネティクス研究所において、彼の指導の下、220名を超える若手研究者の博士論文作成と審査合格を支え、30名近くの教え子が博士論文審査を通過しました。イヴァフネンコの科学学校は、当時も今も、高度な科学専門家を輩出する真の揺りかごです。さらに、彼の教え子であるV.M.クンツェヴィチ、V.I.コスチュク、V.I.ヴァネンコ、V.I.ヴァシリエフ、A.A.A.パブロフらは、それぞれ独自の科学学校を設立し、高い評価を得ています。イヴァフネンコは、新しく卓越した科学的直感を持つ、輝かしい科学者の模範でした。彼は晩年まで精力的に研究を続け、独創的な科学的アイデアと成果を惜しみなく生み出しました。

賞と栄誉

イヴァフネンコはソ連名誉科学者（1972年）であり、不変自動システム理論に関する研究と人工知能分野における情報技術に関する一連の出版物により、国家賞を2度（1991年、1997年）受賞した。著書は40冊、科学論文は500本以上。国立工科大学「KPI」（2003年）およびリヴィウ工科大学（2005年）の名誉博士号を授与された。ソ連科学アカデミー通信会員（1961年）、ウクライナ科学アカデミー会員（2003年）であった。

選りすぐりの作品

参考文献

  1. ^ Schmidhuber, Jurgen. 「『ディープラーニング陰謀論』論文批判」（Nature 521 p 436） . 2019年12月26日閲覧。
  2. ^ a b Schmidhuber, J. (2015年1月). 「ニューラルネットワークにおけるディープラーニング：概要」(PDF) .ニューラルネットワーク. 61 : 85–117 . arXiv : 1404.7828 . doi : 10.1016/j.neunet.2014.09.003 . PMID 25462637. S2CID 11715509. 2019年12月26日閲覧.  
  3. ^ Бобрищев、К.В. （2002年）。Отчий Край (ウクライナ語)。 Полтава: Дивосвіт。ページ 284–293。ISBN​​ 978-966-95846-9-4。
  4. ^ a b c dマダラ、HR;イヴァクネンコ、AG (1994)。複雑系モデリングのための帰納的学習アルゴリズム(PDF)。ボカラトン：CRCプレス。ISBN 978-0849344381。
  5. ^ Ivakhnenko, AG (1968). 「データ処理のグループ法 - 確率的近似法のライバル」.ソビエト自動制御. 13 (3): 43– 55.
  6. ^ Gabor, D. (1971). 『計画の展望』 経済協力開発機構ロンドン: Imp.Coll.
  7. ^ Beer, S. (1959). 『サイバネティクスとマネジメント』ロンドン: イングリッシュ・ユニバーシティ・プレス.
  8. ^ a b cイヴァフネンコ、AG;ステパシュコ、VS (1985)。Pomekhoustojchivost の Modelirovanija (モデリングのノイズ耐性) (PDF)。キエフ：ナウコヴァ・ドゥムカ。
  9. ^ a bイヴァクネンコ, AG; ラパ, VG (1967).サイバネティクスと予測技術（科学と数学における現代の分析的・計算手法、第8版）. アメリカン・エルゼビア. ISBN 978-0444000200。
  10. ^ Takao, S.; Kondo, S.; Ueno, J.; Kondo, T. (2017). 「ディープフィードバックGMDH型ニューラルネットワークとMRI脳画像の医用画像解析への応用」.人工生命・ロボティクス. 23 (2): 161– 172. doi : 10.1007/s10015-017-0410-1 . S2CID 44190434 . 
  11. ^ a b Ivahnenko, AG (1982).複雑系のための自己組織化モデルの帰納的手法(PDF) (ロシア語). キエフ: Naukova Dumka.
  12. ^ a bイヴァクネンコ、AG;ユラチコフスキー、Yu.P. （1986年）。Modelirovanie Slozhnykh Sistem po Experimentalnym Dannym (実験データに基づいた複雑なシステムのモデリング)。男性: ラジオはスヴィャズです。
  13. ^ a b Ivakhnenko, AG; Müller, JA (1985).予測モデルの自己組織化(PDF) (ロシア語). キエフ: Tehnika.
  14. ^ Ivakhnenko, AG (1953).中出力非同期モータの速度自動制御. キエフ: Izd.AN USSR.
  15. ^ Ivakhnenko, AG (1954).電動モーターの複合自動制御理論. キエフ: Izd.KPI.
  16. ^ Ivakhnenko, AG (1954). Electroautomatika . キエフ: Gostekhizdat.
  17. ^ a bイヴァクネンコ、AG (1959)。テクニチェスカヤ・キベルネティカ。キエフ: ゴステチズダットソ連。
  18. ^ Ivakhnenko, AG (1969).認識と自動制御の自己学習システム. キエフ: Tehnika.
  19. ^イヴァクネンコ、AG (1962)。テクノロジ kybernetik。ベルリン: Verlag Technik。
  20. ^ Farlow, SJ編 (1984).モデリングにおける自己組織化手法：GMDH型アルゴリズム（統計：教科書とモノグラフ、第54巻）. Marcel Dekker Inc. ISBN 978-0824771614. 2019年12月26日閲覧。
  21. ^ Ivahnenko, AG; Zaychenko, Yu.P.; Dimitrov, VD (1976).自己組織化に基づく意思決定. M: Sov.Radio.
  22. ^ Ivahnenko, AG (1975).長期予測と複雑系制御(PDF) (ロシア語). キエフ: Tehnika.
  23. ^イヴァチネンコ、AG;ミュラー、JA (1984)。Selbstorganisation von Vorhersagemodellen。ベルリン：Veb Verlag Technik。
  24. ^「科学と産業」プラウダ紙。ソ連共産党。1941年5月16日。
「 https://en.wikipedia.org/w/index.php?title=Alexey_Ivakhnenko&oldid=1335722532」から取得