凸共役

Generalization of the Legendre transformation

数学および数理最適化において、関数の凸共役は、非凸関数に適用されるルジャンドル変換の一般化である。ルジャンドル・フェンシェル変換、フェンシェル変換、あるいはフェンシェル共役（アドリアン＝マリー・ルジャンドルとヴェルナー・フェンシェルにちなんで）とも呼ばれる。凸共役は最適化理論における双対問題の構築に広く用いられ、ラグランジュ双対性を一般化する。

意味

を実位相ベクトル空間とし、を の双対空間とする。 ${\displaystyle X}$ ${\displaystyle X^{*}}$ ${\displaystyle X}$

${\displaystyle \langle \cdot ,\cdot \rangle :X^{*}\times X\to \mathbb {R} }$

標準的な双対関係は次のように定義される。 ${\displaystyle \left\langle x^{*},x\right\rangle \mapsto x^{*}(x).}$

拡張実数直線上の値をとる関数の場合、その凸共役関数は次のようになる。 ${\displaystyle f:X\to \mathbb {R} \cup \{-\infty ,+\infty \}}$

${\displaystyle f^{*}:X^{*}\to \mathbb {R} \cup \{-\infty ,+\infty \}}$

における値は上限値として定義されます。 ${\displaystyle x^{*}\in X^{*}}$

${\displaystyle f^{*}\left(x^{*}\right):=\sup \left\{\left\langle x^{*},x\right\rangle -f(x)~\colon ~x\in X\right\},}$

あるいは、最小値に関して言えば、

${\displaystyle f^{*}\left(x^{*}\right):=-\inf \left\{f(x)-\left\langle x^{*},x\right\rangle ~\colon ~x\in X\right\}.}$

この定義は、関数のエピグラフの凸包を、それを支える超平面の観点から符号化したものとして解釈することができる。^[1]

例

その他の例については、§ 選択された凸共役の表を参照してください。

• アフィン関数 の凸共役は ${\displaystyle f(x)=\left\langle a,x\right\rangle -b}$ $${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}b,&x^{*}=a\\+\infty ,&x^{*}\neq a.\end{cases}}}$$
• べき乗関数 の凸共役は ${\displaystyle f(x)={\frac {1}{p}}|x|^{p},1<p<\infty }$ $${\displaystyle f^{*}\left(x^{*}\right)={\frac {1}{q}}|x^{*}|^{q},1<q<\infty ,{\text{where}}{\tfrac {1}{p}}+{\tfrac {1}{q}}=1.}$$
• 絶対値関数の凸共役は ${\displaystyle f(x)=\left|x\right|}$ $${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}0,&\left|x^{*}\right|\leq 1\\\infty ,&\left|x^{*}\right|>1.\end{cases}}}$$
• 指数関数 の凸共役は ${\displaystyle f(x)=e^{x}}$ $${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}x^{*}\ln x^{*}-x^{*},&x^{*}>0\\0,&x^{*}=0\\\infty ,&x^{*}<0.\end{cases}}}$$

指数関数の凸共役とルジャンドル変換は、ルジャンドル変換が正の実数に対してのみ定義されるため凸共役の定義域が厳密に大きくなることを除いて一致します。

期待不足額（リスクのある平均値）との関連性

たとえば、この記事をご覧ください。

Fを確率変数Xの累積分布関数とすると、 （部分積分）は凸共役となる 。  $${\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]}$$ $${\displaystyle f^{*}(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].}$$

注文

特定の解釈では、この変換は初期関数fの非減少的な並べ替えであり、特にfが非減少である場合に該当します。 $${\displaystyle f^{\text{inc}}(x):=\arg \sup _{t}t\cdot x-\int _{0}^{1}\max\{t-f(u),0\}\,du,}$$ ${\displaystyle f^{\text{inc}}=f}$

プロパティ

閉凸関数の凸共役は、やはり閉凸関数である。多面体凸関数（多面体 エピグラフを持つ凸関数）の凸共役は、やはり多面体凸関数である。

順序の逆転

全ての場合において、かつその場合に限って、凸共役は順序反転であり、定義により、次のようになる。 ${\displaystyle f\leq g}$ ${\displaystyle f(x)\leq g(x)}$ ${\displaystyle x.}$ ${\displaystyle f\leq g}$ ${\displaystyle f^{*}\geq g^{*}.}$

関数族の場合、上限が交換可能であるという事実から、 ${\displaystyle \left(f_{\alpha }\right)_{\alpha }}$

${\displaystyle \left(\inf _{\alpha }f_{\alpha }\right)^{*}(x^{*})=\sup _{\alpha }f_{\alpha }^{*}(x^{*}),}$

そして、最大最小不等式から

${\displaystyle \left(\sup _{\alpha }f_{\alpha }\right)^{*}(x^{*})\leq \inf _{\alpha }f_{\alpha }^{*}(x^{*}).}$

二重共役

関数の凸共役は常に下半連続である。共役二項 （凸共役の凸共役）は閉じた凸包、すなわち下半連続凸関数の中で最大のものとなる。 適切な関数の場合、 ${\displaystyle f^{**}}$ ${\displaystyle f^{**}\leq f.}$ ${\displaystyle f,}$

${\displaystyle f=f^{**}}$ フェンシェル・モローの定理により、 が凸かつ下半連続である場合に限ります。 ${\displaystyle f}$

フェンチェルの不等式

任意の関数f とその凸共役関数f *に対して、フェンチェルの不等式（フェンチェル・ヤングの不等式とも呼ばれる）が任意の およびに対して成立します。 ${\displaystyle x\in X}$ ${\displaystyle p\in X^{*}}$

${\displaystyle \left\langle p,x\right\rangle \leq f(x)+f^{*}(p).}$

さらに、等式は の場合にのみ成立します。ここでは劣勾配です。証明は凸共役の定義から得られます。 ${\displaystyle p\in \partial f(x)}$ ${\displaystyle \partial f(x)}$ ${\displaystyle f^{*}(p)=\sup _{\tilde {x}}\left\{\langle p,{\tilde {x}}\rangle -f({\tilde {x}})\right\}\geq \langle p,x\rangle -f(x).}$

凸状性

2つの関数と数に対して凸関係 ${\displaystyle f_{0}}$ ${\displaystyle f_{1}}$ ${\displaystyle 0\leq \lambda \leq 1}$

${\displaystyle \left((1-\lambda )f_{0}+\lambda f_{1}\right)^{*}\leq (1-\lambda )f_{0}^{*}+\lambda f_{1}^{*}}$

が成り立ちます。この演算自体が凸写像です。 ${\displaystyle {*}}$

内接畳み込み

2つの関数の最小畳み込み（またはエピサム）は次のように定義されます 。 ${\displaystyle f}$ ${\displaystyle g}$

${\displaystyle \left(f\operatorname {\Box } g\right)(x)=\inf \left\{f(x-y)+g(y)\mid y\in \mathbb {R} ^{n}\right\}.}$

この演算は対称的（可換）かつ結合的である。すなわち ${\displaystyle \operatorname {\Box } }$

${\displaystyle f\Box g=g\Box f,\qquad (f\Box g)\Box h=f\Box (g\Box h).}$

を の適切な凸下半連続関数とすると、最小畳み込みは凸下半連続（ただし必ずしも適切ではない）となり、[ ^2]、 ${\displaystyle f_{1},\ldots ,f_{m}}$ ${\displaystyle \mathbb {R} ^{n}.}$

${\displaystyle \left(f_{1}\operatorname {\Box } \cdots \operatorname {\Box } f_{m}\right)^{*}=f_{1}^{*}+\cdots +f_{m}^{*},}$

あるいは、同等に、

${\displaystyle \left(f_{1}+\cdots +f_{m}\right)^{*}=f_{1}^{*}\operatorname {\Box } \cdots \operatorname {\Box } f_{m}^{*},}$

これは関数の和に関する凸共役の挙動を表します。

2つの関数の最小畳み込みには幾何学的な解釈がある。2つの関数の最小畳み込みの（厳密な）エピグラフは、それらの関数の（厳密な）エピグラフのミンコフスキー和である。 ^[3]

議論を最大化する

関数が微分可能な場合、その導関数は凸共役の計算において最大化する引数となります。 ${\displaystyle f}$

${\displaystyle f^{\prime }(x)=x^{*}(x):=\arg \sup _{x^{*}}{\langle x,x^{*}\rangle }-f^{*}\left(x^{*}\right)}$そして

${\displaystyle f^{{*}\prime }\left(x^{*}\right)=x\left(x^{*}\right):=\arg \sup _{x}{\langle x,x^{*}\rangle }-f(x);}$

したがって

${\displaystyle x=\nabla f^{*}\left(\nabla f(x)\right),}$

${\displaystyle x^{*}=\nabla f\left(\nabla f^{*}\left(x^{*}\right)\right),}$

さらに

${\displaystyle f^{\prime \prime }(x)\cdot f^{{*}\prime \prime }\left(x^{*}(x)\right)=1,}$

${\displaystyle f^{{*}\prime \prime }\left(x^{*}\right)\cdot f^{\prime \prime }\left(x(x^{*})\right)=1.}$

スケーリング特性

もし、ある人にとって、 ${\displaystyle \gamma >0,}$ ${\displaystyle g(x)=\alpha +\beta x+\gamma \cdot f\left(\lambda x+\delta \right)}$

${\displaystyle g^{*}\left(x^{*}\right)=-\alpha -\delta {\frac {x^{*}-\beta }{\lambda }}+\gamma \cdot f^{*}\left({\frac {x^{*}-\beta }{\lambda \gamma }}\right).}$

線形変換における動作

を有界線型作用素とする。任意の凸関数に対して ${\displaystyle A:X\to Y}$ ${\displaystyle f}$ ${\displaystyle X,}$

${\displaystyle \left(Af\right)^{*}=f^{*}A^{*}}$

どこ

${\displaystyle (Af)(y)=\inf\{f(x):x\in X,Ax=y\}}$

は の逆像であり、はの随伴作用素である^[4] ${\displaystyle f}$ ${\displaystyle A}$ ${\displaystyle A^{*}}$ ${\displaystyle A.}$

閉凸関数は与えられた直交線形変換の集合に関して対称である。 ${\displaystyle f}$ ${\displaystyle G}$

${\displaystyle f(Ax)=f(x)}$すべての人のために ${\displaystyle x}$ ${\displaystyle A\in G}$

凸共役が対称である場合に限り、 ${\displaystyle f^{*}}$ ${\displaystyle G.}$

選択された凸共役の表

次の表は多くの一般的な関数のルジャンドル変換といくつかの便利な性質を示しています。^[5]

${\displaystyle g(x)}$	${\displaystyle \operatorname {dom} (g)}$	${\displaystyle g^{*}(x^{*})}$	${\displaystyle \operatorname {dom} (g^{*})}$
${\displaystyle f(ax)}$（どこ） ${\displaystyle a\neq 0}$	${\displaystyle X}$	${\displaystyle f^{*}\left({\frac {x^{*}}{a}}\right)}$	${\displaystyle X^{*}}$
${\displaystyle f(x+b)}$	${\displaystyle X}$	${\displaystyle f^{*}(x^{*})-\langle b,x^{*}\rangle }$	${\displaystyle X^{*}}$
${\displaystyle af(x)}$（どこ） ${\displaystyle a>0}$	${\displaystyle X}$	${\displaystyle af^{*}\left({\frac {x^{*}}{a}}\right)}$	${\displaystyle X^{*}}$
${\displaystyle \alpha +\beta x+\gamma \cdot f(\lambda x+\delta )}$	${\displaystyle X}$	${\displaystyle -\alpha -\delta {\frac {x^{*}-\beta }{\lambda }}+\gamma \cdot f^{*}\left({\frac {x^{*}-\beta }{\gamma \lambda }}\right)\quad (\gamma >0)}$	${\displaystyle X^{*}}$
${\displaystyle {\frac {|x|^{p}}{p}}}$（どこ） ${\displaystyle p>1}$	${\displaystyle \mathbb {R} }$	${\displaystyle {\frac {|x^{*}|^{q}}{q}}}$（どこ） ${\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1}$	${\displaystyle \mathbb {R} }$
${\displaystyle {\frac {-x^{p}}{p}}}$（どこ） ${\displaystyle 0<p<1}$	${\displaystyle \mathbb {R} _{+}}$	${\displaystyle {\frac {-(-x^{*})^{q}}{q}}}$（どこ） ${\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1}$	${\displaystyle \mathbb {R} _{--}}$
${\displaystyle {\sqrt {1+x^{2}}}}$	${\displaystyle \mathbb {R} }$	${\displaystyle -{\sqrt {1-(x^{*})^{2}}}}$	${\displaystyle [-1,1]}$
${\displaystyle -\log(x)}$	${\displaystyle \mathbb {R} _{++}}$	${\displaystyle -(1+\log(-x^{*}))}$	${\displaystyle \mathbb {R} _{--}}$
${\displaystyle e^{x}}$	${\displaystyle \mathbb {R} }$	${\displaystyle {\begin{cases}x^{*}\log(x^{*})-x^{*}&{\text{if }}x^{*}>0\\0&{\text{if }}x^{*}=0\end{cases}}}$	${\displaystyle \mathbb {R} _{+}}$
${\displaystyle \log \left(1+e^{x}\right)}$	${\displaystyle \mathbb {R} }$	${\displaystyle {\begin{cases}x^{*}\log(x^{*})+(1-x^{*})\log(1-x^{*})&{\text{if }}0<x^{*}<1\\0&{\text{if }}x^{*}=0,1\end{cases}}}$	${\displaystyle [0,1]}$
${\displaystyle -\log \left(1-e^{x}\right)}$	${\displaystyle \mathbb {R} _{--}}$	${\displaystyle {\begin{cases}x^{*}\log(x^{*})-(1+x^{*})\log(1+x^{*})&{\text{if }}x^{*}>0\\0&{\text{if }}x^{*}=0\end{cases}}}$	${\displaystyle \mathbb {R} _{+}}$

参照

• 二重問題
• フェンチェルの双対定理
• ルジャンドル変換
• ヤングの積の不等式

参考文献

1. 「Legendre Transform」 . 2019年4月14日閲覧。
2. フェルプス、ロバート(1993).凸関数、単調演算子、微分可能性（第2版）. シュプリンガー. p. 42. ISBN 0-387-56715-1。
3. Bauschke, Heinz H.; Goebel, Rafal; Lucet, Yves; Wang, Xianfu (2008). 「近似平均：基本理論」. SIAM Journal on Optimization . 19 (2): 766. CiteSeerX 10.1.1.546.4270 . doi :10.1137/070687542. 
4. Ioffe, AD および Tichomirov, VM (1979)、 Theorie der Extremalaufgaben。 Deutscher Verlag der Wissenschaften。サッツ 3.4.3
5. ボルウェイン, ジョナサン; ルイス, エイドリアン (2006).凸解析と非線形最適化：理論と例（第2版）. シュプリンガー. pp. 50–51. ISBN 978-0-387-29570-1。

• アルノルド、ウラジミール・イゴレヴィッチ(1989). 『古典力学の数学的手法』（第2版）. シュプリンガー. ISBN 0-387-96890-3. MR  0997295。
• R・ティレル・ロッカフェラー;ウェッツ、ロジャー J.-B. (2009 年 6 月 26 日)。変分分析。 Grundlehren der mathematischen Wissenschaften。 Vol. 317. ベルリン、ニューヨーク: Springer Science & Business Media。ISBN 9783642024313. OCLC  883392544。
• ロッカフェラー、R. タイレル(1970).凸解析. プリンストン: プリンストン大学出版局. ISBN 0-691-01586-4. MR  0274683。

さらに読む

• Touchette, Hugo (2014年10月16日). 「Legendre-Fenchel transforms in a nutshell」(PDF) . オリジナル(PDF)から2017年4月7日にアーカイブ。 2017年1月9日閲覧。

• Touchette, Hugo (2006-11-21). 「凸解析の要素」(PDF) . オリジナル(PDF)から2015年5月26日にアーカイブ。 2008年3月26日閲覧。

• エラーマン、デイヴィッド・パターソン(1995年3月21日). 「第12章 並列加算、直並列双対性、そして金融数学」. 『知的侵入を生き方として：哲学、経済学、数学のエッセイ集』(PDF) . 『世俗哲学：哲学と経済学の交差点における研究』. Rowman & Littlefield Publishers, Inc. pp.  237– 268. ISBN 0-8476-7932-2. 2016年3月5日にオリジナルからアーカイブ（PDF）されました。2019年8月9日に取得。シリーズG - 参考文献、情報、学際的主題シリーズ[1] （271ページ）

• エラーマン、デイビッド・パターソン(2004年5月) [1995年3月21日]. 「直並列双対性入門」(PDF) .カリフォルニア大学リバーサイド校. CiteSeerX  10.1.1.90.3666 . 2019年8月10日時点のオリジナルよりアーカイブ。 2019年8月9日閲覧。[2] （24ページ）

Retrieved from "https://en.wikipedia.org/w/index.php?title=Convex_conjugate&oldid=1317023829#Infimal_convolution"