対数凹関数

凸解析において、非負関数f  : Rn → R _+が対数凹関数（または略して対数凹関数）であるとは^、その定義域が凸集合であり、かつ不等式

${\displaystyle f(\theta x+(1-\theta )y)\geq f(x)^{\theta }f(y)^{1-\theta }}$

すべてのx , y ∈ dom fおよび0 <  θ  < 1に対して成り立つ。f が厳密に正であれば、これは関数の対数log ∘ fが凹であると言うことと同値である。つまり、

${\displaystyle \log f(\theta x+(1-\theta )y)\geq \theta \log f(x)+(1-\theta )\log f(y)}$

すべてのx , y ∈ dom fおよび0 <  θ  < 1に対して。

対数凹関数の例としては、凸集合の 0-1指示関数(より柔軟な定義が必要) やガウス関数などが挙げられます。

同様に、関数が逆不等式を満たすとき、 その関数は対数凸関数である。

${\displaystyle f(\theta x+(1-\theta )y)\leq f(x)^{\theta }f(y)^{1-\theta }}$

すべてのx , y ∈ dom fおよび0 <  θ  < 1に対して。

プロパティ

• 対数凹関数は準凹関数でもある。これは対数が単調であるという事実から導かれ、この関数の上位集合が凸であることを意味する。 ^[1]
• 定義域で非負となる凹関数はすべて対数凹関数である。しかし、逆は必ずしも成り立たない。例えば、ガウス関数 f ( x )  =  exp(− x ² /2)は、 log f ( x )  =  − x ² /2がxの凹関数であるため対数凹関数である。しかし、 | x | > 1において2階微分が正となるため、 fは凹関数ではない。

${\displaystyle f''(x)=e^{-{\frac {x^{2}}{2}}}(x^{2}-1)\nleq 0}$

• 上記の2点から、凹面 、対数凹面、準凹面となります。${\displaystyle \Rightarrow}$ ${\displaystyle \Rightarrow}$
• 凸定義域を持つ2回微分可能な非負関数が対数凹関数となるのは、任意のxに対してf ( x )>0を満たすときのみである。

${\displaystyle f(x)\nabla ^{2}f(x)\preceq \nabla f(x)\nabla f(x)^{T}}$ , ^[1]

すなわち

${\displaystyle f(x)\nabla ^{2}f(x)-\nabla f(x)\nabla f(x)^{T}}$ は

負の半定値。1変数関数の場合、この条件は次のように簡略化される。

${\displaystyle f(x)f''(x)\leq (f'(x))^{2}}$

対数凹性を保存する演算

• 積：対数凹関数の積も対数凹関数である。実際、fとgが対数凹関数であれば、log  fとlog  gは定義により凹となる。したがって、

${\displaystyle \log \,f(x)+\log \,g(x)=\log(f(x)g(x))}$

は凹面なので、f  gも対数凹面です。

• 周辺分布：f ( x , y )  :  R ^{n + m}  →  Rが対数凹ならば、

${\displaystyle g(x)=\int f(x,y)dy}$

は対数凹面です（プレコパ・ラインドラー不等式を参照）。

• これは畳み込みが対数凹性を保存することを意味する。なぜなら、 fとgが対数凹であれば、 h ( x , y )  =  f ( x - y )  g ( y )は対数凹であり、したがって

${\displaystyle (f*g)(x)=\int f(xy)g(y)dy=\int h(x,y)dy}$

対数凹面です。

対数凹分布

対数凹分布は、適応的棄却サンプリングなど、多くのアルゴリズムに必要です。対数凹分布の密度を持つすべての分布は、指定された平均μと偏差リスク尺度Dを持つ最大エントロピー確率分布です。^[2] 実際、多くの一般的な確率分布は対数凹分布です。いくつかの例を挙げます。^[3]

• 正規分布と多変量正規分布、
• 指数分布、
• 任意の凸集合上の一様分布、
• 二項分布、
• ロジスティック分布、
• 極値分布、
• ラプラス分布、
• カイ分布、
• 双曲正割分布、
• ウィシャート分布、n ≥ p + 1の場合、^[4]
• ディリクレ分布、すべてのパラメータが1以上の場合、^[4]
• 形状パラメータが1以上の場合はガンマ分布、
• 自由度が2以上の場合はカイ二乗分布、
• 両方の形状パラメータが1以上の場合はベータ分布、
• 形状パラメータが1以上の場合はワイブル分布。

すべてのパラメータ制約の基本的なソースは同じであることに注意してください。関数が対数凹になるためには、非負の量の指数は非負でなければなりません。

次の分布は、すべてのパラメータに対して非対数凹分布です。

• スチューデントのt分布、
• コーシー分布、
• パレート分布、
• 対数正規分布、および
• F分布。

すべての対数凹分布の累積分布関数（CDF）は対数凹分布であることに注意してください。ただし、対数凹分布ではない分布でも、CDFが対数凹分布となる場合があります。

• 対数正規分布、
• パレート分布、
• 形状パラメータ<1の場合のワイブル分布、および
• 形状パラメータ < 1 の場合のガンマ分布。

対数凹分布の特性には次のようなものがあります。

• 密度が対数凹面の場合、その累積分布関数(CDF) も対数凹面になります。
• 多変量密度が対数凹面である場合、変数の任意のサブセット上の周辺密度も対数凹面になります。
• 2つの独立した対数凹確率変数の和は対数凹である。これは、2つの対数凹関数の畳み込みが対数凹であるという事実から導かれる。
• 2つの対数凹関数の積は対数凹関数である。これは、 2つの確率密度（例えば、形状パラメータが常に1以上の正規ガンマ分布）を乗じて形成される結合密度が対数凹関数となることを意味する。この性質は、 BUGSやJAGSなどの汎用ギブスサンプリングプログラムで頻繁に利用されており、これらのプログラムでは、他の分布の積から導出される様々な条件付き分布に対して適応的棄却サンプリングを行うことができる。
• 密度が対数凹面であれば、その生存関数も対数凹面となる。^[3]
• 密度が対数凹面の場合、単調なハザード率（MHR）を持ち、生存関数の対数の導関数が負のハザード率であるため正規分布となり、凹面であるため単調である。

${\displaystyle {\frac {d}{dx}}\log \left(1-F(x)\right)=-{\frac {f(x)}{1-F(x)}}}$ これは凹関数の微分なので減少します。

参照

• 対数的に凹状の列
• 対数的に凹状の尺度
• 対数凸関数
• 凸関数

注記

1. Boyd, Stephen ; Vandenberghe, Lieven (2004). 「対数凹関数と対数凸関数」.凸最適化. ケンブリッジ大学出版局. pp.  104– 108. ISBN 0-521-83378-7。
2. Grechuk, Bogdan; Molyboha, Anton; Zabarankin, Michael (2009年5月). 「一般偏差尺度を用いた最大エントロピー原理」(PDF) .オペレーションズ・リサーチ数学. 34 (2): 445– 467. doi :10.1287/moor.1090.0377.
3. Bagnoli , Mark; Bergstrom, Ted (2005). 「対数凹確率とその応用」(PDF) .経済理論. 26 (2): 445– 469. doi :10.1007/s00199-004-0514-4. S2CID  1046688.
4. Prékopa, András (1971). 「対数凹測度と確率計画法への応用」(PDF) . Acta Scientiarum Mathematicarum . 32 ( 3–4 ): 301– 316.

参考文献

• バーンドルフ＝ニールセン、オレ（1978年）『統計理論における情報と指数族』ワイリー確率・数理統計シリーズ、チチェスター：ジョン・ワイリー・アンド・サンズ社、9～238頁、ISBN 0-471-99545-2. MR  0489333。
• ダルマディカリ, スダカール; ジョアグ・デヴ, クマール (1988).単峰性、凸状性、そしてその応用. 確率と数理統計. ボストン, マサチューセッツ州: アカデミック・プレス, Inc. pp. xiv+278. ISBN 0-12-214690-5. MR  0954608。

• ファンザグル、ヨハン; R. Hamböker の協力を得て (1994)。パラメトリック統計理論。ウォルター・デ・グルイテル。ISBN 3-11-013863-8. MR  1291393。

• Pečarić, Josip E.; Proschan, Frank ; Tong, YL (1992).凸関数、半順序、および統計的応用. 理工学における数学. 第187巻. ボストン, MA: Academic Press, Inc. pp. xiv+467 pp. ISBN 0-12-549250-2. MR  1162312。