チラシの裏です。
×
[PR]上記の広告は3ヶ月以上新規記事投稿のないブログに表示されています。新しい記事を書く事で広告が消えます。
最適化や自然言語処理などの本でよく出てきます。
fが凸な関数とするとき
E[f(x)] ≧ f(E[x])
導くには図を描くとわかりやすいです。
f(x) に接する直線を考えると、常にこの直線よりf(x)のほうが大きい。
ここでμ = E[x]とし、この直線が(μ, f(μ))を通るとすると
この直線は
y = f(μ) + b(x - μ)
と表せる(bは傾き)。
常に直線よりf(x)の値が大きいので
f(x) ≧ f(μ) + b(x - μ)
ここで両辺の期待値を取ると
E[f(x)] ≧ E[f(μ)] + b(E[x]-μ)
μ = E[x]としたこと、またf(μ)は定数であるのでE[f(μ)] = f(μ)
E[f(x)] ≧ f(E[x]) + b(E[x]-E[x])
E[f(x)] ≧ f(E[x])
fが凸な関数とするとき
E[f(x)] ≧ f(E[x])
導くには図を描くとわかりやすいです。
f(x) に接する直線を考えると、常にこの直線よりf(x)のほうが大きい。
ここでμ = E[x]とし、この直線が(μ, f(μ))を通るとすると
この直線は
y = f(μ) + b(x - μ)
と表せる(bは傾き)。
常に直線よりf(x)の値が大きいので
f(x) ≧ f(μ) + b(x - μ)
ここで両辺の期待値を取ると
E[f(x)] ≧ E[f(μ)] + b(E[x]-μ)
μ = E[x]としたこと、またf(μ)は定数であるのでE[f(μ)] = f(μ)
E[f(x)] ≧ f(E[x]) + b(E[x]-E[x])
E[f(x)] ≧ f(E[x])
[2回]
PR
この記事にコメントする
