indicator と積分を用いて元の値を表現する


例えば,ベクトル xRd\mathbf x\in\mathbb R^d のノルムの2乗 x22\|\mathbf x\|_2^2 は,次のように表現できます.

x22=0x221dr=0x22I[x22>r]dr=0I[x22>r]dr\begin{align*} \|\mathbf x\|_2^2 &= \int_0^{\|\mathbf x\|_2^2} 1 \: dr \\ &= \int_0^{\|\mathbf x\|_2^2} \mathbb I[\|\mathbf x\|_2^2 > r] \: dr \\ &= \int_0^\infty \mathbb I[\|\mathbf x\|_2^2 > r] \: dr \\ \end{align*}

使用例

球の内側を除いた領域のノルムの期待値の上界を求めるときなどに使用できます.

E[x22I[x22>R]]=x22I[x22>R]p(x)dx=0I[x22>r]I[x22>R]p(x)drdx=0I[x22>max(r,R)]p(x)drdx=0RI[x22>R]p(x)drdx+RI[x22>r]p(x)drdx=RI[x22>R]p(x)dx+RP[x22>r]dr=RP[x22>R]+RP[x22>r]dr\begin{align*} \mathbb E\left[\|\mathbf x\|_2^2 \mathbb I[ \|\mathbf x\|_2^2 > R] \right] &= \int \|\mathbf x\|_2^2 \mathbb I[ \|\mathbf x\|_2^2 > R] p(\mathbf x) \: d\mathbf x \\ &= \int \int_0^\infty \mathbb I[\|\mathbf x\|_2^2 > r] \mathbb I[ \|\mathbf x\|_2^2 > R] p(\mathbf x) \: dr \: d\mathbf x \\ &= \int \int_0^\infty \mathbb I[ \|\mathbf x\|_2^2 > \max(r,R)] p(\mathbf x) \: dr \: d\mathbf x \\ &= \int \int_0^R \mathbb I[ \|\mathbf x\|_2^2 > R] p(\mathbf x) \: dr \: d\mathbf x + \int \int_R^\infty \mathbb I[ \|\mathbf x\|_2^2 > r] p(\mathbf x) \: dr \: d\mathbf x \\ &= R\int \mathbb I[ \|\mathbf x\|_2^2 > R] p(\mathbf x) \: d\mathbf x + \int_R^\infty \mathbb P[ \|\mathbf x\|_2^2 > r] \: dr \\ &= R\mathbb P[ \|\mathbf x\|_2^2 > R] + \int_R^\infty \mathbb P[ \|\mathbf x\|_2^2 > r] \: dr \\ \end{align*}

これより,tail bound P[x22>r]\mathbb P[\|\mathbf x\|_2^2>r] が分かれば,期待値の上界を求めることができます.

References