Score (statistiek)

Zij ${\displaystyle \{f_{\vartheta }|\vartheta \in \Theta \}}$ een familie kansdichtheden, geparametriseerd door ${\displaystyle \vartheta \in \Theta }$, met ${\displaystyle \Theta }$ een open verzameling.

De scorefunctie van deze familie is gedefinieerd door

${\displaystyle S(\vartheta ,x)={\frac {\partial }{\partial \vartheta }}\ln f_{\vartheta }(x)={\frac {{\frac {\partial }{\partial \vartheta }}f_{\vartheta }(x)}{f_{\vartheta }(x)}}}$,

mits deze bestaat en eindig is.

Als de parameter meerdimensionaal is: ${\displaystyle \vartheta =(\vartheta _{1},\ldots ,\vartheta _{m})}$, is de score:

${\displaystyle S(\vartheta ,x)=\mathrm {grad} (\ln f_{\vartheta }(x))={\frac {1}{f_{\vartheta }(x)}}\left({\frac {\partial }{\partial \vartheta _{1}}}f_{\vartheta }(x),\ldots ,{\frac {\partial }{\partial \vartheta _{m}}}f_{\vartheta }(x)\right)}$

mits deze bestaat en eindig is.

In het geval van een discrete verdeling betreft het dichtheden ten opzichte van de telmaat, dus kansfuncties.

Binomiale verdeling

Voor de binomiale verdeling met parameters ${\displaystyle n}$ en succeskans ${\displaystyle p}$ geldt:

${\displaystyle S(p,x)={\frac {\partial }{\partial p}}\ln \left({\tbinom {n}{x}}p^{x}(1-p)^{n-x}\right)={\frac {x}{p}}-{\frac {n-x}{1-p}}={\frac {x-np}{p(1-p)}}}$

Inderdaad is:

${\displaystyle \operatorname {E} S(p,X)=\operatorname {E} {\frac {X-np}{p(1-p)}}=0}$

Poissonverdeling

Voor de poissonverdeling met parameter ${\displaystyle \lambda }$ geldt:

${\displaystyle S(\lambda ,x)={\frac {\partial }{\partial \lambda }}\ln \left({\frac {\lambda ^{x}}{x!}}\,e^{-\lambda }\right)={\frac {\partial }{\partial \lambda }}\left(x\ln \lambda -\ln(x!)-\lambda \right)={\frac {x}{\lambda }}-1}$

Ook is weer:

${\displaystyle \operatorname {E} S(\lambda ,X)={\frac {\operatorname {E} X}{\lambda }}={\frac {\operatorname {E} X}{\lambda }}-1=0}$

Exponentiële verdeling

Voor de exponentiële verdeling met parameter ${\displaystyle \lambda }$ geldt:

${\displaystyle S(\lambda ,x)={\frac {\partial }{\partial \lambda }}\ln \left(\lambda e^{-\lambda x}\right)={\frac {\partial }{\partial \lambda }}(\ln \lambda -\lambda x)={\frac {1}{\lambda }}-x}$

Er geldt weer:

${\displaystyle \operatorname {E} S(\lambda ,X)={\frac {1}{\lambda }}-\operatorname {E} X=0}$

Normale verdeling

Voor de normale verdeling met parameters 0 en ${\displaystyle \sigma ^{2}=\vartheta }$ geldt:

${\displaystyle S(\vartheta ,x)={\frac {\partial }{\partial \vartheta }}\ln \left({\frac {1}{\sqrt {2\pi \vartheta }}}e^{-{\frac {x^{2}}{2\vartheta }}}\right)={\frac {\partial }{\partial \vartheta }}\left(-{\tfrac {1}{2}}\ln \vartheta -{\frac {x^{2}}{2\vartheta }}\right)=-{\frac {1}{2\vartheta }}+{\frac {x^{2}}{2\vartheta ^{2}}}}$,

dus

${\displaystyle S(\sigma ^{2},x)={\frac {x^{2}-\sigma ^{2}}{2\sigma ^{4}}}}$

Er geldt weer:

${\displaystyle \operatorname {E} S(\vartheta ,X)=-{\frac {1}{2\vartheta }}+{\frac {\operatorname {E} X^{2}}{2\vartheta ^{2}}}=0}$

Vat men ${\displaystyle \sigma }$ als parameter op, dan geldt:

${\displaystyle S(\sigma ,x)={\frac {\partial }{\partial \sigma }}\ln \left({\frac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\frac {x^{2}}{2\sigma ^{2}}}}\right)={\frac {\partial }{\partial \sigma }}\left(-\ln \sigma -{\frac {x^{2}}{2\sigma ^{2}}}\right)={\frac {x^{2}-\sigma ^{2}}{\sigma ^{3}}}}$

Als de verwachtingswaarde gelijk is aan ${\displaystyle \mu }$ geldt voor deze parameter:

${\displaystyle S(\mu ,x)={\frac {\partial }{\partial \mu }}\ln \left({\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\right)={\frac {\partial }{\partial \mu }}\left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)={\frac {x-\mu }{\sigma ^{2}}}}$

Algemeen geldt:

${\displaystyle S((\mu ,\sigma ^{2}),x)=\left({\frac {x-\mu }{\sigma ^{2}}},{\frac {(x-\mu )^{2}-\sigma ^{2}}{2\sigma ^{4}}}\right)}$