Odhad maximální pravděpodobnosti
Maximum Likelihood Estimate (VLE) je obecný model pro odhad parametrů rozdělení pravděpodobnosti, který závisí na pozorováních ve vzorku.
Jinými slovy, EMV maximalizuje pravděpodobnost parametrů hustotních funkcí, které závisí na rozdělení pravděpodobnosti a pozorování ve vzorku.
Když mluvíme o odhadu maximální pravděpodobnosti, musíme mluvit o funkce maximální pravděpodobnost. Matematicky daný vzorek x = (x1,…, Xn) a parametry, θ = (θ1,…, Θn) pak,
Nepanikařte! Tento symbol znamená totéž jako součet pro součty. V tomto případě je to násobení všech funkcí hustoty, které závisí na pozorování vzorku (xi) a parametry θ.
Čím větší je hodnota L (θ | x), tj. Hodnota funkce maximální pravděpodobnosti, tím pravděpodobnější budou parametry založené na vzorku.
Logaritmická funkce EMV
Abychom našli odhady maximální pravděpodobnosti, musíme rozlišit (odvodit) produkty funkcí hustoty a to není nejpohodlnější způsob, jak to udělat.
Když narazíme na komplikované funkce, můžeme udělat monotónní transformaci. Jinými slovy, bylo by to jako chtít nakreslit Evropu ve skutečném měřítku. Měli bychom jej zmenšit, aby se vešel na list papíru.
V tomto případě provádíme monotónní transformaci pomocí přirozených logaritmů, protože jde o monotónní a rostoucí funkce. Matematicky,
Vlastnosti logaritmů nám umožňují vyjádřit výše uvedené násobení jako součet přirozených logaritmů použitých pro funkce hustoty.
Monotónní transformace logaritmy je tedy jednoduše „změna měřítka“ na menší čísla.
Odhadovaná hodnota parametrů, které maximalizují pravděpodobnost parametrů funkce maximální pravděpodobnosti s logaritmy, je ekvivalentní odhadované hodnotě parametrů, které maximalizují pravděpodobnost parametrů původní funkce maximální pravděpodobnosti.
Vždy se tedy budeme zabývat monotónní úpravou funkce maximální pravděpodobnosti vzhledem k její větší snadnosti výpočtů.
Zvědavost
Jakkoli se EMV může zdát složité a podivné, neustále jej uplatňujeme, aniž bychom si to uvědomovali.
Když?
Ve všech odhadech parametrů lineární regrese za klasických předpokladů. Více obyčejně známý jako obyčejné nejmenší čtverce (OLS).
Jinými slovy, když používáme OLS, používáme implicitně EMV, protože oba jsou z hlediska konzistence ekvivalentní.
Aplikace
Stejně jako ostatní metody je EMV založen na iteraci. To znamená opakování určité operace tolikrát, kolikrát je potřeba k nalezení maximální nebo minimální hodnoty funkce. Tento proces může podléhat omezením konečných hodnot parametrů. Například, že výsledek je větší než nebo roven nule nebo že součet dvou parametrů musí být menší než jeden.
Symetrický model GARCH a jeho různá rozšíření používají EMV k nalezení odhadované hodnoty parametrů, která maximalizuje pravděpodobnost parametrů hustotních funkcí.
