Egiantz handieneko estimazio

testwikitik
Nabigaziora joan Bilaketara joan

Estatistikan, egiantz handieneko estimazioa (EMV eta, batzuetan, MLE izenez ere ezaguna ingelesezko siglengatik) eredu bat egokitzeko eta bere parametroak estimatzeko metodo arrunta da, behatutako datu batzuk kontuan hartuta. Hori probabilitate-funtzio bat maximizatuz lortzen da, horrela, suposatutako eredu estatistikoaren arabera, behatutako datuak ziurrenak izan daitezen. Probabilitate-funtzioa maximizatzen duen parametro-espazioko puntuari, probabilitate maximoaren estimazioa deitzen zaio[1]. Probabilitate maximoaren logika, izan ere, intuitiboa eta malgua da, eta, beraz, metodoa inferentzia estatistikorako bide nagusi bihurtu da[2][3][4].

Probabilitate funtzioa deribagarria bada, maximoak aurkitzeko deribatuaren proba aplika daiteke. Zenbait kasutan, probabilitate funtzioaren lehen mailako baldintzak analitikoki ebatz daitezke; adibidez, erregresio lineal eredu baterako karratu txikienen estimatzaileak probabilitatea maximizatzen du behatutako emaitza guztiek bariantza bereko banaketa Normalak dituztela suposatzen denean[5].

Bayesen inferentziaren ikuspegitik, MLE, oro har, a posteriori maximoaren (MAP) estimazioaren baliokide da, aldez aurretiko banaketa uniformeekin (edo aldez aurretiko banaketa normal bat infinituaren desbideratze estandarra duena). Inferentzia frekuentzian, MLE muturreko estimatzaile baten kasu berezia da, funtzio objektiboa egiantza izanik.

Historia

Ronald Fisher 1913an

R.A. Fisher-ek gomendatu, aztertu eta ezagun egin zuen 1912 eta 1922 artean, nahiz eta aurretik Carl Friedrich Gauss, Pierre-Simon Laplace, Thorvald N. Thiele eta Francis Edgeworth-ek erabilia izan[6]

Oinarria

Demagun lagin bat dugula n behaketa independenteak eta berdin banatuak (x1,x2,,xn) dentsitate funtzioa (edo probabilitate-funtzioa) duen banaketa-funtzio ezezagun batetik aterata f0() . Jakina da f0 banaketa-familia batekoa dela {f(|θ),θΘ}, eredu parametriko deritzona, beraz, f0 dagokion θ=θ0 da, parametroaren benetako balioa . θ^ (edo estimatzailea) balioa aurkitu nahi da, benetako θ0 baliotik ahalik eta hurbilen dagoena.

xi zein θ bektoreak izan daitezke.

Metodo horren ideia, lehenik, behaketa guztien dentsitate-funtzioa aurkitzea da, zeina, independentzia baldintzetan, hau den:.

f(x1,x2,,xn|θ)=f(x1|θ)f(x2|θ)f(xn|θ)

Funtzio hori angelu apur bat ezberdinetik begiratuta, behatutako x1,x2,,xn balioak finkoak direla pentsa daiteke, θ libreki alda daitekeen bitartean. Hau da probabilitate funtzioa:

(θ|x1,,xn)=i=1nf(xi|θ).

Praktikan, datuak sortu dituen banaketaren arabera, funtzio honen logaritmoa erabili ohi da:

^(θ|x1,,xn)=ln=i=1nlnf(xi|θ).

Egiantz handieneko metodoak θ0 estimuan du ln maximizatzen duen θ balioa bilatzean. Hau da θ0-ren egiantz handieneko estimatzaile (MLE) deritzona:

θ^mle=argmaxθΘ ^(θ|x1,,xn).

Batzuetan, estimatzaile hau x1,x2,,xn behatutako datuen funtzio esplizitua da, baina, askotan, beharrezkoa da zenbakizko optimizazioetara jotzea. Gerta daiteke, halaber, maximoa bakarra ez izatea edo ez existitzea.

Aurreko paragrafoan, behaketen independentzia suposatu da, baina ez da beharrezko baldintza: nahikoa da datuen probabilitate-funtzio bateratua eraikitzea metodoa aplikatu ahal izateko. Hori ohikoa den testuinguru bat denbora serien analisia da.

Aplikazioak

Egiantz handieneko estimatzailea estatistika-eredu ugaritan erabiltzen da:

Erreferentziak

Txantiloi:Erreferentzia zerrenda

Oharrak

  • Txantiloi:Cite aldizkari
  • Anderson, Erling B. 1970. "Asymptotic Properties of Conditional Maximum Likelihood Estimators". Journal of the Royal Statistical Society B 32, 283-301.
  • Andersen, Erling B. 1980. Discrete Statistical Models with Social Science Applications. North Holland, 1980.
  • Debabrata Basu. Statistical Information and Likelihood : A Collection of Critical Essays by Dr. D. Basu ; J.K. Ghosh, editor. Lecture Notes in Statistics Volume 45, Springer-Verlag, 1988.
  • Txantiloi:Cite aldizkari
  • Txantiloi:Cite aldizkari
  • Txantiloi:Cite aldizkari
  • Ferguson, Thomas S (1996). A course in large sample theory. Chapman & Hall. 
  • Hald, Anders (1998). A history of mathematical statistics from 1750 to 1930. Nueva York: Wiley. 
  • Txantiloi:Cite aldizkari
  • Txantiloi:Apurtutako esteka
  • Txantiloi:Cite aldizkari
  • Le Cam, Lucien; Lo Yang, Grace (2000). Asymptotics in statistics: some basic concepts. Springer. ISBN 0-387-95036-2. 
  • Le Cam, Lucien (1986). Asymptotic methods in statistical decision theory. Springer-Verlag. 
  • Lehmann, E.L.; Casella, G. (1998). Theory of Point Estimation, 2nd ed. Springer. ISBN 0-387-98502-6. 
  • Newey, Whitney K.; McFadden, Daniel (1994). Large sample estimation and hypothesis testing. Handbook of econometrics, vol.IV, Ch.36. Elsevier Science. pp. 2111-2245. 
  • Txantiloi:Cite aldizkari
  • Txantiloi:Cite aldizkari
  • Txantiloi:Cite aldizkari
  • Stigler, Stephen M. (1986). The history of statistics: the measurement of uncertainty before 1900. Harvard University Press. ISBN 0-674-40340-1. 
  • Stigler, Stephen M. (1999). Statistics on the table: the history of statistical concepts and methods. Harvard University Press. ISBN 0-674-83601-4. 
  • van der Vaart, A.W. (1998). Asymptotic Statistics. ISBN 0-521-78450-6. 

Kanpo estekak

Txantiloi:Autoritate kontrola

  1. Rossi, Richard J. (2018). Mathematical Statistics : An Introduction to Likelihood Based Inference. New York: John Wiley & Sons. p. 227. ISBN 978-1-118-77104-4.
  2. Hendry, David F.; Nielsen, Bent (2007). Econometric Modeling: A Likelihood Approach. Princeton: Princeton University Press. Txantiloi:ISBN
  3. Chambers, Raymond L.; Steel, David G.; Wang, Suojin; Welsh, Alan (2012). Maximum Likelihood Estimation for Sample Surveys. Boca Raton: CRC Press. Txantiloi:ISBN
  4. Ward, Michael Don; Ahlquist, John S. (2018). Maximum Likelihood for Social Science : Strategies for Analysis. New York: Cambridge University Press. Txantiloi:ISBN
  5. Press, W.H.; Flannery, B.P.; Teukolsky, S.A.; Vetterling, W.T. (1992). "Least Squares as a Maximum Likelihood Estimator". Numerical Recipes in FORTRAN: The Art of Scientific Computing (2nd ed.). Cambridge: Cambridge University Press. pp. 651–655. Txantiloi:ISBN
  6. Edgeworth (Sep 1908, Dec 1908)