Odhad entropie je v mnoha oborech užitečný jako odhad diferenciální entropie systémů nebo procesů, který je založen na (jejich) pozorování. Nejjednodušší a nejčastěji používaný je odhad založený na histogramu, avšak jsou používány i jiné přístupy, přičemž každý má své výhody a nevýhody.J. Beirlant, E. J. Dudewicz, L. Gyorfi, and E. C. van der Meulen (1997) Nonparametric entropy estimation: An overview. In International Journal of Mathematical and Statistical Sciences, Volume 6, pp. 17–39. Hlavním hlediskem při výběru metody je otázka kompromisu mezi tendencí rozptylem odhadu,T. Schürmann, Bias analysis in entropy estimation. In J. Phys. A: Math. Gen, 37 (2004), pp. L295–L301. ale faktorem může být i povaha (podezřelost) distribuce dat.
Reference
Kategorie:Teorie informace Kategorie:Statistika Kategorie:Kryptografie