En teoría de la información , el principio de información mínima de Fisher (IMF) es un principio variacional que, al aplicarse con las restricciones adecuadas para reproducir valores esperados empíricamente conocidos, determina la mejor distribución de probabilidad que caracteriza al sistema. (Véase también Información de Fisher ).
Medidas de información
Las medidas de información (MI) son las herramientas más importantes de la teoría de la información . Miden la cantidad de información positiva o de información "faltante" que posee un observador con respecto a cualquier sistema de interés. La MI más famosa es la denominada entropía de Shannon (1948), que determina cuánta información adicional necesita el observador para tener todo el conocimiento disponible sobre un sistema S dado, cuando solo dispone de una función de densidad de probabilidad (FDP) definida sobre los elementos apropiados de dicho sistema. Esta es, por lo tanto, una medida de información "faltante". La MI es función únicamente de la FDP. Si el observador no dispone de dicha FDP, sino solo de un conjunto finito de valores medios del sistema determinados empíricamente, entonces un principio científico fundamental llamado principio de máxima entropía (MaxEnt) afirma que la "mejor" FDP es aquella que, reproduciendo los valores esperados conocidos, maximiza la MI de Shannon.
Medida de información de Fisher
La información de Fisher (FIM), llamada así en honor a Ronald Fisher (1925), es otro tipo de medida, en dos aspectos, a saber:
1) refleja la cantidad de información (positiva) del observador, 2) depende no solo de la PD sino también de sus primeras derivadas, una propiedad que la convierte en una cantidad local ( la de Shannon es, en cambio, una cantidad global).
La contraparte correspondiente de MaxEnt es ahora la minimización FIM, ya que la medida de Fisher aumenta cuando la de Shannon disminuye, y viceversa. La minimización aquí mencionada (MFI) es una herramienta teórica importante en diversas disciplinas, comenzando por la física . En cierto sentido, es claramente superior a MaxEnt porque este último procedimiento siempre produce como solución una PD exponencial, mientras que la solución MFI es una ecuación diferencial para la PD, lo que permite una mayor flexibilidad y versatilidad.
Aplicaciones del MFI
Termodinámica
Se ha dedicado mucho esfuerzo a la medida de información de Fisher, arrojando mucha luz sobre las múltiples aplicaciones físicas. [ 1 ] [ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ] [ 11 ] [ 12 ] [ 13 ] [ 14 ] [ 15 ] Como una pequeña muestra , se puede demostrar que todo el campo de la termodinámica ( tanto el equilibrio como el no equilibrio ) puede derivarse del enfoque MFI. [ 16 ] Aquí FIM se especializa al caso particular pero importante de familias de traslación, es decir, funciones de distribución cuya forma no cambia bajo transformaciones traslacionales. En este caso, la medida de Fisher se vuelve invariante de traslación. Dicha minimización de la medida de Fisher conduce a una ecuación tipo Schrödinger para la amplitud de probabilidad , donde el estado fundamental describe la física de equilibrio y los estados excitados dan cuenta de las situaciones de no equilibrio. [ 17 ]
Fenómenos invariantes de escala
Más recientemente, se ha demostrado que la ley de Zipf surge como la solución variacional de la MFI cuando se introduce la invariancia de escala en la medida, lo que lleva por primera vez a una explicación de esta regularidad a partir de primeros principios . [ 18 ] También se ha demostrado que la MFI puede usarse para formular una termodinámica basada en la invariancia de escala en lugar de la invariancia traslacional , lo que permite la definición del gas ideal sin escala , el equivalente invariante de escala del gas ideal . [ 19 ]
Referencias
- ↑ Frieden, BR (2004). Ciencia a partir de la información de Fisher: una unificación . Cambridge, Reino Unido: Cambridge University Press. ISBN 978-0-521-00911-9OCLC 53325064
- ↑ Frieden, B. Roy (1989). "La información de Fisher como base para la ecuación de onda de Schrödinger". American Journal of Physics . 57 (11). American Association of Physics Teachers (AAPT): 1004– 1008. Bibcode : 1989AmJPh..57.1004F . doi : 10.1119/1.15810 . ISSN 0002-9505 .
- ↑ Frieden, B. Roy (1992). "Fisher information and uncertainty complementaity". Physics Letters A . 169 (3). Elsevier BV: 123– 130. Bibcode : 1992PhLA..169..123F . doi : 10.1016/0375-9601(92)90581-6 . ISSN 0375-9601 .
- ↑ BR Frieden, en Advances in Imaging and Electron Physics, editado por PW Hawkes, Academic, Nueva York, 1994, Vol. 90, pp. 123-204.
- ↑ Frieden, B. Roy (1993). "Estimación de leyes de distribución y leyes físicas mediante un principio de información física extrema". Physica A: Mecánica estadística y sus aplicaciones . 198 ( 1– 2). Elsevier BV: 262– 338. Bibcode : 1993PhyA..198..262F . doi : 10.1016/0378-4371(93)90194-9 . ISSN 0378-4371 .
- ↑ Frieden, B. Roy; Hughes, Roy J. (1994-04-01). "Ruido espectral 1/f derivado de información física extrema". Physical Review E . 49 (4). American Physical Society (APS): 2644– 2649. Bibcode : 1994PhRvE..49.2644F . doi : 10.1103/physreve.49.2644 . ISSN 1063-651X . PMID 9961526 .
- ↑ Nikolov, B.; Frieden, B. Roy (1994-06-01). "Limitación del aumento de entropía impuesta por la información de Fisher". Physical Review E . 49 (6). American Physical Society (APS): 4815– 4820. Bibcode : 1994PhRvE..49.4815N . doi : 10.1103/physreve.49.4815 . ISSN 1063-651X . PMID 9961798 .
- ↑ Frieden, B. Roy (1990-04-01). "Información de Fisher, desorden y distribuciones de equilibrio de la física". Physical Review A . 41 (8). American Physical Society (APS): 4265– 4276. Bibcode : 1990PhRvA..41.4265F . doi : 10.1103/physreva.41.4265 . ISSN 1050-2947 . PMID 9903619 .
- ↑ Frieden, B. Roy; Soffer, Bernard H. (1995-09-01). "Lagrangianos de la física y el juego de la transferencia de información de Fisher". Physical Review E . 52 (3). American Physical Society (APS): 2274– 2286. Bibcode : 1995PhRvE..52.2274F . doi : 10.1103/physreve.52.2274 . ISSN 1063-651X . PMID 9963668 .
- ↑ Frieden, B. Roy (1991). "Información de Fisher y la naturaleza compleja de la ecuación de onda de Schrödinger". Foundations of Physics . 21 (7). Springer Nature: 757– 771. Bibcode : 1991FoPh...21..757F . doi : 10.1007/bf00733343 . ISSN 0015-9018 .
- ↑ RN Silver, en ET Jaynes: Física y probabilidad, editado por WT Grandy, Jr. y PW Milonni , Cambridge University Press, Cambridge, Inglaterra, 1992.
- ↑ Plastino, A.; Plastino, AR; Miller, HG; Khanna, FC (1996). "Un límite inferior para la medida de información de Fisher". Physics Letters A . 221 ( 1– 2). Elsevier BV: 29– 33. Bibcode : 1996PhLA..221...29P . doi : 10.1016/0375-9601(96)00560-9 . ISSN 0375-9601 .
- ↑ Plastino, AR; Plastino, A. (1996-10-01). "Simetrías de la ecuación de Fokker-Planck y la flecha del tiempo de Fisher-Frieden". Physical Review E . 54 (4). American Physical Society (APS): 4423– 4426. Bibcode : 1996PhRvE..54.4423P . doi : 10.1103/physreve.54.4423 . ISSN 1063-651X .
- ↑ R. Plastino, A.; Miller, HG; Plastino, A. (1997-10-01). "Enfoque de entropía de Kullback mínima para la ecuación de Fokker-Planck". Physical Review E . 56 (4). American Physical Society (APS): 3927– 3934. Bibcode : 1997PhRvE..56.3927R . doi : 10.1103/physreve.56.3927 . ISSN 1063-651X .
- ↑ Plastino, A.; Plastino, AR; Miller, HG (1997). "Sobre la relación entre la flecha del tiempo de Fisher-Frieden-Soffer y el comportamiento de las entropías de Boltzmann y Kullback". Physics Letters A . 235 (2). Elsevier BV: 129– 134. Bibcode : 1997PhLA..235..129P . doi : 10.1016/s0375-9601(97)00634-8 . ISSN 0375-9601 .
- ↑ Frieden, BR; Plastino, A.; Plastino, AR; Soffer, BH (1999-07-01). "Termodinámica basada en Fisher: su transformada de Legendre y propiedades de concavidad". Physical Review E . 60 (1). American Physical Society (APS): 48– 53. Bibcode : 1999PhRvE..60...48F . doi : 10.1103/physreve.60.48 . ISSN 1063-651X . PMID 11969735 .
- ↑ Frieden, BR; Plastino, A.; Plastino, AR; Soffer, BH (22-10-2002). "Vínculo de Schrödinger entre la termodinámica del no equilibrio y la información de Fisher". Physical Review E . 66 (4) 046128. American Physical Society (APS). arXiv : cond-mat/0206107 . Bibcode : 2002PhRvE..66d6128F . doi : 10.1103/physreve.66.046128 . ISSN 1063-651X . PMID 12443280 .
- ↑ Hernando, A.; Puigdomènech, D.; Villuenda, D.; Vesperinas, C.; Plastino, A. (2009). "Ley de Zipf a partir de un principio variacional de Fisher". Letras de Física A. 374 (1). Elsevier BV: 18– 21. arXiv : 0908.0501 . Código Bib : 2009PhLA..374...18H . doi : 10.1016/j.physleta.2009.10.027 . ISSN 0375-9601 .
- ↑ Hernando, A.; Vesperinas, C.; Plastino, A. (2010). "Información de Fisher y la termodinámica de sistemas invariantes de escala". Physica A: Mecánica estadística y sus aplicaciones . 389 (3): 490. arXiv : 0908.0504 . Bibcode : 2010PhyA..389..490H . doi : 10.1016/j.physa.2009.09.054 .
- teoría de la información