情報幾何学(じょうほうきかがく、英: information geometry、仏: géométrie de l’information、独: Informationsgeometrie、略称: IG)とは、確率分布を要素とする統計モデルに関する微分幾何学的研究のことであり、狭義には双対アフィン接続の微分幾何学を指す。「数理統計学の微分幾何学化」や「統計的推論の幾何学的方法論」や「情報理論における微分幾何を用いた定式化」と表現されるように、情報幾何学は統計学・情報理論・確率理論(大偏差理論)にまたがる学際的な分野である。
概要 情報幾何学の理論的な枠組みは統計学の言葉を必要とせず、純粋な微分幾何学の概念のみで定式化できる。
統計多様体の定義にはいくつかの流儀が存在するが現在最も標準的松添, 2014, p. 1なのは黒瀬 (1994) によるものであり、 級多様体 と 上の捩れのないアフィン接続 と擬リーマン計量 の組 で テンソル場 が対称なものと定義し、組 を統計構造という。 が の に関する双対(アフィン)接続であるとは、任意の 上のベクトル場 に対してライプニッツ則の類似が成り立つことであり、組 を双対統計多様体という。 が平坦であるならば も平坦であるので、組 を双対平坦空間といい、組 を双対構造という。もともと統計多様体は、によってリーマン多様体 と甘利・チェンツォフテンソル場と呼ばれる 対称テンソル場 の組 として定義されていたNielsen, 2020, p. 12が、両者は基本的に等価である松添, 2014, p. 3。
が平坦であるならば、テンソル場 が対称であることとある関数 が存在して局所的に と表されることは同値であり日本数学会, 2007, p. 14、これはヘッシアンに他ならないので が平坦な統計多様体は1970年代に志磨裕彦が定義したヘッセ多様体と一致しており、その統計構造をヘッセ構造、関数 をヘッセ・ポテンシャルという黒瀬, 2009, p. 22。ヘッセ構造はAdS/CFT対応におけるBTZブラックホールに見出されることが知られている。
歴史 情報幾何学のアイデアは、1929年にハロルド・ホテリングが記した草稿に遡ることができるNielsen, 2020, p. 26。ホテリングはフィッシャー情報行列 (ただし と は情報幾何学でよく見られる略記である)が統計モデルにリーマン計量(フィッシャー計量)を定めることを考察し、1945年にも独立にそのことを指摘した。さらに1972年にはが、マルコフ埋め込みに関する不変性の下では、リーマン計量が(定数倍を除いて)フィッシャー計量だけに限られ、アフィン接続も(1次元実数パラメータの自由度を除いて)一意に定まることを有限集合上の確率分布の場合について証明した(チェンツォフの定理)。一方、1975年には統計的推論の高次漸近理論において、指数型分布族に埋め込まれた統計モデル(曲指数型分布族)にある種の埋め込み曲率を定義し、はその曲率がフィッシャー計量に関して非計量的なあるアフィン接続から定まることを指摘し、それをエフロン接続と命名した。
このような状況に対し1982年に甘利俊一は、パラメトリックな統計モデル に対しを満たす 上の対称なアフィン接続 を 接続()と定義して長岡, 2006, p. 8一般論を展開することに成功した。実際、有限集合上の確率分布において 接続はチェンツォフの定めたアフィン接続の1係数族と一致しており現代的にはチェンツォフの定理によって 接続を定義する(藤原, 2015, p. 122)。、特に に対応する e 接続(指数接続)はエフロン接続と一致しており「偶然とはいえ、同じ頭文字 e で始まる命名となっていたことは興味深い」(藤原, 2015, p. 127)、 に対応する 接続はフィッシャー計量に関するレヴィ・チヴィタ接続に他ならなかった日本数学会, 2007, p. 544。この一般化を契機として、フィッシャー計量と 接続の成す微分幾何学的構造、特に先述の e 接続と に対応する m 接続(混合接続)が調べられるようになり日本数学会, 2007, p. 543、e 接続の平坦性は統計モデルの最適性を、m 接続の平坦性は推定の最適性を曲率テンソルを使って定量評価することを可能にした。
甘利俊一はさらに、1982年に長岡浩司と共同で情報幾何の双対構造を発表し、1983年に公文雅之と共同で統計的推論の高次漸近理論の幾何を提唱した。1984年にデイヴィッド・コックスが統計の微分幾何に関するワークショップをロンドンで開催したのを皮切りに甘利, 2020, p. 5、少しずつ世界的な知名度が上がって研究が活発化するようになった。江口真透が情報幾何をダイバージェンスを基に構築できることを示したのはその翌年のことであり、双対平坦空間や正準ダイバージェンスなどの一般論が整備されるにつれて情報幾何学はその地位を確立することに成功した。
情報幾何学の応用は、EMアルゴリズムのような統計的推論のみならず、統計物理学長岡, 2015, pp. 141-154や学習理論、情報熱力学にまで及んでおり、2018年にはこのような進展を背景にシュプリンガー社から学術誌 Information Geometry が刊行されることが決定した。今後はさらに、量子情報幾何やワッサースタイン幾何、などの発展も期待されている。人工知能の分野では、ニューラルネットや神経発火パターンの情報の解釈に応用され始めている。超弦理論と量子情報を結ぶ学術領域では、情報幾何学が応用され始めている。
注釈と出典
参考文献 志磨裕彦 (2001).『ヘッセ幾何学』.裳華房. ISBN 978-4785315290 甘利俊一; 長岡浩司 (1998).『情報幾何の方法』. 岩波書店. ISBN 978-4007306662 甘利俊一 (2019).『新版 情報幾何学の新展開』. サイエンス社. ISBN 9784781914633 田中勝 (2019).. コロナ社. ISBN 978-4339028355 藤岡敦 (2021).『入門 情報幾何: 統計的モデルをひもとく微分幾何学』. 共立出版. ISBN 978-4-320-11445-6 藤原彰夫 (2021).『情報幾何学の基礎: 情報の内的構造を捉える新たな地平』. 共立出版. ISBN 978-4-320-11451-7