本の紹介 : 情報理論


Cover & Thomas 「情報理論 - 基礎と広がり -」 (2012)

この分野の定番の本です。 とても詳しいです。

1. 入門と概論
2. エントロピー,相対エントロピー,相互情報量
3. AEP
4. 確率過程のエントロピーレート
5. データ圧縮
6. ギャンブルとデータ圧縮
7. 通信路容量
8. 微分エントロピー
9. ガウス型通信路
10. レート歪み理論
11. 情報理論と統計学
12. 最大エントロピー
13. ユニバーサル情報源符号化
14. コルモゴロフ複雑度
15. ネットワーク情報理論
16. 情報理論とポートフォリオ理論
17. 情報理論における不等式

Cover & Thomas, Elements of Information Theory, 2nd (2006)

1. Introduction and Preview
2. Entropy, Relative Entropy, and Mutual Information
3. Asymptotic Equipartition Property
4. Entropy Rates of a Stochastic Process
5. Data Compression
6. Gambling and Data Compression
7. Channel Capacity
8. Differential Entropy
9. Gaussian Channel
10. Rate Distortion Theory
11. Information Theory and Statistics
12. Maximum Entropy
13. Universal Source Coding
14. Kolmogorov Complexity
15. Network Information Theory
16. Information Theory and Portfolio Theory
17. Inequalities in Information Theory


シャノン,ウィーバー「通信の数学的理論」 (2009)

通信の数学的理論への最近の貢献 (ワレン・ウィーバー)
通信の数学的理論 (クロード・E.シャノン)


甘利俊一「情報理論」(1970, 2011)

1. 情報の数量的認識
2. 雑音のない通話路による情報伝送
3. 雑音のある通話路での情報伝送
4. 連続情報と信号空間
5. 信号空間の写像と通信系の理論


中川聖一「情報理論の基礎と応用」 (1992)

1. 序論
2. 情報源のモデル
3. 離散情報源の符号化
4. 離散的通信略の符号化
5. 連続情報源と連続的通信路
6. 言語と情報理論
7. 音声・画像と情報理論
8. 情報処理システムと情報理論


宮川洋「情報理論」 (1979)

1. 序論
2. 情報量
3. マルコフ情報源
4. 情報源の符号化
5. 通信路
6. 通信路の符号化
7. 誤り訂正・検出符号
8. 連続的情報源と連続的通信路
9. 連続的通信路における符号化と離散的情報の伝送
10. 連続的通信路における連続的情報の伝送


佐藤洋「情報理論」 (1983)

1. 序章
2. 情報量(その1)
3. 情報量(その2)
4. 連続信号の解析
5. 情報源と符号化
6. 通信路と符号化
7. 誤り訂正符号
8. 確率過程と線形推定


ホーム