チョコプロテイン日記

ビバリッジ岡村の雑多な日記

(予定)情報理論のお勉強

こんにちは,タピオカです.

いきなりですが,情報理論の勉強の記録を書いていこうと思います.

以下,理由や目的について述べます.

なぜいきなり情報理論

理由としては,情報系に在籍しているため2年次に情報理論の講義を受けていたのですが,内容をほとんど忘れていることが発覚し,まずいと思ったからです.特に,情報系で修士に行く場合,大学によっては院試で情報理論を出題するところ1もあるので,院試対策も兼ねています.

また,最近では,情報理論は汎用的な理論として注目されており,情報通信や機械学習理論に使われているのはもちろんのこと,熱・統計・量子力学情報理論的に見直すという動きであったりとか,それに関連して量子情報理論という分野の研究も盛んになっています.

そういった事情から,近い将来,情報理論は現在の物理学かあるいはそれ以上に,諸分野の基礎になるのではと言う人もいます.

目的

アウトプットはモチベの維持や理解の確認に非常に役立つので,記録を残していきます.

また,僕のアウトプットを通して情報理論に興味を持って頂ければいいなという気持ちもあります.

読む本

講義の教科書だった『基礎から学ぶ情報理論 初版』(ムイスリ出版)2を読んでいこうと思います.

現在は第2版が出ているそうですが初版を使おうと思います.

著作権などに配慮して自分の中で話を再構成したものを書いていくつもりですが,話の展開などは似てしまうと思うので,上手くやっていこうと思います.

よろしくお願いします.


  1. 北大の情報理工でも選択問題で出題されています

  2. この本は,デジタル情報理論の基礎に的を絞っており,他の定評のある教科書で扱われている話題や,アナログ情報理論には触れていないそうです