科目情報

科目名 情報理論  クラス −  授業の概要 1. 情報を定量的に取り扱う方法を学ぶ。 2. 情報をコンパクトに符号化する方法を学ぶ。 3. 情報を伝送する際になるべく誤りが生じないように符号化する方法を学ぶ。  授業の到達目標 1. 情報量とエントロピーを理解し、それらの計算ができる。 2. 情報源における符号化定理、符号化法を理解し、符号化に関する計算ができる。 3. 通信路における符号化定理、符号化法を理解し、符号化に関する計算ができる。  授業計画 回 内容 1 情報とは  2 情報量とエントロピー  3 結合エントロピーと条件付きエントロピー  4 相互情報量  5 情報源モデル  6 情報源におけるエントロピー  7 情報源符号化  8 情報源符号化定理  9 ハフマン符号  10 通信路  11 通信路符号化定理とパリティ検査符号  12 線形符号の符号化法  13 線形符号の復号化法と復号誤り確率  14 巡回符号  15 BCH符号    テキスト・参考書 [テキスト] 資料を配付する。 [参考書] 情報理論、今井秀樹、昭晃堂  自学自習についての情報 理論なので数学の知識、具体的には対数、確率、ベクトル、行列、多項式などの予備知識を有していることが望ましい。 また、授業後に過去の演習問題を解き直してみるなどして復習していくこと。  授業の形式 講義と演習を併用  評価の方法（評価の配点比率と評価の要点） 期末試験80%、演習20%  その他 例えば授業計画第９回で学ぶハフマン符号はZIPやJPEGなどに使用されるなど、本授業で学ぶ内容は多くの分野で実際に用いられている。