岡山県立大学：シラバス

授業科目名（和文）［Course］	情報理論
授業科目名（英文）［Course］	Information Theory
学部（研究科）［Faculty］	情報工学部
学科（専攻）［Department］	情報通信工学科
担当教員（○：代表教員） [Principle Instructor(○) and Instructors]	○稲井　寛　　自室番号（2516）、電子メール（inaic.oka-pu.ac.jp） ※利用の際は, を @に置き換えてください
単位数［Point(Credit)］	2単位
対象学生［Eligible students］	2年次生
授業概略と目標［Course description and Objects］	情報理論は，情報の表現や伝送に関する基礎理論であり，確率論を基盤としている．本講義では，情報をある確率で発生する事象として捉え，その情報の量を定義する．そして，0と1の系列である符号を用いて情報を表現する．講義の前半では，ある情報をその意味を変えることなく可能な限り短い符号系列で表現する手法（圧縮の原理）について考察する．これに対して，後半では，冗長な符号系列を付加することにより，伝送中に発生するビット誤りの検出・訂正が可能となることを示す．
到達目標［Learning Goal］	1 計算機で受理・蓄積・加工される情報は0と1の系列で表現された符号であることを理解する． 2 情報源から発せられる情報量，通信路が伝送する情報量について理解する． 3 情報源や通信路のモデルを通して，実際のシステムを定量的に評価するためのモデル化の一手法に触れる． 4 通常の定理と「存在定理」の違いを理解する．
履修上の注意［Notes］	確率論の基礎的な知識が必要となるので，「確率統計」を修得していることが望ましい．
授業計画とスケジュール［Course schedule］	1. 概要説明 2. 情報量(1) 情報量，エントロピー 3. 情報量(2) 結合エントロピー，条件付エントロピー 4. 情報源(1) 情報源のモデル化，無記憶情報源 5. 情報源(2) マルコフ情報源 6. 情報源符号化(1) 瞬時に復号可能な符号 7. 情報源符号化(2) クラフトの不等式 8. 情報源符号化(3) 平均符号長，情報源符号化定理 9. 情報源符号化(4) 符号の例 10. 通信路(1) 通信路のモデル化 11. 通信路(2) 相互情報量 12. 通信路(3) 通信路容量 13. 通信路符号化(1) 最大尤度判定規則，平均誤り率 14. 通信路符号化(2) 通信路符号化，ハミング距離 15. 通信路符号化(3) 誤り訂正の原理，通信路符号化定理
成績評価方法と基準［Grading policy (Evaluation)］	試験およびレポートにより総合的に評価する．
教科書［Textbook］	教科書：　「はじめての情報理論」　（稲井　寛）　森北出版
自主学習ガイド及びキーワード［Self learning］	他科目との関連を常に意識することを心掛けると理解の助けとなると共に視野が拡がる．例えば，アナログ情報のディジタル化やデジタル情報伝送の具体的な方法については「通信方式」や「信号処理」で学ぶ．また，ビット誤りの検出・訂正の具体的な方法については「符号理論」で学ぶ．
開講年度［Year of the course］	25

授業科目名（和文）［Course］	情報理論
授業科目名（英文）［Course］	Information Theory
学部（研究科）［Faculty］	情報工学部
学科（専攻）［Department］	情報通信工学科
担当教員（○：代表教員） [Principle Instructor(○) and Instructors]	○稲井　寛　　自室番号（2516）、電子メール（inaic.oka-pu.ac.jp） ※利用の際は, を @に置き換えてください
単位数［Point(Credit)］	2単位
対象学生［Eligible students］	2年次生
授業概略と目標［Course description and Objects］	情報理論は，情報の表現や伝送に関する基礎理論であり，確率論を基盤としている．本講義では，情報をある確率で発生する事象として捉え，その情報の量を定義する．そして，0と1の系列である符号を用いて情報を表現する．講義の前半では，ある情報をその意味を変えることなく可能な限り短い符号系列で表現する手法（圧縮の原理）について考察する．これに対して，後半では，冗長な符号系列を付加することにより，伝送中に発生するビット誤りの検出・訂正が可能となることを示す．
到達目標［Learning Goal］	1 計算機で受理・蓄積・加工される情報は0と1の系列で表現された符号であることを理解する． 2 情報源から発せられる情報量，通信路が伝送する情報量について理解する． 3 情報源や通信路のモデルを通して，実際のシステムを定量的に評価するためのモデル化の一手法に触れる． 4 通常の定理と「存在定理」の違いを理解する．
履修上の注意［Notes］	確率論の基礎的な知識が必要となるので，「確率統計」を修得していることが望ましい．
授業計画とスケジュール［Course schedule］	1. 概要説明 2. 情報量(1) 情報量，エントロピー 3. 情報量(2) 結合エントロピー，条件付エントロピー 4. 情報源(1) 情報源のモデル化，無記憶情報源 5. 情報源(2) マルコフ情報源 6. 情報源符号化(1) 瞬時に復号可能な符号 7. 情報源符号化(2) クラフトの不等式 8. 情報源符号化(3) 平均符号長，情報源符号化定理 9. 情報源符号化(4) 符号の例 10. 通信路(1) 通信路のモデル化 11. 通信路(2) 相互情報量 12. 通信路(3) 通信路容量 13. 通信路符号化(1) 最大尤度判定規則，平均誤り率 14. 通信路符号化(2) 通信路符号化，ハミング距離 15. 通信路符号化(3) 誤り訂正の原理，通信路符号化定理
成績評価方法と基準［Grading policy (Evaluation)］	試験およびレポートにより総合的に評価する．
教科書［Textbook］	教科書：　「はじめての情報理論」　（稲井　寛）　森北出版
自主学習ガイド及びキーワード［Self learning］	他科目との関連を常に意識することを心掛けると理解の助けとなると共に視野が拡がる．例えば，アナログ情報のディジタル化やデジタル情報伝送の具体的な方法については「通信方式」や「信号処理」で学ぶ．また，ビット誤りの検出・訂正の具体的な方法については「符号理論」で学ぶ．
開講年度［Year of the course］	25