研究内容

齋藤翔太・著『電気電子情報ビギナーズコース 情報理論』(講談社)


本書の特徴

齋藤翔太・著『電気電子情報ビギナーズコース 情報理論』(講談社)の特徴は以下のとおりです。


わかりやすい

  • 全ページフルカラーで、情報理論の重要なポイントを丁寧に解説。
  • さまざまな図と豊富な例題・演習問題で理解を深める。

おもしろい

  • AI・機械学習と情報理論のつながり、プライバシー保護と情報理論のつながりについて紹介。
  • 情報理論にまつわる歴史的な話題を紹介。
  • 現代社会への応用につながる話題も紹介。

使いやすい

  • 筆者のこれまでの講義経験(特に、早稲田大学、横浜国立大学、群馬大学での「情報理論」の講義)に基づき、講義で使いやすい構成。
  • 演習問題の詳細な解答をダウンロードでき、自学自習にも最適。(解答は、講談社の本書のWebサイトに移動し、こちらの「ダウンロード・リンク」という箇所から入手できます。)


『Elements of Information Theory(情報理論―基礎と広がり―)』への円滑な接続

情報理論の入門書で世界的名著と言われる本は『Elements of Information Theory, 2nd Edition』(Thomas M. Cover and Joy A. Thomas 著)です。『情報理論―基礎と広がり―』(山本博資・古賀弘樹・有村光晴・ 岩本貢 訳)が邦訳版として出版されています。


『電気電子情報ビギナーズコース 情報理論』は、この本の内容に準拠しています。さらに、『情報理論―基礎と広がり―』で説明が省略されているところも、本書では丁寧に解説しています。そのため、『情報理論―基礎と広がり―』を読んでみたが難しかったという方には、『電気電子情報ビギナーズコース 情報理論』をおすすめします。本書を読んでいただくと、『情報理論―基礎と広がり―』の理解が容易になるでしょう。


『イラストで学ぶ 情報理論の考え方』と本書の違い

本書と同じく講談社から出版されている情報理論の教科書として『イラストで学ぶ 情報理論の考え方 改訂第2版』(植松友彦 著)があります。本書を執筆するにあたって参考にさせていただきました。


本書と『イラストで学ぶ 情報理論の考え方 改訂第2版』の違いについて気になる方のために、二つの教科書の違いをいくつか列挙します。(以下では本書を『ビギナーズコース』と略記し、『イラストで学ぶ 情報理論の考え方 改訂第2版』を『イラストで学ぶ』と略記します。)


項目
『ビギナーズコース』

『イラストで学ぶ』

数式の量・難易度
数式が『イラストで学ぶ』よりも少なめで、より初学者向け
数式が『ビギナーズコース』よりも多め
AI・機械学習/プライバシー保護との関連
多く紹介
いくつか紹介
確率の基礎の解説章
なし(高校数学・大学初年次で学ぶ内容のため割愛)
あり
自己情報量・エントロピーの導入
丁寧に説明
比較的簡潔
紹介される情報源符号
ファノ符号、シャノン・ファノ符号、シャノン・ファノ・イライアス符号、ハフマン符号、算術符号、LZ77符号、LZ78符号、ベイズ符号(8種)
シャノン・ファノ符号、ハフマン符号、LZ78符号(3種)
ハフマン符号の最適性の証明
詳しく説明
簡潔
LZ78符号の最適性の証明
解説なし
詳しく解説
通信路符号化定理の証明方針
ランダム符号化に基づく(『情報理論―基礎と広がり―』と同様)
Feinsteinの補題に基づく
巡回符号の紹介
ありなし


他にもさまざまな違いがあり、同じ題材を異なる切り口から説明している箇所もあります。『ビギナーズコース』だけでも情報理論の基礎がしっかりと身につけられるように書いたつもりですが、もしよろしければ『ビギナーズコース』と『イラストで学ぶ』の両方を読んでいただけますと、幅広く情報理論の基礎を身につけられるのではないかと思います。


正誤表(2026年7月更新)

第1刷に以下の誤植があります。大変申し訳ございません。

  • 77ページ
    • (誤)表7.1の情報源符号の符号語長は1110であり、表7.2の情報源符号の符号語長は000001である
    • (正)表7.1の情報源符号の符号語は1110であり、表7.2の情報源符号の符号語は000001である