情報に関する理論

情報に関する理論とは

情報に関する理論は、「情報を数で測る」という発想から始まり、圧縮・誤り訂正・文字コード・オートマトンまでを扱う分野です。

一見バラバラに見えますが、「あいまいな情報をきっちり数値やルールで表す」という1本のストーリーでつながっています。

このカテゴリーで学べること

• 情報量(−log₂P)とエントロピーの考え方
• ハフマン符号・ランレングス符号などの圧縮の仕組み
• パリティ・CRC・ハミング符号による誤り検出・訂正
• ASCII・シフトJIS・Unicode/UTF-8と文字化けの正体
• 有限オートマトン・正規表現・BNFの読み方

この分野の記事一覧(読む順)

1. 情報理論
2. 符号化
3. 文字の表現
4. オートマトン・形式言語

おすすめの読み進め方

1. まずは「情報理論」で、情報を数で測る発想をつかむ
2. 次に「符号化」で、圧縮と誤り訂正の仕組みを学ぶ
3. 「文字の表現」で、文字コードと文字化けを理解する
4. 最後に「オートマトン・形式言語」で、状態遷移とルールの表現を学ぶ

学習のポイント

情報理論→符号化の順で読むと、「なぜ圧縮できるのか」が自然に腑に落ちます。

文字化けの仕組みやBNFは、実務のトラブル対応やプログラミング学習でもそのまま役立つ知識です。