情報理論において、エントロピー符号化(またはエントロピーエンコーディング)とは、シャノンの情報源符号化定理によって宣言された下限に近づこうとする可逆データ圧縮方法である。シャノンの情報源符号化定理では、あらゆる可逆データ圧縮方法では、予想される符号長が情報源のエントロピー以上でなければならないとされている。

関連項目

  • エントロピー
  • シャノンの情報理論

解説169 情報源符号化定理(シャノンの第1定理、データ圧縮、木構造、エントロピー、平均符号語、平均経路長、シャノン・ファノ符号、ハフマン符号

エントロピーとは?|エントロピーの定義とクラジウスの不等式の導出 高校物理からはじめる工学部の物理学

エントロピーとは?|エントロピーの定義とクラジウスの不等式の導出 高校物理からはじめる工学部の物理学

『情報理論エントロピーと符号化定理 (Kindle)』|感想・レビュー 読書メーター

454 平均符号長とエントロピー YouTube