2022-01-05から1日間の記事一覧

情報量とエントロピー

情報量 情報量は、下記の2つの条件を満たすものとして定義する。 1. 発生する確率が低いことが分かった時のほうが情報量が多い 2. 情報量は足し算で増えていく この条件を満たす情報量を以下のように定義できる。あることが分かった時の「そのことの情報量」…