RSSフィード：http://alpha-ralpha.com/diary/index.rdf
これはシャノンが考案したものだが、フォン・ノイマンが、熱力学のエントロピーと似ているということを指摘して、このような名前がついたという。ある事象がとある確率で起こる場合、それが起こったと知らされた時に得られる情報の大きさを示す量とされており、それがおこる確率が小さいほど大きくなるように定義されている。
Ｗｉｋｉｐｅｄｉａには、犬が人を噛んだということを知らされても情報はあまり増えないが（当たり前だから）、人が犬を噛んだと知らされた場合には（それは珍しい事象なので）得られる情報量は大きい、と考えるのだという。
このシャノンがやはりベル研にいたわけで、この量をヒントにして何かを考えようと思っている今の私は、ベル研の成果で飯を食おうとしているに他ならない。
Categories | Python | ８８０１ | あんちゃんの自作ゲーム発見した | お絵描き | かながわのハイキングコースベスト５０から | かながわの景勝５０選 | アニメ | カムバック！マイ中二時代 | コンピュータ | ゴミレポ | テレビ | テレビ・ラジオ | トレーニング | ドラマ | パズル | プログラミング | ヨガ | ラジオ | 映画 | 英会話 | 奥州街道 | 音楽 | 下田街道 | 科学 | 歌 | 街道 | 関東ふれあいの道 | 紀行 | 京街道 | 郷土史 | 金沢道 | 熊野街道 | 栗山千明 | 経済学 | 現代湯治考 | 古新聞を読んで | 語学 | 交通史 | 口グセ | 甲州街道 | 綱島街道 | 香り | 殺害された言葉 | 自転車に乗って | 七十二候 | 食べ物・飲み物 | 食事 | 食品物理学 | 新聞を読んで | 森高千里 | 身延道 | 数学 | 生きもの | 千国街道 | 川越街道 | 銭湯 | 善光寺西街道 | 中原街道 | 超歩行者キュウカイダー | 怒りの日記 | 東海道 | 統計学 | 特撮 | 読書 | 二十四節気・七十二候 | 日光街道 | 猫の額 | 脳 | 博物館 | 姫街道 | 物理学 | 文具 | 米沢街道 | 抱腹絶倒オヤジギャグ | 放送大学 | 豊後街道 | 漫画 | 漫画・アニメ | 夢 | 夜へ急ぐ人 | 矢倉沢往還 | 愉快なジム仲間 | 料理 | 歴史 | 麩