Similar to ラルフ・ハートレー
カルバック・ライブラー情報量
Kullback–Leibler divergenceギブスの不等式
Gibbs' inequalityクロード・E・シャノン賞
Claude E. Shannon Award傾向推定
Linear trend estimation結合エントロピー
Joint entropy交差エントロピー
Cross-entropy最小記述長
Minimum description length最小権限の原則
Principle of least privilege最大エントロピー原理
Principle of maximum entropy自己相互情報量
Pointwise mutual informationシャノンの情報源符号化定理
Shannon's source coding theoremシャノンの通信路符号化定理
Noisy-channel coding theorem冗長性 (情報理論)
Redundancy (information theory)情報源レート
情報熱
情報量
Entropy (information theory)情報理論上の未解決問題
List of unsolved problems in information theoryスペクトル効率
Spectral efficiency相互情報量
Mutual informationレイ・ソロモノフ
Ray Solomonoff帯域幅
Bandwidth (signal processing)ダメラウ・レーベンシュタイン距離
Damerau–Levenshtein distance通信の数学的理論
A Mathematical Theory of Communication通信路容量
Channel capacityデータ量の比較
Orders of magnitude (data)二値エントロピー関数
Binary entropy function二分バンド幅
Bisection bandwidth微分エントロピー
Differential entropy