Category:コンピュータの算術
NaN
NaNグレイコード
Gray codeビット演算
Bitwise operation計算機イプシロン
Machine epsilon拡張倍精度浮動小数点数
Extended precision符号拡張
Sign extensionフェッチ・アンド・アッド
Fetch-and-add四倍精度浮動小数点数
Quadruple-precision floating-point format3増し符号
Excess-3符号属性
SignednessBf16
Bfloat16 floating-point formatTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimalIEEE 754
IEEE 754オクテット (コンピュータ)
Octet (computing)除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)バイト (情報)
Byteバレルシフタ
Barrel shifterマスク (情報工学)
Mask (computing)アンパック10進数
桁上げ保存加算器
Carry-save adderブロック浮動小数点
Block floating point可変長数値表現
Variable-length quantityバレットの還元アルゴリズム
Barrett reductionコンピュータの数値表現
Computer number formatミニフロート
Minifloat