Category:コンピュータの算術
NaN
NaN▲2 trends
−0
Signed zero
端数処理
Rounding
半精度浮動小数点数
Half-precision floating-point format
最上位ビット
Most significant bit
有効数字
Significant figuresブースの乗算アルゴリズム
Booth's multiplication algorithm
ビット演算
Bitwise operation
拡張倍精度浮動小数点数
Extended precision
Bf16
Bfloat16 floating-point format
固定小数点数
Fixed-point arithmetic
FPU
Floating-point unit八進法
Octal
ニブル
Nibble
ワード
Word (computer architecture)
ブロック浮動小数点
Block floating point
フェッチ・アンド・アッド
Fetch-and-add
桁上げ保存加算器
Carry-save adder
バレットの還元アルゴリズム
Barrett reduction
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
最下位ビット
Least significant bit
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
