Category:コンピュータの算術
ハミング符号
Hamming code
NaN
NaN
整数型
Integer (computer science)
モンゴメリ乗算
Montgomery modular multiplication
ビット
Bit2の補数
Two's complement
倍精度浮動小数点数
Double-precision floating-point format
ブロック浮動小数点
Block floating point
ビット演算
Bitwise operation
半精度浮動小数点数
Half-precision floating-point format
端数処理
Rounding
有効数字
Significant figures