Category:コンピュータの算術
固定小数点数
Fixed-point arithmetic任意精度演算
Arbitrary-precision arithmetic
最上位ビット
Most significant bit
計算機イプシロン
Machine epsilon
3増し符号
Excess-3
符号属性
Signedness
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
コンペア・アンド・スワップ
Compare-and-swap
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
ニブル
Nibble
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
フェッチ・アンド・アッド
Fetch-and-add
最下位ビット
Least significant bit
拡張倍精度浮動小数点数
Extended precision可変長数値表現
Variable-length quantity
ミニフロート
Minifloat
バレルシフタ
Barrel shifter
FPU
Floating-point unit
二五進法
Bi-quinary coded decimal
アンパック10進数
七進法
Septenary八進法
Octal
