Category:コンピュータの算術
最上位ビット
Most significant bit
拡張倍精度浮動小数点数
Extended precision
最下位ビット
Least significant bit
固定小数点数
Fixed-point arithmetic
計算機イプシロン
Machine epsilon任意精度演算
Arbitrary-precision arithmetic
FPU
Floating-point unit
3増し符号
Excess-3
符号属性
Signedness
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
フェッチ・アンド・アッド
Fetch-and-add可変長数値表現
Variable-length quantity
符号拡張
Sign extension
コンペア・アンド・スワップ
Compare-and-swap
二五進法
Bi-quinary coded decimal
ミニフロート
Minifloat
ニブル
Nibble
整数型
Integer (computer science)
アンパック10進数
バレルシフタ
Barrel shifter
