Category:コンピュータの算術
十六進法
Hexadecimal
計算機イプシロン
Machine epsilon
加算器
Adder (electronics)
コンペア・アンド・スワップ
Compare-and-swap
算術オーバーフロー
Arithmetic overflow可変長数値表現
Variable-length quantity
FPU
Floating-point unit
桁上げ保存加算器
Carry-save adder
フェッチ・アンド・アッド
Fetch-and-add
バレットの還元アルゴリズム
Barrett reduction
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
バレルシフタ
Barrel shifterブースの乗算アルゴリズム
Booth's multiplication algorithm
ミニフロート
Minifloat
3増し符号
Excess-3
二五進法
Bi-quinary coded decimal
符号属性
Signedness
アンパック10進数
七進法
Septenary
拡張倍精度浮動小数点数
Extended precision
