Category:コンピュータの算術
十六進法
Hexadecimal
計算機イプシロン
Machine epsilon
コンペア・アンド・スワップ
Compare-and-swap
二進化十進表現
Binary-coded decimal
加算器
Adder (electronics)
0の0乗
Zero to the power of zero
算術オーバーフロー
Arithmetic overflow可変長数値表現
Variable-length quantity
FPU
Floating-point unit
整数型
Integer (computer science)
バレルシフタ
Barrel shifter
桁上げ保存加算器
Carry-save adder
フェッチ・アンド・アッド
Fetch-and-add
バレットの還元アルゴリズム
Barrett reduction
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byteブースの乗算アルゴリズム
Booth's multiplication algorithm
マスク (情報工学)
Mask (computing)
符号属性
Signedness
ミニフロート
Minifloat
3増し符号
Excess-3
七進法
Septenary
