Category:コンピュータの算術
二進法
Binary number
NaN
NaN
−0
Signed zero
乗算器
Binary multiplier
計算機イプシロン
Machine epsilon八進法
Octal
コンピュータの数値表現
Computer number format
十六進法
Hexadecimal
0の0乗
Zero to the power of zero
カハンの加算アルゴリズム
Kahan summation algorithm
算術オーバーフロー
Arithmetic overflow
アンパック10進数
可変長数値表現
Variable-length quantity
演算装置
Arithmetic logic unit
コンペア・アンド・スワップ
Compare-and-swap
ブロック浮動小数点
Block floating point
テスト・アンド・セット
Test-and-set
二五進法
Bi-quinary coded decimal任意精度演算
Arbitrary-precision arithmetic
バレルシフタ
Barrel shifter
符号拡張
Sign extensionTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
