Category:コンピュータの算術
十六進法
Hexadecimal計算機イプシロン
Machine epsilon加算器
Adder (electronics)コンペア・アンド・スワップ
Compare-and-swap算術オーバーフロー
Arithmetic overflow可変長数値表現
Variable-length quantityFPU
Floating-point unit桁上げ保存加算器
Carry-save adderフェッチ・アンド・アッド
Fetch-and-addバレットの還元アルゴリズム
Barrett reductionTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimalIEEE 754
IEEE 754オクテット (コンピュータ)
Octet (computing)除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)バイト (情報)
Byteマスク (情報工学)
Mask (computing)バレルシフタ
Barrel shifterブースの乗算アルゴリズム
Booth's multiplication algorithmミニフロート
Minifloat3増し符号
Excess-3二五進法
Bi-quinary coded decimal符号属性
Signednessアンパック10進数
七進法
Septenary拡張倍精度浮動小数点数
Extended precision