Category:コンピュータの算術
十六進法
Hexadecimal2の補数
Two's complement
−0
Signed zero
カハンの加算アルゴリズム
Kahan summation algorithm可変長数値表現
Variable-length quantity
パック10進数
ブースの乗算アルゴリズム
Booth's multiplication algorithm
固定小数点数
Fixed-point arithmetic
コンペア・アンド・スワップ
Compare-and-swap
フェッチ・アンド・アッド
Fetch-and-add
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)アンパック10進数
ニブル
Nibble
3増し符号
Excess-3
拡張倍精度浮動小数点数
Extended precision
モンゴメリ乗算
Montgomery modular multiplication
二進化十進表現
Binary-coded decimal
ハミング符号
Hamming code
符号拡張
Sign extension
ミニフロート
Minifloat
