Category:コンピュータの算術
0の0乗
Zero to the power of zero
NaN
NaN
乗算器
Binary multiplier
モンゴメリ乗算
Montgomery modular multiplication
ニブル
Nibble可変長数値表現
Variable-length quantity
七進法
Septenary八進法
Octal
テスト・アンド・セット
Test-and-set
カハンの加算アルゴリズム
Kahan summation algorithm
フェッチ・アンド・アッド
Fetch-and-add
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
ブロック浮動小数点
Block floating point
符号属性
Signedness
二五進法
Bi-quinary coded decimal
3増し符号
Excess-3
拡張倍精度浮動小数点数
Extended precision
バレルシフタ
Barrel shifter
バレットの還元アルゴリズム
Barrett reduction
アンパック10進数
