Category:コンピュータの算術
0の0乗
Zero to the power of zero
カハンの加算アルゴリズム
Kahan summation algorithm
二進化十進表現
Binary-coded decimal
コンペア・アンド・スワップ
Compare-and-swap
ワード
Word (computer architecture)
バレットの還元アルゴリズム
Barrett reduction
計算機イプシロン
Machine epsilon
ミニフロート
Minifloat
演算装置
Arithmetic logic unit
符号拡張
Sign extension
3増し符号
Excess-3
バレルシフタ
Barrel shifter
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
符号属性
Signedness
マスク (情報工学)
Mask (computing)可変長数値表現
Variable-length quantity2の補数
Two's complement
アンパック10進数
七進法
Septenary
フェッチ・アンド・アッド
Fetch-and-add1の補数
Ones' complement
