Category:コンピュータの算術
NaN
NaN
ビット演算
Bitwise operation四倍精度浮動小数点数
Quadruple-precision floating-point format
拡張倍精度浮動小数点数
Extended precision
計算機イプシロン
Machine epsilon
符号拡張
Sign extension
フェッチ・アンド・アッド
Fetch-and-add
アンパック10進数
グレイコード
Gray code
Bf16
Bfloat16 floating-point format
バレットの還元アルゴリズム
Barrett reduction
ニブル
Nibble
コンペア・アンド・スワップ
Compare-and-swap
Template:コンピュータの数値精度
IEEE 754における負のゼロ
3増し符号
Excess-3
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
モンゴメリ乗算
Montgomery modular multiplication
符号属性
Signedness
桁上げ保存加算器
Carry-save adder可変長数値表現
Variable-length quantity
バレルシフタ
Barrel shifter
