Category:コンピュータの算術
NaN
NaN
グレイコード
Gray code
ビット演算
Bitwise operation
計算機イプシロン
Machine epsilon四倍精度浮動小数点数
Quadruple-precision floating-point format
拡張倍精度浮動小数点数
Extended precision
符号拡張
Sign extension
コンピュータの数値表現
Computer number format
フェッチ・アンド・アッド
Fetch-and-add
バレルシフタ
Barrel shifter
3増し符号
Excess-3
アンパック10進数
符号属性
SignednessTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
Bf16
Bfloat16 floating-point format可変長数値表現
Variable-length quantity
桁上げ保存加算器
Carry-save adder
整数型
Integer (computer science)
ブロック浮動小数点
Block floating point
バレットの還元アルゴリズム
Barrett reduction
