Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic
0の0乗
Zero to the power of zero
端数処理
Rounding
ゼロ除算
Division by zero
有効数字
Significant figures
十六進法
Hexadecimal
ハミング符号
Hamming code
ビット
Bit
半精度浮動小数点数
Half-precision floating-point format
二進法
Binary number
固定小数点数
Fixed-point arithmetic
整数型
Integer (computer science)
最下位ビット
Least significant bit
算術オーバーフロー
Arithmetic overflow
Bf16
Bfloat16 floating-point format
パック10進数
倍精度浮動小数点数
Double-precision floating-point format
ビット演算
Bitwise operation2の補数
Two's complement
NaN
NaN
計算機イプシロン
Machine epsilon
二進化十進表現
Binary-coded decimal
FPU
Floating-point unit
演算装置
Arithmetic logic unit
ワード
Word (computer architecture)
加算器
Adder (electronics)
−0
Signed zero
カハンの加算アルゴリズム
Kahan summation algorithm