Category:コンピュータの算術
0の0乗
Zero to the power of zero
十六進法
Hexadecimal
二進法
Binary number
ゼロ除算
Division by zero
浮動小数点数
Floating-point arithmetic
二進化十進表現
Binary-coded decimal
固定小数点数
Fixed-point arithmetic
単精度浮動小数点数
Single-precision floating-point format
半精度浮動小数点数
Half-precision floating-point format
NaN
NaN
符号付数値表現
Signed number representations
算術オーバーフロー
Arithmetic overflow
ビット
Bit
整数型
Integer (computer science)
仮数
Significand
最上位ビット
Most significant bit
Bf16
Bfloat16 floating-point format
−0
Signed zero
FPU
Floating-point unit
ビット演算
Bitwise operation
バレットの還元アルゴリズム
Barrett reduction
計算機イプシロン
Machine epsilon
ミニフロート
Minifloat
非正規化数
Subnormal number
コンピュータの数値表現
Computer number format
ワード
Word (computer architecture)
アンパック10進数
最下位ビット
Least significant bit