Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic
0の0乗
Zero to the power of zero
二進化十進表現
Binary-coded decimal
固定小数点数
Fixed-point arithmetic
十六進法
Hexadecimal
仮数
Significand
コンピュータの数値表現
Computer number format
算術オーバーフロー
Arithmetic overflow
二進法
Binary number
グレイコード
Gray code
バレットの還元アルゴリズム
Barrett reductionブースの乗算アルゴリズム
Booth's multiplication algorithm
Bf16
Bfloat16 floating-point format
ニブル
Nibble
アンパック10進数
単精度浮動小数点数
Single-precision floating-point format八進法
Octal
バレルシフタ
Barrel shifter
拡張倍精度浮動小数点数
Extended precision
乗算器
Binary multiplier
符号属性
Signedness
桁上げ保存加算器
Carry-save adderTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
FPU
Floating-point unit
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
