Similar to 倍精度浮動小数点数
二進法
Binary number▲1 trendsニブル
Nibble任意精度演算
Arbitrary-precision arithmeticバイト (情報)
Byte端数処理
Rounding▲2 trendsパック10進数
八進法
Octalハミング符号
Hamming code▲1 trendsバレットの還元アルゴリズム
Barrett reductionバレルシフタ
Barrel shifter半精度浮動小数点数
Half-precision floating-point format▲1 trends非正規化数
Subnormal numberビット
Bit▲1 trendsビット演算
Bitwise operationBf16
Bfloat16 floating-point formatブースの乗算アルゴリズム
Booth's multiplication algorithmフェッチ・アンド・アッド
Fetch-and-add符号拡張
Sign extension符号属性
Signedness浮動小数点数
Floating-point arithmetic▲2 trendsマスク (情報工学)
Mask (computing)ミニフロート
Minifloatモンゴメリ乗算
Montgomery modular multiplication有効数字
Significant figures▲2 trendsワード
Word (computer architecture)