Similar to 計算機イプシロン
パック10進数
八進法
Octal
ハミング符号
Hamming code
バレットの還元アルゴリズム
Barrett reduction
バレルシフタ
Barrel shifter
半精度浮動小数点数
Half-precision floating-point format
非正規化数
Subnormal number
ビット
Bit
ビット演算
Bitwise operation
Bf16
Bfloat16 floating-point formatブースの乗算アルゴリズム
Booth's multiplication algorithm
フェッチ・アンド・アッド
Fetch-and-add
符号拡張
Sign extension
符号属性
Signedness
符号付数値表現
Signed number representations
浮動小数点数
Floating-point arithmetic▲1 trendsブロック浮動小数点
Block floating point
マスク (情報工学)
Mask (computing)
ミニフロート
Minifloat
モンゴメリ乗算
Montgomery modular multiplication
有効数字
Significant figures▲1 trends四倍精度浮動小数点数
Quadruple-precision floating-point format
ワード
Word (computer architecture)(19308) 1996 TO66
(19308) 1996 TO66
アリ×アリ
FNSソフト工場
火曜イチバン!
火曜時代劇 (フジテレビ)
