Similar to コンペア・アンド・スワップ

• 

  算術オーバーフロー

  Arithmetic overflow
  
• 

  十六進法

  Hexadecimal
  
• 

  乗算器

  Binary multiplier
  
• 

  除算 (デジタル)

  Division algorithm
  
• 

  整数型

  Integer (computer science)
  
• 

  精度 (算術)

  Precision (computer science)
  
• 

  ゼロ除算

  Division by zero
  ▲1 trends

  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  ▲1 trends

  
• 

  七進法

  Septenary
  
• 

  二五進法

  Bi-quinary coded decimal
  
• 

  二進化十進表現

  Binary-coded decimal
  
• 

  二進法

  Binary number
  
• 

  2の補数

  Two's complement
  
• 

  ニブル

  Nibble
  
• 

  任意精度演算

  Arbitrary-precision arithmetic
  
• 

  倍精度浮動小数点数

  Double-precision floating-point format
  
• 

  バイト (情報)

  Byte
  
• 

  端数処理

  Rounding
  
• 

  パック10進数

  
• 

  八進法

  Octal
  
• 

  ハミング符号

  Hamming code
  
• 

  バレットの還元アルゴリズム

  Barrett reduction
  
• 

  バレルシフタ

  Barrel shifter
  
• 

  半精度浮動小数点数

  Half-precision floating-point format
  
• 

  非正規化数

  Subnormal number
  
• 

  ビット

  Bit
  
• 

  ビット演算

  Bitwise operation
  
• 

  Bf16

  Bfloat16 floating-point format