Category:コンピュータの算術

• 

  有効数字

  Significant figures
  ▲1 trends

  
• 

  浮動小数点数

  Floating-point arithmetic
  ▲1 trends

  
• 

  ゼロ除算

  Division by zero
  ▲1 trends

  
• 

  ビット

  Bit
  
• 

  演算装置

  Arithmetic logic unit
  ▲1 trends

  
• 

  倍精度浮動小数点数

  Double-precision floating-point format
  
• 

  加算器

  Adder (electronics)
  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  
• 

  二進法

  Binary number
  
• 

  1の補数

  Ones' complement
  
• 

  ハミング符号

  Hamming code
  
• 

  計算機イプシロン

  Machine epsilon
  
• 

  仮数

  Significand
  
• 

  半精度浮動小数点数

  Half-precision floating-point format
  
• 

  非正規化数

  Subnormal number
  
• 

  端数処理

  Rounding
  ▼-1 trends

  
• 

  2の補数

  Two's complement
  
• 

  ブースの乗算アルゴリズム

  Booth's multiplication algorithm
  
• 

  0の0乗

  Zero to the power of zero
  
• 

  八進法

  Octal
  
• 

  モンゴメリ乗算

  Montgomery modular multiplication
  
• 

  乗算器

  Binary multiplier
  
• 

  カハンの加算アルゴリズム

  Kahan summation algorithm
  
• 

  任意精度演算

  Arbitrary-precision arithmetic
  
• 

  グレイコード

  Gray code
  
• 

  ブロック浮動小数点

  Block floating point
  
• 

  バレルシフタ

  Barrel shifter
  
• 

  コンペア・アンド・スワップ

  Compare-and-swap