Category:コンピュータの算術

• 

  有効数字

  Significant figures
  ▲1 trends

  
• 

  浮動小数点数

  Floating-point arithmetic
  ▲1 trends

  
• 

  ビット

  Bit
  
• 

  ゼロ除算

  Division by zero
  ▲1 trends

  
• 

  演算装置

  Arithmetic logic unit
  
• 

  加算器

  Adder (electronics)
  
• 

  二進法

  Binary number
  
• 

  倍精度浮動小数点数

  Double-precision floating-point format
  
• 

  ハミング符号

  Hamming code
  
• 

  1の補数

  Ones' complement
  
• 

  非正規化数

  Subnormal number
  
• 

  グレイコード

  Gray code
  
• 

  計算機イプシロン

  Machine epsilon
  
• 

  2の補数

  Two's complement
  
• 

  仮数

  Significand
  
• 

  ブースの乗算アルゴリズム

  Booth's multiplication algorithm
  
• 

  八進法

  Octal
  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  
• 

  二五進法

  Bi-quinary coded decimal
  
• 

  ブロック浮動小数点

  Block floating point
  
• 

  モンゴメリ乗算

  Montgomery modular multiplication
  
• 

  カハンの加算アルゴリズム

  Kahan summation algorithm
  
• 

  バレルシフタ

  Barrel shifter
  
• 

  符号拡張

  Sign extension
  
• 

  3増し符号

  Excess-3
  
• 

  二進化十進表現

  Binary-coded decimal
  
• 

  任意精度演算

  Arbitrary-precision arithmetic
  
• 

  アンパック10進数