Similar to Template:コンピュータの数値精度

• 

  拡張倍精度浮動小数点数

  Extended precision
  
• 

  加算器

  Adder (electronics)
  
• 

  仮数

  Significand
  
• 

  カハンの加算アルゴリズム

  Kahan summation algorithm
  
• 

  可変長数値表現

  Variable-length quantity
  
• 

  グレイコード

  Gray code
  
• 

  計算機イプシロン

  Machine epsilon
  
• 

  桁上げ保存加算器

  Carry-save adder
  
• 

  固定小数点数

  Fixed-point arithmetic
  
• 

  コンピュータの数値表現

  Computer number format
  
• 

  コンペア・アンド・スワップ

  Compare-and-swap
  
• 

  最下位ビット

  Least significant bit
  
• 

  最上位ビット

  Most significant bit
  
• 

  算術オーバーフロー

  Arithmetic overflow
  
• 

  十六進法

  Hexadecimal
  
• 

  乗算器

  Binary multiplier
  
• 

  除算 (デジタル)

  Division algorithm
  
• 

  整数型

  Integer (computer science)
  
• 

  精度 (算術)

  Precision (computer science)
  
• 

  ゼロ除算

  Division by zero
  ▲1 trends

  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  
• 

  テスト・アンド・セット

  Test-and-set
  
• 

  七進法

  Septenary
  
• 

  二五進法

  Bi-quinary coded decimal
  
• 

  二進化十進表現

  Binary-coded decimal
  
• 

  二進法

  Binary number
  
• 

  2の補数

  Two's complement
  
• 

  ニブル

  Nibble