Similar to 精度_(算術)

• 

  INTLAB

  INTLAB
  
• 

  Remezのアルゴリズム

  Remez algorithm
  
• 

  SOR法

  Successive over-relaxation
  
• 

  アフィン演算

  Affine arithmetic
  
• 

  Abramowitz and Stegun

  Abramowitz and Stegun
  
• 

  カハンの加算アルゴリズム

  Kahan summation algorithm
  
• 

  −0

  Signed zero
  
• 

  固定小数点数

  Fixed-point arithmetic
  
• 

  コンピュータの数値表現

  Computer number format
  
• 

  十六進法

  Hexadecimal
  
• 

  七進法

  Septenary
  
• 

  二進法

  Binary number
  ▼-1 trends

  
• 

  端数処理

  Rounding
  
• 

  八進法

  Octal
  
• 

  有効数字

  Significant figures
  ▼-1 trends

  
• 

  10.5インチiPad Pro

  
• 

  FPU

  Floating-point unit
  
• 

  整数型

  Integer (computer science)
  
• 

  0

  0
  ▲1 trends

  
• 

  1

  1
  ▼-1 trends

  
• 

  2

  2
  
• 

  3

  3
  
• 

  4

  4
  
• 

  5

  5
  
• 

  6

  6
  
• 

  7

  7
  
• 

  8

  8
  
• 

  9

  9