Category:コンピュータの算術

• 

  ゼロ除算

  Division by zero
  ▲1 trends

  
• 

  浮動小数点数

  Floating-point arithmetic
  
• 

  端数処理

  Rounding
  
• 

  0の0乗

  Zero to the power of zero
  ▲1 trends

  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  ▲1 trends

  
• 

  半精度浮動小数点数

  Half-precision floating-point format
  
• 

  NaN

  NaN
  
• 

  十六進法

  Hexadecimal
  
• 

  加算器

  Adder (electronics)
  
• 

  倍精度浮動小数点数

  Double-precision floating-point format
  
• 

  有効数字

  Significant figures
  
• 

  整数型

  Integer (computer science)
  
• 

  テスト・アンド・セット

  Test-and-set
  
• 

  最下位ビット

  Least significant bit
  
• 

  二進法

  Binary number
  
• 

  任意精度演算

  Arbitrary-precision arithmetic
  
• 

  モンゴメリ乗算

  Montgomery modular multiplication
  
• 

  ビット

  Bit
  
• 

  算術オーバーフロー

  Arithmetic overflow
  
• 

  ブースの乗算アルゴリズム

  Booth's multiplication algorithm
  
• 

  二進化十進表現

  Binary-coded decimal
  
• 

  Bf16

  Bfloat16 floating-point format
  
• 

  ニブル

  Nibble
  
• 

  固定小数点数

  Fixed-point arithmetic
  
• 

  演算装置

  Arithmetic logic unit
  
• 

  四倍精度浮動小数点数

  Quadruple-precision floating-point format
  
• 

  パック10進数

  
• 

  ビット演算

  Bitwise operation