Category:コンピュータの算術

• 

  NaN

  NaN
  ▲1 trends

  
• 

  八進法

  Octal
  
• 

  コンピュータの数値表現

  Computer number format
  
• 

  テスト・アンド・セット

  Test-and-set
  
• 

  可変長数値表現

  Variable-length quantity
  
• 

  乗算器

  Binary multiplier
  
• 

  最上位ビット

  Most significant bit
  
• 

  FPU

  Floating-point unit
  
• 

  二五進法

  Bi-quinary coded decimal
  
• 

  1の補数

  Ones' complement
  
• 

  Template:コンピュータの数値精度

  
• 

  IEEE 754における負のゼロ

  
• 

  Densely packed decimal

  Densely packed decimal
  
• 

  IEEE 754

  IEEE 754
  
• 

  オクテット (コンピュータ)

  Octet (computing)
  
• 

  桁上げ保存加算器

  Carry-save adder
  
• 

  除算 (デジタル)

  Division algorithm
  
• 

  精度 (算術)

  Precision (computer science)
  
• 

  七進法

  Septenary
  
• 

  バイト (情報)

  Byte
  
• 

  マスク (情報工学)

  Mask (computing)
  
• 

  3増し符号

  Excess-3
  
• 

  バレルシフタ

  Barrel shifter
  
• 

  符号属性

  Signedness
  
• 

  フェッチ・アンド・アッド

  Fetch-and-add
  
• 

  ブロック浮動小数点

  Block floating point
  
• 

  バレットの還元アルゴリズム

  Barrett reduction
  
• 

  コンペア・アンド・スワップ

  Compare-and-swap