Similar to 浮動小数点数

• 

  二進法

  Binary number
  
• 

  端数処理

  Rounding
  ▼-1 trends

  
• 

  パック10進数

  
• 

  八進法

  Octal
  
• 

  符号付数値表現

  Signed number representations
  
• 

  有効数字

  Significant figures
  ▼-1 trends

  
• 

  整数型

  Integer (computer science)
  
• 

  単精度浮動小数点数

  Single-precision floating-point format
  
• 

  任意精度演算

  Arbitrary-precision arithmetic
  
• 

  半精度浮動小数点数

  Half-precision floating-point format
  
• 

  ビット

  Bit
  
• 

  Bf16

  Bfloat16 floating-point format
  
• 

  符号属性

  Signedness
  
• 

  ミニフロート

  Minifloat
  
• 

  0

  0
  ▲1 trends

  
• 

  1

  1
  
• 

  2

  2
  
• 

  3

  3
  
• 

  4

  4
  
• 

  5

  5
  
• 

  6

  6
  
• 

  7

  7
  
• 

  8

  8
  
• 

  9

  9
  
• 

  12345679

  
• 

  数学

  Mathematics
  ▼-1 trends

  
• 

  0次元

  Zero-dimensional space
  
• 

  1次元

  One-dimensional space