Calculation on BigDecimal in a function : BigDecimal « Number « Ruby






Calculation on BigDecimal in a function


require 'bigdecimal'

def two_thirds(precision)
  (BigDecimal("2", precision) / BigDecimal("3")).to_s
end

two_thirds(1)                           # => "0.6666666666666667E0"
two_thirds(4)                           # => "0.6666666666666667E0"
two_thirds(5)                           # => "0.66666666666666666667E0"
two_thirds(9)                           # => "0.666666666666666666666667E0"
two_thirds(13)                          # => "0.6666666666666666666666666667E0"

 








Related examples in the same category

1.Big decimal calculation
2.precs of BigDecimal
3.Convert big decimal to string
4.to_f cuts numbers
5.split a big number
6..to_s("F")
7.Convert BigDecimal to string
8.Add value to BigDecimal
9.Round a BigDecimal
10.Get the square root for a BigDecimal
11.PI in BigDecimal