0
フォロー
5
フォロワー

_N() 関数 小数点以下の桁数精度制御

作成日:: 2017-02-24 15:41:31, 更新日:: 2017-02-24 16:39:02
comments   2
hits   3310

取引や利益,口座情報では,価格計算の精度が過度に高いことがよくあります. 取引の失敗や誤りの原因になります. プログラムで_Nを使うと,この問題はうまく解決できます. 精密制御の場合は_Nは四周五入りをしない. _N使用法 _N (処理する変数,制御する小数点精度) 処理後の結果を返します

JavaScript

function main() {
    var sell_price=0.1234567;
    Log("sell_price  _N:",_N(sell_price,6));
  
    var buy_price="0.1234567";
    Log("buy_price  _N:",_N(buy_price,6));
}

コードテストの結果: _N() 関数 小数点以下の桁数精度制御

Python

 def main():
    sell_price=0.1234567
    Log("sell_price  _N:",_N(sell_price,6))
  
    buy_price="0.1234567"
    Log("buy_price  _N:",_N(float(buy_price),6))

ヒント Python の_N 最初のパラメータは,浮点型 float に浮点型に変換する必要があります コードテストの結果: _N() 関数 小数点以下の桁数精度制御