「なでしこv1」開発掲示板

なでしこv1のバグや要望を書き込む掲示板

@596■ (#1906) INT()関数の計算誤差 - 奈良の鹿 (2011-03-01 16:51) /高 未処理
【症状】INT()関数の計算誤差


【再現方法】
//-------------------------------------------
//整数化を行った場合。※誤差発生※

INT(100*1.05)を表示   //結果 104

//-------------------------------------------

(100*1.05)の整数部分を表示   //結果 104

(100*1.05)の小数部分を表示   //結果   1

//-------------------------------------------
ひまわりでは正しく計算されました。
     
INT(100*1.05)を、表示。      //結果 105

//-------------------------------------------

#質問する板に投稿した内容とほぼ同じです。
#詳細は、2011-02-02 消費税(税込)の計算誤差について


【要望】どのような解決が望ましいか?


【バージョン】確認したバージョン
---------------------------------------
日本語プログラミング言語「なでしこ」
---------------------------------------
バージョン:1.5332
最終更新日:2011/02/28
OS   :Windows XP [5.1(2600:2)]
---------------------------------------


【その他】
INT()は、基本的な関数なので、誤差の発生を疑うことはありません。
特定のバージョン以降の現象となれば、集計結果の間違いに気づき、
原因を突き止めるのも大変でしょう。

実務上、消費税の計算に使用している場合を考えると、速やかな対応が必要だと思います。



INT()関数の計算誤差 / 奈良の鹿 (2011-03-01 16:51) (#1906)/ 高 未処理
  (Delphi の)浮動小数点数の問題なので.. / U D (2011-03-08 01:36) (#1908)/ 低 未処理
  ありがとうございました。 / 奈良の鹿 (2011-03-09 11:48) (#1909)/ 低 感謝

(#1906)へ返信する:

👆お手数ですが、いたずら防止のために、「真夏」の読み方を記入してください。

編集時に使うキーを入力(省略可能)

画像ファイル(最大300KB)を添付可能