計算結果がおかしい。
humi
投稿数: 204
いつも参考にしております。
次のような処理で計算結果がおかしくなります。
項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。
しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。
どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
次のような処理で計算結果がおかしくなります。
項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。
しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。
どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
投票数:0
平均点:0.00
投稿ツリー
-
計算結果がおかしい。
(humi, 2014-2-26 15:34)
- Re: 計算結果がおかしい。 (humi, 2014-2-26 15:37)
-
Re: 計算結果がおかしい。
(Tanda, 2014-2-26 16:41)
- Re: 計算結果がおかしい。 (humi, 2014-2-26 17:42)
-
Re: 計算結果がおかしい。
(humi, 2014-2-27 8:06)
-
Re: 計算結果がおかしい。
(s_nagura, 2014-2-27 10:01)
- Re: 計算結果がおかしい。 (humi, 2014-2-27 10:53)
-
Re: 計算結果がおかしい。
(s_nagura, 2014-2-27 10:01)