計算結果がおかしい。
- このフォーラムに新しいトピックを立てることはできません
- このフォーラムではゲスト投稿が禁止されています
humi
投稿数: 204
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
いつも参考にしております。
次のような処理で計算結果がおかしくなります。
項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。
しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。
どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
次のような処理で計算結果がおかしくなります。
項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。
しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。
どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
投票数:0
平均点:0.00
humi
投稿数: 204
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
MAGICのバージョンの記載を忘れました。バージョンはdbMAGIC Ver8.2K4SP2aです。宜しくお願い致します。
投票数:0
平均点:0.00
Tanda
投稿数: 2151
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
humiさん
すべての割り算が割り切れる答えを出していないうようなので、
その合計も小数点以下の単位設定で値が異なってくると思うの
ですが、それではまずいのでしょうか?
すべての割り算が割り切れる答えを出していないうようなので、
その合計も小数点以下の単位設定で値が異なってくると思うの
ですが、それではまずいのでしょうか?
投票数:0
平均点:0.00
humi
投稿数: 204
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
Tandaさん
ご返答頂き有難う御座います。
実現したいことは、項目A/項目Bで比率を求めて、合計が1にならない場合は、エラーメッセージを表示させています。項目Aが分子で項目Bが分母で、分子の合計と分母を比べて、エラーチェックを出来ないかと思っています。サンプルのデータは分母が1つですが、別データは分母が2つの場合もあります。但し、Tandaさんのご回答を参考にすると、どちらかはエラーになるのは仕方ないことなのでしょうか。ご教授の程宜しくお願い致します。
ご返答頂き有難う御座います。
実現したいことは、項目A/項目Bで比率を求めて、合計が1にならない場合は、エラーメッセージを表示させています。項目Aが分子で項目Bが分母で、分子の合計と分母を比べて、エラーチェックを出来ないかと思っています。サンプルのデータは分母が1つですが、別データは分母が2つの場合もあります。但し、Tandaさんのご回答を参考にすると、どちらかはエラーになるのは仕方ないことなのでしょうか。ご教授の程宜しくお願い致します。
投票数:0
平均点:0.00
humi
投稿数: 204
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
サンプルデータに誤りがありました。
項目A|項目B
01658|05892
02437|05892
01658|05892
00139|05892
でした。
項目A|項目B
01658|05892
02437|05892
01658|05892
00139|05892
でした。
投票数:0
平均点:0.00
s_nagura
投稿数: 109
![一人前 一人前](../../uploads/rank3dbf8ea81e642.gif)
以下の3行のサンプルで考えると…
項目A|項目B
1|3
1|3
1|3
各行の結果は0.3333…。変数Cの合計は0.9999…になります。
よって、おっしゃる通り分子の合計を求めてからエラーチェックするロジックを考えた方が良いと思います。
項目A|項目B
1|3
1|3
1|3
各行の結果は0.3333…。変数Cの合計は0.9999…になります。
よって、おっしゃる通り分子の合計を求めてからエラーチェックするロジックを考えた方が良いと思います。
投票数:0
平均点:0.00
humi
投稿数: 204
![長老 長老](../../uploads/rank3dbf8eb1a72e7.gif)
s_naguraさん
ご返答頂き、誠に有難う御座います。
分子/分母で計算した値を集計するのではなく、分子の合計を求めて、分母と比べるロジックを考えます。
Tandaさんとs_naguraさん、ご教授頂き、誠に有難う御座います。
ご返答頂き、誠に有難う御座います。
分子/分母で計算した値を集計するのではなく、分子の合計を求めて、分母と比べるロジックを考えます。
Tandaさんとs_naguraさん、ご教授頂き、誠に有難う御座います。
投票数:0
平均点:0.00