ホーム   フォーラム   FAQ
 
メインメニュー
ログイン
ユーザー名:

パスワード:


パスワード紛失

計算結果がおかしい。

  • このフォーラムに新しいトピックを立てることはできません
  • このフォーラムではゲスト投稿が禁止されています
前の投稿 - 次の投稿 | 親投稿 - 子投稿なし | 投稿日時 2014-2-27 10:53
humi  長老   投稿数: 204
s_naguraさん
ご返答頂き、誠に有難う御座います。

分子/分母で計算した値を集計するのではなく、分子の合計を求めて、分母と比べるロジックを考えます。

Tandaさんとs_naguraさん、ご教授頂き、誠に有難う御座います。
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿.1 | 投稿日時 2014-2-27 10:01
s_nagura  一人前   投稿数: 109
以下の3行のサンプルで考えると…
項目A|項目B
1|3
1|3
1|3
各行の結果は0.3333…。変数Cの合計は0.9999…になります。
よって、おっしゃる通り分子の合計を求めてからエラーチェックするロジックを考えた方が良いと思います。
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿.1 | 投稿日時 2014-2-27 8:06
humi  長老   投稿数: 204
サンプルデータに誤りがありました。

項目A|項目B
01658|05892
02437|05892
01658|05892
00139|05892
でした。
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿なし | 投稿日時 2014-2-26 17:42
humi  長老   投稿数: 204
Tandaさん
ご返答頂き有難う御座います。

実現したいことは、項目A/項目Bで比率を求めて、合計が1にならない場合は、エラーメッセージを表示させています。項目Aが分子で項目Bが分母で、分子の合計と分母を比べて、エラーチェックを出来ないかと思っています。サンプルのデータは分母が1つですが、別データは分母が2つの場合もあります。但し、Tandaさんのご回答を参考にすると、どちらかはエラーになるのは仕方ないことなのでしょうか。ご教授の程宜しくお願い致します。
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿.1 | 投稿日時 2014-2-26 16:41
Tanda  長老   投稿数: 2151
humiさん

すべての割り算が割り切れる答えを出していないうようなので、
その合計も小数点以下の単位設定で値が異なってくると思うの
ですが、それではまずいのでしょうか?
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿なし | 投稿日時 2014-2-26 15:37
humi  長老   投稿数: 204
MAGICのバージョンの記載を忘れました。バージョンはdbMAGIC Ver8.2K4SP2aです。宜しくお願い致します。
投票数:0 平均点:0.00
前の投稿 - 次の投稿 | 親投稿 - 子投稿.1 .2 .3 | 投稿日時 2014-2-26 15:34
humi  長老   投稿数: 204
いつも参考にしております。
次のような処理で計算結果がおかしくなります。

項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。

しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。

どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
投票数:0 平均点:0.00

  条件検索へ


Copyright (C) Magic Software Japan K.K. All Rights Reserved.
個人情報保護方針 会員規約