ホーム   フォーラム   FAQ
 
メインメニュー
ログイン
ユーザー名:

パスワード:


パスワード紛失

計算結果がおかしい。

このトピックの投稿一覧へ

なし 計算結果がおかしい。

msg# 1
depth:
0
前の投稿 - 次の投稿 | 親投稿 - 子投稿.1 .2 .3 | 投稿日時 2014-2-26 15:34
humi  長老   投稿数: 204
いつも参考にしております。
次のような処理で計算結果がおかしくなります。

項目A|項目B
01658|05892
02437|05892
01678|05892
00139|05892
上記のようなデータがあり、項目A/項目Bの値を、変数C(数値型 4.9)に集計させたところ、変数Cの値が0.999999999になります。変数Cを数値型4.4にすると、変数Cの値は1.0000になります。

しかし、下記のようなデータの場合は、
項目A|項目B
00206|05432
02050|05432
00450|05432
00226|05432
02500|05432
数値型4.9の時は、1.000000000で、数値型4.4の場合は、0.9999になります。

どちらのデータも、集計結果は1になって欲しいのですが、どうしたら出来るでしょうか。ご教授の程宜しくお願い致します。
投票数:0 平均点:0.00

投稿ツリー

  条件検索へ


Copyright (C) Magic Software Japan K.K. All Rights Reserved.
個人情報保護方針 会員規約