Re: System i SQL G/Wにおける数値項目
otamth
投稿数: 46
ISHIJIMAさん、こんにちは
sum()関数を使用した一応の結果を教えていただきましたのでアップします。
----------------------------
いろいろいじってみましたが、計算の出力先のバッファが16バイトのPacked
Decimal形式に固定されているようです。
APGを使わずに変数を手動で作成(numeric)、出力パラメータに指定してみても結果は一緒でした。
この場合、形式をPacked Decimalの31桁(内部16バイト)に変更したところ、集計結果が表示できました。
こちらでNumeric等他の数値形式に変えても、埋め込みSQL側で16バイトのPackedDecimalで入れてしまっているような感じです。
とりあえず、System iの埋め込みSQLでのSUM関数の出力先は、16バイトのPackedDecimalしか使えないようです。
バッファサイズはCOUNT、MAX等それぞれの関数によって違うようです。
COUNTは4バイトのString Integer、MAXは4バイトのPacked Decimalが取られました(MAXは比較する値の桁数によって変わると思います)。
-------------------------
ただF8のエラーチェックをかけますと、数値サイズは18桁までですというのが表示されます。これは無視して結果オーライのようなことで行うしかないようです。
以上の方式で収束しましたのでご連絡いたします。
ISHIJIMAさんには大変お世話になりました。
sum()関数を使用した一応の結果を教えていただきましたのでアップします。
----------------------------
いろいろいじってみましたが、計算の出力先のバッファが16バイトのPacked
Decimal形式に固定されているようです。
APGを使わずに変数を手動で作成(numeric)、出力パラメータに指定してみても結果は一緒でした。
この場合、形式をPacked Decimalの31桁(内部16バイト)に変更したところ、集計結果が表示できました。
こちらでNumeric等他の数値形式に変えても、埋め込みSQL側で16バイトのPackedDecimalで入れてしまっているような感じです。
とりあえず、System iの埋め込みSQLでのSUM関数の出力先は、16バイトのPackedDecimalしか使えないようです。
バッファサイズはCOUNT、MAX等それぞれの関数によって違うようです。
COUNTは4バイトのString Integer、MAXは4バイトのPacked Decimalが取られました(MAXは比較する値の桁数によって変わると思います)。
-------------------------
ただF8のエラーチェックをかけますと、数値サイズは18桁までですというのが表示されます。これは無視して結果オーライのようなことで行うしかないようです。
以上の方式で収束しましたのでご連絡いたします。
ISHIJIMAさんには大変お世話になりました。
投票数:0
平均点:0.00
投稿ツリー
-
System i SQL G/Wにおける数値項目
(otamth, 2009-7-15 11:26)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-15 19:26)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 7:32)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-16 8:10)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 8:20)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-16 8:27)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 9:12)
- Re: System i SQL G/Wにおける数値項目 (otamth, 2009-7-16 10:16)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 9:12)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-16 8:27)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 8:20)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-16 8:10)
-
Re: System i SQL G/Wにおける数値項目
(otamth, 2009-7-16 7:32)
-
Re: System i SQL G/Wにおける数値項目
(ISHIJIMA, 2009-7-15 19:26)