PRB: を数式に除算で SUM または AVG 関数を使用すると精度の損失が発生する可能性があります。

文書翻訳 文書翻訳
文書番号: 281341
すべて展開する | すべて折りたたむ

現象

除算で SUM や AVG 集計関数を使用すると、結果の精度が失われます。整数または小数データ型を使用するかどうかに関係なく、精度の損失を発生します。

原因

この現象は、10 進および数値のデータ型の性質と切り捨て、精度およびスケールの値の結果として発生するが原因です。SQL Server Books Online による、sum(numeric(p,s)) の結果は numeric(38,s) です。上記の場合は、sum(amount) numeric(38,9) です。Numeric(38,9) の式がある場合/numeric(15,9) です。理想的には、numeric(63,25) になります。ただし、最大有効桁数が 38 であるため、結果は (38,6) に切り捨てられます。

回避策

この現象を回避するには、次のいずれかを使用します。
  • 数値を除数として使用します。たとえば。

    DECLARE @Quantity numeric(15,9)
    SET @Quantity = 3
    
    SELECT Round(CAST(Sum(t1.Amount) AS numeric(15,9))/@Quantity, 9) As Cost
    FROM t1
    
    					
  • 合計を最初に、変数に格納し、その変数を式で使用します。たとえば。

    
    declare @quantity numeric (15,9)
    set @quantity = 3
    
    declare @sum numeric (15,9)
    set @sum= (select sum(amount) from t1)
    select @sum/@quantity as cost
    
    					
  • 明示的な値の分母を入力します。たとえば。
    select sum(Amount)/3 from t1
    					

詳細

問題を再現するには、クエリ アナライザーから次のクエリを実行します。
CREATE TABLE t1 
(
    Amount    numeric(15,9)    
)
GO
INSERT INTO t1( Amount ) VALUES (0.7)
INSERT INTO t1( Amount ) VALUES (1.3)
SELECT Amount FROM t1

/* result (correct, scale = 9)
Amount    
  
----------------- 
.700000000
1.300000000

DECLARE @Quantity numeric(15,9)
SET @Quantity = 3
    
SELECT t1.Amount / @Quantity As Cost
FROM t1
				
もう一度、桁数と精度の結果です。

ただし、このコードを使用する場合

DECLARE @Quantity numeric(15,9)<BR/>
SET @Quantity = 3

SELECT Sum(t1.Amount)/@Quantity As Cost<BR/>
FROM t1
				
結果は.666666 です。

分母に明示的な値を指定すると、精度の損失は発生しません。値の合計を指定する場合は精度の低下は発生しません。

select sum(Amount)/3 from t1
GO
select 2.0000000/@quantity

				
SUM(amount) 変数に格納し、その変数を使用する場合に、精度の損失は発生しません。精度の損失は除算を数式での集計キーワード SUM や AVG を使用する場合にのみ発生します。
declare @quantity numeric (15,9)
set @quantity = 3

declare @sum numeric (15,9)
set @sum= (select sum(amount) from t1)

select @sum/@quantity as cost
				

プロパティ

文書番号: 281341 - 最終更新日: 2011年7月14日 - リビジョン: 5.0
キーワード:?
kbprb kbmt KB281341 KbMtja
機械翻訳の免責
重要: このサポート技術情報 (以下「KB」) は、翻訳者による翻訳の代わりに、マイクロソフト機械翻訳システムによって翻訳されたものです。マイクロソフトは、お客様に、マイクロソフトが提供している全ての KB を日本語でご利用いただけるように、翻訳者による翻訳 KB に加え機械翻訳 KB も提供しています。しかしながら、機械翻訳の品質は翻訳者による翻訳ほど十分ではありません。誤訳や、文法、言葉使い、その他、たとえば日本語を母国語としない方が日本語を話すときに間違えるようなミスを含んでいる可能性があります。マイクロソフトは、機械翻訳の品質、及び KB の内容の誤訳やお客様が KB を利用されたことによって生じた直接または間接的な問題や損害については、いかなる責任も負わないものとします。マイクロソフトは、機械翻訳システムの改善を継続的に行っています。
英語版 KB:281341
Microsoft Knowledge Base の免責: Microsoft Knowledge Baseに含まれている情報は、いかなる保証もない現状ベースで提供されるものです。Microsoft Corporation及びその関連会社は、市場性および特定の目的への適合性を含めて、明示的にも黙示的にも、一切の保証をいたしません。さらに、Microsoft Corporation及びその関連会社は、本文書に含まれている情報の使用及び使用結果につき、正確性、真実性等、いかなる表明・保証も行ないません。Microsoft Corporation、その関連会社及びこれらの権限ある代理人による口頭または書面による一切の情報提供またはアドバイスは、保証を意味するものではなく、かつ上記免責条項の範囲を狭めるものではありません。Microsoft Corporation、その関連会社 及びこれらの者の供給者は、直接的、間接的、偶発的、結果的損害、逸失利益、懲罰的損害、または特別損害を含む全ての損害に対して、状況のいかんを問わず一切責任を負いません。(Microsoft Corporation、その関連会社 またはこれらの者の供給者がかかる損害の発生可能性を了知している場合を含みます。) 結果的損害または偶発的損害に対する責任の免除または制限を認めていない地域においては、上記制限が適用されない場合があります。なお、本文書においては、文書の体裁上の都合により製品名の表記において商標登録表示、その他の商標表示を省略している場合がありますので、予めご了解ください。

フィードバック

 

Contact us for more help

Contact us for more help
Connect with Answer Desk for expert help.
Get more support from smallbusiness.support.microsoft.com