PRB: 部门使用的公式中使用 SUM 或 AVG 函数时,丢失精度的可能出现

文章翻译 文章翻译
文章编号: 281341 - 查看本文应用于的产品
展开全部 | 关闭全部

症状

使用除 SUM 或 AVG 的聚合函数则,结果丢失精度。无论您是否使用数字或小数的数据类型发生精度损失。

原因

此行为是由于小数点和数字数据类型的性质和精度和小数位数的值的结果发生截断。根据 SQL Server 联机丛书,sum(numeric(p,s)) 的结果是 numeric(38,s)。在最前面的情况下 sum(amount) 是 numeric(38,9)。当您具有的 numeric(38,9) 表达式 / numeric(15,9) ; 理想情况下,该结果是 numeric(63,25)。但是,因为最大精度是 38,那么结果将截断 (38,6)。

替代方法

若要变通解决此问题,请使用以下两种方法之一:
  • 用作除数的数字。例如:

    DECLARE @Quantity numeric(15,9)
    SET @Quantity = 3
    
    SELECT Round(CAST(Sum(t1.Amount) AS numeric(15,9))/@Quantity, 9) As Cost
    FROM t1
    
    					
  • 第一次,在变量中存储总和并在公式中使用该变量。例如:

    
    declare @quantity numeric (15,9)
    set @quantity = 3
    
    declare @sum numeric (15,9)
    set @sum= (select sum(amount) from t1)
    select @sum/@quantity as cost
    
    					
  • 将显式值放在一个分母中。例如:
    select sum(Amount)/3 from t1
    					

更多信息

若要重现行为,请从查询分析器运行以下查询:
CREATE TABLE t1 
(
    Amount    numeric(15,9)    
)
GO
INSERT INTO t1( Amount ) VALUES (0.7)
INSERT INTO t1( Amount ) VALUES (1.3)
SELECT Amount FROM t1

/* result (correct, scale = 9)
Amount    
  
----------------- 
.700000000
1.300000000

DECLARE @Quantity numeric(15,9)
SET @Quantity = 3
    
SELECT t1.Amount / @Quantity As Cost
FROM t1
				
再次、 小数位数和精度是正确的结果中。

但是,如果您使用此代码

DECLARE @Quantity numeric(15,9)<BR/>
SET @Quantity = 3

SELECT Sum(t1.Amount)/@Quantity As Cost<BR/>
FROM t1
				
结果是.666666。

如果您提供分母中显示的值,则不会出现精度损失。如果您将放入之和的值,则不会发生精度损失:

select sum(Amount)/3 from t1
GO
select 2.0000000/@quantity

				
如果在变量中存储 SUM(amount),然后使用该变量,则会产生不发生精度损失。仅当您使用部门的数学公式中的聚合关键字 SUM 或 AVG 时才会出现精度损失。
declare @quantity numeric (15,9)
set @quantity = 3

declare @sum numeric (15,9)
set @sum= (select sum(amount) from t1)

select @sum/@quantity as cost
				

属性

文章编号: 281341 - 最后修改: 2003年10月16日 - 修订: 3.2
这篇文章中的信息适用于:
  • Microsoft SQL Server 7.0 标准版
  • Microsoft SQL Server 2000 标准版
关键字:?
kbmt kbprb KB281341 KbMtzh
机器翻译
注意:这篇文章是由无人工介入的微软自动的机器翻译软件翻译完成。微软很高兴能同时提供给您由人工翻译的和由机器翻译的文章, 以使您能使用您的语言访问所有的知识库文章。然而由机器翻译的文章并不总是完美的。它可能存在词汇,语法或文法的问题,就像是一个外国人在说中文时总是可能犯这样的错误。虽然我们经常升级机器翻译软件以提高翻译质量,但是我们不保证机器翻译的正确度,也不对由于内容的误译或者客户对它的错误使用所引起的任何直接的, 或间接的可能的问题负责。
点击这里察看该文章的英文版: 281341
Microsoft和/或其各供应商对于为任何目的而在本服务器上发布的文件及有关图形所含信息的适用性,不作任何声明。 所有该等文件及有关图形均"依样"提供,而不带任何性质的保证。Microsoft和/或其各供应商特此声明,对所有与该等信息有关的保证和条件不负任何责任,该等保证和条件包括关于适销性、符合特定用途、所有权和非侵权的所有默示保证和条件。在任何情况下,在由于使用或运行本服务器上的信息所引起的或与该等使用或运行有关的诉讼中,Microsoft和/或其各供应商就因丧失使用、数据或利润所导致的任何特别的、间接的、衍生性的损害或任何因使用而丧失所导致的之损害、数据或利润不负任何责任。

提供反馈

 

Contact us for more help

Contact us for more help
Connect with Answer Desk for expert help.
Get more support from smallbusiness.support.microsoft.com