PRB : Perte de précision peut se produire lorsque vous utilisez SUM ou AVG fonctions dans une formule de division

Traductions disponibles Traductions disponibles
Numéro d'article: 281341 - Voir les produits auxquels s'applique cet article
Agrandir tout | Réduire tout

Symptômes

Si vous utilisez la fonction d'agrégation SUM ou AVG avec division, le résultat perd la précision. La perte de précision se produit, que vous utilisiez un type de données numeric ou decimal.

Cause

Ce comportement est dû à la nature des types de données decimal et numeric et la troncature se produit de la précision et les valeurs d'échelle. Conformément à la documentation en ligne de SQL Server, le résultat de sum(numeric(p,s)) est numeric(38,s). Dans le cas précédent, sum(amount) est numeric(38,9). Une fois une expression de numeric(38,9) / numeric(15,9) ; dans l'idéal, le résultat est numeric(63,25). Toutefois, étant donné que la précision maximale est 38, le résultat tronque à (38,6).

Contournement

Pour contourner ce problème, appliquez une des méthodes suivantes :
  • Utiliser un numérique en tant que le diviseur. Par exemple :

    DECLARE @Quantity numeric(15,9)
    SET @Quantity = 3
    
    SELECT Round(CAST(Sum(t1.Amount) AS numeric(15,9))/@Quantity, 9) As Cost
    FROM t1
    
    					
  • Stocker tout d'abord la somme dans une variable et utilisez la variable dans la formule. Par exemple :

    
    declare @quantity numeric (15,9)
    set @quantity = 3
    
    declare @sum numeric (15,9)
    set @sum= (select sum(amount) from t1)
    select @sum/@quantity as cost
    
    					
  • Placez une valeur explicite dans un dénominateur. Par exemple :
    select sum(Amount)/3 from t1
    					

Plus d'informations

Pour reproduire le problème, exécutez la requête suivante à partir de l'Analyseur de requêtes :
CREATE TABLE t1 
(
    Amount    numeric(15,9)    
)
GO
INSERT INTO t1( Amount ) VALUES (0.7)
INSERT INTO t1( Amount ) VALUES (1.3)
SELECT Amount FROM t1

/* result (correct, scale = 9)
Amount    
  
----------------- 
.700000000
1.300000000

DECLARE @Quantity numeric(15,9)
SET @Quantity = 3
    
SELECT t1.Amount / @Quantity As Cost
FROM t1
				
resélectionner, l'échelle et précision sont corrects dans le résultat.

Toutefois, si vous utilisez ce code

DECLARE @Quantity numeric(15,9)<BR/>
SET @Quantity = 3

SELECT Sum(t1.Amount)/@Quantity As Cost<BR/>
FROM t1
				
le résultat est.666666.

La perte de précision ne se produit pas si vous fournissez une valeur explicite dans le dénominateur. Perte de précision ne se produit pas si vous placez dans la valeur de la somme :

select sum(Amount)/3 from t1
GO
select 2.0000000/@quantity

				
aucune perte de précision survient si vous stockez SUM(amount) dans une variable et que vous utilisez ensuite la variable. La perte de précision survient uniquement lorsque vous utilisez le mot-clé agrégation SUM ou AVG dans une formule mathématique avec division.
declare @quantity numeric (15,9)
set @quantity = 3

declare @sum numeric (15,9)
set @sum= (select sum(amount) from t1)

select @sum/@quantity as cost
				

Propriétés

Numéro d'article: 281341 - Dernière mise à jour: jeudi 16 octobre 2003 - Version: 3.2
Les informations contenues dans cet article s'appliquent au(x) produit(s) suivant(s):
  • Microsoft SQL Server 7.0 Standard
  • Microsoft SQL Server 2000 Standard
Mots-clés : 
kbmt kbprb KB281341 KbMtfr
Traduction automatique
IMPORTANT : Cet article est issu du système de traduction automatique mis au point par Microsoft (http://support.microsoft.com/gp/mtdetails). Un certain nombre d?articles obtenus par traduction automatique sont en effet mis à votre disposition en complément des articles traduits en langue française par des traducteurs professionnels. Cela vous permet d?avoir accès, dans votre propre langue, à l?ensemble des articles de la base de connaissances rédigés originellement en langue anglaise. Les articles traduits automatiquement ne sont pas toujours parfaits et peuvent comporter des erreurs de vocabulaire, de syntaxe ou de grammaire (probablement semblables aux erreurs que ferait une personne étrangère s?exprimant dans votre langue !). Néanmoins, mis à part ces imperfections, ces articles devraient suffire à vous orienter et à vous aider à résoudre votre problème. Microsoft s?efforce aussi continuellement de faire évoluer son système de traduction automatique.
La version anglaise de cet article est la suivante: 281341
L'INFORMATION CONTENUE DANS CE DOCUMENT EST FOURNIE PAR MICROSOFT SANS GARANTIE D'AUCUNE SORTE, EXPLICITE OU IMPLICITE. L'UTILISATEUR ASSUME LE RISQUE DE L'UTILISATION DU CONTENU DE CE DOCUMENT. CE DOCUMENT NE PEUT ETRE REVENDU OU CEDE EN ECHANGE D'UN QUELCONQUE PROFIT.

Envoyer des commentaires

 

Contact us for more help

Contact us for more help
Connect with Answer Desk for expert help.
Get more support from smallbusiness.support.microsoft.com