Vous êtes actuellement hors ligne, en attente de reconnexion à Internet.

PRB : Perte de précision peut se produire lorsque vous utilisez SUM ou AVG fonctions dans une formule de division

IMPORTANT : Cet article est issu du système de traduction automatique mis au point par Microsoft (http://support.microsoft.com/gp/mtdetails). Un certain nombre d’articles obtenus par traduction automatique sont en effet mis à votre disposition en complément des articles traduits en langue française par des traducteurs professionnels. Cela vous permet d’avoir accès, dans votre propre langue, à l’ensemble des articles de la base de connaissances rédigés originellement en langue anglaise. Les articles traduits automatiquement ne sont pas toujours parfaits et peuvent comporter des erreurs de vocabulaire, de syntaxe ou de grammaire (probablement semblables aux erreurs que ferait une personne étrangère s’exprimant dans votre langue !). Néanmoins, mis à part ces imperfections, ces articles devraient suffire à vous orienter et à vous aider à résoudre votre problème. Microsoft s’efforce aussi continuellement de faire évoluer son système de traduction automatique.

La version anglaise de cet article est la suivante: 281341
Cet article a été archivé. Il est proposé « en l'état » et ne sera plus mis à jour.
Symptômes
Si vous utilisez la fonction d'agrégation SUM ou AVG avec division, le résultat perd la précision. La perte de précision se produit, que vous utilisiez un type de données numeric ou decimal.
Cause
Ce comportement est dû à la nature des types de données decimal et numeric et la troncature se produit de la précision et les valeurs d'échelle. Conformément à la documentation en ligne de SQL Server, le résultat de sum(numeric(p,s)) est numeric(38,s). Dans le cas précédent, sum(amount) est numeric(38,9). Une fois une expression de numeric(38,9) / numeric(15,9) ; dans l'idéal, le résultat est numeric(63,25). Toutefois, étant donné que la précision maximale est 38, le résultat tronque à (38,6).
Contournement
Pour contourner ce problème, appliquez une des méthodes suivantes :
  • Utiliser un numérique en tant que le diviseur. Par exemple :

    DECLARE @Quantity numeric(15,9)SET @Quantity = 3SELECT Round(CAST(Sum(t1.Amount) AS numeric(15,9))/@Quantity, 9) As CostFROM t1					
  • Stocker tout d'abord la somme dans une variable et utilisez la variable dans la formule. Par exemple :

    declare @quantity numeric (15,9)set @quantity = 3declare @sum numeric (15,9)set @sum= (select sum(amount) from t1)select @sum/@quantity as cost					
  • Placez une valeur explicite dans un dénominateur. Par exemple :
    select sum(Amount)/3 from t1					
Plus d'informations
Pour reproduire le problème, exécutez la requête suivante à partir de l'Analyseur de requêtes :
CREATE TABLE t1 (    Amount    numeric(15,9)    )GOINSERT INTO t1( Amount ) VALUES (0.7)INSERT INTO t1( Amount ) VALUES (1.3)SELECT Amount FROM t1/* result (correct, scale = 9)Amount      ----------------- .7000000001.300000000DECLARE @Quantity numeric(15,9)SET @Quantity = 3    SELECT t1.Amount / @Quantity As CostFROM t1				
resélectionner, l'échelle et précision sont corrects dans le résultat.

Toutefois, si vous utilisez ce code
DECLARE @Quantity numeric(15,9)<BR/>SET @Quantity = 3SELECT Sum(t1.Amount)/@Quantity As Cost<BR/>FROM t1				
le résultat est.666666.

La perte de précision ne se produit pas si vous fournissez une valeur explicite dans le dénominateur. Perte de précision ne se produit pas si vous placez dans la valeur de la somme :
select sum(Amount)/3 from t1GOselect 2.0000000/@quantity				
aucune perte de précision survient si vous stockez SUM(amount) dans une variable et que vous utilisez ensuite la variable. La perte de précision survient uniquement lorsque vous utilisez le mot-clé agrégation SUM ou AVG dans une formule mathématique avec division.
declare @quantity numeric (15,9)set @quantity = 3declare @sum numeric (15,9)set @sum= (select sum(amount) from t1)select @sum/@quantity as cost				
division de troncature de précision SUM AVG

Avertissement : Cet article a été traduit automatiquement.

Propriétés

ID d'article : 281341 - Dernière mise à jour : 12/05/2015 23:03:33 - Révision : 3.2

Microsoft SQL Server 7.0 Standard, Microsoft SQL Server 2000 Standard

  • kbnosurvey kbarchive kbmt kbprb KB281341 KbMtfr
Commentaires