Vairākās versijās programma Excel veic iekšējo aprēķinu sērijas, lai labotu rezultātus no diagrammas tendenču līknēm, kur tendenču līknes krustpunkts ir iestatīts uz nulli (0). Šīs izmaiņas faktiski nemaina līniju vai izskatu, tikai R2 aprēķins, ja iekļaujat šo anotāciju diagrammā. Šis aprēķins tiek veikts ikreiz, kad tiek atvērta Excel darbgrāmata. Līdz ar to vienā darbgrāmatā atkarībā no izmantotās Excel versijas var tikt rādīti atšķirīgi aprēķini.
Tas attiecas uz datiem diagrammā, kas ir fiksēta garuma skaitļu secība, kas attēlota kā X un Y:
X = { x_1,x_2,...,x_N }
Y = { y_1,y_2,...,y_N }
Datu tendenču līkne ir vienādojums, kura pamatā ir vērtības, kas izteiktas kā Z. Lai aprēķinātu R2, tendenču līknes Z vērtības tiek novērtētas visās tās pašas X vērtības:
Z = { z_1,z_2,...,z_N }
Piemēram, ja tendenču līknes vienādojums ir:
Z(x) = 2*e(4x)
Pēc tam kopa Z tiek novērtēta pēc katras X vērtības:
Z = { Z(x_1), Z(x_2), ..., Z(x_N) }
Kur:
sum(y) = Summa no i=1 līdz N, y_i no kopas Y.
sum(z2) = Summa no i=1 līdz N, vērtība z_i2 kopā Z.
sum2(x)= ( sum(x) )2
ln(x) = x naturālais logaritms
ln2(x) = ( ln(x) )2
Mean(X) = sum(x) / N
Mean(ln(x)) = sum( ln(x) ) / N
Ņemot vērā šīs divas skaitļu secības: Y un Z, programma Excel aprēķina R2 šādi:
Excel versijas, kas vecākas par 2005 (2020. gada maijs)
Polinomu, lineārām un logaritmiskām tendenču līknēm:
R2(Z,Y) = ( 2 N sum(yz) - N sum(z2) - sum2(y) ) / ( N sum(y2) - sum2(y) )
Eksponenciālām un enerģijas tendenču līknēm:
R2(Z,Y) = ( 2 N sum(ln(y) ln(z)) - N sum(ln2(z)) - sum2(ln(y)) ) / ( N sum(ln2(y)) - sum2(ln(y)) )
Excel versijas no 2005 (2020. gada maijs) līdz 2103. gada martam (2021. gada marts)
Polinomu un logaritmiskās tendences līknēm un lineārās tendenču līknēm bez iestatītās krustpunkta:
R2(Z,Y) = ( 2 N sum(yz) - N sum(z2) - sum2(y) ) / ( N sum(y2) - sum2(y) )
Power tendenču līknēm un eksponenciālām tendenču līknēm bez noteiktas krustpunkta:
R2(Z,Y) = ( 2 N sum(ln(y) ln(z)) - N sum(ln2(z)) - sum2(ln(y)) ) / ( N sum(ln2(y)) - sum2(ln(y)) )
Lineārās tendences līknēm ar kopas krustpunktu, kas nav vienāds ar nulli:
R2(Z,Y) = sum2( (y - Mean(Y) )( z - Mean(Z) ) ) / ( sum( ( z - Mean(Z) )2 ) sum( (y - Mean(Y) )2 ) )
Lineārās tendences līknēm, kuru kopas krustpunkts ir vienāds ar nulli:
R2(Z,Y) = sum(z2) / sum(y2)
Eksponenciālām tendenču līknēm ar kopas krustpunktu, kas nav vienāds ar vienu:
R2(Z,Y) = sum2( (ln(y) - Mean(ln(y)) )( ln(z) - Mean(ln(z)) ) ) / ( sum( (ln(z) - Mean(ln(z)) )2 ) sum( ( ln(y) - Mean(ln(y)) )2 ) )
Eksponenciālām tendenču līknēm, kuru krustpunkts ir vienāds ar vienu:
R2(Z,Y) = sum( ln2(z) ) / sum( ln2(y) )
Excel 2104 versijas (2021. gada aprīlis) vai jaunākas
Lineārās tendences līknēm, kuru kopas krustpunkts ir vienāds ar nulli:
R2(Z,Y) = sum(z2) / sum(y2)
Lineārās tendences līknēm bez kopas krustošanās, aritmētiskas tendences līknes ar kopas krustpunktu, kas nav vienāds ar nulli, polinomu, logaritmiskās, eksponenciālās un strāvas tendenču līknes:
R2(Z,Y) = sum2( (y - Mean(Y) )( z - Mean(Z) ) ) / ( sum( ( z - Mean(Z) )2 ) sum( (y - Mean(Y) )2 ) )
Piezīme.: Polinomu tendenču līknēm ar kopas krustpunktiem ir skaitliskas precizitātes kļūdas, nekā citiem tendenču līknes tipiem.