Hidrológiai Közlöny 1973 (53. évfolyam)

9-10. szám - Kontur István–Szöllősi Nagy András: A kovariancia- és korrelációfüggvények elméletének és becslésének áttekintése

470 Hidrológiai Közlöny 1973. 9—10. sz. Kontur I.—Szőllősi Nagy A.: A kovariancia-, és korrelációf üggvény 1. táblázat Szórások számítása TaöA. 7. BbmucjieHue pacceueanust Tabelle 1. Berechnung der Streuungen i Xi-2 Xi-3 CXi-2y (Xi- 3)

2 1 2 0 0 2 6 4 16 3 5 3 2 9 4 4 —3 —5 —5 25 25 5 4 2 1 4 1 6 —6 —8 —9 64 81 7 5 3 2 9 4 8 3 1 0 1 0 9 9 6 36 10 7 4 16 27=0 £=0 E= 128 27=167 Tehát a négyzetösszegek: 10 ^ (Xj — 2)

2 = 128; 2 (*i-3)

2 = 167, i = l i =2 így a nevező 1^128-167= 146,25. A számláló kiszámítását szintén táblázatosan végezhetjük (2. táblázat). 2. táblázat Kovariancia számítása TaőA. 2. Pacnem Koeapuanquu Tabelle 2. Berechnung der Kovarianz i Xi-2 -X"í+2-3 (Xi-2)•(X

í+

2-3) 1 0 2 0 2 4 —5 —20 3 3 1 3 4 —5 —9 45 5 2 2 4 6 —8 0 0 7 3 6 18 8 1 4 4 27=54 Tehát 2 (Xi-2)(X

i+

a-3) = 54. t=l A végeredmény a kétlépéses autokorreláció-függvónyre: A 54 q

x

x(2) = = 0,37 ' 146,25 Nézzük még meg, hogy 95%-os megbízhatósági szintet eléri-e ez a korrelációs tényező? A (38) formulába behelyettesítve a példa n=10, j = 2 és tp = 1,64 értékeit, azt kapjuk, hogy CLQS'/

0 = 0,415, tehát az általunk számított 0,37-es korrelációs tényező nem éri el a 95%-os konfidencia szintet. Kiszámíthatjuk azonban azt, hogy az autokorreláció mennyire megbízható. A (38) egyenletből, rc=10, j — 2 és CL = 0,37 helyettesítéssel t

v= 1,5. A normális eloszlásfüggvény táblázatból visszakeresve, az 1,5-hez tartozó valószínűséget, azt találjuk, hogy az 93,32%. 3. táblázat A kovarianciafiiggvényt számító eljárás TaöA. 3. Cnocoö ÖAH pacnema tfiymtfuu Koeapuanijuu Tabelle 3. Das die Kovarianzfunktion berechnende Verfahren procedure cov (x, y, fxy, n, m,); value n, m,; integer n, m; array x, y, fxy; begin integer i, j; real fi, gi, fixy; array xatl, yatl[l:n]; for j: = 1 step 1 until n do begin fi: = gi: = 0; for i: = 1 step 1 until n

—j + 1 do begin fi: = fi + x[i]; gi: = gi + y[ij; end; xatl[j]: = fi/(n—j + 1); yatl[j]: = gi/(n—j + 1) end; for j: = 0 step 1 until entier(n/m) do begin fixy: = 0; for i: = 1 step 1 until n

—j do fixy: = fixy + (x[i]—xatl[i]*(y[i + j]—yatlfi + j]); fxy[j]: = fixy/(n—j) end end kovariancia; Tehát a kétlépéses autokorreláció tényezőt 93,32%-os szinten fogadhatjuk el mint értékelhető eredményt. A keresztkorreláció-függvény kiszámítása kézzel a fentiekhez teljesen hasonlóan végezhető el. 4.2. A gépi számítás programja A kovariancia korrelációfüggvények „kézi" számítása tetemes munkát igényel — a feladat jellegénél fogva számítógépre kívánkozik. Az 3. táblázatban a kovarianciafüggvényeket számító cov nevű eljárást közöljük, amely átalakítás nélkül más programokba is beépíthető (pl. spektrum függvények számítása, optimális súlyfüggvény meghatározása [16]). Az eljárás a kovarianciafüggvényt számítja a (35) összefüggés számlálójával. Az eljárás formális paraméterei: x[l : n] : az X(t) idősor értékeinek vektora; y[l : n] : az Y(t) idősor diszkrét értékeinek vektora; fxy[0 : n—1]: kovariancia eredmény vektor; n: adatok száma; m: az idősor m-ed részéig számolja a kovarianciafüggvényt. Természetesen az autokovariancia-függvény számításánál az eljárás első két aktuális paramétere megegyezik. A 4. táblázatban a korrelációfüggvények ALGOL nyelven RÁZD AN-3 gépi reprezentációban írt programját közöljük [16] — helykímélés céljából a deklarációk után a cov eljárást kihagyva (l. 3. táblázat).