Tải bản đầy đủ
CÁC KIẾN THỨC CƠ BẢN VỀ CHUỖI THỜI GIAN

CÁC KIẾN THỨC CƠ BẢN VỀ CHUỖI THỜI GIAN

Tải bản đầy đủ

trình ngẫu nhiên{ Xt, t∈T}. Và vì vậy, ta có thể định nghĩa một quá trình ngẫu
nhiên như sau
Định nghĩa 1.1(Quá trình ngẫu nhiên)
Một quá trình ngẫu nhiên là một họ các biến ngẫu nhiên { Xt, t∈T}
được định nghĩa trên một không gian xác suất(Ω, Α,Ρ).
Chú ý:
Trong việc phân tích chuỗi thời gian, tập chỉ số T là một tập các thời điểm,
ví dụ như là tập {1,2..} hay tập (-∞,+∞). Tất nhiên cũng có những quá trình ngẫu
nhiên có T không phải là một tập con của R nhưng trong giới hạn của luận văn này
ta chỉ xét cho trường hợp T∈R. Và thường thì ta xem T là các tập các số nguyên,
khi đó ta sẽ sử dụng ký hiệu tập chỉ số là Z thay vì T ở trên. Một điểm chú ý nữa là
trong luận văn này chúng ta sẽ dùng thuật ngữ chuỗi thời gian để đồng thời chỉ dữ
liệu cũng như quá trình có dữ liệu đó là một thể hiện.
1.2. Quá trình ngẫu nhiên dừng
Định nghĩa 1.2 (Hàm tự hiệp phương sai)
Giả sử { Xt, t∈ Z} là một quá trình ngẫu nhiên có var(Xt)<∞ với mỗi t∈
Z. Khi đó hàm tự hiệp phương sai của Xt được định nghĩa theo công thức sau:
γ x (r , s) := cov( X r , X s ) = E[( X r − EX r )( X s − EX s )], với r, s ∈ Z.

Định nghĩa 1.3 (Quá trình dừng)
Chuỗi thời gian{ Xt, t∈ Z} được gọi là dừng nếu nó thoả mãn 3 điều
kiện sau:
2

- E X t < ∞, ∀t ∈ Z
- EX t = m, ∀t ∈ Z
- γ x (r , s ) = γ x (r + t , s + t ), ∀t , r , s ∈ Z

6

Định lý 1.1
Nếu { Xt, t∈ Z} là một quá trình dừng, và nếu như at ∈ R, i∈ Z thoả


mãn điều kiện ∑ ai < ∞ thì hệ thức Yt :=
i = −∞



∑a X

i = −∞

i

t -i

, t ∈ Z sẽ định nghĩa một quá

dừng.
Chú ý: Cũng có tài liệu gọi “dừng” theo nghĩa trên là dừng yếu, đừng
theo nghĩa rộng hay dừng bậc hai. Tuy nhiên ở đây ta chỉ xem xét tính dừng
theo nghĩa đã định nghĩa ở trên
Khi chuỗi thời gian{ Xt, t∈ Z} là dừng thì
y x = (r , s) ≡ γ x (r − s,0), ∀r , s ∈ Z ,

Và vì vậy, với một quá trình dừng thì có thể định nghĩa lại hàm tự hiệp
phương sai bằng cách chỉ thông qua hàm một biến. Khi đó, với quá trình
dừng{ Xt, t∈ Z} ta có:
y x (h) ≡ γ x (h,0) = Cov( X

t +h

, X t ), ∀t , h ∈ Z

Hàm số y x (.) = được gọi là hàm tự hiệp phương sai của Xt, còn γx(h)là giá
trị của nó tại “trễ” h. Đối với một quá trình dừng thì ta thường ký hiệu hàm tự
hiệp phương sai bởi γ(.) thay vì γx(.).
Với một quá trình dừng thì hàm hiệp phương sai có các tính chất
γ(0) ≥ 0, γ(h)≤γ(0), ∀h∈Z
Và nó còn là một hàm chẵn nghĩa là:
γ(h) = γ(-h),∀h∈Z.
1.3. Hàm tự tương quan
Định nghĩa 1.4

7

Hàm tự tương quan của quá trình ngẫu nhiên { Xt, t∈ Z} được định
nghĩa tại trễ h như sau:

ρ(h): = γ(h)/γ(0):=corr(Xt+h,Xt), ∀t, h∈Z
Chú ý:
Trong thực tế, ta chỉ quan sát được một thể hiện hữu hạn X:={xt, t = 1,2,
…n}của một chuỗi thời gian đừng nên về nguyên tắc ta không thể biết chính
xác được các hàm tự hiệp phương sai của chuỗi thời gian đó, muốn ước lượng
nó ta đưa vào khái niệm hàm tự hiệp phương sai mẫu của thể hiện X.
Hàm tự hiệp phương sai mẫu của một thể hiện X được định nghĩa bởi
công thức
n− h
c(h) := n −1n −1 ∑ ( x j − x)( x
− x),0 ≤ h < n
j +h
j =1
n

−1
Và c(h) := c(−h), n < h ≤ 0, trong đó x = n ∑ x j là trung bình mẫu.
j =1

Khi đó thì hàm tương tự tương quan mẫu cũng định nghĩa thông qua
hàm tự hiệp phương sai mẫu như sau:
r (h) := c(h) / c(0), h < n.

1.4. Toán tử tiến, toán tử lùi
Toán tử lùi B kết hợp với một quá trình ngẫu nhiên { Xt, t∈ Z} là quá
trình ngẫu nhiên { Yt, t∈ Z} sao cho
Yt := BX t := X t −1

Toán tử lìu B là toán tử tuyến tính va khả nghịch. Nghịch đảo của nó
B-1:=F được gọi là toán tử tiến, định nghĩa bởi công thức:
FXt :=Xt+1
Các toán tử B, F thoả mãn hệ thức
BnXt = Xt-n, FnXt :=Xt+n
8


n
 n

 ∑ a B i X = ∑ a X
t i =0 i t -i
i
 i =0


Chú ý:
Một cách tổng quát, người ta có thể định nghĩa các chuỗi theo toán tử
tiến F hay toán tử lùi b và muốn thế chúng ta hạn chế trong trường hợp các quá
trình là dừng. Khi đó, giả sử ta có quá trình dừng { Xt, t∈ Z} và một dãy {ai

},i∈Z tuyệt đối khả tổng, tức là ∑ ai < ∞ , thì định lý 1.1, quá trình
i =−∞
Yt :=



∑a X

i = −∞

i

t −i

, t ∈ Z cũng là quá trình dừng. Ta ký hiệu

tương ứng quá trình dừng { Xt, t∈ Z}



∑a B

i = −∞

i

i

là ánh xạ đặt

với quá trình dừng { Yt, t∈ Z}. Các

chuỗi theo B khi đó sẽ có những tính chất cho phép ta xử lý nó tương tự như
đối với chuỗi nguyên thông thường. Đặc biệt ta có thể thực hiện phép cộng,
phép nhân hay phép lấy nghịch đảo. Điều này có vai trò quan trọng trong các
phép biến đổi của đa thức tự hồi quy, đa thức trung bình trượt và các phép biến
đổi xử lý chuỗi thời gian khác.
2. Quá trình ARMA
2.1. Quá trình tự hồi quy
Định nghĩa 1.5 (Quá trình ồn trắng)
Quá trình ngẫu nhiên {εt t∈Z} được gọi là một ồn trắng, ký hiệu

ε∼WN(0,σ2), khi nó thoả mãn các điều kiện sau:
Eεtεs = 0 (t≠ s)
Eε t2 = σ 2

Eε t = 0, ∀t

Định nghĩa 1.6 (Quá trình tự hồi quy)
9

Người ta gọi quá trình ngẫu nhiên { Xt, t∈ Z} là một quá trình tự hồi
quy cấp P, viết là Xt ∼ AR(p), là một quá trình dừng {Xt, t∈Z} thoả mãn
Xt = a X
+a X
+ ... + a p X t -p + ε t , a p ≠ 0 .
1 t −1 2 t −2

với {ε} là một ồn trắng.
Ta có thể viết biểu thức của quá trình tự hồi quy ở trên bởi công thức
Xt − a X
−a X
− .... − a p X t -p = ε t , a p ≠ 0,
1 t −1 2 t −2

Hay ở dạng toán tử

ở đây a(z) được gọi

a( z ) := 1 − a z − a − z 2 − ... − a p z
1
2

p

là đa thức hồi quy.
Chú ý:
Nếu đa thức a(z) ở trên có nghiệm nằm ngoài đĩa tròn đơn vị
( z > 1) thì Xt được gọi là quá trình nhân quả tự hồi qui cấp p và nói chung ta chỉ

xét các quá trình nhân quả.
Các đặc trưng của quá trình tự hồi quy cấp p:
-

E(Xt) = 0

-

γ (0) = ∑ ai γ (i )+ | σ 2

-

p
ρ (h) − ∑ ai ρ (h − i) = 0, ∀h > 0
i =1

p

t =1

Lần lượt cho h = 1,2,….p ta được
1
ρ(1)
ρ(1) 1
…. ….
ρ(p-2)….
ρ(p-1)

…. ρ(p-2)
…. ρ(p-3)
…. …...
ρ(p-3) 1
ρ(p-2) ρ(1)

ρ(p-1)
ρ(p-1)
…..
ρ(1)
1
10


a1   ρ (1)
a   ρ ( 2) 

 2  


......

=

a
 p −1  ρ ( p − 1)


 
a


p
ρ
(
p
)

 

Hệ phương trình gọi là hệ phương trình Jule – Walker, song tuyến đối
với a và ρ.
Nghĩa là nếu cho ρ ta sẽ tính được a và ngược lại cho a ta cũng sẽ tính
được ρ. Trong hệ phương trình Jule – Walker, nếu ta đặt φpi = ai, i =1,…p thì
hệ phương trình Jule – Walker tương đương với
ρ ( j ) = φ p1 ρ ( j − p ), j = 1,..., p

Đại lượng φpp ở trên được gọi là tự tương quan riêng cấp p của quá trình
{Xt}, nó đóng vai trò rất quan trọng trong việc xác định bậc của quá trình tự
hồi quy cũng như việc ước lượng tham số mô hình tự hồi quy sau này.
Trong việc thực tế, khi cho chuỗi quan sát X:={x1, t = 1,2…,n} thì ta
dùng công thức của tương quan mẫu để tính các r(i), là các giá trị xấp xỉ của

ρ(i). Khi đã có các tự tương quan mẫu ta thay vào hệ phương trình Jule –
Walker và giải nó để tìm các tham số a 1. Từ đây ta cũng xác định được tương
quan riêng φp1….,φpp.
2.2. Quá trình trung bình trượt
Định nghĩa1.7 (Quá trình trung bình trượt)
Một quá trình trung bình trượt cấp q, ký hiệu Xt ∼MA(q), là một quá
trình { Xt, t∈ Z} thoả mãn biểu thức
Xt = ε + b ε
+ .... + bq ε t −q , b b ,..., bq ∈ R, bq ≠ 0
1 1 t −1
1 2

với {εt} là một ồn trắng.

11

Ta cũng có thể viết biểu thức trung bình trượt ở trên dưói dạng toán tử
lìu tương tự như đối với quá trình tự hồi quy như sau :
Xt = b(B)εt,
Trong đó hàm b(.) định nghĩa bởi
b(z) : = 1+b1z+…+bqzq.
Ở đây b(z) được gọi là đa thức trung bình trượt .

12

Chú ý:
Khác với quá trình AR, biểu thức trên luôn xác định duy nhất một quá
trình MA mà không đòi hỏi thêm điều kiện gì đối với các hệ số b1. Và với giả
thiết εt là ồn trắng thì theo định lý 1.1 ta có
b(z)Ψ(z) = 1.
Và khi đó ε1 có thể biểu diễn dưới dạng
εt =



j ∞
∑ ψ j X t − j ;ψ ( z ) = ∑ ψ j z ; ∑ ψ j < ∞
j =−∞
j =−∞
j =−∞

Một chú ý nữa, cũng giống như trường hợp AR, nếu đa thức trung bình
trượt b(z) không có nghiệm có môđun bằng 1 thì ta có thể biểu diễn Xt dưới
dạng sau:




j =1

j = −∞

X t = −∑ψ j X t − j + ε t ; ∑ ψ j < ∞

Và có thể xác định ψ i bằng cách chia 1(theo luỹ thừa tăng) cho b(z),
(ψ 0 = 1) ..

Khi quá trình X t có thể biểu diễn ở dạng trên, tức là khi b(z) chỉ có
nghiệm có môđun lớn hơn 1 thì ta nói X t là một quá trình khả nghịch. Và từ
nay về sau, nếu không nói gì thêm thì khi nói về các quá trình AR và MA
chúng ta hiểu đó là các quá trình nhân quả và khả nghịch.
Các đặc trưng của quá trình trung bình trượt:
Trước hết, ta dễ dàng thấy rằng
EX t = 0 ,


σ 2 , s = t

2
E ( X t εt ) = 
σ b1, s = t − i;1 ≤ i ≤ q

0, s ≠


13

Mặt khác ta có:

γ (h) := E ( X t X

t −h

) = E ( X t (ε

t +h

+b ε
+b ε
))
1 1+h−1 q 1+h−q

Từ đó ta suy ra
γ (h) = σ 2 (b + b b
+ ... + b
bq ), b := 1;1 ≤ h ≤ q

1
0
h
h
+
1
q

h

γ (h) = 0, h > q


Đặc biệt ta có

γ (0) := var X t = σ 2 (1 + b 2 + ... + bq2
1
Từ công thức hiệp sai của quá trình trung bình trượt ta suy ra công thức
của tự tương quan như sau:

ρ(h)

b
 h

=


0,



+b +b
+.... +b
b
1
h+
1
q −h q
, h =1,2....q
2
1 +b 2 +.... +bq
1
h. >q

2.3. Quá trình tự hồi quy trung bình trượt
Định nghĩa 1.8 (quá trình tự hồi quy trung bình trượt)
Một quá trình { Xt, t∈ Z} được gọi là quá trình tự hồi quy trung bình
trượt cấp p,q , kí hiệu X t ∼ ARMA(p,q) là một quá trình{ Xt, t∈ Z} thỏa mãn
X t = a1X t −1 + .... + a p X t − p + ε t + b1ε t −1 + ...
+ bqε t − q , a1, a2 ,...a p , b1, b2 ,..., bq ∈ R, a p ≠ 0, bq ≠ 0

Trong đó ε t là ồn trắng, a(.) và b(.) lần lượt là đa thức tự hồi quy và đa
thức trung bình trượt có bậc tương ứng là p và q:

a( z ) := 1 − a z − ... − a p z p
1

b( z) := 1 + b z + ... + bq z q
1
14

Khi đó ta có thể viết quá trình ARMA ở dạng toán tử như sau

a( B) X t = b( B)ε t
Định nghĩa 1.9 (Quá trình nhân khả nghịch)
Một quá trình ARMA(p,q) được gọi là một quá trình nhân quả và khả nghịch
nếu có là một quá trình ARMA(p,q) có a(z) và b(z) thỏa mãn hai điều kiện:
i) a(z) và b(z) không có nghiệm chung
ii) a(z) và b(z) không có nghiệm có môđun không vượt quá 1
Chú ý:
Do tính nhân quả và khả nghịch cộng với tính chất khả đảo của đa
thức toán tử, ta có thể biểu diễn một quá trình



X t = ∑ ϕiε t −i ,ϕ = 1; ∑ ϕi < ∞.
0
i=0
i=1
Và có thể tính các hệ số ϕ t bằng cách chia theo lũy thừa tăng a(z) cho b(z).
Các đặc trưng của quá trình ARMA:
Trước hết ta có

γ (h) = E ( X t X

p
q
) = ∑ a γ (h − i ) + γ
(h) + ∑ biγ
(h − i )
ε .X
t −h t =1 1
i=1 ε . X

Với

γ ε . X (k ) := E (ε t X

t −k

Mặt khác ta có thể biểu diễn

X


= ∑ ϕi ε
t −k i=0 t −k −i

Và ta có

γ εe.X

0, k > 0
(k ) = 
2
ϕ −k σ , k

15

≤0

Lần lượt cho h = 0,1,...p trong các chương trình trên và chú ý đến tính
chẵn của hàm γ(h) ta có hệ phương trình tuyến tính đối với γ(0),..., γ(p) hay
với ρ (1),...ρ ( p).
p

γ (h) = ∑ ai γ (h − i ), h > q
i =1

Và vì thế

p
ρ (h) = ∑ ai ρ (h − i), h > q.
i=1
3. Ước lượng tham số mô hình ARMA
Giả sử ta cần ước lượng các tham số của mô hình ARMA(p,q)

X t = a1 X t −1 + ... + a p X t − p + ε t + b1ε t −1 + ... + bq ε t −q , a1 , a 2 ,..., a p , b1, b2 ,..., bq ∈ R, a p ≠ 0, bq

trong đó ε t đóng vai trò là sai số.
Đối với mô hình ARMA cũng có nhiều phương pháp ước lượng tham số
hiệu quả và được nêu ra chi tiết trong P.Brockwell, R. David, 2001. Dưới đây,
ta sẽ xem xét phương pháp bình phương cực tiểu theo kiểu thuật toán Hannan
– Rissanen. Ý tưởng của thuật toán này là sử dụng hồi quy tuyến tính để ước
lượng các tham số. Nếu q>0 ta còn phải ước lượng các giá trị chưa biết ε t .
Thuật toán Hannan – Rissanen
Bước 1:
Dùng ước lượng Yule Walker để ước lượng các tham số mô hình
AR(m), với

Bước 2:

m > max(p,q).

X t = a X + ... + am X t −m + ε t , t = m +1,..., n.
1 t −1

t
Ước lượng vecto tham số β = (a1,..., a p , b1...., bq ) trên cơ sở cực tiểu
hóa hàm

16