• Author / Uploaded
• Ana CArolina Ordinola Aucca

Citation preview

Series de Tiempo Estacionarias Procesos ARMA Jorge Rodas

Semestre 2010-2

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

1 / 36

Procesos Estocasticos ARMA

Contenidos

1

Conceptos Basicos.

2

Estacionariedad y Ergodicidad.

3

Representaciones MA, AR y ARMA.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

2 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Sigma Algebra De nition (Sigma algebra) Sea F una coleccion de subconjuntos pertenecientes al conjunto Ω. Si se dan las siguientes condiciones: a) Ω 2 F , b) Si A 2 F , entonces Ac 2 F ,

c) Si A1 , A2 , ... 2 F , entonces

F se denomina σ algebra.

∞ S

i =1

Ai 2 F ,

Example Lanzamos un dado al aire, observamos el numero de puntos en la cara superior. El espacio muestral del experimento es Ω = f1, 2, 3, 4, 5, 6g. Uno de los σ algebra que podemos asociar a Ω es F = fφ, f1, 2g, f3, 4, 5, 6g, Ωg. Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

3 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Sigma Algebra

Problem Sea A un subconjunto propio de Ω. Hallar el mas peque~ no σ algebra que contiene a A. Problem Si A, B y C son subconjuntos propios de Ω, construir un σ algebra generado por B.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

4 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Medida De nition (Medida) Una medida sobre un σ algebra F es una funcion µ sobre F , no negativa, con valores reales extendidos, tal que cuando A1 , A2 , ... formen una coleccion ( nita o contablemente in nita) de conjuntos disjuntos en F , tenemos: ! µ

[

An

= ∑ µ (An ) n

n

De nition (Medida de probabilidad) En el contexto anterior, si µ(Ω) = 1, µ se denomina medida de probabilidad.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

5 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Espacio de probabilidad De nition (Espacio de medida) Un espacio de medida es un triple (Ω, F , µ) donde Ω es un conjunto, F es un σ algebra de subconjuntos de Ω, y µ es una medida sobre F . De nition (Espacio de probabilidad) En el contexto anterior, si µ es una medida de probabilidad, (Ω, F , µ) se denomina espacio de probabilidad. De nition (Espacio medible) Si F es un σ algebra de subconjuntos de Ω, a (Ω, F ) se le denomina espacio medible.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

6 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Funcion Borel Medible De nition (Conjuntos de Borel) Si a = (a1 , ..., an ), b = (b1 , ..., bn ) 2 Rn , el intervalo (a, b ] se de ne como fx = (x1 , ..., xn ) 2 Rn : ai < xi bi para todo i = 1, ..., ng. El mas peque~ no σ algebra que contiene todos los intervalos (a, b ] se denomina la clase de conjuntos de Borel de Rn . De nition (Medible) Si h : Ω1 ! Ω2 , h es medible relativa a los σ algebras Fj de subconjuntos de Ωj j = 1, 2, si y solo si h 1 (A) 2 F1 para cada A 2 F2 . De nition (Borel medible) Si (Ω, F ) es un espacio medible y h : Ω ! Rn , se dice que h es Borel medible si y solo si es medible relativa a los σ algebras F y la clase de conjuntos de Borel. Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

7 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Variable Aleatoria, Proceso Estocastico y Serie de Tiempo

De nition (Variable aleatoria) Una variable aleatoria X sobre un espacio de probabilidad (Ω, F , P ) es una funcion Borel medible desde Ω hacia R. De nition (Proceso estocastico) Un proceso estocastico sobre un espacio de probabilidad (Ω, F , P ) es una familia de variables aleatorias (Xt )t 2T , donde el conjunto indexador T puede ser cualquier conjunto.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

8 / 36

Procesos Estocasticos ARMA

Conceptos Basicos

Serie de Tiempo

Example (Serie de tiempo) Un proceso estocastico es una funcion con dos argumentos fX (t, ω ), ω 2 Ωg, donde Ω es el espacio muestral (ensemble) del proceso. El indexador t representa el tiempo. Ω es el conjunto de todas las posibles secuencias de observaciones que pueden ser generadas por el proceso. Para un t jo decimos que X (t, ) es una variable aleatoria y para un ω jo decimos que X ( , ω ) es la realizacion del proceso, i.e., una serie de tiempo.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

9 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Autocovarianza y Estacionariedad De nition (Autocovarianza) La funcion j-esima autocovarianza del Y R ∞ proceso R∞ R t∞se de ne como: γjt = E (Yt µt )(Yt j µt j ) = ∞ ∞ ... ∞ (yt µt )(yt j µt j ) fYt ,Yt 1 ,...,Yt j (yt , yt 1 , ..., yt j )dyt dyt 1 ...dyt j , esto es, la covarianza de Yt con su propio valor rezagado. De nition (Estacionariedad debil) El proceso Yt es debilmente estacionario (o estacionario en covarianzas) si sus dos primeros momentos son invariantes con el tiempo. De nition (Estacionariedad fuerte) El proceso Yt es fuertemente (o estrictamente) estacionario si, para cualesquiera valores j1 , j2 , ..., jn , la distribucion conjunta de (Yt , Yt +j1 , ..., Yt +jn ) depende solo de los intervalos que separan las fechas (j1 , j2 , ..., jn ) y no de la fecha en s misma (t ). Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

10 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Ruido Blanco De nition (Ruido blanco) Un proceso εt se denomina ruido blanco si es que satisface las siguientes condiciones: a)E (εt ) = 0 b)E (ε2t ) = σ2 c)E (εt ετ ) = 0 para t 6= τ Examples Si tenemos un ruido blanco en el cual reemplazamos la condicion c) por la condicion de que εt y ετ sean indepedientes para t 6= τ tendremos un ruido blanco independiente. Si a ello a~ nadimos que εt N (0, σ2 ) tendremos un ruido blanco Gaussiano.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

11 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Estacionariedad En este curso, estacionariedad a secas querra decir estacionariedad debil o en covarianzas. Example Yt = φ0 + εt + φ1 εt 1 con εt WN E (Yt ) = φ0 ; Var (Yt ) = (1 + φ21 )σ2ε Cov (Yt , Yt 1 ) = φ1 σ2ε ; Cov (Yt , Yt k ) = 0 para k =) Yt es estacionario. Example Yt = µ + Yt

1

+ εt con εt

2

WN t 1

Por sustitucion recursiva: Yt = tµ + ∑ εt t =0

τ

E (Yt ) = tµ; Var (Yt ) = tσ2ε Este proceso no es estacionario, pues sus momentos dependen del tiempo. Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

12 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Ergodicidad La expectativa de la t esima observacion de una serie de tiempo puede ser vista como la media de su distribucion de probabilidad como el l mite en probabilidad de su promedio sobre el espacio muestral: E (Yt ) =

Jorge Rodas ()

Z ∞

∞

I

yt fYt (yt )dyt = plimI !∞ (1/I ) ∑ Yt

(i )

i =1

Procesos ARMA

Semestre 2010-2

13 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Ergodicidad La expectativa de la t esima observacion de una serie de tiempo puede ser vista como la media de su distribucion de probabilidad como el l mite en probabilidad de su promedio sobre el espacio muestral: E (Yt ) =

Z ∞

∞

I

yt fYt (yt )dyt = plimI !∞ (1/I ) ∑ Yt

(i )

i =1

(1)

(1)

(1)

Si tenemos una sola realizacion del proceso, fy1 , y2 , ..., yT g, ya no tendremos un promedio muestral sino un promedio temporal: T

y¯

(1/T ) ∑ yt

(1)

t =1

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

13 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Ergodicidad La expectativa de la t esima observacion de una serie de tiempo puede ser vista como la media de su distribucion de probabilidad como el l mite en probabilidad de su promedio sobre el espacio muestral: E (Yt ) =

Z ∞

∞

I

yt fYt (yt )dyt = plimI !∞ (1/I ) ∑ Yt

(i )

i =1

(1)

(1)

(1)

Si tenemos una sola realizacion del proceso, fy1 , y2 , ..., yT g, ya no tendremos un promedio muestral sino un promedio temporal: T

y¯

(1/T ) ∑ yt

(1)

t =1

>Podemos a rmar que y¯ Jorge Rodas ()

! E (Yt )? Procesos ARMA

Semestre 2010-2

13 / 36

Procesos Estocasticos ARMA

Estacionariedad y Ergodicidad

Ergodicidad

De nition (Ergodicidad) Un proceso estacionario Yt es ergodico si para cualesquiera funciones acotadas f : Rk ! R y g : Rl ! R, lim jE [f (Yt , ..., Yt +k )g (Yt +n , ..., Yt +n+l )]j n!∞

= jE [f (Yt , ..., Yt +k )]jjE [g (Yt +n , ..., Yt +n+l )]j

Heur sticamente, un proceso estacionario es ergodico si es asintoticamente independiente, esto es, si dos variables aleatorias cualesquiera que esten lo su cientemente alejadas en la secuencia estan casi independientemente distribu das.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

14 / 36

Estacionariedad y Ergodicidad

Procesos Estocasticos ARMA

Ergodicidad

Theorem (Teorema ergodico) Sea Yt un proceso estocastico estacionario y ergodico con E (Yt ) = µ, entonces Y¯ T

T

(1/T ) ∑ Yt !a.s. µ t =1

El Teorema ergodico es una generalizacion del teorema del l mite central de Kolmogorov donde la hipotesis de iid se levanta (permite correlacion serial). El teorema muestra que, de existir esta correlacion, desaparece conforme T se hace mas grande.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

15 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos:

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos: AR(1) Yt = φ1 Yt

Jorge Rodas ()

1

+ εt

Procesos ARMA

Semestre 2010-2

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos: AR(1) Yt = φ1 Yt

1

+ εt

MA(1) Yt = εt + θεt

Jorge Rodas ()

1

Procesos ARMA

Semestre 2010-2

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos: AR(1) Yt = φ1 Yt

1

+ εt

MA(1) Yt = εt + θεt AR(p) Yt = φ1 Yt

Jorge Rodas ()

1

1

+ φ2 Yt

2

+ ... + φp Yt

Procesos ARMA

p

+ εt

Semestre 2010-2

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos: AR(1) Yt = φ1 Yt

1

+ εt

MA(1) Yt = εt + θεt AR(p) Yt = φ1 Yt

1

+ φ2 Yt 2 + ... + φp Yt p + εt MA(q) Yt = θ 1 εt 1 + θ 2 εt 2 + ... + θ q εt q + εt

Jorge Rodas ()

1

Procesos ARMA

Semestre 2010-2

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

En general, cualquier serie de tiempo estacionaria puede expresarse utilizando una combinacion lineal de WN. Ejemplos: AR(1) Yt = φ1 Yt

1

+ εt

MA(1) Yt = εt + θεt AR(p) Yt = φ1 Yt

1

+ φ2 Yt 2 + ... + φp Yt p + εt MA(q) Yt = θ 1 εt 1 + θ 2 εt 2 + ... + θ q εt q + εt ARMA(p,q) Yt = φ1 Yt 1 + φ2 Yt 2 + ... + φp Yt p + θ 1 εt 1 + θ 2 εt 2 + ... + θ q εt

Jorge Rodas ()

1

Procesos ARMA

Semestre 2010-2

q

+ εt

16 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L):

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L): AR(1) (1

Jorge Rodas ()

φL)Yt = εt

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L): AR(1) (1

φL)Yt = εt

MA(1) Yt = (1 + θL)εt

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L): AR(1) (1

φL)Yt = εt

MA(1) Yt = (1 + θL)εt AR(p) (1

Jorge Rodas ()

φ1 L

φ2 L2

...

φp Lp )Yt = εt

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L): AR(1) (1

φL)Yt = εt

MA(1) Yt = (1 + θL)εt AR(p) (1

φ1 L

φ2 L2

...

φp Lp )Yt = εt

MA(q) Yt = (1 + θ 1 L + θ 2 L2 + ... + θ q Lq )εt

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Introduccion

Estas presentaciones pueden simpli carse enormemente utilizando el operador de rezagos (L): AR(1) (1

φL)Yt = εt

MA(1) Yt = (1 + θL)εt AR(p) (1

φ1 L

φ2 L2

...

φp Lp )Yt = εt

MA(q) Yt = (1 + θ 1 L + θ 2 L2 + ... + θ q Lq )εt ARMA(p,q) (1 φ1 L φ2 L2

Jorge Rodas ()

...

φp Lp )Yt = (1 + θ 1 L + θ 2 L2 + ... + θ q Lq )εt

Procesos ARMA

Semestre 2010-2

17 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion MA in nito Toda representacion AR(p) puede expresarse como un MA(∞) si se cumplen las condiciones de invertibilidad.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

18 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Representacion MA in nito Toda representacion AR(p) puede expresarse como un MA(∞) si se cumplen las condiciones de invertibilidad. Ejemplo 1: se tiene el proceso AR(1): (1 φL)Yt = εt , si jφj < 1, entonces 1 Yt = εt 1 φL Yt = 1 + φL + φ2 L2 + ... εt Yt = εt + φεt

1

+ φ2 εt

2

+ ...

∞

Yt =

∑ φi εt

i

i =0

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

18 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion MA in nito Ejemplo 2: AR(2) (1

Jorge Rodas ()

φ1 L

φ2 L2 )Yt = εt

Procesos ARMA

Semestre 2010-2

19 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion MA in nito Ejemplo 2: AR(2) (1

φ2 L2 )Yt = εt

φ1 L

Sean λ1 y λ2 las ra ces del polinomio 1 1

φ1 L

φ2 L2 = (1

φ1 L

φ2 L2 :

λ1 L)(1

λ2 L)

Por fracciones parciales:

(1

1 λ1 L)(1

λ2 L)

=

1 λ2 1

λ1

λ1 λ1 L

1

λ2 λ2 L

luego: Yt =

Jorge Rodas ()

∞

λ1 λ1

λ2

∑ λi1 εt

∞

λ2 i

i =0

Procesos ARMA

λ1

λ2

∑ λi2 εt

i

i =0

Semestre 2010-2

19 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion MA in nito

Esta representacion impone las condiciones que jλi j < 1. Dado que los λ son funciones de los φ (pueden calcularse) imponer las condiciones de invertibilidad no es tan simple como en el caso AR(1).

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

20 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza Llamamos autocovarianza a γj = Cov (Yt , Yt j )

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

21 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza Llamamos autocovarianza a γj = Cov (Yt , Yt j ) Llamamos funcion de autocorrelacion a la funcion ρj

Jorge Rodas ()

Procesos ARMA

γj γ0

Semestre 2010-2

21 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza Llamamos autocovarianza a γj = Cov (Yt , Yt j ) Llamamos funcion de autocorrelacion a la funcion ρj Ejemplo 1: MA(1) Yt = εt + θ 1 εt

γj γ0

1

γ0 = (1 + θ 21 )σ2ε γ1 = θ 1 σ2ε γk = 0 para todo k > 1 ρj =

Jorge Rodas ()

θ 1 /(1 + θ 21 ) j = 1 0 j >1

Procesos ARMA

Semestre 2010-2

21 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza Llamamos autocovarianza a γj = Cov (Yt , Yt j ) Llamamos funcion de autocorrelacion a la funcion ρj Ejemplo 1: MA(1) Yt = εt + θ 1 εt

γj γ0

1

γ0 = (1 + θ 21 )σ2ε γ1 = θ 1 σ2ε γk = 0 para todo k > 1 ρj =

θ 1 /(1 + θ 21 ) j = 1 0 j >1

El gra co ρj versus j se conoce como correlograma.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

21 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 2: AR(1) Yt = φ1 Yt

1

+ εt

γ0 =

σ2ε (1 φ21 )

γ1 = φ1 γ0 γ2 = φ1 γ1 = φ21 γ0

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

22 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 2: AR(1) Yt = φ1 Yt

1

+ εt

γ0 =

σ2ε (1 φ21 )

γ1 = φ1 γ0 γ2 = φ1 γ1 = φ21 γ0 En general γk = φk1 γ0

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

22 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 2: AR(1) Yt = φ1 Yt

1

+ εt

γ0 =

σ2ε (1 φ21 )

γ1 = φ1 γ0 γ2 = φ1 γ1 = φ21 γ0 En general γk = φk1 γ0 ρj = φj1

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

22 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 3: AR(3) Yt = φ1 Yt

Jorge Rodas ()

1

+ φ2 Yt

Procesos ARMA

2

+ φ3 Yt

3

+ εt

Semestre 2010-2

23 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 3: AR(3) Yt = φ1 Yt

+ φ2 Yt 2 + φ3 Yt 3 + εt Multiplicando alternativamente por Yt , Yt 1 , Yt 2 , Yt 3 y tomando esperanza podemos generar el siguiente set de ecuaciones: 1

1 = φ1 ρ1 + φ2 ρ2 + φ3 ρ3 + σ2ε /γ0 ρ1 = φ1 + φ2 ρ1 + φ3 ρ2 ρ2 = φ1 ρ1 + φ2 + φ3 ρ1 ρ3 = φ1 ρ2 + φ2 ρ1 + φ3

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

23 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza

Ejemplo 3: AR(3) Yt = φ1 Yt

+ φ2 Yt 2 + φ3 Yt 3 + εt Multiplicando alternativamente por Yt , Yt 1 , Yt 2 , Yt 3 y tomando esperanza podemos generar el siguiente set de ecuaciones: 1

1 = φ1 ρ1 + φ2 ρ2 + φ3 ρ3 + σ2ε /γ0 ρ1 = φ1 + φ2 ρ1 + φ3 ρ2 ρ2 = φ1 ρ1 + φ2 + φ3 ρ1 ρ3 = φ1 ρ2 + φ2 ρ1 + φ3 Este sistema es soluble, tiene cuatro ecuaciones y cuatro incognitas.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

23 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza

En general, para todo k > 3 podemos multiplicar el proceso por Yt y tomar esperanza lo que da: ρk = φ1 ρk

Jorge Rodas ()

1

+ φ2 ρk

Procesos ARMA

2

+ φ3 ρk

k

3

Semestre 2010-2

24 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion y Autocovarianza

En general, para todo k > 3 podemos multiplicar el proceso por Yt y tomar esperanza lo que da: ρk = φ1 ρk

1

+ φ2 ρk

2

+ φ3 ρk

k

3

Estas ecuaciones se conocen como sistema de Yule-Walker.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

24 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion Parcial

En general, para un proceso AR(p) el sistema de ecuaciones de Yule-Walker tiene la siguiente forma: ρ1 = φ1 + φ2 ρ1 + ... + φp ρp

1

k=1

........................................ ρp = φ1 ρp ρk = φ1 ρk

Jorge Rodas ()

1

1

+ φ2 ρp

+ φ2 ρk

2

2

+ ... + φp

+ ... + φp ρk

Procesos ARMA

k=p p

k>p

Semestre 2010-2

25 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion Parcial

Note que para resolver este sistema es necesario conocer el valor de p, como esto usualmente no ocurre podemos utilizar la estrategia de desarrollar el sistema de ecuaciones para sucesivos valores de p.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

26 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion Parcial

Note que para resolver este sistema es necesario conocer el valor de p, como esto usualmente no ocurre podemos utilizar la estrategia de desarrollar el sistema de ecuaciones para sucesivos valores de p. Para p = 1, entonces φ1 = ρ1

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

26 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion Parcial

Note que para resolver este sistema es necesario conocer el valor de p, como esto usualmente no ocurre podemos utilizar la estrategia de desarrollar el sistema de ecuaciones para sucesivos valores de p. Para p = 1, entonces φ1 = ρ1 Para p = 2, entonces ρ1 = φ1 + φ2 ρ1 y ρ2 = φ1 ρ1 + φ2 de donde φ2 =

ρ2 ρ21 1 ρ21

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

26 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Funciones de Autocorrelacion Parcial

Note que para resolver este sistema es necesario conocer el valor de p, como esto usualmente no ocurre podemos utilizar la estrategia de desarrollar el sistema de ecuaciones para sucesivos valores de p. Para p = 1, entonces φ1 = ρ1 Para p = 2, entonces ρ1 = φ1 + φ2 ρ1 y ρ2 = φ1 ρ1 + φ2 de donde φ2 =

ρ2 ρ21 1 ρ21

As obtenemos la secuencia φ1 , φ2 , ... que son los denominados coe cientes de autocorrelacion parcial.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

26 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Caracter sticas de las Series de Tiempo Estacionarias Proceso

FAC

AR(1) MA(1) ARMA(1,1) AR(p) ARMA(p,q)

Decae exponencialmente ρ1 > 0, ρk = 0 para todo k > 1 Decae oscilando empezando en k = 1 Decae hasta cero, puede oscilar Decae (puede oscilar) empezando en k = q

Proceso

FAP φ1 > 0, φk = 0, para todo k > 1

AR(1) MA(1) ARMA(1,1) AR(p) ARMA(p,q)

Jorge Rodas ()

Decae oscilatorio Decae exponencial empezando en k = 1 Un pico en k = p φk = 0, para todo k 6= p Decae (puede oscilar) empezando en k = p

Procesos ARMA

Semestre 2010-2

27 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Condiciones de Estacionariedad ∞

∞

MA: ∑ θ j εt j =0

j

la varianza de este modelo es Var (xt ) = σ2ε ∑ θ 2j . j =0

Para que este proceso sea estacionario se debe cumplir que ∞

2 ∑ θ j < ∞.

j =0

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

28 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Condiciones de Estacionariedad ∞

∞

MA: ∑ θ j εt j =0

j

la varianza de este modelo es Var (xt ) = σ2ε ∑ θ 2j . j =0

Para que este proceso sea estacionario se debe cumplir que ∞

2 ∑ θ j < ∞.

j =0

AR: este caso es mas complicado. Ejemplo: el AR(1) se puede expresar por sustitucion recursiva: Yt = φk Yt

k

k

+ ∑ φj εt j . j =0

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

28 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Condiciones de Estacionariedad ∞

∞

MA: ∑ θ j εt j =0

j

la varianza de este modelo es Var (xt ) = σ2ε ∑ θ 2j . j =0

Para que este proceso sea estacionario se debe cumplir que ∞

2 ∑ θ j < ∞.

j =0

AR: este caso es mas complicado. Ejemplo: el AR(1) se puede expresar por sustitucion recursiva: Yt = φk Yt

k

k

+ ∑ φj εt j . j =0

En este caso la condicion para que la varianza sea nita es que jφj < 1

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

28 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Condiciones de Estacionariedad ∞

∞

MA: ∑ θ j εt j =0

j

la varianza de este modelo es Var (xt ) = σ2ε ∑ θ 2j . j =0

Para que este proceso sea estacionario se debe cumplir que ∞

2 ∑ θ j < ∞.

j =0

AR: este caso es mas complicado. Ejemplo: el AR(1) se puede expresar por sustitucion recursiva: Yt = φk Yt

k

k

+ ∑ φj εt j . j =0

En este caso la condicion para que la varianza sea nita es que jφj < 1

En general todo polinomio AR(p) puede factorizarse como (1 λ1 L)(1 λ2 L)...(1 λp L). La condicion jλi j < 1 es equivalente a que las ra ces del polinomio caigan fuera del c rculo unitario.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

28 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion de Espacio - Estado

Dado que los AR(1) son muy faciles de manejar, ser a deseable poder expresar cualquier modelo como un AR(1).

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

29 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Representacion de Espacio - Estado

Dado que los AR(1) son muy faciles de manejar, ser a deseable poder expresar cualquier modelo como un AR(1). Ejemplo. Se tiene el modelo ARMA(2,1) Yt = φ1 Yt 2

1

+ φ2 Yt

3 2 Yt φ1 φ2 4 Yt 1 5 = 4 1 0 εt 0 0

+ θ 1 εt 1 + εt 32 3 2 3 θ1 Yt 1 1 0 5 4 Yt 2 5 + 4 0 5 εt 1 0 εt 1

Zt = AZt

Jorge Rodas ()

1

Procesos ARMA

2

+ C εt

Semestre 2010-2

29 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estimacion Puede utilizarse el metodo de maxima verosimilitud: hallamos la funcion de verosimilitud y la maximizamos para obtener los estimadores de los parametros.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

30 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estimacion Puede utilizarse el metodo de maxima verosimilitud: hallamos la funcion de verosimilitud y la maximizamos para obtener los estimadores de los parametros. Ejemplo. Si estimamos un AR(1) yt = φyt la funcion de verosimilitud sera: L=

σ2ε 2π 1 φ2

Jorge Rodas ()

1/2

e

y12 2 2σ2 ε / (1 φ )

1

+ εt con εt

T 1 (2πσ2ε ) ( 2 ) e

Procesos ARMA

N (0, σ2ε )

T 1 ∑ (yt 2σ2 ε t =2

φyt

Semestre 2010-2

1)

2

30 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estimacion Puede utilizarse el metodo de maxima verosimilitud: hallamos la funcion de verosimilitud y la maximizamos para obtener los estimadores de los parametros. Ejemplo. Si estimamos un AR(1) yt = φyt la funcion de verosimilitud sera: L=

σ2ε 2π 1 φ2

1/2

e

y12 2 2σ2 ε / (1 φ )

1

+ εt con εt

T 1 (2πσ2ε ) ( 2 ) e

N (0, σ2ε )

T 1 ∑ (yt 2σ2 ε t =2

φyt

1)

2

Si T es grande podemos utilizar una funcion de verosimilitud condicional en y1 : L=

Jorge Rodas ()

T 1 κ 0 (2πσ2ε ) ( 2 ) e

Procesos ARMA

T 1 ∑ (yt 2σ2 ε t =2

φyt

1)

2

Semestre 2010-2

30 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estimacion Maximizando el logaritmo tenemos: ∂ ln L = ∂σ2ε

T 1 1 + 4 2σ2ε 2σε

∂ ln L 1 = 2 ∂φ 2σε

Jorge Rodas ()

T

∑ ( yt

φyt

1)

2

=0

t =2

T

∑ ( yt

φyt

1 ) yt 1

=0

t =2

Procesos ARMA

Semestre 2010-2

31 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Estimacion Maximizando el logaritmo tenemos: ∂ ln L = ∂σ2ε

T 1 1 + 4 2σ2ε 2σε

∂ ln L 1 = 2 ∂φ 2σε De donde:

T

∑ ( yt

2

=0

T

∑ ( yt

φyt

1 ) yt 1

ˆ t φy

1)

=0

t =2

∑ ( yt

=

1)

t =2

T

σˆ 2ε

φyt

2

t =2

T

1

T

∑ y t yt

φˆ =

∑ yt2

t =2 Jorge Rodas ()

1

t =2 T

Procesos ARMA

1

Semestre 2010-2

31 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estacionalidad

De nicion: Son los movimientos sistematicos dentro del a~ no (aunque no necesariamente regulares) ocasionados por cambios en el clima, el calendario, la toma de decisiones de produccion o consumo, etc.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

32 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Estacionalidad

De nicion: Son los movimientos sistematicos dentro del a~ no (aunque no necesariamente regulares) ocasionados por cambios en el clima, el calendario, la toma de decisiones de produccion o consumo, etc. Estas decisiones son in uenciadas por las dotaciones, las expectativas y las condiciones de produccion disponibles en la econom a.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

32 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Estacionalidad LN_PBI_AGROPEC 6.0

5.6

5.2

4.8

4.4

4.0 80

82

Jorge Rodas ()

84

86

88

90

92

94

96

Procesos ARMA

98

00

02

04

06

08

10

Semestre 2010-2

33 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Metodos de desestacionalizacion

Se fundamentan en la idea que toda serie de tiempo se puede expresar a traves de la siguiente representacion fundamental: Xt = Tt + Ct + St + It Donde Tt es el componente secular o tendencial, Ct es el ciclo, St es el factor estacional e It la parte irregular.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

34 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Metodos de desestacionalizacion

Se fundamentan en la idea que toda serie de tiempo se puede expresar a traves de la siguiente representacion fundamental: Xt = Tt + Ct + St + It Donde Tt es el componente secular o tendencial, Ct es el ciclo, St es el factor estacional e It la parte irregular. Tambien puede expresarse de manera multiplicativa: Xt = Tt

Jorge Rodas ()

Ct

Procesos ARMA

St

It

Semestre 2010-2

34 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Metodos de desestacionalizacion

El metodo Census fue desarrollado en 1954 por el US Bureau of Census, de all fue evolucionando a traves de 11 versiones eXperimentales (X1,X2,...) hasta llegar a la version estandar (X11).

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

35 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Metodos de desestacionalizacion

El metodo Census fue desarrollado en 1954 por el US Bureau of Census, de all fue evolucionando a traves de 11 versiones eXperimentales (X1,X2,...) hasta llegar a la version estandar (X11). En los 70s se popularizaron los modelos de series de tiempo (ARIMA) gracias a los trabajaos de Box & Jenkins. Dagum (1975) desarrolla el llamado X11 - ARIMA que expande la serie utilizando tecnicas ARIMA para evitar los problemas que ocasiona en las colas el X11 original.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

35 / 36

Procesos Estocasticos ARMA

Representaciones MA, AR y ARMA

Metodos de desestacionalizacion

El metodo Census fue desarrollado en 1954 por el US Bureau of Census, de all fue evolucionando a traves de 11 versiones eXperimentales (X1,X2,...) hasta llegar a la version estandar (X11). En los 70s se popularizaron los modelos de series de tiempo (ARIMA) gracias a los trabajaos de Box & Jenkins. Dagum (1975) desarrolla el llamado X11 - ARIMA que expande la serie utilizando tecnicas ARIMA para evitar los problemas que ocasiona en las colas el X11 original. La ultima version del X12 (1996) incorpora una serie de rutinas de correccion de outliers, efectos de calendario, etc.

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

35 / 36

Representaciones MA, AR y ARMA

Procesos Estocasticos ARMA

Metodos de desestacionalizacion 6.0

5.6

5.2

4.8

4.4

4.0 80

82

84

86

88

90

92

94

96

98

00

02

04

06

08

10

LN_PBI_AGROPEC LN_PBI_AGROPEC_TRAMO_SEATS LN_PBI_AGROPEC_X12

Jorge Rodas ()

Procesos ARMA

Semestre 2010-2

36 / 36