Procesos Estocásticos Estacionarios y Funciones de Autocorrelación

Procesos estocásticos estacionarios, ruido blanco, funciones de autocorrelación (ACF) y autocorrelación parcial (PACF), pruebas de Ljung-Box y Box-Pierce, test de Durbin-Watson. Fundamento teórico para la identificación de modelos ARMA.

10.1 Procesos estocásticos y estacionariedad

Un proceso estocástico es una colección de variables aleatorias indexadas por el tiempo: $\{Y_t\}_{t \in T}$. En series de tiempo, $T$ es discreto ($t = 1, 2, 3, \ldots$) y cada $Y_t$ es una variable aleatoria con su propia distribución.

La estacionariedad en covarianza es el requisito mínimo para que la ACF muestral sea un estimador consistente de la ACF teórica. Si la serie tiene tendencia o varianza cambiante, no es estacionaria y debe transformarse (diferenciación, log) antes de aplicar métodos ARMA.

10.2 Ruido blanco

El proceso más simple es el ruido blanco: una secuencia de variables aleatorias no correlacionadas, con media cero y varianza constante.

$\{a_t\} \sim \text{RB}(0, \sigma^2) \quad \Longleftrightarrow \quad E[a_t] = 0, \;\; \text{Var}(a_t) = \sigma^2, \;\; \gamma(k) = 0 \;\; \forall \, k \neq 0$

Si además las $a_t$ son independientes e idénticamente distribuidas (iid), se llama ruido blanco gaussiano cuando $a_t \sim N(0, \sigma^2)$.

10.3 Función de autocorrelación (ACF)

La función de autocorrelación mide la correlación lineal entre $Y_t$ y $Y_{t-k}$ como función del rezago $k$.

$\rho(k) = \frac{\gamma(k)}{\gamma(0)} = \frac{\text{Cov}(Y_t, Y_{t-k})}{\text{Var}(Y_t)}$

Propiedades de la ACF teórica:

• $\rho(0) = 1$ (correlación consigo misma)
• $|\rho(k)| \leq 1$ (Cauchy-Schwarz)
• $\rho(k) = \rho(-k)$ (simétrica)
• Para ruido blanco: $\rho(k) = 0$ para todo $k \neq 0$

ACF muestral

Dada una realización $Y_1, \ldots, Y_n$, la ACF muestral es:

$\hat{\rho}(k) = \frac{\sum_{t=k+1}^{n}(Y_t - \bar{Y})(Y_{t-k} - \bar{Y})}{\sum_{t=1}^{n}(Y_t - \bar{Y})^2}$

Bajo la hipótesis de que $\{Y_t\}$ es ruido blanco, $\hat{\rho}(k)$ es asintóticamente normal con:

$\hat{\rho}(k) \overset{\text{aprox}}{\sim} N\left(0, \frac{1}{n}\right)$

Esto da las bandas de confianza al $\pm 1.96/\sqrt{n}$, que se dibujan en los gráficos de ACF. Si un valor de $\hat{\rho}(k)$ cae fuera de las bandas, se rechaza la hipótesis de ruido blanco para ese rezago.

10.4 Función de autocorrelación parcial (PACF)

La función de autocorrelación parcial mide la correlación entre $Y_t$ y $Y_{t-k}$ eliminando el efecto de las observaciones intermedias $Y_{t-1}, \ldots, Y_{t-k+1}$.

$\phi(k) = \text{Corr}(Y_t, Y_{t-k} \mid Y_{t-1}, \ldots, Y_{t-k+1})$

Formalmente, $\phi(k)$ es el último coeficiente de la regresión de $Y_t$ sobre sus $k$ rezagos previos:

$Y_t = \phi_1 Y_{t-1} + \phi_2 Y_{t-2} + \cdots + \phi_k Y_{t-k} + \varepsilon_t$

Entonces $\phi(k) = \phi_k$. La PACF se calcula con las ecuaciones de Yule-Walker o recursivamente con el algoritmo de Durbin-Levinson.

10.5 Pruebas de ruido blanco: Box-Pierce y Ljung-Box

Las pruebas de Box-Pierce y Ljung-Box evalúan conjuntamente si los primeros $M$ rezagos de la ACF son todos cero, es decir, si la serie es ruido blanco.

Hipótesis:

• $H_0$: $\rho(1) = \rho(2) = \cdots = \rho(M) = 0$ (ruido blanco)
• $H_1$: $\exists \, k \leq M : \rho(k) \neq 0$ (hay autocorrelación)

Regla de decisión: Si $Q > \chi^2_{\alpha, M-p-q}$ (o p-valor $< \alpha$), se rechaza $H_0$ y la serie no es ruido blanco: hay estructura temporal por modelar.

10.6 Test de Durbin-Watson para AR(1)

El test de Durbin-Watson detecta autocorrelación de primer orden (AR(1)) en los residuos de una regresión. Es específico para el rezago 1, a diferencia de Ljung-Box que evalúa múltiples rezagos conjuntamente.

$DW = \frac{\sum_{t=2}^{n}(e_t - e_{t-1})^2}{\sum_{t=1}^{n} e_t^2}$

El estadístico $DW$ está entre 0 y 4:

• $DW \approx 2$: no hay autocorrelación AR(1)
• $DW < 2$: autocorrelación positiva ($\phi_1 > 0$)
• $DW > 2$: autocorrelación negativa ($\phi_1 < 0$)

La relación aproximada con el coeficiente AR(1) es: $DW \approx 2(1 - \hat{\phi}_1)$.

10.7 Verificación de estacionariedad en covarianza

Para que la ACF y PACF muestrales sean interpretables, la serie debe ser estacionaria en covarianza. Los indicadores visuales y formales son:

10.8 Función de autocorrelación extendida (EACF)

Cuando la ACF y PACF no dan un patrón claro (caso ARMA mixto), la función de autocorrelación extendida (EACF) ayuda a identificar los órdenes $p$ y $q$. La EACF calcula, para cada combinación $(p, q)$, los residuos de un ajuste AR(p) y luego examina la ACF de esos residuos. El patrón teórico es:

• Para un ARMA(p,q), la EACF se corta en la posición $(p, q)$
• Las celdas $(p', q')$ con $p' \geq p$ y $q' \geq q$ son ≈ 0
• El "triángulo" de ceros identifica el orden

1library(TSA)
2eacf(at,  ar.max = 13, ma.max = 13)
3eacf(Z1t, ar.max = 13, ma.max = 13)
4eacf(Z3t, ar.max = 13, ma.max = 13)
5eacf(Z4t, ar.max = 13, ma.max = 13)
6# Interpretación:
7# - at:  EACF toda cero → ruido blanco (0,0)
8# - Z1t: EACF se corta en (1,0) → AR(1)
9# - Z3t: EACF se corta en (1,2) → ARMA(1,2)
10# - Z4t: EACF se corta en (0,1) → MA(1)
11auto.arima(Z1t, ic = "bic")  # → ARIMA(1,0,0)
12auto.arima(Z3t, ic = "bic")  # → ARIMA(1,0,2)
13auto.arima(Z4t, ic = "bic")  # → ARIMA(0,0,1)