PDF de programación - Procesos Estocasticos

Procesos Estocasticos

Jose Antonio Camarena Ibarrola

UMSNH

[email protected]

15 de marzo de 2017

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

1 / 29

Overview

1

Introducción

2 References

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

2 / 29

Introducción a los procesos estocásticos

Esta disciplina se enfoca en la dinámica de las probabilidades

El concepto de variable aleatoria se generaliza para incluir el tiempo

Una variable aleatoria X mapea un evento s del espacio muestral a un
valor numérico X (s)

En un proceso estocástico un evento s, en un instante t se mapea a
un valor numérico X (t, s) ;t ∈ T , donde T se denomina conjunto
parámetro del proceso (conjunto de tiempos)

Dejando fija la muestra s, X (t) es una función del tiempo

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

3 / 29

Introducción

X (t, s) puede verse como una colección de funciones del tiempo, una
para cada muestra s

Si dejamos fijo t, entonces X (s) es una variable aleatoria (mapea un
evento a un número)

Un proceso estocástico se convierte en una variable aleatoria si se
deja fijo el tiempo

Entonces podemos definir un proceso estocástico como una familia de
variables aleatorias X (t, s); t ∈ T , s ∈ S definidas sobre un espacio
de probabilidades e indexadas por el parámetro t

X (t, s) se puede ver como una colección de funciones del tiempo, una
para cada s

A los procesos estocásticos se les conoce también como procesos
aleatorios

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

4 / 29

Clasificación de los procesos estocásticos

Los valores de X (t, s) (t ∈ T ) son llamados estados del proceso
estócástico y el conjunto de todos los posibles valores de X (t, s)
forman el espacio de estados E

Proceso Estocástico de tiempo continuo. T es un intervalo del
dominio del eje del tiempo (un intervalo de números reales)

Proceso Estocástico de tiempo discreto. T es un conjunto contable.
también se llaman a estos secuencias aletorias y se denotan mediante
{X [n]|n = 1, 2, ...}
Proceso Estocástico de estados contínuos. E es contínuo

Proceso Estocástico de estados discretos. E es discreto

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

5 / 29

Caracterización de los procesos estocásticos

Un proceso estocástico queda completamente caracterizado por la
Función de Distribución Acumulada (CDF) conjunta

Por economía de notación representemos X (t, s) por X (t). El valor de
un proceso estocástico X (t) en el instante ti , es decir X (ti ) es una
variable aleatoria

FX (x1, t1) = P[X (t1) ≤ x1]
FX (x2, t2) = P[X (t2) ≤ x2]
...
FX (xn, tn) = P[X (tn) ≤ xn]
0 < t1 < t2 < ... < tn

(1)

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

6 / 29

Caracterización de los procesos estocásticos

Un proceso estocástico queda completamente caracterizado por la
CDF conjunta
FX (x1, x2, ..., xn; t1, t2, ..., tn) = P[X (t1) ≤ x1, X (t2) ≤ x2, ..., X (tn) ≤ xn, ] ∀n

Similarmente, si el proceso estocástico es de tiempo discreto, lo
podemos caracterizar mediante una colección de funciones de
distribución de probabilidad:
fX (x1, x2, ..., xn; t1, t2, ..., tn) = P[X (t1) = x1, X (t2) = x2, ..., X (tn) = xn, ] ∀n

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

7 / 29

Media, Varianza y Autocorrelación de un proceso
estocástico

Una manera de caracterizar un proceso aleatorio es mediante su media
y su varianza. La media de un proceso aleatorio suele denominarse
ensemble average ensemble.- conjunto de resultados de un experimento aleatorio en cierto proceso

µX = E [X (t)]
X = E [(X (t) − µX )2] = E [X 2(t)] − µ2
σ2

X

La autocorrelación proveé una medida de similitud entre dos instantes
de un proceso estocástico

RXX (t, s) = E [X (t)X (s)] = RXX (s, t)
RXX (t, t) = E [X 2(t)]

Un proceso aleatorio X (t) se denomina de segundo orden si E [X 2(t)] < ∞ para todo t ∈ T

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

8 / 29

Procesos estocásticos estacionarios

Un proceso estocástico estacionario es un proceso cuyas propiedades
estadísticas no varian con el tiempo

Procesos estacionarios en sentido estricto.

FX (x1, x2, ..., xn; t1, t2, ..., tn) = FX (x1, x2, ..., xn; t1 +
, t2 +
, ..., tn +
)

Y si FX es diferenciable

fX (x1, x2, ..., xn; t1, t2, ..., tn) = fX (x1, x2, ..., xn; t1 +
, t2 +
, ..., tn +
)

Procesos estacionarios en sentido amplio. Son procesos en los que la
media, la variancia y la autocorrelación no depende del tiempo, son
constantes

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

9 / 29

Procesos estocásticos Ergódicos

Una propiedad deseable en un proceso estocástico es el poder estimar
sus parámetros a partir de datos (mediciones)

T

−T

Promedio temporal

¯x = lím
T→∞

x(t)dt

(2)

En un proceso estocástico ergódico el promedio estadístico (ensemble
average) es igual al promedio temporal E [X (t)] = ¯x

Un proceso estocástico ergódico es un proceso en el cual los
momentos del proceso pueden ser determinados por promedios
temporales o por promedios estadísticos (ensemble averages)
E [X n] = ¯X n
Por lo tanto podemos inferir propiedades estadísticas del proceso a
partir de una única realización del proceso (un miembro del ensemble)

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

10 / 29

Algunos modelos de procesos estocásticos

Martingales

Procesos de conteo

Procesos de incrementos independientes

Procesos de incrementos estacionarios

Procesos de Poisson

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

11 / 29

Martingales

Un proceso estocástico es un proceso martingale si
E [Xn+1|X1, X2, ..., Xn] = Xn, es decir, la mejor predicción para el
próximo valor es el valor actual.
Un proceso es supermartingale si E [Xn+1|X1, X2, ..., Xn] ≤ Xn
Un proceso es submartingale si E [Xn+1|X1, X2, ..., Xn] ≥ Xn
martingale captura la escencia de un juego justo en el sentido de que
independientemente de su suerte, su capital esperado será el mismo
que su capital actual.

En un submartingale se espera que su capital se incremente en el
futuro y en un supermartingale se espera que su capital se reduzca en
el futuro

Martingales son una herramienta importante en matemáticas
financieras modernas.

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

12 / 29

Martingales

Si n = {Y1, Y2, ..., Yn} es la información potencial que se le revela al
proceso a medida el el tiempo progresa

Un martingale es un proceso cuyo valor esperado, condicionado a
cierta información potencial, es igual al valor revelado por la última
información disponible
Sean X1, X 2, ..., variables aleatorias independientes con media cero y

Yn =n

k=1 Xk . entonces:

E [Yn+1|Y1, ..., Yn] = E [Yn + Xn+1|Y1, ..., Yn]

= E [Yn|Y1, ..., Yn] + E [Xn+1|Y1, ..., Yn]
= Yn + E [Xn+1]
= Yn

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

13 / 29

Procesos de conteo

Un proceso estocástico {X (t)|t ≥ 0} es un proceso de conteo si X (t)
representa el número de eventos que han ocurrido en el interval [0, t]
Por ejemplo el número de clientes que han llegado a un banco desde
el momento en que el banco abrió sus puertas hasta un determinado
instante t.
En un proceso de conteo:

1 X (t) ≥ 0
2 X (0) = 0
3 Si s < t, entonces X (s) ≤ X (t)
4 X (t) − X (s) representa el número de eventos ocurridos en el intervalo

[s, t]

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

14 / 29

Procesos de incrementos independientes

Un proceso de conteo es un proceso de incrementos independientes si
el número de eventos que ocurren en intervalos disjuntos es una
variable aleatoria independiente
Por ejemplo en la figura considere los intervalos [0, t1] y [t2, t4], si el
número de eventos que ocurren en un intervalo es independiente del
número de incrementos que ocurren en el otro intervalo, entonces
X (t) es un proceso de incrementos independientes

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

15 / 29

Procesos de incrementos estacionarios

Un proceso de conteo X (t) poseé incrementos estacionarios si para
cada conjunto de instantes de tiempo los incrementos están
idénticamente distribuidos

En general, la media de un proceso de incrementos estacionarios tiene
la forma E [X (t)] = mt, donde m es la media en el instante t = 1, es
decir m = E [X (1)]

De manera similar, la varianza de un proceso de incrementos
estacionarios tiene la forma Var [X (t)] = σ2t, donde σ2 es la varianza
en el instante t = 1, es decir, σ2 = Var [X (1)]

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

16 / 29

Procesos de Poisson

Los procesos de Poisson son ampliamente utilizados para modelar
arribos (ocurrencias de eventos) en un sistema

Modelar incidencias de llamadas telefónicas a un conmutador

Arribos de órdenes de clientes a una empresa de servicios

Fallas aleatorias de equipos
Hay dos maneras de definir procesos de Poisson

Como un proceso de conteo en el cual el número de eventos en
cualquier intervalo de longitud t tiene una distribución de Poisson con
media λt

P[X (s + t) − X (s) = n] =

n!

(λt)n

e−λt

(3)

Como un proceso de conteo con incrementos independientes y
estacionarios con λ > 0

Jose Antonio Camarena Ibarrola (DEP-FIE)

Procesos Estocasticos

15 de marzo de 2017

17 / 29

Procesos de Markov

Se denomina proceso de Markov de primer orden a un proceso
estocástico en el cual:

P[X (tn) ≤ xn|X (tn−1) = xn−1, X (tn−2) = xn−2, ..., X (t0) = x0] =
= P[X (tn) ≤ xn|X (tn−1) = xn−1]

Es decir, dado el es