<<

стр. 16
(всего 28)

СОДЕРЖАНИЕ

>>

c0 c0 = T,

для четных T ,
cT /2 cT /2 = T,

где 1T = (1, . . . , 1) — T -компонентный вектор.
Для нахождения коэффициентов Фурье скалярно умножим cj на вектор x и,
воспользовавшись изложенными свойствами ортогональности (13.15), получим:

? ?
cj x = cj C S = (cj c0 , . . . , cj c[T /2] , cj s1 , . . . , cj s[(T ?1)/2] ) =
? ?
T T
для j = 0,
= ?j cj cj = ?j , .
2 2

Таким образом,

T
2 2 2?j T
t , для j = 0, ,
?j = cj x = xt cos
T T T 2
t=1
T
1 1
(13.16)
?0 = c0 x = xt ,
T T t=1
T
1 1
(?1)t xt , для четных T .
?T /2 = cT /2 x =
T T t=1


Аналогично находим коэффициенты ?j :

T
2 2 2?j
(13.17)
?j = sj x = xt sin t.
T T T
t=1
411
13.2. Теорема Парсеваля

13.2. Теорема Парсеваля
Суть теоремы Парсеваля состоит в том, что дисперсия процесса xt разлагается
по частотам соответствующих гармоник следующим образом:
T /2?1
1 2 2
Rj + RT /2 , для четных T , (13.18)
var(xt ) =
2 j=1
(T ?1)/2
1 2
Rj , для нечетных T . (13.19)
var(xt ) =
2 j=1


Покажем, что это действительно так. Из (13.14) мы имеем:
? ? ? ?
?C ? ???
? ? CS ? ?=
xx= ? ?
S ?
? ?? ?
? CC C S ?? ? ?
? ?? ?=
= ? ?
SC SS ?
? ?? ?
? ?C ?? ? ?
0
? ?? ?=
= ? ?
0 ?S ?
[T /2] [(T ?1)/2]
?2 1T 1T ?2 cj cj 2
= ? ?C ? + ? ?S ? = + + ?j s j s j ,
0 j
j=1 j=1

где ?c и ?s — диагональные матрицы. Таким образом, если T — четно, то

T /2 T /2?1
?2 1T 1T ?2 cj cj 2
xx= + + ?j s j s j =
0 j
j=1 j=1
T /2?1 T /2?1 T /2?1
T T T
?2 T ?2 2
+ ?2 /2 T ?2 T (?2 + ?j ) + ?2 /2 T =
2
= + + ?j = +
0 0
j j
T T
2 2 2
j=1 j=1 j=1
T /2?1 T /2?1
T T
?2 T 2
?2 /2 T 2 2 2
Rj + RT /2 T. (13.20)
= + Rj + = R0 T +
0 T
2 2
j=1 j=1


Аналогично для нечетных T :
(T ?1)/2 (T ?1)/2
?2 1T 1T ?2 cj cj 2
xx= + + ?j s j s j =
0 j
j=1 j=1
412 Глава 13. Спектральный и гармонический анализ

(T ?1)/2 (T ?1)/2
T T
?2 T ?2 2
= + + ?j =
0 j
2 2
j=1 j=1
(T ?1)/2 (T ?1)/2
T T
?2 T (?2 2 2 2
Rj . (13.21)
= + + ?j ) = R0 T +
0 j
2 2
j=1 j=1

2
Разделим уравнения (13.20) и (13.21) на T и перенесем в левые части R0 . С учетом
того, что R0 = ?2 = x2 , получаем выражения для дисперсии процесса xt .
2
?
0

T /2?1
xx 1
2 2 2
? R0 = Rj + RT /2 , для четных T , (13.22)
var(xt ) =
T 2 j=1
(T ?1)/2
xx 1
2 2
? R0 = Rj , для нечетных T . (13.23)
var(xt ) =
T 2 j=1

2
Таким образом, вклад в дисперсию процесса для T /2-й гармоники равен RT /2 ,
12
а для k-й гармоники, k = T /2, равен Rk .
2
Следовательно, наряду с определением коэффициентов Фурье для k-й гармо-
ники, можно определить долю этой же гармоники в дисперсии процесса.


13.3. Спектральный анализ
Введем понятия периодограммы и спектра.
Периодограммой называют последовательность значений {Ij }:
T2 T
2
Ij = (?j + ?j ), j = 0, 1, . . . , ,
2 2
T T2
т.е. Ij равно квадрату амплитуды j-ой гармоники, умноженному на , Ij = 2 Rj .
2
Величина Ij называется интенсивностью на j-ой частоте.
На практике естественнее при вычислении периодограммы использовать цен-
трированный ряд xt = xt ? x. При этом меняется только I0 . Для центрированного
? ?
ряда ?0 = 0, поэтому I0 = ?2 = 0. Все остальные значения периодограммы
0
не меняются, что следует из (13.5) и (13.6) — влияние константы на остальные
значения обнуляется. В оставшейся части главы мы будем использовать только
центрированный ряд.
В определении периодограммы принципиальным является то, что гармониче-
ские частоты fj = j/T (j = 0, 1, . . . , [T /2]) изменяются дискретно, причем
наиболее высокая частота составляет 0, 5 цикла за временной интервал.
413
13.3. Спектральный анализ

Вводя понятие спектра, мы ослабляем это предположение и позволяем частоте
изменяться непрерывно в диапазоне 0 ? 0.5 Гц ( 0.5 цикла в единицу времени).
Обозначим линейную частоту через f и введем следующие обозначения:

T T
2 2
?f = xt cos(2?f t),
? ?f = xt sin(2?f t)
?
T T
t=1 t=1

и

Rf = ?2 + ?f .
2 2
f


Функция

T2 T
p? (f ) = ?2 + ?f =
2
Rf = f
2? 2 ?
2 2
T T
2? ?, (13.24)
= xt cos(2?f t)
? + xt sin(2?f t)
?
T t=1 t=1

1
где 0 2 , называется выборочным спектром. Очевидно, что значения пе-
f
риодограммы совпадают со значениями выборочного спектра в точках fj , то есть
p? (fj ) = Ij .
Спектр показывает, как дисперсия стохастического процесса распределена
в непрерывном диапазоне частот. Подобно периодограмме он может быть исполь-
зован для обнаружения и оценки амплитуды гармонической компоненты неизвест-
ной частоты f , скрытой в шуме.
И периодограмму, и спектр представляют для наглядности в виде графика, на
оси ординат которого — интенсивность Ij или p? (f ), на оси абсцисс — частота
fj = j T или f , соответственно. График выборочного спектра часто называют
спектрограммой.
Спектрограмма нужна для более наглядного изображения распределения дис-
персии между отдельными частотами. Если частоте f = k T соответствует пик на
спектрограмме, то в исследуемом ряду есть существенная гармоническая состав-
ляющая с периодом 1/f = T k .
Целью спектрального анализа является определение основных существенных
гармонических составляющих случайного процесса путем разложения дисперсии
процесса по различным частотам. Спектральный анализ позволяет исследовать
смесь регулярных и нерегулярных спадов и подъемов, выделять существенные
гармоники, получать оценку их периода и по значению спектра на соответствующих
частотах судить о вкладе этих гармоник в дисперсию процесса.
414 Глава 13. Спектральный и гармонический анализ

Исследования показывают, что наличие непериодического тренда (тренда с бес-
конечным периодом) дает скачок на нулевой частоте, т.е. в начале координат спек-
тральной функции. При наличии циклических составляющих в соответствующих
частотах имеется всплеск; если ряд слишком «зазубрен», мощность спектра пере-
мещается в высокие частоты.
Типичным для большинства экономических процессов является убывание спек-
тральной плотности по мере того, как возрастает частота.
Процесс выделения существенных гармоник — итеративный. При изучении
периодограммы выделяется две-три гармоники с максимальной интенсивностью.
Находятся оценки параметров этих наиболее существенных гармоник, и они удаля-
ются из временного ряда с соответствующими весами. Затем остатки временного
ряда, получающиеся после исключения значимых гармоник, снова изучаются в той
же последовательности, т.е. строится периодограмма для этих остатков, и проявля-
ются те гармоники, которые на начальном этапе были незаметны, и т.д. Количество
итераций определяется задаваемой точностью аппроксимации модели процесса,
которая представляется в виде линейной комбинации основных гармоник.
Понятие спектра, являясь основополагающим в спектральном анализе, для
экономистов играет важную роль еще и потому, что существует функциональная
связь выборочного спектра и оценок автоковариационной функции.


13.4. Связь выборочного спектра
с автоковариационной функцией
Покажем, что выборочный спектр представляет собой косинус-преобразование
Фурье выборочной автоковариационной функции.
Теорема Винера—Хинчина:
T ?1 T ?1
? 2
(13.25)
p (f ) = 2 c0 + 2 ck cos 2?f k = 2s 1 + 2 rk cos 2?f k ,
k=1 k=1

где rk = ck /c0 = ck /s2 — выборочные автокорреляции.

Доказательство.
Объединим коэффициенты Фурье ?f , ?f в комплексное число df = ?f ? i?f , где
i — мнимая единица. Тогда
T T T
p? (f ) = ?2 + ?f = (?f ? i?f ) (?f + i?f ) = df df ,
2
(13.26)
f
2 2 2
где df комплексно сопряжено с df .
415
13.4. Связь выборочного спектра с автоковариационной функцией

Используя формулы для ?f и ?f , получим:
T T
2 2
xt e?i2?f t .
xt cos 2?f t ? i sin 2?f t =
df = ? ?
T T
t=1 t=1


Точно так же
T
2
xt ei2?f t .
df = ?
T t=1


Подставляя полученные значения df и df в выражение (13.26), получаем:

T T
T2 2
? ?i2?f t
p (f ) = · · xt ei2?f t
xt e
? ? =
2T T
t =1
t=1
T T
2
xt xt e?i2?f (t?t ) . (13.27)
= ??
T t=1 t =1


Произведем замену переменных: пусть k = t ? t . Так как автоковариация равна
T
1
ck = xt xt?k ,
??
T
t=k+1

что тождественно
T ?k
1
ck = xt xt+k ,
??
T t=1

то выражение (13.27) преобразуется следующим образом:

T ?1
T T T
2 2
?i2?f (t?t ) ?i2?f k
xt xt e
?? = e xt xt?k =
??
T T
t=1 t =1 k=?(T ?1) t=k+1
T ?1 T ?1
T
1
?i2?f k
e?i2?f k ck .
·
=2 e xt xt?k = 2
??
T
k=?(T ?1) k=?(T ?1)
t=k+1

Тогда

T ?1 T ?1
? ?i2?f k
ck cos 2?f k ? i sin 2?f k =
p (f ) = 2 e ck = 2
k=?(T ?1) k=?(T ?1)
T ?1
1
= 2 c0 + 2 ck cos 2?f k , 0 f .
2
k=1
416 Глава 13. Спектральный и гармонический анализ

Теперь допустим, что выборочный спектр, характеризующийся эмпирическими
значениями частоты, амплитуды и фазы, вычислен для ряда из T наблюдений
и мы можем неоднократно повторить этот эксперимент, соответственно собрав
множество значений ?j , ?j и p? (f ) по повторным реализациям. Тогда среднее
значение p? (f ) будет равно:

T ?1
?
(13.28)
E(p (f )) = 2 E(c0 ) + 2 E(ck ) cos 2?f k ,
k=1


где c0 и ck — эмпирические значения автоковариации. C учетом того, что E(ck )
при больших T стремится к теоретической автоковариации ?k , получим, переходя
к пределу, так называемую теоретическую спектральную плотность, или спектр
мощности:

1
p(f ) = lim E(p? (f )), 0 f
T >? 2

или

?
p(f ) = 2 ?0 + 2 ?k cos(2?f k) =
k=1
?
2
(13.29)
= 2? 1 + 2 ?k cos(2?f k) ,
k=1


где ?k = ?k /?0 = ?k /? 2 — теоретические автокорреляции.
Итак, это соотношение связывает функцию спектральной плотности с теоре-
тическими автоковариациями.
Иногда более удобно использовать автокорреляции: разделим обе части p(f )
на дисперсию процесса, ? 2 , и получим нормированный спектр g(f ):

?
1
g(f ) = 2 1 + 2 ?k cos 2?f k , 0 f .
2
k=1


Если процесс представляет собой белый шум, то, согласно приведенным фор-
мулам, p(f ) = 2? 2 , т.е. спектральная плотность белого шума постоянна. Этим
объясняется термин «белый шум». Подобно тому, как в белом цвете смешаны
в одинаковых объемах все цвета, так и белый шум содержит все частоты, и ни одна
из них не выделяется.
417
13.5. Оценка функции спектральной плотности

13.5. Оценка функции спектральной плотности
На первый взгляд, выборочный спектр, определенный как

T ?1
?
ck e?i2?f k = (13.30)
p (f ) = 2
k=?(T ?1)
T ?1
1
(13.31)
= 2 c0 + 2 ck cos 2?f k , 0 f ,
2
k=1

является естественной и правильной оценкой функции спектральной плотности:
+? ?
1
?i2?f k
(13.32)
p(f ) = 2 ?k e = 2 ?0 + 2 ?k cos 2?f k , 0 f .
2
k=?? k=1


Известно, что выборочная автоковариация ck — это асимптотически несме-
щенная оценка параметра ?k , так как

lim E(ck ) = ?k ,
T >?

и поэтому выборочный спектр есть также асимптотически несмещенная оценка
функции спектральной плотности.
Однако дисперсия оценки (выборочного спектра) не уменьшается по мере роста
размера выборки. Это означает, что рассматриваемая оценка несостоятельна. В то
время как график функции теоретической спектральной плотности стационарного
стохастического процесса «гладкий», — график выборочного спектра, построен-
ный на основе эмпирических данных, «неровный». Использование данной оценки
в качестве оценки функции спектральной плотности может привести к ложным
выводам.
Поведение выборочного спектра иллюстрируют спектрограммы на рис. 13.1 а),
б), в). Гладкая жирная линия соответствует теоретической спектральной плотно-
сти случайного процесса, а неровная тонкая линия — оценке по формуле (13.24).
Видно, что с увеличением длины ряда оценка не становится более точной, а только
увеличивает частоту флуктуаций.
Существует два подхода к решению проблемы несостоятельности выборочного
спектра как оценки теоретического спектра. Оба заключаются в том, что выбороч-
ный спектр сглаживается, так что за счет некоторого увеличения смещения этой
оценки достигается существенное снижение дисперсии (см. рис. 13.1 г) ). Один
подход сглаживает оценку спектра в «частотной области», видоизменяя формулу
(13.24), другой же подход видоизменяет формулу (13.25).
418 Глава 13. Спектральный и гармонический анализ

а) б)
T = 100 T = 300




в) г)
T = 1000,
T = 1000
сглаженная
оценка




Рис. 13.1



1) Взвешивание ординат периодограммы.
Первый способ сглаживания выборочного спектра применяет метод скользя-
щего среднего, рассмотренный в предыдущей главе, к значениям периодограммы.
Сглаживающая оценка определяется в форме
M M
j?k
j ?
s
(13.33)
p = µk p = µk Ij?k .
T T
k=?M k=?M

Здесь {µ?M , . . . , µ?1 , µ0 , µ1 , . . . , µM } — 2M +1 коэффициентов скользящего
среднего, которые в сумме должны давать единицу, а также должны быть симмет-
ричными, в смысле µ?k = µk . Как правило, коэффициент µ0 максимальный,
а остальные коэффициенты снижаются в обе стороны. Таким образом, наиболь-
ший вес в этой оценке имеют значения выборочного спектра, ближайшие к данной
j
частоте , в связи с чем данный набор коэффициентов называют спектральным
T
окном. Через это окно мы как бы «смотрим» на функцию спектральной плотности.
Формула сглаженной спектральной оценки определяется только для значений
j = M, . . . , [T /2] ? M . Для гармонических частот с номерами j = 0, . . . , M ? 1
и j = [T /2] ? M + 1, . . . , [T /2] оценка не определена, поскольку при дан-
ных значениях j величина (j ? k) может принимать значения ?M, . . . , ?1;
[T /2] + 1, . . . , [T /2] + M . Однако проблема краевых эффектов легко решается,
419
13.5. Оценка функции спектральной плотности

если доопределить функцию выборочного спектра (и, соответственно, периодо-
грамму), сделав ее периодической. Формула (13.24) дает такую возможность, по-
скольку основана на синусоидах и косинусоидах. Таким образом, будем считать, что
выборочный спектр определен формулой (13.24) для всех частот f ? (??, +?).
При этом ясно, что выборочный спектр будет периодической функцией с перио-
дом 1, зеркально-симметричной относительно нуля (и относительно любой часто-
ты вида i/2, где i — целое число):

p? (f ? i) = p? (f ), i = . . . , ?1, 0, 1, . . .

и

p? (?f ) = p? (f ).

Формулу (13.33) несложно обобщить так, чтобы можно было производить сгла-
живание не только в гармонических частотах. Кроме того, в качестве расстояния
между «усредняемыми» частотами можно брать не 1/T , а произвольное ? > 0.
Таким образом приходим к следующей более общей формуле:

M
µk p? (f ? k?).
s
(13.34)
p (f ) =
k=?M


Просматривая поочередно значения выборочного спектра и придавая наиболь-
ший вес текущему значению, можно сгладить спектр в каждой интересующей нас
точке.
2) Взвешивание автоковариационных функций.
Известно, что при увеличении лага k выборочные автоковариации ck явля-
ются все более неточными оценками. Это связано с тем, что k-я автоковариация
вычисляется как среднее по T ?k наблюдениям. Отсюда возникает идея в формуле
(13.25) ослабить влияние дальних автоковариаций за счет применения понижаю-
щих весов так, чтобы с ростом k происходило уменьшение весового коэффициента
при ck .
Если ряд весов, связанных с автоковариациями c0 , c1 , . . . , cT ?1 , обозначить
как m0 , m1 , . . . , mT ?1 , оценка спектра будет иметь вид:

T ?1
1
c
где 0 (13.35)
p (f ) = 2 m0 c0 + 2 mk ck cos 2?f k , f .
2
k=1

Набор весов mk , используемый для получения такой оценки, получил название
корреляционное, или лаговое окно.
420 Глава 13. Спектральный и гармонический анализ

При использовании корреляционного окна для уменьшения объема вычислений
удобно брать такую систему весов, что mk = 0 при k K, где K < T . Тогда
формула (13.35) приобретает вид

K?1
c
(13.36)
p (f ) = 2 m0 c0 + 2 mk ck cos 2?f k .
k=1


Корреляционное окно удобно задавать с помощью функции m(·), заданной на
интервале [0; 1], такой, что m(0) = 1, m(1) = 0. Обычно функцию выбирают так,
чтобы между нулем и единицей эта функция плавно убывала. Тогда понижающие
веса mk при k = 0, . . . , K вычисляются по формуле

mk = m(k/K).

Ясно, что при этом m0 = 1 (это величина, с помощью которой мы взвешиваем
дисперсию в формуле (13.35)) и mK = 0.
Наиболее распространенные корреляционные окна, удовлетворяющие пере-
численным свойствам — это окна Парзена и Тьюки—Хэннинга (см. рис. 13.2).
Окно Тьюки—Хэннинга:
1
m(z) = (1 + cos(?z)) .
2

Окно Парзена:
?
?
? 1 ? 6z 2 + 6z 3 , если z ? [0; 1 ];
2
m(z) =
?
?
если z ? [ 1 ; 1].
3
2(1 ? z) , 2


Можно доказать, что сглаживание в частотной области эквивалентно пони-
жающему взвешиванию автоковариаций. Чтобы это сделать, подставим в (13.34)
выборочный спектр, выраженный через комплексные экспоненты (13.30):

T ?1
M
ck e?i2?(f ?j?)k .
s
p (f ) = 2 µj
k=?(T ?1)
j=?M


Меняя здесь порядок суммирования, получим

T ?1 M
?i2?f k
s
µj ei2?jk? .
p (f ) = 2 ck e
k=?(T ?1) j=?M
421
13.5. Оценка функции спектральной плотности

m(z)
1
окно Парзена

0.8


окно Тьюки—Хэннинга
0.6


0.4


0.2

z

0 0.2 0.4 0.6 0.8 1

Рис. 13.2. Наиболее популярные корреляционные окна




Введя обозначение
M M
µj ei2?jk? + e?i2?jk?
i2?jk?
mk = µj e = µ0 +
j=1
j=?M
M
= µ0 + 2 µj cos(2?jk?),
j=1

придем к формуле
T ?1
mk ck e?i2?f k =
s
p (f ) = 2
k=?(T ?1)
T ?1
= 2 m0 c0 + 2 mk ck cos 2?f k ,
k=1

которая, очевидно, совпадает с (13.35).
Кроме того, без доказательства отметим, что подбором шага ? и весов µj мы
всегда можем сымитировать применение корреляционного окна (13.35) с помощью
(13.34). Существует бесконечно много способов это сделать.
В частности, как несложно проверить, частотное окно Тьюки—Хэннинга полу-
1
чим, если возьмем M = 1, µ0 = 1 , µ1 = µ?1 = 1 и ? = .
2 4 2K
422 Глава 13. Спектральный и гармонический анализ

Особого внимания требует вопрос о том, насколько сильно нужно сглаживать
спектральную плотность. Для корреляционных окон степень гладкости зависит
от того, насколько быстро убывают понижающие веса. При фиксированной функ-
ции m(·) все будет зависеть от параметра K — чем меньше K, тем более гладкой
будет оценка.
Для спектральных окон степень гладкости зависит от того, насколько близко
«масса» коэффициентов µk лежит к той частоте, для которой вычисляется ошибка.
При этом принято говорить о ширине окна, или ширине полосы.
Если ширина окна слишком большая, то произойдет «пересглаживание», оцен-
ка будет сильно смещенной, и пики спектральной плотности станут незаметными.
(В предельном случае оценка будет ровной, похожей на спектр белого шума.) Если
ширина окна слишком малая, то произойдет «недосглаживание», и оценка будет
похожа на исходную несглаженную оценку и иметь слишком большую дисперсию.
Таким образом, ширина окна выбирается на основе компромисса между смещением
и дисперсией.


13.6. Упражнения и задачи
Упражнение 1

Сгенерируйте ряд длиной 200 по модели:

xt = 10 + 0.1t + 4 sin(?t/2) ? 3 cos(?t/2) + ?t ,

где ?t — нормально распределенный белый шум с дисперсией 3. Предположим,
что параметры модели неизвестны, а имеется только сгенерированный ряд xt .

1.1. Оцените модель линейного тренда и найдите остатки. Постройте график ря-
да остатков, а также графики автокорреляционной функции и выборочного
спектра.

1.2. Выделите тренд и гармоническую составляющую, сравните их параметры
с истинными значениями.


Упражнение 2

Для временного ряда, представленного в таблице 12.2 (с. 403), выполните
следующие задания.

2.1. Исключите из временного ряда тренд.
423
13.6. Упражнения и задачи

2.2. Остатки ряда, получившиеся после исключения тренда, разложите в ряд Фу-
рье.

2.3. Найдите коэффициенты ?j и ?j разложения этого ряда по гармоникам.

2.4. Постройте периодограмму ряда остатков и выделите наиболее существенные
гармоники.

2.5. Постройте модель исходного временного ряда как линейную комбинацию
модели тренда и совокупности наиболее значимых гармоник.

2.6. Вычислите выборочные коэффициенты автоковариации и автокорреляции
для ряда остатков после исключения тренда.

2.7. Найдите значение периодограммы для частоты 0.5 разными способами (в том
числе через автоковариационную функцию).


Упражнение 3

Используя данные таблицы 12.2, выполните следующие задания.

j
3.1. С помощью периодограммы вычислите оценку спектра на частоте fj = ,
2K
K = 4 . Получите сглаженную оценку спектра с помощью спектрального
окна Тьюки—Хэннинга.

3.2. Рассчитайте автокорреляционную функцию rj , j = 1, . . . , 4. Оцените
спектр с помощью корреляционного окна Тьюки—Хэннинга при K = 4.
Сравните с предыдущим результатом.

3.3. Оцените спектр с помощью корреляционного окна Парзена при K = 4.

3.4. Постройте график оценки спектра для корреляционного окна Тьюки—
j
Хэннинга в точках fj = 40 , j = 0, . . . , 20.


Задачи

1. Записать гармонику для ряда x = (1, ?1, 1, ?1, 1, ?1, . . . ).

2. Пусть временной ряд xt имеет гармонический тренд: ?t = 3 cos(?t) +
+ 4 sin(?t). Найти значения амплитуды, фазы и периода.

3. Записать ортогональный базис, по которому разлагается исследуемый про-
цесс xt в ряд Фурье для T = 6, T = 7.
424 Глава 13. Спектральный и гармонический анализ

4. Записать ковариационную матрицу для гармонических переменных, состав-
ляющих ортогональный базис, если T = 6, T = 7.

5. Привести формулу расчета коэффициентов гармонических составляющих
временного ряда.

T 1
6. Что описывает формула: I(f ) = (?2 + ?f ), где 0
2 ? Почему f
f
f
2 2
меняется в указанном диапазоне значений?

7. Как соотносятся понятия интенсивности и амплитуды, периодограммы и спек-
тра?

8. Вывести формулу для определения периодограммы на нулевой частоте.

9. Как связаны выборочный спектр и автокорреляционная функция для чисто
случайного процесса? Записать формулу с расшифровкой обозначений.

10. Пусть для ряда из 4-х наблюдений выборочная автокорреляционная функция
равна: r1 = 1 v , r2 = 1 2 , r3 = 1 v , дисперсия равна 1. Вычислить
2 2
значение выборочного спектра на частоте 1 4 .

11. Как соотносится выборочный спектр с автоковариационной функцией, спек-
тральными и корреляционными окнами?

12. Пусть для ряда из 4-х наблюдений выборочная автокорреляционная функция
равна: r1 = 1 2 , r2 = 1 4 , r3 = ?1 4 , дисперсия равна 1. Вычислить
значение сглаженной оценки выборочного спектра на частоте 1 4 с помощью
окна Парзена с весами mk , k = 1, 2.

13. По некоторому временному ряду рассчитана периодограмма:

I(0) = 2, I 1 6 = 6, I 1 3 = 1, I 1 2 = 4.

Найти оценки спектральной плотности для тех же частот с использованием
окна Тьюки—Хэннинга.

14. Записать уравнение процесса с одной периодической составляющей для ча-
стоты 0.33, амплитуды 2 и фазы 0.

15. Изобразить графики спектра для стационарных и нестационарных процессов.
425
13.6. Упражнения и задачи

Рекомендуемая литература
1. Андерсон Т. Статистический анализ временных рядов. — М.: «Мир», 1976.
(Гл. 4, 9).

2. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление.
Вып. 1. — М.: «Мир», 1974. (Гл. 2).

3. Гренджер К., Хатанака М. Спектральный анализ временных рядов в эконо-
мике. — М.: «Статистика», 1972.

4. Дженкинс Г., Ваттс Д. Спектральный анализ и его приложения. — М.:
«Мир», 1971.

5. Кендалл М. Дж., Стьюарт А. Многомерный статистический анализ и вре-
менные ряды. — М.: «Наука», 1976. (Гл. 49).

6. Маленво Э. Статистические методы эконометрии. Вып. 2. — М.: «Стати-
стика», 1976. (Гл. 11, 12).

7. Бриллинджер Д. Временные ряды. Обработка данных и теория. — М.: Мир,
1980. (Гл. 5).

8. Hamilton James D., Time Series Analysis. — Princeton University Press, 1994.
(Ch. 6).

9. Judge G.G., Griffiths W.E., Hill R.C., Luthepohl H., Lee T. Theory and Practice
of Econometrics. — New York: John Wiley & Sons, 1985. (Ch. 7).
Глава 14

Линейные стохастические
модели ARIMA


14.1. Модель линейного фильтра
Стационарный стохастический процесс {xt } с нулевым математическим ожи-
данием иногда полезно представлять в виде линейной комбинации последователь-
ности возмущений ?t , ?t?1 , ?t?2 , . . ., т.е.
?
(14.1)
xt = ?t + ?1 ?t?1 + ?2 ?t?2 + . . . = ?i ?t?i ,
i=0
или с использованием лагового оператора:
xt = (1 + ?1 L + ?2 L2 + · · · )?t ,
где ?0 = 1 и выполняется
?
|?i | < ?, (14.2)
i=0

т.е. ряд абсолютных значений коэффициентов сходится.
Уравнение (14.1) называется моделью линейного фильтра, а линейный опе-
ратор:
?
2
?(L) = 1 + ?1 L + ?2 L + · · · = ?i Li ,
i=0
427
14.1. Модель линейного фильтра

преобразующий ?t в xt , — оператором линейного фильтра.
Компактная запись модели линейного фильтра выглядит следующим образом:

xt = ?(L)?t .

Предполагается, что последовательность { ?t } представляет собой чисто слу-
чайный процесс или, другими словами, белый шум (см. стр. 353). Напомним, что
автоковариационная и автокорреляционная функции белого шума имеют очень
простую форму:
? ?
?2 ?
??, ? 1,
k = 0, k = 0,
?
? ?
?k = ?k =
? ?
? ?
0, k = 0, 0, k = 0,
а его спектральная плотность имеет вид
2
p? (f ) = 2?0 = 2?? = const.
?


Таким образом, белый шум легко идентифицируется с помощью графиков автокор-
реляционной функции и спектра. Часто предполагается, что последовательность
{?t } состоит из независимых одинаково распределенных величин. Упростить ана-
лиз помогает дополнительное предположение о том, что {?t } имеет нормальное
распределение, т.е. представляет собой гауссовский белый шум.
Данная модель не является произвольной. Фактически, согласно теореме Воль-
да, любой слабо стационарный ряд допускает представление в виде модели линей-
ного фильтра, а именно: разложение Вольда ряда xt 1 . Следует помнить, однако,
что разложение Вольда единственно, в то время как представление (14.1), вообще
говоря, неоднозначно2 . Таким образом, разложение Вольда представляет процесс
в виде модели линейного фильтра, в то время как модель линейного фильтра не обя-
зательно задает разложение Вольда.
Как мы увидим в дальнейшем, модель линейного фильтра (14.1) применима
не только к стационарным процессам, таким что выполняется (14.2), — с соответ-
ствующими оговорками она упрощает анализ и многих нестационарных процессов.
Если процесс {xt } подчинен модели (14.1), то при выполнении условия (14.2)
он имеет математическое ожидание, равное нулю:
?
E(xt ) = ?i E(?t?i ) = 0.
i=0
1
В разложении Вольда произвольного стационарного процесса может присутствовать также пол-
ностью предсказуемая (линейно детерминированная) компонента. Однако такая компонента, если
ее свойства известны, не создает больших дополнительных сложностей для анализа.
2
См. ниже в этой главе анализ обратимости процесса скользящего среднего.
Глава 14. Линейные стохастические модели ARIMA
428

Если требуется, чтобы математическое ожидание xt не было равно нулю, то урав-
нение модели линейного фильтра должно включать константу:
?
?i ?t?i = µ + ?(L)?t .
xt = µ +
i=0

Выведем формулы для автоковариаций рассматриваемой модели:
? ?
? ?
?k = E(xt xt+k ) = E ? ?j ?t+k?j ? =
?i ?t?i
i=0 j=0
?? ?
2
?i ?i+k . (14.3)
= ?i ?j E(?t?i ?t+k?j ) = ??
i=0 j=0 i=0

Здесь учитывается, что для белого шума
?
?2
?? , j = i + k,
?
E(?t?i ?t+k?j ) =
?
? 0, j = i + k.

Заметим, что из (14.2) следует сходимость возникающих здесь рядов. Это го-
ворит о том, что данное условие подразумевает стационарность.

Действительно, пусть (14.2) выполнено. Тогда существует индекс I , такой что
|?i | 1 при i > I (иначе бы ряд не сошелся). Тогда
? ? ?
I
|?i ?i+k | |?i ||?i+k | |?i ||?i+k | + |?i+k |.
i=0 i=0 i=0 i=I+1

Поскольку оба слагаемых здесь конечны, то
?
|?i ?i+k | < ?.
i=0


Ясно, что модель линейного фильтра (14.1) в общем виде представляет в основ-
ном теоретический интерес, поскольку содержит бесконечное число параметров.
Для прикладного моделирования желательно использовать уравнения с конечным
числом параметров. В основе таких моделей может лежать так называемая рацио-
нальная аппроксимация для ?(L), т.е. приближение в виде частного двух лаговых
многочленов:
?(L)
?(L) ? ,
?(L)
429
14.1 Влияние линейной фильтрации . . .

где лаговые многочлены ?(L) и ?(L) имеют уже конечное число параметров. Как
показывает практика, многие ряды можно достаточно хорошо аппроксимировать
этим методом.
Частными случаями применения рациональной аппроксимации являются мо-
дели авторегрессии AR(p) и скользящего среднего MA(q). В общем случае полу-
чаем смешанные процессы авторегрессии — скользящего среднего ARMA(p, q).
Прежде чем перейти к рассмотрению этих широко используемых линейных моде-
лей временных рядов, рассмотрим общий вопрос о том, как изменяет применение
линейного фильтра характеристики случайного процесса.


14.2. Влияние линейной фильтрации
на автоковариации и спектральную
плотность
Пусть два стационарных процесса c нулевым математическим ожиданием {zt }
и {yt } связаны между собой соотношением:

zt = ?j yt?j ,
j

т.е. zt получается применением к yt линейного фильтра

?j Lj .
?(L) =
j

Пределы суммирования не указываем, поскольку они могут быть произвольными3 .
y
Пусть ?k — автоковариации процесса yt , а py (f ) — его спектральная плот-
ность. Найдем те же величины для zt . Автоковариации zt равны
? ?

?k = E(zt zt?k ) = E ? ?s yt?k?s ? =
z
?j yt?j
s
j
y
= ?j ?s E(yt?j yt?k?s ) = ?j ?s ?k+s?j .
s s
j j

Спектральную плотность zt можно записать в виде
?
z
?k ei2?f k .
z
p (f ) = 2
k=??
3
В том числе, при соответствующих предположениях, пределы суммирования могут быть беско-
нечными. Кроме того, zt здесь может зависеть от опережающих значений yt .
Глава 14. Линейные стохастические модели ARIMA
430

Подставим сюда формулы для ковариаций:
?
y
z
?j ?s ?k+s?j ei2?f k =
p (f ) = 2
s
k=?? j
? ?
?
??j ?s ?k+s?j ei2?f k ? .
y
=2
s
j k=??


Произведем здесь замену k = k + s ? j:
? ?
?
?k ei2?f (k +j?s)? =
??j ?s y
pz (f ) = 2
k =??
s
j
?
?j ei2?f j ?s e?i2?f s =
y
?k ei2?f k ·
=2
k =?? s
j
?
?s e?i2?f s .
?k ei2?f k · ?j ei2?f j ·
=2
k =?? s
j


Первый множитель — это спектральная плотность yt . Два последних множи-
теля представляют собой сопряженные комплексные числа, поэтому их произве-
дение равно квадрату их модуля. Окончательно получим
2
?i2?f j
z y
(14.4)
p (f ) = p (f ) ?j e
j

или
?? ?2 ?
?2 ?
? ?
pz (f ) = py (f ) ?? ?j cos 2?f j ? + ? ?j sin 2?f j ? ? . (14.5)
j j


Данную теорию несложно применить к модели линейного фильтра (14.1). Для
этого заменяем zt на xt , а yt на ?t . Автоковариации xt равны
??
?
?k = ?i ?j ?k+j?i .
i=0 j=0

2
? ?
Поскольку ?0 = ?? , и ?k = 0 при k = 0, то
?
2
?k = ?? ?i ?i+k ,
i=0
431
14.3. Процессы авторегрессии

что совпадает с полученной ранее формулой (14.3).
Для спектральной плотности из (14.4) получаем
?
2
2
?j e?i2?f j . (14.6)
p(f ) = 2??
j=0

Поскольку |e?i2?f j | = 1, то ряд здесь сходится и | p(f )| < ? .


14.3. Процессы авторегрессии
В модели авторегрессии текущее значение процесса xt представляется в виде
линейной комбинации конечного числа предыдущих значений процесса и белого
шума ?t :

xt = ?1 xt?1 + ?2 xt?2 + · · · + ?p xt?p + ?t , (14.7)

при этом предполагается, что текущее значение ?t не коррелировано с лагами xt .
Такая модель называется авторегрессией p-го порядка и обозначается AR(p)
(от английского autoregression).
Используя лаговый оператор L, представим уравнение авторегрессии в виде:

(1 ? ?1 L ? ?2 L2 ? . . . ? ?p Lp )xt = ?t ,

или кратко, через лаговый многочлен ?(L) = 1 ? ?1 L ? ?2 L2 ? . . . ? ?p Lp :

?(L)xt = ?t .

Нетрудно показать, что модель авторегрессии является частным случаем моде-
ли линейного фильтра:

xt = ?(L)?t ,

где ?(L) = ??1 (L), т.е. ?(L) — оператор, обратный оператору ?(L).
Удобным и полезным инструментом для изучения процессов авторегрессии яв-
ляется характеристический многочлен (характеристический полином)
p
2
?(z) = 1 ? ?1 z ? ?2 z ? . . . ? ?p z = 1 ?
p
?j z j
j=1

и связанное с ним характеристическое уравнение

1 ? ?1 z ? ?2 z 2 ? . . . ? ?p z p = 0.
Глава 14. Линейные стохастические модели ARIMA
432

Как мы увидим в дальнейшем, от того, какие корни имеет характеристическое
уравнение, зависят свойства процесса авторегрессии, в частности, является ли
процесс стационарным или нет.
Рассмотрим наиболее часто использующиеся частные случаи авторегрессион-
ных процессов.


Процесс Маркова

Процессом Маркова (марковским процессом) называется авторегрессионный
процесс первого порядка, AR(1):

(14.8)
xt = ?xt?1 + ?t ,

где ?t представляет собой белый шум, который не коррелирует с xt?1 . Здесь мы
упростили обозначения, обозначив ? = ?1 .
Найдем необходимые условия стационарности марковского процесса. Предпо-
ложим, что процесс {xt } слабо стационарен. Тогда его первые и вторые момен-
ты неизменны. Находя дисперсии от обеих частей (14.8), получим, учитывая, что
cov(xt?1 , ?t ) = 0:

var(xt ) = ?2 var(xt?1 ) + var(?t )

или

?x = ?2 ?x + ?? .
2 2 2

2
Ясно, что при |?| 1, с учетом ?? > 0, правая часть этого равенства должна
быть больше левой, что невозможно. Получаем, что у стационарного марковского
процесса |?| < 1.
Пусть, с другой стороны, |?| < 1. Представим xt через белый шум { ?t }. Это
можно осуществить с помощью последовательных подстановок по формуле (14.8):

xt = ?xt?1 + ?t = ?(?xt?2 + ?t?1 ) + ?t = ?2 xt?2 + ??t?1 + ?t ,

потом

xt = ?2 (?xt?3 + ?t?3 ) + ??t?1 + ?t = ?3 xt?3 + ?2 ?t?3 + ??t?1 + ?t ,

и т.д.
В пределе, поскольку множитель при лаге xt стремится к нулю, получим сле-
дующее представление xt в виде модели линейного фильтра:

xt = ?t + ??t?1 + ?2 ?t?2 + . . . .
433
14.3. Процессы авторегрессии

Это же представление можно получить с использованием оператора лага. Урав-
нение (14.8) запишется в виде

(1 ? ?L)xt = ?t .

Применив к обеим частям уравнения (1 ? ?L)?1 , получим

xt = (1 ? ?L)?1 ?t = (1 + ?L + ?2 L2 + . . . )?t = ?t + ??t?1 + ?2 ?t?2 + . . . .

В терминах модели линейного фильтра (14.1) для марковского процесса
?i = ?i . Поэтому
? ?
1
|?i | = |?|i = < ?, (14.9)
1 ? |?|
i=0 i=0

т.е. условие стационарности модели линейного фильтра (14.2) выполняется
при |?| < 1.
Можно сделать вывод, что условие стационарности процесса Маркова имеет
следующий вид:

|?| < 1.

Свойства стационарного процесса AR(1):
1) Если процесс xt слабо стационарен, то его математическое ожидание неиз-
менно, поэтому, беря математическое ожидание от обеих частей (14.8), получим
E(xt ) = ?E(xt ), откуда

E(xt ) = 0.

Если добавить в уравнение (14.8) константу:

xt = µ + ?xt?1 + ?t ,

то E(xt ) = µ + ?E(xt ) и
µ
E(xt ) = .
1??

2) Найдем дисперсию процесса Маркова, используя полученное выше уравне-
ние ?x = ?2 ?x + ?? :
2 2 2

2
??
2
(14.10)
var(xt ) = ?0 = ?x = .
1 ? ?2
Глава 14. Линейные стохастические модели ARIMA
434

Можно также применить общую формулу для автоковариаций в модели линей-
ного фильтра (14.3) с k = 0:
? 2
??
2 2 2 2 2 4
?0 = ?x = ?? ?i = ?? (1 + ? + ? + ...) = .
1 ? ?2
i=0

При |?| 1 дисперсия процесса {xt }, вычисляемая по этой формуле, неограни-
ченно растет.
3) Коэффициент автоковариации k-го порядка по формуле (14.3) равен
? ?
2 2
?i ?i+k =
?k = ?? ?i ?i+k = ??
i=0 i=0
? ? 2
??
2 2i+k 2 2i
?? ?k ?k .
= ?? ? = ?= 2
1??
i=0 i=0

Можно вывести ту же формулу иным способом. Ошибка ?t некоррелирована
не только с xt?1 , но и с xt?2 , xt?3 и т.д. Поэтому, умножая уравнение процесса
(14.8) на xt?k при k > 0 и беря математическое ожидание от обеих частей,
получим

E(xt xt?k ) = ?E(xt?1 xt?k )

или

?k = ??k?1 , k > 0.

Таким образом, учитывая (14.10), получим
2
?? k
?k . (14.11)
?k = ?0 ? = 2
1??

4) Коэффициент автокорреляции, исходя из (14.11), равен:
?k
= ?k .
?k =
?0

При 0 < ? < 1 автокорреляционная функция имеет форму затухающей экс-
поненты (рис. 14.1а), при ?1 < ? < 0 — форму затухающей знакопеременной
экспоненты (рис. 14.1б).
Если ? > 1, процесс Маркова превращается во «взрывной» процесс.
В случае ? = 1 имеет место так называемый процесс случайного блуждания,
который относится к разряду нестационарных.
435
14.3. Процессы авторегрессии

а) б)
? ?
k k

1 1




k k

0<? <1
?1 < ? < 0
1
1
–1

Рис. 14.1



Процесс Юла

Процессом Юла называют авторегрессию второго порядка AR(2):

(14.12)
xt = ?1 xt?1 + ?2 xt?2 + ?t ,

или, через лаговый оператор:

<<

стр. 16
(всего 28)

СОДЕРЖАНИЕ

>>