什么是ARMA模型?
ARMA模型的定义
ARMA模型(auto regressive moving average model)自回归滑动平均模型,模型参量法高分辨率谱分析方法之一。这种方法是研究平稳随机过程有理谱的典型方法,适用于很大一类实际问题。它比AR模型法与MA模型法有较精确的谱估计及较优良的谱分辨率性能,但其参数估算比较繁琐。
ARMA模型参数估计的方法很多:
如果模型的输入序列{u(n)}与输出序列{a(n)}均能被测量时,则可以用最小二乘法估计其模型参数,这种估计是线性估计,模型参数能以足够的精度估计出来;
许多谱估计中,仅能得到模型的输出序列{x(n)},这时,参数估计是非线性的,难以求得ARMA模型参数的准确估值。从理论上推出了一些ARMA模型参数的最佳估计方法,但它们存在计算量大和不能保证收敛的缺点。因此工程上提出次最佳方法,即分别估计AR和MA参数,而不像最佳参数估计中那样同时估计AR和MA参数,从而使计算量大大减少。
AR模型的ARMA 模型
ARMA模型(auto regressive moving average model)自回归滑动平均模型,模型参量法高分辨率谱分析方法之一。这种方法是研究平稳随机过程有理谱的典型方法,适用于很大一类实际问题。它比AR模型法与MA模型法有较精确的谱估计及较优良的谱分辨率性能,但其参数估算比较繁琐。
设一个离散线性系统,输入u(n)是一个具有零均值与方差为σ的白噪声序列,输出是x(n),该离散线性系统输出和输入之间的关系可用如下图1的差分方程来表示。
其系统函数如图2。
式中X(Z)为输出信号的Z变换,U(Z)为输入信号的Z变换,以①式表达的信号模型称为ARMA模型或称为自回归滑动平均模型。一旦确定了ARMA(P,M)模型的参数,就可得到其功率谱估计。
ARMA模型参数估计的方法很多:
如果模型的输入序列{u(n)}与输出序列{a(n)}均能被测量时,则可以用最小二乘法估计其模型参数,这种估计是线性估计,模型参数能以足够的精度估计出来;
许多谱估计中,仅能得到模型的输出序列{x(n)},这时,参数估计是非线性的,难以求得ARMA模型参数的准确估值。从理论上推出了一些ARMA模型参数的最佳估计方法,但它们存在计算量大和不能保证收敛的缺点。因此工程上提出次最佳方法,即分别估计AR和MA参数,而不像最佳参数估计中那样同时估计AR和MA参数,从而使计算量大大减少。
ARMA模型的基本形式
ARMA模型分为以下三种:
自回归模型(AR:Auto-regressive)
如果时间序列满足
其中是独立同分布的随机变量序列,且满足:
以及 E() = 0
则称时间序列为服从p阶的自回归模型。
自回归模型的平稳条件:
滞后算子多项式
的根均在单位圆外,即φ(B) = 0的根大于1。
移动平均模型(MA:Moving-Average)
如果时间序列满足
,则称时间序列为服从q阶移动平均模型;
移动平均模型平稳条件:任何条件下都平稳。
自回归滑动平均模型(ARMA)
如果时间序列满足:
则称时间序列为服从(p,q)阶自回归滑动平均混合模型。或者记为φ(B)= θ(B)
时间序列模型的种类
ARMA模型的全称是自回归移动平均(auto regression moving average)模型,它是目前最常用的拟合平稳序列的模型,它又可细分为AR模型(auto regression model)、MA模型(moving average model)和ARMA模型(auto regression moving average model)三大类。
具有如下结构的模型称为 阶自回归模型,简记为:
如果一个系统在某时刻的响应与其以前的响应无关,而与其以前进入系统的扰动存在一定的相关关系,这一类系统则称之为移动平均MA系统。
这是因为是由一系列的及其滞后项的加权和构造而成。这里的“移动”指的变化,而“平均”指加权和。
一般移动平均模型由部分构成,形成如下:
为了分析的方便将其表述为与系统因素的延迟项一致,即将模型中各加号改为减号有:
用滞后因子表示为:
把具有如下结构的模型称为自回归移动平均模型,简记为:
引进延迟算子,模型简记为:
式中:
,为阶自回归系数多项式。
,为阶移动平均系数多项式。
限制条件
条件一:
这个限制条件保证了模型的最高阶数。
条件二:
这个限制条件实际上是要求随机干扰序列 为零均值白噪声序列。
条件三:
这个限制条件说明当期的随机干扰与过去的序列值无关。 ARIMA模型又称自回归求和移动平均模型,当时间序列本身不是平稳的时候,如果它的增量,即的一次差分,稳定在零点附近,可以将看成是平稳序列。在实际的问题中,所遇到的多数非平稳序列可以通过一次或多次差分后成为平稳时间序列,则可以建立模型:
这说明任何非平稳序列只要通过适当阶数的差分运算实现差分后平稳,就可以对差分后序列进行ARIMA模型拟合了。
模型是指阶差分后自相关最高阶数为,移动平均最高阶数为的模型,通常它包含个独立的未知系数:。它可以用最小均方误差原则实现预测:
用历史观察值的线性函数表示为:
式中,的值由下列等式确定:
如果把记为广义自相关函数,有
容易验证的值满足如下递推公式:
那么,的真实值为:
由于的不可获取性,所以的估计值只能为:
真实值与预测值之间的均方误差为:
要使均方误差最小,当且仅当,所以在均方误差最小原则下,期预报值为:
预测误差为:
真实值等于预测值加上预测误差:
其中,预测误差的均值和方差分别为: