Moving average model parameter estimation

Modelos de média móvel e de suavização exponencial Como um primeiro passo para ir além dos modelos de média, modelos de caminhada aleatória e modelos de tendência linear, padrões e tendências não sazonais podem ser extrapolados usando um modelo de média móvel ou suavização. A suposição básica por trás dos modelos de média e suavização é que a série temporal é localmente estacionária com uma média lentamente variável. Assim, tomamos uma média móvel (local) para estimar o valor atual da média e então usamos isso como a previsão para o futuro próximo. Isto pode ser considerado como um compromisso entre o modelo médio e o modelo aleatório-andar-sem-deriva. A mesma estratégia pode ser usada para estimar e extrapolar uma tendência local. Uma média móvel é muitas vezes chamado de uma versão quotsmoothedquot da série original, porque a média de curto prazo tem o efeito de suavizar os solavancos na série original. Ajustando o grau de suavização (a largura da média móvel), podemos esperar encontrar algum tipo de equilíbrio ótimo entre o desempenho dos modelos de caminhada média e aleatória. O tipo mais simples de modelo de média é o. Média Móvel Simples (igualmente ponderada): A previsão para o valor de Y no tempo t1 que é feita no tempo t é igual à média simples das observações m mais recentes: (Aqui e em outro lugar usarei o símbolo 8220Y-hat8221 para ficar Para uma previsão da série temporal Y feita o mais cedo possível antes de um determinado modelo). Esta média é centrada no período t (m1) / 2, o que implica que a estimativa da média local tende a ficar para trás Valor real da média local em cerca de (m1) / 2 períodos. Dessa forma, dizemos que a idade média dos dados na média móvel simples é (m1) / 2 relativa ao período para o qual a previsão é calculada: é a quantidade de tempo em que as previsões tenderão a ficar para trás dos pontos de inflexão na dados. Por exemplo, se você estiver calculando a média dos últimos 5 valores, as previsões serão cerca de 3 períodos atrasados ​​em responder a pontos de viragem. Observe que se m1, o modelo de média móvel simples (SMA) é equivalente ao modelo de caminhada aleatória (sem crescimento). Se m é muito grande (comparável ao comprimento do período de estimação), o modelo SMA é equivalente ao modelo médio. Como com qualquer parâmetro de um modelo de previsão, é costume ajustar o valor de k para obter o melhor quotfitquot aos dados, isto é, os erros de previsão mais pequenos em média. Aqui está um exemplo de uma série que parece apresentar flutuações aleatórias em torno de uma média de variação lenta. Primeiro, vamos tentar ajustá-lo com um modelo de caminhada aleatória, o que equivale a uma média móvel simples de um termo: O modelo de caminhada aleatória responde muito rapidamente às mudanças na série, mas ao fazê-lo ele escolhe grande parte do quotnoise no Dados (as flutuações aleatórias), bem como o quotsignalquot (a média local). Se, em vez disso, tentarmos uma média móvel simples de 5 termos, obtemos um conjunto de previsões mais suaves: A média móvel simples de 5 períodos produz erros significativamente menores do que o modelo de caminhada aleatória neste caso. A idade média dos dados nessa previsão é de 3 ((51) / 2), de modo que ela tende a ficar atrás de pontos de viragem em cerca de três períodos. (Por exemplo, uma desaceleração parece ter ocorrido no período 21, mas as previsões não virar até vários períodos mais tarde.) Observe que as previsões de longo prazo do modelo SMA são uma linha reta horizontal, assim como na caminhada aleatória modelo. Assim, o modelo SMA assume que não há tendência nos dados. No entanto, enquanto as previsões do modelo de caminhada aleatória são simplesmente iguais ao último valor observado, as previsões do modelo SMA são iguais a uma média ponderada de valores recentes. Os limites de confiança calculados pela Statgraphics para as previsões de longo prazo da média móvel simples não se alargam à medida que o horizonte de previsão aumenta. Isto obviamente não é correto Infelizmente, não existe uma teoria estatística subjacente que nos diga como os intervalos de confiança devem se alargar para este modelo. No entanto, não é muito difícil calcular estimativas empíricas dos limites de confiança para as previsões de longo prazo. Por exemplo, você poderia configurar uma planilha na qual o modelo SMA seria usado para prever 2 passos à frente, 3 passos à frente, etc. dentro da amostra de dados históricos. Você poderia então calcular os desvios padrão da amostra dos erros em cada horizonte de previsão e, em seguida, construir intervalos de confiança para previsões de longo prazo adicionando e subtraindo múltiplos do desvio padrão apropriado. Se tentarmos uma média móvel simples de 9 termos, obtemos previsões ainda mais suaves e mais um efeito retardado: A idade média é agora de 5 períodos ((91) / 2). Se tomarmos uma média móvel de 19 períodos, a idade média aumenta para 10: Observe que, na verdade, as previsões estão agora atrasadas por pontos de inflexão em cerca de 10 períodos. Qual a quantidade de suavização é melhor para esta série Aqui está uma tabela que compara suas estatísticas de erro, incluindo também uma média de 3-termo: Modelo C, a média móvel de 5-termo, rende o menor valor de RMSE por uma pequena margem sobre o 3 E médias de 9-termo, e suas outras estatísticas são quase idênticas. Assim, entre os modelos com estatísticas de erro muito semelhantes, podemos escolher se preferiríamos um pouco mais de resposta ou um pouco mais de suavidade nas previsões. O modelo de média móvel simples descrito acima tem a propriedade indesejável de tratar as últimas k observações igualmente e completamente ignora todas as observações anteriores. (Voltar ao início da página.) Marrons Simples Exponencial Suavização (exponencialmente ponderada média móvel) Intuitivamente, os dados passados ​​devem ser descontados de forma mais gradual - por exemplo, a observação mais recente deve ter um pouco mais de peso que a segunda mais recente, ea segunda mais recente deve ter um pouco mais de peso que a 3ª mais recente, e em breve. O modelo de suavização exponencial simples (SES) realiza isso. Vamos 945 denotar uma constante quotsmoothingquot (um número entre 0 e 1). Uma maneira de escrever o modelo é definir uma série L que represente o nível atual (isto é, o valor médio local) da série, conforme estimado a partir dos dados até o presente. O valor de L no tempo t é calculado recursivamente a partir de seu próprio valor anterior como este: Assim, o valor suavizado atual é uma interpolação entre o valor suavizado anterior e a observação atual, onde 945 controla a proximidade do valor interpolado para o mais recente observação. A previsão para o próximo período é simplesmente o valor suavizado atual: Equivalentemente, podemos expressar a próxima previsão diretamente em termos de previsões anteriores e observações anteriores, em qualquer uma das seguintes versões equivalentes. Na primeira versão, a previsão é uma interpolação entre previsão anterior e observação anterior: Na segunda versão, a próxima previsão é obtida ajustando a previsão anterior na direção do erro anterior por uma fração 945. é o erro feito em Tempo t. Na terceira versão, a previsão é uma média móvel exponencialmente ponderada (ou seja, descontada) com o fator de desconto 1- 945: A versão de interpolação da fórmula de previsão é a mais simples de usar se você estiver implementando o modelo em uma planilha: Célula única e contém referências de células que apontam para a previsão anterior, a observação anterior ea célula onde o valor de 945 é armazenado. Observe que, se 945 1, o modelo SES é equivalente a um modelo de caminhada aleatória (sem crescimento). Se 945 0, o modelo SES é equivalente ao modelo médio, assumindo que o primeiro valor suavizado é definido igual à média. A idade média dos dados na previsão de suavização exponencial simples é de 1/945 em relação ao período para o qual a previsão é calculada. (Isso não é suposto ser óbvio, mas pode ser facilmente demonstrado através da avaliação de uma série infinita.) Portanto, a previsão média móvel simples tende a ficar para trás de pontos de viragem em cerca de 1/945 períodos. Por exemplo, quando 945 0,5 o atraso é 2 períodos quando 945 0,2 o atraso é de 5 períodos quando 945 0,1 o atraso é de 10 períodos, e assim por diante. Para uma dada idade média (isto é, a quantidade de atraso), a previsão de suavização exponencial simples (SES) é um pouco superior à previsão de média móvel simples (SMA) porque coloca relativamente mais peso na observação mais recente - i. e. É ligeiramente mais quotresponsivequot às mudanças que ocorrem no passado recente. Por exemplo, um modelo SMA com 9 termos e um modelo SES com 945 0,2 têm uma idade média de 5 para os dados nas suas previsões, mas o modelo SES coloca mais peso nos últimos 3 valores do que o modelo SMA e no modelo SMA. Outra vantagem importante do modelo SES sobre o modelo SMA é que o modelo SES usa um parâmetro de suavização que é continuamente variável, de modo que pode ser facilmente otimizado Utilizando um algoritmo quotsolverquot para minimizar o erro quadrático médio. O valor óptimo de 945 no modelo SES para esta série revela-se 0.2961, como mostrado aqui: A idade média dos dados nesta previsão é de 1 / 0.2961 3.4 períodos, que é semelhante ao de um 6-termo simples de movimento média. As previsões a longo prazo do modelo SES são uma linha reta horizontal. Como no modelo SMA eo modelo de caminhada aleatória sem crescimento. No entanto, note que os intervalos de confiança calculados por Statgraphics agora divergem de uma forma razoavelmente aparente, e que eles são substancialmente mais estreitos do que os intervalos de confiança para o modelo de caminhada aleatória. O modelo SES assume que a série é um tanto mais previsível do que o modelo de caminhada aleatória. Um modelo SES é realmente um caso especial de um modelo ARIMA. De modo que a teoria estatística dos modelos ARIMA fornece uma base sólida para o cálculo de intervalos de confiança para o modelo SES. Em particular, um modelo SES é um modelo ARIMA com uma diferença não sazonal, um termo MA (1) e nenhum termo constante. Também conhecido como um modelo quimétrico ARIMA (0,1,1) sem constantequot. O coeficiente MA (1) no modelo ARIMA corresponde à quantidade 1-945 no modelo SES. Por exemplo, se você ajustar um modelo ARIMA (0,1,1) sem constante à série aqui analisada, o coeficiente MA estimado (1) resulta ser 0,7029, que é quase exatamente um menos 0,2961. É possível adicionar a hipótese de uma tendência linear constante não-zero para um modelo SES. Para isso, basta especificar um modelo ARIMA com uma diferença não sazonal e um termo MA (1) com uma constante, ou seja, um modelo ARIMA (0,1,1) com constante. As previsões a longo prazo terão então uma tendência que é igual à tendência média observada ao longo de todo o período de estimação. Não é possível fazer isso em conjunto com o ajuste sazonal, porque as opções de ajuste sazonal são desativadas quando o tipo de modelo é definido como ARIMA. No entanto, você pode adicionar uma tendência exponencial de longo prazo constante a um modelo de suavização exponencial simples (com ou sem ajuste sazonal) usando a opção de ajuste de inflação no procedimento de Previsão. A taxa adequada de inflação (crescimento percentual) por período pode ser estimada como o coeficiente de declive num modelo de tendência linear ajustado aos dados em conjunção com uma transformação de logaritmo natural, ou pode basear-se noutras informações independentes relativas às perspectivas de crescimento a longo prazo . (Retornar ao início da página.) Browns Linear (ie double) Suavização exponencial Os modelos SMA e SES assumem que não há tendência de qualquer tipo nos dados (o que geralmente é OK ou pelo menos não muito ruim para 1- Antecipadamente quando os dados são relativamente ruidosos) e podem ser modificados para incorporar uma tendência linear constante como mostrado acima. O que acontece com as tendências a curto prazo Se uma série exibe uma taxa variável de crescimento ou um padrão cíclico que se destaca claramente contra o ruído, e se houver uma necessidade de prever mais de um período à frente, a estimativa de uma tendência local também pode ser um problema. O modelo de suavização exponencial simples pode ser generalizado para obter um modelo de suavização exponencial linear (LES) que calcula estimativas locais de nível e tendência. O modelo de tendência de variação de tempo mais simples é o modelo de alisamento exponencial linear de Browns, que usa duas séries suavizadas diferentes que são centradas em diferentes pontos no tempo. A fórmula de previsão é baseada em uma extrapolação de uma linha através dos dois centros. (Uma versão mais sofisticada deste modelo, Holt8217s, é discutida abaixo). A forma algébrica do modelo de suavização exponencial linear de Brown8217s, como a do modelo de suavização exponencial simples, pode ser expressa em um número de formas diferentes mas equivalentes. A forma quotstandard deste modelo é usualmente expressa da seguinte maneira: Seja S a série de suavização simples obtida pela aplicação de suavização exponencial simples à série Y. Ou seja, o valor de S no período t é dado por: (Lembre-se que, sob simples Exponencial, esta seria a previsão para Y no período t1.) Então deixe Squot denotar a série duplamente-alisada obtida aplicando a suavização exponencial simples (usando o mesmo 945) à série S: Finalmente, a previsão para Y tk. Para qualquer kgt1, é dada por: Isto produz e 1 0 (isto é, enganar um pouco e deixar a primeira previsão igual à primeira observação real) e e 2 Y 2 8211 Y 1. Após o que as previsões são geradas usando a equação acima. Isto produz os mesmos valores ajustados que a fórmula baseada em S e S se estes últimos foram iniciados utilizando S 1 S 1 Y 1. Esta versão do modelo é usada na próxima página que ilustra uma combinação de suavização exponencial com ajuste sazonal. Holt8217s Linear Exponential Smoothing Brown8217s O modelo LES calcula estimativas locais de nível e tendência ao suavizar os dados recentes, mas o fato de que ele faz isso com um único parâmetro de suavização coloca uma restrição nos padrões de dados que é capaz de ajustar: o nível ea tendência Não são permitidos variar em taxas independentes. Holt8217s modelo LES aborda esta questão, incluindo duas constantes de alisamento, um para o nível e um para a tendência. Em qualquer momento t, como no modelo Brown8217s, existe uma estimativa L t do nível local e uma estimativa T t da tendência local. Aqui eles são calculados recursivamente a partir do valor de Y observado no tempo t e as estimativas anteriores do nível e tendência por duas equações que aplicam alisamento exponencial para eles separadamente. Se o nível estimado ea tendência no tempo t-1 são L t82091 e T t-1. Respectivamente, então a previsão para Y tshy que teria sido feita no tempo t-1 é igual a L t-1 T t-1. Quando o valor real é observado, a estimativa atualizada do nível é computada recursivamente pela interpolação entre Y tshy e sua previsão, L t-1 T t-1, usando pesos de 945 e 1-945. A mudança no nível estimado, Nomeadamente L t 8209 L t82091. Pode ser interpretado como uma medida ruidosa da tendência no tempo t. A estimativa actualizada da tendência é então calculada recursivamente pela interpolação entre L t 8209 L t82091 e a estimativa anterior da tendência, T t-1. Usando pesos de 946 e 1-946: A interpretação da constante de alisamento de tendência 946 é análoga à da constante de alisamento de nível 945. Modelos com valores pequenos de 946 assumem que a tendência muda apenas muito lentamente ao longo do tempo, enquanto modelos com Maior 946 supor que está mudando mais rapidamente. Um modelo com um 946 grande acredita que o futuro distante é muito incerto, porque os erros na tendência-estimativa tornam-se completamente importantes ao prever mais de um período adiante. As constantes de suavização 945 e 946 podem ser estimadas da maneira usual, minimizando o erro quadrático médio das previsões de 1 passo à frente. Quando isso é feito em Statgraphics, as estimativas se tornam 945 0,3048 e 946 0,008. O valor muito pequeno de 946 significa que o modelo assume muito pouca mudança na tendência de um período para o outro, então basicamente este modelo está tentando estimar uma tendência de longo prazo. Por analogia com a noção de idade média dos dados que é usada na estimativa do nível local da série, a idade média dos dados que é usada na estimativa da tendência local é proporcional a 1/946, embora não exatamente igual a isto. Neste caso, isto é 1 / 0.006 125. Este número é muito preciso, na medida em que a precisão da estimativa de 946 é realmente de 3 casas decimais, mas é da mesma ordem geral de magnitude que o tamanho da amostra de 100 , Assim que este modelo está calculando a média sobre bastante muita história em estimar a tendência. O gráfico de previsão abaixo mostra que o modelo LES estima uma tendência local ligeiramente maior no final da série do que a tendência constante estimada no modelo SEStrend. Além disso, o valor estimado de 945 é quase idêntico ao obtido pelo ajuste do modelo SES com ou sem tendência, de modo que este é quase o mesmo modelo. Agora, eles parecem previsões razoáveis ​​para um modelo que é suposto estar estimando uma tendência local Se você 8220eyeball8221 esse enredo, parece que a tendência local virou para baixo no final da série O que aconteceu Os parâmetros deste modelo Foram calculados minimizando o erro quadrático das previsões de um passo à frente, e não as previsões a mais longo prazo, caso em que a tendência não faz muita diferença. Se tudo o que você está olhando são 1-passo-frente erros, você não está vendo a imagem maior de tendências sobre (digamos) 10 ou 20 períodos. A fim de obter este modelo mais em sintonia com a nossa extrapolação do globo ocular dos dados, podemos ajustar manualmente a tendência de suavização constante para que ele usa uma linha de base mais curto para a estimativa de tendência. Por exemplo, se escolhemos definir 946 0,1, então a idade média dos dados usados ​​na estimativa da tendência local é de 10 períodos, o que significa que estamos fazendo uma média da tendência ao longo dos últimos 20 períodos aproximadamente. Here8217s o que o lote de previsão parece se ajustarmos 946 0.1 mantendo 945 0.3. Isso parece intuitivamente razoável para esta série, embora seja provavelmente perigoso para extrapolar esta tendência mais de 10 períodos no futuro. E sobre as estatísticas de erro Aqui está uma comparação de modelos para os dois modelos mostrados acima, bem como três modelos SES. O valor ótimo de 945 para o modelo SES é de aproximadamente 0,3, mas resultados semelhantes (com ligeiramente mais ou menos responsividade, respectivamente) são obtidos com 0,5 e 0,2. (A) Holts linear exp. Alisamento com alfa 0,3048 e beta 0,008 (B) Holts linear exp. Alisamento com alfa 0,3 e beta 0,1 (C) Alisamento exponencial simples com alfa 0,5 (D) Alisamento exponencial simples com alfa 0,3 (E) Alisamento exponencial simples com alfa 0,2 Suas estatísticas são quase idênticas, então realmente não podemos fazer a escolha com base De erros de previsão de 1 passo à frente dentro da amostra de dados. Temos de recorrer a outras considerações. Se acreditarmos firmemente que faz sentido basear a estimativa de tendência atual sobre o que aconteceu nos últimos 20 períodos, podemos fazer um caso para o modelo LES com 945 0,3 e 946 0,1. Se quisermos ser agnósticos quanto à existência de uma tendência local, então um dos modelos SES pode ser mais fácil de explicar e também fornecerá mais previsões de médio-caminho para os próximos 5 ou 10 períodos. Evidências empíricas sugerem que, se os dados já tiverem sido ajustados (se necessário) para a inflação, então pode ser imprudente extrapolar os resultados lineares de curto prazo Muito para o futuro. As tendências evidentes hoje podem afrouxar no futuro devido às causas variadas tais como a obsolescência do produto, a competição aumentada, e os abrandamentos cíclicos ou as ascensões em uma indústria. Por esta razão, a suavização exponencial simples geralmente desempenha melhor fora da amostra do que poderia ser esperado, apesar da sua extrapolação de tendência horizontal quotnaivequot. Modificações de tendência amortecida do modelo de suavização exponencial linear também são freqüentemente usadas na prática para introduzir uma nota de conservadorismo em suas projeções de tendência. O modelo LES com tendência a amortecimento pode ser implementado como um caso especial de um modelo ARIMA, em particular, um modelo ARIMA (1,1,2). É possível calcular intervalos de confiança em torno de previsões de longo prazo produzidas por modelos exponenciais de suavização, considerando-os como casos especiais de modelos ARIMA. A largura dos intervalos de confiança depende de (i) o erro RMS do modelo, (ii) o tipo de suavização (simples ou linear) (iii) o valor (S) da (s) constante (s) de suavização e (iv) o número de períodos que você está prevendo. Em geral, os intervalos se espalham mais rapidamente à medida que o 945 se torna maior no modelo SES e eles se espalham muito mais rápido quando se usa linear ao invés de alisamento simples. Este tópico é discutido mais adiante na seção de modelos ARIMA das notas. (Voltar ao início da página.) Um Novo Algoritmo para Autoregression Moving Average Modelo Parametrização Estimativa Usando o Grupo Método de Tratamento de Dados Cite este artigo como: Chon, K. H. Lu, S. Anais de Engenharia Biomédica (2001) 29: 92. doi: 10.1114 / 1.1335539 Resumo Introduz-se um novo algoritmo para a estimação de parâmetros de média móvel autoregresiva (ARMA). O algoritmo baseia-se no método grupal de tratamento de dados (GMDH) introduzido pela primeira vez pelo cibernético russo, A. G. Ivakhnenko, para a resolução de polinômios de regressão de alta ordem. O GMDH é heurístico na natureza e se auto-organiza em um modelo de complexidade ótima sem qualquer conhecimento a priori sobre o funcionamento interno dos sistemas. Modificamos o algoritmo GMDH para resolver os parâmetros do modelo ARMA. Simulações computacionais foram realizadas para examinar a eficácia do GMDH ea comparação do GMDH é feita com um dos algoritmos mais precisos e um dos mais utilizados, a busca ortogonal rápida (FOS) e os métodos de mínimos quadrados, respectivamente. Os resultados mostram que em alguns casos com contaminação acústica e pressupostos de ordem de modelo incorretos, o GMDH funciona melhor do que os métodos FOS ou os mínimos quadrados, fornecendo apenas os parâmetros que estão associados aos termos do modelo verdadeiro. 2001 Sociedade de Engenharia Biomédica. Modelo ARMA Método grupal de tratamento de dados Estimativa de parâmetros Ruído dinâmico Ruído aditivo Modelo MA Modelo AR Selecção de ordem de modelo REFERÊNCIAS Akaike, H. Estimação do espectro de potência através da adaptação do modelo autorregressivo. Ann. Instrum. Estatísticas. Matemática. 21: 407419, 1969. Baker, J. E. Métodos de selecção adaptativa para algoritmos genéticos. Em: Proc. Primeira Conf. Algoritmos genéticos e sua aplicação. Editado por J. J. Grefenstette, Hillsdale, NJ: Erlbaum, 1985. Chon, K. H. e R. J. Cohen. Estimativa de parâmetros de ARMA lineares e não lineares utilizando redes neurais artificiais. IEEE Trans. Biomed. Eng. 44: 168174, 1997. Chon, K. H. M. J. Korenberg e N. H. Holstein-Rathlou. Aplicação da busca ortogonal rápida a sistemas estocásticos lineares e não-lineares. Ann. Biomed. Eng. 25: 793801, 1997. Chon, K. H. R. J. Cohen, e N. H. Holstein-Rathlou. Estimativa de parâmetro de modelo móvel média autorregressiva linear e não-linear compacta e precisa usando funções de Laguerre. Ann. Biomed. Eng. 25: 731738, 1997. Farlow, S. J. O algoritmo GMDH de Ivakhnenko. Sou. Estatísticas. 35: 210215, 1981. Ivakhnenko, A. G. Teoria polinomial de sistemas complexos. IEEE Trans. Sist. Homem Cybern. 1: 364378, 1971. Ivakhnenko, A. G. Método grupal de tratamento de dados - Um renascimento do método de aproximação estocástica. Sov. Automatic Control 13: 4371, 1966. Ivakhnenko, A. G. G. A. Ivakhnenko e J. A. Muller. Auto-organização de neurônios com neurônios ativos. Reconhecimento de Padrões e Análise de Imagens 4: 177188, 1994. Korenberg, M. J. Rápida identificação ortogonal de equações de diferenças não-lineares e modelos de expansão funcional. Proc. Midwest Symp. Circuito Sys. 1: 270276, 1987. Korenberg, M. J. Um robusto algoritmo ortogonal para identificação de sistemas e análise de séries temporais. Biol. Cybern. 60: 267276, 1989. Korenberg, M. J. Rápidos algoritmos ortogonais para identificação de sistemas não-lineares e análise de séries temporais. Em: Advanced Methods of Physiological System Modeling, editado por V. Z. Marmarelis, Los Angeles: Biomedical Simulation Resource, 1989, vol. 2, págs. 165177. Mitchell, M. Uma Introdução aos Algoritmos Genéticos. Cambridge, MA: MIT Press, 1998. Informações sobre direitos autorais Sociedade de Engenharia Biomédica 2001 Autores e Afiliações Ki H. Chon 1 Sheng Lu 1 1. Departamento de Engenharia Elétrica e Centro de Engenharia Biomédica Faculdade de Ciências da Cidade Universidade de Nova York Nova York Sobre isto ArticleRobust Nonlinear Autoregressive Moving Average Estimativa de Parâmetros de Modelos Usando Stochastic Recurrent Redes Neurais Artificiais Citar este artigo como: Chon, KH Hoyer, D. Armoundas, A. A. Et ai. Neste estudo, introduzimos uma nova abordagem para estimar os parâmetros do modelo ARMA (linear and non linear stochastic autoregressive moving average), dado um sinal corrompido, utilizando-se métodos neuronais recorrentes artificiais Redes. Esta nova abordagem é uma abordagem em duas etapas na qual os parâmetros da parte determinística do modelo ARMA estocástico são primeiro estimados através de uma rede neural artificial de três camadas (etapa de estimativa determinística) e então reestimados usando o erro de previsão como uma das entradas Para as redes neurais artificiais em um algoritmo iterativo (etapa de estimação estocástica). O erro de predição é obtido subtraindo o sinal corrompido do modelo ARMA estimado obtido através da etapa de estimativa determinística a partir da resposta de saída do sistema. Apresentamos exemplos de simulação computacional para mostrar a eficácia da abordagem de rede neural recorrente estocástica proposta na obtenção de previsões de modelos precisas. Além disso, comparamos o desempenho da nova abordagem com a abordagem da rede neural recorrente determinística. Usando este procedimento simples de dois passos, obtemos previsões de modelo mais robustas do que com a abordagem de rede neuronal recorrente determinística, apesar da presença de quantidades significativas de ruído dinâmico ou de medição no sinal de saída. A comparação entre as abordagens de redes neurais recorrentes determinísticas e estocásticas é promovida pela aplicação de ambas as abordagens à pressão arterial renal e aos sinais de fluxo obtidos experimentalmente. 1999 Sociedade de Engenharia Biomédica. PAC99: 8710e, 8719Uv, 0705Mh ARMA NARMA Função polinomial Backpropagation Ruído de medição Ruído dinâmico Deterministic Stochastic Rede neural recorrente REFERÊNCIAS Bishop, C. M. Redes Neurais para Reconhecimento de Padrões. New York, NY: Oxford University Press, 1995. Chen, S. C. F. N. Cowan e P. M. Grant. Algoritmo de aprendizagem de mínimos quadrados ortogonais para redes de função de base radial. IEEE Trans. Rede Neural. 2: 302309, 1991. Chon, K. H. e R. J. Cohen. Estimativa de parâmetros de ARMA lineares e não-lineares utilizando uma rede neural artificial. IEEE Trans. Biomed. Eng. 44: 168174, 1997. Chon, K. H. Y. M. Chen, N. H. Holstein-Rathlou, D. J. Marsh, e V. Z. Marmarelis. Sobre a eficácia da análise linear do sistema de autoregulação renal em ratos. IEEE Trans. Biomed. Eng. 40: 820, 1993. Chon, K. H. R. J. Cohen, e N. H. Holstein-Rathlou. Estimativa de parâmetro de modelo móvel média autorregressiva linear e não-linear compacta e precisa usando funções de Laguerre. Ann. Biomed. Eng. 25: 731738, 1997. Chon, K. H.M. J. Korenberg, e N. H. Holstein-Rathlou. Aplicação da busca ortogonal rápida a sistemas estocásticos lineares e não-lineares. Ann. Biomed. Eng. 25: 793801, 1997. Chon, K. H.N. H. Holstein-Rathlou, D. J. Marsh, e V. Z. Marmarelis. Modelagem não-linear comparativa da autoregulação renal em ratos: abordagem de Volterra versus redes neurais artificiais. IEEE Trans. Rede Neural. 9: 430435, 1998. Goodwin, G. C. e R. L. Payne. Identificação Dinâmica do Sistema: Desenho Experimental e Análise de Dados. New York, NY: Academic, 1977. Hassoun, M. H. Fundamentos de Redes Neurais Artificiais. Cambridge, MA: MIT Press, 1995. Korenberg, M. J. S. A. Billings, Y. P. Li, e P. J. McIlroy. Algoritmo de estimação de parâmetros ortogonais para sistemas estocásticos não-lineares. Int. J. Control 48: 193210, 1988. Korenberg, M. J. Um robusto algoritmo ortogonal para identificação de sistemas e análise de séries temporais. Biol. Cybern. 60: 267276, 1989. Marmarelis, V. Z. Identificação de sistemas biológicos não-lineares utilizando a expansão Laguerre de grãos. Ann. Biomed. Eng. 21: 573589, 1993. Marmarelis, P. Z. e V. Z. Marmarelis. Análise de Sistemas Fisiológicos: A Abordagem do Ruído Branco. New York, NY: Plenum, 1978. Marmarelis, V. Z. e X. Zhao. Modelos de Volterra e perceptrons de três camadas. IEEE Trans. Rede Neural. 8: 14211433, 1997. Ripley, B. D. Reconhecimento de padrões e redes neurais. New York, NY: Cambridge University Press, 1996. Rumelhart, D. E. e J. L. McClelland, Eds. Processamento Distribuído Paralelo. Cambridge, MA: MIT Press, 1986, Vols. I e II. Wray, J. e G. G. Green. Cálculo dos núcleos de Volterra de sistemas dinâmicos não-lineares utilizando uma rede neural artificial. Biol. Cybern. 71: 187195, 1994. Zhu, Q. e S. A. Billings. Identificação ortogonal rápida de modelos estocásticos não lineares e redes neurais de função base radial. Int. J. Control 64: 871886, 1996. Informação sobre direitos de autor Sociedade de Engenharia Biomédica 1999 Autores e Afiliações K. H. Chon 1 D. Hoyer 2 A. A. Armoundas 3 N-H. Holstein-Rathlou 4 DJ Marsh 5 1. Departamento de Engenharia Elétrica City College de Nova Iorque NY 2. Instituto de Fisiopatologia Universidade Friedrich Shiller Jena Alemanha 3. HarvardMIT Divisão de Ciências e Tecnologia da Saúde Cambridge 4. Departamento de Fisiologia Médica, The Panum Institute University De Copenhaga Dinamarca 5. Departamento de Farmacologia Molecular, Fisiologia e Biotecnologia Brown University Providence Sobre este artigo Imprimir ISSNThis é uma pergunta básica em Box-Jenkins MA modelos. Como eu entendo, um modelo de MA é basicamente uma regressão linear de valores de séries temporais Y contra termos de erro anteriores et. E. Isto é, a observação Y é primeiro regredida contra os seus valores anteriores Y. Y e depois um ou mais valores de Y - hat são usados ​​como os termos de erro para o modelo de MA. Mas como os termos de erro são calculados em um modelo ARIMA (0, 0, 2) Se o modelo MA é usado sem uma parte autorregressiva e, portanto, sem valor estimado, como posso ter um termo de erro perguntado Apr 7 12 at 12:48 MA Model Estimation: Vamos assumir uma série com 100 pontos de tempo, e dizer que isso é caracterizado por MA (1) modelo sem intercepto. Então o modelo é dado por ytvarepsilont-thetavarepsilon, quad t1,2, cdots, 100quad (1) O termo de erro aqui não é observado. Assim, para obter isto, Box et al. Análise de Séries Temporais: Previsão e Controle (3ª Edição). Página 228. Sugerem que o termo de erro é computado recursivamente por, então o termo de erro para t1 é, varepsilon y thetavarepsilon Agora não podemos calcular isto sem conhecer o valor de theta. Assim, para obter isso, precisamos calcular a estimativa inicial ou preliminar do modelo, referir Box et al. Do referido livro, a Seção 6.3.2 página 202 afirma que, Foi mostrado que as primeiras q autocorrelações do processo MA (q) são diferentes de zero e podem ser escritas em termos dos parâmetros do modelo como rhokdisplaystylefrac theta1theta theta2theta cdotstheta thetaq quad K1,2, cdots, q A expressão acima forrho1, rho2cdots, rhoq nos termos theta1, theta2, cdots, thetaq, fornece q equações em q desconhecidos. Estimativas preliminares das thetas podem ser obtidas substituindo as estimativas rk por rhok na equação acima. Note que rk é a autocorrelação estimada. Há mais discussão na Seção 6.3 - Estimativas iniciais para os parâmetros. Por favor, leia sobre isso. Agora, supondo que obtemos a estimativa inicial theta0.5. Então, varepsilon y 0.5varepsilon Agora, outro problema é que não temos valor para varepsilon0 porque t começa em 1, e por isso não podemos computar varepsilon1. Felizmente, existem dois métodos dois obter isso, verossimilhança condicional probabilidade incondicional de acordo com Box et al. Seção 7.1.3, página 227. Os valores de varepsilon0 podem ser substituídos a zero como uma aproximação se n é moderado ou grande, este método é Probabilidade Condicional. Caso contrário, é utilizada a Probabilidade Incondicional, em que o valor de varepsilon0 é obtido por retro-previsão, Box et al. Recomendamos este método. Leia mais sobre back-forecasting na Seção 7.1.4, na página 231. Depois de obter as estimativas iniciais eo valor de varepsilon0, então finalmente podemos prosseguir com o cálculo recursivo do termo de erro. Em seguida, o estágio final é estimar o parâmetro do modelo (1), lembre-se que esta não é mais a estimativa preliminar. Na estimativa do parâmetro theta, utilizo o procedimento de Estimação Não-Linear, particularmente o algoritmo de Levenberg-Marquardt, já que os modelos de MA são não-lineares em seu parâmetro. Resumo Para a média móvel de primeira ordem consideramos uma proposta de Walker (Biometrika, 1961) Autocorrelações (1 lt k lt T, tamanho da amostra T), para estimar a primeira autocorrelação do modelo e, portanto, seu parâmetro básico. Quando k kT rightarrow infty como T rightarrow infty, o estimador é provado consistente e assintoticamente normal e eficiente, este último desde kT domina log T e é dominado por Tfrac. Uma forma alternativa do estimador facilita os cálculos ea análise do papel de k, sem alterar as propriedades assintóticas. Informação do artigo Datas Primeiro disponível no Projeto Euclides: 12 de abril de 2007 Link permanente para este documento projeteuclid. org/euclid. aos/1176344012 Identificador Digital de Objeto doi: 10.1214 / aos / 1176344012 Citação Mentz, Raul Pedro. Estimação no modelo de média móvel de primeira ordem com base em autocorrelações de amostra. Ann. Estatista 5 (1977), n. 6, 1250 - 1257. Doi: 10.1214 / aos / 1176344012. Projecteuclid. org/euclid. aos/1176344012. Exportar citação