时间序列分析 (Time Series Analysis

2024年秋季,周三下午14:00-15:50,逸B-105

 

课程简介

时间序列(time series)是一组按照时间发生先后顺序进行排列的离散序列,是日常生活中最常见的数据形式之一。对时间序列的分析是既是统计学中的重要问题,也是人工智能、数据挖掘的一个重要应用方向。

本课程面向人工智能学院的本科生和研究生,重点关注统计学中分析时间序列的基本思路、模型以及方法。同时强调使用人工智能、数据挖掘技术对时序数据这一种特殊的数据类型进行分析,也关注使用“时间序列分析”中的思路看待和解决人工智能领域的实际问题。

课程内容将从时间序列的发展历程、基本任务开始,承接回归方法,探索基于统计方法和机器学习方法的时间序列分析途径。课程中不但关注对时间序列模型的统计分析,也会介绍人工智能的相关技术,如使用循环神经网络、自注意力机制进行时间序列的建模,或使用时间序列中的自回归、指数平均思想建模机器学习、计算机视觉的重要问题。课程最后也将讨论时间序列相似性度量、异常检测等专题。

 

课程安排

 

主题

上课时间

知识点

阅读材料

讲义*

时间序列基础知识

绪论

918

²  课程概况

²  时间序列的基本定义

²  时间序列分析任务的类型

²  时间序列分析的流派及发展简史

²  时间序列分析机器学习方法的思路

²  数据挖掘§14

²  数理统计学简史

²  时间序列分析发展简史

²  [1] §1

²  [2] §1, §2

第一章

时间序列的评价和预处理

925

²  时间序列预测的常用数据集

²  时间序列预测的Baseline方法(时间序列的相似性度量、Delayed Coordinate Embedding

²  时间序列预测的评价指标

²  时间序列预测预处理方法

²  Box-Cox变换及其应用

²  竞赛简介, M4 Competition

²  归一化和距离计算数据挖掘§3.4

²  Box-Cox变换

²  Dynamic Time WrappingFastDTW

²  GCE Loss

²  [1] §3.1-3.2

第二章

时间序列的基础预测方法

109/

1016

²  回归模型

²  指数平均方法(ETS

²  Theta模型

²  指数平均及其应用

²  [2] §3.1-3.4

²  EMA应用:Adam, BN, Temporal Ensemble, Mean-Teacher, MoCo, ELR

第三章

基于统计的时间序列

预测模型

时间序列的随机过程视角

1023

²  随机过程用于时间序列分析

²  时间序列的平稳性

²  时间序列的相关统计量及估计方法

²  平稳序列的建模思想

²  [2] §5.1 – 5.7

²  [3] §2.1, §3.1 – 3.4, §5.1

²  AR应用:NADE

第四章

平稳和非平稳时间序列分析

1030/

116

²  线性过程模型

²  AR模型、MA模型

²  AR思想的应用

²  ARMA模型、ARIMA模型

²  时序模型的预测

 

时间序列模型的辨识与优化

1113

²  时序模型的辨识

²  时序模型的优化

²  基于线性系统的时间序列模型

²  多元时间序列模型

²  [2]§ 6.1 – 6.6

²  [2] §8.1 – 8.4,  9.1 – 9.2

 

有季节效应的时间序列模型

1120

²  有季节效应的时序模型构建

²  Prophet模型

²  时间序列的分解

²  [3] §9.1-9.3

²  Prophet

 

数据驱动的时间序列

预测模型

时间序列预测的基础机器学习模型

1127

²  状态空间模型

²  卡尔曼滤波

²  张量模型

²  M5竞赛及结论

²  集成学习模型

²  [2] §10.1 – 10.3

²  Forecasting with trees

²  Tweedie Distribution

 

面向时间序列预测的神经网络基础结构

124

²  RNNLSTM

²  Temporal CNN

²  Transformer及其扩展

²  时间序列的数据增广

²  深度模型建模方式

²  LSTM, Seq2Seq

²  CNN RNN比较

²  深度学习方法综述(预测)

²  DeepAR, MQ-RNN

²  Hybrid Model

²  Transformer [Blog1][Blog2]Informer, Autoformer

²  TFT

²  N-BEATNHITSN-BEAT的元学习视角

²  Forecasting & Meta-learning

 

面向时间序列预测深度学习方法的改进

1211

²  线性模型,RevINChannel Independent

²  Transformer模型扩展

²  CNN模型的扩展

²  RNN模型的扩展

²  MLP模型的扩展

²  全局和局部模型

²  RevIN, RLinear

²  SegRNN,

²  SCINet, MICN, TimesNet

²  MTS-Mixers, TSMixer

²  PatchTST, CrossFormer, iTransformer

²  SOFTS

 

时间序列预测的迁移和通用模型

1225

²  时序表示学习

²  通用时序模型

²  基于语言模型的时序大模型

²  时序数据大模型

²  TS2Vec, CoST, SimMTM

²  One Fits All

²  TimeGPT

²  LLMTime

²  TimeLLM, TEMPO

²  Moirai

²  Chronos

 

时间序列分析的相关领域

1225

²  时间序列分类、聚类

²  时间序列主旨挖掘,Matrix profile

²  时序数据表示学习

²  时间序列异常检测,S-ESD

²  深度学习方法综述(时间序列分类)

²  UCR Time Series Anomaly Archive

²  IsolationKernel异常检测

²  Anomaly Transformer

 

 

注:上述表格会根据实际授课情况进行更新,请以授课后更新的内容为准。

* 课程讲义引用了下面参考文献中的部分图片和例子,仅供内部学习使用

 

主要参考材料:

[1]   Rob J Hyndman, George Athanasopoulos. Forecasting: Principles and Practice. Otexts. 2021.

[2]   Henrik Madsen. Time Series Analysis. Chapman & Hall. 2008

[3]   George E. P. Box, Gwilym M. Jenkins, Gregory C. Reinsel, Greta M. Ljung. Time Series Analysis Forecasting and Control (5th Edition). Wiley 2016

 

其他参考材料:

[4]   Peter J. Brockwell, Richard A. Davis. Introduction to Time Series and Forecasting (3rd Edition). Springer 2016.

[5]   Fotios Petropoulos et al. Forecasting: theory and practice. International Journal of Forecasting. Volume 38, Issue 3, 2022, Pages 705-871

[6]   易丹辉、王燕. 应用时间序列分析. 人民大学出版社. 2019.

[7]   James D. Hamilton. 时间序列分析. 中国人民大学出版社. 2015.

注:时间序列分析具有大量前沿内容,请参考上述表格中的相关阅读材料。

 

课程作业

 

课程作业包括书面作业和编程作业两类。请通过教学立方(邀请码:PCB9VWFG)查看作业要求,并进行作业提交。

 

联系方式

 

主讲教师:叶翰嘉 yehj@nju.edu.cn

    教:李楷文likw@lamda.nju.edu.cn

 

时间序列相关资源

Ø  工具包:

²  sktime

²  skforecast

²  Darts

Ø  数据集:

²  M4-methods

²  Awesome time series database

Ø  Tutorial

²  Forecasting Big Time Series: Theory and Practice

²  Modern Aspects of Big Time Series Forecasting

Ø  Workshop

² IJCAI'23 Workshop AI4TS: AI for Time Series Analysis: Theory, Algorithms, and Applications

²  The 9th SIGKDD International Workshop on Mining and Learning from Time Series

²  AAAI'24 Workshop AI4TS: AI for Time Series Analysis: Theory, Algorithms, and Applications

²  IJCAI'24 Workshop AI4TS: AI for Time Series Analysis: Theory, Algorithms, and Applications

²  The 10th Mining and Learning from Time Series Workshop: From Classical Methods to LLMs (KDD MILETS Workshop 2024)