时间序列分析 (Time Series Analysis)
2024年秋季,周三下午14:00-15:50,逸B-105
课程简介
时间序列(time series)是一组按照时间发生先后顺序进行排列的离散序列,是日常生活中最常见的数据形式之一。对时间序列的分析是既是统计学中的重要问题,也是人工智能、数据挖掘的一个重要应用方向。
本课程面向人工智能学院的本科生和研究生,重点关注统计学中分析时间序列的基本思路、模型以及方法。同时强调使用人工智能、数据挖掘技术对时序数据这一种特殊的数据类型进行分析,也关注使用“时间序列分析”中的思路看待和解决人工智能领域的实际问题。
课程内容将从时间序列的发展历程、基本任务开始,承接回归方法,探索基于统计方法和机器学习方法的时间序列分析途径。课程中不但关注对时间序列模型的统计分析,也会介绍人工智能的相关技术,如使用循环神经网络、自注意力机制进行时间序列的建模,或使用时间序列中的自回归、指数平均思想建模机器学习、计算机视觉的重要问题。课程最后也将讨论时间序列相似性度量、异常检测等专题。
课程安排
主题 |
上课时间 |
知识点 |
阅读材料 |
讲义* |
|
时间序列基础知识 |
9月18日 |
² 课程概况 ² 时间序列的基本定义 ² 时间序列分析任务的类型 ² 时间序列分析的流派及发展简史 ² 时间序列分析机器学习方法的思路 |
² 数据挖掘:§14 ² 数理统计学简史 ² [1] §1 ² [2] §1, §2 |
||
9月25日 |
² 时间序列预测的常用数据集 ² 时间序列预测的Baseline方法(时间序列的相似性度量、Delayed Coordinate Embedding) ² 时间序列预测的评价指标 ² 时间序列预测预处理方法 ² Box-Cox变换及其应用 |
² Dynamic
Time Wrapping,FastDTW ² GCE
Loss ² [1] §3.1-3.2 |
|||
10月9日/ 10月16日 |
² 回归模型 ² 指数平均方法(ETS) ² Theta模型 ² 指数平均及其应用 |
² [2] §3.1-3.4 ² EMA应用:Adam,
BN, Temporal Ensemble, Mean-Teacher, MoCo, ELR |
|||
基于统计的时间序列 预测模型 |
10月23日 |
² 随机过程用于时间序列分析 ² 时间序列的平稳性 ² 时间序列的相关统计量及估计方法 ² 平稳序列的建模思想 |
² [2] §5.1 – 5.7 ² [3] §2.1, §3.1 – 3.4, §5.1 ² AR应用:NADE |
||
10月30日/ 11月6日 |
² 线性过程模型 ² AR模型、MA模型 ² AR思想的应用 ² ARMA模型、ARIMA模型 ² 时序模型的预测 |
|
|||
11月13日 |
² 时序模型的辨识 ² 时序模型的优化 ² 基于线性系统的时间序列模型 ² 多元时间序列模型 |
² [2]§ 6.1 – 6.6 ² [2] §8.1 – 8.4, 9.1 – 9.2 |
|
||
11月20日 |
² 有季节效应的时序模型构建 ² Prophet模型 ² 时间序列的分解 |
² [3] §9.1-9.3 ² Prophet |
|
||
数据驱动的时间序列 预测模型 |
11月27日 |
² 状态空间模型 ² 卡尔曼滤波 ² 张量模型 ² M5竞赛及结论 ² 集成学习模型 |
² [2] §10.1 – 10.3 |
|
|
12月4日 |
² RNN和LSTM ² Temporal CNN ² Transformer及其扩展 ² 时间序列的数据增广 ² 深度模型建模方式 |
² 深度学习方法综述(预测) ² DeepAR, MQ-RNN ² Transformer
[Blog1][Blog2],Informer,
Autoformer ² TFT ² N-BEAT,NHITS,N-BEAT的元学习视角 |
|
||
12月11日 |
² 线性模型,RevIN和Channel Independent ² Transformer模型扩展 ² CNN模型的扩展 ² RNN模型的扩展 ² MLP模型的扩展 ² 全局和局部模型 |
² RevIN, RLinear ² SegRNN, ² SCINet, MICN, TimesNet ² MTS-Mixers, TSMixer ² PatchTST, CrossFormer, iTransformer ² SOFTS |
|
||
12月25日 |
² 时序表示学习 ² 通用时序模型 ² 基于语言模型的时序大模型 ² 时序数据大模型 |
² TS2Vec, CoST, SimMTM ² One Fits All ² TimeGPT ² LLMTime ² TimeLLM, TEMPO ² Moirai ² Chronos |
|
||
12月25日 |
² 时间序列分类、聚类 ² 时间序列主旨挖掘,Matrix profile ² 时序数据表示学习 ² 时间序列异常检测,S-ESD |
² 深度学习方法综述(时间序列分类) ² UCR Time
Series Anomaly Archive ² IsolationKernel异常检测 |
|
注:上述表格会根据实际授课情况进行更新,请以授课后更新的内容为准。
* 课程讲义引用了下面参考文献中的部分图片和例子,仅供内部学习使用
主要参考材料:
[1]
Rob J Hyndman, George Athanasopoulos. Forecasting: Principles and Practice.
Otexts. 2021.
[2]
Henrik Madsen. Time Series
Analysis. Chapman & Hall. 2008
[3]
George E. P. Box, Gwilym M. Jenkins,
Gregory C. Reinsel, Greta M. Ljung. Time
Series Analysis Forecasting and Control (5th Edition). Wiley
2016
其他参考材料:
[4]
Peter J. Brockwell, Richard A. Davis. Introduction to
Time Series and Forecasting (3rd Edition). Springer 2016.
[5]
Fotios Petropoulos et al. Forecasting:
theory and practice. International Journal of Forecasting. Volume 38, Issue
3, 2022, Pages 705-871
[6] 易丹辉、王燕. 应用时间序列分析. 人民大学出版社. 2019.
[7]
James D. Hamilton. 时间序列分析. 中国人民大学出版社. 2015.
注:时间序列分析具有大量前沿内容,请参考上述表格中的相关阅读材料。
课程作业
课程作业包括书面作业和编程作业两类。请通过教学立方(邀请码:PCB9VWFG)查看作业要求,并进行作业提交。
联系方式
主讲教师:叶翰嘉 (yehj@nju.edu.cn)
助 教:李楷文(likw@lamda.nju.edu.cn)
时间序列相关资源
Ø 工具包:
² sktime
² Darts
Ø 数据集:
² Awesome time
series database
Ø Tutorial:
² Forecasting Big
Time Series: Theory and Practice
² Modern Aspects
of Big Time Series Forecasting
Ø Workshop
² IJCAI'23 Workshop AI4TS: AI for Time
Series Analysis: Theory, Algorithms, and Applications
² The 9th SIGKDD International
Workshop on Mining and Learning from Time Series
² AAAI'24 Workshop AI4TS: AI for Time
Series Analysis: Theory, Algorithms, and Applications
² IJCAI'24 Workshop AI4TS: AI for Time
Series Analysis: Theory, Algorithms, and Applications