开课时间： 2020年08月30日 ~ 2020年11月30日

本课程主要介绍深度学习的基本原理、卷积神经网络、循环神经网络、生成对抗网络、注意力机制等基本方法及其典型应用领域，并借助机器学习开源平台TensorFlow实现深度学习在证券趋势预测、声音质量评价、电子推荐、目标检测、社交网络情感分析等多个典型领域的应用。

—— 课程团队

课程概述

1.我为什么要学习这门课？

机器学习是人工智能的重要组成和技术基础，伴随着人工智能几十年的发展，期间几次大起大落。作为机器学习的高级阶段，最近几年深度学习算法在自然语言处理、语音识别、图像处理等领域的突破应用和广泛接受。这也标志着机器学习已经彻底迈出实验室大门，走向实践，推动着人工智能向更高阶段发展。数据应用和人工智能发展已经引起了全球关注。企业对机器学习的人才需求增大，与之密切相关的数据科学家、数据挖掘工程师、大数据分析师、机器学习工程师等数据分析类人才成为本世纪最有吸引力的职业。根据相关企业估计，上述人才的增长高峰将持续6-8年。本课程就是对深度学习感兴趣的学员准备的。

2.这门课的主题是什么？

在前面2次介绍传统的机器学习理论的基础上，讨论深度学习的典型算法原理与应用（具体美容请参考下面课程大纲），为实践打下坚实的基础。

3.学习这门课可以获得什么？

课程目标：理解深度学习的基本原理、精选的10几种基本算法及其典型应用，并使用主流的机器学习开源平台实现深度学习在典型领域的应用过程，能否对一般难度的应用问题进行分析和代码实现。

4.这门课有什么特色和亮点？

深度学习是一门理论和实践并重的课程，其中的内容比较多，很多算法也有一定的难度。深度学习的应用也需要一定的经验和技巧。本课程参阅了大量文献资料，结合过去多年的数据分析研究和项目实践，深入浅出，学生在可以钻研深度学习的算法以及应用。课程通过大量的选择题、填空和判断题检验和巩固学员对基本知识的理解。

5.这门课的学习方法建议

建议结合教材《机器学习》（人民邮电出版社，2018）、《机器学习案例实战》（人民邮电出版社，2019）、《Python机器学习实战案例》（清华大学出版社，2019）学习，先结合视频了解基本算法，然后通过各单元的测试题和作业巩固基本概念和算法，再通过具体的案例解读思路和代码，巩固算法。线下还要参考实战教材动手实验和实践练习，循序渐进。

6.课程守则（建议）

欢迎大家选修课程，请各位按照课程首页大纲的内容，根据课程内容的顺序，每周结合视频和推荐的配套教材，按时完成基本算法内容学习，并结合单元测试和章节练习，巩固基本概念和算法。在此基础上，完成每单元的实验，并可以进一步阅读推荐的实战案例，理解机器学习的思路以及每个步骤可能遇到的问题和技巧。有问题欢迎在课程讨论区讨论。

授课目标

掌握深度学习的基本原理、常用算法，并在此基础上应用于机器视觉、自然语言处理等相关领域，培养一定的分析和解决实际问题的能力。

授课团队

赵卫东 董亮

课程大纲

01神经网络基础

理解前馈神经网络的结构、梯度下降法以及网络训练调优的基本方法，并能应用前馈神经网络解决实际问题。建议5个学时。打*的内容属于高级版，后面陆续推出。除了第7章外，其余章节均由赵卫东老师负责。

1.1 神经网络简介

1.2 神经网络相关概念

1.3 神经网络效果评价

1.4 神经网络优化

1.5 银行客户流失预测

1.6 练习题

02深度学习在人工智能系统的应用

通过众多的案例，了解深度学习的典型应用场景。建议2个学时。

2.1 深度学习典型应用场景

2.2 深度学习应用案例分析

2.3 练习题

03卷积神经网络

理解卷积的内涵，熟悉常用的10几种卷积神经网络的结构、训练方法以及典型场景的应用。建议10个学时。

3.1 卷积的理解—卷积和池化

3.2 常见的卷积模型

@Lenet-5、AlexNet、VGGNet、GoogleLeNet、ResNet等

@Inception v2-v4、DarkNet、DenseNet、SSD等*

@MobileNet，ShuffleNet*

3.3 胶囊网络*

3.4 CNN卷积神经网络应用案例

3.5 目标检测常用算法

@R-CNN、Fast RCNN、Faster RCNN、YOLOv1-v3等

3.5 图像分类

3.6 动物识别

3.7 物体检测

3.8 人脸表情年龄特征识别*

3.9 练习题

04循环神经神经网络

理解循环神经网络以及变种LSTM、GRU的结构、训练方法以及典型场景的应用。建议6个学时。

4.1 RNN基本原理

4.2 LSTM

4.3 GRU

4.4 CNN+LSTM模型

4.5 Bi-LSTM双向循环神经网络结构

4.6 Seq2seq模型

4.7 注意力机制

4.8 自注意力机制*

4.9 ELMo、Transformer等*

4.10 BERT、EPT、XLNet、ALBERT等*

4.11 机器翻译

4.12 练习题

05生成对抗网络

理解生成对抗网络的结构、训练方法以及典型场景的应用。建议5个学时。

5.1 生成对抗网络模型

5.2 GAN的理论知识

5.3 DCGAN

5.4 自动生成手写体

5.5 CycleGAN

5.6 WGAN*

5.7 练习题

06深度学习神经网络案例

学会使用卷积神经网络、循环神经网络、生成对抗网络的常用算法的应用，解决实际问题，并能做创新性的应用。建议5个学时。

6.1 股票走势预测

6.2 文本情感分类

6.3 图像风格转移

6.4 机器翻译

6.5 练习题

07强化学习

理解强化学习的基本概念和原理，了解强化学习的典型应用场景。建议2个学时。此部分由董亮老师负责讲授。

7.1 强化学习基本原理

7.2 强化学习常用模型

7.3 强化学习典型应用

7.4 深度Q网络*

7.5 练习题

08项目驱动的深度学习方法

理解如何结合实际项目，强化机器学习和深度学习理论知识的深入理解，体会深度学习解决实际问题的技巧和技能。建议2个学时，加1个学时的讨论。

课时

8.1 项目驱动的深度学习之路

8.2 领域问题驱动的机器学习深度教学法

预备知识

学习本课程前需要掌握机器学习，尤其是前馈神经网络的基本原理、常用算法，也需要有较扎实的统计学、高等数学、线性代数、Python编程等基础。强烈建议学完第2次的开课内容再学习本次课程。

证书要求

1.按时学习每章节的视频

2.完成每章节的测试（以选择题为主，每章还至少有一个实验，一个互评的讨论题）

3.积极参加讨论和互评（每学期至少5次）

4.通过课程的结业测试（前面三项占总成绩的25%，结业考试占总成绩的75%）

注意：纸质证书需要付费申请（总分60分以上合格）

参考资料

基本的阅读教材：

1.赵卫东，董亮编著.机器学习.北京：人民邮电出版社，2018（教材，python语言）

2.赵卫东. 机器学习案例实战. 北京：人民邮电出版社，2019（实验和实训，python语言）

3.赵卫东，董亮著.Python机器学习实战案例.北京：清华大学出版社，2019（实验和实训，python语言）

参考资料：

龙龙.TensorFlow 2.0 实战案例

常见问题

1. 没有基础可以学习吗？

答：强烈建议请先学习第1-2次的课程再学习，本课程需要掌握必要的高等数学、线性代数和统计基础知识以及比较扎实的机器学习基础知识。没有机器学习基础的学员请一定先学习传统的机器学习算法。此外，还需要掌握Python编程基础。

2. 深度学习算法那么多，我怎么学习？

答：可以先熟悉基本的方法和算法，培养对数据分析的兴趣，奠定一定的基础后，逐步学习较难的算法。特别推荐通过案例和应用学习。有关机器学习技能的培养很重要，具体的方法请参考论文：数据分析类课程的技能培养方法探讨和基于项目实践的机器学习课程改革（《计算机教育》，2019.9）。

3.如何使用课程中提到的算法解决实际问题？

答：可以课后先阅读和调试一下经典的案例和代码，然后尝试解决一些简单的问题，通过参加比赛、各种技术研讨、仿真型的项目，直至参加实际项目，这是一个循序渐进的过程，需要耐心、兴趣和毅力。

4.本课程怎么学习？

答：本课程是深度学习的基本课程，适合有一定机器学习基础的学员，配合教材讲解实用的内容，与线下的实训练习结合。建议采用翻转教学方式，结合配套教材，首先学习在线的视频，课下结合实际项目案例讨论算法的应用以及其中关键技能，并通过实验练习数据分析的思维和技能。

5.本课程有无配套的实验资源？

答：有的，配套教材封后扫码可以下载，网课也有部分实验内容可以下载练习。

6.实验是否有推荐的平台和工具？

答：以下的机器学习平台和工具可以使用：

7.本课程采用什么语言？

答：Python3语言。

8.课程总体难度如何？

答：属于深度学习基本的内容，难度总体属于初中等，希望学员理解机器学习基础知识，可以先选读本课程第二次开课的内容

9.本课程是否有实战的内容？

答：实战练习的课程大家可以选修机器视觉与边缘计算应用课程。并以推荐的2本实战案例线下练习，提供源代码和数据。

10.问题答疑方式？

答：可以在课件首页寻找二维码加赵卫东老师微信直接讨论，或者加入课程的微信群，平时共享资料或交流问题。也可以发到在线课程的讨论区，一般都会给与及时解答。

学习贵在坚持，长期努力，必有大成！