Table Of Contents

《动手学深度学习》

《动手学深度学习》

跳转第二版预览版（更新中）

面向中文读者的能运行、可讨论的深度学习教科书

被全球 40 个国家 175 所大学用于教学

公告

• 【在线课程每周直播中】 3月20日起北京时间每周六、日下午1:00至2:30直播教学《动手学深度学习》。无需缴费或注册，欢迎参加！
• 【关注更新】 英文版新增了BERT、 自然语言推理、 推荐系统一章和深度学习的数学一章。 深度学习领域的迅速发展促使我们不断更新内容。 如果想及时获取最新修订或增添的信息， 请关注本书的中文开源项目和英文开源项目。
• 【购买纸质书（上架4周重印2次，累计3万+册）】 纸质书在内容上与在线版大致相同，但力求在样式、术语标注、语言表述、用词规范、标点以及图、表、章节的索引上符合出版标准和学术规范。 可以在 京东、 当当、 天猫 购买全彩精装版； 或者在 京东、 当当、 天猫 购买黑白平装版。 [新书榜] [关于样书]
• 【免费资源（新增中文版课件）】 在校学生和老师可以申请用于本书学习或教学的免费计算资源。 课件、作业、教学视频等资源可参考伯克利“深度学习导论” 课程大纲 中的链接（中文版课件）。 基于本书较早草稿内容的中文教学视频在： B站 和 Youtube。 [关于资源]

阿斯顿·张

亚马逊高级科学家，美国伊利诺伊大学香槟分校计算机科学博士。

李沐

亚马逊资深首席科学家，美国卡内基梅隆大学计算机系博士。

扎卡里 C. 立顿

亚马逊科学家，美国卡内基梅隆大学助理教授，加州大学圣迭戈分校计算机科学博士。

亚历山大 J. 斯莫拉

亚马逊副总裁/杰出科学家，德国柏林工业大学计算机科学博士。

以及来自社区的 100+ 位贡献者

为本书贡献

Star Fork

学术界推荐

“Dive into this book if you want to dive into deep learning!”

韩家炜

ACM 院士、IEEE 院士
美国伊利诺伊大学香槟分校计算机系 Michael Aiken Chair 教授

“This is a highly welcome addition to the machine learning literature.”

Bernhard Schölkopf

ACM 院士、德国国家科学院院士
德国马克斯•普朗克研究所智能系统院院长

“书中代码可谓‘所学即所用’。”

周志华

ACM 院士、IEEE 院士、AAAS 院士
南京大学计算机科学与技术系主任

“这本书可以帮助深度学习实践者快速提升自己的能力。”

张潼

ASA 院士、IMS 院士
香港科技大学计算机系和数学系教授

工业界推荐

“一本优秀的深度学习教材，值得任何想了解深度学习何以引爆人工智能革命的人关注。”

黄仁勋

NVIDIA创始人 & CEO

“《动手学深度学习》是最适合工业界研发工程师学习的。我毫无保留地向广大的读者们强烈推荐。”

余凯

地平线公司创始人 & CEO

“强烈推荐这本书！我特别赞赏这种手脑一体的学习方式。”

漆远

蚂蚁金服副总裁、首席AI科学家

“《动手学深度学习》是一本很容易让学习者上瘾的书。”

沈强

将门创投创始合伙人

每一小节都是可以运行的 Jupyter 记事本

你可以自由修改代码和超参数来获取及时反馈，从而积累深度学习的实战经验。

公式 + 图示 + 代码

我们不仅结合文字、公式和图示来阐明深度学习里常用的模型和算法，还提供代码来演示如何从零开始实现它们，并使用真实数据来提供一个交互式的学习体验。

活跃社区支持

你可以通过每个章节最后的链接来同社区的数千名小伙伴一起讨论学习。

本书（中英文版）被用作教材或参考书

[+] 点击以显示完整名单

Alexandria University
Amity University
Ateneo de Naga University
Australian National University
Birla Institute of Technology and Science, Hyderabad
Brown University
Cairo University
Carnegie Mellon University
College of Engineering Pune
Columbia University
Duke University
Durban University of Technology
Emory University
Eötvös Loránd University
Federal University Lokoja
Fudan University
Gayatri Vidya Parishad College of Engineering (Autonomous)
Gazi Üniversitesi
George Mason University
Georgia Institute of Technology
Golden Gate University
Habib University
Hangzhou Dianzi University
Hankuk University of Foreign Studies
Harbin Institute of Technology
Hasso-Plattner-Institut
Heinrich-Heine-Universität Düsseldorf
Hertie School
Hiroshima University
Ho Chi Minh City University of Foreign Languages and Information Technology
Hochschule Bremen
Hochschule für Technik und Wirtschaft
Hong Kong University of Science and Technology
Huazhong University of Science and Technology
Imperial College London
IMT Mines Alès
Indian Institute of Technology Bombay
Indian Institute of Technology Jodhpur
Indian Institute of Technology Kanpur
Indian Institute of Technology Kharagpur
Indian Institute of Technology Mandi
Indian Institute of Technology Ropar
Indira Gandhi National Open University
Indraprastha Institute of Information Technology, Delhi
Institut catholique d'arts et métiers (ICAM)
Institut de recherche en informatique de Toulouse
Institut Supérieur d'Informatique et des Techniques de Communication
Institut Supérieur De L'electronique Et Du Numérique
Instituto Tecnológico Autónomo de México
İstanbul Teknik Üniversitesi
IT-Universitetet i København
King Abdullah University of Science and Technology
Kongu Engineering College
KPR Institute of Engineering and Technology
Kyungpook National University
Lancaster University
Leibniz Universität Hannover
Leuphana University of Lüneburg
London School of Economics & Political Science
Make School
Massachusetts Institute of Technology
McGill University
Milwaukee School of Engineering
Minia University
Monash University
Multimedia University
National Chung Hsing University
National Institute of Technical Teachers Training&Research
National Institute of Technology, Warangal
National Sun Yat-sen University
National Taiwan University
National Technical University of Athens
National United University
National University of Singapore
Nazarbayev University
New York University
Newman University
North Ossetian State University
Northeastern University
Ohio University
Pakuan University
Peking University
Pohang University of Science and Technology
Politecnico di Milano
Pontificia Universidad Católica de Chile
Portland State University
Purdue University
Queen's University
Radboud Universiteit
Rowan University
Rutgers, The State University of New Jersey
Sapienza Università di Roma
Shanghai Jiao Tong University
Shanghai University of Finance and Economics
Shenzhen University
Sogang University
Southern New Hampshire University
St. Pölten University of Applied Sciences
Stanford University
Stevens Institute of Technology
Sungkyunkwan University
Technische Universiteit Delft
Tekirdağ Namık Kemal Üniversitesi
Texas A&M University
Thapar Institute of Engineering and Technology
The State University of New York at Binghamton
The University of Texas at Austin
Tsinghua University
Universidad Carlos III de Madrid
Universidad de Zaragoza
Universidad Militar Nueva Granada
Universidad Nacional Agraria La Molina
Universidad Nacional de Colombia Sede Manizales
Universidad Tecnológica de Pereira
Universidade Católica de Brasília
Universidade Estadual de Campinas
Universidade Federal de Minas Gerais
Universidade Federal de Ouro Preto
Universidade Federal do Rio Grande
Universidade NOVA de Lisboa
Universidade Presbiteriana Mackenzie
Università degli Studi di Bari Aldo Moro
Università degli Studi di Brescia
Università degli Studi di Catania
Università degli Studi di Padova
Universitas Andalas, Padang
Universitas Udayana
Universität Heidelberg
Universitat Politècnica de Catalunya
Universitatea Babeș-Bolyai
Universitatea de Vest din Timișoara
Université de technologie de Compiègne
Université Paris-Saclay
University of Arkansas
University of Augsburg
University of California, Santa Cruz
University of California, Berkeley
University of California, Los Angeles
University of California, San Diego
University of California, Santa Barbara
University of Cambridge
University of Canberra
University of Cincinnati
University of Florida
University of Iceland
University of Idaho
University of Illinois at Urbana-Champaign
University of International Business and Economics
University of Liège
University of Maryland
University of Minnesota, Twin Cities
University of New Hampshire
University of North Carolina at Chapel Hill
University of North Texas
University of Northern Philippines
University of Pennsylvania
University of São Paulo
University of Science and Technology of China
University of Southern Maine
University of St Andrews
University of Technology Sydney
University of Warsaw
University of Washington
University of Waterloo
University of Wisconsin Madison
Univerzita Komenského v Bratislave
Vardhaman College of Engineering
Vardhman Mahaveer Open University
Vietnamese-German University
Wageningen University
West Virginia University
Western University
Xavier University Bhubaneswar
Xiamen University
Yeshiva University
Yunnan University
Zhejiang University

如果你使用（或计划使用）本书教学并希望收到免费纸质版图书， 请联系我们。

英文版引用

      @book{zhang2020dive,
          title={Dive into Deep Learning},
          author={Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola},
          note={\url{http://www.d2l.ai}},
          year={2020}
      }
	  

目录

• 前言

• 如何使用本书

• 1. 深度学习简介
  • 1.1. 起源
  • 1.2. 发展
  • 1.3. 成功案例
  • 1.4. 特点
  • 1.5. 小结
  • 1.6. 练习
  • 1.7. 参考文献
  • 1.8. 扫码直达讨论区
• 2. 预备知识
  • 2.1. 获取和运行本书的代码
  • 2.2. 数据操作
  • 2.3. 自动求梯度
  • 2.4. 查阅文档
• 3. 深度学习基础
  • 3.1. 线性回归
  • 3.2. 线性回归的从零开始实现
  • 3.3. 线性回归的简洁实现
  • 3.4. softmax回归
  • 3.5. 图像分类数据集（Fashion-MNIST）
  • 3.6. softmax回归的从零开始实现
  • 3.7. softmax回归的简洁实现
  • 3.8. 多层感知机
  • 3.9. 多层感知机的从零开始实现
  • 3.10. 多层感知机的简洁实现
  • 3.11. 模型选择、欠拟合和过拟合
  • 3.12. 权重衰减
  • 3.13. 丢弃法
  • 3.14. 正向传播、反向传播和计算图
  • 3.15. 数值稳定性和模型初始化
  • 3.16. 实战Kaggle比赛：房价预测
• 4. 深度学习计算
  • 4.1. 模型构造
  • 4.2. 模型参数的访问、初始化和共享
  • 4.3. 模型参数的延后初始化
  • 4.4. 自定义层
  • 4.5. 读取和存储
  • 4.6. GPU计算
• 5. 卷积神经网络
  • 5.1. 二维卷积层
  • 5.2. 填充和步幅
  • 5.3. 多输入通道和多输出通道
  • 5.4. 池化层
  • 5.5. 卷积神经网络（LeNet）
  • 5.6. 深度卷积神经网络（AlexNet）
  • 5.7. 使用重复元素的网络（VGG）
  • 5.8. 网络中的网络（NiN）
  • 5.9. 含并行连结的网络（GoogLeNet）
  • 5.10. 批量归一化
  • 5.11. 残差网络（ResNet）
  • 5.12. 稠密连接网络（DenseNet）
• 6. 循环神经网络
  • 6.1. 语言模型
  • 6.2. 循环神经网络
  • 6.3. 语言模型数据集（歌词）
  • 6.4. 循环神经网络的从零开始实现
  • 6.5. 循环神经网络的简洁实现
  • 6.6. 通过时间反向传播
  • 6.7. 门控循环单元（GRU）
  • 6.8. 长短期记忆（LSTM）
  • 6.9. 深度循环神经网络
  • 6.10. 双向循环神经网络
• 7. 优化算法
  • 7.1. 优化与深度学习
  • 7.2. 梯度下降和随机梯度下降
  • 7.3. 小批量随机梯度下降
  • 7.4. 动量法
  • 7.5. AdaGrad算法
  • 7.6. RMSProp算法
  • 7.7. AdaDelta算法
  • 7.8. Adam算法
• 8. 计算性能
  • 8.1. 命令式和符号式混合编程
  • 8.2. 异步计算
  • 8.3. 自动并行计算
  • 8.4. 多GPU计算
  • 8.5. 多GPU计算的简洁实现
• 9. 计算机视觉
  • 9.1. 图像增广
  • 9.2. 微调
  • 9.3. 目标检测和边界框
  • 9.4. 锚框
  • 9.5. 多尺度目标检测
  • 9.6. 目标检测数据集（皮卡丘）
  • 9.7. 单发多框检测（SSD）
  • 9.8. 区域卷积神经网络（R-CNN）系列
  • 9.9. 语义分割和数据集
  • 9.10. 全卷积网络（FCN）
  • 9.11. 样式迁移
  • 9.12. 实战Kaggle比赛：图像分类（CIFAR-10）
  • 9.13. 实战Kaggle比赛：狗的品种识别（ImageNet Dogs）
• 10. 自然语言处理
  • 10.1. 词嵌入（word2vec）
  • 10.2. 近似训练
  • 10.3. word2vec的实现
  • 10.4. 子词嵌入（fastText）
  • 10.5. 全局向量的词嵌入（GloVe）
  • 10.6. 求近义词和类比词
  • 10.7. 文本情感分类：使用循环神经网络
  • 10.8. 文本情感分类：使用卷积神经网络（textCNN）
  • 10.9. 编码器—解码器（seq2seq）
  • 10.10. 束搜索
  • 10.11. 注意力机制
  • 10.12. 机器翻译
• 11. 附录
  • 11.1. 主要符号一览
  • 11.2. 数学基础
  • 11.3. 使用Jupyter记事本
  • 11.4. 使用AWS运行代码
  • 11.5. GPU购买指南
  • 11.6. 如何为本书贡献
  • 11.7. d2lzh包索引

Next

前言