神经网络与深度学习邱锡鹏

神经网络与深度学习

作者:邱锡鹏 知乎:@邱锡鹏

关于本书

近年来,以机器学习、知识图谱为代表的人工智能技术逐渐变得普及。从车牌识别、人脸识别、语音识别、智能助手、推荐系统到自动驾驶,人们在日常生活中都可能有意无意地用到了人工智能技术。这些技术的背后都离不开人工智能领域研究者的长期努力。特别是最近这几年,得益于数据的增多、计算能力的增强、学习算法的成熟以及应用场景的丰富,越来越多的人开始关注这个“崭新”的研究领域:深度学习。深度学习以神经网络为主要模型,一开始用来解决机器学习中的表示学习问题。但是由于其强大的能力,深度学习越来越多地用来解决一些通用人工智能问题,比如推理、决策等。目前,深度学习技术在学术界和工业界取得了广泛的成功,受到高度重视,并掀起新一轮的人工智能热潮。

主要特点:

系统性:系统地整理了神经网络和深度学习的知识体系。鉴于深度学习涉及的知识点较多,本书从机器学习的基本概念、神经网络模型以及概率图模型三个层面来串联深度学习所涉及的知识点,使读者对深度学习技术的理解更具系统性、条理性和全面性。

可读性:本书在编排上由浅入深,在语言表达上力求通俗易懂,并通过增加图例、示例以及必要的数学推导来理解抽象的概念。同时,附录简要介绍了本书所涉及的必要数学知识,便于读者查用。

实践性:本书在网站上配套了针对每章知识点的编程练习,使得读者在学习过程中可以将理论和实践密切结合,加深对知识点的理解,并具备分析问题和解决问题的能力。

神经网络与深度学习邱锡鹏

纸质书购买连接

蒲公英书京东当当蒲公英书实践篇京东 当当套装京东 当当

要获取更新提醒,请关注https://github.com/nndl/nndl.github.io

课后习题分享讨论:https://github.com/nndl/solutions

配套实践(new):https://github.com/nndl/practice-in-paddle/

豆瓣评分:https://book.douban.com/subject/33409947/

蒲公英封面:希望这本教材能够帮助更多的学生进入深度学习以及人工智能领域,他们会为人工智能领域注入新的生机与活力。

概要

全书内容 pdf (updated 2021-05-18) (推荐用iPad阅读)

更新说明:https://github.com/nndl/nndl.github.io

《神经网络与深度学习》印刷版 勘误表

《神经网络与深度学习》3小时课程概要 ppt(72M) pdf (12M)

章节内容

  1. 绪论[ppt]
  2. 机器学习概述 [ppt]
  3. 线性模型 [ppt]
  4. 前馈神经网络 [ppt]
  5. 卷积神经网络 [ppt]
  6. 循环神经网络 [ppt]
  7. 网络优化与正则化 [ppt]
  8. 注意力机制与外部记忆 [ppt]
  9. 无监督学习 [ppt]
  10. 模型独立的学习方式 [ppt]
  11. 概率图模型 [ppt]
  12. 深度信念网络 [ppt]
  13. 深度生成模型[ppt]
  14. 深度强化学习 [ppt]
  15. 序列生成模型 [ppt] 一个过时版本:词嵌入与语言模型
  16. 数学基础

引用信息

反馈意见

如果您有任何意见、评论以及建议(先确认最新版本中是否已经修正),请通过GitHub的Issues页面进行反馈。如果错误比较重要,我会在本书中进行致谢。

反馈意见包括但不限于:(因为分开排版关系,页码错误请忽略。)

  • 打字错误
  • 描述错误: 比如“感知器是非线性分类器”
  • 评论
  • 建议

非常感谢!

致谢列表:感谢王利锋、林同茂、张钧瑞、李浩、胡可鑫、韦鹏辉、徐国海、侯宇蓬、任强、王少敬、肖耀、李鹏等同学指出书中的错误。

售后保障

正品行货 京东商城向您保证所售商品均为正品行货,京东自营商品开具机打发票或电子发票。无忧退货 客户购买京东自营商品7日内(含7日,自客户收到商品之日起计算),在保证商品完好的前提下,可无理由退货。(部分商品除外,详情请见各商品细则)

权利声明:
京东上的所有商品信息、客户评价、商品咨询、网友讨论等内容,是京东重要的经营资源,未经许可,禁止非法转载使用。

注:本站商品信息均来自于合作方,其真实性、准确性和合法性由信息拥有者(合作方)负责。本站不提供任何保证,并不承担任何法律责任。

印刷版次不同,印刷时间和版次以实物为准。

价格说明:

京东价:京东价为商品的销售价,是您最终决定是否购买商品的依据。

划线价:商品展示的划横线价格为参考价,并非原价,该价格可能是品牌专柜标价、商品吊牌价或由品牌供应商提供的正品零售价(如厂商指导价、建议零售价等)或其他真实有依据的价格;由于地区、时间的差异性和市场行情波动,品牌专柜标价、商品吊牌价等可能会与您购物时展示的不一致,该价格仅供您参考。

折扣:如无特殊说明,折扣指销售商在原价、或划线价(如品牌专柜标价、商品吊牌价、厂商指导价、厂商建议零售价)等某一价格基础上计算出的优惠比例或优惠金额;如有疑问,您可在购买前联系销售商进行咨询。

异常问题:商品促销信息以商品详情页“促销”栏中的信息为准;商品的具体售价以订单结算页价格为准;如您发现活动商品售价或促销信息有异常,建议购买前先联系销售商咨询。

内容简介  · · · · · ·

本书主要介绍神经网络与深度学习中的基础知识、主要模型(卷积神经网络、递归神经网络等)以及在计算机视觉、自然语言处理等领域的应用。

作者简介  · · · · · ·

邱锡鹏

复旦大学计算机科学技术学院教授、博士生导师,于复旦大学获得理学学士和博士学位。主要研究领域包括自然语言处理、机器学习、深度学习等,在相关领域的权威国际期刊、会议上发表学术论文60余篇,获得计算语言学顶级国际会议ACL 2017杰出论文奖、全国计算语言学会议CCL 2019最佳论文奖,2015年入选首届中国科协青年人才托举工程,2018年获得中国中文信息学会“钱伟长中文信息处理科学技术奖青年创新一等奖”,入选由“清华—中国工程院知识智能联合研究中心和清华大学人工智能研究院”联合发布的2020年人工智能(AI)全球最具影响力学者提名。该排名参考过去十年人工智能各子领域最有影响力的会议和期刊发表论文的引用情况,排名前10的学者当选该领域当年最具影响力学者奖,排名前100的其他学者获最具影响力学者提名奖。作为项目负责人开源发布了两个自然语言处理开源系...

(展开全部)

邱锡鹏

复旦大学计算机科学技术学院教授、博士生导师,于复旦大学获得理学学士和博士学位。主要研究领域包括自然语言处理、机器学习、深度学习等,在相关领域的权威国际期刊、会议上发表学术论文60余篇,获得计算语言学顶级国际会议ACL 2017杰出论文奖、全国计算语言学会议CCL 2019最佳论文奖,2015年入选首届中国科协青年人才托举工程,2018年获得中国中文信息学会“钱伟长中文信息处理科学技术奖青年创新一等奖”,入选由“清华—中国工程院知识智能联合研究中心和清华大学人工智能研究院”联合发布的2020年人工智能(AI)全球最具影响力学者提名。该排名参考过去十年人工智能各子领域最有影响力的会议和期刊发表论文的引用情况,排名前10的学者当选该领域当年最具影响力学者奖,排名前100的其他学者获最具影响力学者提名奖。作为项目负责人开源发布了两个自然语言处理开源系统FudanNLP和FastNLP,获得了学术界和产业界的广泛使用。目前担任中国中文信息学会青年工作委员会执行委员、计算语言学专委会委员、语言与知识计算专委会委员,中国人工智能学会青年工作委员会常务委员、自然语言理解专委会委员。

目录  · · · · · ·


前言
常用符号表
第一部分 机器学习基础
第1章 绪论3
1.1人工智能...............................4
· · · · · · (更多)

原文摘录   · · · · · ·  ( 全部 )

  • 人工神经网络(Artificial Neural Network,ANN)是指一系列受生物学和神经科学启发的数学模型. 这些模型主要是通过对人脑的神经元网络进行抽象,构建人工神经元,并按照一定拓扑结构来建立人工神经元之间的连接,来模拟生物神经网络。在人工智能领域,人工神经网络也常常简称为神经网络(Neural Network,NN)或神经模型(Neural Model)。 (查看原文)

    —— 引自章节:4.3前馈神经网络.....................

  • 从机器学习的角度来看,神经网络一般可以看作是一个非线性模型,其基本组成单元为具有非线性激活函数的神经元,通过大量神经元之间的连接,使得神经网络成为一种高度非线性的模型. 神经元之间的连接权重就是需要学习的参数,可以在机器学习的框架下通过梯度下降方法来进行学习。 (查看原文)

    —— 引自章节:第4章 前馈神经网络81

> 全部原文摘录

丛书信息

人工智能技术丛书 (共6册), 这套丛书还有 《迁移学习》,《神经网络与深度学习:案例与实践》,《自然语言处理基础教程》,《深度学习基础教程》,《智能算法理论与实践》。

喜欢读"神经网络与深度学习"的人也喜欢  · · · · · ·

  • 1 有用 成子 2022-10-17 16:43:30 陕西

    “尽管深度信念网络作为一种深度学习模型已经很少使用,但其在深度学习发展进程中的贡献十分巨大,并且其理论基础为概率图模型,有非常好的解释性,依然是一种值得深入研究的模型。” 呵。概率图模型及其延伸,一概看不懂。

  • 0 有用 丁白 2022-10-17 03:29:06 北京

    在数学描述上比花书繁琐得多,其中还涉及张量求导等问题(尽管没有well defined张量,且涉及代数极少)。还有一点不佳:注意力等机制如何引入RNN并没有详细说明,这是因为对网络架构缺乏讲解的缘故。

> 更多短评 120 条

我要写书评

神经网络与深度学习的书评 · · · · · · ( 全部 5 条 )

神经网络与深度学习邱锡鹏
峰池 2020-05-13 23:11:50

国内最好的深度学习教科书

这篇书评可能有关键情节透露

转载自我的微信公众号:峰池,[《神经网络与深度学习》——最好的深度学习教科书],欢迎大家关注 最近这一周学习了一下,感觉确实非常不错,兼具广度和深度,在这里推荐给大家。 在我看来,本书有以下几个优点 一、一切推导相关都以数学为基础,清楚明白。区别于一些博客中玄之...  (展开)

神经网络与深度学习邱锡鹏
疏影橫斜水清淺 2020-10-14 20:06:58

只能说还行

此书虽然几经修订,又吸取有多本国内外机器学习深度学习教材的经验,在题材选取和行文上已经算是国产初级教材中的上乘之作,但是仍然有定位尴尬的缺点——初学者很难在不补充相关数学知识的情况下看明白,非初学者又没必要再多看这本书(因为有内容更加精深的专著或者论文)。 全...  (展开)

神经网络与深度学习邱锡鹏
升仙 2019-06-12 10:37:45

太散了

比花书内容多一些,深度比不上prml等圣经级书籍,行文不太连贯,有博文拼凑之感,或者说只是一本讲义而非适合自学的参考书,没有一气呵成的感觉,应用部分也不多,对于初学者难度大了些,对于老手用处又不大。希望纸质书印制时可以优化一下,斟酌一下行文,同时增加一些习题,...  (展开)

神经网络与深度学习邱锡鹏
天堂的恶魔 2020-07-29 19:27:26

想入门深度学习?你需要先搞懂这三个问题

原创:木羊同学 今天聊三个深度学习入门问题,是在公号后台大家经常提到的。 第一个问题,学深度学习是不是需要先学机器学习? 说实话我有点意外,对于怎样学深度学习,我设想过各种问题,但没想到大家最好奇的会是上面这个问题。不过,了解深度学习,确实应该从了解人工智能、...  (展开)

> 更多书评 5篇

  • 按有用程度
  • 按页码先后
  • 最新笔记
  • 神经网络与深度学习邱锡鹏

    张小鱼(乐子人) (experience shapes me unique)

    神经网络与深度学习邱锡鹏

    模型,是机器学习中最为重要的元素之一;而人工神经网络,则是现有模型中最为流行的一群模型。在这群模型当中,有前馈神经网络、卷积神经网络、循环神经网络等等,这些不同的神经网络,在不同的方面都有所改进,算法上也有殊异之处。 (一) 人工神经网络简介 在进入到具体的神经网络模型之前,我们可以先了解一下什么是神经网络,以及相比非神经的模型,神经网络模型的优越性体现在哪里。 人工神经网络(Artificial Neural Net...

    2021-04-12 19:45:09   8人喜欢

  • 神经网络与深度学习邱锡鹏

    Smile

    概率图模型的最基本的假设是条件独立性。图形化表示直观地描述了随机变量之间的条件独立性,有利于将复杂的概率模型分解为简单模型的组合,并更好地理解概率模型的表示、推断、学习等方法。 图模型与神经网络的区别:图模型的节点是随机变量,其图结构的主要功能是描述变量之间的依赖关系,一般是稀疏连接。使用图模型的好处是可以有效地进行统计推断;而神经网络中的节点是神经元,是一个计算节点。 在概率图模型中,对于不含...

    2021-01-05 10:35:56   7人喜欢

  • 神经网络与深度学习邱锡鹏

    Smile

    强化学习是指一个智能体从与环境的交互中不断学习已完成特定目标。 和深度学习不同,强化学习中的关键问题也是贡献度分配问题,每个动作并不能直接得到监督信息,需要通过整个模型的最终监督信息(奖励)得到,并且有一定的延时性。 和监督学习不同,强化学习问题不需要给出”正确“策略作为监督信息,只需要给出策略的(延时)回报,并通过调整策略来取得最大化的期望回报。 深度强化学习是将强化学习和深度学习结合在一起,用...

    2021-01-06 21:53:41   2人喜欢

  • 神经网络与深度学习邱锡鹏

    张小鱼(乐子人) (experience shapes me unique)

    机器学习的三个基本要素是模型、学习准则和优化算法。 看到这三个词,基于我以往对于机器学习的理解(“工”字流程图),我有以下几个疑问: 1 模型和学习准则的区别是什么?【模型和学习准则不是一个层级上的东西。可以说根据学习准则构建的不等式,是模型进行训练的停机条件。】 2 模型是对什么建立的模型?【模型是一个从输入空间到输出空间的一族映射。通过不断训练,优化出一个最好的。】 3 优化算法用来优化什么?时间、...

    2021-04-20 09:33:31   1人喜欢