推荐

新书推荐

Python深度学习实战:75个有关神经网络建模、强化学习与迁移

内容简介

本书以自上而下和自下而上的方法来展示针对不同领域实际问题的深度学习解决方案,包括图像识别、自然语言处理、时间序列预测和机器人操纵等。还讨论了采用诸如TensorFlow、PyTorch、Keras和CNTK等流行的深度学习开源框架用于实际问题的解决方案及其优缺点。本书内容包括:用于深度学习的编程环境、GPU计算和云端解决方案;前馈神经网络与卷积神经网络;循环与递归神经网络;强化学习与生成对抗网络;深度学习用于计算机视觉、自然语言处理、语音识别、视频分析、时间序列预测、结构化数据分析以及游戏智能体(Agents)和机器人操控等。后讨论了深度学习的超参数选择和神经网络的内在结构以及预训练模型的使用技巧等。

作者简介

Indra den Bakker是一位经验丰富的深度学习工程师和培训师。他是23insights平台的创始人,这是NVIDIA所属孵化项目计划的一部分,这是一个机器学习构建解决方案的初创型计划,可以改变世界上重要的行业。在开放课程平台Udacity,他指导了在深度学习和相关领域攻读微学位(Nanodegree)的学生,他还负责审查学生的实习项目。Indra拥有计算智能背景,并在创建23insights平台之前作为IPG Mediabrands的品牌代理以及Screen6的数据科学家若干年。

目录

  • 译者序
  • 原书前言
  • 第1章 编程环境、GPU计算、云解决方案和深度学习框架 1
    • 1.1 简介 1
    • 1.2 搭建一个深度学习环境 2
    • 1.3 在AWS上启动实例 2
    • 1.4 在GCP上启动实例 3
    • 1.5 安装CUDA和cuDNN 4
    • 1.6 安装Anaconda和库文件 6
    • 1.7 连接服务器上的JupyterNotebooks 7
    • 1.8 用 TensorFlow构建进的即用模型 8
    • 1.9 直观地用Keras建立网络 10
    • 1.10 使用PyTorch的RNN动态计算图 12
    • 1.11 用CNTK实现高性能模型 14
    • 1.12 使用MXNet构建高效的模型 15
    • 1.13 使用简单、高效的Gluon编码定义网络 17
  • 第2章 前馈神经网络 19
    • 2.1 简介 19
    • 2.2 理解感知器 19
    • 2.3 实现一个单层神经网络 23
    • 2.4 构建一个多层神经网络 27
    • 2.5 开始使用激活函数 30
    • 2.6 关于隐层和隐层神经元的实验 35
    • 2.7 实现一个自动编码器 38
    • 2.8 调整损失函数 41
    • 2.9 测试不同的优化器 44
    • 2.10 使用正则化技术提高泛化能力 47
    • 2.11 添加Dropout以防止过拟合 51
  • 第3章 卷积神经网络 56
    • 3.1 简介 56
    • 3.2 开始使用滤波器和参数共享 56
    • 3.3 应用层合并技术 60
    • 3.4 使用批量标准化进行优化 62
    • 3.5 理解填充和步长 66
    • 3.6 试验不同类型的初始化 72
    • 3.7 实现卷积自动编码器 76
    • 3.8 将一维CNN应用于文本 79
  • 第4章 递归神经网络 81
    • 4.1 简介 81
    • 4.2 实现一个简单的RNN 82
    • 4.3 添加LSTM 84
    • 4.4 使用GRU 86
    • 4.5 实现双向RNN 89
    • 4.6 字符级文本生成 91
  • 第5章 强化学习 95
    • 5.1 简介 95
    • 5.2 实现策略梯度 95
    • 5.3 实现深度Q学习算法 102
  • 第6章 生成对抗网络 109
    • 6.1 简介 109
    • 6.2 了解GAN 109
    • 6.3 实现DCGAN 112
    • 6.4 使用SRGAN来提高图像分辨率 117
  • 第7章 计算机视觉 125
    • 7.1 简介 125
    • 7.2 利用计算机视觉技术增广图像 125
    • 7.3 图像中的目标分类 130
    • 7.4 目标在图像中的本地化 134
    • 7.5 实时检测框架 139
    • 7.6 用U-net将图像分类 139
    • 7.7 语义分割与场景理解 143
    • 7.8 寻找人脸面部关键点 147
    • 7.9 人脸识别 151
    • 7.10 将样式转换为图像 157
  • 第8章 自然语言处理 162
    • 8.1 简介 162
    • 8.2 情绪分析 162
    • 8.3 句子翻译 165
    • 8.4 文本摘要 169
  • 第9章 语音识别和视频分析 174
    • 9.1 简介 174
    • 9.2 从零开始实现语音识别流程 174
    • 9.3 使用语音识别技术辨别讲话人 177
    • 9.4 使用深度学习理解视频 181
  • 第10章 时间序列和结构化数据 185
    • 10.1 简介 185
    • 10.2 使用神经网络预测股票价格 185
    • 10.3 预测共享单车需求 189
    • 10.4 使用浅层神经网络进行二元分类 192
  • 第11章 游戏智能体和机器人 194
    • 11.1 简介 194
    • 11.2 通过端到端学习来驾驶汽车 194
    • 11.3 通过深度强化学习来玩游戏 199
    • 11.4 用GA优化超参数 205
  • 第12章 超参数选择、调优和神经网络学习 211
    • 12.1 简介 211
    • 12.2 用TensorBoard和Keras可视化训练过程 211
    • 12.3 使用批量和小批量工作 215
    • 12.4 使用网格搜索调整参数 219
    • 12.5 学习率和学习率调度 221
    • 12.6 比较优化器 224
    • 12.7 确定网络的深度 227
    • 12.8 添加Dropout以防止过拟合 227
    • 12.9 通过数据增广使模型更加鲁棒 232
    • 12.10 利用TTA来提高精度 234
  • 第13章 网络内部构造 235
    • 13.1 简介 235
    • 13.2 用TensorBoard可视化训练过程 235
    • 13.3 用TensorBoard可视化网络结构 239
    • 13.4 分析网络权重等 239
    • 13.5 冻结层 244
    • 13.6 存储网络结构并训练权重 246
  • 第14章 预训练模型 250
    • 14.1 简介 250
    • 14.2 使用GoogLeNet/Inception进行大规模视觉识别 250
    • 14.3 用ResNet提取瓶颈特征 252
    • 14.4 对新类别使用预训练的VGG模型 253
    • 14.5 用Xception细调 256

AI系统原理与架构

内容简介

主要围绕AI 系统的理论基础与技术基础知识展开,结合实例进行介绍,旨在让读者了解AI 系统的来龙去脉,形成对AI 系统的系统化与层次化的初步理解,掌握AI 系统基本理论、技术、实际应用及研究方向,为后续从事具体的学习研究工作和项目开发工作奠定基础。内容涵盖AI硬件与体系结构、AI 编译与计算架构、AI 推理系统与引擎、AI 框架核心模块四篇,涉及AI 系统从底层原理到应用落地的全貌,反映了AI 系统架构的前沿技术。

作者简介

ZOMI 酱
华为昇腾技术专家,上海交通大学企业导师深圳市创新人才,B站AI科普UP主。曾主持昇腾大模型分布式加速库MindSpeed、大模型套件MindFormers等构建和开发。多次获国家级创新项目奖。出版《AI系统原理与架构》《深度强化学习原理与实践》等3本著作,累积发表专利113篇。

苏统华
哈尔滨工业大学教授、软件学院副院长,人工智能祖冲之奖评委。负责新一代人工智能重大专项课题、国家重点研发课题等30余项,牵头教育部卓工人工智能领域研究生核心课“人工智能系统架构”。获聘华为首批昇腾领军人物(全国14人)

目录

  1. 目录
    1. 第1章 AI系统概述/1
      1. AI历史与现状/1
      2. A I发展驱动力/11
      3. A I系统架构介绍/19
      4. A I系统与A I算法关系/27
    2. **篇 A I硬件与体系结构
      1. 第2章 A I计算体系/37
        1. 引言/37
        2. A I计算模式/41
        3. 关键设计指标/57
        4. 核心计算之矩阵乘/63
        5. 计算之比特位宽/67
      2. 第3章 A I芯片体系/72
        1. C P U基础/72
        2. C P U指令集架构/81
        3. C P U计算本质/94
        4. C P U计算时延/99
        5. G P U基础/104
        6. A I专用芯片基础/123
      3. 第4章 G P U—以英伟达为例/130
        1. 引言/130
        2. Tensor Core基本原理/154
        3. Tensor Core架构演进/160
        4. Tensor Core深度剖析/171
        5. 分布式通信/179
        6. N VLink原理剖析 /186
        7. N VSwitch深度解析/194
      4. 第5章 T P U—以谷歌为例/202
        1. 引言/202
        2. 谷歌T P U v1脉动阵列/212
        3. 谷歌T P U v2训练芯片/219
        4. 谷歌T P U v3 Pod服务器/228
        5. 谷歌T P U v4与光路交换/235
      5. 第6章 N P U—以昇腾为例/244
        1. 引言/244
        2. 昇腾A I处理器/251
        3. 昇腾A I核心单元/259
        4. 昇腾数据布局转换/273
      6. 第7章 A I芯片思考与展望/279
        1. G P U架构与C U D A关系/279
        2. 从G P U对A I芯片思考/285
        3. A I芯片发展方向/291
        4. 超异构计算/298
    3. 第二篇 A I编择与计算架构
      1. 第8章 传统编译器/311
        1. 引言/311
        2. 传统编译器介绍/318
        3. G C C基本介绍与特征/324
        4. L L V M架构设计和原理/329
        5. L L V M I R基本概念/334
        6. L L V M I R细节详解/340
        7. L L V M前端和优化层/345
        8. L L V M后端代码生成/350
      2. 第9章 A I编译器/356
        1. 引言/356
        2. A I编译器历史阶段/365
        3. A I编译器基本架构/371
        4. A I编译器挑战与思考/378
      3. 第10章 前端优化/388
        1. 引言/388
        2. 图算I R/389
        3. 算子融合/393
        4. 布局转换原理/400
        5. 内存分配算法/406
        6. 常量折叠原理/412
        7. 公共子表达式消除原理/415
        8. 死代码消除/417
        9. 代数简化/420
      4. 第11章 后端优化/425
        1. 弓1言/425
        2. 计算与调度/428
        3. 算子手工优化/434
        4. 算子循环优化/440
        5. 指令和存储优化/447
        6. A u t o-Tuning 原理/452
      5. 第12章 计算架构/454
        1. 芯片的编程体系/454
        2. SIMD & SIMT与芯片架构/456
        3. SIMD & SIMT与编程关系/465
        4. C U D A计算结构/470
      6. 第13章 C A N N&Ascend C计算架构/475
        1. 昇腾异构计算架构C A N N/475
        2. C A N N与算子/482
        3. 算子开发编程语言Ascend C/485
        4. Ascend C语法扩展/492
        5. Ascend C编程范式以向量为例/500
    4. 第三篇 A I推理系统与引擎
      1. 第14章 推理系统/511
        1. 引言/511
        2. 推理系统介绍/515
        3. 推理流程全景/523
        4. 推理系统架构/526
        5. 推理引擎架构/530
        6. 昇腾推理引擎M r n d l E/549
        7. 昇腾计算语言AscendCL/552
      2. 第15章 模型小型化/561
        1. 推理参数了解/561
        2. C N N模型小型化/563
        3. Transformer模型小型化/579
      3. 第16章 模型轻量化/585
        1. 引言/585
        2. 量化基本原理/586
        3. 感知量化训练/592
        4. 训练后量化与部署/598
        5. 模型剪枝原理/604
        6. 知识蒸馏原理/611
      4. 第17章 模型转换/619
        1. 引言/619
        2. 推理文件格式/626
        3. 自定义计算图/634
        4. 模型转换流程/643
      5. 第18章 计算图优化架构/647
        1. 引言/647
        2. 离线图优化技术/651
        3. 其他计算图优化/667
      6. 第19章 Kernel优化/676
        1. 引言/676
        2. 卷积计算原理/680
        3. Im2Col算法/690
        4. W m o grad算法/698
        5. Q N N P A C K算法/705
        6. 推理内存布局/715
    5. 第四篇 A I框架核心模块
      1. 第20章 A I框架基础/721
        1. 引言/721
        2. A I框架作用/721
        3. A I框架之争/727
        4. A I框架的编程范式/735
        5. 昇思MrndSpore关键特性/741
      2. 第21章 自动微分/753
        1. 引言/753
        2. 什么是微分/753
        3. 微分计算模式/760
        4. 微分实现方式/768
        5. 动手实现自动微分/775
        6. 动手实现PyTorch微分/778
        7. 自动微分的挑战和未来/784
      3. 第22章 计算图/790
        1. 引言/790
        2. 计算图基本原理/791
        3. 计算图与自动微分/798
        4. 计算图的调度与执行/804
        5. 计算图的控制流实现/811
        6. 动态图与静态图转换/818
      4. 第23章 分布式并行/823
        1. 引言/823
        2. 数据并行/823
        3. 数据并行进阶/837
        4. 张量并行/849
        5. 流水并行/855
        6. 混合并行/858
        7. 昇思 MindSpore并行/860
    6. 参考文献/867
    7. 索引/883
    8. 彩图

查理·芒格的智慧:投资的格栅理论(原书第2版)

作为巴菲特的黄金搭档和幕后智囊,芒格与巴菲特创造了有史以来最优秀的投资纪录。芒格极其熟练地掌握了各种不同的学科,能够在投资时考虑到许多普通人不会考虑到的因素。

芒格用一个非常形象的比喻来说明不同学科的不同思维方式是如何相互作用的:格栅模型。“你的头脑中已经有了许多思维方式,你得按自己直接和间接的经验将其安置在格栅模型中。”

芒格告诉我们,将不同学科的思维模式联系起来建立融会贯通的格栅,是投资的最佳决策模式。用不同学科的思维模式思考同一个投资问题,如果能得出相同的结论,这样的投资决策更正确。懂得越多,理解越深,投资者就越聪明智慧。

芒格认为:“要努力学习,掌握更多股票市场、金融学、经济学知识,但同时要学会不要将这些知识孤立起来,而要把它们看成包含了心理学、工程学、数学、物理学的人类知识宝库的一部分。用这样宽广的视角就会发现,每一学科之间都相互交叉,并因此各自得以加强。一个喜欢思考的人能够从每个学科中总结出其独特的思维模式,并会将其联想结合,从而达到融会贯通。”

真正的、永远的成功属于那些首先努力建立思维模式格栅,然后学会以善于联系、多学科并用的方式思考的人们。

如果你想一窥这位投资天才的思维格栅模型,不妨从本书中寻找答案。

阿拉伯人的梦想宫殿:民族主义、世俗化与现代中东的困境

从政治、文化、文学的角度回顾20世纪的阿拉伯历史

以阿多尼斯等数十位阿拉伯人的生平与思考为线索

探究一个跨越百年的问题:

阿拉伯世界的现代化之路究竟在何方?

✈️

1982年6月6日,黎巴嫩的边境燃起了战火,以色列兵分三路入侵黎巴嫩南部。当天深夜的黎巴嫩首都贝鲁特,诗人哈利勒 ·哈维手持猎枪走向自家阳台,面朝大海与学校钟楼,对准脑袋扣动了扳机。他的尸体摔出栏杆,掉到了楼下的一簇茉莉花旁。八天后,以色列军兵临贝鲁特城下。

压垮哈维的最 后一根稻草,不仅是国家战败的耻辱,还有对整个阿拉伯民族走向复兴的绝望。半个多世纪以来,包括哈维在内的无数阿拉伯人曾为他们的世界构想过一座团结、进步、现代化的梦想宫殿。然而,传统派与改革派的争吵、世俗主义与神权政治的对抗、本土对西方的仇视,以及日趋狭隘的民族主义,最终耗尽了阿拉伯人心中的希望。

在本书中,黎巴嫩裔学者福阿德·阿贾米透过一双来自阿拉伯世界内部的眼睛,从政治、文化、文学的角度回顾了20世纪以来的阿拉伯历史。他沿着哈维、阿多尼斯、迈哈富兹、穆尼夫等阿拉伯知识分子的生命轨迹与思考路径,从黎巴嫩山区到埃及,再到阿拉伯半岛,讲述了这个伟大坚韧的民族数十年来经历的振兴与磨难,试图回答一个已被苦苦思索了近一百年的问题:阿拉伯世界的现代化之路究竟在何方?

走向火焰:帝国、战争与沙皇俄国的终结

★ 沃尔夫森历史奖得主、“最伟大的俄国史学家之一”利芬继《俄国与拿破仑的决战》之后再出力作

★ 首部俄国中心视角的一战史

★ 重新审视俄国参与一战的前因后果,以及一战对俄国革命以及20世纪历史的影响

【内容简介】

1904~1920年的国际形势瞬息万变,最具代表性的事件就是第一次世界大战的爆发。虽然沙皇身边一些思虑深远的人认识到俄国在德国显著军事优势下的脆弱性,伟大的俄国需要采取决定性行动的声音仍然占据了主导。俄国统治者们认为,1914年俄国加入战争的决定是在保卫国家未来,实际上它带来了诸多问题,并对20世纪的俄国和世界造成了深远的影响。《走向火焰》以俄国为核心研究对象,为第一次世界大战的起源、世界史视野下俄国革命发生原因的分析提供了一种新的俄国视角。

【本书获誉】

不仅是最伟大的俄国史学家之一,也是一名伟大的作家。

——安东尼·比弗,《独立报》

彻底改变我们对拿破仑为何失败的设想。

——安德鲁·罗伯茨,《每日电讯报》年度图书作者

精彩叙事的胜利……立刻成为经典作品,一项非凡、卓越、内容丰富的成就。

——西蒙·塞巴格·蒙蒂菲奥里

(他绘制了)宏大又细致的历史画卷……他无可避免地触及当代权力政治的神经点。

——《经济学人》

通过研究一批关于俄国如何走向战争的新证据,这部作品讲述了一批聪明又愚蠢的人如何毁掉自己的国家,并给自己带来灾难的故事。

——维克多·塞巴斯蒂安,《星期日泰晤士报》