到场

五天初学深度进修,这里有一份PyTorch实战课程

这是一门五天初学深度进修的实战课程。

念初学深度进修的小伙伴有福了!dataflowr 近来推出了一门五天初阶掌握深度进修的实战教程(实战运用 PyTorch 框架),有常识点有实例有代码,值得一看。该课程的创立和维护者是法国国立盘算机及主动化研讨院(INRIA)的研讨员 Marc Lelarge。

  • 课程地址:https://mlelarge.github.io/dataflowr-web/cea_edf_inria.html
  • 代码地址:https://github.com/mlelarge/dataflowr

该课程的教学目标是进修者可以了解:

  • 何时何地应当运用深度进修

  • 深度进修的义务原理

  • 深度进修前沿研讨

另外,该课程还期望进修者可以本人入手做深度进修项目。

这门实战课程要修业习者主动到场,切身入手实行,其运用的深度进修框架为 PyTorch。

课程目次

第一天:

  • (PPT)课程简介;

  • (代码)示例 1: Colab 上创立 VGG 模子到场 Kaggle 猫狗识别竞赛;

  • (代码)用 Autograd 做回归:PyTorch 简介。

第二天:

  • (PPT)线性/logistic 回归、分类和 Pytorch 模块;

  • (代码)了解卷积,创立首个数字识别神经收集

  • (PPT)嵌入和数据加载器(DataLoader);

  • (代码)协作过滤算法:矩阵因子剖析和引荐系统;

  • (PPT)变分自编码器

  • (代码)自编码器和变分自编码器

第三天:

  • (PPT)用于实活着界场景的深度进修;

  • (代码)Softmax 温度、混淆密度收集、通过反向传达的贝叶斯;

  • (PPT)生成对立收集

  • (代码)条件 GAN 和 InfoGAN。

第四天:

  • 轮回神经收集:PPT 及相关代码;

  • (代码)char-RNN 的 PyTorch 教程;

  • (代码)Word2vec;

  • (代码)试玩词嵌入;

  • 了解构造化自当心句子嵌入的论文和代码,从而掌握 Glove NLP 小项目。

第五天:

  • (PPT)翻开 AI 黑箱;

  • (代码)类激活图(CAM);

  • (代码)对立样本

  • 神经收集

期望对读者有所帮帮。

初学图神经收集GAN教程PyTorch
151
相关数据
VGG技能

2014年,牛津大学提出了另一种深度卷积收集VGG-Net,它比较于AlexNet有更小的卷积核和更深的层级。AlexNet前面几层用了11×11和5×5的卷积核以图像上获取更大的感觉野,而VGG采用更小的卷积核与更深的收集晋升参数服从。VGG-Net 的泛化功用较好,常用于图像特征的抽取目标检测候选框生成等。VGG最大的题目就于参数数目,VGG-19基本上是参数目最众的卷积收集架构。VGG-Net的参数主要呈现后面两个全连接层,每一层都有4096个神经元,可念而至这之间的参数会有何等庞大。

变分自编码器技能

变分自编码器可用于对先验数据分布举行修模。从名字上就可以看出,它包罗两部分:编码器息争码器。编码器将数据分布的高级特征映照到数据的初级外征,初级外征叫作本征向量(latent vector)。解码器接纳数据的初级外征,然后输出同样数据的高级外征。变分编码器是主动编码器的升级版本,其构造跟主动编码器是相似的,也由编码器息争码器构成。主动编码器中,需求输入一张图片,然后将一张图片编码之后取得一个隐含向量,这比原始方法的随机取一个随机噪声更好,因为这包罗着原图片的新闻,然后隐含向量解码取得与原图片对应的照片。可是如许实并不行恣意生成图片,因为没有方法本人去构制躲藏向量,以是它需求通过一张图片输入编码才晓得取得的隐含向量是什么,这时就可以通过变分主动编码器来办理这个题目。办理方法便是编码过车励它添加少许限制,迫使其生成的隐含向量可以大约的遵照一个标准正态分布,这便是其与一般的主动编码器最大的差别。如许生成一张新图片就比较容易,只需求给它一个标准正态分布的随机隐含向量,如许通过解码器就可以生成念要的图片,而不需求给它一张原始图片先编码。

神经收集技能

(人工)神经收集是一种根源于 20 世纪 50 年代的监视式板滞进修模子,那时分研讨者念象了「感知器(perceptron)」的念法。这一范畴的研讨者一般被称为「勾结主义者(Connectionist)」,因为这种模子模拟了人脑的功用。神经收集模子一般是通过反向传达算法运用梯度下降教练的。目前神经收集有两大主要类型,它们都是前馈神经收集:卷积神经收集(CNN)和轮回神经收集(RNN),此中 RNN 又包罗好坏期记忆(LSTM)、门控轮回单位(GRU)等等。深度进修是一种主要运用于神经收集帮帮其取得更好结果的技能。尽管神经收集主要用于监视进修,但也有少许为无监视进修计划的变体,比如主动编码器和生成对立收集(GAN)。

图神经收集技能

图收集即可以社交收集或其它基于图形数据上运转的一般深度进修架构,它是一种基于图构造的广义神经收集。图收集一般是将底层图形举措盘算图,并通过整张图上转达、转换和会合节点特征新闻,从而进修神经收集基元以生成单节点嵌入向量。生成的节点嵌入向量可举措任何可微预测层的输入,并用于节点分类或预测节点之间的连接,完备的模子可以通过端到端的方法教练。

对立样本技能

对立样本是一类被计划来混杂板滞进修器的样本,它们看上去与实样本的确实相同(无法用肉眼区分),但此中噪声的到场却会导致板滞进修模子做堕落误的分类判别。

生成对立收集技能

生成对立收集是一种无监视进修方法,是一种通过用对立收集来教练生成模子的架构。它由两个收集构成:用来拟合数据分布的生成收集G,和用来判别输入是否“实”的判别收集D。教练进程中,生成收集-G通过承受一个随机的噪声来尽量模拟教练汇合的实图片去“诈骗”D,而D则尽可以的区分实数据和生成收集的输出,从而变成两个收集的博弈进程。抱负的状况下,博弈的结果会取得一个可以“以假乱真”的生成模子。

引荐作品
请问pytorch的版本是众少呢?