电子发烧友网 > 人工智能 > 正文

深度学习前馈神经网络技术分析

2020年02月08日 19:03 次阅读

Index

多层感知机(MLP)介绍

深度神经网络的激活函数

深度神经网络的损失函数

多层感知机的反向传播算法

神经网络的训练技巧

深度卷积神经网络

前馈神经网络(feedforward neural network)是一种最简单的神经网络,各神经元分层排列。每个神经元只与前一层的神经元相连。玩呗棋牌_[官网入口]接收前一层的输出,并输出给下一层.各层间没有反馈。是目前应用最广泛、发展最迅速的人工神经网络之一。玩呗棋牌_[官网入口]研究从20世纪60年代开始,目前理论研究和实际应用达到了很高的水平。

——百度百科

深度学习模型,类似的模型统称是叫深度前馈网络(Deep Feedforward Network),其目标是拟合某个函数f,由于从输入到输出的过程中不存在与模型自身的反馈连接,因此被称为“前馈”。常见的深度前馈网络有:多层感知机、自编码器玩呗棋牌_[官网入口]、限制玻尔兹曼机、卷积神经网络等等。

01 多层感知机(MLP)介绍

说起多层感知器(Multi-Later Perceptron),不得不先介绍下单层感知器(Single Layer Perceptron),它是最简单的神经网络,包含了输入层和输出层,没有所谓的中间层(隐含层),可看下图:

也就是说,将输入向量赋予不同的权重向量,整合后加起来,并通过激活函数输出1或-1,一般单层感知机只能解决线性可分的问题,如下图:

我选择了0个隐含层,也就是我们介绍的单层感知机,对于可以线性可分的数据,效果还是可以的。如果我换成线性不可分的数据集,如下图,那么跑半天都跑不出个什么结果来。

这个时候就引入多层感知器,它相比单层感知器多了一个隐含层的东西,同样的数据集,我加入两层 隐含层,瞬间就可以被分类得很好。

玩呗棋牌_[官网入口]对于上面直观的了解,我这里还是要深入介绍一下多层感知机的原理。MulTI-Layer Perceptron(我们后面都叫MLP),MLP并没有规定隐含层的数量,因此我们可以根据自己的需求选择合适的层数玩呗棋牌_[官网入口],也对输出层神经元没有个数限制。

02 深度神经网络的激活函数

感知机算法中包含了前向传播(FP)和反向传播(BP)算法,但在介绍它们之前,我们先来了解一下深度神经网络的激活函数。

为了解决非线性的分类或回归问题,我们的激活函数必须是非线性的函数,另外我们使用基于梯度的方式来训练模型,因此激活函数也必须是连续可导的。 @ 磐创 AI

常用的激活函数主要是:

Sigmoid激活函数

Sigmoid函数就是LogisTIc函数,其数学表达式为:

对应函数图像为:

对应的导函数为:

可以看出,Sigmoid激活函数在定义域上是单调递增的,越靠近两端变化越平缓,而这会导致我们在使用BP算法的时候出现梯度消失的问题。

Tanh激活函数

Tanh激活函数中文名叫双曲正切激活函数,其数学表达式为:

对应函数图像为:

对应的导函数为:

同样的,tanh激活函数和sigmoid激活函数一样存在梯度消失的问题,但是tanh激活函数整体效果会优于Sigmoid激活函数。

Q:为什么Sigmoid和Tanh激活函数会出现梯度消失的现象?

A:两者在z很大(正无穷)或者很小(负无穷)的时候,其导函数都会趋近于0,造成梯度消失的现象。

ReLU激活函数

ReLU激活函数又称为修正线性单元或整流性单元函数,是目前使用比较多的激活函数,其数学表达式为:

对应函数图像为(a):

对应的导函数为:

玩呗棋牌_[官网入口]ReLU激活函数的收敛速度要比上面两种要快得多,ReLU激活函数的X轴左侧值恒为0,使得网络具有一定的稀疏性,从而减少参数之间的依存关系,缓解了过拟合的情况,而且它的导函数有部分为常数1,因此不存在梯度消失的问题。玩呗棋牌_[官网入口]但ReLU激活函数也有弊端,那就是会丢失一些特征信息。

LReLU激活函数

上面可以看到LReLU激活函数的图像了,它和ReLU激活函数的区别在于当z<0时,其值不为0,而是一个斜率为a的线性函数(一般a会是一个十分小的正数),这样子即起到了单侧抑制,也不完全丢失负梯度信息,其导函数表达式为:

03 深度神经网络的损失函数

损失函数(Loss FuncTIon)又被称为Cost FuncTIon,作用是用来表示预测值与真实值之间的误差,深度学习模型的训练是基于梯度的方法最小化Loss Function的过程,下面就介绍几种常见的损失函数。

均方误差损失函数

均方误差(Mean Squared Error,MSE)是比较常用的损失函数,其数学表达式如下:

交叉熵损失函数

交叉熵(Crocs Entropy)损失函数使用训练数据的预测值与真实值之间的交叉熵来作为损失函数,其数学表达式如下:

适用场景

玩呗棋牌_[官网入口]一般来说,MSE更适合输出值为连续值,并且最后一层不含Sigmoid或Softmax激活函数的神经网络;而交叉熵则适合二分类或者多分类的场景。

04 多层感知机的反向传播算法

在MLP中,输入信号通过各个网络层的隐节点产生输出的过程,我们称之为“前向传播“,而前向传播最终是产生一个标量损失函数。而反向传播算法(Backpropagation)则是将损失函数的信息沿着网络层向后传播用以计算梯度,达到优化网络参数的目的。

05 神经网络的训练技巧

神经网络的训练,常常会遇到的问题就是过拟合,而解决过拟合问题的方法也有很多,简单罗列下:Data Augmentation(数据增广)、Regularization(正则化)、Model Ensemble(模型集成)、Dropout等等。玩呗棋牌_[官网入口]此外,训练深度学习网络还有学习率、权重衰减系数、Dropout比例的调参等。还有Batch Normalization,BN(批量归一化)也可以加速训练过程的收敛,有效规避复杂参数对网络训练效率的影响。

Data Augmentation

Data Augmentation也就是数据增广的意思,就是在不改变数据类别的情况下,这里主要针对图像数据来说,主要包括但不限于:

1)角度旋转

2)随机裁剪

3)颜色抖动:指的是对颜色的数据增强,包括图像亮度、饱和度、对比度变化等

4)增加噪声:主要是高斯噪声,在图像中随机加入

5)水平翻转

6)竖直翻转

参数初始化

考虑到全连接的深度神经网络,同一层中的任意神经元都是同构的,所以拥有相同的输入和输出,如果参数全部初始化为同一个值,无论是前向传播还是反向传播的取值都会是一样的,学习的过程将无法打破这种情况。因此,我们需要随机地初始化神经网络的参数值,简单的一般会在

的均匀分布中去随机抽取,其中d是一个神经元接受的输入维度。

学习率

玩呗棋牌_[官网入口]学习率我们通常设为0.1,但是如果在实践中验证集上的loss或者accuracy不变的时候,可以考虑增加2~5倍的学习率。

Dropout原理

Dropout在深度学习网络训练中是十分常用的,指的是以一定的概率p随机丢弃一部分神经元节点,而这个“丢弃”只是临时的,是针对每一次小批量的训练数据而言,由于是随机丢弃,所以每一次的神经网络结构都会不一样,相当于每次迭代都是在训练不同结构的神经网络,有点像传统机器学习中的Bagging方法。

具体实现上,在训练过程中,神经元的节点激活值以一定的概率p被“丢弃”,也就是“停工”。因此,对于包含N个神经元节点的网络,在Dropout的作用下可以看做是生成 2的N次方个模型的集合,这个过程会减弱全体神经元之间的联合适应性,减少过拟合的风险,增强泛化能力。

Batch Normalization原理

因为神经网络的训练过程本质就是对数据分布的学习,因此训练前对输入数据进行归一化处理显得很重要。我们知道,神经网络有很多层,每经过一个隐含层,训练数据的分布会因为参数的变化而发生改变,导致网络在每次迭代中都需要拟合不同的数据分布,这样子会增加训练的复杂度以及过拟合的风险。

因此我们需要对数据进行归一化处理(均值为0,标准差为1),把数据分布强制统一再一个数据分布下,而且这一步不是一开始做的,而是在每次进行下一层之前都需要做的。也就是说,在网路的每一层输入之前增加一个当前数据归一化处理,然后再输入到下一层网路中去训练。

Regularizations(正则化)

这个我们见多了,一般就是L1、L2比较常见,也是用来防止过拟合的。

L1正则化会使得权重向量w在优化期间变得稀疏(例如非常接近零向量)。 带有L1正则化项结尾的神经网络仅仅使用它的最重要的并且接近常量的噪声的输入的一个稀疏的子集。相比之下,最终的权重向量从L2正则化通常是分散的、小数字。在实践中,如果你不关心明确的特征选择,可以预计L2正则化在L1的性能优越。

L2正则化也许是最常用的正则化的形式。它可以通过将模型中所有的参数的平方级作为惩罚项加入到目标函数(objective)中来实现,L2正则化对尖峰向量的惩罚很强,并且倾向于分散权重的向量。

Model Ensemble(模型集成)

模型集成在现实中很常用,通俗来说就是针对一个目标,训练多个模型,并将各个模型的预测结果进行加权,输出最后结果。主要有3种方式:

1)相同模型,不同的初始化参数;

2)集成几个在验证集上表现效果较好的模型;

3)直接采用相关的Boosting和Bagging算法。

06 深度卷积神经网络(CNN)

终于来到了我们耳熟能详的CNN了,也就是卷积神经网络(Convolutional Neural Network,CNN),它也是属于前馈神经网络的一种,其特点是每层的神经元节点只响应前一层局部区域范围内的神经元(全连接网络中每个神经元节点则是响应前一层的全部节点)。

一个深度卷积神经网络模型,一般由若干卷积层叠加若干全连接层组成,中间包含各种的非线性操作、池化操作。卷积运算主要用于处理网格结构的数据,因此CNN天生对图像数据的分析与处理有着优势,简单地来理解,那就是CNN是利用滤波器(Filter)将相邻像素之间的轮廓过滤出来。

Convolution(卷积)

卷积的滤波器(Filter)我们可以看做是一个window,可以观察下面的案例,有一个6X6的网络以及一个3X3的Filter,其中Filter的每个格子上有权值。拿着FIlter在网络上去移动,直到所有的小格子都被覆盖到,每次移动,都将Filter“观察”到的内容,与之权值相乘作为结果输出。最后,我们可以得到一个4X4的网格矩阵。(下面的6张图来自参考文献5,侵删)

Padding(填充)

卷积后的矩阵大小与一开始的不一致,那么我们需要对边缘进行填充,以保证尺寸一致。

Stride(步长)

也就是Filter移动的步伐大小,上面的例子为1,其实可以由我们自己来指定,有点像是学习率。

Depth(深度)

深度指的是图片的深度,一张6X6X3大小的图片经过3X3X3的Filter过滤后会得到一个4X4X1大小的图片,因此深度为1。我们也可以通过增加Filter的个数来增加深度,如下:

Pooling(池化)

因为滤波器在进行窗口移动的过程中会有很多冗余计算,效率很慢,池化操作的目的在于加速卷积操作,最常用的有Maxpooling,其原理如下图所示:

完整的深度CNN网络

卷积操作的本质

1)Sparse Interaction(稀疏交互)

因为卷积核的尺度会小于输入的维度,也就是我们的FIlter会小于网络大小一样,这样子每个输出神经元仅仅会与部分特定局部区域内的神经元存在连接权重(也就是产生交互),这种操作特性我们就叫稀疏交互。稀疏交互会把时间复杂度减少好几个数量级,同时对过拟合的情况也有一定的改善。

2)Parameter Sharing(参数共享)

指的是在同一个模型的不同模块使用相同的参数,它是卷积运算的固有属性。和我们上面说的Filter上的权值大小应用于所有网格一样。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

深度学习和神经网络

David,加州大学物理博士,美国著名电商数据科学家。本课程介绍什么是深度学习, 深度学习与机器学习的关系,几种神经网络
发烧友学院发表于 2017-11-08 00:00 7724次阅读
深度学习和神经网络

天地伟业推出口罩佩戴智能预警系统,特色及优势对比...

在疫情依旧严峻的局势下,天地伟业最新推出未戴口罩智能预警系统,为抗击疫情助力。
发表于 2020-02-08 17:11 7次阅读
天地伟业推出口罩佩戴智能预警系统,特色及优势对比...

人工智能的发展历史是怎么样的

人工智能是结合数学、计算机、心理学等学科理论发展起来的新学科,人工智能的目标是让机器模拟人类行为,代....
发表于 2020-02-06 15:16 198次阅读
人工智能的发展历史是怎么样的

英特尔已决定终止其Nervana神经网络处理器的...

Habana已经开发了两款自己的AI芯片,即Habana Gaudi和Habana Goya(如图)....
发表于 2020-02-06 15:06 247次阅读
英特尔已决定终止其Nervana神经网络处理器的...

人工智能进入工业大生产阶段

人工智能从概念到落地,经历了六十余年的探索。1956年,达特茅斯会议首次提出“人工智能”的概念,成为....
发表于 2020-02-06 14:59 219次阅读
人工智能进入工业大生产阶段

人工智能缓解气候异常的四种方式

微软坚信,在机器学习和深度学习的帮助下,人工智能将会成为生态系统困境的破局者。微软发起了地球人工智能....
发表于 2020-02-06 14:31 184次阅读
人工智能缓解气候异常的四种方式

神经网络有什么天生的性质

谷歌大脑研究人员通过精简神经网络结构,在前几代中发现了最小架构的神经网络能够控制此处所示的双足机器人....
发表于 2020-02-05 16:55 50次阅读
神经网络有什么天生的性质

人工智能技术让老电影变4K分辨率

插值的过程本身是一个计算过程,那么人工智能就有了用武之地,通过使用深度神经卷积网络
发表于 2020-02-05 16:15 75次阅读
人工智能技术让老电影变4K分辨率

人工智能怎么样才能与医疗领域相结合

随着人工智能与各个领域的结合不断地在加强与相互促进,推动了很多新兴学科领域的研究和发展,人工智能研究....
发表于 2020-02-05 15:13 226次阅读
人工智能怎么样才能与医疗领域相结合

构建生产机器学习系统需要注意些什么

从快速发展的库中提取代码并将其写入使用该库的修改过的旧版本的生产系统是很困难的。如何修改一个快速发展....
发表于 2020-02-04 13:35 39次阅读
构建生产机器学习系统需要注意些什么

区块链行业的未来将会如何?

区块链行业的未来将会如何?目前的市场应用将呈现出何种态势?又有哪些问题?我们又该如何理性看待?今天就....
发表于 2020-02-04 13:10 689次阅读
区块链行业的未来将会如何?

AI是如何来检测贫血的

尽管深度学习模型最初是主要用于白人参与者组成的数据,从而集合开发的,但为了解决持续存在的算法偏差问题....
发表于 2020-02-03 17:23 54次阅读
AI是如何来检测贫血的

如何使用Python应用软件实现车牌检测和识别

车牌的检测和识别的应用非常广泛,比如交通违章车牌追踪,小区或地下车库门禁。在对车牌识别和检测的过程中....
发表于 2020-02-03 15:21 258次阅读
如何使用Python应用软件实现车牌检测和识别

英特尔收购Habana 或将砍掉Nervana ...

 HabanaGaudi 芯片是为训练神经网络而设计的,包括支持 ROCE 以实现远程存储访问的片上....
发表于 2020-02-03 14:59 74次阅读
英特尔收购Habana 或将砍掉Nervana ...

AI的下一个战场将会是在哪里

当前的人工智能很多的研究,并不在于理解,是一个非常表象的匹配。
发表于 2020-02-03 13:54 43次阅读
AI的下一个战场将会是在哪里

医学成像领域的人工智能

随着人工智能(Artificial Intelligence,AI)在成像技术中的应用兴起,医疗行业....
发表于 2020-01-29 10:35 306次阅读
医学成像领域的人工智能

深度学习算法对于自动驾驶汽车上路到底有多重要

自动驾驶作为一种高度模仿人类驾驶的技术,实现无人驾驶分为感知、理解、决策和执行四个层次,由ECU、执....
发表于 2020-01-20 16:36 140次阅读
深度学习算法对于自动驾驶汽车上路到底有多重要

深度学习模型常用的数据增强方法

人工智能,或者说计算机视觉的一个最终目标在于构建一个真正可适用于真实世界复杂环境的系统。而就目前所应....
发表于 2020-01-19 17:03 188次阅读
深度学习模型常用的数据增强方法

智慧安防以后的趋势走向是怎样的

在前端设备智能化的同时,智能安防发展进程呈云边结合势态,系统逐渐形成“云边端”三级结构。
发表于 2020-01-17 15:40 173次阅读
智慧安防以后的趋势走向是怎样的

5G与AI将给数据中心带来了什么

随着2020年的到来,数据中心开始采用更新、更成熟的技术。具体来说,我们不仅将看到5G对边缘计算需求....
发表于 2020-01-17 15:18 266次阅读
5G与AI将给数据中心带来了什么

AI如何给教育领域系统带来改善

随着物联网技术、5G技术、云计算网络技术的不断进步,人工智能正推动人类社会迎来人机协同、跨界融合、共....
发表于 2020-01-17 13:43 179次阅读
AI如何给教育领域系统带来改善

人脸识别行业一个如何发展趋势是怎么样的

跟着智慧城市建设的脚步加速,人脸辨认、人工智能等新技能突破,智能化人脸辨认的发展趋势逐渐被各个职业喜....
发表于 2020-01-16 17:13 386次阅读
人脸识别行业一个如何发展趋势是怎么样的

基于3D数据卷积神经网络的物体识别

FusionNet的核心是全新的、应用于3D物体的三维卷积神经网络(Convolutional Ne....
发表于 2020-01-16 16:36 1153次阅读
基于3D数据卷积神经网络的物体识别

2020年,人工智能在网络安全领域的预算将平均增...

通常情况下,人们在网络安全中使用的通常不是人工智能,而是机器学习及其相关子领域:有监督、无监督、强化....
发表于 2020-01-16 15:54 260次阅读
2020年,人工智能在网络安全领域的预算将平均增...

智芯科微发布AT610x深度学习语音识别芯片

杭州智芯科微电子科技有限公司将AI、模拟计算芯片技术相结合,推出了一种低功耗、高性能的深度神经网络处....
发表于 2020-01-16 11:20 121次阅读
智芯科微发布AT610x深度学习语音识别芯片

人工智能全球2000位具有影响力的学者有哪一些

而当前人工智能领域热点研究话题位居前十的是:神经网络、卷积神经网络、机器学习、计算机视觉、移动设备、....
发表于 2020-01-16 09:47 148次阅读
人工智能全球2000位具有影响力的学者有哪一些

机器学习如何做好分布外异常检测?

近些年来,随着新细菌种类不断被发现,虽然基于已知分类训练的神经网络分类器通过交叉验证达到了很高的测量....
发表于 2020-01-16 09:39 546次阅读
机器学习如何做好分布外异常检测?

CFA二级思维导图分享:机器学习

在机器学习中,训练模型的算法数据集包括:训练样本(Trainning Sample),检验样本(va....
发表于 2020-01-16 09:25 536次阅读
CFA二级思维导图分享:机器学习

应聘机器学习工程师岗位你需要知道的12个基础面试...

假设一个简单的层计算公式 y = (Wx + b),y 在 W 上的导数就是这样:dy=dWx。因此....
发表于 2020-01-16 08:17 349次阅读
应聘机器学习工程师岗位你需要知道的12个基础面试...

机器学习预测计算机芯片执行来自各种应用程序的代码...

研究人员通过一种特殊的神经网络模型,它以“基本块”(计算指令的基本摘要)形式训练标记的数据,以自动预....
发表于 2020-01-16 08:13 307次阅读
机器学习预测计算机芯片执行来自各种应用程序的代码...

Rokid新一代Rokid Glass 2 AR...

Rokid于今日发布了最新一代AR眼镜Rokid Glass 2。
发表于 2020-01-15 17:13 1050次阅读
Rokid新一代Rokid Glass 2 AR...

人工智能浪潮中的计算社会科学

计算社会科学的发展。后工业化时代的复杂社会问题催生了计算社会科学的诞生。正是其所在的大数据时代使“我....
发表于 2020-01-15 14:32 467次阅读
人工智能浪潮中的计算社会科学

人工智能这几个领域的热度相对比较高

随着产业互联网的快速发展,大型科技公司纷纷推出了自己的人工智能平台,所以近几年有很多计算机专业的研究....
发表于 2020-01-15 11:05 425次阅读
人工智能这几个领域的热度相对比较高

人工智能可以解决“三体问题”吗

研究人员并未打算让这套神经系统独挑大梁,他们认为最好让Brutus之类的程序做大部分“苦力活”,而神....
发表于 2020-01-15 10:55 112次阅读
人工智能可以解决“三体问题”吗

人工智能赋能传媒技术,实现流程再造

随着5G时代的到来,内容供给,尤其是视音频内容的供给实现了智能化。5月,《人民日报》也推出了自己的人....
发表于 2020-01-15 10:55 534次阅读
人工智能赋能传媒技术,实现流程再造

清华人工智能研究院院长张钹:从“让数据说话”到引...

深度学习兴起之后,学界将目标转移至数据,提出“让数据说话”。张钹认为,这种强调对深度学习的发展起到积....
发表于 2020-01-15 10:41 527次阅读
清华人工智能研究院院长张钹:从“让数据说话”到引...

人工智能的介入在文学艺术圈制造了持久的喧哗

工智能的介入在文学艺术圈制造了持久的喧哗,各种观点错杂交叠。欣然接受人工智能的作家不多,反对人工智能....
发表于 2020-01-15 10:37 777次阅读
人工智能的介入在文学艺术圈制造了持久的喧哗

大盘点:巨头企业在2019是如何发展人工智能的

人工智能发展如火如荼,在人工智能赋能下的各个领域均取得了突破性的进展。
发表于 2020-01-14 16:49 211次阅读
大盘点:巨头企业在2019是如何发展人工智能的

人工智能如何和加密货币创造新的商机

随着加密货币的兴起,以及可能与人工智能结合在一起,因而人工智能越来越受欢迎,不但进入主流媒体,也成为....
发表于 2020-01-13 16:02 95次阅读
人工智能如何和加密货币创造新的商机

清华大学发布人工智能全球2000位最具影响力学者...

从国家角度看,美国学者人数的占比最高,有1128人,占比61.4%,超过总人数的一半,独自领跑第一梯....
发表于 2020-01-13 15:12 556次阅读
清华大学发布人工智能全球2000位最具影响力学者...

新理论框架助力AI看见更高维度

计算机能驾驶汽车,打败围棋和世界象棋的冠军,甚至还能写文章。今天的 AI 革命很大程度上是来自于被称....
发表于 2020-01-13 14:18 348次阅读
新理论框架助力AI看见更高维度

人工智能的下一个前沿在哪里

传统上,深度学习算法(例如深度神经网络 DNN)以有监督的方式进行训练,以识别特定类别的事物。
发表于 2020-01-13 11:53 106次阅读
人工智能的下一个前沿在哪里

如何让人工智能和人类共存

人工智能不但显著提高了生产效率,也让人类生活变得更加舒便捷。
发表于 2020-01-10 14:36 403次阅读
如何让人工智能和人类共存

人工智能人文反思热成为焦点

人工智能的认知与情感问题。这方面的研究大致可分为三类。一是重视价值语境,针对人工智能的发展是否会出现....
发表于 2020-01-08 14:55 486次阅读
人工智能人文反思热成为焦点

专为高中生打造的人工智能教材今年出版

为推动完善人工智能教育体系,清华大学交叉信息研究院在图灵奖得主、院长姚期智院士的带领下,在计算机科学....
发表于 2020-01-08 14:45 557次阅读
专为高中生打造的人工智能教材今年出版

如今的人工智能已经可以识别医疗死亡风险

根据Geisinger的发布,Geisinger研究人员最近发现,人工智能可以检查心电图(ECG)测....
发表于 2020-01-08 11:12 318次阅读
如今的人工智能已经可以识别医疗死亡风险

人工智能2019:争议依然如影随形

如果说,人工智能刚开始落地时,人们还充满惶恐,记者与写稿机器人等人工智能辅助工具的关系,还曾一度被渲....
发表于 2020-01-08 10:09 970次阅读
人工智能2019:争议依然如影随形

人工智能失去安全会导致什么的发生

深度学习需要大量的数据与强大的运算力才可能达成高准确度仿真模型,而大量的数据,在很多方面就必须依靠物....
发表于 2020-01-07 17:15 148次阅读
人工智能失去安全会导致什么的发生

如何让汽车有自我思考的能力

世界各国的各地政府正在朝着一个长期目标迈进,那就是让智慧城市拥有自动驾驶和高度自动化的车辆,并将其集....
发表于 2020-01-07 15:32 142次阅读
如何让汽车有自我思考的能力

在多方推动下 自动驾驶技术将取得更多新成果

自动驾驶作为一种高度模仿人类驾驶的技术,实现无人驾驶分为感知、理解、决策和执行四个层次,由ECU、执....
发表于 2020-01-07 14:11 106次阅读
在多方推动下 自动驾驶技术将取得更多新成果

BP模糊神经网络纯电动汽车电机控制

针对传统比例积分(PI)控制在电机控制中控制效果不良的问题,设计了一种基于向后传播算法(BP)模糊神经网络的P...
发表于 2019-12-10 16:32 434次阅读
BP模糊神经网络纯电动汽车电机控制

深度学习入门

发表于 2019-12-03 18:11 330次阅读
深度学习入门

BiLSTM模型的CRF层是怎么工作的?

BiLSTM模型中CRF层的运行原理-1
发表于 2019-11-06 09:26 157次阅读
BiLSTM模型的CRF层是怎么工作的?

平衡Winnow算法在短信过滤系统上有什么应用?

手机短信以其短小、迅速、简便、价格低廉等优点成为一种重要的通信和交流方式,受到众多人士的青睐。然而, 手机短信与...
发表于 2019-11-01 07:04 180次阅读
平衡Winnow算法在短信过滤系统上有什么应用?

浅析监督学习算法MLPClassifier

sklearn 神经网络 MLPClassifier简单应用与参数说明...
发表于 2019-10-23 10:46 191次阅读
浅析监督学习算法MLPClassifier

如何设计基于FPGA的通用CNN加速?

随着互联网用户的快速增长,数据体量的急剧膨胀,数据中心对计算的需求也在迅猛上涨。同时,人工智能、高性能数据分析...
发表于 2019-10-23 07:17 234次阅读
如何设计基于FPGA的通用CNN加速?

FPGA和深度学习有什么关系?

人工智能的风潮从技术一路蔓延到硬件,让“芯片”成为今年行业里盛极一时的主题。人们关注通用芯片领域里CPU和GP...
发表于 2019-10-18 08:30 244次阅读
FPGA和深度学习有什么关系?

用代码实现人工神经网络原理

学习笔记CB014TensorFlow seq2seq模型步步进阶
发表于 2019-10-12 07:34 171次阅读
用代码实现人工神经网络原理

为什么说FPGA是机器深度学习的未来?

  最近几年数据量和可访问性的迅速增长,使得人工智能的算法设计理念发生了转变。人工建立算法的做法被计算机从大量...
发表于 2019-10-10 06:45 318次阅读
为什么说FPGA是机器深度学习的未来?

阿里妈妈的深度学习演进之路

深度学习如何应用在广告、推荐及搜索业务?阿里妈妈实践案例解读...
发表于 2019-09-29 14:15 192次阅读
阿里妈妈的深度学习演进之路

页面底部区域 foot.htm