深度学习

来自iCenter Wiki
跳转至: 导航搜索

深度学习的定义

深度学习(Deep Learning)是深度神经网络的另一种名称。

深度学习,机器学习中一种基于对数据进行表征学习的方法,试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。

本页面介绍深度学习相关的背景知识。


深度神经网络

深度神经网络,Deep Neural Networks,简称DNN。

智能与神经科学,深度学习借鉴神经科学的发现。

卷积神经网络,Convolutional Neural Networks,简称CNN。

循环神经网络,Recurrent Neural Networks,简称RNN。

人工神经网络的历史

历史:The rebirth of neural networks, ISCA 2010. Rebirth_NN

四个层面

团队 Leader 说明
* 目标与功能  : 语音识别、机器视觉、自然语言理解  : 智能问答是综合以上功能的高级系统
* 核心技术  : 特定算法、机器学习算法、深度神经网络
* 软件框架  : TensorFlow /pyTorch /Torch /Caffe /Theano
* 底层硬件  : 可编程逻辑阵列 FPGA / 通用图形处理器 GPGPU / 通用处理器 CPU 群集

国际研究

团队 Leader 说明
Google Brain (Jeffrey Dean)
Facebook AI Research (FAIR) (Yann LeCun)
MSR Deep Learning Technology Center (DLTC) (Li Deng)
OpenAI (Ilya Sutskever)

框架工具

工具 公司 链接 说明
TensorFlow Google (Source Code) TensorFlow_Whitepaper
pyTorch Torch Facebook (Source Code) fbcunn
CNTK Microsoft (Source Code)
MXNet DMLC (Source Code)
Theano Université de Montréal (Source Code)
PaddlePaddle Baidu (Source Code)

阅读材料

深度学习-入门导读