清华iCenter 互联网+创新平台为全体在校学生创意、创新和创业助力。

智能系统实验室本学期继续《大数据与机器智能》课程,课号:01510243,欢迎大家选课!

深度学习

来自iCenter Wiki
跳转至: 导航搜索

深度学习的定义

深度学习(Deep Learning)是深度神经网络的另一种名称。

深度学习,机器学习中一种基于对数据进行表征学习的方法,试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。

本页面介绍深度学习相关的背景知识。


深度神经网络

深度神经网络,Deep Neural Networks,简称DNN。

卷积神经网络,Convolutional Neural Networks,简称CNN。

循环神经网络,Recurrent Neural Networks,简称RNN。

人工神经网络的历史

历史:The rebirth of neural networks, ISCA 2010. Rebirth_NN


四个层面

  • 目标与功能
语音识别、机器视觉、自然语言理解
智能问答是综合以上功能的高级系统
  • 核心技术
特定算法、机器学习算法、深度神经网络
  • 软件工具
TensorFlow / Caffe / Torch /Theano
  • 底层硬件
可编程逻辑阵列 FPGA / 通用图形处理器 GPGPU / 通用处理器 CPU 群集


阅读材料

深度学习-入门导读


国际研究

Google Brain (Jeffrey Dean)

Facebook AI Research (FAIR) (Yann LeCun)

MSR Deep Learning Technology Center (DLTC) (Li Deng)

OpenAI (Ilya Sutskever)


框架工具

Google

TensorFlow (Source Code)

TensorFlow_Whitepaper

Facebook

Torch (Source Code)

fbcunn

Microsoft

CNTK (Source Code)

DMLC

MXNet (Source Code)

Université de Montréal

Theano (Source Code)

Baidu

PaddlePaddle (Source Code)