深度学习

到底什么是深度学习？

随着人工智能（AI）技术对各行各业有越来越深入的影响，我们也更多地在新闻或报告中听到“机器学习”、“深度学习”、“增强学习”、“神经网络”等词汇，对于非专业人士来说略为玄幻。这篇文章为读者梳理了包括这些在内的12个关键词，希望帮助读者更清晰地理解，这项人工智能技术的内涵和潜能。

(1)影响 GPU运算速度的技术指标有好几个. 一般人讨论计算速度时, 大多在说芯片时钟的速度. 芯片频率越高, 时钟的一个周期越短, 速度越快. 但这只是计算能力中的一个维度. 如果你看过我的这篇关于集装箱的文章《王川：集装箱震撼世界》 集装箱船运的效率, 除了轮船航行的速度 (类似芯片的速度) …

让你买买买停不下来的淘宝是如何做到所拍即所得的？

(1)回顾深度学习技术在图像识别,语音识别和自然语言处理上的突破, 可以看到的是一个很清晰的主脉络: 计算速度加快, 缩短了新算法的测试周期,成功的新算法, 迅速彻底地淘汰老算法. 谷歌的资深研究者 Jeff Dean 这样描绘算法测试速度的重要性: 如果一个实验要一个月才会出结果, 没有人会去测试…

1 基础 Andrew NG 的 Machine earning视频。 连接：主页，资料。 2008年Andrew Ng CS229 机器学习 当然基本方法没有太大变化，所以课件PDF可下载是优点。 中文字幕视频@网易公开课，英文版视频@youtube，课件PDF@Stanford Tom Mitc…

(1)循环神经网络, 在文字处理上的表现, 只是小荷才露尖尖角. 自然语言处理, 英文是 Natural Language Processing (NLP).其基本定义为: 把一段文字, 转化成一个数据结构, 力求清晰无误地表达文字的意义. 自然语言处理包括对自然语言的理解和生成, 典型应用如机器翻…

深度学习（Deep Learning）属于非常前沿的学科，没有现成的的综合型教材，主要是通过阅读大量论文和代码练习来学习。

  (1)循环神经网络 (RNN)的本质, 是可以处理一个长度变化的序列的输出和输入 (多对多). 广义的看, 如果传统的前馈神经网络做的事, 是对一个函数的优化 (比如图像识别). 那么循环神经网络做的事, 则是对一个程序的优化,应用空间宽阔得多.长短期记忆 (LSTM)的架构, 使有用…

(1)2012年十月, Geoffrey Hinton, 邓力和其他几位代表四个不同机构 (多伦多大学, 微软, 谷歌, IBM) 的研究者, 联合发表论文, “深度神经网络在语音识别的声学模型中的应用: 四个研究小组的共同观点” (Deep Neural Networks …

Theano是一个Python库，可以在CPU或GPU上运行快速数值计算。这是Python深度学习中的一个关键基础库，你可以直接用它来创建深度学习模型或包装库，大大简化了程序。

(1)RNN和 LSTM 发挥威力的重要应用之一, 是语音识别.一直到2009年之前, 主流的语音识别技术, 依靠的是统计学上的两个算法模型, 高斯混合模型 (Gaussian Mixture Model)和隐藏马尔科夫模型 (Hidden Markov Model). 马尔科夫模型, 是一个概率的…

学者热议：大数据并非越大越好 越发展难题越多 哈佛大学文理研究生院院长孟晓犁：大数据：越发展，难题越多 大数据这两年一直是热词。发展中的大数据确实带来了很多有用信息，但也使我们遇到越来越多的难题。其中最大的难题就是如何去伪存真，将那些带来误导的噪音去除。 因此，发展中的大数据需要的不仅是专业的数据信…

(1)迄今为止我们讨论的神经网络模型, 都属于一种叫做前馈网络 (feedforward network) 的东西. 简而言之, 前馈网络, 信息从底层不断往前单向传输,故而得名. RNN (Recurrent Neural Network), 也称循环神经网络, 多层反馈神经网络, 则是另一类非常…

(1)2013 年的 ImageNet 竞赛, 获胜的团队是来自纽约大学的研究生 Matt Zeiler, 其图像识别模型 top 5 的错误率, 降到了 11.5%. Zeiler 的模型共有六千五百万个自由参数, 在 Nvidia 的GPU 上运行了整整十天才完成训练. 2014年, 竞赛第一名…