PyTorch开源

PyTorch开源

@新智元

从此用 Torch GPU 训练神经网络也可以写 Python 了。

对于 PyTorch （Github Page） 与 Torch 的关系，Facebook 研究员田渊栋在接受媒体采访时表示：

基本C/C++这边都是用的 Torch 原来的函数，但在架构上加了 autograd， 这样就不用写 backward 函数，可以自动动态生成 computational graph 并且自动求导，反向传递后自动回收内存，这个让写程序变得更方便了。另一个重要的不同是权值（weights）和activation/gradInput 分开了，这样同一个 layer 可以复用很多次，存储的时候也不用 clear gradient，不像以前 torch 需要clone_many_times。另外从 numpy ndarray 可以转到 torch.Tensor，不需要 copy。

Lua 这边一直有每个 thread 2G 的限制，这个对写多线程的程序不是很有利。Python有GIL，所以一般用 multiprocessing 写程序，PyTorch 针对这个有比较好的支持，比如支持进程间共享内存（这个对 parameter server 有利），支持 shared Cuda context，等等。

我自己已经在用了，写了一个增强学习的框架，效果还是不错的。

Google发布一个用于监督学习中语义消歧的大规模语料库

@机器之心

同一个单词在不同的句子中承担着不同的含义。比如，句子「he will receive stock in the reorganized company」中，根据新牛津美语词典（NOAD），我们依据上下文可以知道「stock」是指「公司企业通过发行和认购股份筹措到的资金」。但是，词典中，从「存货（goods in a store）」到「一种中世纪刑具」，stock 的定义有十多个。我们人类可以轻松理解，但是机器不行。为了解决这个问题，谷歌发布了基于流行的 MASC 和 SemCor 数据组的词义标注，人工标注了 NOAD 的各种词义。同时发布 NOAD 词义到研究社区更常用到的 English Wordnet 的映射，English Wordnet 是最大的全词义标注英文语料库发布之一。（Github Page）

---

初学

---

机器学习完整入门指南

@大数据文摘

建议在进入深入学习领域之前，应该了解机器学习的基本知识。“机器学习的学习路径”是一个完整的资源，让你开始了解该领域。

用TensorFlow搭建图像识别系统

@雷锋网

阅读本文前你并不需要具备机器学习的相关经验。示例代码是使用Python写的，如果你有Python的基础知识是最好的。但如果你只是掌握其他的编程语言，那也已经足够了。

作者Wolfgang Beyer目前正在学习人工智能和机器学习的内容。他认为最好的学习方式不是仅仅阅读各类材料，而是要真正地去动手搭建一个系统。

在这篇文章中Beyer将向你展示如何搭建一个系统，去完成一项简单的计算机视觉任务：识别图像内容。

---

进阶

---

GAN学习指南：从原理入门到制作生成Demo

@CSDN

生成式对抗网络（GAN）是近年来大热的深度学习模型。最近正好有空看了这方面的一些论文，跑了一个GAN的代码，于是写了这篇文章来介绍一下GAN。

本文主要分为三个部分：

1. 介绍原始的GAN的原理
2. 同样非常重要的DCGAN的原理
3. 如何在Tensorflow跑DCGAN的代码，生成如题图所示的动漫头像，附送数据集

2016年人工智能技术进展大盘点

@CSDN

如果说2015年大家还在质疑深度学习、人工智能，认为这是又一轮泡沫的开始，那么2016年可以说是人工智能全面影响人们生活的一年。从AlphaGo到无人驾驶，从美国大选到量子计算机，从小Ai预测“我是歌手”到马斯克的太空计划，每个焦点事件背后都与人工智能有联系。纵览2016年的人工智能技术，笔者的印象是实用化、智能化、芯片化、生态化，让所有人都触手可及。下面我们以时间为坐标，盘点这一年的技术进展。

---

趣味

---

让Alexa为你读论文

@Medium

Alexa有一个很有趣的功能（点击这里）。通过调用这个功能，你的Alexa能够为你朗读arxiv上最新的机器学习相关论文，Alexa会先读标题，然后问你是否想要继续摘要部分。你可以随时打断她，只要对她说“Alexa, next”。

这个功能会改变你很多习惯，例如早上的时间、通勤的时间都能被有效利用。

Just try it out.