2019深度学习框架决战：PyTorch横扫AI顶会，再夺NeurIPS 2019！

近日，Reddit的一则热帖引发机器学习社区大量讨论：f4k安检之家
 NeurIPS 2019使用的机器学习框架：PyTorch 68-> 166，TensorFlow 91-> 74f4k安检之家
帖主Horace He是康奈尔大学的学生，他的研究兴趣是编译器和机器学习的交叉。他分析了 NeurIPS 2019论文使用的机器学习框架，发现相比2018年，今年使用PyTorch的论文从68篇增加到166篇，使用TensorFlow的从91篇减少到74篇。f4k安检之家
f4k安检之家

从篇数上看，相比2018年，使用PyTorch的论文大幅增加，而TensorFlow略有下降f4k安检之家

f4k安检之家

在所有提及TensorFlow/PyTorch的论文中，PyTorch占了69%f4k安检之家

这印证了他的在上个月写了一篇题为《2019年机器学习框架的状态》的文章，指出PyTorch的增长在研究领域已经大幅超越TensorFlow，研究人员正在放弃TensorFlow并大量涌向PyTorch。同时，在工业界，Tensorflow当前仍然是首选框架，但长期来看可能并非如此。f4k安检之家

这篇全面分析比较PyTorch和Tensorflow的增长的文章当时引起热议，但有人质疑：这些结果是否只适用于NLP会议？f4k安检之家

现在，从NeurIPS会议的分析结果来看，答案是否定的。f4k安检之家

也有人仍然认为动态图/PyTorch只在NLP社区中流行。很显然，事实并非如此。f4k安检之家

从这些分析结果来看，PyTorch在深度学习研究，包括机器学习、计算机视觉和自然语言处理各领域都占据了主导地位，这点Yann LeCun也同意。f4k安检之家

f4k安检之家

Yann LeCun：NeurIPS19论文使用深度学习框架中，超过69%提到了PyTorch。PyTorch在深度学习研究(ML/CV/NLP会议)中占据了主导地位。f4k安检之家

f4k安检之家

实线是PyTorch，虚线是TensorFlowf4k安检之家

上图可以看出，各大ML/CV/NLP的顶会上，采用PyTorch的论文持续大幅增长，而TensorFlow增速减缓，甚至略有下降。f4k安检之家

f4k安检之家

实线是PyTorch，虚线是TensorFlowf4k安检之家

考虑到各大顶会录取论文数量年年增长，只看绝对数量不能完全反映实际。上图是采用PyTorch/TensorFlow的论文相对总论文数量的百分比，可以更明显地看出这一趋势。f4k安检之家

Reddit网友：从TensorFlow转PyTorch，真香f4k安检之家

造成这一趋势的原因是什么？PyTorch真的那么好用，足以让一大批研究人员放弃TensorFlow涌向PyTorch吗？f4k安检之家

从Reddit网友的评论来看，改用PyTorch的一致表示“真香”：f4k安检之家

f4k安检之家

过去两年我一直使用Keras/TF，直到最近我才改用PyTorch。现在我真的很喜欢PyTorch，我觉得它更简洁明了。只是我个人的看法。f4k安检之家
f4k安检之家

我喜欢使用PyTorch来设计带有怪异的训练、反向传播图和其他内容的新模型。我觉得使用PyTorch，即使你不能快速部署标准模型，也可以更自由地设计自己的自定义算法。也许这就是为什么它主要用于研究。f4k安检之家

f4k安检之家

我使用Tensorflow/Keras已经有一段时间了。我记得的结论是，Tensorflow在生产部署方面更出色，PyTorch在研究中表现更好。我最近开始使用PyTorch，不得不说我真的很喜欢它，感觉它更“pythonic”。此外，通过诸如ONNX之类的框架，部署(众所周知的模型)也开始变得不成问题。两者我都会继续使用。f4k安检之家

f4k安检之家

Tensorflow 2.0 vs PyTorch是一个艰难的选择。