Skip to content

Commit 740ee40

Browse files
luotao1luotao1
committed
Merge branch 'develop' into dir
2 parents e10e2d9 + 4a01887 commit 740ee40

File tree

4 files changed

+442
-61
lines changed

4 files changed

+442
-61
lines changed

‎doc/about/index_cn.md‎

Lines changed: 11 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,11 @@
1+
关于PaddlePaddle
2+
================
3+
4+
PaddlePaddle是一个最早由百度科学家和工程师共同研发的并行分布式深度学习平台，兼备易用性、高效性、灵活性和可扩展性，目前已被百度内部多个产品线广泛使用。
5+
PaddlePaddle目前已经开放源码, 但是远未完善，我们希望能在这个基础上不断的改进、扩展和延伸。
6+
同时我们希望广大开发者积极提供反馈和贡献源代码，建立一个活跃的开源社区。
7+
8+
致谢
9+
--------
10+
11+
在此，特别感谢PaddlePaddle的[所有贡献者](https://github.com/PaddlePaddle/Paddle/graphs/contributors)。

‎doc/howto/contribute_to_paddle_cn.md‎

Lines changed: 131 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,131 @@
1+
# 如何贡献代码
2+
3+
我们真诚地感谢您的贡献，欢迎通过 GitHub 的 fork 和 pull request 流程来提交代码。
4+
5+
## 代码要求
6+
- 你的代码必须完全遵守 [doxygen](http://www.stack.nl/~dimitri/doxygen/) 的样式。
7+
- 确保编译器选项 WITH\_STYLE\_CHECK 已打开，并且编译能通过代码样式检查。
8+
- 所有代码必须具有单元测试。
9+
- 通过所有单元测试。
10+
11+
以下教程将指导您提交代码。
12+
13+
## [Fork](https://help.github.com/articles/fork-a-repo/)
14+
15+
跳转到[PaddlePaddle](https://github.com/PaddlePaddle/Paddle) GitHub首页，然后单击 `Fork` 按钮。
16+
17+
## 克隆（Clone）
18+
19+
Paddle 目前使用[git流分支模型](http://nvie.com/posts/a-successful-git-branching-model/)进行开发，测试，发行和维护。
20+
**develop** 是主分支，其他用户分支是特征分支（feature branches）。
21+
22+
一旦你创建了一个fork，你可以使用你最喜欢的 git 客户端克隆你的仓库（repo）或只是直接在命令行输入：
23+
24+
```shell
25+
# 克隆 fork 到本地
26+
git clone --branch develop https://github.com/USERNAME/Paddle.git
27+
```
28+
如果你的仓库不包含 **develop** 分支，你只需自己创建它。
29+
30+
```shell
31+
git clone https://github.com/USERNAME/Paddle.git Paddle
32+
cd Paddle
33+
git checkout -b develop # 创建 develop 分支
34+
git remote add upstream https://github.com/PaddlePaddle/Paddle.git # 添加 upstream 到 baidu/Paddle
35+
git pull upstream develop # 更新 upstream
36+
git submodule update --init --recursive
37+
```
38+
39+
然后你可以通过做一个本地开发分支开始开发
40+
41+
```shell
42+
git checkout -b MY_COOL_STUFF_BRANCH
43+
```
44+
45+
## 使用 `pre-commit` 钩子
46+
47+
Paddle 开发人员使用 [pre-commit](http://pre-commit.com/) 工具来管理git预提交钩子。 它可以帮助我们格式化源代码（cpp，python），在提交前检查一些基本事宜（每个文件只有一个 EOL
48+
，git 中不要添加大文件）。 `pre-commit`测试是 Travis-CI 中单元测试的一部分，不满足钩子
49+
的 PR 不能提交代码到 Paddle。
50+
51+
你可以通过 `pip install pre-commit` 安装 [pre-commit](http://pre-commit.com/)，
52+
目前 Paddle 使用 `clang-format` 来调整C/C++源代码格式。请确保 clang-format 版本在3.8以上。
53+
54+
然后只需在 Paddle clone 目录中运行 `pre-commit install` 。当你
55+
提交你的代码时，pre-commit 钩子会检查本地代码是否存在
56+
不适合提交的东西，等等。
57+
58+
## 提交（Commit）
59+
60+
提交你的代码：
61+
62+
```shell
63+
# 显示工作树状态
64+
git status
65+
# 添加修改过的文件
66+
git add xx
67+
env EDITOR=vim git commit # 你可以用 vim/nano/emacs 写下你的注释
68+
```
69+
提交信息的第一行是标题，其他行可以添加一些细节（如果有必要的话）。
70+
71+
## 保持 Fork 状态最新
72+
73+
在拉（pull）你的请求（request）之前，你应该从最新的 PaddlePaddle 同步代码。
74+
为此，你需要首先添加远程（remote）：
75+
76+
```shell
77+
# 观察当前远程仓库配置
78+
git remote -v
79+
# 添加上游（upstream）仓库
80+
git remote add upstream https://github.com/PaddlePaddle/Paddle.git
81+
# 验证新的 upstream
82+
git remote -v
83+
```
84+
85+
用最新的 upstream 更新你的 fork：
86+
87+
```shell
88+
git pull --rebase upstream develop
89+
```
90+
如果本地没有提交，git 将简单地执行快进。但是，如果你一直在做一些改变（绝大多数情况下不应该），你可能要处理冲突。
91+
92+
现在，你的本地主分支与上游修改的一致并是最新的。
93+
94+
## 推送（Push）到 GitHub
95+
96+
```shell
97+
# 在 GitHub 上 push 你的仓库
98+
git push -u origin MY_COOL_STUFF_BRANCH # 创建远程分支 MY_COOL_STUFF_BRANCH 到 origin.
99+
```
100+
101+
## 拉取请求（Pull Request）
102+
103+
转到 GitHub上 你 fork 的页面，选择你的开发分支并单击 **pull request 按钮**。
104+
105+
## 使用最新版本更新你的 pull 请求
106+
107+
在代码审查（code review）期间，由于 baidu/Paddle 中新的提交导致你的 pull 请求可能会失效。如果没有冲突，GitHub允许自动更新。 你可以点击 pull request 页面中的“更新分支（Update Branch）”按钮。 但是如果存在代码冲突，你需要手动进行更新。你需要在本地仓库执行如下命令：
108+
109+
```shell
110+
git checkout MY_COOL_STUFF_BRANCH
111+
git pull upstream develop
112+
# 你可能需要根据git提示解决冲突
113+
# 创建并测试你的代码
114+
git push origin MY_COOL_STUFF_BRANCH
115+
```
116+
现在你的 Pull Request 是最新的了。
117+
118+
## 修改你的 pull request
119+
120+
当根据审阅者的意见修改 pull 请求时，请使用“git commit”而不是“git commit --amend”来提交更改，以便审阅者可以看到新的请求和旧的请求之间的区别。
121+
122+
可能的命令是
123+
124+
```shell
125+
git checkout MY_COOL_STUFF_BRANCH
126+
git pull upstream develop # 将本地更新到最新的代码库
127+
# 可能会发生一些冲突
128+
# 开始开发吧！
129+
env EDITOR=vim git commit # 添加修改日志
130+
git push origin MY_COOL_STUFF_BRANCH
131+
```

‎doc/howto/optimization/gpu_profiling_cn.rst‎

Lines changed: 239 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,239 @@
1+
PaddlePaddle 性能分析与调优
2+
=====================================
3+
4+
此教程将向您分步介绍如何使用内置的定时工具、 **nvprof** 或 **nvvp** 来运行性能分析和调优。
5+
6+
- 什么是性能分析？
7+
- 为什么需要性能分析？
8+
- 如何进行性能分析？
9+
- 性能分析工具介绍
10+
- 详细教程
11+
- 性能分析小技巧
12+
13+
什么是性能分析？
14+
================
15+
在软件工程的范畴里，性能分析（Profiling）是一个动态程序分析的术语，它可以指测量一个程序的空间（内存）复杂度或时间复杂度，
16+
也可以说是某些特定指令的使用情况，或者是函数调用的频率和耗时等。通常情况下，分析得到的信息用于协助进行程序的优化。
17+
18+
简单来说，性能分析工具是用于给应用程序的性能做定量分析的。如果想很好的理解程序的行为，那程序分析工具是必不可少的利器。简单的性能分析，可以告诉您某个操作到底花了多长时间？而更深入的分析，甚至能解释为什么某个操作花了很长时间？
19+
20+
为什么需要性能分析？
21+
============================
22+
训练好一个深层神经网络通常要耗费非常长的时间，所以性能也就逐步变成了深度学习领域最重要的指标。
23+
而优化性能的首要任务，是需要了解哪些步骤拖慢了整体。
24+
如果某一块根本就不怎么耗时，那也就不需要急着优化性能啦！
25+
26+
如何进行性能分析？
27+
========================
28+
为了达到性能最优，您可以采用下面五个步骤：
29+
30+
- 对代码进行性能分析
31+
- 找到运行慢的部分
32+
- 找到运行慢的原因
33+
- 修改成更快的版本
34+
- 再次对代码进行性能分析
35+
36+
Usually, processor has two key performance limits include float point throughput and
37+
memory throughput. For GPU, it also need more parallelism to fulfill its potential.
38+
This is why they can be so fast.
39+
40+
通常情况下，处理器有两个关键性能限制：一个是浮点计算量，另一个是内存操作量。
41+
GPU则还需要高并行性，才能发挥其全部能力。这正是它们速度快的原因。
42+
43+
性能分析工具介绍
44+
======================
45+
就通常的GPU性能分析来说，市面上已经有NVIDIA或第三方提供的众多工具。
46+
47+
**nvprof** 是Nvidia性能分析工具， **nvvp** 则是带GUI的Nvidia可视化性能分析工具。
48+
在这个教程中，我们主要会介绍nvprof和nvvp。
49+
50+
:code:`test_GpuProfiler` from :code:`paddle/math/tests` directory will be used to evaluate
51+
above profilers.
52+
53+
:code:`paddle/math/test` 目录中的 :code:`test_GpuProfiler` 就是用于展示上述分析工具的用法。
54+
55+
.. literalinclude:: ../../../paddle/math/tests/test_GpuProfiler.cpp
56+
:language: c++
57+
:lines: 137-151
58+
:linenos:
59+
60+
上述的代码片段包含了两种方法，您可以任意使用一个或两个来对感兴趣的代码段做性能分析。
61+
62+
1. :code:`REGISTER_TIMER_INFO` 是一个内置的定时器封装，可以用来计算CPU函数或cuda内核的时间消耗。
63+
64+
2. :code:`REGISTER_GPU_PROFILER` is a general purpose wrapper object of :code:`cudaProfilerStart` and :code:`cudaProfilerStop` to avoid
65+
program crashes when CPU version of PaddlePaddle invokes them.
66+
67+
3. :code:`REGISTER_GPU_PROFILER` 是一个封装对象，封装了 :code:`cudaProfilerStart` 和 :code:`cudaProfileStop` 两个操作；同时其内部实现可以避免纯CPU版本PaddlePaddle在执行本语句时发生崩溃。
68+
69+
您会在接下来的部分中获得更多的细节介绍。
70+
71+
详细教程
72+
============
73+
74+
内置定时器
75+
------------
76+
77+
如果想要启用PaddlePaddle的内置定时器，您首先需要在相关代码段中加入 :code:`REGISTER_TIMER_INFO`。
78+
接下来就可以使用 :code:`printStatus` 或者 :code:`printAllStatus` 函数来将信息输出到界面中。
79+
下面举个简单的例子：
80+
81+
1. 加入 :code:`REGISTER_TIMER_INFO` 和 :code:`printAllStatus` 函数（如高亮部分）。
82+
83+
.. literalinclude:: ../../../paddle/math/tests/test_GpuProfiler.cpp
84+
:language: c++
85+
:lines: 137-151
86+
:emphasize-lines: 8-12,14
87+
:linenos:
88+
89+
2. cmake配置中将 **WITH_TIMER** 打开，重新编译PaddlePaddle。
90+
91+
.. code-block:: bash
92+
93+
cmake .. -DWITH_TIMER=ON
94+
make
95+
96+
3. 执行您的代码，并观察结果(如高亮部分）。
97+
98+
.. code-block:: bash
99+
:emphasize-lines: 1,12-15
100+
101+
> ./paddle/math/tests/test_GpuProfiler
102+
I1117 11:13:42.313065 2522362816 Util.cpp:155] commandline: ./paddle/math/tests/test_GpuProfiler
103+
I1117 11:13:42.845065 2522362816 Util.cpp:130] Calling runInitFunctions
104+
I1117 11:13:42.845208 2522362816 Util.cpp:143] Call runInitFunctions done.
105+
[==========] Running 1 test from 1 test case.
106+
[----------] Global test environment set-up.
107+
[----------] 1 test from Profiler
108+
[ RUN ] Profiler.BilinearFwdBwd
109+
I1117 11:13:42.845310 2522362816 test_GpuProfiler.cpp:114] Enable GPU Profiler Stat: [testBilinearFwdBwd] "numSamples = 10, channels = 16, im
110+
gSizeX = 64, imgSizeY = 64"
111+
I1117 11:13:42.850154 2522362816 ThreadLocal.cpp:37] thread use undeterministic rand seed:20659751
112+
I1117 11:13:42.981501 2522362816 Stat.cpp:130] ======= StatSet: [GlobalStatInfo] status ======
113+
I1117 11:13:42.981539 2522362816 Stat.cpp:133] Stat=testBilinearFwdBwd total=136.141 avg=136.141 max=136.141 min=136.141 count=1
114+
I1117 11:13:42.981572 2522362816 Stat.cpp:141] ======= BarrierStatSet status ======
115+
I1117 11:13:42.981575 2522362816 Stat.cpp:154] --------------------------------------------------
116+
[ OK ] Profiler.BilinearFwdBwd (136 ms)
117+
[----------] 1 test from Profiler (136 ms total)
118+
119+
[----------] Global test environment tear-down
120+
[==========] 1 test from 1 test case ran. (136 ms total)
121+
[ PASSED ] 1 test.
122+
123+
nvprof 工具
124+
----------------
125+
126+
要使用命令行分析工具 **nvprof**，您按如下步骤操作即可：
127+
128+
1. 将 :code:`REGISTER_GPU_PROFILER` 函数加到代码中（参考强调部分）。
129+
130+
.. literalinclude:: ../../../paddle/math/tests/test_GpuProfiler.cpp
131+
:language: c++
132+
:lines: 137-151
133+
:emphasize-lines: 6-7
134+
:linenos:
135+
136+
2. cmake中将 **WITH_PROFILER** 配置打开，重新编译PaddlePaddle。
137+
138+
.. code-block:: bash
139+
140+
cmake .. -DWITH_PROFILER=ON
141+
make
142+
143+
3. 使用 **nvprof** 来分析执行文件。
144+
145+
.. code-block:: bash
146+
147+
nvprof ./paddle/math/tests/test_GpuProfiler
148+
149+
然后，您就能获得如下的分析结果：
150+
151+
.. code-block:: bash
152+
153+
==78544== Profiling application: ./paddle/math/tests/test_GpuProfiler
154+
==78544== Profiling result:
155+
Time(%) Time Calls Avg Min Max Name
156+
27.60% 9.6305ms 5 1.9261ms 3.4560us 6.4035ms [CUDA memcpy HtoD]
157+
26.07% 9.0957ms 1 9.0957ms 9.0957ms 9.0957ms KeBilinearInterpBw
158+
23.78% 8.2977ms 1 8.2977ms 8.2977ms 8.2977ms KeBilinearInterpFw
159+
22.55% 7.8661ms 2 3.9330ms 1.5798ms 6.2863ms [CUDA memcpy DtoH]
160+
161+
==78544== API calls:
162+
Time(%) Time Calls Avg Min Max Name
163+
46.85% 682.28ms 8 85.285ms 12.639us 682.03ms cudaStreamCreateWithFlags
164+
39.83% 580.00ms 4 145.00ms 302ns 550.27ms cudaFree
165+
9.82% 143.03ms 9 15.892ms 8.7090us 142.78ms cudaStreamCreate
166+
1.23% 17.983ms 7 2.5690ms 23.210us 6.4563ms cudaMemcpy
167+
1.23% 17.849ms 2 8.9247ms 8.4726ms 9.3768ms cudaStreamSynchronize
168+
0.66% 9.5969ms 7 1.3710ms 288.43us 2.4279ms cudaHostAlloc
169+
0.13% 1.9530ms 11 177.54us 7.6810us 591.06us cudaMalloc
170+
0.07% 1.0424ms 8 130.30us 1.6970us 453.72us cudaGetDevice
171+
0.04% 527.90us 40 13.197us 525ns 253.99us cudaEventCreateWithFlags
172+
0.03% 435.73us 348 1.2520us 124ns 42.704us cuDeviceGetAttribute
173+
0.03% 419.36us 1 419.36us 419.36us 419.36us cudaGetDeviceCount
174+
0.02% 260.75us 2 130.38us 129.32us 131.43us cudaGetDeviceProperties
175+
0.02% 222.32us 2 111.16us 106.94us 115.39us cudaLaunch
176+
0.01% 214.06us 4 53.514us 28.586us 77.655us cuDeviceGetName
177+
0.01% 115.45us 4 28.861us 9.8250us 44.526us cuDeviceTotalMem
178+
0.01% 83.988us 4 20.997us 578ns 77.760us cudaSetDevice
179+
0.00% 38.918us 1 38.918us 38.918us 38.918us cudaEventCreate
180+
0.00% 34.573us 31 1.1150us 279ns 12.784us cudaDeviceGetAttribute
181+
0.00% 17.767us 1 17.767us 17.767us 17.767us cudaProfilerStart
182+
0.00% 15.228us 2 7.6140us 3.5460us 11.682us cudaConfigureCall
183+
0.00% 14.536us 2 7.2680us 1.1490us 13.387us cudaGetLastError
184+
0.00% 8.6080us 26 331ns 173ns 783ns cudaSetupArgument
185+
0.00% 5.5470us 6 924ns 215ns 2.6780us cuDeviceGet
186+
0.00% 5.4090us 6 901ns 328ns 3.3320us cuDeviceGetCount
187+
0.00% 4.1770us 3 1.3920us 1.0630us 1.8300us cuDriverGetVersion
188+
0.00% 3.4650us 3 1.1550us 1.0810us 1.2680us cuInit
189+
0.00% 830ns 1 830ns 830ns 830ns cudaRuntimeGetVersion
190+
191+
192+
nvvp 工具
193+
--------------
194+
195+
如果想使用可视化的分析器 **nvvp**，您可以导入 :code:`nvprof -o ...` 的输出，或者从工具的界面里运行您的应用。
196+
197+
**备注: nvvp 也支持CPU的性能分析** (需在nvvp界面中选上才能开启）
198+
199+
.. image:: nvvp1.png
200+
:align: center
201+
:scale: 33%
202+
203+
从内核函数的角度， **nvvp** 可以精确说明一个长耗时操作的具体原因。
204+
同时，如下图所示， **nvvp** 的内核block使用情况、寄存器使用情况和共享内存使用情况能让我们对GPU的整体使用有更好的理解。
205+
206+
207+
.. image:: nvvp2.png
208+
:align: center
209+
:scale: 33%
210+
211+
而从应用的角度， **nvvp** 可以帮您提供一些定位性能瓶颈的建议。
212+
例如，下图中就展示了一些关于内存数据迁徙和计算资源利用率的建议，为您做性能调优提供了方向。
213+
214+
.. image:: nvvp3.png
215+
:align: center
216+
:scale: 33%
217+
218+
.. image:: nvvp4.png
219+
:align: center
220+
:scale: 33%
221+
222+
性能分析小技巧
223+
==================
224+
225+
- 开始阶段，从 **nvprof** 和 **nvvp** 的输出信息入手是个不错的选择。
226+
- 接下来可以考虑下时间线的分析。
227+
- 如果真想挖掘内核深处的某个秘密，您最好先确认：这一块的耗时比例真的太高，值得深入分析。
228+
- 可能的情况下，试着让输出的分析数据和理论值对应。
229+
230+
1) 例如，如果我知道内核花了10ms来移动1GB数据，那我会期望分析工具统计到速度是100GB/s。
231+
2) 若有不一致之处，很有可能实际应用就是没有按照您的预期情况运行。
232+
- 了解您的硬件：如果您的GPU理论可以达到6 TFLOPs（6万亿次浮点运算每秒），而当前已经有5.5 TFLOPs了，那估计这里的潜力就没啥好挖的了……
233+
234+
性能分析是性能优化的关键一步。有的时候简简单单的改变就能在性能上产生明显的优化效果！
235+
当然，具体情况因人而异。
236+
237+
参考资料
238+
===========
239+
Jeremy Appleyard, `GPU Profiling for Deep Learning <http://www.robots.ox.ac.uk/~seminars/seminars/Extra/2015_10_08_JeremyAppleyard.pdf>`_, 2015

0 commit comments

Comments
 (0)