Skip to content

Commit 8f08fa1

Browse files
committed
Merge branch 'develop' of https://github.com/PaddlePaddle/Paddle into develop_test
Synchronic code from PaddlePaddle/Paddle
2 parents 36af605 + 80b45ad commit 8f08fa1

File tree

36 files changed

+710
-218
lines changed

36 files changed

+710
-218
lines changed

demo/gan/gan_conf_image.py

Lines changed: 2 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -87,9 +87,9 @@ def conv_bn(input,
8787
print(imgSize, output_x, stride, filter_size, padding)
8888

8989
if trans:
90-
nameApx = "_conv"
91-
else:
9290
nameApx = "_convt"
91+
else:
92+
nameApx = "_conv"
9393

9494
if bn:
9595
conv = img_conv_layer(

demo/recommendation/preprocess.sh

Lines changed: 10 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -14,6 +14,15 @@
1414
# limitations under the License.
1515
set -e
1616

17+
UNAME_STR=`uname`
18+
19+
if [[ ${UNAME_STR} == 'Linux' ]]; then
20+
SHUF_PROG='shuf'
21+
else
22+
SHUF_PROG='gshuf'
23+
fi
24+
25+
1726
cd "$(dirname "$0")"
1827
delimiter='::'
1928
dir=ml-1m
@@ -25,7 +34,7 @@ python meta_generator.py $dir meta.bin --config=meta_config.json
2534
echo 'split train/test file'
2635
python split.py $dir/ratings.dat --delimiter=${delimiter} --test_ratio=0.1
2736
echo 'shuffle train file'
28-
gshuf $dir/ratings.dat.train > ratings.dat.train
37+
${SHUF_PROG} $dir/ratings.dat.train > ratings.dat.train
2938
cp $dir/ratings.dat.test .
3039
echo "./data/ratings.dat.train" > train.list
3140
echo "./data/ratings.dat.test" > test.list

doc/api/data_provider/dataprovider_cn.rst

Lines changed: 3 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1,7 +1,9 @@
1+
.. _api_dataprovider:
2+
13
DataProvider的介绍
24
==================
35

4-
DataProvider是PaddlePaddle负责提供数据的模块。其作用是将数据传入内存或显存,让神经网络可以进行训练或预测。用户可以通过简单使用Python接口 `PyDataProvider2 <pydataprovider2.html>`_ ,来自定义传数据的过程。如果有更复杂的使用,或者需要更高的效率,用户也可以在C++端自定义一个 ``DataProvider`` 。
6+
DataProvider是PaddlePaddle负责提供数据的模块。其作用是将数据传入内存或显存,让神经网络可以进行训练或预测。用户可以通过简单使用Python接口 :ref:`api_pydataprovider2` ,来自定义传数据的过程。如果有更复杂的使用,或者需要更高的效率,用户也可以在C++端自定义一个 ``DataProvider`` 。
57

68
PaddlePaddle需要用户在网络配置(trainer_config.py)中定义使用哪种DataProvider,并且在DataProvider中实现如何访问训练文件列表(train.list)或测试文件列表(test.list)。
79

doc/api/data_provider/pydataprovider2_cn.rst

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -1,3 +1,5 @@
1+
.. _api_pydataprovider2:
2+
13
PyDataProvider2的使用
24
=====================
35

doc/api/predict/swig_py_paddle_cn.rst

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -1,3 +1,5 @@
1+
.. _api_swig_py_paddle:
2+
13
基于Python的预测
24
================
35

doc/api/trainer_config_helpers/evaluators.rst

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -1,3 +1,5 @@
1+
.. _api_trainer_config_helpers_evaluators:
2+
13
==========
24
Evaluators
35
==========

doc/api/trainer_config_helpers/layers.rst

Lines changed: 10 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -187,6 +187,8 @@ get_output_layer
187187
Mixed Layer
188188
===========
189189

190+
.. _api_trainer_config_helpers_layers_mixed_layer:
191+
190192
mixed_layer
191193
-----------
192194
.. automodule:: paddle.trainer_config_helpers.layers
@@ -255,12 +257,16 @@ pooling_layer
255257
:members: pooling_layer
256258
:noindex:
257259

260+
.. _api_trainer_config_helpers_layers_last_seq:
261+
258262
last_seq
259263
--------
260264
.. automodule:: paddle.trainer_config_helpers.layers
261265
:members: last_seq
262266
:noindex:
263267

268+
.. _api_trainer_config_helpers_layers_first_seq:
269+
264270
first_seq
265271
---------
266272
.. automodule:: paddle.trainer_config_helpers.layers
@@ -282,6 +288,8 @@ block_expand_layer
282288
:members: block_expand_layer
283289
:noindex:
284290

291+
.. _api_trainer_config_helpers_layers_expand_layer:
292+
285293
expand_layer
286294
------------
287295
.. automodule:: paddle.trainer_config_helpers.layers
@@ -374,6 +382,8 @@ sampling_id_layer
374382
:members: sampling_id_layer
375383
:noindex:
376384

385+
.. _api_trainer_config_helpers_layers_cost_layers:
386+
377387
Cost Layers
378388
===========
379389

doc/api/trainer_config_helpers/networks.rst

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -36,6 +36,8 @@ img_conv_group
3636
:members: img_conv_group
3737
:noindex:
3838

39+
.. _api_trainer_config_helpers_network_simple_img_conv_pool:
40+
3941
simple_img_conv_pool
4042
--------------------
4143
.. automodule:: paddle.trainer_config_helpers.networks

doc/api/trainer_config_helpers/optimizers.rst

Lines changed: 4 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -1,3 +1,5 @@
1+
.. _api_trainer_config_helpers_optimizers:
2+
13
==========
24
Optimizers
35
==========
@@ -50,6 +52,8 @@ RMSPropOptimizer
5052
:members: RMSPropOptimizer
5153
:noindex:
5254

55+
.. _api_trainer_config_helpers_optimizers_settings:
56+
5357
settings
5458
========
5559
.. automodule:: paddle.trainer_config_helpers.optimizers

doc/faq/index_cn.rst

Lines changed: 6 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -35,7 +35,7 @@ PyDataProvider使用的是异步加载,同时在内存里直接随即选取数
3535

3636
.. literalinclude:: src/reduce_min_pool_size.py
3737

38-
这样做可以极大的减少内存占用,并且可能会加速训练过程,详细文档参考 `这里 <../ui/data_provider/pydataprovider2.html#provider>`_
38+
这样做可以极大的减少内存占用,并且可能会加速训练过程,详细文档参考 :ref:`api_pydataprovider2`
3939

4040
神经元激活内存
4141
++++++++++++++
@@ -95,22 +95,24 @@ PaddlePaddle支持Sparse的训练,sparse训练需要训练特征是 :code:`spa
9595

9696
.. literalinclude:: src/word2vec_config.py
9797

98-
更多关于sparse训练的内容请参考 `sparse训练的文档 <TBD>`_
9998

10099
利用更多的计算资源
101100
++++++++++++++++++
102101

103102
利用更多的计算资源可以分为一下几个方式来进行\:
104103

105104
* 单机CPU训练
105+
106106
* 使用多线程训练。设置命令行参数 :code:`trainer_count`。
107107

108108
* 单机GPU训练
109+
109110
* 使用显卡训练。设置命令行参数 :code:`use_gpu`。
110111
* 使用多块显卡训练。设置命令行参数 :code:`use_gpu` 和 :code:`trainer_count` 。
111112

112113
* 多机训练
113-
* 具体的多机训练方法参考 `多机训练文档 <../ui/data_provider/pydataprovider2.html#provider>`_ 。
114+
115+
* 请参考 :ref:`cluster_train` 。
114116

115117

116118
3. 遇到“非法指令”或者是“illegal instruction”
@@ -302,4 +304,4 @@ PaddlePaddle的参数使用名字 :code:`name` 作为参数的ID,相同名字
302304
git submodule init
303305
git submodule update
304306
305-
来获得所有第三方模块。
307+
来获得所有第三方模块。

0 commit comments

Comments
 (0)