PaddlePaddle - 百度分布式深度学习平台


Apache
Linux
C/C++

软件简介

PaddlePaddle (中文名:飞桨,PArallel Distributed Deep LEarning
并行分布式深度学习)是百度研发的深度学习平台,具有易用,高效,灵活和可伸缩等特点,为百度内部多项产品提供深度学习算法支持。

PaddlePaddle 的优势:

  • 同时支持动态图和静态图,兼顾灵活性和效率
    动态图具有方便调试、高效验证业务、快速实现想法等特点, 静态图具有方便部署、运行速度快,适合进行业务应用等特点, 助您灵活、高效地进行训练和预测

  • 精选应用效果最佳的算法模型并提供官方支持
    飞桨提供70+官方模型,全部经过真实应用场景的有效验证。 基于百度多年中文业务实践,提供更懂中文的NLP模型;
    同时开源多个百度独有的优势业务模型以及国际竞赛冠军算法

  • 真正源于产业实践,提供业界最强的超大规模并行深度学习能力
    飞桨是业内唯一全面支持大规模稀疏参数训练场景的开源框架, 支持千亿规模参数、数百个节点的高效并行训练

支持的特性

  • 易用性:为用户提供了直观且灵活的数据接口和模型定义接口

  • 灵活性:PaddlePaddle支持多种神经网络结构和优化算法。简单书写配置文件即可实现复杂模型,如带注意力机制或复杂记忆连接的神经机器翻译模型

  • 高效性:为充分发挥多种计算资源的效力,PaddlePaddle在计算、存储、架构、通信等多方面都做了细致优化,性能优异

  • 可伸缩性:PaddlePaddle全面支持多核、多GPU、多机环境,优化的通信实现使高吞吐与高性能成为可能,轻松应对大规模数据训练需求

PaddlePaddle 模型学习工具:PaddleHub

Paddle Fluid 内部执行流程:

Executor 设计思想: