MMLSpark - 用于 Apache Spark 的深度学习库


MIT
跨平台
Scala

软件简介

MMLSpark ,即 Microsoft Machine Learning for Apache Spark ,是微软开源的一个针对 Apache
Spark

的深度学习和数据可学工具,为大型映像和文本数据库快速创建强大、可缩放性能优越的预测和分析模型。

MMLSpark 可与 Microsoft Cognitive Toolkit
(CNTK,微软认知工具包)

OpenCV (计算机视觉库)无缝集成,允许:

  • 流入和预处理图像数据

  • 使用预先定型的深度学习模型特征化图像和文本

  • 使用隐式特征化对分类和回归模型进行定型和评分

示例:

...
import mmlspark
# Initialize CNTKModel and define input and output columns
cntkModel = mmlspark.CNTKModel() \
                    .setInputCol("images").setOutputCol("output") \
                    .setModelLocation(modelFile)
# Train on dataset with internal spark pipeline
scoredImages = cntkModel.transform(imagesWithLabels)
...