MMLSpark ,即 Microsoft Machine Learning for Apache Spark ,是微软开源的一个针对 Apache Spark 的深度学习和数据可学工具,为大型映像和文本数据库快速创建强大、可缩放性能优越的预测和分析模型。
MMLSpark 可与 Microsoft Cognitive Toolkit (CNTK,微软认知工具包) 和 OpenCV (计算机视觉库)无缝集成,允许:
流入和预处理图像数据
使用预先定型的深度学习模型特征化图像和文本
使用隐式特征化对分类和回归模型进行定型和评分
示例:
... import mmlspark # Initialize CNTKModel and define input and output columns cntkModel = mmlspark.CNTKModel() \ .setInputCol("images").setOutputCol("output") \ .setModelLocation(modelFile) # Train on dataset with internal spark pipeline scoredImages = cntkModel.transform(imagesWithLabels) ...