软件简介

Scalding 是一个 Scala 库简化了 Hadoop MapReduce 作业开发。基于
Cascading 构建。Scalding 跟
Pig 类似，但提供更紧密的 Scala 集成。

Hadoop 是一个统计词（counting words）的分布式系统。这里看 Scalding 如何实现统计词：

package com.twitter.scalding.examples

import com.twitter.scalding._

class WordCountJob(args: Args) extends Job(args) {
  TypedPipe.from(TextLine(args("input")))
    .flatMap { line => tokenize(line) }
    .groupBy { word => word } // use each word for a key
    .size // in each group, get the size
    .write(TypedTsv[(String, Long)](args("output")))

  // Split a piece of text into individual words.
  def tokenize(text : String) : Array[String] = {
    // Lowercase each word and remove punctuation.
    text.toLowerCase.replaceAll("[^a-zA-Z0-9\\s]", "").split("\\s+")
  }
}