雅虎开源CaffeOnSpark:基于Hadoop/Spark的分布式深度学习

发表于2016-02-27
评论1 675浏览

想免费获取内部独家PPT资料库?观看行业大牛直播?点击加入腾讯游戏学院游戏程序行业精英群

711501594
  在基于Hadoop集群的大规模分布式深度学习一文中,雅虎介绍了其集Caffe和Spark之长开发CaffeOnSpark用于大规模分布式深度学习,并向github.com/BVLC/caffe贡献了部分代码。现在,雅虎机器学习团队又在这篇tumblr文章上宣布将整个CaffeOnSpark开源作为Spark的深度学习包。

一、Github:yahoo/CaffeOnSpark(Apache 2.0 license)
  许多现有的DL框架需要一个分离的集群进行深度学习,而一个典型的机器学习管道需要创建一个复杂的程序(如图1)。分离的集群需要大型的数据集在它们之间进行传输,从而系统的复杂性和端到端学习的延迟不请自来。
图1 分离集群上复杂程序的ML Pipeline
  雅虎认为,深度学习应该与现有的支持特征工程和传统(非深度)机器学习的数据处理管道在同一个集群中,创建CaffeOnSpark意在使得深度学习训练和测试能被嵌入到Spark应用程序(如图2)中。
图2 单一集群上单程序的ML Pipeline

二、CaffeOnSpark:API&配置和CLI
  CaffeOnSpark被设计成为一个Spark深度学习包。Spark MLlib支持各种非深度学习算法用于分类、回归、聚类、推荐等,但目前缺乏深度学习这一关键能力,而CaffeOnSpark旨在填补这一空白。CaffeOnSpark API支持dataframes,以便易于连接准备使用Spark应用程序的训练数据集,以及提取模型的预测或中间层的特征,用于MLLib或SQL数据分析。
图3 CaffeOnSpark成为一个Spark深度学习package
使用CaffeOnSpark和MLlib的Scala应用如下:
 1:   def main(args: Array[String]): Unit = {
 2:   val ctx = new SparkContext(new SparkConf())
 3:   val cos = new CaffeOnSpark(ctx)
 4:   val conf = new Config(ctx, args).init()
 5:   val dl_train_source = DataSource.getSource(conf, true)
 6:   cos.train(dl_train_source)
 7:   val lr_raw_source = DataSource.getSource(conf, false)
 8:   val extracted_df = cos.features(lr_raw_source)
 9:   val lr_input_df = extracted_df.withColumn(“Label”, cos.floatarray2doubleUDF(extracted_df(conf.label)))10:     .withColumn(“Feature”, cos.floatarray2doublevectorUDF(extracted_df(conf.features(0))))11:  val lr = new LogisticRegression().setLabelCol(“Label”).setFeaturesCol(“Feature”)12:  val lr_model = lr.fit(lr_input_df)13:  lr_model.write.overwrite().save(conf.outputPath)14: }
这段代码演示了CaffeOnSpark和MLlib如何协同:
· L1-L4:初始化Spark上下文,并使用它来创建CaffeOnSpark和配置对象。
· L5-L6:使用CaffeOnSpark与HDFS上的一个训练数据集进行DNN训练。
· L7-L8:学习到的DL模型应用于从HDFS上的数据集提取特征。
· L9-L12:MLlib使用提取的特征进行非深度学习(用更具体的LR分类)。
· L13:可以保存分类模型到HDFS。
  CaffeOnSpark使得深度学习步骤能够无缝嵌入Spark应用。它消除了在传统的解决方案不得不做的数据移动(如图1所示),并支持直接在大数据集群上进行深度学习。直接访问大数据和大规模计算能力对深度学习至关重要。
  如同标准的CaffeCa,CaffeOnSpark用配置文件于求解器和神经网络。正如例子中的神经网络有一个MemoryData层有2个额外的参数:
· source_class指定数据源类
· source指定数据集的位置
  最初发布的CaffeOnSpark有几个内置的数据源类(包括com.yahoo.ml.caffe.LMDB的LMDB数据库和com.yahoo.ml.caffe.SeqImageDataSource的Hadoop的序列文件)。用户可以很容易地引入自定义的数据源类与现有的数据格式进行交互。
  CaffeOnSpark应用程序将通过标准的Spark命令(如spark-submit)launch。这里有两个spark-submit命令的例子。第一个命令使用CaffeOnSpark训练一个DNN模型保存到HDFS上。第二个命令是一个定制的嵌入CaffeOnSpark及MLlib的应用。
第一个命令:
spark-submit
   –files caffenet_train_solver.prototxt,caffenet_train_net.prototxt
   –num-executors 2  
   –class com.yahoo.ml.caffe.CaffeOnSpark  
      caffe-grid-0.1-SNAPSHOT-jar-with-dependencies.jar
      -train -persistent
      -conf caffenet_train_solver.prototxt
      -model hdfs:///sample_images.model
      -devices 2
第二个命令:
spark-submit
   –files caffenet_train_solver.prototxt,caffenet_train_net.prototxt
   –num-executors 2  
   –class com.yahoo.ml.caffe.examples.MyMLPipeline  

       caffe-grid-0.1-SNAPSHOT-jar-with-dependencies.jar

       -features fc8
       -label label
       -conf caffenet_train_solver.prototxt
       -model hdfs:///sample_images.model  
       -output hdfs:///image_classifier_model
       -devices 2
系统架构
图4 CaffeOnSpark系统架构
  CaffeOnSpark系统架构如图4所示(和之前相比没有变化)。Spark executor中,Caffe引擎在GPU设备或CPU设备上,通过调用一个细颗粒内存管理的JNI层。不同于传统的Spark应用,CaffeOnSpark executors之间通过MPI allreduce style接口通信,通过TCP/以太网或者RDMA/Infiniband。这个Spark+MPI架构使得CaffeOnSpark能够实现和专用深度学习集群相似的性能。
  许多深度学习工作是长期运行的,处理潜在的系统故障很重要。CaffeOnSpark支持定期快照训练状态,因此job出现故障后能够恢复到之前的状态。
  雅虎已经在多个项目中应用CaffeOnSpark,如Flickr小组通过在Hadoop集群上用CaffeOnSpark训练数百万张照片,显著地改进图像识别精度。现在深度学习研究者可以在一个AWS EC2云或自建的Spark集群上进行测试CaffeOnSpark。
  2016年3月18日-19日,由CSDN重磅打造的数据库核心技术与实战应用峰会、互联网应用架构实战峰会将在上海举行。这两场峰会将邀请业内顶尖的架构师和技术专家,共同探讨高可用/高并发系统架构设计、新技术应用、移动应用架构、微服务、智能硬件架构、云数据库实战、新一代数据库平台、产品选型、性能调优、大数据应用实战等领域的热点话题与技术。
  2月29日24点前仍处于最低六折优惠票价阶段,单场峰会(含餐)门票只需799元,5人以上团购或者购买两场峰会通票更有特惠,限量供应,预购从速。(票务详情链接)。

  加入GAD的核心用户QQ群:484290331,各类活动奖励任你拿,最新资讯任你读,众多教学任你免费学,如此好地方赶紧加入吧!另VR专属群:476511561,专业VR技术分享,专业导师指导为你答疑解惑,大型小型活动奖励等你拿,免费学习赚奖励的天地,欢迎你加入哟!

原文链接

著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

如社区发表内容存在侵权行为,您可以点击这里查看侵权投诉指引

游戏学院公众号二维码
腾讯游戏学院
微信公众号

提供更专业的游戏知识学习平台