• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

MultilayerPerceptronspark的MLP分类节点处理多分类数据时报错Failed to execute user defined function

武飞扬头像
nanwunanwunan
帮助1

MLP分类节点处理多分类数据时报错

spark的MultilayerPerceptronClassifier在处理三分类等多分类数据时,会报错,报错信息为:

org.apache.spark.SparkException: Failed to execute user defined function($anonfun$org$apache$spark$ml$feature$OneHotEncoderModel$$encoder$1: (double, int) => struct<type:tinyint,size:int,indices:array<int>,values:array<double>>)

解决办法

这是spark官方的问题,数据集的目标列应该为以0为起始参数,例如三分类当目标列的参数为0,1,2时则不会报错,为1,2,3时,则会报错。
如果你的目标列的参数信息为1,2,3,你可以利用自定义方程修改目标列:

    val explode: UserDefinedFunction = udf((xs: Int) => xs-1)
    data =data.withColumn(labelcol,explode(data(labelcol)))

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhgbcgcj
系列文章
更多 icon
同类精品
更多 icon
继续加载