• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

启动Spark有时成功有时报错

武飞扬头像
Heroic584
帮助1

环境:spark-2.4.8 CDH-6.3.2 scala-1.11.12

报错信息

  1.  
    Application application_1669708409043_0014 failed 2 times due to AM Container for appattempt_1669708409043_0014_000002 exited with exitCode: 1
  2.  
     
  3.  
    Failing this attempt.Diagnostics: [2022-11-29 18:01:11.661]Exception from container-launch.
  4.  
     
  5.  
    Container id: container_1669708409043_0014_02_000001
  6.  
     
  7.  
    Exit code: 1
  8.  
     
  9.  
    [2022-11-29 18:01:11.663]Container exited with a non-zero exit code 1. Error file: prelaunch.err.
  10.  
     
  11.  
    Last 4096 bytes of prelaunch.err :
  12.  
     
  13.  
    Last 4096 bytes of stderr :
  14.  
     
  15.  
    Error: Could not find or load main class org.apache.spark.deploy.yarn.ExecutorLauncher
  16.  
     
  17.  
    [2022-11-29 18:01:11.663]Container exited with a non-zero exit code 1. Error file: prelaunch.err.
  18.  
     
  19.  
    Last 4096 bytes of prelaunch.err :
  20.  
     
  21.  
    Last 4096 bytes of stderr :
  22.  
     
  23.  
    Error: Could not find or load main class org.apache.spark.deploy.yarn.ExecutorLauncher
学新通

原因:路径jar包没有识别读取到

学新通

解决办法:spark配置文件:spark-default.conf 中的spark.yarn.jars=路径找不到,检查hdfs或本地路径是否正确。注意:路径结尾加*。

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhcfjjki
系列文章
更多 icon
同类精品
更多 icon
继续加载