spark straming。submit Python 脚本报错。

2017-11-24 11:11:55 +08:00
 yanzixuan

spark 2.2.0 默认安装,啥都没动 python 2.7.9 ipython 5.4.1 运行 network_wordcount 例子。 跑 scala 脚本成功,但是运行 python 的例子,直接报错: Job aborted due to stage failure: Task 0 in stage 2.0 failed 1 times, most recent failure: Lost task 0.0 in stage 2.0 (TID 1, localhost, executor driver): java.lang.IllegalArgumentException: port out of range:459092027

自己去谷歌了一下,这个 bug 被提交过: https://issues.apache.org/jira/browse/SPARK-7688

但是被认为不是 bug,直接关掉了 怎么解决的没说。 有达人知道怎么搞么?

4519 次点击
所在节点    Spark
4 条回复
kex0916
2017-11-24 11:44:02 +08:00
没用过 python spark,看 7688 介绍说升级到 python 3.1.0 可以用的嘛
yanzixuan
2017-11-24 14:13:08 +08:00
@kex0916 公司环境是 python2.7.无法啊。
kex0916
2017-11-24 14:30:24 +08:00
@yanzixuan 那就很尴尬了,或者考虑 scala+shell 的方式吧
tttwww18
2017-11-24 18:23:29 +08:00
https://issues.apache.org/jira/browse/SPARK-3772 作为参考,设置 PYSPARK_PYTHON 试试呢

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/409151

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX