惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Blog — PlanetScale
Blog — PlanetScale
G
Google Developers Blog
Microsoft Security Blog
Microsoft Security Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
腾讯CDC
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Jina AI
Jina AI
雷峰网
雷峰网
T
Tailwind CSS Blog
爱范儿
爱范儿
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
酷 壳 – CoolShell
酷 壳 – CoolShell
大猫的无限游戏
大猫的无限游戏
月光博客
月光博客
博客园 - 司徒正美
I
InfoQ
Engineering at Meta
Engineering at Meta
Vercel News
Vercel News
小众软件
小众软件
U
Unit 42
Google DeepMind News
Google DeepMind News
D
DataBreaches.Net

Dr34m's Blog

I Expect You To Die(我希望你死) 1,2,3 完整中文攻略 Linux换国内源 && docker安装 && 换加速镜像 Vue3 + Element-Plus 极简速查 随笔 pyinstaller打包的程序执行报错Failed to extract xxxx decompression resulted in return code -1 taoSync排除项简易教程 apscheduler的cron配置项 如何在绿联NAS中使用TaoSync同步我的文件到各个网盘 GB28181抓包记录 JS计算字节大小,把字节转换为KB/MB/GB/TB等 在Python中使用onvif管理摄像头,包括设备发现,获取RTSP地址,获取设备信息,截图,云台控制与缩放,设置时间 编写bat脚本实现对vue项目构建并压缩 内网穿透工具frp快速使用 CentOS 7.9 安装基础开发环境jdk redis nacos nginx mysql Pyinstaller 逆向 VUE实现复制与粘贴_获取剪切板内容 Electron + xterm.js + node-pty + vue 实现本地终端 child_process exec 中文乱码 Windows&Linux 解决方法 yum 更新 gcc CentOS安装并使用conda 将fluid主题博客的静态资源由第三方改为本地存储 一个上手即用的通用公众号/小程序/h5/app框架 python批量转化doc到docx SpringBoot单元测试注入空指针 TensorFlow 预测出现NaN的一种可能以及解决方法 随笔 python归一化数据 windows下python安装sasl遇到的问题及解决 将对象List中的某个字段放到新的List中[转载] Python http.server 本地服务支持跨域
windows本地配置spark开发环境
Dr3@m · 2022-01-18 · via Dr34m's Blog

目标

在windows系统本地配置spark开发环境,能够通过idea开发spark项目

实现

1. 安装JDK

不赘述,你能看到这必然已经装好了jdk并配置好了环境变量。

需要注意的是,如果jdk安装目录有空格,需要在配置环境变量的时候,把JAVA_HOME的配置地址用双引号引起来,不然后边的hadoop识别会有问题

2. 安装Spark

到官网https://spark.apache.org/downloads.html选择合适的版本下载,注意Spark与Hadoop版本选择要相对应,建议下载预编译(Pre-built)好的版本,省得麻烦

下载完成后解压到你喜欢的目录,然后配置环境变量,例如解压在C:\Users\dell\Documents\Env\spark-3.0.3-bin-hadoop3.2目录下,则环境变量如下配置

  • 配置变量名为SPARK_HOME,值为C:\Users\dell\Documents\Env\spark-3.0.3-bin-hadoop3.2
  • Path变量下新建%SPARK_HOME%\bin

3. 安装Hadoop

到官网https://hadoop.apache.org/releases.html下载与上边的Spark对应的版本

下载完成后解压到你喜欢的目录,然后配置环境变量,例如解压在C:\Users\dell\Documents\Env\hadoop-3.2.2目录下,则环境变量如下配置

  • 配置变量名为HADOOP_HOME,值为C:\Users\dell\Documents\Env\hadoop-3.2.2
  • Path变量下新建%HADOOP_HOME%\bin

到这里https://github.com/cdarlint/winutils对应版本的bin目录下载hadoop.dllwinutils.exe,复制到hadoop目录的bin目录下