在CentOS7的Hadoop集群上安装hive

news/发布时间2024/5/22 2:04:32

官网下载地址
阿里镜像
CentOS Linux release 7.9.2009 (Core)
JDK版本:1.8.0_401
Hadoop版本:3.4.0
MySQL版本:8.3.0
Hive版本:3.1.3
JDK安装
MySQL安装
Hadoop配置
提前配置
ssh免密
MySQL远程登录

下载hive并配置环境变量,服务器端和客户端分别在hive中添加hadoop环境变量,创建各自的配置文件。初始化hive前,clone2作为MySQL服务器开启远程登录,在这之前配置ssh免密,再之前关闭hive服务器和MySQL服务器的防火墙。

初始化hive前,启动hive客户端、hive服务器端、MySQL服务器hadoop集群

初始化hive前,在MySQL手动创建myhive库

slf4j多重绑定会报警,但不会阻碍运行

准备
第一步:下载tar包,使用xftp传输到主机并解压
第二步:添加环境变量

点击查看代码

[root@clone1 apache-hive-3.1.3-bin]# vim /etc/profile...前文省略...
#Java
export JAVA_HOME=/root/jdk1.8.0_401
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:JAVA_HOME/lib/dt.jar
export PATH=$PATH:$JAVA_HOME/bin
#Hadoop
export HADOOP_HOME=/root/hadoop-3.4.0
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/libexec
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root
#Hive
export HIVE_HOME=/root/apache-hive-3.1.3-bin
export PATH=$PATH:$HIVE_HOME/bin[root@clone1 apache-hive-3.1.3-bin]# source /etc/profile
第二步:找到或下载mysql-connector-java-8.3.0.jar并复制到$HIVE_HONE/lib下,然后分发给clone1

配置
clone1
第三步:
cd /root/apache*/conf

cp hive-env.sh.template hive-env.sh

vim hive-env.sh

Hadoop

export HADOOP_HOME=/root/hadoop-3.4.0

第四步:

点击查看代码
<configuration>
<property><name>hive.metastore.warehouse.dir</name><value>/user/hive_remote/warehouse</value></property><property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://clone2:3306/myhive?createDatabaseIfNoExist=true&amp;useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8</value></property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.cj.jdbc.Driver</value></property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value></property><property><name>javax.jdo.option.ConnectionPassword</name><value>Peng!3!4</value></property><property><name>hive.metastore.schema.verification</name><value>false</value></property><property><name>datanucleus.schema.autoCreateAll</name><value>true</value></property></configuration>
~                 ```
</details>
第五步:使用MySQL作为hive的元数据库
bin/schematool -dbType mysql -initSchemamaster
第三步:
cp /root/apache-hive-3.1.3-bin/lib/jline-2.12.jar  /root/hadoop-3.4.0/share/hadoop/yarn/lib/jlb
第四步:
cd /root/apache*/confcp hive-env.sh.template hive-env.shvim hive-env.sh`#Hadoop
export HADOOP_HOME=/root/hadoop-3.4.0`
第五步:
<details>
<summary>点击查看代码</summary>

hive.metastore.warehouse.dir

/user/hive_remote/warehouse

hive.metastore.local

false

hive.metastore.uris

thrift://clone1:9083

~ ```

启动
clone1
第六步:启动服务器服务后挂起
bin/hive --service metastore &
master
第六步:启动客户端
hive

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ulsteruni.cn/article/51233845.html

如若内容造成侵权/违法违规/事实不符,请联系编程大学网进行投诉反馈email:xxxxxxxx@qq.com,一经查实,立即删除!

相关文章

测试与发布

目录测试报告一、bug的发现与解决二、场景测试(scenario testing)发布说明一、功能说明二、对运行环境的要求三、安装方法四、已知的限制和缺陷五、发布方式和发布地址 测试报告 一、bug的发现与解决1.在测试过程中总共发现了多少Bug?每个类别的Bug分别为多少个? 答:共发现…

8086 汇编学习 Part 5

流程转移 背景 一般情况下指令是顺序地逐条执行的,而在实际中,常需要改变程序的执行流程。 转移指令可以控制 CPU 执行内存中某处代码的指令。 可以修改 IP ,或同时修改 CS 和 IP 的指令。分类 按转移行为分类段内转移 : 只修改 IP (例如 JMP AX) 段间转移 : 同时修改 C…

win10 hyper-v 配置教程

非家庭版跳过以下这一步。 pushd "%~dp0"dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hv.txtfor /f %%i in (findstr /i . hv.txt 2^>nul) do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"del hv.txtDi…

嵌入式Linux,openssh连接报错:ssh_sandbox_violation: unexpected system call

背景: 使用buildroot编译完镜像,烧录到开发板,板子上电启动后,网络正常,ssh不能连接,sshd相同配置在其他机器上可以正常使用; 查看内核日志,看到连接时上报异常系统调用的错误:Jan 1 00:01:18 NanoPC-T2 auth.crit sshd[278]: fatal: ssh_sandbox_violation: unexpec…

30 秒出服装设计稿,森马用函数计算+AIGC 整“新活”!

2023 年初,森马希望迅速将 AI 技术深度融入到企业的核心业务流程中,实现服装行业中,从产品设计、生产制造、营销推广到售后服务的全链条智能化升级。在一个阳光明媚的下午我们走进森马,一起聊聊这个陪伴一代代中国年轻人成长的企业,如何基于阿里云函数计算,快速实现传统服…

BurpSuite连接浏览器代理无法打开部分网页问题

BurpSuite连接浏览器代理时,部分页面能打开,部分页面报错的可能有效的解决方法。本人写这篇记录时,尚未熟悉bp基本操作,仅记录该次探索bp功能解决问题的心路历程。 发现并解决问题 最近两天为能打开尘封已久的bp,抓包做题,卸载了jdk20,下了jdk1.8(高版本jdk破解用的jav…