作者:辉少
1.文档编写目的
Fayson 在前面的文章《Hive表字段Comment中文乱码》中,介绍了在Hive中如何解决表字段中文注释乱码的问题,为了完善上篇文档,本文整理Hive表所有与中文注释相关的属性项,包括表字段、分区、表名、视图中文乱码,同时包括对该问题的分析。
- 测试环境
1.CM和CDH版本为6.1.0
2.Hive的版本为2.1.1
3.集群已启用Kerberos
4.RedHat7.4
2.问题描述
在Hive中创建有中文注释的表时,默认情况下无论是在beeline还是Hue中该注释显示都会是乱码。使用以下建表和查看语句:
CREATE TABLE test_comment (
s1 string COMMENT "测试字段",
s2 string COMMENT "测试字段2"
) COMMENT "测试表名"
partitioned BY (s3 string COMMENT "测试分区");
SHOW CREATE TABLE test_comment;
在beeline中查看如下:
Hue中显示一样,这里省略。
创建视图也是一样会出现乱码问题:
create view testview as select "测试视图" from student;
show create table testview;
select * from testview;
3.解决办法
这个问题是因为mysql中的Hive元数据库表默认创建字符编码为latin1,需要修改表中对应字段的字符类型
mysql –u root –p
use metastore;
#修改字段注释字符集
alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;
#修改表注释字符集
alter table TABLE_PARAMS modify column PARAM_VALUE varchar(40000) character set utf8;
#修改分区参数,支持分区建用中文表示
alter table PARTITION_PARAMS modify column PARAM_VALUE varchar(40000) character set utf8;
alter table PARTITION_KEYS modify column PKEY_COMMENT varchar(40000) character set utf8;
#修改表名注释,支持中文表示
alter table INDEX_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;
#修改视图,支持视图中文
ALTER TABLE TBLS modify COLUMN VIEW_EXPANDED_TEXT mediumtext CHARACTER SET utf8;
ALTER TABLE TBLS modify COLUMN VIEW_ORIGINAL_TEXT mediumtext CHARACTER SET utf8;
注意Hive元数据这个数据库应使用utf-8创建,如:create database metastore default character set utf8;
回到Hive中重新create一张表和视图,并查看
发现中文注释已经显示正常。
再重新创建分区并查看:
发现分区的中文也显示正常
注:在还未修改字符编码以前的创建的表,仍然需要重新执行ALTER语句后才能正常显示,所以建议在Hive 表中还没有数据时就将字符集修改过来
4
问题分析
针对该问题,Fayson 分析是由于Hive自动建表时设置了表的字符编码。
在创建Hive元数据库设置的字符集是utf8,查看语句如下:
在添加Hive 组件时,建表语句是由CDH自动完成的,任意选择Hive 元数据库metastore 下的两个表查看,发现其默认的字符集编码是latin1,如下
这也就解释了,虽然创建Hive元数据库的时设置字符编码为utf8,但依旧出现中文乱码的问题。建议在Hive 中还为添加数据时,先去通过上面的方法解决中文乱码问题,避免后期数据多去大量执行ALTER去修改。
推荐阅读:精品时尚网
-
盘盘在电视剧中有特殊含义的东西,你知道几个?
大多90后都深深的受到台湾偶像剧的茶毒,那时女生聚在一起时讨论的必然是其中的剧情、偶像,小编也不可避免的成为他们中的一份子,但是今天我们要说的不是偶像剧,是偶像...
2019-12-31 -
191231 代言人王一博上线发来新年祝福
代言人王一博上线营业带着安慕希一起向粉丝们发送新年祝福,希望大家都能够继续坚持自己的爱好与梦想!跟着一博对准安慕希扫2020,告诉一博你的愿望,把自己的目标变清...
2019-12-31 -
诗词大会送分题难倒清华才子,董卿不知说什么好
真正的好酒,哪怕历经岁月洗礼,也会愈久弥香;真正的好诗,哪怕时隔千年,也照样能惊艳世人。古诗词,就像一坛美酒,在近几年又开始被越来越多的人所喜爱。在木桌上用闪光...
2019-12-31 -
琅琊榜:梅长苏的密道没有封?萧景琰最后的眼神
琅琊榜:梅长苏的密道没有封?萧景琰最后的眼神,其实诠释了一切书接上文,关于苏宅的密道,其实这条密道在琅琊榜里面并没有显得那么受重视,毕竟这个时候,梅长苏萧景琰都...
2019-12-31 -
各家电视台跨年名单,均不见赵丽颖!疑因怼剧方
2019跨年在即,各家电视台早已在一周前就开始官宣跨年晚会的嘉宾阵容了,到目前为止除了黑料缠身的浙江卫视之外,其余电视台都已经公布完所有的跨年明星。值得注意的是...
2019-12-31 -
偶像陈绮贞却变老公外遇对象! 正宫怒丢光CD
图文/镜周刊林太太跟老公认识31年,结婚19年,但觉得他有外遇的这一年,无非还是希望可以回到过去,看在孩子份上维系和乐家庭。「但…有时他好不容易失踪又出现,我问...
2019-12-31