通过fuse使greenplum外部表能使用HDFS上的文件
来源:互联网 发布:weds数据已满 编辑:程序博客网 时间:2024/06/11 15:51
虽然在GREENPLUM 4.1版本已经支持直接外部表读、写HDFS上的文件了,不过有时候可能并不如使用本地磁盘一样方便,这个时候也许你就需要看看FUSE了。
1、首先进入$HADOOP_HOME/fuse-dfs目录下,执行如下命令通过FUSE把HDFS挂在到本地目录上
./fuse_dfs_wrapper.sh dfs://hadoop5:9000 /home/gpadmin1/joe.wangh/hive/hive
2、下面随便造一个文本文件,并把它PUT到HDFS中
[gpadmin1@hadoop5 ~]$ hadoop fs -ls /
Found 5 items
drwxr-xr-x - gpadmin1 supergroup 0 2011-06-02 17:02 /gp
drwxr-xr-x - gpadmin1 supergroup 0 2011-06-01 11:37 /hive
drwxr-xr-x - gpadmin1 supergroup 0 2011-05-31 11:45 /home
drwxr-xr-x - gpadmin1 supergroup 0 2011-05-30 16:20 /tmp
drwxr-xr-x - gpadmin1 supergroup 0 2011-05-30 16:19 /user
[gpadmin1@hadoop5 ~]$ cat 1.dat
1,2
3,4
5,6
[gpadmin1@hadoop5 ~]$ hadoop fs -put 1.dat /gp
3、启动gpfdist服务,创建外部表,指定相应的文本文件
nohup gpfdist -d /home/gpadmin1/joe.wangh/hive/hive/gp -p 8888 &
[gpadmin1@hadoop5 ~]$ psql
psql (8.2.15)
Type "help" for help.
aligputf8=# create external table t1_ext(
aligputf8(# id1 int,
aligputf8(# id2 int
aligputf8(# )
aligputf8-# Location (
aligputf8(# 'gpfdist://hadoop5:8888/1.dat'
aligputf8(# )
aligputf8-# Format 'TEXT' (delimiter as E',' null as '' escape 'OFF')
aligputf8-# Encoding 'gb18030' Log errors into t1_err segment reject limit 1000 rows ;
CREATE EXTERNAL TABLE
aligputf8=# select * from t1_ext;
id1 | id2
-----+-----
1 | 2
3 | 4
5 | 6
(3 rows)
aligputf8=#
OK,是可以查到数据的
- 通过fuse使greenplum外部表能使用HDFS上的文件
- greenplum通过hdfs访问外部表
- 在Greenplum外部表中使用HDFS
- Greenplum(4.3.8.2)使用GPHDFS协议创建外部表访问CDH5.7.0环境的HDFS文件系统
- CDH hadoop-hdfs-fuse的安装使用
- 使用Fuse挂载HDFS
- postgresq通过l外部表连接greenplum
- greenplum对hdfs文件的支持
- Greenplum使用gpload通过gpfdist实现文件的高速加载
- GREENPLUM在HADOOP上的可写外部表和可读外部表
- Greenplum中通过外部表进行数据导入导出
- Greenplum中通过外部表进行数据导入导出 .
- 通过虚拟机的hdfs读取本地mysql上的文件
- 通过脚本实现简单替换Hdfs上的文件
- 通过JAVA—API访问HDFS 上的文件
- greenplum创建外部表
- GREENPLUM中使用脚本导出非外部表的表结构
- GreenPlum 使用gpload通过gpfdist文件实现数据高速加载
- 修改jboss默认端口号及页面
- Android-Adapter应用总结
- 鼠标移动到指定位置显示内容
- COCOA 调用c库/c++库 (cocoa call to c library and c++ library)
- sturst2+json的action属性较多时指定返回指定数据
- 通过fuse使greenplum外部表能使用HDFS上的文件
- chroot, setuid() & set gid
- Lcr-5
- 一体两面
- jsp/servlet上传下载实例
- VS 2008 链接 MySQL数据库
- Mysql Innodb 引擎优化
- Sound Overview (1)
- 初探淘宝技术构架