阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

使用Preprocessor预处理器语句对外部表进行介入处理

404次阅读
没有评论

共计 3352 个字符,预计需要花费 9 分钟才能阅读完成。

Oracle 外部表 External Table 是一项比较传统方便的工具。使用独立在文件系统中的文本文件为载体,通过 Directory 对象建立起虚拟数据表(External Table)和数据文件数据之间的关系。同时,通过直接加载等技术提高数据导入过程速度,让用户使用起来可以得到同数据库表相同的查询检索效率。

对于 External Table 技术,Oracle 在每个新版本中都在不断的丰富提升,一些更加实用的特性被不断加入到系统中。在 Oracle 11gR2(在 10gR2 较晚版本中最开始出现)版本中,正式推出了 Preprocessor 预处理器语句,在操作系统层面提供了对数据进入数据库前的程序介入接口。

本篇主要介绍 Preprocessor 语法的使用和应用场景,并且通过案例进行说明。

1、语法和内容

外部表 External Table 的核心在于定义数据表时候的描述参数,Preprocessor 特性实际上就是外部表定义过程中的一个参数项目。从语法结构上,如下图所示:

使用 Preprocessor 参数有配套参数项目,用于详细指定出究竟处理文本文件的函数是谁?在哪?directory_spec 参数是可选项目,如果处理函数位置和默认 Directory 不同,就是用这个来指定。File_spec 就是指定的函数处理程序对象。

从系统部署角度看,处理程序(加密或者压缩)和数据放在相同的位置显然不是一个好主意,同时也不是规范安全的做法。

注意:如果程序执行需要参数设置,需要写在 shell 或者 batch 脚本中指定。

2、实验背景环境

下面通过一个案例来进行说明。案例比较简单:受磁盘空间大小的限制,在文件系统中保存的外部表文件需要压缩保存,但是在读取的时候,需要即时进行解压处理。这种时候,就需要使用 Proprocessor 进行方便的程序处理。

我们选择使用 Oracle 11g 进行测试,具体版本为 11.2.0.4。

SQL> select * from v$version;

BANNER

——————————————————————————–

Oracle Database 11g Enterprise Edition Release 11.2.0.4.0 – 64bit Production

PL/SQL Release 11.2.0.4.0 – Production

CORE    11.2.0.4.0Production

TNS for Linux: Version 11.2.0.4.0 – Production

NLSRTL Version 11.2.0.4.0 – Production

在操作系统层面,设置文件存储结构。

– 目录结构准备

[root@localhost /]# mkdir -p /prtest/bin

[root@localhost /]# mkdir -p /prtest/data

[root@localhost /]# ls -l | grep prtest

drwxr-xr-x.  4 oracle oinstall  4096 Oct 13 15:59 prtest

准备压缩数据,为 csv 格式文件。

– 数据压缩准备

[oracle@localhost ~]$ cd /prtest/data/

[oracle@localhost data]$ ls -l

total 1264

-rw-r–r–. 1 oracle oinstall 1291480 Oct 13 16:02 tmp001.csv

[oracle@localhost data]$ gzip tmp001.csv

[oracle@localhost data]$ ls -l

total 340

-rw-r–r–. 1 oracle oinstall 346110 Oct 13 16:02 tmp001.csv.gz

处理程序可以是实际程序,也可以是一个 shell 或者 batch 执行脚本。我们在 Linux 环境下,准备一个简单的解压命令脚本。

[oracle@localhost data]$ cd /prtest/bin/

[oracle@localhost bin]$ echo ‘/bin/gunzip -c $1’ > uncompress.sh

[oracle@localhost bin]$ ls -l

total 4

-rw-r–r–. 1 oracle oinstall 18 Oct 13 16:05 uncompress.sh

[oracle@localhost bin]$ chmod 755 uncompress.sh

[oracle@localhost bin]$ ls -l

total 4

-rwxr-xr-x. 1 oracle oinstall 18 Oct 13 16:05 uncompress.sh

从部署结构看,/prtest/bin 目录保存执行程序,data 目录保存压缩版本数据。

3、外部表创建

结束了文件系统配置,后面可以进行数据库层面配置。首先,外部表 External Table 与文件系统接口就是 Directory 对象。

SQL> create directory execdir as ‘/prtest/bin’;

Directory created

SQL> grant read, write on directory execdir to scott;

Grant succeeded

SQL> create directory data_dir as ‘/prtest/data’;

Directory created

SQL> grant read, write on directory data_dir to scott;

Grant succeeded

SQL> grant execute on directory execdir to scott;

Grant succeeded

SQL> grant execute on directory data_dir to scott;

Grant succeeded

切换到 scott 用户。

SQL> show user

User is “scott”

SQL> create table xtab(obj_id number(10), obj_name varchar2(2000), obj_typ varchar2(2000))

  2  organization external

  3  (

  4    type oracle_loader

  5    default directory data_dir

  6    access parameters(

  7      records delimited by newline

  8      preprocessor execdir:’uncompress.sh’) –设置处理程序

  9    — fields (obj_id, obj_name, obj_typ)

 10    location(‘tmp001.csv.gz’)

 11  )

 12  REJECT LIMIT UNLIMITED

 13  parallel 2;

Table created

使用 select 语句。

SQL> select count(*) from xtab;

  COUNT(*)

———-

    31592

SQL> select * from xtab where rownum<5;

    OBJ_ID OBJ_NAME            OBJ_TYP

———– ——————– ———-

        20 ICOL$                TABLE

        46 I_USER1              INDEX

        28 CON$                TABLE

        15 UNDO$                TABLE

读取成功。

4、结论

从 Oracle 推荐的应用场景看,preprocessor 参数能够在两个层面起作用,一个是针对特殊的数据处理场景;另一个是管理职责划分。特殊的数据处理场景,比如压缩或者加密文本文件读取为外部表,透明的进行数据处理。职责划分上,数据使用者、提供者和管理程序之间,借助 Preprocessor 参数特性可以清晰的分割。

更多 Oracle 相关信息见 Oracle 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=12

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2016-10/136038.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计3352字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19348
评论数
4
阅读量
7805593
文章搜索
热门文章
开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南

开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南

开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南 大家好,我是星哥。之前介绍了腾讯云的 Code...
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
云服务器部署服务器面板1Panel:小白轻松构建Web服务与面板加固指南

云服务器部署服务器面板1Panel:小白轻松构建Web服务与面板加固指南

云服务器部署服务器面板 1Panel:小白轻松构建 Web 服务与面板加固指南 哈喽,我是星哥,经常有人问我不...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸

一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸 前言 作为天天跟架构图、拓扑图死磕的...
星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛 NAS 硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话? 前言 在选择 NAS 用预...
支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare 也瘫了连监控都挂,根因藏在哪? 最近两天的互联网堪称“故障...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛NAS硬件02:某鱼6张左右就可拿下5盘位的飞牛圣体NAS

星哥带你玩飞牛 NAS 硬件 02:某鱼 6 张左右就可拿下 5 盘位的飞牛圣体 NAS 前言 大家好,我是星...
【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件

【开源神器】微信公众号内容单篇、批量下载软件 大家好,我是星哥,很多人都希望能高效地保存微信公众号的文章,用于...
仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

仅2MB大小!开源硬件监控工具:Win11 无缝适配,CPU、GPU、网速全维度掌控

还在忍受动辄数百兆的“全家桶”监控软件?后台偷占资源、界面杂乱冗余,想查个 CPU 温度都要层层点选? 今天给...
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...