阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

使用Oracle Logminer同步Demo

383次阅读
没有评论

共计 5708 个字符,预计需要花费 15 分钟才能阅读完成。

1 Demo 介绍

1.1 Demo 设想

前面介绍了 Oracle LogMiner 配置使用以及使用 LogMiner 进行解析日志文件性能,在这篇文章中将利用 LogMiner 进行数据同步,实现从源目标数据库到目标数据库之间的数据同步。由于 LogMiner 支持的版本是 8.1 及以上,所以进行数据同步的 Oracle 数据库版本也必须是 8.1 及以上。

Oracle Logminer 性能测试  http://www.linuxidc.com/Linux/2017-02/140527.htm

Oracle Logminer 配置使用图文详解 http://www.linuxidc.com/Linux/2017-02/140526.htm

当然在本文中介绍的是 LogMiner 进行数据同步例子,也可以利用 LogMiner 进行数据审计、数据操作追踪等功能,由于这些从操作原理来说是一致,在本文不做讨论。

1.2 框架图

使用 Oracle Logminer 同步 Demo

1.3 流程图

使用 Oracle Logminer 同步 Demo

l 配置阶段

1、控制端:指定源端、目标端数据库信息、LOGMINER 同步时间等配置信息;

l 获取源端同步数据

2、控制台:通过定时轮询的方式检测是否到达数据同步时间,如果是则进行数据同步,否则继续进行轮询;

3、源数据库:定时加载数据库归档日志文件到动态表 v$logmnr_contents 中;

4、源数据库:根据条件读取指定 sql 语句;

l 目标端数据入库

5、源数据库:执行 sql 语句。

2 代码分析

2.1 目录及环境配置

在该 Demo 项目中需要引入 Oracle JDBC 驱动包,具体项目分为四个类:

1. Start.java:程序入口方法;

2. SyncTask.java:数据同步 Demo 核心,生成字典文件和读取日志文件、目标数据库执行 SQL 语句等;

3. DataBase.java:数据库操作基础类;

4. Constants.java:源数据库、目标数据库配置、字典文件和归档文件路径。

使用 Oracle Logminer 同步 Demo

2.2 代码分析

2.2.1 Constants.java

在该类中设置了数据同步开始 SCN 号、源数据库配置、目标数据库配置以及字典文件 / 日志文件路径。需要注意的是在源数据库配置中有两个用户:一个是调用 LogMiner 用户,该用户需要拥有 dbms_logmnr、dbms_logmnr_d 两个过程权限,在该 Demo 中该用为为 sync;另外一个为 LogMiner 读取该用户操作 SQL 语句,在该 Demo 中该用为为 LOGMINER。

package com.constants;

/**
* [Constants]| 描述:Logminer 配置参数
* @作者: ***
* @日期: 2013-1-15 下午 01:53:57
* @修改历史:
*/
public class Constants {
   
   
/** 上次数据同步最后 SCN 号 */
    public static String LAST_SCN = “0”;

   /** 源数据库配置 */
    public static String DATABASE_DRIVER=”oracle.jdbc.driver.OracleDriver”;
   
public static String SOURCE_DATABASE_URL=”jdbc:oracle:thin:@127.0.0.1:1521:practice”;
   
public static String SOURCE_DATABASE_USERNAME=”sync”;
   
public static String SOURCE_DATABASE_PASSWORD=”sync”;
   
public static String SOURCE_CLIENT_USERNAME = “LOGMINER”;
   
   
/** 目标数据库配置 */
    public static String SOURCE_TARGET_URL=”jdbc:oracle:thin:@127.0.0.1:1521:target”;
   
public static String SOURCE_TARGET_USERNAME=”target”;
   
public static String SOURCE_TARGET_PASSWORD=”target”;
   
   
/** 日志文件路径 */
    public static String LOG_PATH = “D:\\oracle\\oradata\\practice”;
   
   
/** 数据字典路径 */
    public static String DATA_DICTIONARY = “D:\\oracle\\oradata\\practice\\LOGMNR”;
}

2.2.2 SyncTask.java

在该类中有两个方法,第一个方法为 createDictionary,作用为生成数据字典文件,另外一个是 startLogmur,该方法是 LogMiner 分析同步方法。

/**
* <p> 方法名称: createDictionary| 描述: 调用 logminer 生成数据字典文件 </p>
*
@param sourceConn 源数据库连接
*
@throws Exception 异常信息
*/
public void createDictionary(Connection sourceConn) throws Exception{
    String createDictSql
= “BEGIN dbms_logmnr_d.build(dictionary_filename => ‘dictionary.ora’, dictionary_location =>'”+Constants.DATA_DICTIONARY+”‘); END;”;
    CallableStatement callableStatement
= sourceConn.prepareCall(createDictSql);
    callableStatement.execute();
}

 

/**
* <p> 方法名称: startLogmur| 描述: 启动 logminer 分析 </p>
*
@throws Exception
*/
public void startLogmur() throws Exception{
   
    Connection sourceConn
= null;
    Connection targetConn
= null;
   
try {
        ResultSet resultSet
= null;
       
       
// 获取源数据库连接
        sourceConn = DataBase.getSourceDataBase();
        Statement statement
= sourceConn.createStatement();
       
       
// 添加所有日志文件,本代码仅分析联机日志
        StringBuffer sbSQL = new StringBuffer();
        sbSQL.append(
” BEGIN”);
        sbSQL.append(
” dbms_logmnr.add_logfile(logfilename=>'”+Constants.LOG_PATH+”\\REDO01.LOG’, options=>dbms_logmnr.NEW);”);
        sbSQL.append(
” dbms_logmnr.add_logfile(logfilename=>'”+Constants.LOG_PATH+”\\REDO02.LOG’, options=>dbms_logmnr.ADDFILE);”);
        sbSQL.append(
” dbms_logmnr.add_logfile(logfilename=>'”+Constants.LOG_PATH+”\\REDO03.LOG’, options=>dbms_logmnr.ADDFILE);”);
        sbSQL.append(
” END;”);
        CallableStatement callableStatement
= sourceConn.prepareCall(sbSQL+””);
        callableStatement.execute();
       
       
// 打印获分析日志文件信息
        resultSet = statement.executeQuery(“SELECT db_name, thread_sqn, filename FROM v$logmnr_logs”);
       
while(resultSet.next()){
            System.out.println(
“ 已添加日志文件 ==>”+resultSet.getObject(3));
        }
       
        System.out.println(
“ 开始分析日志文件, 起始 scn 号:”+Constants.LAST_SCN);
        callableStatement
= sourceConn.prepareCall(“BEGIN dbms_logmnr.start_logmnr(startScn=>'”+Constants.LAST_SCN+”‘,dictfilename=>'”+Constants.DATA_DICTIONARY+”\\dictionary.ora’,OPTIONS =>DBMS_LOGMNR.COMMITTED_DATA_ONLY+dbms_logmnr.NO_ROWID_IN_STMT);END;”);
        callableStatement.execute();
        System.out.println(
“ 完成分析日志文件 ”);
       
       
// 查询获取分析结果
        System.out.println(“ 查询分析结果 ”);
        resultSet
= statement.executeQuery(“SELECT scn,operation,timestamp,status,sql_redo FROM v$logmnr_contents WHERE seg_owner='”+Constants.SOURCE_CLIENT_USERNAME+”‘ AND seg_type_name=’TABLE’ AND operation !=’SELECT_FOR_UPDATE'”);
       
       
// 连接到目标数据库,在目标数据库执行 redo 语句
        targetConn = DataBase.getTargetDataBase();
        Statement targetStatement
= targetConn.createStatement();
       
        String lastScn
= Constants.LAST_SCN;
        String operation
= null;
        String sql
= null;
       
boolean isCreateDictionary = false;
       
while(resultSet.next()){
            lastScn
= resultSet.getObject(1)+””;
           
if(lastScn.equals(Constants.LAST_SCN) ){
               
continue;
            }
           
            operation
= resultSet.getObject(2)+””;
           
if(“DDL”.equalsIgnoreCase(operation) ){
                isCreateDictionary
= true;
            }
           
            sql
= resultSet.getObject(5)+””;
           
           
// 替换用户
            sql = sql.replace(“\””+Constants.SOURCE_CLIENT_USERNAME+”\”.”, “”);
            System.out.println(
“scn=”+lastScn+”, 自动执行 sql==”+sql+””);
           
           
try {
                targetStatement.executeUpdate(sql.substring(
0, sql.length()-1));
            }
catch (Exception e) {
                System.out.println(
“ 测试一下, 已经执行过了 ”);
            }
        }
       
       
// 更新 scn
        Constants.LAST_SCN = (Integer.parseInt(lastScn))+””;
       
       
// DDL 发生变化,更新数据字典
        if(isCreateDictionary){
            System.out.println(
“DDL 发生变化,更新数据字典 ”);
            createDictionary(sourceConn);
            System.out.println(
“ 完成更新数据字典 ”);
            isCreateDictionary
= false;
        }
       
        System.out.println(
“ 完成一个工作单元 ”);
       
    }
   
finally{
       
if(null != sourceConn ){
            sourceConn.close();
        }
       
if(null != targetConn ){
            targetConn.close();
        }
       
        sourceConn
= null;
        targetConn
= null;
    }
}

3 运行结果

3.1 源数据库操作

1、创建 AAAAA 表,并插入数据

使用 Oracle Logminer 同步 Demo

2、创建 EMP1 表

使用 Oracle Logminer 同步 Demo

3.2 运行 Demo

在控制台中输出如下日志

使用 Oracle Logminer 同步 Demo

3.3 目标数据库结果

创建 AAAAA 和 EMP1 表,并在 AAAAA 插入了数据

使用 Oracle Logminer 同步 Demo

更多 Oracle 相关信息见 Oracle 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=12

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2017-02/140528.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计5708字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7957826
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集 在云原生体系中,Prometheus 已成为最主流的监控与报警...
星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛NAS-8:有了NAS你可以干什么?软件汇总篇

星哥带你玩飞牛 NAS-8:有了 NAS 你可以干什么?软件汇总篇 前言 哈喽各位玩友!我是是星哥,不少朋友私...
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

  星哥带你玩飞牛 NAS-16:飞牛云 NAS 换桌面,fndesk 图标管理神器上线! 引言 哈...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
开发者福利:免费 .frii.site 子域名,一分钟申请即用

开发者福利:免费 .frii.site 子域名,一分钟申请即用

  开发者福利:免费 .frii.site 子域名,一分钟申请即用 前言 在学习 Web 开发、部署...
告别Notion焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁”

告别Notion焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁”

  告别 Notion 焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁” 引言 在数字笔记工...
零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face免费服务器+Docker 快速部署HertzBeat 监控平台

零成本上线!用 Hugging Face 免费服务器 +Docker 快速部署 HertzBeat 监控平台 ...
多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞...
星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛 NAS-11:咪咕视频订阅部署全攻略 前言 在家庭影音系统里,NAS 不仅是存储中心,更是内容...