实现Oracle数据库增量同步的方法与技巧(oracle两个数据库之间增量同步)

随着大数据时代的到来,数据同步也变得越来越重要。在众多的数据库中,Oracle数据库凭借其高可靠性、高可用性、高灵活性和高安全性等优点成为了企业级数据库的首选。在实际应用中,我们经常需要将多个Oracle数据库之间的数据进行同步,而Oracle数据库增量同步则是其中的一种比较常见的同步方式。本文将详细介绍。

成都网络公司-成都网站建设公司成都创新互联公司十多年经验成就非凡,专业从事成都网站设计、成都网站制作,成都网页设计,成都网页制作,软文平台1元广告等。十多年来已成功提供全面的成都网站建设方案,打造行业特色的成都网站建设案例,建站热线:18980820575,我们期待您的来电!

一、Oracle数据库增量同步的概念

所谓增量同步,就是只同步增量部分,避免重复同步已经同步过的部分。相对于全量同步,增量同步更加快捷,减少了对网络和计算资源的占用,也降低了同步失败的风险。

二、Oracle数据库增量同步的实现方法

1.使用Oracle内置工具——LogMiner

LogMiner是Oracle数据库内置的一种工具,可以解析Oracle数据库的Redo日志,获取数据库中的增量数据。通过配置LogMiner参数,可以对Oracle数据库进行增量数据的捕捉、分析和提取。

首先需要确定需要同步的数据库中,Redo日志的大小,日志的生成周期,分析数据库中的Redo日志。找到数据库中特定的数据,可以使用LogMiner的命令行接口或Oracle提供的GUI工具,如SQL*Loader、Oracle Data Integrator和GoldenGate等工具。在使用LogMiner时,需要注意的是,它会占用数据库的系统资源,因此在使用时需进行合理的规划和优化。

2.使用Oracle内置工具——Streams

Streams是Oracle自带的一种数据复制和同步技术,可以捕获某个数据库的更改,并将其转换为可以在另一个数据库上执行的SQL语句。Streams通过一个消息订阅模型来定位和传递数据库更改,它可以在不同的Oracle数据库之间进行实时复制和数据同步。

Streams机制中主要包括Capture、Apply和Propagation三个组件。Capture用来捕获源数据库中的更改,Apply用来将更改应用于目标数据库,Propagation用来传播流式数据。

3.使用第三方工具——GoldenGate

除了LogMiner和Streams外,还有一些第三方工具可以实现Oracle数据库的增量同步。其中,GoldenGate是比较流行和常用的一种工具。GoldenGate可以实现不同数据库之间的数据复制,提供了高可靠性和卓越的性能,可以将数据从Oracle数据库迁移到其他数据库,例如MySQL、SQL Server等。GoldenGate可以实现全量同步和增量同步,支持对数据进行过滤、转换、掩码、重映射和增强等操作。

GoldenGate可以实现多种不同的Oracle数据库复制战略,包括单向复制、双向复制、多路复制等。通过GoldenGate,可以将数据在不同的Oracle实例间复制,从而实现数据一致性。

三、Oracle数据库增量同步的技巧

1.数据库优化

在实际应用中,为了提高Oracle数据库的性能,可以进行各种优化。首先需要分析数据库访问的性能瓶颈,优化数据库的并发访问能力和数据存储方式,以便提高Oracle数据库的性能和稳定性。

2.增量数据处理

增量数据处理是Oracle数据库增量同步的重要环节。在进行增量数据处理时,应避免数据清洗、数据过滤等操作,以免对同步的性能和效率产生影响。应对增量数据进行统一规格化处理,并设置好同步策略和同步模式。

3.日志处理

在Oracle数据库增量同步的过程中,需要进行日志处理。需要对数据库日志进行分析、归档和压缩,同时合理地设置日志清理策略。此外,还要注意数据库日志的保护和存储,保证日志数据的完整性和安全性。

四、

本文介绍了Oracle数据库增量同步的概念、实现方法和技巧。通过使用Oracle内置工具、第三方工具和相关技巧,可以实现Oracle数据库的增量同步,并提高数据库的性能和稳定性,进而实现业务的高效运转。在日常开发和实践中,我们应结合实际情况,灵活选择不同的Oracle数据库增量同步工具和方案,以更优化的方式实现数据同步。

相关问题拓展阅读:

  • 如何跨Oracle数据库实现表级别的实时同步
  • 我有两个oracle数据库需要双向同步
  • 数据库,增量同步和全量同步是什么?

如何跨Oracle数据库实现表级别的实时同步

oracle的standby数据库,利用联机重做日志猛氏将主数据库与standby数据库之间保持同步,一般用于灾难恢复枝塌散,可以试着搭建一下 常衫春见 goldengate active dataguard stream replication

一. 前言

这个问题是上一篇文章《Oracle跨数据库实现定时同步指定表中的数据》中所提问题的进一步延伸。考虑到对数据的实时性要求比较高,设置成定时同步,有点不妥,需要改善升级更改为实时同步。

下面介绍到的方式,严格意义上说,并没有实现实时同步。是通过Oracle数据库创建同义词+DBlink的方式,来建立远程映射。在查看数据时,直接去远程查询源库中的表。

而我一直关注的是如何进行同步数据,却悉侍瞎没有考虑到可以建立映射。另外,还有一点就是需要交代,就是同步到目标数据库中的表,不进行增删改操作,只进行查询的操作谈铅,这也是可以使用同义词方式解决问题的关键。

这种解决思路的出现,多亏了在CSDN问答时,热心网友的回答,下面就是问题详情描述。

二. 问题描述

有两个Oracle数据库,分别布置在不同的服务器上,系统均为windows2023;

这里暂且说成是一个主数据库和从数据库:

(1) 主数据库:oracle_A;

(2) 从数据库:oracle_B;

在oracle_A中有一个表table_A与oracle_B中的表table_B结构相同;

我是处在oracle_B,oracle_A数据库分配给我有一个访问oracle_A表table_A的用户,该用户只拥有查询的权限;

另外,需要说明的一点,就是在oracle_B处,只需对table_B表进行查询的操作,不进行其他增删改的操作。

场景介绍完了,我的问题的是,如何在oracle_A中表table_A发生变化时,实时更新同步到oracle_B的table_B中?

我原来的处理方式:

通过建立远程连接DBLink+JOB定时任务+存储过程的方式,实现了定时同步更新,但不能做到实时同步。

三. 采用同义词+DB_Link的方式结果步骤

之所以能够选择采用同义词的方式,处理这个问题。主要还是源于在问题描述中提到一个点,那就是我们只需要对同步后的表进行查询操作。这点是使用同义词方式的重要要素。

下面详细模拟一下整个实验测试的过程:

(1)首先在Oracle_A端创建一个对table_A只有查询功能的用睁空户

创建用户

sqlplus /nolog

conn /as sysdba;

create user username identified by password;

查看所有的用户列表

用户创建完成后,查看用户是否创建成功

select * from all_users;

授予权限

为了能够保证能够登陆,必须赋予如下权限

–授予username用户创建session的权限,即登陆权限

grant create session to username;

–授予username用户使用表空间的权限

grant unlimited tablespace to username;

–oracle对权限管理比较严谨,普通用户之间也是默认不能互相访问的,需要互相授权.

–如果scott用户要授权给username用户查看自己的test表的权限;

sqlplus scott/tiget@localhost:1521/orcl

–授予username用户查看指定的权限

grant select on test to username;

–撤销权限

基本语法同grant,关键字为revoke;

(2)验证用户是否可以成功登录,并进行访问授权的表

–使用sqlplus登录,并进行查询

sqlplus username/password@localhost:1521/orcl;

select * from scott.test;

注意:查询表时,务必带上用户名,说明是哪个用户下的表。

(3)创建远程连接DB_Link

创建远程连接 db_link

create public database link db32 connect to tianzhi_test identified by “tianzhi_test” using ‘192.168.56.6:1521/ORCL’

测试远程连接是否成功

select * from tianzhi_art.zh_item_news@db32;

(4)在Oracle_B端创建同义词

使用sqlplus登录自己的用户

sqlplus tianzhi_art/tianzhi_art@localhost:1521/orcl

创建同义词

create or replace public synonym TEST1130 for scott.TEST@db32;

查询测试

select * from TEST1130;

可以看到这与在Oracle_A源数据库中查到的table_A表中的数据一样.

注意事项:

当远程查询的数据库中包含BLOB字段时,会报出如下错误.

ORA-22992: 无法使用从远程表选择的 LOB 定位器

当出现这个错误的时候,那是因为跨库连接查询中的表中存在BLOB类型的字段,所以一定要注意,所有表中存在blob类型字段,

不能用 select * from 连接的表

不能将blob类型的字段出现在脚本中。

如果这些blob类型的字段一定要导过来,可以先建立临时表再插入本地表,方法如下.在pl/sql中执行

之一步 建临时表

create global temporary table foo ( X BLOB )

on commit delete rows;

第二步 插入本地表

insert into foo select blobcolumn from remoteTable@dl_remote ;

我有两个oracle数据库需要双向同步

高级复制……

试试物化视图。

这个可以用DB_LINK

数据库,增量同步和全量同步是什么?

全量备份是指对某一时间点上的所有数据进行全量备份,包括系统和所有数据。这种备份方式每次都需要对系统和所有数据进行一次全量备份。如上,如果两次备份之间数据没有任何变化,那么两次备份的数据是一样的。也就消举是说100GB的数据即使没有发生任何数据变化,也会多耗费100GB的存储空间去做备份。但这种备份方式更大的好处就是在恢复丢失数据时,只需要对一个完整的备份进行操作就能够恢复丢失数据,大大加快了系统或数据恢复世弊的时间。

增量备份即在之一次全量备份的基础上,分别记录每次的变化。由于增量备份在备份前会判断数据是否发生变化,并仅记录每次变化情况,所以相较于其他两种备份方式它更大的好处在于其所需存储空间最少的(相同的变化情况下),备份速度最快的。当然在数据还原拿返碧上来说,它的恢复时间是最长的,效率较低。恢复数据时,需要在之一次完备的基础上,整合每次的一个变化情况。

增量同步和全量同步是数据库同步携兆的两种方式。全量同步是一次性同步全部数据,增量同步则只同步两个数据库不同的部分。

数据库简介:

数据库(Database)是按照数据结构来组织、存储和管理数据的仓库,它产生于距今六十多年前,随着信息技术和市场的发展,特别是二十世纪九十年代以后,数据管理不再仅仅是存储和管理数据,而转变成用户所需要的各种数据管理的方式。数据库有很嫌隐橡多种类型,从最简单的存储有各种数据的表格到能够进行海量数据存储的大型数据库系统都在各个方面得芹旁到了广泛的应用。

数据如果保留多份,就会存在一致性问题,就需要同步,同步分为两大类:全量和增量

2. 概述

数据如果要保留副本,要么同时森陵顷写(就是多写),或者进行复制:异步写(即从主数据拷贝到副本);

同时写(多写),引出一个问题,写多少节点算成功(场景:分布式系统)?全部写成功才算成功,还是写大多数成功算成功,还是写指定几个节点算成功?

异步写的话,此陆如果采用异步复制,那么实时性需要考量的话,就需要采用性能优先的架构。

3.同步方式

数据同步一般分为两种方式:全量和增量。

3.1 全量

全量,这个很好理解。就是每天定时或者周期性全量把数据从一个地方拷贝到另外一个地方;

全量的话,可以采用直接全部覆盖(使用“新”数据覆盖“旧”数据);或者走更新逻辑(覆盖前判断下,如果新旧不一致,就更新);

这里面有一个隐藏的问题:如果采用异步写,主数据物理删除了,怎么直接通过全量数据同步?这就需要借助一些中间操作日志文件,或者其他手段,把这些“看不到”的数据记录起来。

3.2 增量(类如有;坚果云网盘增量同步功能)

增量的基础是全量,就是你要使用某种方式先把全量数据拷贝过来,汪段然后再采用增量方式同步更新。

增量的话,就是指抓取某个时刻(更新时间)或者检查点(checkpoint)以后的数据来同步,不是无规律的全量同步。这里引入一个关键性的前提:副本一端要记录或者知道(通过查询更新日志或者订阅更新)哪些更新了。

oracle两个数据库之间增量同步的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于oracle两个数据库之间增量同步,实现Oracle数据库增量同步的方法与技巧,如何跨Oracle数据库实现表级别的实时同步,我有两个oracle数据库需要双向同步,数据库,增量同步和全量同步是什么?的信息别忘了在本站进行查找喔。

香港服务器选创新互联,2H2G首月10元开通。
创新互联(www.cdcxhl.com)互联网服务提供商,拥有超过10年的服务器租用、服务器托管、云服务器、虚拟主机、网站系统开发经验。专业提供云主机、虚拟主机、域名注册、VPS主机、云服务器、香港云服务器、免备案服务器等。

当前名称:实现Oracle数据库增量同步的方法与技巧(oracle两个数据库之间增量同步)
标题网址:http://www.shufengxianlan.com/qtweb/news29/47179.html

网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联