一种数据库迁移的方法、装置、设备及可读介质

文档序号:7516 发布日期:2021-09-17 浏览:33次 英文

一种数据库迁移的方法、装置、设备及可读介质

技术领域

本领域涉及计算机领域,并且更具体地涉及一种数据库迁移的方法、装置、设备及可读介质。

背景技术

在大数据时代,随着数据量的暴增以及现有业务逻辑的不断变化升级,像MySQL数据库这种传统的关系型数据库在很多场景下已经无法支撑现有系统的使用,许多系统已经升级转型使用新型的非关系型数据库,例如MongoDB数据库。随着系统的升级,数据库架构的变动,历史积累的业务数据也必须安全的迁移到升级变动后的数据库。

目前各主流数据库仅支持同种数据库的备份导出导入等迁移策略,无法支持两种不同类型数据库之间的迁移。

发明内容

有鉴于此,本发明实施例的目的在于提出一种数据库迁移的方法、装置、设备及可读介质,通过使用本发明的技术方案,能够使得MySQL数据库向MongoDB数据库迁移更加方便,节省人力成本,为系统数据库架构的变更提供了保障。

基于上述目的,本发明的实施例的一个方面提供了一种数据库迁移的方法,包括以下步骤:

将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出;

将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件;

在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中。

根据本发明的一个实施例,待迁移数据库为MySQL数据库,目标数据库为MongoDB数据库。

根据本发明的一个实施例,将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出包括:

通过MySQL数据库中的dump命令生成待导出的MySQL数据库的表结构及数据;

通过数据库连接工具将表结构和数据进行导出。

根据本发明的一个实施例,将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件包括:

将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句;

将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句。

根据本发明的一个实施例,将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成MongoDB数据库的建表语句;

通过匹配关键字primary key、unique key和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成MongoDB数据库的索引语句。

根据本发明的一个实施例,将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容;

根据获取到的表名获取所有字段名和字段类型;

根据获取到的表名、字段名和字段类型拼装成MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件。

根据本发明的一个实施例,在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中包括:

通过mongoimport命令将生成的CSV文件导入到目标数据库中;

将拼装成的insert语句在MongoDB数据库的客户端中执行以将导入文件导入到目标数据库中。

本发明的实施例的另一个方面,还提供了一种数据库迁移的装置,装置包括:

导出模块,导出模块配置为将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出;

转换模块,转换模块配置为将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件;

导入模块,导入模块配置为在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中。

本发明的实施例的另一个方面,还提供了一种计算机设备,该计算机设备包括:

至少一个处理器;以及

存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行时实现上述任意一项方法的步骤。

本发明的实施例的另一个方面,还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现上述任意一项方法的步骤。

本发明具有以下有益技术效果:本发明实施例提供的数据库迁移的方法,通过将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出;将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件;在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中的技术方案,能够使得MySQL数据库向MongoDB数据库迁移更加方便,节省人力成本,为系统数据库架构的变更提供了保障。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。

图1为根据本发明一个实施例的数据库迁移的方法的示意性流程图;

图2为根据本发明一个实施例的数据库迁移的装置的示意图;

图3为根据本发明一个实施例的计算机设备的示意图;

图4为根据本发明一个实施例的计算机可读存储介质的示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明实施例进一步详细说明。

基于上述目的,本发明的实施例的第一个方面,提出了一种数据库迁移的方法的一个实施例。图1示出的是该方法的示意性流程图。

如图1中所示,该方法可以包括以下步骤:

S1将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出。

本发明的技术方案主要应用于MySQL数据库向MongoDB数据库迁移,通过本发明的技术方案可以使得原MySQL数据库中的表结构、索引以及用户数据可以快速无误的迁移至新的MongoDB数据库中,为系统架构升级变动提供便利,待迁移数据库为MySQL数据库,目标数据库为MongoDB数据库,通过MySQL数据库中的dump命令可以生成待导出的MySQL数据库的表结构及数据,该命令可以为:mysqldump–h<host>-u<username>-p<password>--database<dbname>>/path/***.sql,然后通过数据库连接工具将表结构和数据导出,数据库连接工具可以例如是Navicat工具和MySQLWorkbench工具等等。

S2将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件。

主要分为两个步骤,第一步,将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句,首先遍历导出的所有数据,并以分号为断点将数据切分成多个SQL语句,然后通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成MongoDB数据库的建表语句,然后通过匹配关键字primary key、unique key和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成MongoDB数据库的索引语句,其中索引名和索引字段需要对应到每个SQL语句中,即每个SQL语句中的表名和索引名和索引字段需要对应。第二步,将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句,首先遍历导出的所有数据,并以分号为断点将数据切分成SQL语句,然后获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容,然后根据获取到的表名获取所有字段名和字段类型,根据获取到的表名、字段名和字段类型拼装成MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件和CSV命令,其中每个SQL语句中的表名和数据内容、字段名和字段类型需要对应。

S3在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中。

MongoDB数据库的数据导入分为两步,首先执行MongoDB数据库的建表及建索引语句,然后通过mongoimport命令,利用上步骤得到的CSV文件和CSV命令直接执行,执行完成后数据导入完成,或利用上步骤输出的insert语句集在MongoDB客户端执行insert语句完成数据导入。

通过本发明的技术方案,能够使得MySQL数据库向MongoDB数据库迁移更加方便,节省人力成本,为系统数据库架构的变更提供了保障。

在本发明的一个优选实施例中,待迁移数据库为MySQL数据库,目标数据库为MongoDB数据库。

在本发明的一个优选实施例中,将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出包括:

通过MySQL数据库中的dump命令生成待导出的MySQL数据库的表结构及数据,命令可以为mysqldump–h<host>-u<username>-p<password>--database<dbname>>/path/***.sql;

通过数据库连接工具将表结构和数据进行导出,数据库连接工具可以是Navicat工具或MySQLWorkbench工具等。

在本发明的一个优选实施例中,将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件包括:

将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句;

将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句。

在本发明的一个优选实施例中,将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成MongoDB数据库的建表语句;

通过匹配关键字primary key、unique key和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成MongoDB数据库的索引语句。

通过字符串截取的方式获取MySQL数据库建表语句中的表名,根据获取到的表名生成MongoDB数据库建表语句,然后通过匹配关键字primary key、unique key和key字符串获取索引名及索引字段,并根据获取到的索引名和索引字段生成MongoDB数据库索引语句,其中关键字primary key和unique key映射为MongoDB数据库中的unique索引,关键字key映射为普通索引,通过逗号和空格的分离获取表的字段和数据类型列表,一个转换示例如下:

MySQL建表语句为

转换后的MongoDB语句为

db.createCollection('testTable');

db.testTable.createIndex({"id":1},{"unique":true});

db.testTable.createIndex({"name":1},{"unique":true,"name":"name_index"});

db.testTable.createIndex({"age":1},{"name":"age_index"});

转换后表的字段列表为

在本发明的一个优选实施例中,将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容;

根据获取到的表名获取所有字段名和字段类型;

根据获取到的表名、字段名和字段类型拼装成MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件。

转换示例如下:

MySQL insert语句为

INSERT INTO`testTable`VALUES(1,"zhangsan",20),(2,"lisi",19);

转换后的CSV文件及导入命令为

id,name,age

1,zhangsan,20

2,lisi,19

mongoimport-d test-c testTable--type csv--columnsHaveTypes--fields"id.int32(),name.string(),age,int32()"--file./test.csv

转换后的MongoDB insert语句为

db.testTable.insert({"id":1,"name":"zhangsan","age":20});

db.testTable.insert({"id":2,"name":"lisi","age":19})。

在本发明的一个优选实施例中,在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中包括:

通过mongoimport命令将生成的CSV文件导入到目标数据库中;

将拼装成的insert语句在MongoDB数据库的客户端中执行以将导入文件导入到目标数据库中。

通过本发明的技术方案,能够使得MySQL数据库向MongoDB数据库迁移更加方便,节省人力成本,为系统数据库架构的变更提供了保障。

需要说明的是,本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关硬件来完成,上述的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中存储介质可为磁碟、光盘、只读存储器(Read-Only Memory,ROM)或随机存取存储器(Random AccessMemory,RAM)等。上述计算机程序的实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。

此外,根据本发明实施例公开的方法还可以被实现为由CPU执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时,执行本发明实施例公开的方法中限定的上述功能。

基于上述目的,本发明的实施例的第二个方面,提出了一种数据库迁移的装置,如图2所示,装置200包括:

导出模块,导出模块配置为将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出。

本发明的技术方案主要应用于MySQL数据库向MongoDB数据库迁移,通过本发明的技术方案可以使得原MySQL数据库中的表结构、索引以及用户数据可以快速无误的迁移至新的MongoDB数据库中,为系统架构升级变动提供便利,待迁移数据库为MySQL数据库,目标数据库为MongoDB数据库,通过MySQL数据库中的dump命令可以生成待导出的MySQL数据库的表结构及数据,该命令可以为:mysqldump–h<host>-u<username>-p<password>--database<dbname>>/path/***.sql,然后通过数据库连接工具将表结构和数据导出,数据库连接工具可以例如是Navicat工具和MySQLWorkbench工具等等。

转换模块,转换模块配置为将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件。

转换模块还配置为将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句,首先遍历导出的所有数据,并以分号为断点将数据切分成多个SQL语句,然后通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成MongoDB数据库的建表语句,然后通过匹配关键字primary key、uniquekey和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成MongoDB数据库的索引语句,其中索引名和索引字段需要对应到每个SQL语句中,即每个SQL语句中的表名和索引名和索引字段需要对应。将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句,首先遍历导出的所有数据,并以分号为断点将数据切分成SQL语句,然后获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容,然后根据获取到的表名获取所有字段名和字段类型,根据获取到的表名、字段名和字段类型拼装成MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件和CSV命令,其中每个SQL语句中的表名和数据内容、字段名和字段类型需要对应。

导入模块,导入模块配置为在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中。

导入模块还配置为执行MongoDB数据库的建表及建索引语句,然后通过mongoimport命令,利用上步骤得到的CSV文件和CSV命令直接执行,执行完成后数据导入完成,或利用上步骤输出的insert语句集在MongoDB客户端执行insert语句完成数据导入。

在本发明的一个优选实施例中,待迁移数据库为MySQL数据库,目标数据库为MongoDB数据库。

在本发明的一个优选实施例中,导出模块还配置为:

通过MySQL数据库中的dump命令生成待导出的MySQL数据库的表结构及数据;

通过数据库连接工具将表结构和数据进行导出。

在本发明的一个优选实施例中,转换模块还配置为:

将MySQL数据库中的表结构的建表语句和索引语句转换为MongoDB数据库的创建集合和创建索引语句;

将MySQL数据库的insert语句转换为CSV文件或MongoDB数据库的insert语句。

在本发明的一个优选实施例中,转换模块还配置为:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成MongoDB数据库的建表语句;

通过匹配关键字primary key、unique key和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成MongoDB数据库的索引语句。

在本发明的一个优选实施例中,转换模块还配置为:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容;

根据获取到的表名获取所有字段名和字段类型;

根据获取到的表名、字段名和字段类型拼装成MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件。

在本发明的一个优选实施例中,导入模块还配置为:

通过mongoimport命令将生成的CSV文件导入到目标数据库中;

将拼装成的insert语句在MongoDB数据库的客户端中执行以将导入文件导入到目标数据库中。

基于上述目的,本发明实施例的第三个方面,提出了一种计算机设备。图3示出的是本发明提供的计算机设备的实施例的示意图。如图3所示,本发明实施例包括如下装置:至少一个处理器S21;以及存储器S22,存储器S22存储有可在处理器上运行的计算机指令S23,指令由处理器执行时实现以下方法:

将待迁移数据库中的数据转换成预设格式的表结构和数据,并将表结构和数据导出;

将导出的表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件;

在目标数据库中执行建表及建索引语句后将导入文件导入到目标数据库中。

在本发明的一个优选实施例中,所述待迁移数据库为MySQL数据库,所述目标数据库为MongoDB数据库。

在本发明的一个优选实施例中,将待迁移数据库中的数据转换成预设格式的表结构和数据,并将所述表结构和数据导出包括:

通过所述MySQL数据库中的dump命令生成待导出的MySQL数据库的表结构及数据;

通过数据库连接工具将所述表结构和数据进行导出。

在本发明的一个优选实施例中,将导出的所述表结构和数据转换为与所述待迁移数据库不同类型的目标数据库的导入文件包括:

将所述MySQL数据库中的表结构的建表语句和索引语句转换为所述MongoDB数据库的创建集合和创建索引语句;

将所述MySQL数据库的insert语句转换为CSV文件或所述MongoDB数据库的insert语句。

在本发明的一个优选实施例中,将所述MySQL数据库中的表结构的建表语句和索引语句转换为所述MongoDB数据库的创建集合和创建索引语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

通过字符串获取的方式获取每个SQL语句中的表名,并基于获取到的表名生成所述MongoDB数据库的建表语句;

通过匹配关键字primary key、unique key和key字符串获取每个SQL语句中的索引名及索引字段,并基于获取到的索引名及索引字段生成所述MongoDB数据库的索引语句。

在本发明的一个优选实施例中,将所述MySQL数据库的insert语句转换为CSV文件或所述MongoDB数据库的insert语句包括:

遍历导出的所有数据,并以分号为断点将数据切分成SQL语句;

获取每个SQL语句中的关键字insert into和关键字values之间的表名和关键字values后的数据内容;

根据获取到的表名获取所有字段名和字段类型;

根据获取到的表名、字段名和字段类型拼装成所述MongoDB数据库的insert语句,并根据获取到的字段名和数据内容生成CSV文件。

在本发明的一个优选实施例中,在所述目标数据库中执行建表及建索引语句后将所述导入文件导入到所述目标数据库中包括:

通过mongoimport命令将生成的CSV文件导入到所述目标数据库中;

将拼装成的insert语句在所述MongoDB数据库的客户端中执行以将导入文件导入到所述目标数据库中。

基于上述目的,本发明实施例的第四个方面,提出了一种计算机可读存储介质。图4示出的是本发明提供的计算机可读存储介质的实施例的示意图。如图4所示,计算机可读存储介质存储S31有被处理器执行时执行如上方法的计算机程序S32。

此外,根据本发明实施例公开的方法还可以被实现为由处理器执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被处理器执行时,执行本发明实施例公开的方法中限定的上述功能。

此外,上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。

本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性,已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能,但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。

在一个或多个示例性设计中,功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、DSL或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。

以上是本发明公开的示例性实施例,但是应当注意,在不背离权利要求限定的本发明实施例公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本发明实施例公开的元素可以以个体形式描述或要求,但除非明确限制为单数,也可以理解为多个。

应当理解的是,在本文中使用的,除非上下文清楚地支持例外情况,单数形式“一个”旨在也包括复数形式。还应当理解的是,在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。

上述本发明实施例公开实施例序号仅仅为了描述,不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。

所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子;在本发明实施例的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,并存在如上的本发明实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。因此,凡在本发明实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明实施例的保护范围之内。

完整详细技术资料下载
上一篇:石墨接头机器人自动装卡簧、装栓机
下一篇:应用于人工智能的大数据维护方法及大数据服务器

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!