MySQL与Oracle之间互相拷贝数据的Java程序

king 安全防护 2023-02-27 1160浏览 0

因为工作需要，先是需要将一个小型的MySQL数据库中的数据拷贝到Oracle中；近期又有需要将一个中型的Oracle数据库拷贝到MySQL中。曾经找过网上各种转换工具，大多收费的，自己写个吧，还一切可控。

转换的前提是两种数据库中已经存在相同的数据结构，可以自己利用SQL语句在目标数据库生成数据结构；或者是使用工具仅生成数据结构（如：DBMover，它是收费的，但可以免费转换数据结构，好像不包括外键，网址：http://dbmover.com/cn/）。

第一个程序，从MySQL拷贝到Oracle

很久以前写的，将一个小型的MySQL数据库中的表拷贝到Oracle数据库中（十万数据量级别，没有优化，大数据量可能很慢）：

package com.clzhang.sample.jdbc;

import java.sql.*;

/**
 * 从MySQL数据库拷贝表数据到Oracle数据库中的程序。
 * 前提：两个数据库中都具有相关的表，且表结构相同，目标数据库中还不能存在冲突的数据。
 * @author acer
 *
 */
public class CopyMySQL2Oracle {
    // 源数据库，目标数据库的连接配置
    String mysql_jdbc_url = "jdbc:mysql://localhost/xuejia?user=root&password=password1&useUnicode=true&characterEncoding=gb2312";
    
    String jdbc_url = "jdbc:oracle:thin:@127.0.0.1:1521:orcl";
    String jdbc_user = "mytest";
    String jdbc_password = "test001";
    
    public void startProcess(String tableName) throws Exception {
        // 创建到两个数据库的连接
        Class.forName("org.gjt.mm.mysql.Driver");
        Connection connSource = DriverManager.getConnection(mysql_jdbc_url);

        Class.forName("oracle.jdbc.driver.OracleDriver");
        Connection connDest = DriverManager.getConnection(jdbc_url, jdbc_user,
                jdbc_password);
        
        // 打开源数据库中相关表
        StringBuilder sb = new StringBuilder();
        sb.append("insert into " + tableName + "(");
        Statement stmt= connSource.createStatement();
        ResultSet rs = stmt.executeQuery("select * from " + tableName);
        
        // 显示共计有多少条记录
        rs.last();
        System.out.println(tableName + "表共计有："+ rs.getRow() + "条记录，正在处理......");
        rs.beforeFirst();
        
        // 先计算目标数据库的PreparedStatement的SQL语句
        ResultSetMetaData rsmd = rs.getMetaData();
        int numberOfColumns = rsmd.getColumnCount();
        for(int i=1; i<=numberOfColumns;i++) {
            sb.append(rsmd.getColumnName(i) + ",");
        }
        sb.deleteCharAt(sb.length()-1);
        sb.append(")values(");
        for(int i=1; i<=numberOfColumns;i++) {
            sb.append("?,");
        }
        sb.deleteCharAt(sb.length()-1);
        sb.append(")");
        System.out.println(sb.toString());
        
        // 给PreparedStatement赋值，然后更新；如果是大数量的情况，可以考虑Batch处理。因为这里的数据量小，直接单条更新了。
        PreparedStatement pstmt = connDest.prepareStatement(sb.toString());
        while(rs.next()) {
            for(int i=1; i<=numberOfColumns;i++) {
                pstmt.setObject(i, rs.getObject(i));
            }
            
            System.out.print("-");
            pstmt.executeUpdate();
        }
        
        // 关闭各资源 
        rs.close();
        stmt.close();
        pstmt.close();
        
        connSource.close();
        connDest.close();
    }

    public static void main(String[] args) throws Exception {
        CopyMySQL2Oracle ins = new CopyMySQL2Oracle();
        ins.startProcess("PRODUCT");
        
        // ...需要拷贝的表名在下面加入即可，注意顺序，比如有外键的表应该排列在主表之后。
    }
}

第二个程序，从Oracle拷贝到MySQL

最近写的，一个中小型数据库（百万级别，做了适当优化，仍旧挺慢的）的拷贝程序，供参考吧。

建议在拷贝之前，禁用、或者是删除目标数据库中的相关索引以提高速度；拷贝完成之后，重新建立索引。

package com.clzhang.sample.jdbc;

import java.sql.*;

/**
 * 这是一个将Oracle数据库中的数据拷贝到MySQL数据库中的简单程序。
 * 仅考虑NUMBER/CHAR/VARCHAR/CLOB/DATE/TIMESTAMP等字段类型。
 * BLOB没有考虑（因为我的数据库中没有BLOB字段，无法测试）。
 * 
 * 前提：两个数据库中都具有相关的表，且表结构相同，目标数据库中还不能存在冲突的数据。
 * @author acer
 *
 */
public class CopyOracle2MySQL {
    // 源数据库，目标数据库的连接配置
    private final String DEST_MYSQL_JDBC_URL = "jdbc:mysql://localhost/mybbs?user=root&password=password1&useUnicode=true&characterEncoding=utf-8";
    
    private final String SOURCE_JDBC_URL = "jdbc:oracle:thin:@127.0.0.1:1521:orcl";
    private final String SOURCE_JDBC_USER = "mybbs";
    private final String SOURCE_JDBC_PASSWORD = "bbs001";

    public void startImport() throws Exception {
        // 创建到两个数据库的连接
        Class.forName("org.gjt.mm.mysql.Driver");
        Class.forName("oracle.jdbc.driver.OracleDriver");

        Connection connDest = DriverManager.getConnection(DEST_MYSQL_JDBC_URL);
        Connection connSource = DriverManager.getConnection(SOURCE_JDBC_URL, SOURCE_JDBC_USER,
                SOURCE_JDBC_PASSWORD);
        
        // 查询出当前用户下面的所有表，依次处理（如果有外键，建议人工输入各表，以保证顺序；如果没有外键，直接运行下面程序即可。）
        try {
            
/**            
             // 方式一：自动运行
            Statement stmt = connSource.createStatement();
            ResultSet rs = stmt.executeQuery("select TABLE_NAME from USER_TABLES");
            while(rs.next()) {
                try {
                    importTable(connSource, connDest, rs.getString("TABLE_NAME"));
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
            rs.close();
            stmt.close();
*/            
            
            // 方式二：人工输入各表名（需要保证顺序，以确保有外键的表在主表之后插入数据）
            importTable(connSource, connDest, "BBSDETAIL");
            importTable(connSource, connDest, "BBSCOMMENT");
        } finally {
            // 自动关闭数据库资源？
            connDest.close();
            connSource.close();
        }
    }
    
    private void importTable(Connection connSource, Connection connDest, String tablename) throws Exception {
        Statement stmt = null;
        PreparedStatement pstmt = null;
        try {
            // 给PreparedStatement赋值，然后更新；如果是大数量的情况，可以考虑Batch处理。因为这里的数据量小，直接单条更新了。
            // 打开源数据库中相关表
            StringBuilder insertSQL = new StringBuilder();
            insertSQL.append("insert into " + tablename + "(");
            stmt= connSource.createStatement();
            ResultSet rs = stmt.executeQuery("select * from " + tablename);
            
            // 先计算目标数据库的PreparedStatement的SQL语句
            ResultSetMetaData rsmd = rs.getMetaData();
            int numberOfColumns = rsmd.getColumnCount();
            for(int i=1; i<=numberOfColumns;i++) {
                insertSQL.append(rsmd.getColumnName(i) + ",");
            }
            insertSQL.deleteCharAt(insertSQL.length()-1);
            insertSQL.append(")values(");
            for(int i=1; i<=numberOfColumns;i++) {
                insertSQL.append("?,");
            }
            insertSQL.deleteCharAt(insertSQL.length()-1);
            insertSQL.append(")");
            System.out.println(insertSQL.toString());
            
            // 计数
            int count = 0;
            // 每多少条记录提交一次，以提高效率
            int batchCount = 1000;
            pstmt = connDest.prepareStatement(insertSQL.toString());
            while(rs.next()) {
                pstmt.clearParameters();
                for(int i=1; i<=numberOfColumns;i++) {
                    if(rsmd.getColumnType(i) == java.sql.Types.NUMERIC) {
                        // 2
                        pstmt.setInt(i, rs.getInt(i));
                    }else if(rsmd.getColumnType(i) == java.sql.Types.DOUBLE) {
                        // 8
                        pstmt.setDouble(i, rs.getDouble(i));
                    }else if(rsmd.getColumnType(i) == java.sql.Types.CHAR
                            || rsmd.getColumnType(i) == java.sql.Types.VARCHAR
                            || rsmd.getColumnType(i) == java.sql.Types.CLOB) {
                        // 1
                        // 12
                        // 2005
                        pstmt.setString(i, rs.getString(i));
                    }else if(rsmd.getColumnType(i) == java.sql.Types.DATE) {
                        // 91
                        pstmt.setDate(i, rs.getDate(i));
                    }else if(rsmd.getColumnType(i) == java.sql.Types.TIMESTAMP) {
                        // 93
                        pstmt.setTimestamp(i, rs.getTimestamp(i));
                    }else {
                        pstmt.setObject(i, rs.getObject(i));
                    }
                }
                pstmt.addBatch();
                
                // 输出统计信息
                count++;
                if(count % batchCount == 0) {
                    // 若干条提交一次
                    System.out.println();
                    System.out.print("正在更新数据库...");
                    pstmt.executeBatch();
                    System.out.println(count);
                }
            }
            if(count % batchCount != 0) {
                // 最后提交一次
                System.out.println();
                System.out.print("正在更新数据库...");
                pstmt.executeBatch();
                System.out.println(count);
            }
            
            rs.close();
        } finally {
            if(stmt != null) stmt.close();
            if(pstmt != null) pstmt.close();
        }
    }
    
    public static void main(String[] args) throws Exception {
        CopyOracle2MySQL ins = new CopyOracle2MySQL();
        ins.startImport();
        
    }
}