MySQL备份文件导入GreatSQL MGR环境为什么出现大量报错？
MySQL备份文件导入GreatSQL MGR环境为什么出现大量报错？
- 问题信息
1.1 问题描述
客户计划将数据库由 MySQL 迁移到 GreatSQL，为客户安装好3节点 GreatSQL MGR 环境后，客户将使用mysqldump从MySQL8中导出的数据导入到GreatSQL中，导入过程中，出现大量报错信息 ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.
客户问：备份文件能正常导入 MySQL 数据库，为什么导入 GreatSQL 会有这么多报错信息?
我回复客户：MGR 环境有一些使用限制，我先检查下导入数据。
- 问题分析及处理
MGR 要求表是 InnoDB 类型 ，首先检查了表的存储引擎。
2.1 检查存储引擎
greatsql> SELECT TABLE_TYPE,ENGINE,count(*) FROM
information_schema.tables WHERE table_schema='jcdb' GROUP BY TABLE_TYPE,ENGINE;
+------------+--------+----------+
| TABLE_TYPE | ENGINE | count(*) |
+------------+--------+----------+
| BASE TABLE | InnoDB | 1355 |
| BASE TABLE | MyISAM | 1 |
| BASE TABLE | MEMORY | 1 |
| VIEW | NULL | 3 |
+------------+--------+----------+
4 rows in set (0.02 sec)
检查发现导入的数据存在 MyISAM 和 MEMORY 存储引擎。在MGR环境，能创建非 InnoDB 存储引擎的表，但插入数据时会报错。
greatsql> CREATE TABLE t0(id int primary key) ENGINE=MEMORY;
Query OK, 0 rows affected (0.03 sec)
greatsql> INSERT INTO t0 SELECT 1;
ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.
2.2 表主键检查
MGR要求表有主键，检查数据库中的表，是不是都有主键。检查发现有一部分表没有设置主键。
greatsql> SELECT count(table_name)
FROM information_schema.tables
WHERE table_schema = 'jcdb'
AND table_name NOT IN (
SELECT table_name
FROM information_schema.table_constraints
WHERE constraint_type = 'PRIMARY KEY'
);
+-------------------+
| count(table_name) |
+-------------------+
| 67 |
+-------------------+
1 row in set (0.10 sec)
2.3 问题处理
1、对于非InnoDB 存储引擎的表，修改建表语句，将存储引擎修改为InnoDB
$ grep MyISAM jcdb.sql
) ENGINE = MyISAM AUTO_INCREMENT = 1 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_0900_ai_ci COMMENT = '系统日志表' ROW_FORMAT = DYNAMIC;
$ sed -i 's/ENGINE = MyISAM/ENGINE = InnoDB/g' jcdb.sql
$ grep MyISAM jcsh.sql
2、对于没有主键的表通过设置系统变量``sql_generate_invisible_primary_key =on` 解决
从 8.0.30开始，当sql_generate_invisible_primary_key=ON时 ，创建InnoDB表时，如果没有显式指定主键的情况下，GreatSQL支持生成不可见主键，即 GreatSQL服务会自动添加一个生成的不可见主键(GIPK)到表中。
另外：从 8.0.13开始，新增sql_require_primary_key参数(建议全局设置选项 sql_require_primary_key=ON)，其默认值为OFF，设置为ON时，建表时需要显示指定主键。
-- 主键相关的参数
greatsql> SHOW variables LIKE '%primary%';
+------------------------------------+-------+
| Variable_name | Value |
+------------------------------------+-------+
| sql_generate_invisible_primary_key | OFF |
| sql_require_primary_key | OFF |
+------------------------------------+-------+
2 rows in set (0.00 sec)
greatsql> SET sql_require_primary_key=on;
Query OK, 0 rows affected (0.00 sec)
greatsql> CREATE TABLE t01(id int) ;
ERROR 3750 (HY000): Unable to create or change a table without a primary key, when the system variable 'sql_require_primary_key' is set. Add a primary key to the table or unset this variable to avoid this message. Note that tables without a primary key can cause performance problems in row-based replication, so please consult your DBA before changing this setting.
greatsql> SET sql_require_primary_key=OFF;
greatsql> SET sql_generate_invisible_primary_key=ON;
Query OK, 0 rows affected (0.00 sec)
greatsql> CREATE TABLE auto_1 (c1 VARCHAR(50), c2 INT);
Query OK, 0 rows affected (0.26 sec)
greatsql> SHOW CREATE TABLE auto_1\G;
*************************** 1. row ***************************
Table: auto_1
Create Table: CREATE TABLE `auto_1` (
`my_row_id` bigint unsigned NOT NULL AUTO_INCREMENT /*!80023 INVISIBLE */,
`c1` varchar(50) DEFAULT NULL,
`c2` int DEFAULT NULL,
PRIMARY KEY (`my_row_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
1 row in set (0.00 sec)
ERROR:
No query specified
greatsql> INSERT INTO auto_1(c1,c2) VALUES('aaa',1);
Query OK, 1 row affected (0.04 sec)
greatsql> INSERT INTO auto_1(c1,c2) VALUES('aabb',10);
Query OK, 1 row affected (0.03 sec)
greatsql> SELECT * FROM auto_1;
+------+------+
| c1 | c2 |
+------+------+
| aaa | 1 |
| aabb | 10 |
+------+------+
2 rows in set (0.00 sec)
-- 默认情况下，SELECT 的时候不会显示不可见主键
将 mysqldump 文件的非 InnoDB 存储引擎表修改为 InnoDB 存储引擎，并且设置sql_generate_invisible_primary_key=ON后，重新导入数据，数据可以正常导入到新的数据库中。
3.MGR使用限制
3.1 MGR基础要求
1、InnoDB Storage Engine.
表必须使用InnoDB存储引擎。
2、Primary Keys.
每个表必须有一个已定义的主键，或与主键等价的非空唯一键。
3、Network Performance.
网络延迟和网络带宽都会影响组复制的性能和稳定性。
3.2 MGR数据库实例配置要求
运行MGR的实例必须满足以下要求：
1、Unique Server Identifier.
同一个复制组，server_id唯一
2、Binary Log Active.
打开log_bin： 启用二进制日志，MySQL 8.0默认设置
3、Replica Updates
设置log_replica_updates=ON (from MySQL 8.0.26) or log_slave_updates=ON(before MySQL 8.0.26)MySQL 8.0默认设置
4、Binary Log Row Format.
二进制日志行格式为row模式: binlog_format=row MySQL 8.0默认设置
5、Binary Log Checksums Off
关闭二进制日志校验和:
binlog_checksum=NONE，MySQL 8.0.20
binlog_checksum=CRC32，MySQL 8.0.21+ 默认设置
6、Global Transaction Identifiers On
开启全局事务标识符: 设置gtid_mode=ON和enforce_gtid_consistency=ON
7、Replication Information Repositories
复制信息存储库设置: 设置master_info_repository=TABLE和 relay_log_info_repository=TABLE,这个设置在MySQL 8是默认设置。
8、Transaction Write Set Extraction
事务写集提取transaction_write_set_extraction=XXHASH64在MySQL中 从MySQL 8.0.26开始，这个设置是默认的。
9、Default Table Encryption
默认表加密:default_table_encryption=OFF,在所有组成员上设置相同的值。默认值为OFF
10、 Lower Case Table Names
表名大小写设置：lower_case_table_names=1，表名不区分大小写，对所有组成员使用相同的值。 不同的平台有不同的默认值
-
Default Value (macOS)=2
-
Default Value (Unix)=0
-
Default Value (Windows)=1
11、Binary Log Dependency Tracking
binlog_transaction_dependency_tracking=WRITESET
12、Multithreaded Appliers
启用多线程复制，组复制成员可以配置为 多线程复制，使事务可以并行应用。从MySQL 8.0.27开始，所有的副本都是 默认配置为多线程。
4.参考文章
-
https://dev.mysql.com/doc/refman/8.0/en/group-replication-requirements.html
-
https://dev.mysql.com/doc/refman/8.0/en/create-table-gipks.html
Enjoy GreatSQL :)
关于 GreatSQL
GreatSQL是适用于金融级应用的国内自主开源数据库，具备高性能、高可靠、高易用性、高安全等多个核心特性，可以作为MySQL或Percona Server的可选替换，用于线上生产环境，且完全免费并兼容MySQL或Percona Server。
相关链接： GreatSQL社区 Gitee GitHub Bilibili
GreatSQL社区：
社区有奖建议反馈： https://greatsql.cn/thread-54-1-1.html
社区博客有奖征稿详情： https://greatsql.cn/thread-100-1-1.html
（对文章有疑问或者有独到见解都可以去社区官网提出或分享哦~）
技术交流群：
微信&QQ群：
QQ群：533341697
微信群：添加GreatSQL社区助手（微信号：wanlidbc ）好友，待社区助手拉您进群。
