Amazon Aurora 读写能力扩展之 ShardingSphere-JDBC 篇-低调大师

Amazon Aurora 读写能力扩展之 ShardingSphere-JDBC 篇

2022-04-27 544

文章来源亚马逊 AWS 官方博客

孙进华，亚马逊云科技资深解决方案架构师，负责帮助客户进行上云架构的设计和咨询。加入 AWS 前自主创业负责电商平台搭建和车企电商平台整体架构设计。曾就职于全球领先的通讯设备公司，担任高级工程师，负责 LTE 设备系统的多个子系统的开发与架构设计。在高并发、高可用系统架构设计、微服务架构设计、数据库、中间件、IOT 等方面有着丰富的经验。

1. 前言

Amazon Aurora 是亚马逊云科技自研的一项关系数据库服务，它在提供和开源数据库 MySQL、PostgreSQL 的完好兼容性同时，也能够提供和商业数据库媲美的性能和可用性。性能方面，Aurora MySQL 能够支持到与开源标准 MySQL 同等配置下五倍的吞吐量，Aurora PostgreSQL 能够支持与开源标准 PostgreSQL 同等配置下三倍的吞吐量的提升。在扩展性的角度，Aurora 在存储与计算、横向与纵向方面都进行了功能的增强和创新。

Aurora 的最大数据存储量现在支持多达 128TB，而且可以支持存储的动态收缩。计算方面，Aurora 提供多个读副本的可扩展性配置支持一个区域内多达 15 个读副本的扩展，提供多主的架构来支持同一个区域内 4 个写节点的扩展，提供 Serverless 无服务器化的架构实例级别的秒级纵向扩展，提供全球数据库来实现数据库的低延迟跨区域扩展。

随着用户数据量的增长，Aurora 已经提供了很好的扩展性，那是否可以进一步增强更多的数据量、更多的并发访问能力呢？您可以考虑利用分库分表的方式，来支持底层多个 Aurora 集群的配置。基于此，包含这篇博客在内的系列博客会进行相应的介绍，旨在为您进行分库分表时代理或者 JDBC 的选择提供参考。

1.1 为什么要分库分表

AWS Aurora 提供了关系型数据库单机，主从，多主，全球数据库等托管架构形式可以满足以上各种架构场景，但分库分表的场景下 Aurora 没有提供直接的支持，并且分库分表还衍生出来如垂直与水平多种形态,再进一步提升数据容量的情况下，也带来一些需要解决的问题，如跨节点数据库 Join 关联查询、分布式事务、执行的 SQL 排序、翻页、函数计算、数据库全局主键、容量规划、分库分表后二次扩容等问题。

1.2 分库分表的方式

查询一次所花的时间业界公认 MySQL 单表容量在 1 千万以下是最佳状态，因为这时它的BTREE索引树高在 3~5 之间。通过对数据的切分可以在降低单表的数据量的同时，将读写的压力分摊到不同的数据节点上，数据切分可以分为：垂直切分和水平切分。

垂直切分的优点

解决业务系统层面的耦合，业务清晰；
与微服务的治理类似，也能对不同业务的数据进行分级管理、维护、监控、扩展等；
高并发场景下，垂直切分一定程度的提升 IO、数据库连接数、单机硬件资源的瓶颈。

垂直切分的缺点

分库后无法 Join，只能通过接口聚合方式解决，提升了开发的复杂度；
分库后分布式事务处理复杂；
依然存在单表数据量过大的问题（需要水平切分）。

水平切分的优点

不存在单库数据量过大、高并发的性能瓶颈，提升系统稳定性和负载能力；
应用端改造较小，不需要拆分业务模块。

水平切分的缺点

跨分片的事务一致性难以保证；
跨库的 Join 关联查询性能较差；
数据多次扩展难度和维护量极大。

结合以上分析，在调研了常见的分库分表的中间件基础上，我们选取 ShardingSphere 开源产品结合 Amazon Aurora，介绍这两种产品的结合是如何满足各种形式的分库分表方式和如何解决由分库分表带来的一些问题。

2. Sharding-JDBC 功能测试

2.1 样例工程说明

下载样例工程代码到本地，为保证测试代码的稳定性我们这里选择使 shardingsphere-example-4.0.0 这个 tag 版本。

git clone https://github.com/apache/shardingsphere-example.git

工程项目说明：

shardingsphere-example
  ├── example-core
  │   ├── config-utility
  │   ├── example-api
  │   ├── example-raw-jdbc
  │   ├── example-spring-jpa #spring+jpa集成基础的entity，repository
  │   └── example-spring-mybatis
  ├── sharding-jdbc-example
  │   ├── sharding-example
  │   │   ├── sharding-raw-jdbc-example
  │   │   ├── sharding-spring-boot-jpa-example #集成基础的sharding-jdbc的功能
  │   │   ├── sharding-spring-boot-mybatis-example
  │   │   ├── sharding-spring-namespace-jpa-example
  │   │   └── sharding-spring-namespace-mybatis-example
  │   ├── orchestration-example
  │   │   ├── orchestration-raw-jdbc-example
  │   │   ├── orchestration-spring-boot-example #集成基础的sharding-jdbc的治理的功能
  │   │   └── orchestration-spring-namespace-example
  │   ├── transaction-example
  │   │   ├── transaction-2pc-xa-example #sharding-jdbc分布式事务两阶段提交的样例
  │   │   └──transaction-base-seata-example #sharding-jdbc分布式事务seata的样例
  │   ├── other-feature-example
  │   │   ├── hint-example
  │   │   └── encrypt-example
  ├── sharding-proxy-example
  │   └── sharding-proxy-boot-mybatis-example
  └── src/resources
        └── manual_schema.sql

配置文件说明：

application-master-slave.properties #读写分离配置文件
application-sharding-databases-tables.properties #分库分表配置文件
application-sharding-databases.properties       #仅分库配置文件
application-sharding-master-slave.properties    #分库分表加读写分离的配置文件
application-sharding-tables.properties          #分表配置文件
application.properties                         #spring boot 配置文件

代码逻辑说明：

Spring Boot 应用的入口类，执行该类就可以运行工程

其中 demo 的执行逻辑如下：

2.2读写分离验证

随着业务增长，写和读请求分离到不同的数据库节点上能够有效提高整个数据库集群的处理能力。Aurora 通过读/写的 endpoint 可以满足用户写和强一致性读的需求，单独只读的 endpoint 可以满足用户非强一致性读的需求。Aurora 的读写延迟通常在毫秒级别，比 MySQL 基于 binlog 的逻辑复制要低得多，所以有很多负载是直接打到只读 endpoint。

通过一主多从的配置方式，可以将查询请求均匀的分散到多个数据副本，能够进一步的提升系统的处理能力。读写分离虽然可以提升系统的吞吐量和可用性，但同时也带来了数据不一致的问题。Aurora 以完全托管的形式提供了主从架构，但上层应用在与 Aurora 交互时，仍然需要管理多个数据源，根据 SQL 语句的读写类型和一定的路由策略将 SQL 请求路由到不同的节点上。

Sharding-JDBC 提供的读写分离的特性，应用程序与 Sharding-JDBC 集成，将应用程序与数据库集群之间复杂配置关系从应用程序中剥离出来，开发者通过配置文件管理 Shard，再结合一些 ORM 框架如 Spring JPA、Mybatis 就可以完全将这些复制的逻辑从代码中分离。极大的提高代码的可维护性，降低代码与数据库的耦合。

2.2.1 数据库环境准备

首先创建一套 Aurora MySQL 读写分离集群，机型为 db.r5.2xlarge，每套集群有一个写节点 2 个读节点。如下图所示

2.2.2 Sharding-JDBC 配置

application.properties spring boot 主配置文件说明

如下图所属：绿色标注的部分你需要替换成自己环境上的配置

# jpa自动根据实体创建和drop数据表
spring.jpa.properties.hibernate.hbm2ddl.auto=create-drop
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQL5Dialect
spring.jpa.properties.hibernate.show_sql=true

#spring.profiles.active=sharding-databases
#spring.profiles.active=sharding-tables
#spring.profiles.active=sharding-databases-tables
#激活master-slave 配置项，这样sharding-jdbc将使用master-slave配置文件
spring.profiles.active=master-slave
#spring.profiles.active=sharding-master-slave

application-master-slave.properties sharding-jdbc 配置文件说明

spring.shardingsphere.datasource.names=ds_master,ds_slave_0,ds_slave_1
# 数据源 主库-master
spring.shardingsphere.datasource.ds_master.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master.password= 您自己的主db密码
spring.shardingsphere.datasource.ds_master.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master.jdbc-url=您自己的主db数据源url spring.shardingsphere.datasource.ds_master.username=您自己的主db用户名 
# 数据源 从库
spring.shardingsphere.datasource.ds_slave_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_slave_0.password= 您自己的从db密码
spring.shardingsphere.datasource.ds_slave_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_slave_0.jdbc-url=您自己的从db数据源url
spring.shardingsphere.datasource.ds_slave_0.username= 您自己的从db用户名
# 数据源 从库
spring.shardingsphere.datasource.ds_slave_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_slave_1.password=您自己的从db密码
spring.shardingsphere.datasource.ds_slave_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_slave_1.jdbc-url= 您自己的从db数据源url
spring.shardingsphere.datasource.ds_slave_1.username= 您自己的从db用户名
# 路由策略配置
spring.shardingsphere.masterslave.load-balance-algorithm-type=round_robin
spring.shardingsphere.masterslave.name=ds_ms
spring.shardingsphere.masterslave.master-data-source-name=ds_master
spring.shardingsphere.masterslave.slave-data-source-names=ds_slave_0,ds_slave_1
# sharding-jdbc 配置信息存储方式
spring.shardingsphere.mode.type=Memory
# 开启shardingsphere 日志，开启的情况下从打印中可以看到逻辑SQL到实际SQL的转换
spring.shardingsphere.props.sql.show=true

2.2.3 测试验证过程说明

测试环境数据初始化：Spring JPA 初始化自动创建用于测试的表

在主实例上写入数据

如下图 ShardingSphere-SQL log 所示，写 SQL 在 ds_master 数据源上执行。

数据查询操作在从库上执行

如下图 ShardingSphere-SQL log 所示，读 SQL 按照轮询的方式在 ds_slave 数据源上执行。

[INFO ] 2022-04-02 19:43:39,376 --main-- [ShardingSphere-SQL] Rule Type: master-slave 
[INFO ] 2022-04-02 19:43:39,376 --main-- [ShardingSphere-SQL] SQL: select orderentit0_.order_id as order_id1_1_, orderentit0_.address_id as address_2_1_, 
orderentit0_.status as status3_1_, orderentit0_.user_id as user_id4_1_ from t_order orderentit0_ ::: DataSources: ds_slave_0 
---------------------------- Print OrderItem Data -------------------
Hibernate: select orderiteme1_.order_item_id as order_it1_2_, orderiteme1_.order_id as order_id2_2_, orderiteme1_.status as status3_2_, orderiteme1_.user_id 
as user_id4_2_ from t_order orderentit0_ cross join t_order_item orderiteme1_ where orderentit0_.order_id=orderiteme1_.order_id
[INFO ] 2022-04-02 19:43:40,898 --main-- [ShardingSphere-SQL] Rule Type: master-slave 
[INFO ] 2022-04-02 19:43:40,898 --main-- [ShardingSphere-SQL] SQL: select orderiteme1_.order_item_id as order_it1_2_, orderiteme1_.order_id as order_id2_2_, orderiteme1_.status as status3_2_, 
orderiteme1_.user_id as user_id4_2_ from t_order orderentit0_ cross join t_order_item orderiteme1_ where orderentit0_.order_id=orderiteme1_.order_id ::: DataSources: ds_slave_1

注意：如下图所示，如果在一个事务中既有读也有写，Sharding-JDBC 将读写操作都路由到主库；如果读写请求不在一个事务中，那么对应读请求将按照路由策略分发到不同的读节点上。

@Override
@Transactional // 开启事务时在该事务中读写都走主库；关闭事务时，读走从库，写走主库
public void processSuccess() throws SQLException {
    System.out.println("-------------- Process Success Begin ---------------");
    List<Long> orderIds = insertData();
    printData();
    deleteData(orderIds);
    printData();
    System.out.println("-------------- Process Success Finish --------------");
}

2.2.4 Aurora failover 场景验证

Aurora 数据库环境采用 2.2.1 中的配置。

2.2.4.1 验证过程中说明

启动 Spring-Boot 工程
在 Aurora 的 console 上执行故障转移操作

执行 Rest API 请求
多次执行 POST （http://localhost:8088/save-user）直到该 API 的调用写入 Aurora 失败到最终恢复成功。
观测执行代码 failover 过程如下图所示，从 log 可以分析最近一次 SQL 执行写入操作成功到下次执行再次写入成功大概需要 37s，也就是应用从 Aurora failover 中可以自动恢复，恢复的时长大概是 37s。

2.3仅分表功能验证

2.3.1 Sharding-JDBC 配置

application.properties spring boot 主配置文件说明

# jpa 自动根据实体创建和drop数据表
spring.jpa.properties.hibernate.hbm2ddl.auto=create-drop
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQL5Dialect
spring.jpa.properties.hibernate.show_sql=true
#spring.profiles.active=sharding-databases
#激活sharding-tables配置项
#spring.profiles.active=sharding-tables
#spring.profiles.active=sharding-databases-tables
# spring.profiles.active=master-slave
#spring.profiles.active=sharding-master-slave

application-sharding-tables.properties sharding-jdbc 配置文件说明

## 主键策略配置
spring.shardingsphere.sharding.tables.t_order.key-generator.column=order_id
spring.shardingsphere.sharding.tables.t_order.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order.key-generator.props.worker.id=123
spring.shardingsphere.sharding.tables.t_order_item.actual-data-nodes=ds.t_order_item_$->{0..1}
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.sharding-column=order_id
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.algorithm-expression=t_order_item_$->{order_id % 2}
spring.shardingsphere.sharding.tables.t_order_item.key-generator.column=order_item_id
spring.shardingsphere.sharding.tables.t_order_item.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order_item.key-generator.props.worker.id=123
# 配置t_order与 t_order_item的绑定关系
spring.shardingsphere.sharding.binding-tables[0]=t_order,t_order_item
# 配置广播表
spring.shardingsphere.sharding.broadcast-tables=t_address
# sharding-jdbc的模式
spring.shardingsphere.mode.type=Memory
# 开启shardingsphere日志
spring.shardingsphere.props.sql.show=true

2.3.2 测试验证过程说明

DDL 操作

如下图所属，JPA 自动创建用于测试的表，在配置了 Sharding-JDBC 的路由规则的情况下，client 端执行 DDL，Sharding-JDBC 会自动根据分表规则创建对应的表；如 taddress 是广播表，由于只有一个主实例，所以创建一个 taddress；torder 按照取模分表，创建 torder 时会创建 torder0, torder1 两张表物理表。

写操作

如下图所示 Logic SQL 向 torder 插入一条记录，Sharding-JDBC 执行的时候会根据分表规则将数据分布放到 torder0, torder_1 中。

当 t_order 和 t_order_item 配置了绑定关系时，order_item 与 order 有关联关系的记录会放到同一个物理分表中。

读操作

绑定表下的 join 查询操作 order 和 order_item，如下图所示，会根据绑定关系精确定位对应的物理 shard 上。

非绑定表下的 join 查询操作 order 和 order_item，如下图所属，会遍历所有的 shard。

2.4 仅分库功能验证

2.4.1 数据库环境准备

如下图所属，在 Aurora 上创建两个实例：ds_0 和 ds_1

启动 Sharding-spring-boot-jpa-example 工程时会在两个 Aurora 实例上创建表 t_order, t_order_item，t_address

2.4.2 Sharding-JDBC 配置

application.properties springboot 主配置文件说明

# jpa 自动根据实体创建和drop数据表
spring.jpa.properties.hibernate.hbm2ddl.auto=create
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQL5Dialect
spring.jpa.properties.hibernate.show_sql=true

# 激活sharding-databases配置项
spring.profiles.active=sharding-databases
#spring.profiles.active=sharding-tables
#spring.profiles.active=sharding-databases-tables
#spring.profiles.active=master-slave
#spring.profiles.active=sharding-master-slave

application-sharding-databases.properties sharding-jdbc 配置文件说明

spring.shardingsphere.datasource.names=ds_0,ds_1
# ds_0
spring.shardingsphere.datasource.ds_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_0.jdbc-url= spring.shardingsphere.datasource.ds_0.username= 
spring.shardingsphere.datasource.ds_0.password=
# ds_1
spring.shardingsphere.datasource.ds_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_1.jdbc-url= 
spring.shardingsphere.datasource.ds_1.username= 
spring.shardingsphere.datasource.ds_1.password=
spring.shardingsphere.sharding.default-database-strategy.inline.sharding-column=user_id
spring.shardingsphere.sharding.default-database-strategy.inline.algorithm-expression=ds_$->{user_id % 2}
spring.shardingsphere.sharding.binding-tables=t_order,t_order_item
spring.shardingsphere.sharding.broadcast-tables=t_address
spring.shardingsphere.sharding.default-data-source-name=ds_0

spring.shardingsphere.sharding.tables.t_order.actual-data-nodes=ds_$->{0..1}.t_order
spring.shardingsphere.sharding.tables.t_order.key-generator.column=order_id
spring.shardingsphere.sharding.tables.t_order.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order.key-generator.props.worker.id=123
spring.shardingsphere.sharding.tables.t_order_item.actual-data-nodes=ds_$->{0..1}.t_order_item
spring.shardingsphere.sharding.tables.t_order_item.key-generator.column=order_item_id
spring.shardingsphere.sharding.tables.t_order_item.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order_item.key-generator.props.worker.id=123
# sharding-jdbc的模式
spring.shardingsphere.mode.type=Memory
# 开启shardingsphere日志
spring.shardingsphere.props.sql.show=true

2.4.3 测试验证过程说明

DDL 操作

JPA 自动创建用于测试的表，如下图所属，在配置了 Sharding-JDBC 的分库路由规则的情况下，client 端执行 DDL，Sharding-JDBC 会自动根据分表规则创建对应的表；如 taddress 是广播表在 ds0 和 ds1 上都会创建物理表 taddress，torder，torderitem 按照取模分库，这三个表会分别在 ds0 和 ds_1 上创建。

写操作

对于广播表 taddress，每写入一条记录会在 ds0 和 ds1 的 taddress 表上都写入

对于分库的表 torder，torder_item，会按照分库字段和路由策略写入到对应实例上的表中。

读操作

如下图所示，查询 order，根据分库路由规则路由到对应的 Aurora 实例上。

如下图所示，查询 Address，由于 address 是广播表，会在所用的节点中随机选择一个 address 所在的实例查询。

如下图所示，绑定表下的 join 查询操作 order 和 order_item 时，会根据绑定关系精确定位对应的物理 shard 上。

2.5 分库分表功能验证

2.5.1 数据库环境准备

如下图所示，在 Aurora 上创建两个实例：ds0和ds1

启动 sharding-spring-boot-jpa-example 工程时会在两个 Aurora 实例上创建物理表 t_order_01, t_order_02, t_order_item_01，t_order_item_02 和 t_address 全局表。

2.5.2 Sharding-JDBC 配置

application.properties springboot 主配置文件说明

# jpa 自动根据实体创建和drop数据表
spring.jpa.properties.hibernate.hbm2ddl.auto=create
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQL5Dialect
spring.jpa.properties.hibernate.show_sql=true
# 激活sharding-databases-tables配置项
#spring.profiles.active=sharding-databases
#spring.profiles.active=sharding-tables
spring.profiles.active=sharding-databases-tables
#spring.profiles.active=master-slave
#spring.profiles.active=sharding-master-slave

application-sharding-databases.properties sharding-jdbc 配置文件说明

spring.shardingsphere.datasource.names=ds_0,ds_1
# ds_0
spring.shardingsphere.datasource.ds_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_0.jdbc-url= 306/dev?useSSL=false&characterEncoding=utf-8
spring.shardingsphere.datasource.ds_0.username= 
spring.shardingsphere.datasource.ds_0.password=
spring.shardingsphere.datasource.ds_0.max-active=16
# ds_1
spring.shardingsphere.datasource.ds_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_1.jdbc-url= 
spring.shardingsphere.datasource.ds_1.username= 
spring.shardingsphere.datasource.ds_1.password=
spring.shardingsphere.datasource.ds_1.max-active=16
# 默认的分库策略
spring.shardingsphere.sharding.default-database-strategy.inline.sharding-column=user_id
spring.shardingsphere.sharding.default-database-strategy.inline.algorithm-expression=ds_$->{user_id % 2}
spring.shardingsphere.sharding.binding-tables=t_order,t_order_item
spring.shardingsphere.sharding.broadcast-tables=t_address
# 不满足分库策略的表放在ds_0上
spring.shardingsphere.sharding.default-data-source-name=ds_0
# t_order分表策略
spring.shardingsphere.sharding.tables.t_order.actual-data-nodes=ds_$->{0..1}.t_order_$->{0..1}
spring.shardingsphere.sharding.tables.t_order.table-strategy.inline.sharding-column=order_id
spring.shardingsphere.sharding.tables.t_order.table-strategy.inline.algorithm-expression=t_order_$->{order_id % 2}
spring.shardingsphere.sharding.tables.t_order.key-generator.column=order_id
spring.shardingsphere.sharding.tables.t_order.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order.key-generator.props.worker.id=123
# t_order_item分表策略
spring.shardingsphere.sharding.tables.t_order_item.actual-data-nodes=ds_$->{0..1}.t_order_item_$->{0..1}
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.sharding-column=order_id
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.algorithm-expression=t_order_item_$->{order_id % 2}
spring.shardingsphere.sharding.tables.t_order_item.key-generator.column=order_item_id
spring.shardingsphere.sharding.tables.t_order_item.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order_item.key-generator.props.worker.id=123
# sharding-jdbc的模式
spring.shardingsphere.mode.type=Memory
# 开启shardingsphere日志
spring.shardingsphere.props.sql.show=true

2.5.3 测试验证过程说明

DDL 操作

JPA 自动创建用于测试的表，如下图所示，在配置了 Sharding-JDBC 的分库分表路由规则的情况下，client 端执行 DDL，Sharding-JDBC 会自动根据分表规则创建对应的表；如 taddress 是广播表在 ds_0 和 ds_1 上都会创建 t_address。t_order，t_order_item 按照取模分库分表，这三个表会分别在 ds0 和 ds_1 上创建。

写操作

对于广播表 taddress，每写入一条记录会在 ds0 和 ds1 的 taddress 表上都写入。

对于分库的表 torder，torder_item，会按照分库字段和路由策略写入到对应实例上的表中。

读操作

读操作与仅分库功能验证类似，这里不再赘述

2.6 分库分表加读写分离功能验证

2.6.1 数据库环境准备

创建的数据库实例于对应的物理表如下图所示。

2.6.2 Sharding-JDBC 配置

application.properties spring boot 主配置文件说明

# jpa 自动根据实体创建和drop数据表
spring.jpa.properties.hibernate.hbm2ddl.auto=create
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQL5Dialect
spring.jpa.properties.hibernate.show_sql=true

# 激活sharding-databases-tables配置项
#spring.profiles.active=sharding-databases
#spring.profiles.active=sharding-tables
#spring.profiles.active=sharding-databases-tables
#spring.profiles.active=master-slave
spring.profiles.active=sharding-master-slave

application-sharding-master-slave.properties sharding-jdbc 配置文件说明

其中数据库的 url、name、password 需要修改成你自己的数据库的参数。

spring.shardingsphere.datasource.names=ds_master_0,ds_master_1,ds_master_0_slave_0,ds_master_0_slave_1,ds_master_1_slave_0,ds_master_1_slave_1
spring.shardingsphere.datasource.ds_master_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_0.jdbc-url= spring.shardingsphere.datasource.ds_master_0.username= 
spring.shardingsphere.datasource.ds_master_0.password=
spring.shardingsphere.datasource.ds_master_0.max-active=16
spring.shardingsphere.datasource.ds_master_0_slave_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_0_slave_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_0_slave_0.jdbc-url= spring.shardingsphere.datasource.ds_master_0_slave_0.username= 
spring.shardingsphere.datasource.ds_master_0_slave_0.password=
spring.shardingsphere.datasource.ds_master_0_slave_0.max-active=16
spring.shardingsphere.datasource.ds_master_0_slave_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_0_slave_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_0_slave_1.jdbc-url= spring.shardingsphere.datasource.ds_master_0_slave_1.username= 
spring.shardingsphere.datasource.ds_master_0_slave_1.password=
spring.shardingsphere.datasource.ds_master_0_slave_1.max-active=16
spring.shardingsphere.datasource.ds_master_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_1.jdbc-url= 
spring.shardingsphere.datasource.ds_master_1.username= 
spring.shardingsphere.datasource.ds_master_1.password=
spring.shardingsphere.datasource.ds_master_1.max-active=16
spring.shardingsphere.datasource.ds_master_1_slave_0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_1_slave_0.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_1_slave_0.jdbc-url=
spring.shardingsphere.datasource.ds_master_1_slave_0.username=
spring.shardingsphere.datasource.ds_master_1_slave_0.password=
spring.shardingsphere.datasource.ds_master_1_slave_0.max-active=16
spring.shardingsphere.datasource.ds_master_1_slave_1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds_master_1_slave_1.driver-class-name=com.mysql.jdbc.Driver
spring.shardingsphere.datasource.ds_master_1_slave_1.jdbc-url= spring.shardingsphere.datasource.ds_master_1_slave_1.username=admin
spring.shardingsphere.datasource.ds_master_1_slave_1.password=
spring.shardingsphere.datasource.ds_master_1_slave_1.max-active=16
spring.shardingsphere.sharding.default-database-strategy.inline.sharding-column=user_id
spring.shardingsphere.sharding.default-database-strategy.inline.algorithm-expression=ds_$->{user_id % 2}
spring.shardingsphere.sharding.binding-tables=t_order,t_order_item
spring.shardingsphere.sharding.broadcast-tables=t_address
spring.shardingsphere.sharding.default-data-source-name=ds_master_0
spring.shardingsphere.sharding.tables.t_order.actual-data-nodes=ds_$->{0..1}.t_order_$->{0..1}
spring.shardingsphere.sharding.tables.t_order.table-strategy.inline.sharding-column=order_id
spring.shardingsphere.sharding.tables.t_order.table-strategy.inline.algorithm-expression=t_order_$->{order_id % 2}
spring.shardingsphere.sharding.tables.t_order.key-generator.column=order_id
spring.shardingsphere.sharding.tables.t_order.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order.key-generator.props.worker.id=123
spring.shardingsphere.sharding.tables.t_order_item.actual-data-nodes=ds_$->{0..1}.t_order_item_$->{0..1}
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.sharding-column=order_id
spring.shardingsphere.sharding.tables.t_order_item.table-strategy.inline.algorithm-expression=t_order_item_$->{order_id % 2}
spring.shardingsphere.sharding.tables.t_order_item.key-generator.column=order_item_id
spring.shardingsphere.sharding.tables.t_order_item.key-generator.type=SNOWFLAKE
spring.shardingsphere.sharding.tables.t_order_item.key-generator.props.worker.id=123
# 主从数据源，分库数据源配置
spring.shardingsphere.sharding.master-slave-rules.ds_0.master-data-source-name=ds_master_0
spring.shardingsphere.sharding.master-slave-rules.ds_0.slave-data-source-names=ds_master_0_slave_0, ds_master_0_slave_1
spring.shardingsphere.sharding.master-slave-rules.ds_1.master-data-source-name=ds_master_1
spring.shardingsphere.sharding.master-slave-rules.ds_1.slave-data-source-names=ds_master_1_slave_0, ds_master_1_slave_1
# sharding-jdbc的模式
spring.shardingsphere.mode.type=Memory
# 开启shardingsphere日志
spring.shardingsphere.props.sql.show=true

2.6.3 测试验证过程说明

DDL 操作所属

JPA 自动创建用于测试的表，如下图，在配置了 Sharding-JDBC 的分库路由规则的情况下，client 端执行 DDL，Sharding-JDBC 会自动根据分表规则创建对应的表；如 taddress 是广播表在 ds0 和 ds1 上都会创建, t_address，t_order，t_order_item 按照取模分库，这三个表会分别在 ds0 和 ds_1 上创建。

写操作

对于广播表 taddress，每写入一条记录会在 ds0 和 ds1 的 taddress 表上都写入

对于分库的表 torder，torder_item，会按照分库字段和路由策略写入到对应实例上的表中。

读操作

绑定表下的 join 查询操作 order 和 order_item，如下图所示。

3. 结语

ShardingSphere 作为一款专注于数据库增强的开源产品，从社区活跃度、产品成熟度、文档丰富程度上来看都是比较好的。其中的 Sharding-JDBC 是基于客户端的分库分表方案，它支持了所有的分库分表的场景，并且无需引入 Proxy 这样的中间层，所以降低了运维的复杂性，相比 Proxy 这种方式由于少了中间层所以时延理论上会比 Proxy 低，其次 Sharding-JDBC 可以支持各种基于 SQL 标准的关系型数据库如 MySQL/PostgreSQL/Oracle/SQL Server 等。但由于 Sharding-JDBC 与应用程序集成，目前支持的语言仅限于 Java，对应用程序有一定的耦合性，但 Sharding-JDBC 将所以分库分表的配置从应用程序中分离，这样面临切换其他的中间件时由此带来的变更相对较小。综上所述如果您不希望引入中间层，且使用基于 Java 语言开发的系统，且需要对接不同的关系型数据库，Sharding-JDBC 将会是一个不错的选择。

欢迎点击链接，了解更多内容：

Apache ShardingSphere 官网：https://shardingsphere.apache.org/

Apache ShardingSphere GitHub 地址：https://github.com/apache/shardingsphere

SphereEx 官网：https://www.sphere-ex.com

欢迎添加社区经理微信（ss_assistant_1）加入交流群，与众多 ShardingSphere 爱好者一同交流。

微信关注我们

原文链接：https://my.oschina.net/u/5137513/blog/5520446

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

ohUrlShortener 短链接系统 v1.3 发布，支持导出访问日志

ohUrlShortener 短链接系统，今天迎来第三个版本更新，主要变化是：主要变化：新增导出访问日志功能数据统计页面展示短链接备注信息其中，导出访问日志的功能由 Gitee 社区中热心开源爱好者猫大哥贡献，再次向他表达感谢及崇高的敬意。最新分发版下载 https://gitee.com/barat/ohurlshortener/releases Docker 分发版已同步更新 https://hub.docker.com/r/baratsemet/ohurlshortener-portal https://hub.docker.com/r/baratsemet/ohurlshortener-admin 开源，我们并不孤独。欢迎感兴趣的朋友参与共建，我在 Gitee 等着你。适合中小型社区网站使用的短链接服务系统，支持短链接生产、查询及302转向，并自带点击量统计、独立IP数统计、访问日志查询：支持 Docker One Step Start 部署、Makefile 编译打包支持短链接生产、查询、存储、302转向支持访问日志查询、访问量统计、独立IP数统计 ...

2022-04-28

505

作者 / Dave Burke, VP of Engineering 四月已至，我们仍在不断稳步推进完善 Android 13 的功能和稳定性。Android 13 围绕我们的核心主题打造，即隐私和安全、开发者生产力，以及支持平板电脑和大屏幕设备。今天，我们进入到发布周期的下一个阶段，为大家带来 Android 13 的第一个 Beta 版。对于开发者来说，Android 13 有很多值得探索的地方，从新的通知权限和照片选择器等隐私功能，到帮助您构建良好体验的 API (如主题应用图标、将磁贴添加至快速设置和单个应用语言偏好)，以及蓝牙低功耗 (LE) 音频和通过 USB 连接 MIDI 2.0 硬件等功能。在 Beta 1 中我们也带来了许多改进，比如增加了新的权限，让您可以更精细地访问媒体文件，以及改进了音频路由 API，等等。我们将在 5 月 11 日至 12 日举行的 Google I/O 大会上分享更多信息，届时请务必收看！我们诚邀您来试用今天的 Beta 版本，也欢迎更多的早期体验用户参与进来，为我们提供关于这个版本的反馈信息。今天您就可以在受支持的 Pixel ...

2022-04-28

672

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。