分库分表是什么,为什么要分库分表?

如题所述

先来看一个案例:小明是一家初创公司电商平台的开发人员,它负责卖家模块的功能开发,其中涉及了店铺、商品的相关业务,设计了如下数据库:

随着公司业务快速发展,数据库中的数据量猛增,访问性能也变慢了,优化迫在眉睫。分析了下问题出现在哪儿呢?关系型数据库本身比较容易成为系统瓶颈、单机存储容量、连接数、处理能力有限。当单表的数据量达到1000W或100G以后,由于查询纬度较多,及时添加从库、优化索引,做很多操作时性能仍下降严重。

方案一:通过提升服务其硬件能力来提高数据处理能力,比如增加存储容量、cpu等,这种方案成本比较高,并且瓶颈在MySql本身,那么提高硬件也是有限的。

方案二:通过把数据分散到不同的数据库中,使得单一数据库的数据量变小来缓解单一数据库的性能问题,从而达到提升数据库性能的目的。比如:将电商数据库拆分为若干独立的数据库,并且对于大表来说也拆分为若干小表,通过这种数据库拆分的方法来解决数据库的性能问题。

因此,分库分表的目的就是为了解决由于数据量过而导致数据库性能降低的问题,将原来独立的数据库拆分为若干数据库组成,将数据大表拆分成若干数据表,使得单一数据库、单一数据表的数据量变小,从而达到提升数据库性能的目的。

分库分表的方式在生产中通常包括:垂直分库、垂直分表、水平分库和水平分表四种。

垂直分表:还是以商品信息表为例:用户在浏览商品列表时,只有对商品感兴趣时才会点进去查看商品的详细描述信息。因此,商品信息中商品描述字段访问频率比较低,且该字段存储占用空间较大,访问单个商品IO时间较长;商品信息表中商品名称、商品图片、商品价格等其它字段数据访问频率较高。由于这两种数据特性不一样,因此考虑将商品信息表拆分为两个小表(t_goods_01,t_goods_02),将访问频率低的商品描述信息单独存放在一张表中(t_goods_01),将访问频率高的商品基本信息单独放在另一张表中(t_goods_02)。

垂直分库:通过垂直分表性能得到了一定程度的提升,但是还没有达到要求,并且磁盘空间也快不够了,因为数据还是始终限制在一台服务器,库内垂直分表直接就了单一表数据量过大的问题,但没有将表分布到不同的服务器上,因此每个表还是竞争同一个物理机的CPU、内存、网络IO和磁盘。

水平分库:经过垂直分库后,数据库性能得到了一定程度上的解决,但是随着业务的增长,商品库单库存储数据已经超出预估。粗略估计,目前有8w个店铺,每个店铺平均150个不同规格的商品,再算上增长,商品数量得往1500w+上预估,并且商品库属于访问频率非常高的资源,单台服务器已经无法支撑。此时此刻该如何优化呢?尝试水平分库,将店铺ID为单数的和店铺ID为偶数的商品信息分布存在两个表中。

水平分表:按照水平分库的思路对商品库内的表也进行水平拆分,其目的是为了解决单表数据量大的问题,如下图所示。以上操作进行的优化就叫水平分表。水平分表就是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中(对数据的拆分,不影响表结构)。

总结:分库分表的方式有四种,它们分别是:垂直分表、垂直分库、水平分库和水平分表。垂直分表:可以把一个宽表的字段按照访问频率、是否是大字段的原则拆分为多个表,这样既能使业务清晰,还能提高部分性能。垂直分库:可以把多个表按照业务的耦合性来进行分类,分别存放在不同的数据库中,这些库可以分布在不同的服务器,从而使访问压力被分摊在多个服务器,大大提高性能,同时能提高整体架构的业务清晰度,不同的业务库可根据自身情况定制优化方案。水平分库:可以把一个表的数据(按数据行)分到多个不同的库,每个库只有这个表的部分数据,这些库可以分布在不同的服务器,从而使访问压力被多服务器负载,提升性能。水平分表:可以把一个表的数据(按数据行)分到多个同一个数据库的多张表中,每个表的数据只有这个表的部分数据,这样做能小幅提升性能,它仅仅作为水平分库的一个补充优化。最后,一般来说,在系统设计阶段就应该根据业务耦合程度来确定用哪种分库分表的方式(方案),在数据量及访问压力不是特别大的情况,首先考虑缓存、读写分离、索引技术等方案。若数据量极大,且连续增长,再考虑水平分库水平分表的方案。
温馨提示:内容为网友见解,仅供参考
无其他回答

什么是分库分表,为什么要分库分表?
分库分表是一种数据库设计策略,其概念简单,主要目的是提升性能和增加可用性。从性能角度看,当数据库中的数据量庞大且查询请求频率极高时,单库性能瓶颈显现,此时拆库成为优化选择。例如,若单库连接数上限为1000,而查询请求为3500,则可以考虑将数据库分为4个库,以此分担查询连接压力。当单表数据...

分库与分表有什么区别
而分库分表则更多地与物理存储结构相关联。它指的是按照实际的仓库或存储空间情况进行表的划分,即根据库房的实际容量、访问频率等实际情况来组织表格。这种划分方法往往与硬件资源的可用性紧密相关,旨在实现数据的高效存储与管理。分库分表的实现过程中,考虑的是如何根据具体的业务需求和系统负载来分配资源...

什么是分库分表?如何分库分表?(附大厂分库分表实例)
在处理海量数据和高并发场景下,分库分表是一种重要的数据库优化策略。它将数据分散到多个数据库和表中,以应对单库性能瓶颈。1. 分库分表策略核心在于水平切分,即分表和分库。分表是在单个数据库内部将数据分布在多个表中,而分库则是将数据分散到不同的数据库实例上。这种策略在数据量激增时,能够...

分库分表是什么,为什么要分库分表?
因此,分库分表的目的就是为了解决由于数据量过而导致数据库性能降低的问题,将原来独立的数据库拆分为若干数据库组成,将数据大表拆分成若干数据表,使得单一数据库、单一数据表的数据量变小,从而达到提升数据库性能的目的。分库分表的方式在生产中通常包括:垂直分库、垂直分表、水平分库和水平分表四种。

数据库为什么要分库分表?
从字面上简单理解,就是把原本存储于一个库的数据分块存储到多个库上,把原本存储于一个表的数据分块存储到多个表上。2 基本思想之为什么要分库分表?数据库中的数据量不一定是可控的,在未进行分库分表的情况下,随着时间和业务的发展,库中的表会越来越多,表中的数据量也会越来越大,相应地,...

数据库分区和分表的区别
分表 就是把一张表按一定的规则分解成N个具有独立存储空间的实体表。系统读写时需要根据定义好的规则得到对应的字表明,然后操作它。分库 一旦分表,一个库中的表会越来越多 将整个数据库比作图书馆,一张表就是一本书。当要在一本书中查找某项内容时,如果不分章节,查找的效率将会下降。而同理...

分库分布的几件小事(一)数据库如何拆分
1.为什么要分库分表①分库分表说白了,就是因为数据量太大了,如果你的单表数据量都到了千万级别,那么你的数据库就无法承受高并发的要求,数据库操作性能就会出现极大的下降。②数据库并发量太大了,一般而言,一个数据库最多支撑并发到2000,这时候一定要进行扩容,不然性能会出现严重下降。而且一个...

分区、分表、分库
分库将大表拆分至多个库,部署不同功能模块或关系密切表到不同库,优点是提高系统性能。但分库无法解决单表数据量过大的问题。分库分表后,出现分布式事务、数据完整性和一致性问题。数据操作维度问题,如用户、交易、订单等不同查询角度,需要跨库联合查询,增加额外的合并计算程序编码开发难度。主从复制...

为何MYSQL很少用分区表,而用分库分表
    分库分表是MYSQL应对大数据、高并发的常见解决方案,有很多朋友特别是熟悉ORACLE的朋友可能会问,    MYSQL有分区表,分区表同样能达到IO分散、提高性能的目的,而且更简单,更方便,为何还要采用分库分表呢。我想主要有以下几个方便的原因:1、...

MySQL数据库分库分表策略简介mysql中分库和分表
分库分表是通过将单个逻辑数据库拆分为多个物理数据库或者表来扩展数据库性能。为了让多个数据库或表之间协同工作,需要使用一些特定的策略,包括分片、代理、分区等等。分片策略 分片是一种将数据分散在多个数据库或节点之间的技术,从而提高系统的性能和可扩展性。分片通常采用以下两种主要方法之一:1、按...

相似回答
大家正在搜