MySQL使用为什么要分库分表

如题所述

1 基本思想之什么是分库分表?
从字面上简单理解,就是把原本存储于一个库的数据分块存储到多个库上,把原本存储于一个表的数据分块存储到多个表上。
2 基本思想之为什么要分库分表?

数据库中的数据量不一定是可控的,在未进行分库分表的情况下,随着时间和业务的发展,库中的表会越来越多,表中的数据量也会越来越大,相应地,数据操作,增删改查的开销也会越来越大;另外,由于无法进行分布式式部署,而一台服务器的资源(CPU、磁盘、内存、IO等)是有限的,最终数据库所能承载的数据量、数据处理能力都将遭遇瓶颈。
3 分库分表的实施策略。

分库分表有垂直切分和水平切分两种。
3.1 何谓垂直切分,即将表按照功能模块、关系密切程度划分出来,部署到不同的库上。例如,我们会建立定义数据库workDB、商品数据库payDB、用户数据库userDB、日志数据库logDB等,分别用于存储项目数据定义表、商品定义表、用户数据表、日志数据表等。
3.2 何谓水平切分,当一个表中的数据量过大时,我们可以把该表的数据按照某种规则,例如userID散列,进行划分,然后存储到多个结构相同的表,和不同的库上。例如,我们的userDB中的用户数据表中,每一个表的数据量都很大,就可以把userDB切分为结构相同的多个userDB:part0DB、part1DB等,再将userDB上的用户数据表userTable,切分为很多userTable:userTable0、userTable1等,然后将这些表按照一定的规则存储到多个userDB上。
3.3 应该使用哪一种方式来实施数据库分库分表,这要看数据库中数据量的瓶颈所在,并综合项目的业务类型进行考虑。
如果数据库是因为表太多而造成海量数据,并且项目的各项业务逻辑划分清晰、低耦合,那么规则简单明了、容易实施的垂直切分必是首选。
而如果数据库中的表并不多,但单表的数据量很大、或数据热度很高,这种情况之下就应该选择水平切分,水平切分比垂直切分要复杂一些,它将原本逻辑上属于一体的数据进行了物理分割,除了在分割时要对分割的粒度做好评估,考虑数据平均和负载平均,后期也将对项目人员及应用程序产生额外的数据管理负担。
在现实项目中,往往是这两种情况兼而有之,这就需要做出权衡,甚至既需要垂直切分,又需要水平切分。我们的游戏项目便综合使用了垂直与水平切分,我们首先对数据库进行垂直切分,然后,再针对一部分表,通常是用户数据表,进行水平切分。
4 分库分表存在的问题。

4.1 事务问题。
在执行分库分表之后,由于数据存储到了不同的库上,数据库事务管理出现了困难。如果依赖数据库本身的分布式事务管理功能去执行事务,将付出高昂的性能代价;如果由应用程序去协助控制,形成程序逻辑上的事务,又会造成编程方面的负担。
4.2 跨库跨表的join问题。
在执行了分库分表之后,难以避免会将原本逻辑关联性很强的数据划分到不同的表、不同的库上,这时,表的关联操作将受到限制,我们无法join位于不同分库的表,也无法join分表粒度不同的表,结果原本一次查询能够完成的业务,可能需要多次查询才能完成。
4.3 额外的数据管理负担和数据运算压力。
额外的数据管理负担,最显而易见的就是数据的定位问题和数据的增删改查的重复执行问题,这些都可以通过应用程序解决,但必然引起额外的逻辑运算,例如,对于一个记录用户成绩的用户数据表userTable,业务要求查出成绩最好的100位,在进行分表之前,只需一个order by语句就可以搞定,但是在进行分表之后,将需要n个order by语句,分别查出每一个分表的前100名用户数据,然后再对这些数据进行合并计算,才能得出结果。
上述整理于互联网
温馨提示:内容为网友见解,仅供参考
无其他回答

MySQL使用为什么要分库分表
从字面上简单理解,就是把原本存储于一个库的数据分块存储到多个库上,把原本存储于一个表的数据分块存储到多个表上。2 基本思想之为什么要分库分表?数据库中的数据量不一定是可控的,在未进行分库分表的情况下,随着时间和业务的发展,库中的表会越来越多,表中的数据量也会越来越大,相应地,...

为何MYSQL很少用分区表,而用分库分表
2、MYSQL分区表自身的不完善,坑太多,有时完全起不到分区表的作用,和巨大单表无二致,甚至更差。3、分区表,分区键设计不太灵活,如果不走分区键,很容易出现全表锁,性能大幅下降。4、自己分库分表,自己掌控业务场景与访问模式,可控。分区表,研发写了一个sql,都不确定mysql是怎么玩的,不太...

MySQL数据库分库分表策略简介mysql中分库和分表
1、按范围分片:在这种情况下,数据被分成逻辑区域,并分配给不同的数据库或者服务器。例如,如果某个电商网站按照客户居住国家分片,那么可以将中国客户的数据存储在一个独立的数据库服务器上,而东南亚客户的数据则存储在另一个独立的数据库服务器上。2、按哈希分片:在这种情况下,数据被哈希成一系列...

Mysql 全网最优(分库分表分区)
分库:解决并发压力,通过增加数据库实例提供连接,如电商微服务按业务线拆分,或处理大量订单的历史数据。分表:针对数据量大导致性能瓶颈,当单表超过2GB时,评估索引结构,如InnoDB的B+树高度,以优化查询效率。分库分表:当并发和数据量同时过大时,结合分库和分表策略,以应对数据库连接和查询速度问题。

一文搞懂MySQL数据库分库分表
水平分库分表:将单表数据分散到多个服务器,每个服务器有自己的库和表,有效缓解性能瓶颈。1.2 区分分区与分片分区和分片虽相似,但前者局限于单数据库,而分片可跨数据库和物理机器。MySQL分区功能限于单库,实际应用中多用分片。1.3 分片策略 哈希切片 范围切片2. 分库分表中间件为了隐藏分片...

分区、分表、分库
MySQL分区,将数据分散到多组存储文件,提升执行效率。然而,大量数据时,性能下降,需要分区。查看数据库支持的分区类型。分区表虽美观,互联网更多采用分库分表水平扩展。数据分片,将数据分散至多个数据库或表,满足高并发需求。分库分表与分区不冲突,结合使用。分表方式包括垂直拆分与水平拆分,分库则是...

MySQL分表分库优化实践实现高效数据管理mysql中分表分库场景
一、什么是MySQL分表分库?MySQL分表分库是将一个大表拆解成多个小表,或者将一个大数据库分成多个小数据库来存放数据。这种方案在提高查询速度、减少单个表的数据量、方便备份数据等方面都具有显著的效果。二、MySQL分表分库的优势 1.提高并发性 对于拥有大量数据的单个表而言,多个查询请求会造成表锁,...

一文读懂Mysql数据库的分库分表和读写分离
理解MySQL数据库的分库分表和读写分离,首先要明白它们在应对大数据量和高并发场景中的关键作用。首先,分库分表分为垂直拆分和水平拆分:垂直拆分根据业务逻辑,如将不常用字段分开存储,但现代分库分表更倾向于水平拆分,如按ID取模分配到不同数据库。水平拆分是根据ID或其他分片算法,将数据分散到多个库...

MySQL-如何分库分表?一看就懂
分库分表带来的问题主要包括数据管理复杂性、性能优化的局限性、以及分片事务一致性问题。在选择分库分表技术时,需要考虑项目需求和团队技术栈。目前有多种开源框架可以支持分库分表,如ShardingSphere、TDDL等作为jdbc直连层,MyCat、MySQL-proxy等作为proxy代理层。jdbc直连层将分片规则和逻辑嵌入应用层,而...

分库分表是什么,为什么要分库分表?
因此,分库分表的目的就是为了解决由于数据量过而导致数据库性能降低的问题,将原来独立的数据库拆分为若干数据库组成,将数据大表拆分成若干数据表,使得单一数据库、单一数据表的数据量变小,从而达到提升数据库性能的目的。分库分表的方式在生产中通常包括:垂直分库、垂直分表、水平分库和水平分表四种...

相似回答