一个专业运
维技术分享!

MySQL读写分离

一、读写分离

1. 工作原理

基本的原理是让主数据库处理事务性增、删、改操作(INSERT、DELETE、UPDATE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

2.为什么要读写分离

  • 面对越来越大的访问压力,单台的服务器性能成为瓶颈,需要分担负载。
  • 因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的。
  • 但是数据库的“读”(读10000条数据可能只要5秒钟)。
  • 所以读写分离,解决的是,数据库的写入,影响了查询的效率。

3.什么时候要读写分离

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能

4.主从复制与读写分离

在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。

 

因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。

5.mysql支持的复制类型

  • STATEMENT:基于语句的复制。在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高。
  • ROW:基于行的复制。把改变的内容复制过去,而不是把命令在从服务器上执行一遍。
  • MIXED:混合类型的复制。默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

 

二、MySQL 读写分离方式

读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。目前较为常见的 MySQL 读写分离分为以下两种

1.基于程序代码内部实现

在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。
优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。
但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。

2.基于中间代理层实现

代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序。

  • MySQL-Proxy:MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。
  • Atlas:是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。
  • Amoeba:由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

 

三、实验:读写分离(主从复制基础上)

1 安装 Java 环境

amobea 服务器IP为192.168.169.202(在主从复制的基础上进行读写分离)

  1. 因为 Amoeba 基于是 jdk1.5 开发的,所以官方推荐使用 jdk1.5 或 1.6 版本,
  2. 高版本不建议使用。
  3. 将jdk-6u14-linux-x64.bin 和 amoeba-mysql-binary-2.2.0.tar.gz.0
  4. 上传到/opt目录下。
  5. cd /opt/
  6. cp jdk-6u14-linux-x64.bin /usr/local/
  7. cd /usr/local/
  8. chmod +x jdk-6u14-linux-x64.bin
  9. ./jdk-6u14-linux-x64.bin
  10. 按空格到最后一行,按yes,按回车。
  11. mv jdk1.6.0_14/ /usr/local/jdk1.6
  12. vim /etc/profile
  13. export JAVA_HOME=/usr/local/jdk1.6
  14. export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
  15. export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
  16. export AMOEBA_HOME=/usr/local/amoeba
  17. export PATH=$PATH:$AMOEBA_HOME/bin
  18. #在末尾加入
  19. source /etc/profile
  20. java -version
  21. ##安装 Amoeba软件##
  22. mkdir /usr/local/amoeba
  23. tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
  24. chmod -R 755 /usr/local/amoeba/
  25. /usr/local/amoeba/bin/amoeba
  26. //如显示amoeba start|stop 说明安装成功

MySQL读写分离MySQL读写分离MySQL读写分离

MySQL读写分离MySQL读写分离MySQL读写分离MySQL读写分离

MySQL读写分离

 2.配置 Amoeba读写分离,两个 Slave 读负载均衡

在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问

grant all on *.* to test@'192.168.169.%' identified by '123456';

MySQL读写分离

 

3.amoeba服务器配置amoeba服务 

  1. cd /usr/local/amoeba/conf/
  2. cp amoeba.xml amoeba.xml.bak
  3. vim amoeba.xml
    #修改amoeba配置文件
  4. 30修改
  5. <property name="user">amoeba</property>
  6. 32修改
  7. <property name="password">123456</property>
  8. 115修改
  9. <property name="defaultPool">master</property>
  10. 117去掉注释–
  11. <property name="writePool">master</property>
  12. <property name="readPool">slaves</property>

MySQL读写分离

MySQL读写分离 MySQL读写分离

修改数据库配置文件 

  1. cp dbServers.xml dbServers.xml.bak
  2. vim dbServers.xml
  3. #修改数据库配置文件
  4. 23注释掉
  5. 作用:默认进入test库 以防mysql中没有test库时,会报错
  6. <!-- mysql schema <property name="schema">test</property>
    -->
  7. 26修改
  8. <!-- mysql user -->
  9. <property name="user">test</property>
  10. 28-30去掉注释
  11. <property name="password">123456</property>
  12. 45修改,设置主服务器的名Master
  13. <dbServer name="master" parent="abstractServer">
  14. 48修改,设置主服务器的地址
  15. <property name="ipAddress">192.168.223.10</property>
  16. 52修改,设置从服务器的名slave1
  17. <dbServer name="slave1" parent="abstractServer">
  18. 55修改,设置从服务器1的地址
  19. <property name="ipAddress">192.168.223.9</property>
  20. 58复制上面6行粘贴,设置从服务器2的名slave2和地址
  21. <dbServer name="slave2" parent="abstractServer">
  22. <property name="ipAddress">192.168.223.11</property>
  23. 65修改
  24. <dbServer name="slaves" virtual="true">
  25. 71修改
  26. <property name="poolNames">slave1,slave2</property>
  27. /usr/local/amoeba/bin/amoeba start&
  28. #启动Amoeba软件,按ctrl+c 返回
  29. netstat -anpt | grep java
  30. #查看8066端口是否开启,默认端口为TCP 8066

MySQL读写分离

MySQL读写分离 MySQL读写分离

4.测试读写分离

在客户端(192.168.169.200)服务器上进行测试:

使用yum快速安装MySQL虚拟客户端

yum install -y mariadb mariadb-server
mysql -u amoeba -p123456 -h 192.168.169.201 -P8066

MySQL读写分离 通过amoeba服务器代理访问mysql ,在通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从服务器

MySQL读写分离

4.1主服务器上

create database zzz;
use zzz;
create table ceshi (id int(10),name varchar(10),address varchar(10));

MySQL读写分离

4.2 关闭两个从服务器同步

stop slave;
#关闭同步
use zzz;

MySQL读写分离

4.3在两个从服务器分别加数据

MySQL读写分离

4.4在主服务器加数据

MySQL读写分离

 

 4.5查看客户端服务器

use zzz;
select * from test;
客户端会分别向slave1和slave2读取数据,显示的只有在
两个从服务器上添加的数据,没有在主服务器上添加的数据
insert into test values('4','zb','four');
只有主服务器上有此数据

MySQL读写分离

MySQL读写分离MySQL读写分离

之后在两个从服务器上执行 start slave; 即可实现同步在主服务器和客户机上添加的数据

start slave;

MySQL读写分离

 

四、数据库主从延迟的原因与解决方案

1.主从延迟是怎样定义的呢?与主从数据同步相关的时间点有三个

  • 主库执行完一个事务,写入binlog,我们把这个时刻记为 T1;
  • 主库同步数据给从库,从库接受完这个binlog的时刻,记录为 T2
  • 从库执行完这个事务,这个时刻记录为 T3

所谓主从延迟,其实就是指同一个事务,在从库执行完的时间和在主库执行完的时间差值,即 T3-T1

2.导致主从延迟的原因

  • 如果从库所在的机器比主库的机器性能差,会导致主从延迟,这种情况比较好解决,只需选择主从库一样规格的机器就好。
  • 如果从库的压力大,也会导致主从延迟。比如主库直接影响业务,大家可能使用会比较克制,因此一般查询都打到从库了,结果导致从库查询消耗大量CPU,影响同步速度,最后导致主从延迟。这种情况的话,可以搞一主多从架构,即多接几个从库分摊读的压力。另外,还可以把binlog接入到Hadoop这类系统,让它们提供查询的能力。
  • 大事务也会导致主从延迟。如果一个事务执行就要10分钟,那么主库执行完后,给到从库执行,最后这个事务可能就会导致从库延迟10分钟啦。日常开发中,我们为什么特别强调,不要一次性delete太多SQL,需要分批进行,其实也是为了避免大事务。另外,大表的DDL语句,也会导致大事务,大家日常开发关注一下哈。
  • 网络延迟也会导致主从延迟,这种情况你只能优化你的网络啦,比如带宽20M升级到100M类似意思等。
  • 如果从数据库过多也会导致主从延迟,因此要避免复制的从节点数量过多。从库数据一般以3-5个为宜。
  • 低版本的MySQL只支持单线程复制,如果主库并发高,来不及传送到从库,就会导致延迟。可以换用更高版本的Mysql,可以支持多线程复制。

3.同步失败解决方案

#忽略当前的错误执行下一步的同步

先 stop slave;

① slave数据库中:SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1;

START SLAVE;

问题:I/O线程 一直处于connecting

第一件事,看laster error,报错项内容是为支点找不到

先 stop slave;

② slave数据库中:

CHANGE MASTER TO MASTER_LOG_FILE=‘mysql-bin.000001’,MASTER_LOG_POS=0;

首先遇到这个是因为binlog位置索引处的问题,生产环境下不要直接reset slave(删除change master 操作的);

reset slave会将主从同步的文件以及位置恢复到初始状态,一开始没有数据还好,有数据的话,相当于重新开始同步,可能会出现一些问题;

一般做主从同步,都是要求以后的数据实现主从同步,而对于旧的数据完全可以使用数据库同步工具先将数据库同步,完了再进行主从同步;

好了遇到上面的问题,正确做法是:

1.打开主(master)服务器,进入mysql

2.执行flush logs;//这时主服务器会重新创建一个binlog文件;

3.在主服务上执行show master status\G;显示如下:

4.来到从服务器的mysql;

5.stop slave;

6.change master to master_log_file='mysql-bin.000012',master_log_pos=154;//这里的file和pos都是上面主服务器master显示的。

7.start slave; //这时候就应可以了

赞(1) 打赏
本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。小柳实验室 » MySQL读写分离

评论 抢沙发

评论前必须登录!

 

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏