背景:使用mysql5.7做主从复制,配置mycat做读写分离和分库分表
资源部署:
系统:Centos7.2 ip: 192.168.117.152 ( 安装mysql - 主 )
系统:Centos7.2 ip: 192.168.117.161 ( 安装mysql - 从)
系统:Centos7.2 ip: 192.168.117.150 ( 安装jdk、mysql、mycat )
下载官方rpm包安装源
https://dev.mysql.com/downloads/repo/yum/
安装mysql,我这里是下载的mysql8.0版本
rpm -ivh mysql80-community-release-el7-3.noarch.rpm
选择发布系列
yum repolist all | grep mysql
关闭mysql8.0,开启mysql5.7
yum-config-manager --disable mysql80-community
yum-config-manager --enable mysql5.7-community
安装mysql服务,并启动
yum -y install mysql-community-server
systemctl start mysqld
登录mysql5.7的默认密码在 /var/log/mysqd.log
首次登录要修改密码,非生产环境可以改下密码限制
修改全局密码策略:set global validate_password_policy=0;
再修改密码的长度:set global validate_password_length=8;
ALTER USER 'root'@'localhost' IDENTIFIED BY 'picc1234';
配置mysql主,修改 /etc/my.cnf 在文件末尾添加如下内容:
server-id=152 #主库的id 和从库不能一样
log-bin=mysql-bin
log-slave-updates=true #开启从日志
给从服务器授权
mysql> grant replication slave on . to 'myslave'@'192.168.2.%' identified by '123123';
刷新特权
flush privileges;
获取master信息
配置从服务器,vim /etc/my.cnf
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
server-id = 12 // 主从服务器的 server-id 不能相同!
重启mysql服务
在slave上执行:
mysql>change master to
master_host='192.168.2.11',master_user='myslave',master_password='123123',master_log_file='mysql-bin.000002',master_log_pos=337;
启动slave
mysql> start slave;
查看slave状态,io/sql线程是否为yes
show slave status \G;
MyCAT是mysql中间件,是用java开发的,所以需要在实验环境下安装java,官方建议jdk1.7及以上版本。
在官网下载mycat源码包:http://www.mycat.io/
解压源码包
tar -xzvf Mycat-server-1.6.6.1-release-20181031195535-linux.tar.gz -C /usr/loca/
解压后完成后,目录如下:
目录 | 说明 |
---|---|
bin | mycat命令,启动、重启、停止等 |
catlet | catlet为Mycat的一个扩展功能 |
conf | Mycat 配置信息,重点关注 |
lib | Mycat引用的jar包,Mycat是java开发的 |
logs | 日志文件,包括Mycat启动的日志和运行的日志 |
Mycat的配置文件都在conf目录里面,这里介绍几个常用的文件:
文件 | 说明 |
---|---|
server.xml | Mycat的配置文件,设置账号、参数等 |
schema.xml | Mycat对应的物理数据库和数据库表的配置 |
rule.xml | Mycat分片(分库分表)规则 |
<user name="test_mycat"> #user 用户配置节点,name 登录的用户名,也就是连接Mycat的用户名 <property name="password">123456</property> #登录的密码,也就是连接Mycat的密码 <property name="schemas">TESTDB</property> #数据库名,这里会和schema.xml中的配置关联,多个用逗号分开,例如需要这个用户需要管理两个数据库db1,db2,则配置db1,dbs <!-- 表级 DML 权限设置 --> <!-- <privileges check="false"> <schema name="TESTDB" dml="0110" > <table name="tb01" dml="0000"></table> <table name="tb02" dml="1111"></table> </schema> </privileges> --> </user> <user name="dev_mycat"> <property name="password">user</property> <property name="schemas">TESTDB</property> <property name="readOnly">true</property> </user>
这里配置了一个账号test_mycat 密码也是123456,针对数据库TESTDB,读写权限都有,没有针对表做任何特殊的权限。
schema.xml
schema.xml是最主要的配置项,首先看我的配置文件。
<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/"> <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100"> <table name="student" primaryKey="id" dataNode="dn1,dn2,dn3" rule="mod-long" /> <table name="grade" primaryKey="id" dataNode="dn4"/> </schema> <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743" /> --> <dataNode name="dn1" dataHost="localhost1" database="beijing" /> <dataNode name="dn2" dataHost="localhost1" database="shanghai" /> <dataNode name="dn3" dataHost="localhost1" database="guangzhou" /> <dataNode name="dn4" dataHost="localhost1" database="basic" /> <dataHost name="localhost1" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100"> <heartbeat>select user()</heartbeat> <!-- can have multi write hosts --> <writeHost host="hostM1" url="192.168.117.152:3306" user="root" password="picc1234"> <!-- can have multi read hosts --> <readHost host="hostS2" url="192.168.117.161:3306" user="root" password="picc1234" /> </writeHost> <!-- <writeHost host="hostM2" url="localhost:3316" user="root" password="123456"/> --> </dataHost> </mycat:schema>
其中配置文件中的这部分是做了切片(也就是分表)
解释:
在mycat中TESTDB逻辑库中可以看到两张student、grade,student表对应dn1、dn2、dn3三个数据节点,每个数据节点分别映射beijing、shanghai、guangzhou三个实例数据库,这三个库中都有一张student表,根据不同的rule模式(表的切分规则,共十种)
配置文件中的这一段是为了实现读写分离的,可以添加多主和多从
解释:url:是连接mysql的地址,user:是登录数据的用户,password:是密码
测试读写分离
登录mycat就想连接mysql一样,mycat有两个端口,8066是连接端口,9066是管理端口 如果连接mycat成功后,查看所有表时卡住,有可能是mycat没有权限连接mysql,需要再主从库上给mycat授权
只要先关闭主从同步功能,在mycat上写一条数据在查一条数据即可,如果在select是看不到刚插入的数据则说明读写分离生效。
测试分库分表
创建实际数据库
首先,我们肯定需要创建4个database:beijing、shanghai、guangzhou、basic,并生成对应的表。可以看出,student和grade表存在于不同的数据库,而且student表中的数据,分散存储在3个不同的数据库中:
create database beijing; use beijing; create table student( id int primary key, name varchar(8) not null, grade int not null )ENGINE=InnoDB DEFAULT CHARSET=utf8; create database shanghai; use shanghai; create table student( id int primary key, name varchar(8) not null, grade int not null )ENGINE=InnoDB DEFAULT CHARSET=utf8; create database guangzhou; use guangzhou; create table student( id int primary key, name varchar(8) not null, grade int not null )ENGINE=InnoDB DEFAULT CHARSET=utf8; create database basic; use basic; create table grade( id int primary key, name varchar(8) not null )ENGINE=InnoDB DEFAULT CHARSET=utf8;
连接mycat写入测试数据
insert into grade (id,name) values (1,'一年级');
insert into grade (id,name) values (2,'二年级');
insert into grade (id,name) values (3,'三年级');
insert into student (id,name,grade) values (1,'张三',2);
insert into student (id,name,grade) values (2,'李四',1);
insert into student (id,name,grade) values (3,'王五',3);
insert into student (id,name,grade) values (4,'甲',3);
insert into student (id,name,grade) values (5,'乙',2);
insert into student (id,name,grade) values (6,'丙',1);
我们插入了6条student记录,这时应该根据不同的取模结果,存在不同的实际数据库的student表中,所以我们切换到实际数据库,分别查看实际数据库里的数据:
Database changed
mysql> show tables;
+-------------------+
| Tables_in_beijing |
+-------------------+
| student |
+-------------------+
1 row in set (0.00 sec)
mysql> select * from beijing.student;
+----+--------+-------+
| id | name | grade |
+----+--------+-------+
| 3 | 王五 | 3 |
| 6 | 丙 | 1 |
+----+--------+-------+
2 rows in set (0.00 sec)
mysql> select * from shanghai.student;
+----+--------+-------+
| id | name | grade |
+----+--------+-------+
| 1 | 张三 | 2 |
| 4 | 甲 | 3 |
+----+--------+-------+
2 rows in set (0.00 sec)
mysql> select * from guangzhou.student;
+----+--------+-------+
| id | name | grade |
+----+--------+-------+
| 2 | 李四 | 1 |
| 5 | 乙 | 2 |
+----+--------+-------+
2 rows in set (0.01 sec)
mysql>
再回到mycat看逻辑数据库:
逻辑数据库,查询grade和student两张表,已经数据聚合,还可以进行排序;
如果我们需要将2张表进行关联,也是可以的:
/!mycat:catlet=io.mycat.catlets.ShareJoin /select * from student s,grade g on s.grade=g.id where g.name='一年级';