Centos 6.8 下 Amoba 3.0 实现mysql 读写分离


什么是 Amoba

Amoeba(变形虫)项目,该开源框架于2008年 开始发布一款 Amoeba for Mysql软件。这个软件致力于MySQL的分布式数据库前端代理层,它主要在应用层访问MySQL的 时候充当SQL路由功能,专注于分布式数据库代理层(Database Proxy)开发。座落与 ClientDB Server(s)之间,对客户端透明。具有负载均衡、高可用性、SQL过滤、读写分离、可路由相关的到目标数据库、可并发请求多台数据库合并结果。 通过Amoeba你能够完成多数据源的高可用、负载均衡、数据切片的功能,目前Amoeba已在很多 企业的生产线上面使用。

Amoeba在分布式数据库领域将致力解决数据切分,应付客户端“集中式”处理分布式数据。这里集中式是一个相对概念,客户端不需要知道某种数据的物理存储地。避免这种逻辑出现在业务端, 大大简化了客户端操作分布式数据的复杂程度。

分布式数据库系统的优点:

1降低费用。分布式数据库在地理上可以式分布的。其系统的结构符合这种分布的要求。允许用户在自己的本地录用、查询、维护等操作,实行局部控制,降低通信代价,避免集中式需要更高要求 的硬件设备。而且分布式数据库在单台机器上面数据量较少,其响应速度明显提升。

2提高系统整体可用性。避免了因为单台数据库的故障而造成全部瘫痪的后果。

3易于扩展处理能力和系统规模。分布式数据库系统的结构可以很容易地扩展系统,在分布式数据库中增加一个新的节点,不影响现有系统的正常运行。这种方式比扩大集中式系统要灵活经济。在集中式系统中扩大系统和系统升级,由于有硬件不兼容和软件改变困难等缺点,升级的代价常常是昂贵和不可行的。

Amoeba for mysql

Amoeba for mysql 对客户端程序来说是什么呢? 我们就当它是mysql吧,它是一个虚拟的mysql,对外提供mysql协议。客户端连接amoeba就象连接mysql一样。在amoeba内部需要配置相关的认证属性。

wKiom1hvmaqwldL4AAEbOeWFiJY727.png-wh_50

Amoeba for MySQL 与MySQL Proxy 比较

MySQL proxy 6.0版本 上面如果想要读写分离并且 读集群、写集群 机器比较多情况下,用mysql proxy 需要相当大的工作量,目前mysql proxy没有现成的 lua脚本。mysql proxy根本没有配置文件, lua脚本就是它的全部,当然lua是相当方便的。那么同样这种东西需要编写大量的脚本才能完成一 个复杂的配置。而Amoeba for Mysql只需要进行相关的配置就可以满足需求。

Amoeba 不能做什么?

1、目前还不支持事务

2、暂时不支持存储过程(近期会支持)

3、不适合从amoeba导数据的场景或者对大数据量查询的query并不合适(比如一次请求返回10w以上甚至更多数据的场合)

4、暂时不支持分库分表,amoeba目前只做到分数据库实例,每个被切分的节点需要保持库表结构一致

Amoeba 3.0版本区别

1采用更稳定的NIO框架

2取消了很多不必要的同步锁,能够更好的利用高并发特性

3代码结构更加合理,重构以后很多可重用的东西将提取出来作为公用类库,未来升级方便

4配置有所改动(不兼容),由于重构,class所在的包名字将有所有变化,但是基本维持原来的配置结构不变,如果熟悉2.X,那么3.0上手非常容易

5启动脚本有变化,3.xbin/launcher 作为启动脚本(启动以后直接可作为后台进程,不需要增加nohup等命令), bin/shutdown作为关闭脚本

6解决了last_insert_id问题

Amoeba 安装

1Amoeba 配置环境

Master192.168.200.140centos6.8mysql-5.5.53
Slave192.168.200.180centos6.8mysql-5.5.53
Amoeba192.168.200.210centos6.8
#Amoeba192.168.200.210(可以使用master代替)

服务器安装软件版本

Mysq5.5.53
Amoeba3.05RC
JDK1.7.79

2、Mysql 主从复制安装这里就不描述了;详见mysql 主从复制简易配置指南

3、配置jdk 环境

由于Amoeba框架是基于Java SE1.5开发的,所以它需要在JDK 的环境下运行,

检查amoeba 服务器的 java 环境

[root@bogon~]#rpm-qajava#查看是否安装java
[root@bogon~]#java-version#如果已经安装java,查看java版本,必须在1.5以上
[root@bogon~]#echo$JAVA_HOME查看是否安装配置了JDK

如果你的机器上没有安装JDK环境,需要安装java

wgethttp://download.oracle.com/otn-pub/java/jdk/7u79-b15/jdk-7u79-linux-x64.tar.gz

解压JDK

tar-zvxfjdk-7u79-linux-x64.tar.gz
mvjdk1.7.0_79//usr/local/jdk1.7/
编辑环境变量文件
vim/etc/profile
#
文件最后部分加入
exportJAVA_HOME=/usr/local/jdk1.7#jdk安装目录
exportPATH=$JAVA_HOME/bin:$PATH#java家目录的路径
exportPATH=$PATH:$HOME/bin:/usr/local/amoeba/bin#amoeba的安装目录
exportCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar#java相应的工具目录

source/etc/profile

jdk 的官方下载站点

4Amoeba 安装

AmoebaSourceForge的主页下载Amoeba

[root@bogon~]#wgethttps://sourceforge.net/settings/mirror_choices?projectname=amoeba&filename=Amoeba%20for%20mysql/3.x/amoeba-mysql-3.0.5-RC-distribution.zip

解压 amoeba

[root@bogon~]#unzipamoeba-mysql-3.0.5-RC-distribution.zip-d/application/amoeba

启动Amoeba

[root@bogon~]#/application/amoeba/launcher

关闭Amoeba

[root@bogon~]#/application/amoeba/shutdown

启动时会出现如下错误:

Thestacksizespecifiedistoosmall,Specifyatleast228k
Error:CouldnotcreatetheJavaVirtualMachine.
Error:Afatalexceptionhasoccurred.Programwillexit.
从错误文字上看,应该是由于stacksize太小,导致JVM启动失败,要

如何修改呢?
其实Amoeba已经考虑到这个问题,并将JVM参数配置写在属性文件里。现在,让我们通过该属性文件修改JVM参数。
修改jvm.properties文件JVM_OPTIONS参数。
=============================================================
解决方法

 vi /$AMOEBA_HOME/jvm.properties

更改成

JVM_OPTIONS="-server -Xms1024m -Xmx1024m -Xss256k -XX:PermSize=16m -XX:MaxPermSize=96m"

===============================================================

Amoeba3.0 版本以下解决办法:


打开bin目录下 的amoeba启动文件,修改58行的Xss参数:

DEFAULT_OPTS=”-server-Xms1024m-Xmx1024m-Xss128k”

修改为:

DEFAULT_OPTS=”-server -Xms1024m -Xmx1024m -Xss256k”

===============================================================

5、配置Amoeba

Amoeba有主要的配置文件

$AMOEBA_HOME/conf/dbServers.xml配置主机信息,如主机ip,端口,amoeba 连接的用户名与密码等

$AMOEBA_HOME/conf/rule.xml配置与切分规则相关的信息

$AMOEBA_HOME/conf/functionMap.xml描述了SQL函数名和函数处理的关系

$AMOEBA_HOME/conf/rule.xml配置自己定义的函数

$AMOEBA_HOME/conf/ruleFunctionMap.xml中定义自定义函数名与函数处理的关系

$AMOEBA_HOME/conf/access_list.conf配置访问控制

$AMOEBA_HOME/conf/log4j.xml配置输出日志级别和方式

通过更改amoeba.xml和dbServer.xml 配置文件实现mysql主从读写分离,配置如下:

amoeba.xml 配置如下:

<?xmlversion="1.0"encoding="gbk"?>

<!DOCTYPEamoeba:configurationSYSTEM"amoeba.dtd">
<amoeba:configurationxmlns:amoeba="http://amoeba.meidusa.com/">

	<proxy>
		<!--serviceclassmustimplementscom.meidusa.amoeba.service.Service-->
		<servicename="AmoebaforMysql"class="com.meidusa.amoeba.mysql.server.MySQLService">
			<!--proxyserverport-->
			<propertyname="port">8066</property>#proxyserver绑定的端口号
			
			<!--bindipAddress-->
			
			<propertyname="ipAddress">192.168.200.210</property>#proxyserver绑定的ip地址
						
			<propertyname="connectionFactory">
				<beanclass="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">
					<propertyname="sendBufferSize">128</property>
					<propertyname="receiveBufferSize">64</property>
				</bean>
			</property>
			
			<propertyname="authenticateProvider">
				<beanclass="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
					
					<propertyname="user">root</property>#通过proxyserver访问MySQL的用户名
					
					<propertyname="password">123</property>#通过proxyserver访问MySQL的密码
					
					<propertyname="filter">
						<beanclass="com.meidusa.toolkit.net.authenticate.server.IPAccessController">
							<propertyname="ipFile">${amoeba.home}/conf/access_list.conf</property>
						</bean>
					</property>
				</bean>
			</property>
			
		</service>
		
		<runtimeclass="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">
			
			<!--proxyserverclientprocessthreadsize-->
			<propertyname="executeThreadSize">128</property>
			
			<!--perconnectioncachepreparedstatementsize-->
			<propertyname="statementCacheSize">500</property>
			
			<!--defaultcharset-->
			<propertyname="serverCharset">utf8</property>
			
			<!--querytimeout(default:60second,TimeUnit:second)-->
			<propertyname="queryTimeout">60</property>
		</runtime>
		
	</proxy>
	
	<!--
		EachConnectionManagerwillstartasthread
		managerresponsiblefortheConnectionIOread,DeathDetection
	-->
	<connectionManagerList>
		<connectionManagername="defaultManager"class="com.meidusa.toolkit.net.MultiConnectionManagerWrapper">
			<propertyname="subManagerClassName">com.meidusa.toolkit.net.AuthingableConnectionManager</property>
		</connectionManager>
	</connectionManagerList>
	
		<!--defaultusingfileloader-->
	<dbServerLoaderclass="com.meidusa.amoeba.context.DBServerConfigFileLoader">
		<propertyname="configFile">${amoeba.home}/conf/dbServers.xml</property>
	</dbServerLoader>
	
	<queryRouterclass="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
		<propertyname="ruleLoader">
			<beanclass="com.meidusa.amoeba.route.TableRuleFileLoader">
				<propertyname="ruleFile">${amoeba.home}/conf/rule.xml</property>
				<propertyname="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>
			</bean>
		</property>
		<propertyname="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
		<propertyname="LRUMapSize">1500</property>
		<propertyname="defaultPool">multiPool</property>
		
		
		<!--<propertyname="writePool">server1</property>
		<propertyname="readPool">multiPool</property>
		-->
		<propertyname="needParse">true</property>
	</queryRouter>
</amoeba:configuration>

dbServer.xml 配置如下:

<?xmlversion="1.0"encoding="gbk"?>

<!DOCTYPEamoeba:dbServersSYSTEM"dbserver.dtd">
<amoeba:dbServersxmlns:amoeba="http://amoeba.meidusa.com/">

		<!--
			EachdbServerneedstobeconfiguredintoaPool,IfyouneedtoconfiguremultipledbServerwithloadbalancingthatcanbesimplifiedbythefollowingconfiguration:
			addattributewithnamevirtual="true"indbServer,buttheconfigurationdoesnotallowtheelementwithnamefactoryConfig
			suchas'multiPool'dbServer
		-->
		
	<dbServername="abstractServer"abstractive="true">
		<factoryConfigclass="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
			<propertyname="connectionManager">${defaultManager}</property>
			<propertyname="sendBufferSize">64</property>
			<propertyname="receiveBufferSize">128</property>
				
			<!--mysqlport-->
			<propertyname="port">3306</property>
			
			<!--mysqlschema-->
			<propertyname="schema">test</property>
			
			<!--mysqluser-->
			<propertyname="user">amoeba</property>
			
			<propertyname="password">think</property>
		</factoryConfig>

		<poolConfigclass="com.meidusa.toolkit.common.poolable.PoolableObjectPool">
			<propertyname="maxActive">500</property>
			<propertyname="maxIdle">500</property>
			<propertyname="minIdle">1</property>
			<propertyname="minEvictableIdleTimeMillis">600000</property>
			<propertyname="timeBetweenEvictionRunsMillis">600000</property>
			<propertyname="testOnBorrow">true</property>
			<propertyname="testOnReturn">true</property>
			<propertyname="testWhileIdle">true</property>
		</poolConfig>
	</dbServer>

	<dbServername="server1"parent="abstractServer">
		<factoryConfig>
			<!--mysqlip-->
			<propertyname="ipAddress">192.168.200.140</property>
		</factoryConfig>
	</dbServer>
	
	<dbServername="server2"parent="abstractServer">
		<factoryConfig>
			<!--mysqlip-->
			<propertyname="ipAddress">192.168.200.180</property>
		</factoryConfig>
	</dbServer>
	
	<dbServername="multiPool"virtual="true">
		<poolConfigclass="com.meidusa.amoeba.server.MultipleServerPool">
			<!--Loadbalancingstrategy:1=ROUNDROBIN,2=WEIGHTBASED,3=HA-->
			<propertyname="loadbalance">1</property>
			
			<!--Separatedbycommas,suchas:server1,server2,server1-->
			<propertyname="poolNames">server1,server2</property>
		</poolConfig>
	</dbServer>
		
</amoeba:dbServers>
[root@bogon~]#/application/amoeba/bin/launcher&//启动amoeba服务

#检查启动状态
[root@bogon~]#ps-aux|grepamoeba
Warning:badsyntax,perhapsabogus'-'?See/usr/share/doc/procps-3.2.8/FAQ
root39150.00.11060721392pts/6S+03:220:00/bin/bash/application/amoeba/bin/launcher
root39201.28.3188336083648pts/6Sl+03:220:03/usr/local/jdk1.7/bin/java-server-Xms256m-Xmx1024m-Xss256k-XX:PermSize=16m-XX:MaxPermSize=96m-Dproject.home=/application/amoeba-Damoeba.home=/application/amoeba-Dproject.name=Amoeba-MySQL-Dproject.output=/application/amoeba/logs-Dignore.signals=1,2-Dclassworlds.conf=/application/amoeba/bin/launcher.classpath-classpath/application/amoeba/lib/plexus-classworlds-2.4.2-HEXNOVA.jarorg.codehaus.classworlds.Launcher
root39210.00.0100952656pts/6S+03:220:00tail-f/application/amoeba/logs/console.log

[root@bogon~]#netstat-lntpu|grep8066
tcp00::ffff:192.168.200.210:8066:::*LISTEN3920/java
看到进程以及端口说明amoeba服务启动正常

6、测试mysql的读写分离

测试之前先要保证amoeba-server有访问两个主从服务器test库的权限,在主从mysql上都执行

mysql>grantallontest.*toamoeba@'192.168.200.%'identifiedby'think';
mysql>flushprivileges;

登录amoeba服务器使用如下命令(用户名密码和上面配置的要一致):

mysql-uroot-p123-h192.168.200.210-P8066

如果可以登陆并且没有任何错误就说明是OK的。登录上去后,为了测试读和写必须先把mysql的主从复制停掉,才能更清楚地看出读写的服务器是哪台,在从上使用stop slave;登录到amoeba-mysql上,使用命令mysql -uroot -p123-h192.168.200.210 -P8066,然后执行写和读操作,查看写的是哪台服务器,读的是哪台服务器,实验结果显示:写只在主上进行,读在主和从都进行,比率是1:1

在没有停止同步之前先在master服务器上创建一个表

mysql>createtableamoeba(idint(10),namevarchar(10));

然后在slave服务器上停止数据同步

mysql>stopslave;

在主从上各插入一条不同数据(供测试读的时候用):

在master上插入:

mysql>insertintosxitvalues('1','amoeba1');

在slave上插入:

mysql>insertintosxitvalues('2','amoeba2');

登陆到amoeba服务器,进行读写分离的测试:

[root@bogon~]#mysql-uroot-p123-h192.168.200.210-P8066

mysql>usetest;

mysql>select*fromamoeba;#第一次执行select是在master服务器上查询的
+------+----------+
|id|name|
+------+----------+
|1|amoeba1|
+------+----------+
1rowsinset(0.00sec)

mysql>select*fromamoeba;#第二次执行select是在slave服务器上查询的
+------+----------+
|id|name|
+------+----------+
|2|amoeba2|
+------+----------+
1rowsinset(0.00sec)

mysql>insertintoamoebavalues('3','amoeba3');#插入一条数据,然后在select
QueryOK,1rowaffected(0.05sec)

mysql>select*fromamoeba;#可以看到上面新插入的语句在master上了
+------+----------+
|id|name|
+------+----------+
|1|amoeba1|
|3|amoeba3|
+------+----------+
2rowsinset(0.00sec)

mysql>select*fromsxit;#slave服务器上是没有这条新的语句的,+------+------+
|id|name|
+------+------+
|2|lisi|
+------+------+
1rowinset(0.00sec)

参考文档:http://docs.hexnova.com/amoeba/rw-splitting.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


linux下开机自启: 在/etc/init.d目录下新建文件elasticsearch 并敲入shell脚本: 注意, 前两行必须填写,且要注释掉。 第一行为shell前行代码,目的告诉系统使用shell。 第二行分别代表运行级别、启动优先权、关闭优先权,且后面添加开机服务会用到。 shell脚本
1、因为在centos7中/etc/rc.d/rc.local的权限被降低了,所以需要赋予其可执行权 chmod +x /etc/rc.d/rc.local 2、赋予脚本可执行权限假设/usr/local/script/autostart.sh是你的脚本路径,给予执行权限 chmod +x /usr
最简单的查看方法可以使用ls -ll、ls-lh命令进行查看,当使用ls -ll,会显示成字节大小,而ls- lh会以KB、MB等为单位进行显示,这样比较直观一些。 通过命令du -h –max-depth=1 *,可以查看当前目录下各文件、文件夹的大小,这个比较实用。 查询当前目录总大小可以使用d
ASP.NET Core应用程序发布linux在shell中运行是正常的。可一但shell关闭网站也就关闭了,所以要配置守护进程, 用的是Supervisor,本文主要记录配置的过程和过程遇到的问题 安装Supervisor&#160;1 yum install python-setuptools
设置时区(CentOS 7) 先执行命令timedatectl status|grep &#39;Time zone&#39;查看当前时区,如果不是时区(Asia/Shanghai),则需要先设置为中国时区,否则时区不同会存在时差。 #已经是Asia/Shanghai,则无需设置 [root@xia
vim&#160;/etc/sysconfig/network-scripts/ifcfg-eth0 BOOTPROTO=&quot;static&quot; ONBOOT=yes IPADDR=192.168.8.106 NETMASK=255.255.252.0 GATEWAY=192.168.
一、安装gcc依赖 由于 redis 是用 C 语言开发,安装之前必先确认是否安装 gcc 环境(gcc -v),如果没有安装,执行以下命令进行安装 [root@localhost local]# yum install -y gcc 二、下载并解压安装包 [root@localhost local
第一步 On CentOS/RHEL 6.*: $ sudo rpm -Uvh http://li.nux.ro/download/nux/dextop/el6/x86_64/nux-dextop-release-0-2.el6.nux.noarch.rpm On CentOS/RHEL 7: $
/// &lt;summary&gt; /// 取小写文件名后缀 /// &lt;/summary&gt; /// &lt;param name=&quot;name&quot;&gt;文件名&lt;/param&gt; /// &lt;returns&gt;返回小写后缀,不带“.”&lt;/ret
which nohup .bash_profile中并source加载 如果没有就安装吧 yum provides */nohup nohup npm run start &amp; nohup ./kibana &amp;
1.1 MySQL安装 1.1.1 下载wget命令 yum -y install wget 1.1.2 在线下载mysql安装包 wget https://dev.mysql.com/get/mysql57-community-release-el7-8.noarch.rpm 1.1.3 安装My
重启 reboot shutdown -r now init 6 关闭 init 0 shutdown -h now shutdown -h 20:25 #8点25关机查看内存 free CPU利用率 top 日期 date 设置时间 date 033017002015 #月日时间年 日历 cal
1、firewalld的基本使用 启动: systemctl start firewalld 关闭: systemctl stop firewalld 查看状态: systemctl status firewalld 开机禁用 : systemctl disable firewalld 开机启用 :
1 下载并安装MySQL官方的&#160;Yum Repository wget -i -c http://dev.mysql.com/get/mysql57-community-release-el7-10.noarch.rpm 使用上面的命令就直接下载了安装用的Yum Repository,大概
CentOS6.x CentOS6中转用Upstrat代替以前的init.d/rcX.d的线性启动方式。 一、相关命令 通过initctl help可以查看相关命令 [root@localhost ~]# initctl help Job commands: start Start job. sto
1、使用命令:df -lk 找到已满磁盘 2、使用命令:du --max-depth=1 -h 查找大文件,删除
ifconfig:查看网卡信息 网卡配置文件位置: /etc/sysconfig/network-scripts/文件夹 nmtui:配置网卡 netstat -tlunp:查看端口信息 端口信息存储位置: /etc/services文件 route:查看路由信息 wget:下载网路文件,例如 wg
ps -ef:查看所有进程,&#160;ps -ef |grap firewalld 查看与firewalld相关的进程 which :查看进程:which firewalld kill 进程id:杀掉进程 kill 640,强制杀:kill -9 640 man:查看帮助,例如 man ps 查看
useradd:添加用户 useradd abc,默认添加一个abc组 vipw:查看系统中用户 groupadd:添加组groupadd ccna vigr:查看系统中的组 gpasswd:将用户abc添加到ccna组 gpasswd -a abc ccna groups abc:查看用户abc属