openstack 扩展开发最佳实践之计算节点高可用
前言:注意是扩展开发，这个词是我杜撰的，大概意思是指基于openstack的rest api做的一些开发，用于辅助相关功能，而不是直接改动openstack内的代码，怎么修改添加openstack各个组件的代码不在此文章内容内。
首先，千万，千万，千万不要用Openstack提供的SDK，原因如下。
一，SDK的相关文档并不健全。
二，版本不够统一，即兼容的问题。
所以不要使用openstack的SDK而是自己查阅openstack的API文档，通过requests库发http请求要比SDK灵活并便捷得多的方式。但是难过的地方在于开头，这也是本章的主要内容。为了使内容更加贴近现实，我们要做的需求是Openstack计算节点的高可用，主题内容如下：
一：解决思路
二：查询相关API
三：组织代码
四：总结
(一)解决思路
其实openstack计算节点高可用的方案应该是不同的厂商有不同解决方案，这里不具体分析各个方案，二是针对笔者自己实现的一个方案的实现讲解。
一，怎样确定计算节点挂了
二，怎样将计算节点上的虚拟机迁移到现存可用的计算节点
三，迁移之后是否应该采取相关措施
笔者的对应的解决方案如下，
一：通过openstack自身机制监控，即计算节点不可用时，不会上报状态，控制节点会将该计算节点的状态state设置为down，为down的就判定该计算节点不可用。
二：通过evacuate API将不可用的计算节点上的虚拟机迁移到可用的计算节点，共享存储肯定是必须的。
三：通过将该不可用计算节点status设置为disable，以达到隔离效果，即该计算节点即使又好了，也不会将新的虚拟机调度到该计算节点，除非人为干预。
注：这里没有考虑网络环境。
(二)查询相关API
一：所有计算节点可用状态:/os-services
二：查询指定计算节点上的虚拟机:/servers/detail
三：evacuate实例:/servers/<server-id>/action
四：disable阶段节点:/os-services/disable
主要就是上面这些API了。
(三)组织代码
1.首先是认证获取token，获取各个endpoint。
2.统一封装HTTP请求过程。
3.然后为每个对应的API封装一个函数。
4.将整个需求的逻辑独立与封装的函数及类。
相对应的代码如下
1.这里新建一个baseInfo的类作为基类，用于获取token及相应的endpoint
class baseInfo(object):
"""init the info of all compute, and get the token for access the api"""
def __init__(self):
confFile = sys.argv[1]
headers = {}
headers["Content-Type"] = "application/json"
self.cf = ConfigParser()
self.cf.read(confFile)
self.conf = self.getConf()
self.headers = headers
self.catalog, self.token = self.getToken()
self.url = [url for url in self.catalog if url["name"] == "nova"]
self.url = self.url[0]["endpoints"][0]["publicURL"]
def getConf(self):
try:
conf = {
"url": self.cf.get("ser","OS_AUTH_URL"),
"uname" : self.cf.get("ser","OS_USERNAME"),
"passwd" : self.cf.get("ser","OS_PASSWORD"),
"tname" : self.cf.get("ser","OS_TENANT_NAME"),
"interval" : self.cf.get("ser","INTERVAL")}
except Exception as e:
logging.critical("加载配置文件失败")
logging.critical(e)
sys.exit(1)
return conf
def getToken(self):
headers = self.headers
url = self.conf["url"] + "/tokens"
data = '{"auth": {"tenantName": "%s", "passwordCredentials": {"username": "%s", "password": "%s"}}}'
data = data % (self.conf["tname"], self.conf["uname"], self.conf["passwd"])
try:
logging.debug("开始获取Token")
ret = requests.post(url, data=data, headers=headers)
logging.debug("request url:%s" % ret.url)
ret = ret.json()
except Exception as e:
msg = "获取Token失败 data:%s headers:%s" % (data, headers)
logging.critical(msg)
logging.critical(e)
catalog = ret["access"]["serviceCatalog"]
token = ret["access"]["token"]["id"]
return catalog, token
2.将每个交互API的HTTP请求独立出来，所谓DRY吧，不要重复你自己，这样的好处自然是不用重复写代码，再者就是在一个统一的地方对所有调用了的，统一包装或修改。
def getResp(self, suffix, method, data=None, headers=None, params=None, isjson=True):
"""return the result of requests"""
url = self.url + suffix
if headers == None:
headers = self.headers.copy()
headers["X-Auth-Token"] = self.token
req = getattr(requests, method)
try:
ret = req(url, data=data, headers=headers, params=params, verify=False)
logging.debug("request url:%s" % ret.url)
except Exception as e:
msg = "%s访问%s失败 data:%s headers:%s" % (method, suffix, data, headers)
logging.critical(msg)
logging.critical(e)
sys.exit(1)
if ret.status_code == 401:
logging.warning("Token 过期,重新获取Token")
self.catalog, self.token = self.getToken()
headers["X-Auth-Token"] = self.token
logging.debug("request headers:%s" % ret.request.headers)
ret = req(url, data=data, headers=headers)
if isjson:
ret = ret.json()
return ret
3.封装每个API作为函数，函数是第一公民嘛。
...
def chkNode(self):
"""get the compute list service down"""
suffix = "/os-services"
ret = self.getResp(suffix, "get")
ret = ret["services"]
cmpAll = [host["host"] for host in ret if host["binary"] == "nova-compute"]
cmpDown = [host["host"] for host in ret if host["state"] != "up" and host["binary"] == "nova-compute"]
return cmpDown, cmpAll
def chkSerFromNode(self):
"""get the server list from failed node"""
suffix = "/servers/detail"
params = {"all_tenants":1}
ret = self.getResp(suffix, "get", params=params)
ret = ret["servers"]
serDown = [ser["id"] for ser in ret if ser["OS-EXT-SRV-ATTR:host"] in self.cmpDown]
self.serDown.extend(serDown)
def evacuate(self, serID):
"""evacuate the server"""
suffix = "/servers/%s/action" % serID
data = '{"evacuate": {"onSharedStorage": "True"}}'
ret = self.getResp(suffix, "post", data=data, isjson=False)
return ret.ok
...
4.逻辑独立出来，不要做太多事情。
def main():
if len(sys.argv) > 1 and os.path.isfile(sys.argv[1]):
ch = check()
fen = fence()
recov = recover()
while True:
interval = ch.conf["interval"]
try:
interval = int(interval)
except Exception as e:
msg = "时间间隔设置有误 interval:%s" % interval
logging.critical(msg)
logging.critical(e)
sys.exit(1)
cmd = "pcs status|grep 'Current DC'|grep `hostname`"
p = sp.Popen(cmd, shell=True, stdout=DEVNULL, stderr=sp.STDOUT)
vip = p.wait()
if not vip:
ch.check()
logging.info("失败的计算节点%s" %ch.cmpDown)
fen.fence(ch.cmpDown)
logging.info("失败的计算节点下面的server %s" %ch.serDown)
recov.recover(ch.serDown)
time.sleep(interval)
else:
print "配置文件不存在"
(四)总结
不要用SDK，rest API的文档足够健全。
至于完整项目可参考我的Github。
https://github.com/youerning/UserPyScript
相关链接：
Openstack API:https://developer.openstack.org/api-guide/quick-start/index.html
