打造DevOps持续交付高速公路

2016/07/04 - 上海 by 刘涛

一个产品服务的交付过程就像是在道路上行进,如果想要速度快,就需要有好的基础和好的工具。接下来由我来给大家分享一下我在DevOps落地建设方面积累的一些经验和教训,即:如何基于云服务打造一条DevOps持续交付高速公路,打通从代码到服务的通道,让我们的交付过程快速顺畅,通过实现快速可靠的部署 和发布,提升研发、运维各环节的效率和整体的交付效率和质量。希望能在这里和大家一起讨论,共同进步,如有不正确的地方恳请大家指正,避免误导大家。

对于DevOps,大家都不陌生,最近一段时间国内认同度和关注度也在持续上升,在各个技术媒体上关于DevOps文章和讨论非常之多,有很多非常好的从理论价值观实践层面讨论的文章。DevOps最有标志性的文章就是09年的”Ten Deploys A Day”,如果了解DevOps,这篇是一定要看的文章。DevOps和前些年的敏捷开发一样,对企业来说非常重要,是支撑企业业务创新的核心能力。今天,又有了云计算这个敏捷弹性自动化的IT基础设施,让DevOps平台的能力也有了一个巨大的飞跃。

本文将主要着重从云环境下的落地和解决方案的角度讨论,先和大家一起讨论我们为什么做DevOps,将要打造DevOps高速公路的目标具体化;然后介绍一种能够在云计算环境下用最少的工作量、时间和代价风险落地的方案,基于云服务和云管理平台打造强大的横向纵向均全面覆盖环境和应用自动化的DevOps平台,实现在公有云、私有云、混合云以及传统数据中心中的各种业务应用的持续快速可靠的部署和发布,以及高效的运维管理。

为什么要做DevOps,DevOps要解决的问题

首先,我们先一起明确一下我们为什么做DevOps,DevOps要解决的问题,将DevOps建设目标收敛到符合SMART原则的具体的可达成目标。

从业务的层面,DevOps要解决的主要问题就是实现从开发到交付端到端的业务敏捷,加速业务创新,缩短交付周期,实现持续快速可靠的交付;请见下图,来自于AWS官方资料,非常经典的一张图,清晰地诠释了DevOps的地位和作用。

具体到研发和运维的层面,DevOps要解决的问题就是的交付周期长,发布不可靠、低效问题。

下面我们来层层剥茧,导出DevOps解决方案要实现的具体目标。对于交付周期长,发布不可靠问题,有很多影响因素,这些因素中,其中一个非常主要的因素就是:交付过程各个阶段中环境准备、部署发布环节手工操作多、速度慢、不可靠、没有规范。(请看下图)

这张图展示了一个产品版本的整个交付过程,这个过程实际上就是一个不断修改代码、创建配置准备环境、部署应用,验证(获取环境及应用信息,定位问题)的循环 过程。这个过程包含四个阶段,可以看到在每个阶段都需要经过多次创建或配置准备环境,部署应用的环节。这里的指的环境,不仅仅包含主机虚拟机、应用运行的 操作系统环境,还包含中间件服务、防火墙、负载均衡配置、DNS配置等。

在这个过程中对于我们研发团队面临和要解决的问题为:

在这个过程中对于运维团队突出面临和要解决的问题为:

发布过程速度慢,不可控、压力大,原因多由于:

运维过程效率低,特别当环境很多、机器数量很多、系统为分布式系统时,分布在多地域多个云中时,需要经常扩容缩容时;

当运维团队人数有限,有很多项目团队申请资源时,给运维团队带来很多工作量,造成很多压力。

对于以上的问题,基本可以通过环境和应用的自动化标准化解决,我们可以将要解决的主要问题具体到以下场景:

实现环境创建自动化自服务

实现应用部署自动化标准化

实现编排全栈自动化

打造DevOps持续交付高速公路

针对以上的各个DevOps自动化场景,有很多实现的方式,包括基于容器的解决方案,由于容器技术当前还需要一段时间才能“飞入寻常企业家”,较大范围应用到生产环境,对当前的开发和运维管理习惯改变比较大,相关配套设施也要求比较多,所以这个后续再表。现在,先给大家介绍一种基于IaaS云服务和云管理平台的比较容易落地的DevOps平台解决方案,供大家参考。通过这个解决方案我们能够以很小的代价,快速地基于公有云私有云服务实现开发测试以及运维中的各种环境和应用的自动化,能够非常容易的落地,对应用的架构没有限制及对现有代码无侵入。从实现的代价工作量来看,根据对以往经验,对于20个项目,平均一个项目4~5个组件,考虑项目的基础条件不一样,综合平均下来每个组件的实现代价小于1.5人天。

这个平台解决方案如图示,主要由三大部分组成:一个是配置管理部分,一个是云管理平台部分,一个是定制化应用部署工具部分。这个方案有几个关键的选型和设计。

选择了云管理平台,原因如下:

由于云管理平台本身集成了各个IaaS云服务的API,相比于直接基于云API开发自动化功能,或编写环境自动化的模板文件,能够让我们免去大部分集成IaaS API的二次开发工作,降低了实现自动化的开发维护工作量和门槛,同时能够充分发挥云的自动化特性;

云管理平台提供了业务角度的管理视图,对虚拟机按照用途和环境类型进行分组,符合我们管理操作的习惯,可以可视化的一目了然在一个集中的视图中,先按用途找到机器具体信息,然后再进行相关操作,让我们不需要再采用之前使用Excel表手工维护管理环境信息;

云管理平台提供了集群感知和编排的功能,能够让我们实现一键创建环境虚拟机并自动部署配置应用的功能,应用到开发测试过程中建立测试环境场景,以及诸多运维场景,如一键扩容缩容、自动故障恢复、备份恢复等等,还有包括公有云、私有云、虚拟化多种环境中;

云管理平台提供了一体化的工具,涵盖了环境管理、批量管理、代码部署、监控告警等功能;

云管理平台不同于PaaS,不对应用的运行环境进行限制,所以可以广泛的用于实现各种架构的应用的自动化部署,而不仅仅限于Web类的应用;从管理对象上, 云管理平台不仅可以对接管理各个主流公有云私有云的虚拟机,而且还可以将传统物理机和VMware虚拟机导入进行管理,既能够管理各个遗留环境中应用,也能管理运行在IaaS上的应用,在遗留环境自动化部署后,还能够实现应用上云迁移。

应用自动化部署采用AWS CodeDeploy规范

AWS CodeDeploy源自Amazon内部一个非常成熟的规范,这个规范适用的范围很广,对应用的部署架构没有限制和约束。而且非常易用易于掌握,便于落地和推广。对于部署规范的选型非常重要,直接决定了是否易于推行实现和工作量。

下面我们具体介绍一下各个部分,然后以提交代码自动部署场景和一键自动创建虚拟机并部署代码为例介绍DevOps场景的实现过程:

1、配置管理部分

主要由版本控制系统、持续集成服务、制品库服务组成。这部分的主要作用是,能够将要部署的代码自动编译,并进行必要的单元测试和组件测试,将部署包上传到制 品库并将版本信息注册到云管理平台,存储并管理部署包,为后续的自动化部署提供可下载的部署包,方便实现自动化部署下载版本代码,给自动化部署打下一个好 的基础。即便代码存放的版本控制库不一样,所处的网络不一样,仍然可以用统一的HTTP方式下载,也方便同步部署包到各个不同地域网络以保证下载速度。

这部分输入为开发人员提交到指定分支的应用代码,输出为制品库如Nexus上的应用版本部署包和云管理平台上的应用版本信息。

中间的实现依赖于Jenkins和Maven,每个需要独立部署的应用的代码分支,在Jenkins上都对应一个Jenkins持续集成任务,当代码提交 后,那么这个对应的Jenkins持续集成任务就开始同步分支最新代码,并编译,单元测试,通过后使用Maven进行打包并上传到制品库如Nexus,之 后调用定制的Jenkins插件将部署包版本信息注册到云管理平台上。

2、云管理平台部分

云管理平台在整个方案中的作用是:

  1. 在环境准备场景中,可集成各个主流公有云私有云API创建虚拟机,对通过集成云API自动创建和纳管,进行分组分类管理,提供业务维度的管理视图;
  2. 在部署应用场景中,提供应用版本信息的管理,以及自动化部署引擎,支持符合AWS CodeDeloy规范的应用部署包的部署,实现部署的标准化自动化和可视化;
  3. 提供编排自动化、批量管理以及基础设施感知功能,支持实现应用的各种场景下的自动化部署,如创建虚拟机时,提交代码,手动触发,执行编排部署任务、定时或基于监控的自动伸缩,备份恢复,自动故障处理等;
  4. 提供自服务IT功能,能够让研发人员在IT允许的范围内自助获取资源准备环境;这个能有效解决在获取资源环节上研发和IT的协作问题,既减轻了IT的工作量和沟通成本,也提升了双方的效率。

3、定制化应用部署工具部分

这部分的主要作用是,遵循AWS Code Deploy规范,将依据规范实现的各个步骤的部署脚本与应用代码打在一个包内,部署引擎下载应用版本代码到要部署的主机后,会按照规范配置执行这个部署各个步骤的脚本,完成应用在主机上的自动化部署过程。

上面给大家介绍了DevOps平台解决方案的组成部分,下面以两个典型的DevOps场景给大家介绍一下实现的原理。

  1. 代码提交后自动部署DevOps场景实现过程:

    • 开发人员将某应用代码提交到其某个分支上;
    • 应用分支对应的Jenkins任务自动被触发,开始同步分支最新代码,并进行编译,只会调用Maven打包并上传到Nexus;
    • Jenkins任务调用云管理平台应用代码部署插件将应用版本信息注册到云管理平台;
    • Jenkins任务调用云管理平台应用代码部署插件通知云管理平台将应用版本部署到指定范围的主机上;
    • 云管理平台将部署请求下发给主机上的Agent;
    • Agent收到请求后下载部署包,解压后,按照CodeDeploy规范,执行部署各个步骤的脚本进行自动化部署,同时将执行的日志和结果上报给云管理平台控制台,完成代码提交自动化部署。
  2. 一键创建环境主机并自动部署DevOps场景实现过程:

    • 创建虚拟机创建模板,设定对虚拟机配置、操作系统、网络,负载均衡,以及虚拟机启动后要执行的脚本等要求;
    • 指定使用虚拟机创建模板创建虚拟机并添加到指定的环境的主机组中;
    • 云管理平台根据虚拟机模板请求调用云API进行创建;
    • 虚拟机启动后,云管理平台使用SSH自动登录到虚拟机安装Agent;
    • 云管理平台通知agent部署应用;
    • Agent将部署包下载到其所在主机,然后依据包中部署规范配置自动部署应用。

这里有一点需要说明的是,自动化部署是持续交付里最基础的第一步,做到这一步能够大幅提高效率,但是要想实现持续交付,还需要有比较完备的自动化测试工具, 实现各个层次阶段的测试,包括持续集成阶段的单元测试、组件测试,部署后的集成测试,运行期的实时监控。对于自动化测试的实现,通常是一个比较大的技术债 务,最好在项目的研发过程中实现,否则最后很难有获得专门的时间投入资源去做。

最后,总结一下,本文的要点有三。

通过这个方案:

Q&A环节

问:在DevOps 的环节中,QA如何发挥作用?

刘涛:发挥作用体现在两个环节,一个是各个阶段的自动化测试,一个是不能或暂时不适合自动化的人工测试。对于自动化测试,在持续集成阶段的贡献为单元测试、组件测试,帮助快速完成新加功能的测试以及验证是否影响已有功能;对于部署后的集成测试阶段,完成必要的人工功能性测试保证上线的质量。自动化测试越完备,对快速开发交付贡献越大。

问:DevOps是以运维为主,还是开发为主,现在可以使用云上提供的各种API,将来运维何去何从?

刘涛:我一直最大的感受是,从实现DevOps所做的云服务至上的自动化工作上更多依赖于开发,而云服务的稳定性维护和提供必要的支持和工具还依赖于运维。云计算给运维工作带来的改变是非常大的,提供了一个弹性自动化的基础设施服务,运维将来的发展方向也会在这个基础上越来越自动化,越来越智能化。

问:近来容器潮席卷技术社区,我想问下,老师怎么看待DevOps与Docker 结合解决痛点?

刘涛:对于DevOps与Docker结合的痛点,我觉的主要在于网络的方面,这个影响会具体会影响到应用的自动化的部署上。之所以有这么多的容器解决方案,有这么多的编排方案,网络方案,都是要解决连接问题。现实中非常多的应用的架构并不是一个简单的架构,而是分布式的,要想让适用于大多数分布是应用的部署,首先要解决网络层的连接,然后是各个应用组件的连接配置。

问:跨云管理与持续交付的难点在于哪里?您今天分享的方案是否使用此类场景?

刘涛:这个问题非常好。跨云管理的难点在于管理的覆盖面和编排上,可以从几个维度上看。

一个是纵向的覆盖面,需要既覆盖基础设施层,也覆盖应用层,而基础设施层需要覆盖资源的类型又有很多种,要想做到比较全面的覆盖是一个很有难度的事情。

一个是横向的维度,这个横向的维度就是跨云、跨网的编排,要做到这一点需要处理非常多的异构情况,同时要想跨网,需要在管理的设计上做一些特殊的处理。

对于持续交付的难点上,我觉的最大的难点不在于自动化和部署上,最大的难点在于能否在做到自动化部署发布之后的测试上。

如果在整个开发过程中,能够比较好的做到自动化测试,加上完备的手工测试,才能真正做到持续交付。一个极端的例子就是,虽然实现了自动化的部署,但是部署后,如果没有比较好的自动化测试,仍然将不得不花费很长的时间进行验证,才能真正完成部署上线。