OpenStack Object Storage（Swift）架构简介

　　OpenStack Object Storage（Swift）是OpenStack开源云计算项目的子项目之一。Swift使用普通的服务器来构建冗余的、可扩展的分布式对象存储集群，存储容量可达PB级。Swift的是用Python开发，前身是Rackspace Cloud Files项目，随着Rackspace加入到OpenStack社区，Racksapce也将Cloud Files的代码贡献给了社区，并逐渐形成现在Swift。Swift***的发型版本为essex 1.4.6。

　　功能

　　Swift提供的服务与AWS S3基本相同，可以用以下用途：

　　作为IaaS的存储服务

　　与OpenStack Compute对接，为其存储镜像

　　文档存储

　　存储需要长期保存的数据，例如log

　　存储网站的图片，缩略图等

　　Swift使用RESTful API对外提供服务，目前 1.4.6版本所提供的功能:

　　Account（存储账户）的GET、HEAD

　　Container（存储容器，与S3的bucket相同）的GET、PUT、HEAD、DELETE

　　Object（存储对象）的GET、PUT、HEAD、DELETE、DELETE

　　Account、Container、Object的元数据支持

　　大文件（无上限，单个无文件***5G，大于5G的文件在客户端切分上传，并上传manifest文件）、

　　访问控制、权限控制

　　临时对象存储（过期对象自动删除）

　　存储请求速率限制

　　临时链接（让任何用户访问对象，不需要使用Token）

　　表单提交（直接从HTML表单上传文件到Swift存储，依赖与临时链接）

　　静态WEB站点（用Swift作为静态站点的WEB服务器）#p#

架构

　　图为Swift的基本架构。

　　在介绍Swift的架构之前，先介绍一下OpenStack的设计原理：

　　1、Scalability and elasticity are our main goals

　　（可扩展性和伸缩性是我们的主要目标）

　　2、 Any feature that limits our main goals must be optional

　　（任何影响到可扩展性和伸缩性的功能都必须是可选的）

　　3、Everything should be asynchronous，If you can’t do something asynchronously, see #2

　　（所有的环节必须是异步的，如果不能异步实现，参考第二条设计原理）

　　4、All required components must be horizontally scalable

　　（所有的基础组件必须能横向扩展）

　　***lways use shared nothing architecture (SN) or sharding，If you can’t Share nothing/shard, see #2

　　（始终使用无共享的架构，如果不能实现，参见第二条）

　　6、Distribute everything，especially logic. Move logic to where state naturally exists.（所有的都是分布式的，尤其是逻辑。把逻辑放在状态应该存在的地方）

　　7、Accept eventual consistency and use it where it is appropriate.

　　（接受最终一致性，并在适合的条件下使用）

　　8、Test everything（充足的测试）#p#

　　依赖组件

　　Memcached，分布式缓存系统，在swift中主要被用于token和account信息，container信息的存储

　　Sqlite，轻量级数据库引擎，在swift中主要被用于管理account和container数据库

　　rsync，远程同步工具，用于storage node之间的数据同步

　　XFS文件系统

　　WSGI，Python Web服务网关接口，通过paste.deploy工具包管理swift各服务进程、中间件的处理流程

　　Eventlet，Python搞并发网络编程库，swift所有的服务器进程均依赖于该库#p#

　　主要组件

　　Ring文件

　　在基本架构图中，我并没有画出ring文件，但是它却是整个Swift中最重要的组件。ring文件是由一致性哈希算法生成，它的主要作用是存储名字到位置的映射。

　　ring文件分为三类，分别是：account.ring，container.ring，object.ring。

　　对于account的请求，就能通过account_name查询account.ring得到{‘/account_name’ : account_db_position}的映射，从而知道account数据库文件在集群的位置；

　　对于container的请求，通过account_name和container_name查询container.ring文件，得到{‘/account_name/container_name’ : container_db_position}的映射；

　　对于object的请求，通过account_name，container_name，object_name查询object.ring文件，得到{‘/account_name/container_name/object_name’ : object_position}的映射；

　　Ring文件作为一个静态文件存储在每个节点的/etc/swift目录下，被用于各节点之间的位置查询，使得swift的内部网络是一个P2P网络，不依赖某几个节点进行位置查询，避免了单点瓶颈。

　　生成ring文件的一致性哈希算法不但为数据的冗余性，分区容忍性提供了保证，也为整体架构上实现性能、容量的横向扩展奠定了基础。

　　Ring的详细构造过程将在下一节介绍。

　　proxy-server

　　proxy-server是proxy node中唯一运行的服务进程，也是swift集群的endpoint，向用户提供RESTful API。

　　对于用户的请求，proxy-server会根据配置文件的配置，将请求交给各个中间件进行处理，其中最重要的就是Auth中间件（认证），在处理完成后会根据请求路径将请求转发给相应的storage node中的account-server。container-server或object-server进程处理。

　　swift集群的流入数据和流出数据都需要经过proxy-server，proxy-server不会对数据进行缓存。

　　auth-server

　　验证服务进程，为用户生成token和验证每个请求的token及token的权限。swift的验证服务是作为一个中间件被proxy-server使用，是可选的，可以自己开发，也可以使用OpenStack Keystone。Keystone是官方开发的验证服务，使用Keystone可以无缝的与其它OpenStack项目整合。

　　account-server

　　account-server是storage node中负责处理对account的GET、HEAD、PUT、DELETE、RELICATION请求的服务进程，account-server使用sqlite的数据库文件保存account的相关信息。

　　container-server

　　container-server是storage node中负责处理对container的GET、HEAD、PUT、DELETE、RELICATION请求的服务进程，container-server使用sqlite的数据库文件保存container的相关信息。

　　object-server

　　object-server是storage node中负责处理对object的GET、HEAD、PUT、PSOT、DELETE、RELICATION请求的服务进程，object-server直接操作object，并利用XFS文件系统的xattr包存object的元数据。

　　account-auditor、container-auditor、object-auditor

　　这三个进程运行在storage node中，分别检测account的db文件，container的db文件，object是否损坏，如果损坏，将会向存储有其它副本的storage node请求副本，替换损坏的。

　　account-replicator、container-replicator、object-replicator

　　这三个进程运行在storage node中，分别负责account的db文件，container的db文件，object在集群中副本的同步。

　　例如，一个object在swift集群中通常被存储在3个不同的storage node中，对于一个PUT /account/container/object的请求，proxy-server会根据 /account/container/object查询ring文件，得到该object应该存储的节点列表（长度为3），proxy-server会将请求转发到这三个节点。如果只有两个节点写入成功，就认为这次PUT操作成功。写入失败的节点在一段时间后将会得到写入成功的节点object-replicator进程推送过来的数据。

　　container-updater、account-updater

　　这两个进程运行在storage node中，负责container数据库和account数据库的异步更新。使用异步更新的原因：在请求来量大时，container-server和account-server不能实时处理对数据库更新的请求，这些请求将被本地化到队列中，由updater进程进行异步更新。

总结

　　经过对Swift原理、代码的学习研究以及一系列地测试，我认为Swift简单、冗余、可扩展的架构保证了它能作为IaaS的一个基础服务。

　　原帖：http://blog.sws.sina.com.cn/?p=139