1、医院双活数据中心建设方案2013 年 7 月1. 需求和目标数字化医院是我国现代医疗发展的趋势。 “数字化医院”是指将先进的网络及数字技术应用于医院及相关医疗工作, 实现医院内部医疗和管理信息的数字化采集、存储、传输及后处理，以及各项业务流程数字化运作的医院信息体系。“数字化医院”是由数字化医疗设备、计算机网络平台和医院业务软件所组成的三位一体的综合信息系统。数字化医院工程体现了现代信息技术在医疗卫生领域的充分应用，有助于医院实现资源整合、流程优化，降低运行成本，提高服务质量、工作效率和管理水平。信息系统建设作为医疗行业信息化的核心内容，在近几年的发展中经历了不同的阶段。随着国家新医改方案的实
2、施，对国内传统医院信息系统发展带来前所未有的机遇与挑战，现有的信息系统已难以全面适应医院的需求。因此，一个全新的数字化医院解决方案是当前国内医院信息化行业的迫切需求。1.1 项目需求分析医疗行业信息系统中最重要的是信息，包括病人临床信息和医院管理信息等。医疗行业 IT 部门面临的最明显挑战是由信息数字化造成的信息量持续增长带来的，这些增长来源于： 每个医疗过程涉及大量图像加上每年要执行大量扫描，使得存储的医疗记录以超过 70% 的年增长率在增长； 更多类型的数据：财务、临床、图像管理，结构化数据（如数据库）及非结构化数据（如数字影像、报告、视频、演示文稿等） ； 更多用途的数据：HIS、EMR
3、/EHR、PACS、知识管理以及数据挖掘 更多设备产生的数据：药征、患者监视、仪器 更多管理法规：国家医疗记录保留要求医疗行业中不同业务应用系统的需求不尽相同。我们以医院的两个最有代表性的应用为例，分析其来自医院业务的需求： HIS/EMR 系统 随着就诊人数的增长，需要保证系统的性能满足业务发展的需要； 需要满足 7x24 小时高可靠运行的业务连续性要求； 需要保证数据的安全性和可恢复性，避免因数据丢失引起的医疗纠纷； PACS 系统 如果仍然采用随影像设备配置的功能简单的医疗影像系统，如何实现全院影像信息共享和查询？ 如果实施了全院 PACS 系统，则带来数据量的快速增长，如何做到控制成本
4、、同时提供数据的共享和快速查询？ 需要满足 7x24 小时高可靠运行的业务连续性要求； 需要保证数据的安全性和可恢复性，避免因数据丢失引起的医疗纠纷；医疗行业其他应用系统还包括：LIS、医保、银联前置机、合理用药、知识库、排队叫号、病人查询系统、OA、杀毒系统、文件服务器、WEB、Email 等。如今，随着医院不断有新的应用系统上线，数据呈级数增长，原有的系统迫切需要扩容升级。由于医院内的 HIS、PACS 和电子病历等系统是在不同时期分批建成的，导致各系统的数据处于分散存储状态。不仅如此，每个系统所采取的存储方式与存储介质也各不相同，而且有些存储系统已经无法满足业务不断发展的需要。随着上述系
5、统应用规模的不断扩大，在数据管理方面的问题日益凸显出来，主要表现为：容量不足，数据调用不便；系统结构相对落后，系统稳定性有待提高；最后，分散存储的模式，严重影响了数据资产的管理效率。总体来讲，医疗行业信息化的关注点在于： 如何满足业务连续性要求 高性能 服务不停顿 数据不丢失 如何解决数据容量迅速增长带来的成本、管理等问题 如何解决应用系统不断增加带来的成本、管理等问题1.2 需求分析小结随着医院信息化进程的逐步深入，医院部署的的应用系统越来越多，环境也变得越来越复杂，这无形中增加了 IT 人员管理维护系统的难度。同时，随着应用系统的不断增加，数据也相应大量增长，这就给原有的信息基础架构提出了
6、更高的要求： 提高系统数据整体安全性，避免因数据丢失导致的公共事件发生 平滑的提供更大的存储空间 提供更快的数据响应速度 提供更大的数据吞吐能力 提供灵活的资源调配能力（包括服务器和存储）并且，随着信息系统在医院教学和管理中的重要性越来越高，信息主管部门越来越多的关注在： 如何解决应用系统和数据容量迅速增长带来的问题： 利用率降低 成本不断增加 管理越来越复杂等 如何满足关键应用系统的业务连续性要求 关键系统高性能 关键服务不停顿 关键数据不丢失2. 双活数据中心整体解决方案随着医疗服务业务的进一步发展，医疗信息系统要求提供 7*24 小时的高可用性服务，业务运行不允许中断，系统一旦停机会给医
7、院造成巨大的损失。为了应对系统停机、业务中断等风险，多数医院建设了容灾数据中心，传统的以数据复制技术为基础的多数据中心架构均以灾难情况下的站点整体切换为第一目标，这种技术强调灾难情况下的站点恢复能力，但往往由于底层数据复制配置、网络环境、相互依存服务等方面的限制，无法顺利实现单个业务应用系统或主机的透明切换和迁移；另一方面容灾站点的服务器、存储、网络等资源长期处于闲置状态，并且长期占用机房场地并耗费大量能源，所以大部分医院并没有建立一个高效的容灾机制，一旦应用系统或机房硬件出现故障，将会造成业务中断，影响医院运营。在灾难备份与恢复行业国家标准信息系统灾难恢复规范中，将信息系统的灾难恢复能力划分
8、为了 6 级，明确了 RTO/RPO 与灾难恢复能力等级的关系，在最高级（第 6 级）中要求 RPO=0，RTO 在分钟级内。如何构建一个在发生故障时提供保护并使关键应用程序保持在线，尽可能减少人工干预的高可用性解决方案，成为本方案的最大挑战。2.1 双活数据中心建设方案拓扑图2.2 双活数据中心建设方案说明以上拓扑图充分考虑了医院建设高性能、高可用的双活数据中心的要求，实现了服务器、存储、网络的端到端冗余，最大程度的保障医院业务系统的稳定运行。2.2.1 在以太网络层面：在医院建设好的两个数据中心机房里，每个数据中心均各部署两台网络交换机；可以是两台核心交换机，如果节省成本，可以是一台核心加
9、一台二层汇聚交换机；通过两个数据中心预埋的单模光纤连接，现两个数据中心交换机的互联互通。对于医院各个楼层的汇聚交换机，均通过预埋的光纤分别连接到两个数据中心的核心交换机上，实现链路冗余连接，任何一条光纤或核心交换机发生故障，不影响楼层科室业务系统对数据中心的访问。对于数据中心的服务器设备，每台服务器都配置了多个千兆网络接口，分别连接到该数据中心的核心网络交换机和汇聚网络交换机，实现服务器网络的冗余连接，无单点故障。2.2.2 在服务器层面：为了更好的解决通常“烟囱式“建设方式带来的弊端，采用服务器虚拟化架构解决方案。EMC 旗下的全球虚拟化产品领先厂商 VMware 公司能够为用户提供完善的服
10、务器虚拟架构解决方案，该方案可以实现： 服务器整合和基础架构的优化； 消减物理服务器架构的成本； 增强数据中心扩展性； 改善操作的易用性和灵活性； 增加应用系统的可用性并改善业务连续性；可以在两个数据中心之间构建一个计算资源池，每个数据中心分别部署35 台物理服务器，安装 Vmware 虚拟化软件，将两个数据中心的 58 台服务器配置成为一个 VmwareHA 集群，能够支持 3050 个医院应用系统的正常运行，最有效的利用服务器资源，节省采购和运维成本，降低管理复杂度。同时在构建的 VmwareHA 集群中，任何一台物理服务器发生故障，该服务器上的虚拟机会平滑迁移到其他的物理服务器上，保障了
11、医院业务系统的稳定运行。对于最关键的 HIS、EMR 等业务系统，采用物理机构建 Oracle RAC 或双机热备的方式，在两个数据中心分别部署一台服务器来运行 HIS、EMR 等数据库。利用 EMC 的云存储技术，实现跨数据中心的服务器集群，任何一台数据库服务器或数据中心发生故障，医院的 HIS、EMR 数据库仍然能够从另外一台数据库服务器继续访问医院的 HIS、EMR 等数据库，确保医院业务的稳定运行，实现业务连续性。2.2.3 在 SAN 网络层面：通过在两个数据中心分别部署两台入门级 SAN 存储交换机 DS-300B，并且通过 10 公里 8Gb 接口的长波模块，实现两个数据中心的
12、SAN 交换机的两两互联，构建一个跨两个数据中心的大 SAN 网络。每台 DS-300B 存储交换机最大支持 24 个光纤端口，本次为新数据中心的每台交换机配置 24 个 8Gb 光纤接口和 1 个 10 公里 8Gb 的长波接口；2.2.4 在存储架构层面：为了实现医院的双活数据中心建设，必须能够将两个数据中心的存储进行整合并虚拟成为一个存储系统，这样才能够支持跨数据中心实现主机层面的VmwareHA 集群（Vmware 集群或其他双机都必须跨数据中心访问共享硬盘）和双机热备；这样当任何一台存储发生故障、任何一个数据中心发生故障，主机可以切换到另一个数据中心的服务器上，启动虚拟机或访问 Or
13、acle 数据库，保障医院业务系统的稳定运行，实现 RPO=0，RTO=0，充分满足业务连续性的需求。EMC 的 VPLEX 云存储系统能够实现数据中心存储的统一管理，对于主流的异构平台存储系统实现统一管理，将多个存储虚拟成为一台存储对外服务。VPLEX 云存储系统能够实现对跨数据中心两台存储系统的 “双写”，任何一个业务系统对数据的读写都是通过两条链路对两台存储进行操作，任何一台存储发生故障，数据无丢失；任何一个数据中心的存储发生故障，可以通过另一个院区数据中心的存储继续访问，业务系统没有中断，仍然能够保障医院正常业务的开展。每台 Vplex 云存储系统采用全冗余架构设计，配置冗余控制器，并
14、且能够横向扩展至 4 台云存储系统，8 个控制器；每台 Vplex 云存储系统配置了72GB 缓存和 16 个 8Gb 光纤接口，为了节省交换机的端口，采用将 8 个 8Gb FC 接口分别连接到数据中心的 DS-300B 存储交换机上，实现前后端的冗余连接，保障数据访问的性能和可靠性。在由 EMC Vplex 云存储系统构建的双活数据中心中，为了判断数据中心的运行状态，避免“脑裂”（由于两个数据中心的通讯中断，可能是线路中断，也可能是一个数据中心故障），在两个数据中心外的任何一个楼层配置一个第三点仲裁（一台运行 EMC witness 的虚拟机即可），该第三点仲裁通过网络与两个数据中心的 V
15、plex 云存储系统互相通信，传递心跳信息；当出现以下故障时，数据中心的信息基础架构平台将会如此应对：1. 当两个数据中心都运行正常，但是两个数据中心的互联光纤被挖断，两个 vplex 云存储系统不能数据同步的情况下：整个平台将会按照初始配置的策略（初始配置时，会设定数据 LUN 优先级别，每个 LUN 优先在哪个数据中心保持活动状态），所有的数据卷各自运行在高优先级的数据中心，保持业务系统的稳定运行。2. 当一个数据中心的存储发生故障，该数据中心的服务器仍然能够通过 Vplex 云存储系统访问另外一个数据中心的存储系统，继续应用；3. 当一个数据中心发生故障，正常运行的 Vplex 云存储系
16、统通过网络不能够正常与发生故障的数据中心的 vplex 进行通信，在结合第三点仲裁判断出另一个数据中心发生故障，正常运行的Vplex 云存储系统将会接管两个数据中心的数据卷，对外提供服务，而不管初始配置的优先级策略，充分保障数据中心故障时的医院业务系统的稳定运行。4. 其他故障类似处理。而且，EMC 的 vplex 云存储系统对于后台的存储系统上的数据卷只是进行封装、镜像，并不对数据卷进行格式的转换，所以即使发生万万分之一的情况，两个数据中心的配置双控制器的 vplex 云存储系统发生故障，通过在 SAN 交换机上进行 Zone 的设置，让服务器直接访问后台的存储系统，仍然能够保障医院业务系统
17、的正常运行。在后端存储系统选型上，建议使用 EMC 中高端存储系统 VNX5500 来存储医院数据中心的所有数据。 当前业务系统分配空间如下：业务系统名称分配空间 所在存储名称 是否做了 Vplex 镜像HIS 系统 537GB /SAS VNX5100-2/3 是集成平台 1024GB/SAS VNX5100-2/3 是虚拟化 2560GB/SAS VNX5100-2/3 是电子病历 11TB/NL-SAS VNX5100-2 否心电系统 2141GB/SAS VNX5100-1 否PACS 系统14.5TB/NL-SAS VNX5100-1 否为了提高医院各个业务系统的高可用性，通过双活数
18、据中心实现所有业务系统数据的高可用性，实现跨数据中心的镜像保护。具体规划如下：业务系统名称分配空间 所在存储名称 是否做了 Vplex镜像备注HIS 系统 537GB /SAS VNX5100-3/VNX5500 跨数据中心镜像集成平台 1024GB/SAS VNX5100-3/VNX5500 跨数据中心镜像虚拟化 2560GB/SAS VNX5100-3/VNX5500 跨数据中心镜像电子病历 11TB/NL-SAS VNX5100-3/VNX5500 跨数据中心镜像 如需性能，可考虑迁移到 SAS 盘心电系统 2141GB/SAS VNX5100-3/VNX5500 跨数据中心镜像 迁移到
19、VNX5500，再回迁到 VNX5100-3PACS 系统14.5TB/NL-SAS VNX5100-1/VNX5100-2 跨数据中心镜像 VNX5100-2 和VNX5100-1 均需扩充硬盘在实现双活数据中心的建设时，对现有存储的空间分配进行整合，提高存储空间利用率，并提高医院业务系统访问的性能，具体操作如下：1. 将 VNX5100-3 上扩充空间、性能，将非 PACS 系统以外的系统数据统一保存在 VNX5100-3 上，提升 VNX5100-3 存储系统的性能，实现与新采购的 VNX5500 存储系统的跨数据中心镜像；根据当前的存储空间分配，如果 EMR 电子病历数据仍然采用 NL
20、-SAS 硬盘来存放，则核心主存储 VNX5100-3 需要扩容 17 块 600GB 15K 硬盘 +10 块 2TB 硬盘+3 块100GB SSD 固态磁盘，其中 17 块 600GB 15K 硬盘用于跟现有的 15 块600GB 硬盘做成一个存储池，用于集中存储 HIS、集成平台、虚拟化、心电等系统的数据以及未来的扩充，10 块 2TB 硬盘用于将备份存储VNX5100-2 上的 EMR 电子病历数据迁移过来，3 块 100GB SSD 用于扩充 VNX5100-3 存储系统的性能，提供医院业务系统和虚拟机的访问性能。2. 在 VNX5100-2 备份存储上扩充 7 块 2TB NL-
21、SAS 硬盘，用于扩容 PACS影像系统的存储空间，并在数据迁移到 VNX5100-3 以后，搬迁到新机房，用于与 PACS 存储 VNX5100-1 的存储镜像。3. 在 VNX5100-1 PACS 影像存储上扩展 5 块 600GB 15K 硬盘和 5 块 2TB NL-SAS 硬盘。用于扩展 PACS 影像存储的空间。4. 购买 VNX5500 存储系统，根据当前的存储空间，配置 35 块 600GB 15K硬盘和 10 块 2TB NL-SAS 硬盘，用于与 VNX5100-3 存储系统的跨数据中心镜像保护。EMC 的中高端 VNX5500 存储系统配置了 24GB SAN 存储缓存
22、，还能够扩展 36GB 的 NAS 缓存和 1000GB 的 SAN 存储缓存，最大程度的满足医院未来对性能增长的需求；最大支持 250 块硬盘的扩展，也能够极大的满足医院对存储空间的需求。2.3 双活数据中心配置汇总产 品 名 称 配 置 描 述 数量云存储系统EMC Vplex 云存储系统，配置冗余控制器，72GB 缓存，16个 8Gb FC 接口，实现与当前数据中心的双活。 1EMC 核心存储EMC VNX5500 存储系统，全冗余架构；配置 24GB60GB 缓存；配置 35 块 600GB 15K 6Gb 接口 SAS 硬盘和 10 块 3TB硬盘 1光纤存储交换机配置 24 端口模
23、块化交换机，本次配置并激活 24 个 8Gb 端口和 1 个 10 公里 8Gb 长波模块。并额外配置 2 个 10 公里 8Gb长波。2VNX5100-3主存储扩容配置 17 块 600GB 15K 硬盘， 10 块 2TB 硬盘和 3 块 100GB SSD 硬盘，以及 VNX5100 缓存扩展软件，扩展 100GB 存储缓存，提升存储性能。1VNX5100-2备存储扩容 配置 7 块 2TB NL-SAS 硬盘，用于与 PACS 存储镜像保护1 VNX5100-1PACS 存储扩容配置 5 块 2TB 和 5 块 600GB 15K 硬盘，用于 PACS 存储空间的扩容1双活数据中心建设、存储优化、数据迁移服务实现对现有存储空间的优化，现有数据的迁移以及双活数据中心的建设。1
