|
解建仓,李建勋
(西安理工大学,陕西 西安 710048)
摘要:在探讨网格技术的基础上,以主题信息服务、按需计算服务、个性化决策服务的高效化和便捷化为目标,构建了水利网格平台框架及平行系统,分别实现了异构信息的高效集成、计算力资源调度及服务可视化、卫星遥感MODIS
数据的按需计算服务、基于平行系统的洪水预报以及基于网格系统的仿真模拟环境。以水利网格作为基础平台的资源整合与应用方案,能够有效的解决多种水利业务的分析、处理问题,并在一定程度上辅助支持了预报和决策。
关键词:网格应用;高性能计算;资源整合;平行系统
中图分类号:TV39;TP393 文献标识码:B 文章编号:1674-9405(2010)01-0052-06
1 网格技术
随着水利信息化的不断深入,信息对解决水问题的支持力度越来越大,依托网络来进行决策、建立网格来进行资源整合、以及提供应用服务模式,已成为新的研究和应用热点。水利网格也成为了水利信息化的基础。
美国阿岗(Argonne)国家实验室 Ian Foster 在《网格:21
世纪信息技术基础设施的蓝图》一书中指出:网格是构筑在互联网上的一组新兴技术,它将高速互联网、高性能计算机、大型数据库、传感器、远程设备等融为一体,为科技人员和普通老百姓提供更多的资源、功能和交互性。互联网主要为人们提供电子邮件、网页浏览等通信功能,而网格功能则更多更强,让人们透明地使用计算、存储等其他资源。又在《网格的剖析》中把网格进一步描述为:在动态变化的多个虚拟机构间共享资源和协同解决问题。2002
年 7 月,Ian Foster 提出网格必须同时满足 3
个条件:(1)在非集中控制的环境中协同使用资源;(2)使用标准的、开放的和通用的协议和接口;(3)提供非平凡的服务。随着近几年的发展,严格意义上的网格像Globus已得到了广义化,巨大全球网格
GGG(Great Global
Grid)不仅包括计算网格、数据网格、信息网格、知识网格、商业网格,还包括一些已有的网络计算模式,例如对等计算 P2P(Peer to
Peer)[1]、寄生计算 [2] 等。
不管是狭义还是广义的网格,其目的就是要利用互联网把分散在不同地理位置的电脑组织成一台“虚拟的超级计算机”,实现计算资源、存储资源、数据资源、信息资源、软件资源、通信资源、知识资源、专家资源等的全面共享。传统互联网实现了计算机硬件的连通,Web
实现了网页的连通,而网格试图实现互联网上所有资源的全面连通。清华大学李三立院士认为信息高速公路是信息传输和获取的信息基础设施、而先进计算基础设施则是信息处理的信息基础设施。中科院计算所李国杰院士认为网格可以称作是第
3 代 Internet,整个网络如同一台巨大无比的计算机,向每个用户提供一体化的服务。
网格正向标准化发展、技术融合发展、大型化发展。网格应用(分布式超级计算、分布式仪器系统、数据密集型计算和远程沉浸;网格信息集成应用)不断加强,向用户提供“信息在你指尖”(Information
at our
fingertip)式的服务。信息网格研究的中心问题有:如何描述信息、存储信息、发布信息和查找信息;如何充分利用现有网络技术,如
HTTP、XML、WSDL、UDDI、SOAP 等,构成完整的服务链;如何赋予信息以内涵,即信息的语义表示,以及如何避免信息的二义性;如何对信息加密,防止信息泄露等等。
10 多年来,网格技术的发展促成了物联网的形成(主要因素之一)。尽管出现了网格计算、云计算 [3]、SAAS [4]、PAAS
[5]
等新的技术形式,但聚合分布资源、支持虚拟组织、提供高层次服务是核心。不管是执行作业形式,还是实现业务的托管和外包,都为业务应用打下了良好基础,使新的信息应用模式推广成为可能。
2
水利网格平台框架及平行系统
采用数字摄影测量、遥感、遥测等数字化技术和设备采集各种水利数据;利用各类通信信道,高速数据通信网络传输数据;建立计算机网络;采用数据库、空间数据库和数据仓库等技术存贮和组织数据;不断丰富各类会商硬件基础等等,使整个水利信息化的基础工程有了长足进展。传统按照功能开发的应用,尽管有局限性难以发展,但还是发挥了不少积极作用。经过长期努力,把平台支持应用由理念逐步变为现实,并且得以扩展,形成如图
1 所示的面向水利信息化的水利网格服务体系。

平行系统 [6,7] 是指由某个自然的现实系统和对应的 1
个或多个虚拟或理想的人工系统所组成的共同系统,通过 2
者的相互连接,对各自的行为进行对比和分析,完成“对实际系统的管理与控制,对相关行为和决策的实验与评估,对有关人员和系统的学习与培训”等,对各自未来状况的“借鉴”和“预估”,相应地调节各自的管理与控制方式,达到实施有效解决方案的目的。
在网格支持下的实验和评估是关键。在这一过程中,人工系统主要被用来进行计算实验,分析了解各种不同的复杂系统的行为和反应,并对不同的解决方案的效果进行评估,作为选择和支持管理与控制决策的依据。
人工系统试图尽可能地模拟实际系统,对其行为进行预估,从而为寻找对实际系统有效的解决方案或对当前方案进行改进提供依据。进一步通过观察实际系统与人工系统评估的状态之间的不同,产生误差反馈信号,对人工系统的评估方式或参数进行修正,减少差别,并开始分析新一轮的优化和评估。
对复杂水利应用系统进行计算实验,采用平行系统方法进行管理与控制;通过综合集成和研讨厅进行决策的生成、分析和支持,而所有的计算和数据的管理与处理,都是在并行分布式计算
[8]
和数据平台上完成。通过这种方式,就可以科学化、系统化、综合化地对水利应用系统的各种战略决策、技术决策进行量化评估分析,同时对有关政策的执行和系统的运行,进行在线的评估分析和调整,建立“不断探索和改善”的综合发展、量化评估“全面、协调、可持续性的科学发展观”的理论和方法体系。
3
异构信息高效集成 基于水利网格的数据中心可以分为以下 4
个模块:数据汇集模块、数据管理模块、信息反馈模块、用户管理模块。
(1)数据汇集模块用于完成对分布式数据的汇集,包括:数据节点注册、数据库注册、数据表信息注册、字段信息注册功能。解决数据在分布性、动态性环境下的汇集,实现计算服务环境下数据节点的信息宏观的结构化展示。
(2)数据管理模块用于完成数据的综合管理,包括:数据查询、数据修改、数据删除功能。解决跨流域、跨部门计算数据节点的互联操作,数据节点用户可以对计算数据节点信息进行方便有效的操作。
(3)信息反馈模块用于完成水利计算服务平台调度中心的交互,为异构数据提供统一、开放、标准的数据接口,并为调度中心原子操作模块关于数据的请求处理提供支持。
(4)用户管理模块管理对数据中心具有各种操作权限用户的信息,包括:节点用户注册、用户信息修改、用户权限设置、用户删除。面向数据管理层,负责计算服务环境中与数据节点相关的用户信息。图
2 是基于水利网格的数据中心体系架构。

数据中心采用了 J2EE
体系下基于MVC 设计模式的 Struts 框架 [9]
来实现具体的业务流程和界面展现。Strtus框架具有良好的代码重用性及扩展性。它为开发基于 MVC 模式的系统提供底层支持。
根据系统功能展现界面的开发流程结构,来自客户浏览器的所有 HTTP 请求被创建为一系列的事件,Web 容器使用 HTTP
响应机制返回请求的结果。视图层采用 JSP
技术为用户创建数据信息的展现页面,展现页面包括节点信息页、数据库信息页、数据表信息页、字段信息页、数据请求页,页面中的流程逻辑、业务逻辑和模型信息由
Struts 中的标签集创建。浏览器请求通过 JSP 页面传递到控制层的行为服务组件,这是由 Servlet
实现的类,行为服务组件将请求传递到行为处理机制,并通过标准配置文件来配置控制层的行为。业务逻辑层通过 Struts
的行为类更新模型状态,行为类包括节点业务类、数据库业务类、表信息业务类、字段业务类等,业务类的配置在 Web.xml
文件中实现,表信息业务类表示各个模块模型的状态,用来处理来自表单层中的数据。系统功能展示界面开发流程如图 3
所示。

4
高效能计算力资源调度及服务可视化
以空间地理数据、历史数据、影像数据、非结构化数据为数据源,在异构平台上实现高效能计算力,构建水利计算实验环境是应用需求。在水利网格环境下,将水利业务划分为作业和原子,结合作业的负载和资源情况,动态安排应用程序运行策略,实现面向异构平台和节点内部自治的优化。
构建具有高效能计算力异构平台,实现水利业务在平行系统中的优化服务,根据水利业务的复杂度,按照功能分解为不同的作业,每个作业按照计算服务系统中的算法模型以及用户应用需求加以拆分,采用粒度的方式和算法结构表现整个水利业务作业,将特定的业务应用的粒度进行细化,建立独立的面向业务逻辑的算法单元,不同的算法单元按照用户需求在计算力资源调度中实现平行优化。基于网格的高效能平行系统首先讨论了作业的关键路径,通过动态作业关键路径来控制调度的优化方向,然后结合有向作业图和无向节点图,将水利业务应用配置在依靠并行集所产生的二分图上并且在信任模式下将调度转化为二分图的联接操作,及时的响应节点属性变化,提高了水利业务应用的灵活性和高效性。
网格使用高速网络,将分布在不同地点的高性能计算机、水利监测设备、信息资源等融合为具有超级计算能力的巨型虚拟计算机,为水利应用提供廉价高效的计算服务,提高了普通用户的计算能力。基于工作流的可视化计算服务作业注册方式可以为用户提供透明的作业注册环境。
通过调度中心作业运行机制分析,构建水利计算服务可视化组件,可视化作业注册组件用以完成作业图绘制、解析和数据保存功能。结构从上到下分为绘图、解析和数据
3 层。用户使用绘图层将作业绘制成作业,然后将作业图交由解析层解析出可以在数据库中存贮的符合参数驱动规范的离散数据,最后将解析数据存贮于数据库中。图 4
是计算服务调度中心作业注册操作的示意图。

5 卫星遥感 MODIS
数据的按需计算服务
卫星遥感 MODIS 数据 [10]
的引入为水信息应用带来了更多的实时性和精确性,也为建立高效率、高准确度平台带来了新的生机。水利信息化的发展要求实现以卫星遥感
MODIS
空间数据为基础建立具有高存贮能力和访问效率的影像金字塔,实现空间地理数据、遥感影像数据、数字高程的三维融合,以及水利数字地球仿真模拟平台实现,同时由于水文现象的区域性和随机性,河流水系分布极不规整,这就要求我们满足不同区域、水文现象、水系的各种不同层次需求的数据服务。
MODIS 数据处理采用现有几何校正、噪声处理、云处理技术,提高 MODIS
数据的利用度和实用性,并按需建立流域性、专题性、参数性的 MODIS
影像并行计算服务环境。
6
基于平行系统的洪水预报 探索以高效能计算为支撑,以平行系统为核心的水信息集成应用,尝试建立由某个自然的现实系统和对应
的 1 个或多个虚拟的理想人工系统所组成的共同系统,并通过平行系统为水利仿真、监测、预警业务提供服
务。图 5
所示的是基于平行系统的洪水预报框架。

该框架以空间地理数据、历史数据、影像数据、非结构化数据为数据源,以高效能计算网格为计算平台,构建计算实验环境,将预报结果与实测数据进行对比,通过逻辑反演,建立预报完善机制,实现模型系统动态改进。使用优化后的预报模型对将来数据进行预报,在时间维度上通过将来数据对预报结果予以验证与评估,为预报模型提供学习机制和记忆机制,实时的保留最佳的预报方案和策略,完成整个平行系统的逐步优化,随着平行系统运行时间的增长,系统将自学习的构建预报精度逐步改善、预报模型更加具体的预报服务系统。
在实际的洪水预报中存在以下问题:(1)预报方法和预报模型选择困难;(2)预报精度差;(3)预报方案单一。基于平行系统的洪水预报,可以在很大程度上解决上述问题。通过建立洪水预报平行系统,在平行系统下开展计算实验,通过计算实验进行洪水预报模型的检验、修正与选择,最后通过平行系统将最终的预报方案反馈给实际洪水预报系统。基于平行系统的洪水预报流程主要分为
4 个阶段:模型初选、模型检验与选择、预报方案评价和预报方案选择。
在传统的洪水预报系统中,模型一旦选定就很难改变,在高效能的平行系统下,洪水预报模型是通过组件搭建的方式构建而成,同时模型的选择是通过并行化的计算实验进行定量评价选择,并将选出的模型推荐给实际系统。快速构建出多个洪水预报模型,并利用历史资料对构建出的模型进行仿真和检验,评价和选择,从而突破传统方案中计算力束缚,通过多模型多方案层层选拔得出科学的洪水预报方案。
7
基于网格的仿真模拟平台 依靠高效能计算力,把遥感影像与水利业务结合构建基础的水利虚拟现实平台,提供基本的仿真环境。由
GIS 与遥感影像的无缝对接,结合
STRM高程构造数字地形。建立水利数字地球基础平台,实现虚拟现实平台上的水雨情实时监视、库区仿真、预警预案、应急响应等。
建立投影变换并行算法,对遥感影像按影像金字塔模型要求进行切片,建设遥感影像片元描述及WMS 服务环境 [11],搭建面向数字地球的
WebGIS服务环境,建立空间影像片元索引及邻域检索机制和层次模型,实现视域内象素点及经纬度之间转换算法,并重点实现多种应用接口:数字地球互操作(如:放大、缩小、平移)服务接口;空间信息(如:制作文本、绘制图元)更新维护接口;空间信息动态创建接口;数字地球扩展控制(如:飞行、定位)接口;整合业务资源的应用服务数据接口;非经纬度投影转换接口;GIS
结合接口;高清晰影像接口。
在高效能计算力仿真模拟平台基础上,结合水利业务的需求,构建相关水利应用如图 6
所示。

图
6(a)展示的是在高效能计算力仿真模拟平台上实现的西安市水雨情信息监测集成服务,执行客户端程序后,利用定位功能输入研究区域中心的经纬度,界面自动调转到指定位置,从“基本应用”下拉框的“图层名称”选中设置好的
WMS
类型便能实现。图中图标显示的是西安市蓝田县区域范围内所有监视测站(蓝色半圆代表水库站,绿色实心圆代表雨量站,斜三角代表河道站),当双击图标时,能显示实时地水雨情信息。
图 6 ( b ) 展示的是在高效能计算力仿真模拟平台洪水淹没分析及三维展示效果图,通过构建研究区域内的矩形格网,给定洪水水位值,
根据格网蔓延法求取具备连通性且在水位值之下的格网集合, 并采用 JOGL [ 1 2 ]
技术进行淹没区域的绘制,实现洪水淹没静态面积的三维展示。采用
Swing的时间组件timer,能够实现水位的自动递增,从而实现不同洪水水位条件下的洪水淹没仿真效果。
8
结语
现代信息技术迅速发展,新思想、新技术不断涌现,给我们的生活带来了巨大变化。同样,水利事业也受到了现代信息技术的强力推动。
水利信息化的实践不断取得了成绩,也暴露了问题。在重视信息化基础建设的同时,更应该重视应用体系的建设,不要完全依赖数据完整和设施完善,要从应用中促进完善,表里一致,见到效益,服务为上。我们在多年的水利网格应用实践的基础上认为:共享资源、整合应用,以应用支撑平台逐步实现“按主题提供信息服务”、“按需要提供计算服务”、“按个性化提供决策服务”将是水利业务服务的重要发展方向,依赖信息化技术和工具,结合高性能计算和可视化表现技术,创建平行系统,开展计算实验,丰富模拟仿真,也将是一种全新的应用模式。
参考文献
[1] 李祖鹏,黄建华,唐辉. 基于 P2P 计算模式的自组织网络路由模型[J].
软件学报,2005,16 (05):916~930.
[2] 慈庆玉. 基于 Windows 环境的计算机病毒防治技术研究及其检测设计[D].
成都:西南交通大学,2003.
[3] 陈康,郑纬民.
云计算:系统实例与研究现状[J]. 软件学报,2009,20 (5):1 337~1 348.
[4] 陈波. 基于 SaaS 的软件服务链研究[D]. 武汉:武汉理工大学,2008.
[5] 黎春兰,邓仲华. 论云计算的价值[J]. 图书与情报,2009,4 (02):42~46.
[6] 王飞跃. 人工社会、计算实验、平行系统——关于复杂社会经济系统计算研究的讨论[J]. 复杂系统与复杂性科学,2004,1
(4):25~35.
[7] 王飞跃,史帝夫•兰森. 从人工生命到人工社会——复杂社会系统研究的现状和展望[J]. 复杂系统与复杂性科学,2004,1
(1):33~41.
[8] GAO Shu,GUO Qing-ping. Parallel programming characteristics of
a DSP-based parallel system[J]. Zhejiang Univ SCIENCE A,2006,7
(10):1669~1675.
[9] 杜明,李朝纯. 基于MVC的Struts 框架和标记库的研究与应用[J]. 微机发展,2004,14
(11):110~116.
[10] 李娜,颜长珍. 利用 MODIS 植被指数评估分水对黑河中游的影响[J]. 遥感技术与应用,2009,24
(6):793~796.
[11] 解建仓,王晓辉,李建勋,等. WMS 下的 WebGIS 开发及与水环境信息服务平台集成[J].应用科学学报,2006,24
(3):266~269.
[12] 马斌,李仲,李翠平,等. 基于 J2EE 平台和 B/S 结构的地矿工程三维可视化仿真技术[J].
辽宁工程技术大学学报(自然科学版),2009,28
(2):181~184.
|