云计算技术分析模板(10篇)

时间:2023-08-15 16:54:14

导言:作为写作爱好者,不可错过为您精心挑选的10篇云计算技术分析,它们将为您的写作提供全新的视角,我们衷心期待您的阅读,并希望这些内容能为您提供灵感和参考。

云计算技术分析

篇1

中图分类号:TP393 文献标识码:A 文章编号:1007-9599 (2012) 21-0000-02

互联网时代信息和数据的迅猛发展,科研、工程和商业方面都需要处理大量的数据,自身IT架构的计算能力已经不能满足计算能力的需求。云计算是分布式计算、并行处理和网络计算进一步发展的必然结果,云计算是一种动态的易扩展且通过互联网提供虚拟化资源的计算方式,用户不需要对云计算的内部进行深入了解,只需要通过与浏览器交互就可以得到自己需要的信息。自从云计算概念的提出,就引起各方面的极大关注,目前已经成为信息领域的热点话题之一。

1 云计算的定义

云计算的定义有狭义和广义之分,狭义云计算是一种IT基础设施的交付和使用的模式,通常指通过网络按照需求和容易扩展的方式得到所需的资源,提供资源的网络称为“云”,使用者眼中网络中的资源和信息可以无限扩展,并且可以随时获取,按照自身的需求进行使用,随时进行扩展。

广义云计算是服务的交付和使用的模式,指通过网络按照需求、易扩展的方式得到所需的信息服务。这种信息服务可以是基于互联网的软件服务、带宽服务、也可以是其他的任意服务。这些网络服务可以理解为网络资源,网络资源的总和称为“云”,它们是一些可以自我维护和管理的虚拟计算资源,通常是一些大型的服务器集群,包括计算服务器、存储服务器以及宽带资源等。云计算把所有的计算资源集中起来,不需要人为参与,软件自动进行管理。这为应用提供者节省了时间和成本,不必为细节而操心,从而专注于自己的业务。

不管是狭义概念还是广义概念,都可以看出,云计算是并行计算、分布式计算和网格计算等相关技术融合的产物。

2 云计算的特征

2.1 支持虚拟化。通过在一个服务器上部署多个虚拟机和应用,从而提高资源的利用率;当一个服务器过载时支持负载的迁移。

2.2 云计算系统提供的是服务。云计算系统的管理对用户来讲是透明的,不同的管理任务是自动完成的,系统的硬件、软件、存储能够自动进行配置,从而实现对用户按需提供,用户不需要了解云计算的具体机制,就可以获得需要的服务。

2.3 提供服务质量保证。云计算能够向用户提供满足质量保证要求的服务,能够根据用户的需求对系统作出调整,如用户需要的硬件配置、网络带宽、存储容量等。

2.4 高可靠性、可用性和可扩展性。云计算保证向用户提供可靠的服务,保证用户能够随时随地地访问所需要的服务,并且用户的系统规模变化时,云计算系统能够根据用户的需求自由伸缩。

2.5 经济性。组建一个采用大量商业机组成的云计算机群比同样性能的超级计算机的花费要少得多。

3 云计算的关键技术

云计算是一种新兴的计算模式,以数据为中心,是一种数据密集型的超级计算,把强大的计算能力分布到终端用户手中。

3.1 虚拟化技术。虚拟化是云计算实现的重要技术基础,虚拟化技术实现了物理资源的逻辑抽象和统一表示,计算元件在虚拟基础上运行。通过虚拟化软件,单个任务的CPU占有率可以根据任务大小而自动调整,所以一个CPU上面就可以跑多个程序,一般这些任务对CPU的占有率都不高。通过虚拟化技术提高了资源的利用率,根据用户的需求进行资源优化配置,实现动态资源平衡;虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

3.2 数据存储技术。云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。如:Vmware公司和戴尔公司联合推出的数据存储租赁服务戴尔云,是按需数据存储租赁服务。在“安全的戴尔数据中心”向客户出售空间,以及提供咨询、数据安全和其他服务。

3.3 数据管理技术。云计算需要对分布的大量数据进行分析处理,并为用户提供高效可靠的服务;因此,数据管理技术必须能够高效的管理大量的数据。如:VMware的vCente的管理控制台,以此帮助企业构建软件定义的数据中心,提高IT部门异构云管理能力,同时实现云计算的高效性、敏捷性和便捷性。

3.4 编程模型。为了保证给用户带来轻松地云计算服务,让用户利用编程模型编写简单的程序来实现特定的目的,云计算的编程模型不能太复杂,必须使后台复杂的并行执行和任务调度向用户和编程人员公开化。

3.5 云计算平台管理技术。云计算资源规模巨大,服务器数量众多并分布在不同的地方,同时有数百种运行着应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。云计算系统的管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

4 云计算的应用前景

云计算作为目前的研究热点问题之一,是IT的一种发展趋势,它被视为科技业的下一次革命,它将带来工作方式和商业模式的根本性改变。

4.1 云计算在大企业的应用前景。大企业有完善的基础设施和相当数量的专业IT管理人才,对现有的IT基础设施进行高效的利用。如果将云计算的强大功能引入企业的数据中心,将传统的IT基础架构为私有云,使IT的基础架构作为可以轻松访问的服务来交付。这将极大地降低成本并且最大限度地提高IT效益。

4.2 云计算在中小企业的应用前景。云计算意味着巨大的商业机遇,他们可以借助云计算在更高的层面上和大企业竞争。自1989年微软推出Office办公软件以来,我们的工作方式已经发生了极大变化,而云计算则带来了云端的办公室——更强的计算能力但无须购买软件,省却本地安装和维护。那些对计算需求量越来越大的中小企业,不再试图去买价格高昂的硬件,而是从云计算供应商那里租用计算能力。在避免了硬件投资的同时,公司的技术部门也无须为忙乱不堪的技术维护而头痛,节省下来的时间可以进行更多的业务创新。

4.3 云计算在家庭的应用前景。智能家庭是未来家庭的发展方向,如果将云计算提供的服务引入智能家庭之中,建立家庭中心,也就是云的家庭终端,把所有的家庭里的数据同步起来,每一个智能家庭组成了智能家庭云,并且智能家庭云可以向外界提供不同的服务。

5 结论

随着全球化和信息化的发展,云计算必定会迎来广泛的发展机遇和应用前景。云计算是基于多种技术的新兴计算模式,它具有虚拟化、高可用性、高可靠性、低成本等特点;云计算是互联网之后的第四次IT产业革命,将对IT业产生深远影响。

参考文献:

[1]吴朱华.云计算核心技术剖析[M].北京:人民邮电出版社,2011.

[2]赵广才,张雪萍.云计算技术分析及其展望[J]电子设计工程,2011,(11).

[3]杨明胜.关于对云计算技术的研究与应用[J].信息系统工程,2012,(1).

篇2

中图分类号:TP311 文献标识码:A 文章编号:1009-3044(2012)19-4590-02

对目前广泛使用的几种云技术的对比,对云计算的技术结构做了简要的总结。最后对云计算在实际发展中遇到的问题以及未来的发展趋势做了预测分析。

目前计算机技术以及网络技术的原理以及实际应用都得到了快速的发展,单个计算机的性能的提升方面仍然存在很多需要研究以及解决的现实问题。用户在使用大量的网络资源的时候,实际上是已经采用了网络的优势取代了以前个人手中资源来实现计算机性能的提升。计算机网络技术将在世界范围内实现资源的共享转换为了现实。由于网格计算的概念主要是面向应用层面的,所以在网格计算的概念被提出以来,计算机性能的提升就面临这很多亟待解决的问题,网络的用户需要将其使用的程序转换为网络共享所需要的分布式程序结构,程序员面临这更多的技术问题,技术方面的障碍导致一般的用户在应用网络资源方面存在一定的困难。

目前市场上对于高性能的计算具有强烈的需求,面向WEB技术的网络服务也具有重要的地位。自从面向WEB的技术获得成功以后,计算机网络的应用领域得到了较大程度的拓展,网络的发展使得其功能已经由简单的信息传输或者信息的转换为信息资源的共享等应用。计算机云计算就是在这样的背景中应运而生了。尽管云计算技术发展时间不长,但是云计算的思路已经涉及到了诸如分布式系统技术、集群技术、网格计算等多种技术。从这个方面来分析,云计算可以认为是上述技术的综合以及升级。随着云计算技术的不断发展以及相关理论的不断完善,以如微软的Azure ,Amazon的EC2等云计算平台为代表云计算的商业应用已经成为了现实。

1 云计算的定义

美国的Larry Ellison在华尔街日报上发表了自己对于云计算的见解,他认为计算机云技术中存在这样的现象,也就是说一般需要根据目前已经完成使用的产品来重新定义云计算。Andy Isherwood也在2008年提出,对于云计算的专业研究,几乎所有的研究者所给出的定义都存在着差别。目前对于云计算的定义的业界仍然存在较大的争议,能够实现云计算的平台也是多种多样。目前对于云计算的定义主要是根据Ian Foster等人的研究以及对于云计算的分析与总结。

1)云计算中的每一朵云都是目前计算机并行分布式系统中一种,是由一些了网络化以及虚拟化的计算机提供的同意的服务层。同事会可以对计算资源进行同步。

2)网络中用户不是基于较长的时间间隔来进行基础设施的规划使用,目前可以实现分钟级甚至是秒级来实现基础设施的规划,这样应用的好处就是避免了网络资源的浪费或者是网络资源的过载。

3) 云计算不是孤立的,云计算是一个涉及多个方面的综合概念。一般认为云计算是软件技术发展的下一个逻辑阶段。对于用户而言,最能够被理解以及接受的所谓云计算其实就是在因特网层面上的集成软件。本定义中强调了云计算网络服务的基本属性。其他一些定义则注重了网络中基础设施的虚拟化,从本质上而言这些都是对于云计算概念不同层面的阐述。

根据以上的研究分析,云计算可以定义为:云算是通过网络进行常用的服务形式,其中所有涉及到的软件系统以及硬件系统的总称。与云计算相关的概念主要包括集成技术、网络计算、超级计算机等相互之间存在着相互区分但是又存在着相互联系的基本概念。云计算中主要是以其服务形式对网络中的用户提供必要的计算机网络资源,因为这个平台可以获得比传统的集群系统具有更为广泛的优势以及规模,所以基于云计算的计算机平平所能够提供的计算机性能就很有课程超过目前使用的超级计算机。另外在灵活性以及规模等方面,云计算技术的优越性更为明显。

2 云计算发展背景

云计算的出现以及迅速发展与网络的应用紧密相连。随着Web2.0相关理论的成熟以及相关技术的现实应用,云计算已经由商量的实验性网站逐步发展到目前广泛使用的校园内网以及多种应用方面。网络的商业模式已经发生了较大的变化。以一般运行的商业化网站为例,对一个可以获得较大商业利润的大型网站继续宁维护,所涉及的方面很多。主要包含了对系统硬件的维护以及对于市场调研的分析。这样就需要一个涉及等多方面的工作团队,同时对于网站所涉及的软件系统、硬件系统要负全面的责任。网站最终的获利只是这个超大规模团队的顶端的一小部分。这种极为不平衡的特点阻碍了网站的进一步发展。目前传统的计算模型主要存在一下的困难。

1)目前服务支持平台的规模缺乏可伸缩性,无法满足用户需求的变化。当服务业务的需求规模发生变化的时候,传统的计算模型无法作出适应性的及时调整。

2)目前建立大型的底层基础设施的成本较大。一般企业或者商业组织要在短期筹备相应的运行资本也存在着一定的难度。但是商业机遇总是争分夺秒的,快速岂不的能力对于网络运营商极为重要。

篇3

对于网络技术的发展,云计算技术是核心技术,它作为一种新兴资源使用模式,影响着网络的未来发展,并改变数据访问、应用模式,实现高效、安全的应用交付[1]。在电力系统中,云计算技术的应用,为电力系统的运行、电力企业的办公等提供方便,应用前景广泛。

一、电力系统中云计算技术的应用

(一)电力系统的运行方式

云计算具有强大的存储与计算能力,可扩展性强,便利软件的开发、资源共享,在电力系统中得到广泛应用。对于智能电网而言,其利用通信技术与现代信息,对电力系统的发电、变电、用电等环节的数据采集、存储、传输等进行不断深化,以此使系统达到数字化的数据采集、自动化的生产、信息化的经营管理等。近几年,随着电力工业的改革、优化,电力系统不断采用分布式电源,电力系统逐渐向分布式空控制发展。

(二)在信息处理方面的应用

将云计算技术应用于电力系统,利用智能云,拆分电力系统内网中庞大的计算,使其形成比较小的计算块,然后通过多台的服务器对其进行处理,并向客户反馈处理后的结果。通过这种方式,便可实现在极短的时间内,智能云对巨大信息的处理。此外,利用云计算,实现资源的共享,方便员工的信息利用与工作开展,而计算能力的强大也方便了系统中各种复杂的计算问题的解决,优化了系统控制。

(三)电力系统潮流计算

通过电力云的应用,可提高电力系统运行的潮流计算速度,优化潮流计算方法。利用最优潮流并行算法,在进行计算预想事故时,可对预想事故进行分组,将分为多个不同的组别,然后分配给不同的处理器,对其进行分析。同时,还可利用于牛顿法的并行潮流解法,通过分解、协调等技术手段,协调分类系统中出现的问题,将问题分解为多个子问题,通过多个处理器对其进行计算求解,通过这这种方式,提高了计算速度,对需要处理的预想事故数目进行准确的计算。

二、电力系统中云计算技术的重点

(一)海量数据管理技术

由于云计算平台为大量用户提供支持,而每个用户都有自己的数据,因此在系统内会产生海量数据。研究云计算在电力系统中的应用,根据电力系统与云计算自身的特点,合理优化应用技术。在电力系统仿真计算云环境下,数据的检索、存储、管理技术系统运行的关键。利用数据库、选择合适的分布式文件系统,可有效解决灾难数据恢复、数据分布式检索等问题。

(二)仿真数据安全技术

在系统运行中,为了确保数据安全,需要认真研究数据管理、用户管理、资源认证、权限管理等技术,确保电力系统仿真数据的安全性、完整性。因此,在系统运行中,云计算技术应加强对数据的保密,提高仿真数据的安全性,可通过数据加密技术,利用华为技术公司的IaaS层资源管理软件,使数据安全问题的到有效解决[3]。

(三)大规模分布式计算技术

在电力系统中,对于大规模分布式仿真技术的应用,包括仿真任务的动态分配、仿真时间的准确评估、仿真任务的优先管理等。在云环境下,对电力系统的仿真技术属于密集型与计算密集型应用,其数据的调度、技术需要遵守“就近原则”,充分利用计算资源,并降低数据的获取时间,使单个仿真任务性能得到最大限度地提高,优化云仿真系统的总体性能。

(四)一体化数据管理技术

对于云计算在电力电力系统中的应用而言,在系统的多级调度中,采用一体化数据管理技术与模型。在目前的的数据模型中,一般采用EICCIM国际标准,并用国网E格式规范数据交换,而对于计算输入数据而言,可采用BPA和PSASP兼容的模式。

三、结语

云计算作为一个新技术,各领域的应用还处于初步阶段,云计算技术的应用与技术发展还有待提升。云计算技术在电力系统中应用,为电力系统的运行提供了保障,电力云的提出与构建,对电力系统的计算、存储、信息交换带来影响,通过对信息资源的整合调度,为电力系统的运行、企业办公、计算等带来改变,提供了系统的存储、计算能力,使电力系统的整体性能得以提高。

参考文献

篇4

中图分类号:TP393.08 文献标识码:A 文章编号:1007-9416(2013)06-0241-02

云计算技术被认为是继个人电脑 、互联网之后的“第三次互联网革命”,诞生伊始就得到广泛关注和重视。下面我们从云计算的概念、类型和基础架构三个方面来进行探讨。

1 云计算的概念

云计算是利用本地或远程服务器(集群)的分布式计算机为互联网用户提供服务(包括计算、存储、软硬件等服务),它是对分布式处理、并行处理和网格计算及分布式数据库的改进处理、融合和发展。

通俗的讲,云计算是一种全新的网络服务方式,将传统的以桌面为核心的任务处理转变为以网络为核心的任务处理,利用互联网实现自己想要完成的一切任务处理,使网络成为传递服务、计算力和信息的综合媒介,真正实现按需计算,多人协作。通过云计算的大规模应用,未来计算资源或许像电和水那样可随时获取,并按使用量进行计费。

2 云计算的类型

从部署方式来说,云计算可以分为私有云、公有云和混合云。公有云是互联网上所有用户都可以使用。私有云则是一种专有的云环境,是针对一个组织单独构建的互联网服务,该组织拥有基础设施,可以在此基础设施上部署应用程序,并对数据、安全性和服务质量提供有效控制。混合云,也可称为虚拟私有云,它提供的服务运行在一个公共的云基础设施之上,但通过虚拟专用网(VPN)限制对它的访问。

IaaS,指的是将硬件设备等基础资源封装成服务供用户使用,在此环境中,硬件及网络资源可以被划分成一个个的逻辑计算单元,IaaS管理工具可以保证多个逻辑单元协同工作起来。

PaaS,是对资源的抽象层次更进一层,它提供用户应用程序的运行环境。

SaaS,是将某些特定应用软件功能封装成服务。

3 云计算的基础架构

云计算充分利用网络和计算机技术实现资源的共享和服务,解决云进化、云控制、云推理和软计算等复杂问题,其基础构架可以用云计算体系结构、服务层次则和技术层次来描述。

3.1 云计算体系结构

云计算平台是一个强大的“云”网络,连接了大量并发的网络计算和服务,可利用虚拟化技术扩展每一个服务器的能力,将各自的资源通过云计算平台结合起来,提供超级计算和储存能力。云计算体系结构如图:(见图1)

云用户端:提供云用户请求服务的交互界面,也是用户使用云的入口,用户通过WEB浏览器可以注册、登录及定制服务、配置和管理用户。

服务目录:云用户在取得相应权限(付费或其他限制)后可以选择或定制的服务列表,也可以对已有服务进行退订的操作,在云用户端界面生成相应的图标或列表的形式展示相关的服务。

管理系统和部署工具:提供管理和服务,能管理云用户,能对用户授权、认证、登录进行管理,并可以管理可用计算机资源和服务,接收用户发送的请求,根据用户请求并转发到相应的应用程序,调度资源智能地部署资源和应用,动态的部署、配置和回收资源。

资源监控:监控和计量云系统资源的使用情况,以便做出迅速反应,完成节点同步配置、负载均衡配置和资源监控,确保资源能顺利分配给合适用户。

服务器集群:虚拟的或物理的服务器,由管理系统管理,负责高并量的用户请求处理、大计算量处理、用户WEB应用服务,云数据存储时采用相应数据切割算法,采用并行方式上传和下载大容量数据。

用户可通过云用户端从列表中选择所需的服务,其请求通过管理系统调度相应的资源,并通过部署工具分发请求、配置WE应用。

3.2 云计算服务层次

云计算的服务层次是根据服务类型即服务集合来划分,体系结构中的层次是可以分割的,即某一层次可以单独完成一项用户的请求而不需要其他层次为其提供必要的服务和支持。

3.3 云计算技术层次

服务接口:统一规定了在云计算时代使用计算机的各种规范、云计算服务的各种标准等,用户端与云端交互操作入口,可以完成用户或服务注册,对服务的定制和使用。

服务管理中间件:在云计算技术中,中间件位于服务和服务器集群之间,提供管理和服务即云计算体系结构中的管理系统。对标识、认证、授权、目录、安全性等服务进行标准化和操作,为应用提供统一的标准化程序接口和协议,隐藏底层硬件、操作系统和网络的异构性,统一管理网络资源。

虚拟化资源:指一些可以实现一定操作,具有一定功能,但其本身是虚拟而不是真实的资源,如计算池、存储池和网络池、数据库资源等,通过软件技术来实现相关的虚拟化功能,包括虚拟环境、虚拟系统、虚拟平台。

物理资源:主要指能支持计算机正常运行的一些硬件设备及技术,可以通过现有网络技术和并行技术、分布式技术将分散的计算机组成一个能提供超强功能的集群用于计算和存储等云计算操作。

4 结语

云计算作为下一代IT的发展趋势,在我国得到了充分的推动和蓬勃的发展,但我们必须看到,由于国内在云计算领域对核心技术的掌握不足,目前国内所建设的云计算中心,更多的投入是在硬件建设的部分,缺乏在基础软件设施层面对云计算模式的支持。同时信息系统和网络设备使用的关键芯片、核心软件和部件绝大部分依赖进口,存在着安全隐患。总之,虽然云计算的发展还存在着诸多的问题,但作为一种新型的互联网服务和计算模型。它展示了越来越强大的生命力,涉及了各行各业方方面面的人们,并将最终彻底影响和改变改我们的生活。

篇5

2云计算技术

(1)分布式文件系统。云计算中的分布式文件系统,是Google公司根据云计算处理海量数据的过程而设计的一个特定系统。一个分布式文件系统的集群,是由一个主节点与多个从属节点共同组成,用户访问系统的途径主要是通过客户端,利用该系统完成日常的文件处理工作。在云计算中,大量的数据文件被划分为固定大小的多个数据块,在相应的从属节点中进行存储,此外,这些数据块也会在多个节点进行备份存储,避免数据丢失等问题。(2)分布式并行数据库。云计算中的分布式并行数据库的设计,主要是为大规模结构化数据的管理提供服务,这种分布式的存储系统,能够实现PB级数据以及上千台服务器的扩展。在Google的许多项目中,都有分布式并行数据库的应用,而分布式并行数据库在Google项目中的应用,在规模、时延方面的要求也有进一步的提高。分布式并行数据库的应用,为Google产品提供了高性能、灵活、有效的解决方案。(3)分布式计算框架。Google公司于2012年推出了分布式计算框架大数据计算机技术处理框架,通过优化内部数据网络计算方式,实现计算机技术挖掘的革新和计算机设备数据海量处理性能的提高。计算机的工作水平越高,网络环境的可靠性就会越高。而在计算机操作过程中,影响计算机网络处理速度的因素,主要包括软件安全问题和硬件配置水平。光纤网络的铺设情况会对计算机网络的可靠性带来直接影响,通过分布式计算框架大数据软件处理方式的编写,完成复杂计算机函数算法的革新工作。

篇6

1.1完全虚拟化

当前使用最为普及的虚拟化方式就是结合Linux系统所开发的hypervisor软件。该软件是一款介于虚拟服务器以及硬件之间的抽象层。该软件的运作逻辑流程为,hypervisor获取CPU的指令,这一虚拟机技术可以在不变动操作系统的基础上对服务器上的虚拟技术进行运用。所以hypervisor的实质性作用就是指令访问硬件控制器与外部设备之间沟通的桥梁。在完全虚拟的情况下,hypervisor即为主机操作系统的角色,而虚拟服务器的运行环境则为用户端操作系统。

1.2准虚拟化

虚拟化技术在云计算过程中的虚拟服务器管理中最为关键的任务就是实现虚拟服务器之间的独立。然而这一技术为处理密集型技术,会给虚拟环境的工作带来一定的负载。为了妥善解决这一问题,hypervisor在工作中需要对客户操作系统进行改动,使运行环境与完全虚拟化实施技术之间能够和谐运行,正常工作。这种技术方案即为准虚拟化实施方案。目前来说,典型的准虚拟化技术有Xen[1]。各操作系统在虚拟化服务器运行过程中首先要对操作系统的核心层面进行虚拟化处理。相对于完全虚拟化技术来说,准虚拟化技术的优势更加明显,其性能优越,响应能力强。

1.3操作系统层虚拟化

操作系统层虚拟化即为在操作系统层上加设虚拟服务器功能的虚拟化方式,其中典型代表有Container。在操作系统层虚拟化技术中每一实例用户都有相应的账号与应用程序,而且全部的虚拟服务器均处于相同的操作系统。在操作系统层虚拟化中并没有独立的hypervisor等,而且在多个虚拟服务器之间分配硬件资源。

2云计算技术下的虚拟化安全隐患

云计算技术中的安全包括身份管理、访问管理、数据信息安全、隐私保护等。云计算与传统IT环境最大的区别就是存在的虚拟计算环境。正是由于这一本质区别导致其存在不可忽视的安全问题。其中,身份管理、数据安全等问题可以利用访问控制、数据加密、信息备份等传统的安全防护手段来解决,而虚拟化技术是云计算技术中的核心,因此难以使用传统的安全措施来解决问题,需要根据云计算的虚拟化环境来采取新的安全策略。当前云计算技术下的虚拟化安全隐患主要有几点:(1)虚拟机安全隔离。基于虚拟机的运行模式特点使虚拟机存在着隔离需求,并且无法使用传统方式进行安全隔离,只能够使用虚拟机监视器等软件实现,这一情况要求虚拟机管理者能够严格划分虚拟区间,以避免数据泄露。(2)虚拟机迁移。在虚拟环境中服务器能够跨越多个物理设备,根据实际情况实现性能扩充等工作。虽然能在多个物理设备之间迁移,但是在迁移的过程中会使得安全管理工作更加复杂,更加容易受到安全威胁。(3)虚拟机逃逸。虚拟机的使用目的是分享主机资源并且进行隔离,但是由于技术瓶颈以及虚拟化软件漏洞,有时候虚拟机会绕开底层获取宿主机的控制权,导致安全模型濒临危险。

3云计算技术下的虚拟化安全防范措施

3.1保障虚拟化服务器安全

在硬件的配置方面物理主机需要达到高配置、设备稳定性良好的需求。所使用的处理器要能够支持虚拟技术CPU,并且可以保证CPU之间的物理隔离,进而降低安全隐患。软件方面,由于虚拟化服务器软件层位于裸机之上,因此需要提供能够建立、运作、销毁虚拟服务器的各种能力,虚拟化服务器软件层作为虚拟机的核心要对其进行足够的安全保护。

3.2防范黑客攻击

攻击虚拟化服务器通常都是通过应用程序接口攻击或者使用网络攻击的方式,也可以利用虚拟化服务器管理下的虚拟机进行攻击。基于方法对虚拟化服务器攻击的目的,应该对任何没有授权的用户访问虚拟化软件层进行严格的限制与禁止。云服务提供商应该建立完善的安全保护控制措施,限制相关的虚拟化层次的物理与逻辑访问控制。

3.3有限分发

所有的虚拟机都是经过系统管理员进行安全防护的。管理员需要控制所有资源区域的访问,从而保证只有被信任的访客才能够进行访问,获得信息。管理员需要控制资源池管理访问,只有有权限的访客才能够访问资源池组件、物理服务器、共享信息存储等。其中资源池包括虚拟机、虚拟存储、虚拟机文件、存储文件等。所有虚拟机的文件,不论打开与否都需要获得严格的控制与管理。

3.4安全迁移

安全迁移是一种备份方式。将虚拟机复制到其他地方,如果遇到虚拟机故障就可以启动备份虚拟机进行迁移,实现无缝对接切换。管理员在进行虚拟机分支的过程中要贯彻安全意识,保证虚拟机能够拥有一定的安全保障。要最大程度地避免在迁移过程中指定虚拟机失去必要保护而遭到攻击。

篇7

中图分类号:TP393.09

云计算是利用虚拟化技术将价格低廉的服务器进行松散耦合,然后形成一个大规模的计算机中心及大容量的储存系统,然后利用互联网络进行交付服务。用户不用了解该技术的基础构架,就能够方便的使用计算机资源。在大学生计算机应用大赛中,对作品有一个特殊的要求,就是参赛者提交的必须是代码。在传统的竞赛中,参赛者通常是采用邮箱投递的方式提交作品,然后由大赛的组织者将作品进行统一部署,交给专家评审。互联网技术的应用需要在较为复杂的环境部署下进行,而云计算的交付模式能够为用户提供一个多元化的平台,在该平台上能够对作品进行在线部署,在线评审等。

1 云计算的定义

至今为止,云计算技术还没有一个统一的定义,不同的组织给云计算下了不同的定义,据不完全统计,其定义内容在25种以上,例如:Gartner认为,云计算技术是利用网络技术作为服务为用户提供计算的一种服务;美国国家标准给出的定义是,云计算是通过互联网便捷服务通过付费模式使资源进行快速部署,并且不需要较多的管理工作。随着云计算技术的不断应用,其定义将产生更多的新观点。

云计算并仅仅作为一个技术的代名词,它还意味着多种技术的结合,其指向是IT基础设施的交付以及使用,通过互联网技术按照不同用户的需求和扩展的方式对硬件资源、平台资源以及软件资源进行获取,同时也可作为其他服务,无论是从广义还是狭义的角度而言,云计算运行的核心观念是按照用户不同的需要提供服务,类似人们对水、电等资源使用的模式一样。从云技术的技术层面而言,其功能的实现主要受两个因素的影响,第一,数据储存能力;第二,计算能力,其中,“云”还可以分为两种:储存云和计算云。其发展的势头吸引了各个研究领域的兴趣,从而推动了相关技术和商业模式的发展,各种创新业务层出不穷,云技术的发展势头将越来越激烈。

2 云计算应用架构

云计算技术的应用价值极高,出来具备扩展、服务以及计算机功能外,他还有许多隐形价值,其特点为以互联网、服务、使用量作为基础,并且能够根据用户的不同需要进行扩展,其核心技术为:虚拟化技术、网络计算以及网络储存等。云计算技术在其架构上分为三个层次:基础设施、应用程序、应用平台。它们分别能够为用户提供互联网资源、储存资源、计算机资源。虽然云计算处于一个虚拟的环境,但是其具备强大的全面性,能够提供数据库、中间件和服务环境,同时能够为用户提供科学、完整的应用程序,为用户展示最先进的计算机成果。

2.1 基础设施

云计算技术在大学生计算机大赛中主要的作用是为参赛者和评委提供评审和交流的平台,该平台是通过硬件服务群来实现相关的运算工作,其存储及内存资源池由服务器组合而成,所以可以将虚拟平台和存储空间分为不同的等级。可以对计算机应用大赛的数据资料进行适当的处理,例如:分享、分析等,操作十分方便快捷。

2.2 应用程序

就应用程序而言,可以交给参赛组队作品进行部署,然后完成对该应用程序的调试工作,最大限度的满足计算机应用大赛的系统以及相关评价系统。

2.3 服务平台

其服务平台最核心的功能是为用户提供操作系统和其他重要服务,即利用虚拟化技术,主要为用户提供IOS和Linux操作系统还有相关操作模板,另外,还为用户提供七大开发平台,如下表所示。

表1

基础模板:Window Template、Linux&Unix Template、Apple OS Template

应用模板:android、Apple IOS、Windows Phone、J2ME、MTK、Blackberry、Symbian

3 云计算技术在大学生计算机应用竞赛中的应用

在大学生计算机大赛中,云计算技术主要是为用户提供计算资源,其资源量必须和实际的需求一致,另外,由于计算机竞赛的规模较大,参赛者没有收到地域的要求,云计算技术可以提供一个跨区域的平台,方便评委进行考核,当比赛结束后,参赛者可以随时随地浏览云端开发环境,一般从教育网或者公网进行登录。

云计算技术主要通过网络安全技术以及负载均衡技术进行支撑,这两种技术让云平台运行的更加顺畅,使其访问速度更快,很大程度上保证了系统的安全性和实用性。针对云计算存在的负载以及失衡问题,云平台可以一一解决。其关键步骤是建立在云计算环境下存在的负载均衡模型,然后建立概率矩阵。云平台首先应该保证其安全性,所以无论从互联网的安全性、数据的安全性还是虚拟化安全方面而言,将云安全的解决手段应用进去是最佳的方式,无论用户使用哪一种云计算模式,最重要的就是保证数据安全,所以,为了保证计算机大赛的公正性,需要将相关数据进行备份,如果数据遭到意外丢失,仅需要一个小时就能恢复数据。另外,互联网络的各种威胁也要得到重视,这时云端的应用程序将充分体现其作用。由于虚拟化技术被采用,所以服务器和虚拟机的安全性也应该得到重视。

4 云计算技术的应用过程

在大学生计算机应用大赛中使用云计算技术,首先需要参赛者向云平台提出自身的资源需求,根据不同的情况,对资源的使用权限为半个小时至一年,供用户使用的开发平台高达七个,用户只需要付费就能够开始使用,申请使用的过程只需要短短的几分钟。在云平台内,资源是多元化的,其用处十分广泛,不仅能够备份多种开发手段以及多个版本,同时还能够建立及维护快照,让整个团队获取更大的利益,使其配合更加和谐,效率得到提升。

一般来说,计算机大赛的规模大且选手来自各地,同时还有港澳台地区的参赛者,评委也不例外,如果采用传统的现场考核模式将给评审工作带了很大的困难,所以,大赛的主办方一般通过云计算技术作为桥梁,为评审和参赛者提供沟通的平台,云平台在不同地区间能够进行便捷的沟通,能够很好的进行异地评审。计算机大赛的评委只需要通过进入指定网址,登陆到云计算平台中,就能够对参赛者的作品进行观摩和评判,从而给出公正和专业的考核结果,其安全性也能够得到保障,可以说云计算技术为大赛做出了巨大的贡献。

5 结束语

综上所述,在大学生计算机应用大赛中应用云计算技术是必不可少的,不仅能够实现跨地区评审,节省考核的时间和人力,还能够发挥其优势,保证参赛数据的安全性,并且使用的过程十分简便,价格合理。通过云计算技术的不断应用和发展,在未来一定会变得更加完善,在计算机应用大赛中有更大更广的覆盖率。

参考文献:

[1]王剑锋.“虚拟”丰“云”――虚拟化和云计算技术浅析[A].中国新闻技术工作者联合会五届一次理事会暨学术年会论文集(上篇),2009.

[2]曹沁宇.浅谈云计算技术在客服系统中的应用[A].全国无线及移动通信学术大会论文集,2011.

[3]董敏,陈金鹰,邹振宇.云端漫步――云计算时代来临[A].四川省通信学会2009年学术年会论文集,2009.

篇8

信息网络技术的发展带来了世界范围内互联网经济和通信行业的强劲振兴,以微博、web2.0和SNS等业务为代表的通信网络新形态给人们的生活工作带来了无限便利,物联网、虚拟化、三网联合等新技术领域内,芯片能力、宽带接入、无线网络等技术革新不仅极大的冲击了通信行业的发展,引导了其未来的发展潮流,且为行业的未来发展注入了新的革新动力。云计算技术作为当前最具发展前景的革命性推动力量,对移动通信行业的发展将会产生极大的影响。

一、云计算技术及其路线

1.云计算技术

云计算技术是利用大规模低成本运算单元通过IP网络连接提供各种计算和存储服务的IT技术,是互联网发展追求低成本、高效能、资源灵活分配、快速应用趋势潮流下应用而生的一种新IT系统实现技术。这种技术是一种包括计算、存储、网络、应用服务等功能的资源池系统,无论是作为商业模式和技术模式,对于移动通信领域的未来发展都有着决定性影响,尤其是现在对互联网资源、安全与应用越来越重视的今天,这种技术的实现、分布和部署将会挑战传统互联网构成,为移动通信的发展开拓更好的领域前景[1]。

据相关机构预测,全球未来几年数据中心业务将保持高速增长,年复合增长率将超过20%,其中云数据中心增速最快。2008年,虽然受金融危机影响,国内互联网数据中心增长率下滑,但仍达39.1%。目前增长速度基本恢复到近50%。我国的数据中心市场三大基础运营商占有过半江山,市场占有率在60%以上[2]。正是因为云计算市场发展如此的火爆,越来越多的通信厂商倾向于应用这种技术,不仅能够带来产业规模的扩张、升级与转型,同时还会加强与各个产业链环节的密切合作,最终形成一个完整的积极发展的良性生态产业链,成就移动通信行业的美好未来。

2.云计算的技术路线

云计算技术路线主要以大规模并行运算和虚拟IT资源池为主。大规模并行运算的典型代表是谷歌公司,在全球谷歌有超过一百万台的服务器,这些服务器每天都需要处理海量数据,为降低运营成本,更好的占领全球市场,谷歌就采用了这种云计算系统做数据存储和处理,成本的降低带来的无疑是竞争实力的增长。虚拟IT资源池主要是通过将IT资源虚拟化形成资源池,以出租的形式提供给用户使用,其中亚马逊公司推出的弹性计算(EC2)、简单存储服务(S3)等服务就是这类路线的典型代表。亚马逊应用这种技术无疑大大提升了系统资源的综合利用率,而客户只需要一张信用卡就可以使用这些资源,形成规模化、集中化效应后,在使用方面更加便捷。这种云计算服务无疑刺激了亚马逊的业务增长和收益,在2009年底,亚马逊再一次拓展了服务器数量,这无疑是云计算服务具有优势应用前景的最佳证明[3]。

二、云计算在移动通信行业的发展前景

云计算技术的出现,对于移动通信网络的发展来说意味着成本的降低、集中化和规模化效应,是未来业务创新的重要技术支柱,也是移动通信行业的发展福音。传统移动通信行业发展中有四大弊端,分别是系统利用率低、扩展能力低、系统部署周期长和性价比低,正是这四个因素,限制了通信行业的拓展与升级。竖井式的业务系统和IT支撑系统限制了不同系统间的资源交流与共享,资源利用率低、能效低,运营建设成本高。传统Scale-Up扩展方式只能通过更换设别来拓展容量,投资效益低,业务连续性受影响,且因组成设备采购、建设、布置周期长,在应对市场变化发展的灵活性上也欠佳。这些弊端造成了通信行业经营和发展的低性价比,一度使国外跨国公司垄断了我国的通信市场,国内企业竞争能力低下,整个通信行业的发展都处于缓慢的进步状态,但是云计算的出现彻底改变了这种局面,通信行业运营商系统运行效率有了革命性的变化,建设和运营成本大大降低。

云计算技术为移动通信行业的发展带来了革命性的转变,技术创新带来了新的发展机遇。IT支撑系统在通信行业中的重要地位决定了云计算缓解系统存储、处理数据压力和容量上的迅速增长等优势会吸引更多的投资,配合建设和运营成本的降低无疑将会给行业带来质的飞跃,行业将有更多的投资用于技术升级、开发、更新换代,通信行业升级和规模拓展是必然,精细化运营成为潮流。增值业务系统中,云计算技术可以让不同业务系统共享资源池,通过提高资源利用率。云计算的应用无疑会促使网络资源服务向水电服务一样变得快捷、方便,更加完善、全面的提供给用户,在满足用户需要的同时为通信行业发展创造巨大的利润。让IT资源的使用变得像水电一样方便,这不仅是移动通信行业对于未来云计算技术使用的期望,同时也是这种技术将会给我们带来的美好未来。云计算模式带来的全新服务模式,本质上可以说是计算与存储功能从桌面到网络客户端的迁移和资源的动态伸缩,本质上降低了网络服务成本,提升了运营效率,能够更好地为移动通信行业的运营商创造收益的同时,满足人民群众日益提升的网络资源服务需求,可以说,正是统一的开放的云计算业务平台的出现,让现代网络服务和移动运营商有了更好的服务于竞争武器,在运营商优势资源的辅助下,现代网络服务逐渐以共赢合作的模式为主,网络上台环境和信息化变得更加高校,更多的用户与开发者参与到这一过程中来,不仅促进了通信行业运营商的传略转型,广大网络用户也在这个转型的过程中享受到了更多优势的服务。

全球IT产业目前最热门的技术就是云计算技术,这种技术的出现和应用带来了信息产业的革新与飞跃,随着其应用领域和影响力的扩大,这一领域内的基础设施和平台建设逐渐变得越来越具于是,使通信行业运营商面临众多挑战与机遇的同时,开始了行业的转型发展。在2011年我国互联网行业举行的“云计算产业发展高层论坛”上,来自各大研究机构、通信运营商和互联网行业各环节领域的专家与学者共聚一堂,对云计算技术的未来发展前景做了讨论。他们一致认为,云计算技术不仅仅意味着一种新技术的应用,同时也会成为移动通讯行业转型与发展的利器。云计算技术所代表的未来通信技术和信息服务方式的发展趋势,使得虚拟化技术、分布与并行计算等技术不断成熟,不仅更好的扩大了用户群,提供了优质的服务,同时让互联网服务模式变为主流,引导了移动通信行业发展的趋势[5]。

云计算技术在移动通信行业的应用,不仅有利于其自身业务能力的增强,降低生产成本,提升运营效率,利用统一的平台架构和平台的开放性,从外部引入开放创新力量,形成新的生态系统,在通信行业内开展大规模的低成本、高效率网络运营服务,为云计算技术未来在移动通信行业的发展创造更好的前景。

参考文献

[1]冯毅.浅谈在云计算平台下企业电子商务的发展[J].中国高新技术企业,2011(24).

[2]王健,莫敏.云计算和个人数字图书馆[J].当代图书馆,2011(02).

篇9

中图分类号:TP311.13

随着信息技术的高速发展和普及,各个领域都积累了海量的数据并且还在迅速增长,数据量动辄以Tbyte计。海量数据持续消耗着计算机软硬件资源,资源的无限制扩张,使得单个计算机无法承担起相应的重任。目前电信行业在数据分析的支撑方面注意面临三个突出的问题,一是电信业发展到今天,历史数据的存储需求和电信业务量的不断增大,电信运营商的数据已经变成海量,中等规模的省级移动公司,每天的数据增长已经达到2-3TB,如此海量的数据需要计算机具有极强的处理能力和足够大的存储空间;二是各级运营商都是各自为阵,配备硬件设备和存储数据资源,造成了计算资源和存储资源的严重浪费;三是现有的数据库查询功能已经满足不了电信行业竞争日益激烈的决策支撑和服务。电信经营分析系统(BASS)作为电信业务支撑系统的一个主要支系统,数据的分析处理和挖掘对电信业务的发展起着重要作用,利用云计算平台,整合优化资源,形成具有超级计算能力的资源池,提高资源利用效率,处理数据并为用户提供服务。

1 经营分析系统概述

1.1 经营分析系统简介

电信经营分析系统是电信运营商的核心系统之一,通过对底层数据的抽取、处理、装载,实现数据的界面化展示,主要展示公司KPI指标,满足企业决策需求和业务支撑发展的需要。

电信BASS采用两级系统架构,由位于集团公司一侧的一级BASS和位于省公司一侧的省级BASS共同组成,两级系统之间通过一定数据通信网进行数据通信。如图1所示。

1.2 电信BASS面临的不足和挑战

目前电信BASS系统还是以指定数据库服务器为载体进行数据的运算和装载,但由于业务发展的需要和对数据分析要求的不断提高,目前BASS系统主要面临以下几个突出的问题:

(1)依靠单服务器存储数据的模式已经不能适应海量数据的急剧扩张,无法承载如此高的数据量。

(2)海量的数据源无法做到资源共享,经典的数据分析案例很难被借鉴和参考。

(3)服务器一旦出现故障,经分系统将会立即瘫痪。

(4)底层数据的存储和导入目前还需人工处理,因人工导入数据需要一定的周期性,所以无法满足经分系统实时访问最新数据的需求。

1.3 电信BASS海量数据产生的原因

为了适应通信业日益发展的需要,电信BASS系统面临着海量数据如何高效存储和处理的挑战,电信BASS海量数据产生的原因如下:

(1)现有数据随着时间的推移和业务的发展,数据信息每天都在不断增加,如客户资料信息,语音通话信息,短彩信发送信息,数据流量信息等。运营商需要将这一系列数据进行数据挖掘,提取有价值的营销资源信息,为业务发展提供更好的决策支撑。

(2)运营商期望充分运用已有历史数据挖掘新的商业契机与营销机会,也就意味着历史数据将会为运营商提供大量的潜在价值信息,历史数据中往往蕴含着有利用价值的潜在市场发展规律、包括市场发展的潜在危机和市场发展的重大机遇,因此需要将大量历史数据进行长期保存。

2 云计算的特点

(1)超大规模集群:集群可以将本地及异地的计算机资源有效的整合起来,形成具有一定规模计算能力的资源池,提高设备计算能力。

(2)分布式存储:大量的数据信息存储在云端物理位置相互隔离的主机当中,提高了数据的存储性能、安全性能和容灾备份性能。

(3)高扩展性:云端计算集群的规模可以动态伸缩,按需提供服务,实时满足计算的需求。

(4)低成本:云处理实际上是大幅提高云端设备的处理性能,客户端的处理性能则要求不是很高,对企业来说,无疑大幅减少了成本支出。

3 基于云计算技术的经营分析系统

基于云计算的经营分析系统不但改变了以往依靠单一服务器存储、计算的服务模式,而且提高了资源的利用效率和节约了企业成本,涉及的关键技术主要包括数据存储、数据管理、编程模式等,解决的主要问题是海量数据如何存储、海量数据如何索引和定位,海量数据如何抽取、海量数据如何更有效的运算。

3.1 海量数据存储技术

通过分布式的异地存储是解决海量存储的有效方法。云计算技术发展到今天,目前数据存储技术主要有Google的GFS(Google File System)和Hadoop开发团队开发的GFS的开源实现HDFS(Hadoop Distributed File System)。

(1)Google 的GFS。GFS是由Google设计并实现的一个分布式文件系统,其中包括数据的存储、管理、定位等多层面,其主要框架架构是把大量安装有Linux操作系统的普通PC形成一个具有庞大的存储处理能力计算机集群,分别有控制节点和存储节点构成。

(2)Hadoop的HDFS。HDFS采用管理节点/存储节点架构,如图2所示。一个HDFS集群由一个管理节点和一定数目的存储节点组成。

GFS与HDFS技术有效地将异地计算机资源整合在一起,形成具有超大存储容量的计算集群,同时,为了优化系统的性能,提高资源的数据利用率,需要对数据进行并行处理,目前省属各地州运营商的存储系统都是各自为阵,独立存储,信息的存储效能不但低下,而且在信息共享方面和信息处理速度方面存在瓶颈,云计算的分布式存储技术将能够有效解决面临的这一突出问题。

3.2 海量数据管理技术

要高效管理和处理大规模数据集,首先必须解决如何在庞大的数据中心定位所需数据的问题。如何能够快速在异地分布的存储节点上找到所需的数据,提高数据管理效率是面临的又一突出问题,目前电信BASS经分系统主要采用互动管理来实现对经分数据的调动和管理,主要还是通过ETL调度管理和服务管理两个方面来实现,ETL负责数据的抽取、转换、装载,服务管理负责数据访问的安全和效率。现在这种技术已经不能适应当前业务发展的需要。云计算数据管理技术主要有Google的Big Table和Apache的Hbase等,Hbase是一个分布式的,面向列的开源数据库,它不同于一般的关系数据库,是一个适合于非结构化数据存储的数据库。

3.3 编程模式(分布式运算模式)

Map/Reduce的编程模式是目前云计算的核心和关键。任务如何分解,分解后的任务运用什么技术如何分配给终端去处理是其主要任务,Map/Reduce实际上就是任务分解和任务汇总的集合,在电信行业当中,其实主要是数据的分解和汇总Map/Reduce的工作模式如图3所示。

Map/Reduce的实现机制使得任务如何分解和合并更加流程化,为后续的分布式计算提供了有利的条件。

3.4 海量数据处理模式

(1)现有经分系统中海量数据的一般处理方法。越来越多海量数据的出现,使得现有BASS系统在处理数据的容量存储、处理速度及兼容性方面存在诸多不足,目前数据处理的一般方法有如下几种:

1)通过高效的数据库进行集中处理,如SQL、ORACLE数据,但一旦服务器出现故障,经分系统将会直接崩溃,无法运行,容灾性能较差。

2)高效的SQL语句,由于对数据提取精确性的要求,要从海量的数据表中提取有效数据需要编写更简洁和高效的SQL语句。

3)分类存储。对海量数据按类别进行细分,再对其进行分区存储

4)建立合适的索引。对海量数据进行处理时,需要对数据进行分类、排序、这样在数据提取和处理时能够快速在服务器中定位。

(2)基于云计算技术的海量数据ETL处理算法的改进设计。由于目前ETL算法在对数据的处理和任务调度方面存在诸多不足,本文从以下两个方面进行了改进和处理,一是通过借鉴Map/Reduce原理,将其充分运用到ETL的数据抽取环节,从而做到数据处理更高效,(简称SMB-DP)算法;二是对ETL任务调度进行优化,主要是将任务的优先级和任务处理时间考虑在内(简称AGB-ETL)。

整个算法的核心思想是:将原来的多次抽取数据改为一次性抽取数据,通过借鉴Map/Reduce原理对源数据进行拆分,形成多个目标文件,此次过程称之为SMB-DP算法;然后再将这些目标文件的任务优先级及运行时间考虑在内对这些任务进行分配调度和数据处理,此过程称之为AGB-ETL算法。具体如图所示。

SMB-DP算法的基本思想是:将现有ETL处理流程中的多次抽取化成单次抽取,拆分后再进行并行的转换装载等处理。

该算法的实现关键包括单次抽取、对源数据进行拆分和并行转换装载三部分。具体描述如下:

(1)单次抽取。通过关键字段把所要提取的数据源表进行有效的合并。假设A表需要读取“1、2、3、4、a、b、c、d ”8个字段,假设B表需要读取“4、5、6、7、c、d、e、f”8个字段,那么可以一次性将源表所需的11个字段从源表中抽取,然后从中抽取A、B各需的字段,分别保存成两个文件进行存储。

(2)对源数据进行拆分。抽取数据的目的最终是为了拆分数据,通过借鉴Map/Reduce原理,把数据文件按照一定的字段划分后存储的云终端当中。

(3)并行转换装载。对于拆分后形成的多个目标文件,可以采用各种有效的并行处理技术进行并行的转换及装载处理,如将多个目标文件分配到不同的计算终端去运行,有效提高BASS的处理效能。

AGB-ETL算法的基本思想是:以任务优先级和任务运行时间为首要遵循的分配原则,将最需要处理的任务分配到处理时间最少的终端中去,这样既提高了资源的利用率,又满足了任务处理的实时需求,从而达到了资源的优化配置和调度。

目前常用的ETL任务调度算法主要有顺序调度、随机调度和基于贪婪算法的任务调度等三种。

(1)顺序调度:按照顺序将需要处理的任务逐个分配到终端中去处理。这没有考虑任务的执行时间,执行效率比较低。

(2)随机调度:从需要处理的任务当中随机选取任务并随机分配到任务组中,这种调度算法随机性很差,也是没有考虑任务的运行时间和任务优先级,因此处理效率也很低下。

(3)基于贪婪算法的任务调度:相对于前两种算法,这种算法的处理性能和效率有了较大的提高,先通过系统内日志记录算出任务最近几次的运行时间,一般取10次左右,算出任务的平均运行时间进行排序,一般将任务运行时间最长的分配到当前估算执行时间最小的任务分组中,由于没有考虑任务的优先级,因此任务的处理效能依旧不是很完善。

AGB-ETL算法涉及的过程主要是三个方面,描述如下所述:

(1)执行优先级的确定。优先级是根据相关业务规范以及移动BASS实时性处理的需求设定的。首先我们需要设定任务优先级的规范标准,以阿拉伯数字1为最高优先级,以此类推。

(2)估算时间的确定。一般我们会从系统日志中获取每个任务的执行时间。通过查询系统操作日志,获取任务最近N次的执行时间,我们就可以算出该任务的平均执行时间。

(3)处理流程的描述。

1)首先将任务进行调度的判断,如有则加入队列,没有则等待。

2)将任务队列进行排序,排序的原则是优先级从高到低,优先级相同的,再按照任务执行时间从高到低排列。

3)将最需要处理的任务放入执行时间最少的单元当中。

4)更新该任务分组的总估算执行时间。

5)判定任务队列L是否分配完毕。

4 结论

针对电信行业所面临的海量数据处理的突出问题,本文通过对云计算关键技术研究应用,提出了基于云计算技术的经营分析系统对海量数据的处理和优化方法;通过对海量数据存储、海量数据索引和定位、海量数据抽取与处理、海量数据分布式运算等几个方面的研究,特别是对海量数据的抽取和处理,提出了基于拆分机制的海量数据处理算法和改进的基于贪婪算法的ETL任务调度算法,从而对海量异构源数据进行快速抽取、有效拆分和并行处理,可以更加合理地进行任务调度,实现资源的优化处理和按需分配。

参考文献:

[1]杨胜琦.基于复杂网络的大规模电信数据分析研究[D].北京邮电大学硕士学位论文,2010,5.

[2]孙少陵.云计算变革下电信运营商的机遇及中国移动云计算探索[J].移动通信,2010,11.

[3]孔令山.运营商虚拟化实践与思考.

[4]张海涛.基于云计算平台的电信经营分析系统研究.

[5]王金伦,樊秀菊.基于云计算的新一代电信业务支撑系统测评平台的设计与实现[J].计算机应用与软件,2011,3.

[6]秦润锋,樊勇兵,唐宏,金华敏.开源云计算管理平台技术在电信运营商私有云建设中的应用研究.

[7]段云锋.中国移动经营分析系统建设及应用电信经营分析.

篇10

一、云计算

(一)云计算的概述。近年来,由于数据的快速增长,用户对计算机的数据存储能力,要求也越来越高。云计算是一项新兴的数据处理技术,改变着普通用户使用计算机分析、处理数据的方式,为用户提供了强大的数据分析、存储能力,方便用户进行数据管理,目的是让用户高效的使用计算机的数据资源[1]。云计算不仅是解决数据的计算问题,更多的是结合其他技术进行综合发展。

(二)云计算的技术原理。云计算以互联网作为发展平台,以计算机技术作为实现途径,将数据进行整合、处理、应用、存储等,云计算是一种有效性强、低成本的计算机技术,通过计算机系统,实现数据资源优化的计算方式。云计算的基本原理是使数据分布在计算机上完成,能够使计算的数据进行合理的应用,实现计算机的存储功能。这就意味着计算机的云计算能力就像商品一样可以进行流通,最主要的是使用方便,价格低,而主要方式又是通过互联网进行的,实现了与计算机技术的接轨。

(三)云计算的应用。云计算具有操作简单的优势,用户无需掌握太多的云计算技术,就可以直接进行操作。在云计算下,可以使用户快速获得信息,为用户提供一站式服务[2]。云计算的特征主要表现为管理性、分散性、储存性等特征,同时还具有服务性、经济性等更深层次性的特征。云计算系统是通过IP网络连接的,云计算系统的核心组成部分是云计算平台。目前,国内多数企业都采用了云计算来为用户服务,例如,谷歌推出的谷歌App服务,IBM推出的“云海”操作系统等等,许多知名的企业都在大力的开发云计算软件,随着云计算的发展,一些虚拟化服务、数据整合服务也都采用了云计算技术,争取创造出更多的云计算产品。

二、云数据管理技术

(一)GFS技术。GFS技术,是一个大型的文件计算系统,它为谷歌云计算提供大量的数据储存空间,形成谷歌的云计算解决方案[3]。GFS将整个系统分为客户端、主服务器、数据块服务器3类,使应用程序直接调用这些函数,与该数据库连接在一起,进行整个系统数据的保存。GFS将文件按照固定大小进行分块,每一块被称为一个数据块,并有相应的索引号。在客户端进行访问GPS时,需要先进行节点访问,然后进行数据信息的获得,这种数据存储方式实现了控制数据流的作用,使得云数据管理技术的整体性能得到了提高。

(二)Dynamo技术。云计算的数据具有数量庞大、数据不确定性的特点,需要采用有效的管理技术对数据进行分析和管理。在云数据的众多管理技术中Dynamo技术具有独特的技术优势,它不仅具有分布式的储存模式,而且还能进行数据存储的表格构建,Dynamo技术可直接提供底层支持,它的优点是通过它所提供的N、R、M三个使用参数,根据客户的需求来进行实例的调整,其中N是副本个数,R是读取个数,W是写入成功的个数,当读取个数大于副本个数,就可以保证数据的一致性,当读取个数小于副本个数,则就不能保证数据的一致性。Dynamo技术的工作原理其实就是提供不同的版本,并能够灵活应用。

(三)云数据管理技术的利与弊。云数据管理的数据具有海量性、异构性、非确定性的特点,而云数据管理技术本身又具有规模大、结构性强的特点,是针对云数据的特点使用的一种数据管理方式,在应用上为客户提供方便快捷的数据模型,来进行数据的读取。虽然云数据管理技术在不断的改进和完善,但也存在着一些问题,例如,在数据丢失时,如何进行数据的还原与修复的问题,是需要云数据管理进行技术提升的方面。

结论

随着社会大量数据信息的涌现,云计算和云数据管理技术受到越来越多的关注,这也充分体现了数据由密集型向技术型转变的发展趋势。传统的数据管理方式在海量数据的冲击下,会遇到一定的挑战,云数据管理技术应采用新的方式去处理数据,从更深层去管理数据,通过云计算的平台构建,实现为更多用户服务的理念,也将出现越来越多的数据管理技术,使数据存储和管理方式不断的更新与发展。

参考文献

[1]刘正伟,文中领,张海涛.云计算和云数据管理技术[J].计算机研究与发展,2012,1(07):26-31.