基于大数据和云计算平台与应用

(整期优先)网络出版时间:2018-12-22
/ 2

基于大数据和云计算平台与应用

全仲谋

中国移动通信集团广东有限公司湛江分公司524033

摘要:大数据应用的发展对信息系统及其应用提出了更高要求,而基于云计算的大计算平台技术已成为现代建模仿真领域的核心技术,尤其是当前社会各领域开始注重对基于数据的应用,大数据的兴起引发了社会各领域研究、应用大数据的热潮。本文详细阐述了大数据和云计算平台应用的基本概念,病态系讨论了大数据和云计算平台的实际应用。

关键词:大数据;云计算;平台;应用

引言

“大数据”这个词在世界上的地位日益显著,甚至隐约可以成为这个时代的代名词。对于数据信息的采集和处理已然成为各行各业创造经济突破的新增长点,是企业战略目标制定和实施的关键依据。大数据的概念决定了它需要在一个特殊的平台上才能够发挥作用,庞大的信息量并不是以往的单机处理系统可以“吃得消”的。而云计算平台的建立正好弥补了这一方面的短板,其新颖的信息处理模式与大数据概念有着很好的契合度。但是目前大多数研究者的目光都是集中在大数据分析上,关于大数据与云计算平台应用的研究尚处于初级阶段。不过可以预期,未来大数据和云计算平台必将成为社会的发展核心。

一、大数据与云计算平台概述

1、大数据的特征。大数据又被IT业称之为巨量数据集合,具体是指无法在某个特定时间范围内用常规的软件工具进行捕捉、管理和处理的数据集合,是一种海量、多样化、高增长率的信息资产。大数据的特征主要体现在如下几个方面:超大的容量、繁多的种类、获取数据的高速、数据质量真实可靠、数据来源渠道复杂等等。信息时代到来的今天,数据信息在生产生活中的重要性日益凸显,大数据的发展速度也变得越来越快,对信息处理提出了更高的要求,即需要在短时间内对数据库进行有关的操作与处理,为满足这一需求,大数据技术应运而生。

2、云计算平台的优势。云计算是以网络为平台,利用远程连接的计算机获取所需计算服务,该计算机可供给弹性伸缩的计算资源,可提高资源利用效率,节省因重复配置资源增加的成本。云计算的优点:1.计算能力强。云计算可对计算机集群中的CPU进行远程调用,使其具备强大的计算能力,每秒高达10万亿次运算。2.可靠性高。云计算使用数据容错技术和计算节点同构可互换措施,能够保证云计算服务的可靠性。3.使用成本低。云计算采用自动化集中式管理,按需分配使用硬件资源,无需支付数据管理成本。

3、大数据与云计算平台的关系。大数据与云计算的联系紧密,两者均能够为数据资源提供存储、访问和计算的平台。对于云计算而言,其核心技术为数据处理技术,最终目的是为国家、企业和个人提供便捷服务,这与大数据的发展目的一致。大数据拥有丰富的数据资源,能够与云计算平台共同一个平台,进行大数据分析与计算,两者的相似度极高。

二、大数据与云计算平台优势分析

数据处理是大数据的基础要求,新时代下的“大数据”理念已经是无法用传统计算机处理方式来满足的,因而需要一种新的计算方式作为支持。容量大、种类多、价值高、更新快的特点使得大数据看起来像是一座高楼大厦,有着巨大的价值等待人们的开发利用,而云计算所提供的安全、高效的数据应用服务可以有力地支撑这座楼房。

大数据与云计算平台是一个由众多技术融合的综合体,其主要包括虚拟化技术、分布式海量数据存储与管理和分布式并行编程技术。大数据与云计算平台充分利用云计算适用于数据密集型计算的特点,很好地贴合了大数据对数据量和数据类型的要求;云计算分散到集群电脑的处理方式能够实现数据的及时调用和动态调整,达到高效、快速处理数据信息的目的;平台可以利用虚拟化处理方式对电脑本地资源、网络资源等进行整合、按照要求进行统一调度,实现信息价值最大化。同时大数据与云计算平台具有良好的相容性,能够与各种系统应用做到有效契合。以云计算为核心的数据处理平台能够满足更加复杂的操作要求,同时其容量大、运行稳定、安全性高的特点能够适应现在对数据处理的需求;大数据可以为云计算的运行提供指导,对云计算的资源进行有效的调配。

三、基于云计算的大数据平台应用研究

3.1基于云计算的大数据平台优点分析

目前社会各领域所采用的传统单机处理模式成本较高,而且无法根据用户的使用要求进行扩展,随着用户应用数据量的不断增加及数据处理复杂程度的不断提高,这便会导致单机处理模式的性能无法满足用户的实际需求,而基于云计算技术构建而成的大数据平台可以有效解决上述问题,可以为不同层次用户提供安全、高效、便捷的应用数据服务,对提高用户对应用数据的使用效率和使用质量有着重要作用。云计算在实际运用中具备良好的弹性伸缩及动态调配等功能,对资源的虚拟化处理及系统的透明性处理可以满足用户按需使用要求,其绿色节能可以最大程度上契合新型大数据处理技术的诸多要求,而以云计算为代表的新一代计算处理模式具有更强大的处理功能,其存储空间、可靠性、安全性、便捷性都可以满足用户需求,并且大数据平台在应用中具有优秀的可平滑迁移、可弹性伸缩等有点,并且可以实现对云计算资源的统一管理和调度等诸多优势特性,所以基于云计算的大数据平台应用已成为未来计算技术的主要发展方向。

3.2基于云计算的大数据平台实际应用

基于云计算技术的大数据平台可以提供聚合大规模分布式系统中,对通讯、存储、处理等能力的需求,并可以为上层平台通过灵活、可靠的方式提供各类应用,并且其在实际应用中可以针对海量多格式、多模式大数据的跨系统、跨平台等操作,提供统一管理手段和敏捷的响应机制,对支持大数据快速变化的功能目标、系统环境以及应用配置有着重要作用。例如,基于云计算技术构建而成的企业信息系统,该新型系统在建设过程中采用了分布式集群技术来构建一个大数据平台,该平台在实际运行中可以支持不同业务应用中多种格式、多种访问模式的大数据统一存储,并采用分布式工作流和调度系统框架来构建一个数据分析系统,利用分布式计算手段实现大数据的转换、关联、提取以及聚合等功能,该类大数据平台在实际应用中可以满足企业各种业务的实际需求。

基于云计算技术的大数据平台可以实现企业决策支撑、销售预测等功能,这是因为其在实际应用中可以利用上层应用数据,通过大数据平台分析系统的功能及附加业务的逻辑功能对其进行分析,从而为现代企业利用数据决策提供科学、准确、有效的参考依据。云计算平台技术与云计算服务技术在新时期的高速发展,使大数据平台应用技术成为可能,如果没有云计算技术作为大数据平台的技术支撑,大数据平台依旧如空中楼阁般缺乏根基,而借住云计算技术的大数据平台可以有效提高整个系统的弹性,同时也可以有效提高大数据平台运行中的管理成本和风险控制力度,对加强应用服务在实际使用中的安全性、可靠性有着不可替代的作用。云计算技术不仅可以为大数据处理提供一个高效的系统环境,同时也可以将云计算平台的优势性能充分发挥出来,对促进大数据平台在社会各领域的广泛应用有着重要意义。

结束语

大数据与云计算的相辅相成已成为解决大数据问题的主要途经,没有大数据的信息沉淀便无法发挥云计算的各项优势功能,而没有云计算技术也无法实现大数据平台应用,因此,在新时期发展中各领域必须通过云计算技术来深入挖掘大数据,这对提高云计算平台资源利用率、硬件资源在线扩展能力有着重要作用。

参考文献

[1]高巍.面向大数据应用的基础计算平台2015.9

[2]王秀磊,刘鹏等.大数据关键技术2012.9

[3]姚宏宇.大数据与云计算2017.9