第一篇：大数据云计算区别
大数据与云计算
摘 要：大数据(Big Data)这个概念近年来在越来越多的场合、被越来越多的人提及， 并且经常和云计算联系在一起，云计算与大数据之间到底是什么关系成为热点话题。本
专题报告包含以下四个方面内容：1. 大数据的价值;2. 大数据带来的挑战;3. 大数据研究成果;4. 云计算是大数据挖掘的主流方式。通过本报告阐述我们对大数据的理解，以及对大数据的价值的认识，探讨大数据处理与挖掘技术，大数据主要着眼于“数据”，提供数据采集、挖掘、分析的技术和方法; 云计算技术主要关注“计算”，提供IT 解决方案。大数据、云计算技术可以促进持续审计方式的发展、总体审计模式的应用、审计成果的综合应用、相关关系证据的应用、高效数据审计的发展和大数据审计师的发展。强化大数据、云计算技术审计应用的措施包括制定长远发展战略、加快审计法规建设、建立行业平台、加强研发和提高利用能力。 关键词：大数据 云计算 数据挖掘 对审计影响 政策建议 引言
目前，大数据伴随着云计算技术的发展，正在对全球经济社会生活产生巨大的影响。大数据、云计算技术给现代审计提供了新的技术和方法，要求审计组织和审计人员把握大数据、云计算技术的内容与特征，促进现代审计技术和方法的进一步发展。
一、大数据、云计算的涵义与特征
随着云计算技术的出现，大数据吸引了全世界越来越多的关注。哈佛大学社会学教授加里·金 ( 2012) 说: “这是一场革命，庞大的数据资源使得各个领域开始了量化进程，无论学术界、商界还是政府，所有领域都将开始这种进程。” ( 一) 大数据的涵义与特征
“数据”( data) 这个词在拉丁文里是“已知”的意思，也可以理解为“事实”。2009 年，“大数据”概念才逐渐开始在社会上传播。而“大数据”概念真正变得火爆，却是因为美国奥巴马政府在2012 年高调宣布了其“大数据研究和开发计划”。这标志着“大数据”时代真正开始进入社会经济生活中来了。“大数据”( big data) ，或称巨量资料，指的是所涉及的数据量规模大到无法利用现行主流软件工具，在一定的时间内实现收集、分析、处理或转化成为帮助决策者决策的可用信息。互联网数据中心( IDC)认为“大数据”是为了更经济、更有效地从高频率、大容量、不同结构和类型的数据中获取价值而设计的新一代架构和技术，用它来描述和定义信息爆炸时代产生的海量数据，并命名与之相关的技术发展与创新。大数据具有4 个特点: 第一，数据体量巨大( Volume) ，从TB 级别跃升到PB 级别。第二，处理速度快( Velocity) ，这与传统的数据挖掘技术有着本质的不同。第三，数据种类多( Variety) ，有图片、地理位置信息、视频、网络日志等多种形式。第四，价值密度低，商业价值高( Value) 。存在单一数据的价值并不大，但将相关数据聚集在一起，就会有很高的商业价值( 金良，2012) 。大数据时代，不仅改变了传统的数据采集、处理和应用技术与方法，还促使人们思维方式的改变。大数据的精髓在于促使人们在采集、处理和使用数据时思维的转变，这些转变将改变人们理解和研究社会经济现象的技术和方法。
(1)是在大数据时代，不依赖抽样分析，而可以采集和处理事物整体的全部数据。19 世纪以来，当面临大的样本量时，人们都主要依靠抽样来分析总体。但是，抽样技术是在数据缺乏和取得数据受限制的条件下不得不采用的一种方法，这其实是一种人为的限制。过去，因为记录、储存和分析数据的工具不够科学，只能收集少量数据进行分析。如今，科学技术条件已经有了很大的提高，虽然人类可以处理的数据依然是有限的，但是可以处理的数据量已经大量增加，而且未来会越来越多。随着大数据分析取代抽样分析，社会科学不再单纯依赖于抽样调查和分析实证数据，现在可以收集过去无法收集到的数据，更重要的是，现在可以不再依赖抽样分析。
(2)是在大数据时代，不再热衷于追求数据的精确度，而是追求利用数据的效率。当测量事物的能力受限制时，关注的是获取最精确的结果。但是，在大数据时代，追求精确度已经既无必要又不可行，甚至变得不受欢迎。大数据纷繁多样，优劣掺杂，精准度已不再是分析事物总体的主要手段。拥有了大数据，不再需要对一个事物的现象深究，只要掌握事物的大致发展趋势即可，更重要的是追求数据的及时性和使用效率。与依赖于小数据和精确性的时代相比较，大数据更注重数据的完整性和混杂性，帮助人们进一步认识事物的全貌和真相。
(3)是在大数据时代，人们难以寻求事物直接的因果关系，而是深入认识和利用事物的相关关系。长期以来，寻找因果关系是人类发展过程中形成的传统习惯。寻求因果关系即使很困难且用途不大，但人们无法摆脱认识的传统思维。在大数据时代，人们不必将主要精力放在事物之间因果关系的分析上，而是将主要精力放在寻找事物之间的相关关系上。事物之间的相关关系可能不会准确地告知事物发生的内在原因，但是它会提醒人们事情之间的相互联系。人们可以通过找到一个事物的良好相关关系，帮助其捕捉到事物的现在和预测未来。 ( 二) 云计算的涵义与特征
“云计算”概念产生于谷歌和IBM 等大型互联网公司处理海量数据的实践。2006 年8 月9 日，Google首席执行官埃里克·施密特( Eric Schmidt) 在搜索引擎大会首次提出“云计算”的概念。2007 年10 月，Google 与IBM 开始在美国大学校园推广云计算技术的计划，这项计划希望能降低分布式计算技术在学术研究方面的成本，并为这些大学提供相关的软硬件设备及技术支持( Michael Mille，2009) 。目前全世界关于“云计算”的定义有很多。“云计算”是基于互联网的相关服务的增加、使用和交付模式，是通过互联网来提供动态易扩展且经常是虚拟化的资源。美国国家标准技术研究院( NIST) 2009年关于云计算的定义是: “云计算是一种按使用量付费的模式，这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池( 资源包括网络、服务器、存储、应用软件、服务等) ，这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应商进行很少的交互。”根据这一定义，云计算的特征主要表现为: 首先，云计算是一种计算模式，具有时间和网络存储的功能。其次，云计算是一条接入路径，通过广泛接入网络以获取计算能力，通过标准机制进行访问。第三，云计算是一个资源池，云计算服务提供商的计算资源，通过多租户模式为不同用户提供服务，并根据用户的需求动态提供不同的物理的或虚拟的资源。第四，云计算是一系列伸缩技术，在信息化和互联网环境下的计算规模可以快速扩大或缩小，计算能力可以快速、弹性获得。第五，云计算是一项可计量的服务，云计算资源的使用情况可以通过云计算系统检测、控制、计量，以自动控制和优化资源使用。 ( 三) 大数据与云计算的关系
从整体上看，大数据与云计算是相辅相成的。大数据主要专注实际业务，着眼于“数据”，提供数据采集、挖掘、分析的技术和方法，强调的是数据存储能力。云计算主要关注“计算”，关注IT 架构，提供IT 解决方案，强调的是计算能力，即数据处理能力。如果没有大数据的数据存储，那么云计算的计算能力再强大，也难以找到用武之地; 如果没有云计算的数据处理能力，则大数据的数据存储再丰富，也终究难以用于实践中去。
从技术上看，大数据依赖于云计算。海量数据存储技术、海量数据管理技术、MapReduce 编程模型都是云计算的关键技术，也都是大数据的技术基础。而数据之所以会变“大”，最重要的便是云计算提供的技术平台。数据被放到“云”上之后，打破了过去那种各自分割的数据存储，更容易被收集和获得，大数据才能呈现在人们眼前。而巨量的数据也只能依靠云计算强大的数据处理能力，才能够“淘尽黄沙始得金”。
从侧重点看，大数据与云计算的侧重点不同。大数据的侧重点是各种数据，广泛、深入挖掘巨量数据，发现数据中的价值，迫使企业从“业务驱动”转变为“数据驱动”。而云计算主要通过互联网广泛获取、扩展和管理计算及存储资源和能力，其侧重点是IT 资源、处理能力和各种应用，以帮助企业节省IT部署成本。云计算使企业的IT 部门受益，而大数据使企业的业务管理部门受益。
从结果看，大数据与云计算带来不同的变化。大数据对社会经济带来的变化是巨大的，涉及到各个领域。大数据已经与资本、人力一起作为生产的主要因素影响着社会经济的发展。数据创造价值，而挖掘数据价值、利用数据的“推动力”就是云计算。云计算将信息存储、分享和挖掘能力极大提高，更经济、高效地将巨量、高速、多变的终端数据存储下来，并随时进行计算与分析。通过云计算对大数据进行分析、总结与预测，会使得决策更可靠，释放出更多大数据的内在价值。
二、大数据、云计算技术对审计的影响分析
审计技术和方法的发展是随着科学和管理技术的发展而发展的。现代审计技术和方法体系是在原始的查账基础上从低级向高级、从不完备到比较完备发展起来的。在业务和会计处理手工操作阶段，审计实施的是账表导向的审计技术和方法; 当内部控制理论和方法全面应用于业务和会计处理时，审计实施的是系统导向的审计技术和方法; 当风险管理理论和方法全面应用于业务和财务管理时，审计实施的是风险导向审计技术和方法; 与风险导向审计技术和方法并行的是，计算机技术广泛应用于业务和会计处理时，审计实施的是IT 审计技术和方法。目前，面对大数据、云计算技术的产生和发展，审计人员需要应时而变来适应由此而带来的变化，分析大数据、云计算技术对审计方式、审计抽样技术、审计报告模式、审计证据搜集等技术和方法的影响。 ( 一) 大数据、云计算技术促进持续审计方式的发展
传统审计中，审计人员只是在被审计单位业务完成后才进行审计，而且审计过程中并不是审计所有的数据和信息，只是抽取其中有的一部分进行审计。这种事后和有限的审计对被审计单位复杂的生产经营和管理系统来说很难及时做出正确的评价，而且对于评价日益频繁和复杂的经营管理活动的真实性和合法性则显得过于迟缓。随着信息技术迅速发展，越来越多的审计组织对被审计单位开始实施持续审计方式，以解决审计结果与经济活动的时差问题。但是，审计人员实施持续审计时，往往受目前业务条件和信息化手段的限制，取得的非结构化数据无法数据化，或者无法取得相关的明细数据，致使对问题的判断也难以进一步具体和深入。而大数据、云计算技术可以促进持续审计方式的发展，使信息技术与大数据、云计算技术较好交叉融合，尤其对业务数据和风险控制“实时性”要求较高的特定行业，如银行、证券、保险等行业，在这些行业中实施持续审计迫在眉睫。如审计组织对商业银行的审计，实行与商业银行建立业务和数据系统的接口，在开发的持续审计系统中固化了非结构化数据结构化和数据分析模块，该模块可以在海量贷款客户中挖掘、分析出行业性和区域性贷款风险趋势，实现在线的风险预警，并将发现的风险数据、超预警值指标及问题登记为疑点，并建立实时审计工作底稿，按照重要程度进行归类、核实或下发给现场审计人员进行现场核实，以较好处理非结构化数据的利用和数据的实时分析利用问题。 ( 二) 大数据、云计算技术促进总体审计模式的应用
现时的审计模式是在评价被审计单位风险基础上实施抽样审计。在不可能收集和分析被审计单位全部经济业务数据的情况下，现时的审计模式主要依赖于审计抽样，从局部入手推断整体，即从抽取的样本着手进行审计，再据此推断审计对象的整体情况。这种抽样审计模式，由于抽取样本的有限性，而忽视了大量和具体的业务活动，使审计人员无法完全发现和揭示被审计单位的重大舞弊行为，隐藏着重大的审计风险。而大数据、云计算技术对审计人员而言，不仅仅是一种可供采用的技术手段，这些技术和方法将给审计人员提供实施总体审计模式的可行性。利用大数据、云计算技术，对数据的跨行业、跨企业搜集和分析，可以不用随机抽样方法，而采用搜集和分析被审计单位所有数据的总体审计模式。利用大数据、云计算技术的总体审计模式是要分析与审计对象相关的所有数据，使得审计人员可以建立总体审计的思维模式，可以使现代审计获得革命性的变化。审计人员实施总体审计模式，可以规避审计抽样风险。如果能够收集总体的所有数据，就能看到更细微、深入的信息，对数据进行多角度的深层次分析，从而发现隐藏在细节数据中的对审计问题更具价值的信息。同时，审计人员实施总体审计模式，能发现从审计抽样模式所不能发现的问题。大数据、云计算技术给审计人员提供了一种能够从总体把握审计对象的技术手段，从而帮助审计人员能从总体的视角发现以前难以发现的问题。
( 三) 大数据、云计算技术促进审计成果的综合应用
目前，审计人员的审计成果主要是提供给被审计单位的审计报告，其格式固定，内容单一，包含的信息量较少。随着大数据、云计算技术在审计中广泛应用，审计人员的审计成果除了审计报告外，还有在审计过程中采集、挖掘、分析和处理的大量的资料和数据，可以提供给被审计单位用于改进经营管理，促进审计成果的综合应用，提高审计成果的综合应用效果。首先，审计人员通过对审计中获取的大量数据和相关情况资料的汇总、归纳，从中找出财务、业务和经营管理等方面的内在规律、共性问题和发展趋势，通过汇总归纳宏观性和综合性较强的审计信息，为被审计单位投资者和其他利益相关者提供数据证明、关联分析和决策建议，从而促进被审计单位管理水平的提高。其次，审计人员通过应用大数据、云计算技术，可以将同一问题归入不同的类别进行分析和处理，从不同的角度、不同的层面整合提炼以满足不同层次的需求。再次，审计人员将审计成果进行智能化留存，通过大数据、云计算技术，将问题规则化并固化到系统中，以便于计算或判断问题发展趋势，向被审计单位进行预警。最后。审计人员将审计成果、被审计单位与审计问题进行关联，并进行信息化处理，在进行下次审计时，减少实地审计的时间和工作量，提高审计工作的效率。 ( 四) 大数据、云计算技术促进相关关系证据的应用
审计人员在审计过程中，应根据充分、适当的审计证据发表审计意见，出具审计报告。但是，在大数据、云计算环境下，审计人员既面临巨量数据筛选的考验，又面临搜集适当审计证据的挑战。审计人员在搜集审计证据时，传统的思维路径都是基于因果关系来搜集审计证据，而大数据分析将会更多地运用相关关系分析来搜集和发现审计证据。但从审计证据发现的角度来看，由于大数据技术提供了前所未有的跨领域、可供量化的维度，使得审计问题大量的相关信息能够得以记录和计算分析。大数据、云计算技术没有改变事物间的因果关系，但在大数据、云计算技术中对相关关系的开发和利用，使得数据分析对因果逻辑关系的依赖降低了，甚至更多地倾向于应用基于相关关系的数据分析，以相关关系分析为基础的验证是大数据、云计算技术的一项重要特征。在大数据、云计算技术环境下，审计人员能搜集到的审计证据大多是电子证据( 秦荣生，2013) 。电子证据本身就非常复杂，云计算技术使获取有因果关系的证据更加困难。审计人员应从长期依赖因果关系来搜集和发现审计证据，转变成为利用相关关系来搜集和发现审计证据。 ( 五) 大数据、云计算技术促进高效数据审计的发展
直到今天，审计人员的数字审计技术依然建立在精准的基础上。这种思维方式适用于掌握“小数据量”的情况，因为需要分析的数据很少，所以审计人员必须尽可能精准地量化被审计单位的业务。随着大数据、云计算技术成为日常生活中的一部分，审计人员应开始从一个比以前更大、更全面的角度来理解被审计单位，将“样本= 总体”植入审计人员的思维中。相比依赖于小数据和精确性的时代，大数据更强调数据的完整性和混杂性，帮助审计人员进一步接近事情的真相，“局部”和“精确”将不再是审计人员追求的目标，审计人员追求的是事物的“全貌”和“高效”。围绕大数据，一批新兴的数据挖掘、数据存储、数据处理与分析技术将不断涌现。在实施审计时，审计人员应利用大数据、云计算技术，使用分布式拓朴结构、云数据库、联网审计、数据挖掘等新型的技术手段和工具，以提高审计的效率。
( 六) 大数据、云计算技术促进大数据审计师的发展
大数据、云计算时代，数据的真实、可靠是大数据发挥作用的前提。这客观上要求专业人员来对大数据的真实性、可靠性进行鉴证，审计人员可以扮演这种角色，或者称为数据审计师。能对大数据真实性、可靠性进行鉴证的数据审计师应该是计算机科学、数学、统计学和审计学领域的专家，他们应有大数据分析和预测的评估能力。数据审计师应恪守公正的立场和严守保密的原则，面对海量的数据和纷繁复杂的相关关系，选取分析和预测工具，以及解读数据及数据计算结果是否真实、可靠。一旦出现争议，数据审计师有权审查与分析结果相关的运算法则、统计方法以及数据采集、挖掘和处理过程。数据审计师的出现是为满足以市场为导向来解决数据真实性、可靠性问题的需求，这与20 世纪初期为了处理财务信息虚假而出现的审计人员一样，都是为了满足新需求而出现的。
三、大数据挖掘
数据的价值只有通过数据挖掘才能从低价值密度的数据中发现其潜在价值，而大数据挖掘技术的实现离不开云计算技术。在业界，全球著名的Google、EMC、惠普、IBM、微软等互联网公司都已经意识到大数据挖掘的重要意义。上述IT 巨头们纷纷通过收购大数据分析公司，进行技术整合，希望从大数据中挖掘更多的商业价值。数据挖掘通常需要遍历训练数据获得相关的统计信息，用于求解或优化模型参数，在大规模数据上进行频繁的数据访问需要耗费大量运算时间。数据挖掘领域长期受益于并行算法和架构的使用，使得性能逐渐提升。过去15 年来，效果尤其显著。试图将这些进步结合起来，并且提炼。GPU 平台从并行上得到的性能提升十分显著。这些GPU 平台由于采用并行架构，使用并行编程方法，使得计算能力呈几何级数增长。即便是图形处理、游戏编程是公认的复杂，它们也从并行化受益颇多。研究显示数据挖掘、图遍历、有限状态机是并行化未来的热门方向。MapReduce 框架已经被证明是提升GPU 运行数据挖掘算法性能的重要工具。D.Luo 等提出一种非平凡的策略用来并行一系列数据挖掘与数据挖掘问题，包括一类分类SVM 和两类分类SVM，非负最小二乘问题，及L1 正则化回归(lasso)问题。由此得到的乘法算法，可以被直截了当地在如MapReduce 和CUDA 的并行计算环境中实现。K. Shim 在MapReduce 框架下，讨论如何设计高MapReduce 算法，对当前一些基于MapReduce 的数据挖掘和数据挖掘算法进行归纳总结，以便进行大数据的分析。Junbo Zhang 等提出一种新的大数据挖掘技术，即利用MapRedue 实现并行的基于粗糙集的知识获取算法，还提出了下一步的研究方向，即集中于用基于并行技术的粗糙集算法处理非结构化数据。F.Gao 提出了一种新的近似算法使基于核的数据挖掘算法可以有效的处理大规模数据集。当前的基于核的数据挖掘算法由于需要计算核矩阵面临着可伸缩性问题，计算核矩阵需要O(N2 ) 的时间和空间复杂度来计算和存储。该算法计算核矩阵时大幅度降低计算和内存开销，而且并没有明显影响结果的精确度。此外，通过折中结果的一些精度可以控制近似水平。它独立于随后使用的数据挖掘算法并且可以被它们使用。为了阐明近似算法的效果，在其上开发了一个变种的谱聚类算法，此外设计了一个所提出算法的基于MapReduce 的实现。在合成和真实数据集上的实验结果显示，所提出的算法可以获得显著的时间和空间节省。Christian Kaiser 等还利用MapReduce 框架分布式实现了训练一系列核函数学习机，该方法适用于基于核的分类和回归。Christian Kaiser 还介绍了一种扩展版的区域到点建模方法，来适应来自空间区域的大量数据。Yael Ben-Haim 研究了三种MapReduce 实现架构下并行决策树分类算法的设计, 并在Phoenix 共享内存架构上对SPRINT 算法进行了具体的并行实现。F. Yan 考虑了潜在狄利克雷分配(LDA) 的两种推理方法——塌缩吉布斯采样(collapsed Gibbssampling，CGS)和塌缩变分贝叶斯推理(collapsedvariational Bayesian，CVB)在GPU 上的并行化问题。为解决GPU 上的有限内存限制问题，F. Yan 提出一种能有效降低内存开销的新颖数据划分方案。这种划分方案也能平衡多重处理器的计算开销，并能容易地避免内存访问冲突。他们使用数据流来处理超大的数据集。大量实验表明F. Yan 的并行推理方法得到的LDA 模型一贯地具有与串行推理方法相同的预测能力;但在一个有30 个多核处理器的GPU 上，CGS 方法得到了26倍的加速，CVB 方法得到了196 倍的加速。他们提出的划分方案和数据流方式使他们的方法在有更多多重处理器时可伸缩，而且可被作为通用技术来并行其它数据挖掘模型。Bao-Liang Lu 提出了一种并行的支持向量机，称为最小最大模块化网络(M3)，它是基“分而治之”的思想解决大规模问题的有效的学习算法。针对异构云中进行大数据分析服务的并行化问题G.Jung 提出了最大覆盖装箱算法来决定系统中多少节点、哪些节点应该应用于大数据分析的并行执行。这种方法可以使大数据进行分配使得各个计算节点可以同步的结束计算，并且使数据块的传输可以和上一个块的计算进行重叠来节省时间。实验表明，这种方法比其他的方法可以提高大约60% 的性能。在分布式系统方面，Cheng 等人 提出一个面向大规模可伸缩数据分析的可伸缩的分布式系统——GLADE。GLADE 通过用户自定义聚合(UDA)接口并且在输入数据上有效地运行来进行数据分析。文章从两个方面来论证了系统的有效性。第一，文章展示了如何使用一系列分析功能来完成数据处理。第二，文章将GLADE 与两种不同类型的系统进行比较：一个用UDA 进行改良的关系型数据库(PostgreSQL)和MapReduce(Hadoop)。然后从运行结果、伸缩性以及运行时间上对不同类型的系统进行了比较。
四、总结 大数据的超大容量自然需要容量大，速度快，安全的存储，满足这种要求的存储离不开云计算。高速产生的大数据只有通过云计算的方式才能在可等待的时间内对其进行处理。同时，云计算是提高对大数据的分析与理解能力的一个可行方案。大数据的价值也只有通
过数据挖掘才能从低价值密度的数据中发现其潜在价值，而大数据挖掘技术的实现离不开云计算技术。总之，云计算是大数据处理的核心支撑技术，是大数据挖掘的主流方式。没有互联网，就没有虚拟化技术为核心的云计算技术，没有云计算就没有大数据处理的支撑技术。
参考文献
秦荣生. 大数据、云计算技术对审计的影响研究 何清. 大数据与云计算
张为民. 云计算: 深刻改变未来
文峰. 云计算与云审计———关于未来审计的概念与框架的一些思考
Big data and cloud computing Big Data (Big Data) in recent years, more and more occasions, the concept is mentioned more and more people, And often, and cloud computing together, what is the relationship between cloud computing and big data become a hot topic. this Special report contains the following four aspects: 1. The value of big data; 2. Big data challenge; 3. Big data research; 4. Cloud computing is the mainstream way of data mining. Through this report on our understanding of big data, as well as the understanding of the value of big data, large data processing and mining technology, large data mainly focus on "data", provide the technology and methods of data collection, mining and analysis; Cloud computing technology focusing on "computing", providing IT solutions. Big data and cloud computing technology can promote the development of continuous audit mode, the overall audit mode of application, the audit results of comprehensive application, the application of related evidence, the development of efficient data audit and the development of large data auditor. Strengthen big data and cloud computing technology measures of audit applications include set up long-term development strategy, accelerate the construction of the audit regulations, establish a platform, to strengthen research and development and improve the utilization ability. Keywords: big data cloud computing data mining impact on the audit policy Suggestions
第二篇：大数据与云计算的安全
云计算和大数据结合的安全问题
摘要：云计算的浪潮还没有过去，大数据时代已经到来。在对大数据的含义、特征、影响和意义进行系统总结的基础上，分析了大数据与云计算的关系，论述大数据和云计算的安全将给消费者和电商带来更加高效的转型。
关键字：云计算，大数据，电商
所谓通信，最简单的理解，也是最基本的理解，就是人与人沟通的方法。无论是现在的电话，还是网络，解决的最基本的问题，实际还是人与人的沟通。现代通信技术，就是随着科技的不断发展，如何采用最新的技术来不断优化通信的各种方式，让人与人的沟通变得更为便捷，有效。随着计算机技术的广泛普及与计算机远程信息处理应用的发展，云计算和大数据应运而生。、
一、大数据的介绍
大数据(Big Data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法通过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯(在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样的捷径，而采用所有数据的方法)。大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域，目前人们谈论最多的是大数据技术和大数据应用。大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。它的特色在于对海量数据的挖掘，但它必须依托云计算的分布式处理、分布式数据库、云存储和或虚拟化技术。
二、云计算的介绍
云计算是一种基于互联网的计算方式，通过这种方式，共享的软硬件资源和信息可以按需求提供给计算机和其他设备。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。几年之内,云计算已从新兴技术发展成为当今的热点技术。云计算从节约成本的工具到盈利的推动器，从ISP(网络服务提供商)到电信企业，已然成功地从内置的IT 系统演变成公共的服务。然而人们担心他们在云端的数据安全。正因为此，用户应该期待看到更安全的应用程序和技术上来。许多新的加密技术，安全协议，在未来会越来越多的呈现出来。其中的安全性和遵从性的问题仍然是阻碍云计算发展的重要原因。
三、二者联系和安全策略
近几年由于科技的不断发展，3G网络视频通话，移动互联网、物联网、智能手机，这些科技产品都一一涌现，充斥着我们的生活，确实互联网给我们的生活带来了方便，但同时恶意软件，黑客入侵电脑，这些人为的破坏，也影响着个人或者企业的信息安全。在这个时候新技术云计算的出现，就给传统互联网信息安全带来了希望，但同时也面临解决新的安全挑战。
多种方式应对云计算安全挑战—云计算给信息安全带来的挑战包括：第一，传统安全产品无法应对云计算环境下的网络结构和协议。在云计算环境中，可能前端的Web服务器和后端的数据库都处在一个物理服务器上，这样它们之间的网络交互直接用虚拟交换机就可以了，数据根本不经过物理交换机，如果不到物理交换机，则信息安全设备拿不到它的数据，导致对其访问控制、审计、攻击的检测，都没办法实现。第二，云计算技术特性带来一些新的安全需求。云安全架构的一个关键特点是云服务提供商所在的等级越低，云服务用户自己所要承担的安全能力和管理职责就越多。数据安全包括：数据传输、数据隔离、数据残留。应用安全包括：终端用户安全、SaaS安全、PaaS安全、IaaS安全。虚拟化安全包括：虚拟化软件、虚拟服务器等。第三，云计算环境对安全产品的计算性能提出了非常大的挑战。目前保护信息安全产品的性能已经远远落后于网络设备。大数据将会化解APT(高级持续威胁)危机—近一两年，APT攻击是非常热门的话题。简单的说就是黑客组织针对一个有价值的目标，进行长期、缓慢的，但是非常有技术含量的攻击。我们知道未来大数据和云计算将推动下一代安全数据的创新。大数据和云计算扩展了整个IT领域的计算和存储资源，给信息安全提供了信息平台和大数据处理的技术支撑，为整个信息安全产品的革新创造了一个更大的可能性。 其中数据加密就是对数据信息的重新组合，只有在收发双方的基础上才能够还原网络信息，数据加密技术能够确保校园网内部信息数据的安全性与完整性，并具有一定的保密作用，从某种意义上来说它是其他安全技术的基本保证，经过加密的网络数据能够确保数据在收录、传输、使用及转换中不被第三方得知数据信息内容。
综上所述：大数据是本，云计算是术，移动互联网是用。三者紧密结合在一起才能让整个信息安全系统更有效的服务现代人们的生活。在大数据环境下，即高流量、巨大海量数据、高可靠性。更多需要通过检测、分析、发现及预警的安全保障体系，实现可靠性、可用性与安全性的完美结合;利用大数据分析，可提前、精确、有效地发现已知或未知的安全威胁;可实现数据访问的记录、分析及取证;可实现有效、精确地发现隐私数据的检测分析与防护。安全检测与大数据技术结合，利用云计算能力及大数据处理机制实现信息访问和审计，安全威胁智能的发现，隐私数据的保护。
参考文献：《大数据时代》--[英]维克托·迈尔-舍恩伯格(ViktorMayer-Schönberger)--浙江人民出版社
电子图书：《云计算安全指南》--Ronald L.Krutz ， Russell Dean Vines(著) 张立强 (译)
姓名：孙飞龙
学号：12901337
学院：信息工程学院
第三篇：云计算助推大数据价值的深挖
在云计算、大数据中我们慢慢的变得成熟，对云计算我们也有了新的认识。
大数据成为
网络时代重要资产
用户主导，依托互联网，按需服务，带来了无所不在的互联网的在线搜索，实时交互，时刻发生的即时协同。从图灵计算到网络计算，云计算的交互性远远超过图灵机。
水、电、交通等实现了社会化、集约化和专业化。后工业革命时期，云计算正在让信息服务实现社会化、集约化和专业化。信息技术成为全社会公共的基础设施，成为物联网的基石。服务器托管和积累形成的服务器只是暂时现象，现在很多大的互联网公司的数据中心都有定制高端服务器群，这些服务器群的新架构将成为高端服务器的产业链，满足大数据挖掘的需求。
云的最大特点是不确定，云计算最根本的问题就是处理不确定性。云和所有权无关，不论是私有云、公有云、混合云，每朵云里都可能涉及到用户的隐私或行业的秘密。安全问题已不再是云计算的拦路虎，云安全、数据安全实际上是服务和被服务方与信任管理的问题，加强政府监管是最基本的保证。
之前，位置服务受到大家的关注。位置服务是最接地气的云计算，现在每个人都在享受摇一摇的生活，这就是一个很大的见证。之前我曾提到过计算机发展到这个世纪以来，存储导致了我们的搜索时代，现在的互联网又导致了我们的交互时代。
物联网的代表是车联网，物联网的最高境界则是机器人联网。移动互联网和云计算环境造就了大数据时代，产业前沿延伸，新兴商业涌现，传统意义的学科兼并、产业兼并、商业兼并日趋模糊，包括机器人在内的许多“四不像”的技术、产品、商业、产业正成为创新的主要形态，正是它们造就了现代社会的时代特征。
“互联网+”已成为一个热词，“互联网+”的基础首先是“移动宽带+”。没有宽带城市，没有宽带的移动通信，没有3G、4G、5G的发展就不会有“互联网+”。宽带是互联网的基础，有了“互联网+”，才有软件即服务、平台即服务、基础设施即服务为核心基础的“云计算+”，有了“云计算+”，才有物联网。有了物联网，就会派生更多大数据，进而将带领现在整个科学进入数据密集型的科学，产生“人工智能+”。
“互联网+”将使全社会各行各业都要面临互联网的需求， 为此我们一定要加强自身的建设。只有这样我们才能不负重望，把“互联网+”承担起来。
云计算盘活
大数据资产发现价值
大数据标志着一个新时代的到来。这个时代的特征不只追求丰富的物质资源，也不只是互联网带来的方便的、多样化的信息服务，同时还包含区别于物质的数据资源的价值发现和价值转换，以及由大数据带来的精神和文化方面的崭新现象。
大数据来源于人类测量、记录和分析世界的渴望和无尽的追求。随着信息技术，尤其是传感器、通信、计算机和互联网技术的迅猛发展和广泛应用，人类获取数据的手段越来越多，速度大大加快，成本急剧降低，层次和尺度更为精细，大数据已成为网络时代人类社会的重要资产。
大数据仅仅是一个客观存在，就其本身而言，既不是科学，也不是技术，各行各业的大数据都以103的数量级增长。从大数据中发现价值是人类几千年来认知世界和社会的基本能力，也是我们必须面对的一个普遍性的问题。认知科学要有所突破，首先要在大数据上，聚类上有所突破。人类走过了几千年的实验科学，几百年的理论科学，几十年的计算科学之后，迎来了数据密集型的科学新时代。适应科学、理论科学、计算科学时代，大定律、大模型、小数据，数据是围着模型和程序转的。今天模型和程序要围着数据转，现在是大数据、小模型、小定律交叉学科，即使是同一个癌症病，每个患者的表现也都不一样，所以要关注对小数据的研究、小群体的研究，因此创新表现在创新交叉学科的形式化理论上。要更多地关注小众，关注由下而上，而不是做特例发表论文。
云计算要充分确定大数据中的不确定性和价值的隐蔽性，跨界构建基于统计的可变视角和可变尺寸的全新发展状态空间，大数据将驱动云计算架构中心的演化和进化，满足及时发现大数据价值的需求。
云计算支撑
机器人认知和机器人联网
互联网、云计算、物联网和大数据可以有力的支撑机器人如何说、如何看、如何想。在“互联网+”、“云计算+”、“大数据+”的形态下，利用“云+端”的形态已经孕育太多的机器人雏形。例如导航，我们可以选择林志玲的声音或者郭德纲的声音进行导航。
所以，云服务机器人将来会更多地出现在社会的各个生活层面，例如超市的语音导游导购机器人、微博健康助手机器人、论文投稿推荐机器人、高考机器人、机器人交警等。机器人撰稿也已经发生了，机器人宠物则是一个新的发现，我们甚至可以对机器人宠物进行各种性格的设定。语言、文本、歌曲、剧本如果都能输入给机器人，让机器人变得有情感、动作、语音，我们就会发现研发语言和图像丰富，头脑复杂、四肢动作简单的特定认知领域的云机器人，这样的机器人的智商和情商更容易取得小众的共识，比如人脸识别机器人、聊天机器人、机器人诗人等。
我们这十年来做了机器的价值脑的研发工作，把情绪扣除，把性格、动作、长期记忆、短期记忆，学习和思维，这些主要部分进行物化，通过感知和深脑的认知，推进更深层次的行动和感知。此外，我们不单单提倡要计算，如果一个人不能遗忘就没有智能的表现，没有遗忘就没有智能，遗忘是人类智能的表现。我们记忆中要进行抽象，把记忆、计算和交互三位一体，我们可以利用人脑中的地图，根据动机检验路径规划，搁在当前的记忆时空，形成决策，控制小脑，完成驾驶过程。这让我们深深体会到IT行业一定要跟汽车行业紧密结合，我们希望构造一个机器驾驶脑，通过感知认知行动，再感知，再认知，再行动循环反复，这就是我们基本的智能驾驶方案。
这样的驾驶脑跟云计算怎么结合?我们最近成立了云计算组，希望将来在汽车上装一个无人机，肉眼看不清的东西可以通过无人机看见。我们还可通过云感知来感知更大的空间，通过云搜索得到更好、更新的地图，通过云计算和群体智能得到事故险情、路口记忆等。
云计算的产业链将曾经相隔的微电子、计算机、通信、软件、家电、穿戴设备、汽车、机器人等产业融合为三大板块。云上形形色色的数据中心、计算中心和服务中心、异构层叠的网络、以产品为中心的产业链方式，已经转变为以服务为中心的利益攸关方的相互渗透、协商共赢方式，云服务提供商正在成为产业链的主角。我们要更加关注客户体验和大数据价值发现，更加关注以车联网为代表的物联网，更加关注机器人认知或机器人联网。
(以上内容系根据李德毅院士在“2015第七届中国云计算大会”上的演讲整理而成)
第四篇：大数据时代基于云计算的数据监护研究论文
在大数据时代，为了更好地管理和利用科学数据，计算机图灵奖获得者Jim Gray于2002年提出了数据监护(Data Curation)的概念。十余年来，数据监护一直是国内外信息资源管理领域的热点议题，研究主题集中在数据监护的内容、发展策略、合作模式、职业教育、成功实践等领域。111鉴于云计算能够为数据监护提供强有力的技术支撑，如云计算快速提供资源的能力有助于辅助完成资源密集型数据监护任务，网络化云服务有利于实现数据监护的协同工作，基于云计算开展数据监护引起了国外信息资源管理学界和业界的广泛关注。本文对基于云计算的数据监护问题进行探讨，希望对我国的数据监护工作有所借鉴。
一、数据监护工作流程
数据监护是为了确保数据当前的使用目的，并能用于未来再发现及再利用，从数据产生伊始即对其进行管理和完善的活动。121为了有效指导数据监护实践，提高数据监护效率，一些数据监护机构和研究者对数据监护过程进行了概念化，提出了相应的数据监护生命周期模型。本文基于英国数据监护中心的DCC数据监护生命周期模型13与王芳和慎金花提出的细化的数据监护生命周期模型，梳理出了数据监护工作流程，见图1。数据监护工作流程由4个阶段、11个业务环节组成，涵盖了数据监护的所有必要阶段和核心工作。
数据收集阶段：数据采集。数据采集是数据监护活动的起点，指根据采集政策，从数据创建者、档案馆、知识库或数据中心等接收数据。元数据创建。为采集到的数据创建管理、描述、结构和技术元数据，以便进行数据管理和数据维护，以及实现数据共享。
数据处理阶段：数据评价和选择。评估数据并为长期监护和保存选择数据。数据评价和选择直接关系到科学数据库的质量，并且带有一定的主观性。数据剔除。根据成文的政策、指引或法律要求，处理未成为长期监护和保存对象的数据，将这些数据转移到其他档案馆、知识库、数据中心或其他保管机构。根据法律要求，有些数据会被安全销毁。数据导入。将经过选择的数据传送至档案馆、知识库、数据中心或其他数据监护机构。为保证数据的可用性，在导入数据之前，应进行去重、交叉注释、格式认证等。数据迁移。根据存储环境的需求，或者为了确保数据对硬件和软件退化的抗扰性，改换数据的格式、存储系统、存储类型。
数据保存阶段：数据长期保存。长期保存须确保数据的可信性、可靠性、可用性和完整性。长期保存包括数据清洗、数据验证、分配保存元数据、分配表征信息，保证数据具备可接受的数据结构和文件格式。数据存储。遵守相关标准，选择科学的组织方式和安全的存储介质组织并存储数据。数据存储既可以保证数据的安全性，又便于数据被随时使用和加工处理。
数据利用阶段：数据获取。采用适当的标准发布数据，并执行严格的访问控制和验证程序，保证用户安全、准确的访问和获取数据。数据复用。制订数据复用规则，在不违反知识产权的前提下，提供数据复制、链接、引用等服务。数据转换。根据原始数据创建新数据。例如，通过转换格式、建立子集等途径，创建新数据。
二、云计算为数据监护提供支撑
云计算作为分布式计算、网络存储、负载均衡、热备份冗余等计算机和网络技术融合的产物，具有超大规模、虚拟化、通用性、高可扩展性等诸多特点。云计算的特点与数据监护的需求非常契合，可以为数据监护提供强有力的技术支撑。
弹性服务：云计算服务的规模可快速伸缩，以自动适应业务负载的动态变化。用户使用的云计算资源与业务的实际需求相一致，避免了因为资源供需不匹配而导致的服务质量下降或资源浪费。161数据监护的数据剔除和数据迁移等任务不需要持续不断的执行，属偶发性活动。云计算的弹性服务能够很好地满足偶发性数据监护活动的资源调用需求。
按需服务：云计算以服务的形式为用户提供基础设施、存储空间、应用程序等，并能够根据用户的需求，自动分配各种资源。17用户也可以根据需要在云中部署所需的应用程序。云计算的按需服务为数据监护中需要依赖主观意识完成的任务，如元数据创建、数据评价和选择提供了极大的便利。
泛在接入：用户通过互联网可以随时随地利用云计算服务。数据用户越来越多的使用笔记本电脑、智能手机、平板电脑，将数据监护业务流程转移至云，能够极大地方便用户上传、访问和下载数据。数据监护的数据采集、数据获取和数据复用等业务环节，可以从云计算的这一特点中受益。
服务外包：用户进行数据处理所需的计算资源价格昂贵，将提供计算资源的业务委托给云服务商，既能够节省开支，又能够使用户专注于自己的核心工作。云服务商为了利益最大化，保持最优竞争力，都会迅速应对技术变革，以更低的价格提供更快的处理器和更大的存储空间。云计算服务外包的特点使数据监护机构将部分信息技术支持业务委托给云服务商，以获得更低廉的价格和更优质的服务成为可能。
三、基于云计算的数据监护模型
云计算提供从硬件设施到应用软件的多层次服务。根据服务的对象和功能差异可以将云计算划分为三种服务模式：基础设施即服务(IaaS)、平台即服务(PaaS)、软件即服务(SaaS);根据租用云计算的用户对数据和环境的控制权，可以将云计算划分为公有云、私有云和混合云等部署模型。本文根据数据监护不同业务阶段的工作内容和技术需求，并结合云计算的服务模式和部署模型，构建了基于云计算的数据监护模型，见图2。下面分别从数据监护的云计算服务模式和部署模型两个方面分析基于云计算的数据监护模型。
(一)数据监护的云计算服务模式
IaaS层。IaaS提供基础设施部署服务。IaaS通过虚拟化技术整合服务器、存储设备、网络资源、高性能计算集群等物理资源，构建全局统一的动态虚拟化资源池。基于云计算的数据监护模型的IaaS层为上层云计算服务提供海量硬件资源，实现硬件资源的按需酉己置。
PaaS层。PaaS是云计算应用程序运行环境，提供应用程序部署与管理服务。PaaS不仅能够实现海量数据的存储，而且能够提供面向海量数据的分析处理功能。在基于云计算的数据监护模型的PaaS层，数据监护机构使用云供应商的软件工具和开发语言，开发数据收集和数据处理所需的各种应用程序，实现应用程序的多元化和定制化服务，并将科学数据保存于海量数据存储系统。
SaaS层。SaaS提供以服务为形式的应用程序。SaaS允许用户使用部署于供应商云基础设施上的应用程序，用户也可以根据需求向供应商定制应用程序。在基于云计算的数据监护模型的SaaS层，数据监护机构通过应用程序向用户提供数据利用服务，实现数据共享和科研协作。
(二)数据监护的云计算部署模型
数据监护的各个阶段分别面向数据监护方和数据使用方，对应不同的数据存取、处理等操作权限，因此需要采用相适应的云计算部署模型。数据监护过程中的数据利用阶段位于SaaS层，为用户提供方便高效的数据获取等服务，而公有云面向一般公众提供敏捷弹性服务的特点与数据利用阶段的功能需求相契合。用户能够通过网络浏览器像使用个人电脑中的软件那样使用公有云的应用程序，实现应用程序的泛在访问。因此，基于云计算的数据监护模型的SaaS层应采用公有云部署模型。数据收集和数据处理工作要求云计算提供量身定制的服务功能和非常稳定的服务质量，而数据保存工作要求云计算能够切实保障数据安全。私有云部署在用户数据中心的防火墙内，能够提供对数据、安全性和服务质量的最有效控制，而且不会冲击用户已有的业务流程。因此，基于云计算的数据监护模型的PaaS层适宜采用私有云部署模型。上述公有云和私有云的基础设施共同构成了基于云计算的数据监护模型的IaaS层，并且公有云和私有云具有统一的接口标准，保证服务的无缝迁移，即IaaS层采用混合云部署模型。
四、基于云计算的数据监护案例
SRF项目：英国南安普顿大学的SRF项目，针对科学研究工作集成了许多已有的协作型数据管理工具，并将这些工具部署到一个共享的虚拟云平台上，以SaaS的方式提供服务。SRF工具最大的特点是能够在网络日志中自动或者手工创建和共享实验数据。例如，SRF的一款代理软件能够植入实验仪器和计算机，自动抽取仪器在实验过程中记录的数据，并转换为XML格式，然后以博客的形式发布以实现协作复用。通过博客发布平台实现实验过程、实验数据、实验分析的互联，组织实验数据记录，构建实验、实验数据、实验设备之间的关联关系。在数据监护生命周期中，SRF工具主要用于接收和抽取数据，以保证实验数据在上传至云的过程中会被格式化成标准格式。
Data Flow项目：牛津大学的Data Flow项目，旨在创建免费的云托管Data Stage和Data Bank，以便于管理、保存、发布研究数据。其中，Data Stage以在用户电脑上运行映射驱动器的方式，提供研究组水平的、安全的“本地”文件管理环境。另外，Data Stage还提供数据的网络获取和在线存储服务，用户通过访问控制程序的认证之后，即可以访问私人、共享、协作、公众和公共数据目录。Data Bank是一种虚拟化的、基于云部署的机构研究数据仓储。机构可以选择将Data Bank部署在Eduserv教育云或者机构自己的基础设施中。Data Bank还具备包括数据抽取、储存、长期保存、访问在内的一系列数据监护功能。
Kindura项目：伦敦国王学院的Kindura项目，是一个基于混合云部署模型的科学数据管理试点项目，提供基于存储的数据管理服务和基于计算的数据处理服务。Kindura项目通过DuraSpace推出的托管云服务一DuraCloud，将本地服务与各种云服务相衔接。用户利用DuraCloud提供的统一界面，即可享受一站式数据存取服务。Kindura项目通过部署于服务器上的规则引擎，以及面向规则的集成数据管理系统(iRODS)的规则库，决定具体数据存储在本地还是存储于云端：二进制对象存储在云端，元数据和Fedora对象存储在本地。l9Kindura项目证明，混合云能够有效节省数据监护成本，并且能够更加高效地利用本地存储库，提升数据处理能力。
东南大学AMS-02项目：东南大学为大型国际合作项目AMS-02的数据监护工作构建的云计算平台，提供IaaS、PaaS、SaaS服务。该云计算平台架构如图3所示。在IaaS层，云计算基础设施由3500颗CPU内核和500TB高速存储设备构成，提供虚拟机和物理机的按需分配，并且自动配置操作系统、科学计算函数库等运行环境。在PaaS层，数据分析处理平台提供大规模计算能力和海量数据存储能力;应用开发环境为AMS-02数据分析处理应用提供编程接口。在SaaS层，以服务的形式部署云计算应用程序，用户通过访问AMS-02应用，可以获取原始科学数据以及数据处理分析结果。云计算通过超级计算模式，整合大量的存储、计算、带宽等资源，为数据监护提供了经济高效的解决方案。国内的数据监护尚处于起步阶段，对基于云计算的数据监护进行深入的理论探讨和实践探索，有助于推动我国的数据监护实现跨越式发展。
第五篇：未来10年大数据云计算的联动新变革
据说比尔·盖茨当年遇到一个乞丐讨钱，比尔·盖茨递过一张10美元的钞票，这个乞丐非常感谢，给了比尔·盖茨一张卡片，上面印着这个乞丐的网络邮箱，这让比尔??盖茨很吃惊，于是一回公司，就着手制订新的互联网战略，这种战略一直延续至今。不过，今天的互联网，又有了新变化。
面对新的变化，金蝶国际董事局主席徐少春说，当下，新兴技术风起云涌，云技术浪潮席卷全球，以社交网络、移动互联网、云计算、大数据等为代表的新兴互联网技术，正在颠覆以往的模式。
刚刚在顺义新城落户的北京金蝶软件园里，新建了国内首个融合云时代新技术与实践的云管理体验中心。这个体验中心首次将社交网络、移动互联网、云计算和大数据等新兴技术融合在一起。在这个体验中心，你或许能提前领略到未来生活的便捷，感受生活在“云端”的不同。
金蝶中国副总裁郝登胜告诉记者，现在我们到了一个颠覆传统的时代，这是因为新技术带来的新想法，带给人们新的感受、新的消费习惯。
有“互联网女皇”之称的前摩根士丹利全球科技研究组联席领导人玛丽·米克最近离开了曾令无数人羡慕的职位，开始了在云技术时代的独立创业，也正是看到了这个新时代的新机会。
过去几十年，计算机与互联网，给整个世界带来了巨大的改变。计算机的出现，让我们把信息总量不断地叠加和累积，互联网则促使信息交换速率成几何倍的增长。未来十年，大数据、云计算、社交网络等相互联动，将会带来新的改变。
对于未来这种云端生活，玛丽·米克说过，人们的生活将变得更好，因为他们将能以非常低的成本获取所有信息，娱乐服务变得更加便宜，人们能更容易地获得帮助，更容易地趋吉避凶。