新闻资讯

热门推荐

咨询热线

咨询热线 400-8325-007

热门标签

| 当前位置: 首页 >> 新闻资讯 >> 行业动态

泉州猎头公司:5-10年大数据技术发展趋势分析

发布时间:2023-06-04 13:54:41 作者:珏佳泉州猎头公司 点击次数:288

在大数据应用需求的驱动下,计算技术体系正在重构,从“以计算为中心”向“以数据为中心”转型,在新的计算技术体系下,一些基础理论和核心技术问题亟待破解。本文提出新型大数据系统技术发展的十大趋势。

趋势一:数据与应用进一步分离,实现数据要素化。

数据一开始是依附于具体应用的。数据库技术的出现使得数据与应用实现了第一次分离。数据存储在数据库中,不再依赖具体的应用而存在。数据要素化的需求将推动数据与应用进一步分离,数据不再依赖于具体的业务场景,数据以独立的形态存在于数据库中,并通过数据服务为不同的业务场景提供服务。例如,人口数据库可以为全部的涉及人口信息的业务场景提供服务。

趋势二:数联网成为数字化时代的新型信息基础设施。

将形成一套完整的数联网基础软件理论、系统软件架构、关键技术体系,包括:针对数联网软件以数据为中心的特点,需要从复杂网络和复杂系统等复杂性理论出发,研究数联网软件的结构组成、行为模式和外在性质;针对数联网软件的数据传存算一体化需求,需要采用数据互操作技术和软件定义思想,研究数联网软件运行机理、体系结构与关键机制;针对数联网软件跨层级、跨地域、跨系统运行带来的可靠性、可用性、安全性等质量挑战,需要以数据驱动为手段,研究数联网环境下保障服务质量与保护质量的原理、机制与方法。

趋势三:从单域到跨域数据管理,促进数据要素的共享与协同。

以数据为中心的计算的核心目标是数据价值的最大化,关键要打破"数据孤岛",实现数据要素的高效共享与协同。传统数据管理局限在单一企业、业务、数据中心等内部,未来大数据管理将从传统的单域模式发展到跨域模式,跨越空间域、管辖域和信任域。但跨空间域会造成网络时延较高且不稳定;跨管辖域会造成数据与应用异构,数据管理复杂度大大提升;跨信任域则要求具备容忍各类恶意错误的能力。跨域带来的这些变化将为大数据技术带来新的机遇和挑战。

趋势四:大数据管理与处理系统体系结构异构化日趋明显。

体系结构创新进入"黄金十年",围绕不同数据处理特征的新型加速器(GPU、TPU、APU等各种xPU)层出不穷,存储器件快速发展,高速固态硬盘(solid state disk,SSD)、新型非易失内存、新型计算网络等成为大数据处理系统的重要硬件配置,计算与存储的融合趋势明显。为了最大限度地发挥数据管理能力,大数据管理系统在存储、网络、计算等硬件上最大化挖掘新型硬件的处理能力。在处理上针对不同数据处理需求,配置不同计算与存储硬件成为大数据处理系统的主流架构。数据驱动的计算架构快速发展,以数据流为中心的系统结构成为重要的系统设计理念。

趋势五:扩展性优先设计到性能优先设计。

数据规模急剧增长,大数据处理需求越来越走向深度价值挖掘,数据处理计算愈发密集,数据管理与处理的成本成为大数据管理与处理系统的重要考量因素,传统“扩展性优先”的大数据处理系统设计将会被“以性能优先”的系统设计代替。Spark、Flink等系统在大数据处理生态系统中的占有率明显体现了这一趋势,图计算(图加速器、图计算框架等)、深度学习框架(Tensorflow、PyTorch等)等领域专用大数据处理系统的崛起也是这一系统设计理念在技术生态上的表现。智能化数据管理、近似计算等新兴管理和处理方法成为性能优先设计的重要技术手段。

趋势六:近数处理成为突破大数据处理系统性能瓶颈的重要途径。

存算一体类体系结构技术快速发展,新型SSD等新型存储赢家功能愈发丰富,分布式计算系统边缘能力迅速发展。以上3种体系结构技术发展为大数据近数处理提供了良好的发展契机。近数处理体现在“存储上移”(如在GPU、现场可编程门阵列(field-programmable gate array,FPGA)等计算设备上集成HBM)、"算力下沉"(如在DRAM内存或者SSD存储设备上集成处理能力)、“分布扩展”(如在云、边、端分布式处理数据,降低数据处理中心压力)3个方面。

趋势七:从单域单模态分析到多域多模态融合,实现广谱关联计算。

传统大数据分析技术大多仅聚焦于单一来源、单一模态的数据,而实际应用中往往要对来自不同来源、不同模态(如文本、图像、音视频等)的数据进行联合分析,从而实现不同来源与不同模态数据之间的信息互补。此外,诸多领域的大数据具有重要的时空属性,当前研究对这类信息的利用还不够充分。因此,探究能够跨模态关联、跨时空关联的广谱关联技术是大数据分析处理的一个重要趋势。

趋势八:从聚焦关联到探究因果,实现分析结果可解释。

如何让大数据分析模型更加稳定且具有可解释性,从而使其分析结果对于用户而言变得更加可信、更加可用最好还能具备一定的可回溯性,是大数据分析面临的巨大挑战。虽然因果推断与可解释性分析技术取得了一定进展,但总体来说尚处于起步阶段,离实际应用还有很长一段距离。因此,从关联到因果也是未来大数据分析技术的重要研究方向。

趋势九:高能效大数据技术是可持续发展的关键。

全球大数据量的持续高速增长,以及“碳达峰、碳中和”目标的提出,要求大数据技术栈必须走低碳高效、可持续发展的路线。例如云数据管理系统以资源共享、节能高效为主要特点,将是未来大数据管理的主要基础形态;在云数据管理基础上的全国一体化高能效大数据管理,由于算力和数据要素的大规模调度与流通,可以进一步成为未来大数据管理的主要方向,形成低碳发展新格局。

趋势十:大数据标准规范和以开源社区为核心的软硬件生态系统将成为发展的重点。

随着大数据在各个领域应用的迅速普及,标准化需求将不断增长,与大数据流动融合、质量评估,以及与行业、领域应用密切相关的大数据标准将成为发展重点。开源社区在大数据软硬件生态建设中的地位不断加强,对开源社区的主导权争夺将成为各国技术、产品和市场竞争的重点。


本文标签

相关文章