从大数据技术参考模型角度梳理大数据标准
大数据标准化背景
面对目前数量、速度和多样性日益增长的信息资产,大数据技术通过各种解决方案、体系、结构、工具和平台集合,能有效应对大数据场景。 因为数据是大数据的基础,对于大数据标准化,除了继承数据标准化的内容外,有其特别关注的方面。 比如:定义大数据专业词汇,增加不同类型的数据结构如何标准化,解决海量多样化数据集的存储计算架构,定义并标识敏感数据,研究海量数据脱敏及数据隐私等。
在大数据领域,标准研制机构也陆续研制和发布了一系列标准,如何有效将这些标准梳理并串接起来,需要构建一套框架。 2017年11月发布的《金融业标准化体系建设发展规划(2016-2020年)》就明确提出要构建金融大数据标准体系。以下通过大数据技术参考模型角度来梳理大数据系列标准。
大数据技术参考模型
《信息技术大数据技术参考模型》是2018年7月实施的国家标准。此标准规范了大数据的基础通用模型,包括大数据角色、活动和功能组件以及它们之间的关系。
大数据参考模型总体上可以概括为“一个概念体系、二个价值链维度”。 “一个概念体系”是指它为大数据参考模型中使用的概念提供了一个构件层级分类体系,即“角色—活动—功能组件”,用于描述参考架构中的逻辑构件及其关系。“二个价值链维度”分别为“IT价值链”和“信息价值链”。其中“IT价值链”反映的是大数据作为一种新兴数据应用范式对IT技术产生的新需求所带来的价值;“信息价值链”反映的是大数据作为一种数据科学方法论,对数据到知识的处理过程中所实现的信息流价值。
大数据标准梳理
概念体系角度:上述参考模型的角色、活动和组件涉及大数据概念,需要大数据基础标准来定义。 比如最新发布的大数据标准《信息技术大数据术语》《信息技术大数据技术参考模型》等。
信息价值维度:包括数据提供者、大数据应用提供者和数据消费者角色。 其中大数据应用提供者包括收集、预处理、分析、可视化、访问活动。提供信息价值服务需要业务类标准规范数据,也需要针对大数据从产生到其使用终止的数据生命周期制定标准。业务标准比如《征信数据元》《统计数据和元数据交换(SDMX)》《银行间市场基础数据元》等。
IT价值链维度:包括大数据框架提供者、大数据应用提供者、系统协调者角色。 其中大数据框架提供者包括基础设施、平台、处理框架活动。IT基础服务需要制订大数据技术类的标准,包括大数据平台相关工具和产品规范,以及针对不同功能层次系统和技术架构系统之间的互联和互操作机制。比如说工信部正在制订的《信息技术大数据系统通用规范》通过对照大数据技术参考模型来设计规范测试内容。
框架的外围支撑:需要制订相应的大数据管理类标准和安全类标准为上述角色活动提供支撑。
管理模块:数据管理能力标准对于金融机构很有意义。 比如国际管理标准方面,国外有DAMA(数据管理协会)组织致力于研究此领域;GB/T36073-2018《数据管理能力成熟度评估模型》标准已发布,是我国首个数据管理领域的国家标准。
安全和隐私模块:安全类大数据标准需贯穿于整个数据生命周期的各个阶段,指导行业在数据采集、传输、存储、整合、共享、应用、归档与销毁等阶段进行安全技术防护和安全管理。 在大数据安全方面国标《信息安全技术大数据服务安全能力要求》已经发布,规定了大数据服务提供者应具有的相关基础安全能力和数据生命周期相关的数据服务安全能力。
来源商业新知:https://www.shangyexinzhi.com/Article/details/id-63835/

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
首发福利!全球第一开源ERP Odoo系统架构部署指南 电子书分享
引言 Odoo,以前叫OpenERP,是比利时Odoo S.A.公司开发的一个企业应用软件套件,开源套件包括一个企业应用快速开发平台,以及几千个Odoo及第三方开发的企业应用模块。Odoo适用于各种规模的企业应用。 Odoo功能模块涵盖了各方面的企业应用:CRM、订单处理(销售订单和采购订单)、电子商务、MRP、财务、库存、门店零售、项目管理等等。 Odoo是完全的模块化结构,初始安装时候,系统没有加载任何应用模块,而后可以根据需要安装对应的功能模块。 Odoo是世界上安装数量最多,用户数量最多的企业ERP系统。Odoo全球有800多个合作伙伴,为100多个国家,200多万使用者提供技术服务。中国有30多家合作公司,为几千家应用Odoo的企业提供技术服务。 Odoo在世界上获得过很多大奖,包括Info World杂志的“Bossies (Best of Open Source Software awards) 世界最佳开源软件大奖”,“Deloitte Technology Fast50 Benelux”德勤快公司50佳等。 Odoo软件可以从这里免费下载安装:http://www.o...
- 下一篇
分布式scrapy_redis源码总结,及其架构
分布式scrapy的组件源码介绍完了,大致总结一下,相关组件目录如下: 《RedisSpider的调度队列实现过程及其源码》 《scrapy中scrapy_redis分布式内置pipeline源码及其工作原理》 《scrapy分布式调度源码及其实现过程》 《scrapy分布式Spider源码分析及实现过程》 《scrapy分布式去重组件源码及其实现过程》 《scrapy_redis中序列化源码及其在程序设计中的应用》 《scrapy_redis分布式组件Connection源码解读及工作原理》 其架构如图: 在对比scrapy架构: 在架构上scrapy_redis比scrapy多了一个中介Redis,正是通过Redis实现的去重和数据储存,同时scrapy_redis实现了四个组件的重写,Scheduler(调度)、Duplication Filt
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- Linux系统CentOS6、CentOS7手动修改IP地址
- Red5直播服务器,属于Java语言的直播服务器
- Docker安装Oracle12C,快速搭建Oracle学习环境
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- CentOS7安装Docker,走上虚拟化容器引擎之路
- CentOS6,7,8上安装Nginx,支持https2.0的开启