大数据时代下,DBA的角色发生了什么变化?
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》
数据库管理员(DBA)的职能已扩展到数据管理、基础架构管理以及工作负载和SLA管理上。作为大数据战略的一部分,DBA的角色又是如何变化的呢?
数据管理
- 为成为数据管理专家而努力。虽然SQL数据库可以扩展以处理大数据,但数据库并不是***解决方案。DBA正在预算方面做努力,在预算范围内,以***的成本满足SLA。
- 出现数据ops概念。数据管理和数据治理。数据操作是团队的一部分,在收集和创建数据时共享目标、协作工作。使用自动化来挤压延迟、采取最合适的敏捷方案以提高提高效率。
- 管理、治理和软件交付。维护数据库模型和模式。在大数据中,从定义明确的转换到应用程序和工程师之间的协同工作,一切都是具有探索性的。
- 虽然开发人员认为不需要数据管理,但为了后续的分析数据,DBA们仍需要进行数据管理。
- DBA从管理数据库转变为跨多个系统的数据工程师。他们关注的是数据如何从一个数据库转移到另一个数据库、数据的消耗、数据的调整以及数据流程的管理,对于数据自动分配和执行来说这些都至关重要。
- DBA已经不再是单单只关注像SQLServer和Oracle这样的个人产品,而是必须要处理好企业大数据实施方案的执行问题。
基础架构和平台
DBA的角色已经被推到***线上。对IT栈的演变负责。基础设施和平台的认定范围变的更大。
- 这是一个不容忽视的大挑战,应用程序所使用的数据库技术不再归于DBA的控制范围内。迁移到云上的比重越大,DBA的控制范围就越小。数据越来越多,同时也在不断推出新的数据库。管理数据基础设施、提出大数据的解决喝整合方案、掌握如何归档和处理灾难恢复的技能。AWS似乎将云中的数据库选项绑定到了DBA上。DBA仍然需要在备份、灾难恢复和海量存储上多费心思。值得在备份和存储方面进行更具战略性的思考。
- DBA比以往更重要,因此他们也需要学习:如何有效地集成存储在RDBMS系统中的遗留数据,同时大数据技术也是必不可少的。
- 由于大数据改变了数据架构,DBA的存在可能需要不是立竿见影的,但确实是实实在在的。新技术为数据管理提供了新的契机,使DBA和数据模式打开了一个新时代。
- 事实上,没有数据模式和Hadoop的NoSQL平台,以及支持它的一系列工具,会越来越多地部署在企业中。现在开发人员在数据本身的设计上有更多的影响力。
- 这在扩大DBA的专业范围上起到了推动作用:必须学习NoSQL系统的机制和操作;掌握管理Hadoop集群的能力;实施“无需存储数据存储数据”的方法。
- 而且,NoSQL的灵活性是以数据完整性为代价,这种模型的难度更高。目前,许多公司的网络应用程序的数据完整性已经给灵活性让位了。
- DBA必须适应设计和开发的风格变化。DBA也需要运行几个关系系统,并且认真学习NoSQL技术,对指导公司做出的部署负责。将来可能会划分出几种类型的DBA:局限于技术的;传统的管理员;努力学习并适应管理大数据的新技术和工具的。
- DBA始终是整个软件开发流程的一部分。在目前的环境中,更是需要所有的DBA都参与到整个开发过程中,尤其是规划、范围界定和原型设计部分。DBA能为企业提供有关数据基础设施功能、所需变更成本、潜在性能影响以及总体容量规划等项目的具体信息。
- 鉴于对数据的使用要求,更多特定数据平台范围之外的技术正被用于实施解决方案。DBA不仅仅要专注于SQL、DDL等,还要掌握JavaScript、Java、.NET等技术。DBA会越来越精通应用容器化和系统容器化(Docker、Rkt、Linux容器等)。DBA压力会越来越大,一旦与其他角色联系到一起,数据及其管理都是穿插着多条生命线,因此需要掌握的技术就不断增加。
- 成功采用大数据策略的企业,早已经把DBA转变为新型数据基础管理员,包括NoSQL数据库和Hadoop在内。与开发数据管理逻辑的数据开发人员、处理和准备数据的数据科学家以及业务线上的数据分析人员相结合,DBA是操作大数据战略的重要部分。现在,DBA依赖于更智能的工具,这些工具可以管理并报告各种数据库和技术框架的数据基础架构和流程。
工作负载和SLA
- 工作结构消失了。有类型更为广泛的问题需要解决。要实现混合的环境在流和批处理中交付新的工作负载,同时又能跟得上变化。
- 现在,有许多不在数据库中管理数据,而是将数据组织成超级管理数据的数据生态系统一部分的做法。了解通信、链接的速度、安全性以及如何将来源汇集在一起。
- 比起以往,现在有更多的技术管理。理解并管理一个数据仓库的技术方法有10到20种。为了能给问题选择出正确的技术,便于管理,规模较大的企业正在考虑将搜索、NoSQL、Hadoop和GPU技术标准化。
- 从一个拥有数据库领域知识的系统管理员,到现在需要掌握处理数据集成、非结构化数据、自然语言处理、文档存储和统计。工具集可以能够简化工作。关系数据库不会有大的进展,但大数据存储会有新变化。
- 大数据时代,DBA的角色发生了重大变化。在很长一段时间里,DBA仅仅只是一个系统管理员。他们的确有SQL知识、知道该如何优化SQL,以及对构建数据库的理解,但他们并没有主动参与到数据库系统里数据的特定用途上。
- 大数据DBA对数据和非关系数据模型的应用程序有更深入的了解,并且必须具备执行数据集成的知识,这些数据集超出了用于商业智能(BI)应用的传统提取——转换——加载过程(ETL)。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
数据化,从现实世界向虚拟世界的大迁徙,是一切的归宿
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》 未来不知道是否“已来”,但可以肯定的是,未来已经越来越清晰可见。在人工智能、云计算和大数据的驱动下,也许有天,人的意识可能会以数据的形式存在。看起来,“数据化”是商业机会,但也会是人类的宿命。 现在可能是未来人们回望的产物,我们之所以以为看到了未来的轮廓,是因为未来正在凝视我们。 对于我们的先祖来说,未来如上帝一般,不向世人显露形迹。山顶洞人不会想到冶炼铁器,唐朝人料不到世间会出现汽车这种到处跑的钢铁怪兽,文艺复兴时哪怕最聪明的脑袋也没法预见互联网会笼罩世界,人体会多出来一个名叫手机的器官。 诺查丹玛斯之类的所谓预言,都被证明荒诞不经。现在与未来隔绝不通,所以《登幽州台歌》才会成为千古绝唱:“前不见古人,后不见来者。念天地之悠悠,独怆然而涕下。” 但在如今这个时代,人人都在谈论未来,现在反而显得无足轻重。虽然距离过于遥远,没法伸手掀掉未来头上的面纱,但就像摩西看到耶和华的背影那样,很多人都有这样一种感觉(或者说错觉):未来已经影影绰绰地出现在了自己的视野范围之内——用马云的一本书名来形容,就是“未来已来”。 当然,...
- 下一篇
2018,怎么缓解大数据的尴尬
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》 关于大数据,最近爆出的一个笑话:在电影业一次内部行业会议上,一位巨无霸级别的电影业发言人说:通过数据挖掘,我们发现不同观众的相关卖品偏好。比如《芳华》的观众比《战狼Ⅱ》观众消费了更多的热饮。这些都是之前我们不知道的,也是无法预测的。 上面这样一个基于两部影片的观影数据分析得出来的结论,看似客观正确,实则因为模型不完善(缺少观影季节的考量)等原因,而闹出笑话。 在近期,我们在给金融科技做盘点的时候,就发现大数据自身就是一个“尴尬”。我们找遍新闻,也没有发现这个词有什么特别值得说道的地方。只能靠着一点时政资料凑齐了这个关键词的盘点。 2017年,大数据如此重要,却又如此没有料。 大数据模型不完善,是因为根基不牢大数据一直不温不火,和他的发展缺陷有很大的关系。虽然大家极力看好它,但未能迎来行业的爆发。 和一些做大数据的朋友聊天,他们甚至会很直白地吐槽自己家的数据模型。 “那些所谓的数据模型之类的鬼东西,你只需瞄上一眼,就能头疼一整天。模型里的数据巨大无比,线索逻辑纷繁复杂。很多数据看似很重要却极其无聊,对结果判断毫无意义...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- 设置Eclipse缩进为4个空格,增强代码规范
- Hadoop3单机部署,实现最简伪集群
- SpringBoot2整合Redis,开启缓存,提高访问速度
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- SpringBoot2配置默认Tomcat设置,开启更多高级功能