《小赢数仓开发手册1》是一份由大数据平台部制定的专业数仓开发指南,旨在为小赢科技的数仓建设提供明确的操作流程和规范。该手册由邹波签发,自2019年3月8日发布,并经历了多次修订以不断完善内容。 第一章前言部分,明确了文档的目的和适用对象。文档的目的是为了规范和指导小赢数仓的开发工作,确保数据仓库的高效、稳定和标准化建设。适用对象主要是参与数仓开发的工程师和技术团队,他们可以通过这份手册学习和遵循相应的开发流程和规范。 1.1.1 文档目的主要强调了建立统一的开发标准,提高数据处理效率,降低维护成本,以及提升数据的准确性和一致性。1.1.2 适用对象不仅包括数仓的开发者,也包括对数仓有使用需求的业务分析人员,以及需要监控数仓运行状况的运维团队。 第二章系统简介,对小赢的大数据数仓体系进行了概述,阐述了数仓的整体架构和功能。2.1 部分介绍了小赢科技在大数据领域如何构建其数据仓库,涵盖了数据的采集、存储、处理、分析等多个环节。2.2 部分通过架构图的形式直观展示了数仓的层次结构和各个组件之间的关系,帮助读者理解系统的整体运作逻辑。 第三章是命名规范,这是数仓开发中的基础也是关键部分。3.1 数仓基本命名规范确保了所有数据和脚本的命名都有统一的标准,便于理解和管理。3.1.1 数据分层代码命名规范规定了不同层级的数据(如ODS、DW、DWD等)应如何命名,以便于识别数据来源和处理阶段。3.1.2 数仓各层脚本命名规范则对ETL过程中的脚本命名做了详细规定,增强了脚本的可读性和可追溯性。 后续章节可能涉及到的内容可能包括数据模型设计、ETL过程、数据质量控制、性能优化、安全策略以及问题排查等方面,这些内容对于构建和维护一个高效、可靠的小赢数仓至关重要。通过遵循《小赢数仓开发手册1》中的指导,开发团队能够确保数仓的建设和运营符合最佳实践,满足业务需求,并为公司的数据分析和决策支持提供坚实的基础。
2025-04-02 17:48:44 1.73MB
1
主要包含中信银行数仓开发的系列流程资料: 1、ETL单元开发及测试 2、业务场景梳理 3、风险管理系统 4、集成测试 5、数仓模型 6、详细设计文档 7、项目排期分工 8、银行业务学习 9、源系统数据分析 10、总体设计文档 适合转行以及从业与金融行业的数据开发,ETL及金融数据分析人员,资料比较齐全清晰,有相应的案例以及对应的代码,资料可以帮助我们梳理银行数据仓库各个层之间的工作,以及银行数仓工作的核心工作内容,了解银行源系统数据样式,数据抽取加工的过程,银行主题划分,以及各个主题间各自的关联方式等。
1
├─01.视频 │  │      02--数据仓库基础理论--场景互动:数仓为何而来.avi │  │      04--数据仓库基础理论--OLTP、OLAP系统.avi │  │      05--数据仓库基础理论--数据仓库、数据库区别.avi │  │      06--数据仓库基础理论--数据仓库、数据集市区别.avi │  │      07--数据仓库基础理论--数仓分层思想与架构(ODS、DW、DA).avi │  │      09--场景分析案例--美团点评酒旅数仓建设实践.avi │  │      14--Apache Hive--Hive和MySQL的对比.avi │  │      20--Apache Hive--安装部署--本地模式--Hive安装配置.avi │  │      21--Apache Hive--安装部署--远程模式安装与metastore服务启动.avi │  │      25--Apache Hive--初体验1--Hive使用起来和MySQL差不多吗?.avi │  │       │  
2022-04-15 18:11:31 3KB hive big data hadoop
数据开发过程中利用以下脚本工具,可以大大提高开发效率、帮助解决很多常见的开发问题,可以根据实际情况稍加更改使用
2022-04-06 02:51:29 14KB 数据仓库 hive
1
手把手视频详细讲解项目开发全过程,需要的小伙伴自行百度网盘下载,链接见附件,永久有效。 课程简介 通过知识点讲解、案例实战、理论概念讲解来学习基于AWS云平台实现云上数仓的构建和开发。 课程亮点 1,全程基于AWS云平台 2,对AWS相关技术进行深入学习 3,实操配合案例,更容易理解 4,包含BI开发的内容 适用人群 1、对大数据技术感兴趣的在校生及应届毕业生。 2、大数据从业者,希望进一步提升个人技能,拓展职业路线。 3、对大数据行业感兴趣的相关人员。 4、对AWS云平台感兴趣的相关人员。 课程内容 一、云平台的基础概念 二、AWS 常见服务简介 三、课程前期准备 四、AWS RDS - 快速入门 五、ETL工具- AWS Glue 六、云上Hadoop - AWS EMR 七、云上数仓Redshift - QuickStart 八、云上数仓Redshift - 数据库开发指南 九、数仓理论简介 十、基于AWS云服务的数仓业务开发 十一、BI - SuperSet 十二、AWS BI - QuickSight
2021-10-18 20:10:42 75B AWS hadoop Redshift 数据仓库
excel形式,2021全国的省市区,可直接导入mysql,数仓,面对Java,数仓开发
2021-03-23 20:07:56 90KB Java开发 mysql导入 数仓开发
1