处理空缺值方法汇总-浙大大数据讲解

浙大的数据仓库内容还挺扎实，尤其对三大核心应用——信息、多维、数据挖掘，讲得还算清楚。不是那种浮于表面的科普，而是偏工程实践向的干货。像OLAP操作的切片、切块、下钻这些，讲得不啰嗦但有细节，适合做可视化或 BI 系统的同学看看。配套的参考链接也蛮实用，想深入了解Kylin或者Oracle的，点进去就能找到实战案例。

示例：利用DMQL语言定义雪花模式，创建立方体销售雪花[时间、商品、分支、位置]：销售额 = 美元销售总额之和，平均销售额 = 美元销售总额的平均数，销售单位数 = 总数定义维度时间为（时间键、星期几、月份、季度、年份）定义维度商品为（商品键、商品名称、品牌、类型、供应商（供应商键、供应商类型））定义维度分支为（分支键、分支名称、分支类型）定义维度位置为（位置键、街道、城市（城市键、省或州、国家））。

浙大的概念分层讲得还挺清楚，尤其是关于location 维的分层结构，思路蛮清晰，适合做地理位置数据建模的参考。像是从all到Europe、North_America再到具体城市，比如Toronto、Frankfurt，一层一层拆得比较自然。大数据里，这种分层维度建模常见，比如你在做 BI 报表，用星型或雪花模型设计表结构的时候，这种结构就好用。能让数据从全局到局部都比较顺。如果你对维度建模不太熟，可以顺手看看这些资料，像这篇离散化与概念分层助力大数据理解就讲了不少常见的思路，配合浙大的更容易上手。还有一篇讲得挺细的使用 DMQL 定义雪花模式，里面用的也是分层概念，和 location 维这

数据集成与模式集成 数据集成是指将来自多个数据源的数据整合到一个统一的存储中，而模式集成则是整合不同数据源的元数据，为数据集成提供基础。 实体识别与数据冲突 实体识别是指匹配来自不同数据源的现实世界实体，例如将数据源A中的“cust-id”与数据源B中的“customer_no”匹配。 在数据集成过程中，需要检测并解决数据值的冲突。同一实体在不同数据源中的属性值可能存在差异，其原因可能是不同的数据表示方式或度量标准等。

数据挖掘系统的分类涵盖了一般功能、描述性数据挖掘和预测性数据挖掘等不同视角。根据挖掘的数据库类型、知识类型、技术使用和应用等多个维度进行分类。

如果你对大数据和数据挖掘感兴趣，可以看看浙大关于这块的，讲得比较清楚，内容挺丰富的。尤其是关于数据仓库和OLAP的部分，详细了这些技术是怎么工作的，以及它们在大数据中的应用。要是你对数据预感到好奇，中也有不少干货，教你如何优化数据消减和复杂的数据集。它把这些理论和实际案例结合得蛮好，给你一个全方位的视角。除此之外，相关的相关文章也挺有，像是数据仓库与OLAP概述，还有深入的Hive数据操作，都是不错的参考资料。如果你对数据感兴趣，绝对能从这些资源中学到不少东西。，如果你想了解大数据领域的基本概念和技术应用，浙大的这篇是个不错的起点，完全值得一看。

事实星座模式示例：以销售数据为例 销售事实表（Sales Fact Table） | 字段名 | 描述 ||---|---|| time_key | 时间维度键 || item_key | 商品维度键 || branch_key | 分支机构维度键 || location_key | 地理位置维度键 || units_sold | 销售数量 || dollars_sold | 销售额 || avg_sales | 平均销售额 | 运输事实表（Shipping Fact Table） | 字段名 | 描述 ||---|---|| time_key | 时间维度键 || item_key

探索性选择方法（td）涉及到2d个可能的子集。t逐步向前选择，从空属性集开始，选择原属性集中最好的属性，并将其添加到该集合中，重复该步骤。t逐步向后删除，从整个属性集开始，每一步都删除当前属性集中的最坏属性。t向前选择和向后删除相结合，每一步选择一个最好的属性，并删除一个最坏的属性。可以使用临界值来确定上述三种方法的结束条件。t最终形成归纳树。

数据立方体是大数据中一个实用的概念，像一个多维的方体，每一维代表着不同的数据维度。比如时间、地点、供应商等都可以作为维度来构建不同的视角，理解和数据。浙大的数据立方体，结合了实际应用场景，挺适合想深入了解数据和的你。你可以通过它来掌握如何从多维角度解析海量数据，像是搞清楚某产品在不同时间、地点和供应商间的表现，起来会更有深度。除此之外，浙大关于数据立方体的有效计算也是一个不错的学习资源，了如何用优化算法提高计算效率。如果你对 SSAS（SQL Server Analysis Services）也有兴趣，可以参考一下它的开发和部署技巧。，数据立方体是大数据的基础之一，对数据建模、查询优化等方面有