克里斯托弗·奥达(Christophe Oudar) 在 teads工程 ·10小时前 与DBT的BigQuery摄入时间分区和分区副本 自2017年以来,我们一直在Teads引言,我们一直使用BigQuery(BQ)来构建我们的分析堆栈。正如上一篇文章所述,我们设计了使用DatamArts中汇总的多个卷起的管道。他们中的大多数围绕时间序列,因此基于时间的分区通常是最合适的方法。… 数据工程 7分钟阅读 数据工程 7分钟阅读
Saeed Mohajeryami,博士 在 迈向数据科学 ·4小时前 只有会员 GraphQL和机器学习:如何更好地构建更智能的应用程序 在本文中,我想探索GraphQL和机器学习的激动人心的世界!我想展示这两种技术如何共同创建强大,灵活和可扩展的应用程序。首先,让我们谈谈GraphQl。如果您不熟悉它,则GraphQl是一种查询语言…… 数据工程 8分钟阅读 数据工程 8分钟阅读
酒吧爸爸 ·10小时前 数据工程项目 - 创建一个投资平台 - 第3部分 在该系列的最后一部分中,Ill创建了使用Blask的投资平台应用程序。我将从Google BigQuery获取数据,并不断将其提供给应用程序。在上一篇文章中,我建立了一条ETL管道,该管道每天运行一次,并将新的外汇数据加载到BigQuery中。作为… 数据工程 9分钟阅读 数据工程 9分钟阅读
Rui Carvalho ·10小时前 Azure Meetup-Lat-lat最终创新在Azure SQL中 昨天,我正在观看Dallas&Austin Azure Meetup的Microsoft Azure数据团队的主要建筑师Bob Ward,在那里他谈到了去年在SQL Server和Azure SQL以及一些最新的一些新创新中关于这一点的创新 数据工程 4分钟阅读 数据工程 4分钟阅读
阿米特·辛格·拉索尔(Amit Singh Rathore) 在 开发天才 ·12小时前 datahub - 简介 最受信任的开源数据目录现代数据团队具有更多的数据和角色。数据格局很复杂。在工具周围如此之多的数据和复杂性时,很难找到正确的数据。相信这一发现甚至更难。这创造了需要新的… 数据工程 7分钟阅读 数据工程 7分钟阅读
kaiiii ·4小时前 ETL用于马来西亚在线购物网站Lazada的网络数据。 使用Python和Beautiful Soup套餐从本地网站上研究数据提取,转换和加载(ETL)的逐步指南。完整的源代码可以在Google Colab上找到。Google Colaboration编辑说明colab.research.google.com什么是etl?ETL(提取,转换和负载)是一个数据集成过程,它整合了来自众多…的数据 数据工程 7分钟阅读 数据工程 7分钟阅读
Gaurav Goel 在 极客文化 ·1天前 只有会员 nulls - 数据库的原始罪 处理nulls的数据建模 - 空值代表属性的未知或丢失数据。包含许多具有无效值的属性(列)的表可能表明数据库设计差。在查询数据库以了解特定业务方案时,未知值成为痛苦。零值可能引起问题的某些情况是:分析和报告 数据工程 4分钟阅读 数据工程 4分钟阅读
Sarvar Nadaf ·8小时前 AWS数据湖 嘿,这再次是萨尔瓦·纳达夫(Sarvar Nadaf),他是卢克斯特(Luxoft)的高级开发人员,在IT领域拥有专业工作的七年经验。我为全球各个客户的云操作(Azure和AWS),DataOps,无服务器分析,数据分析和DEVOPS等多种技术工作。什么是数据湖?数据湖是… 数据工程 6分钟阅读 数据工程 6分钟阅读
马特·温达尔登 ·6小时前 数据收看状态 介绍会议/虚拟会议2023 Edition昨天通过数据会议开始了,该会议是由本·罗戈扬(Ben Rogojan)在他的西雅图数据Guy YouTube频道上主持的。这是我的主要发言人的主要收入,并且是整体上强大的内容覆盖范围。想要观看的人的自助分析... 数据工程 4分钟阅读 数据工程 4分钟阅读
异性恋技术 ·1天前 只有会员 设计为SQL查询的源数据的增量数据提取 本文的目的是描述我们如何设计和实现从源查询中提取数据的增量ETL管道(而不是表的常见情况)并将其加载到目标表中。通常,大多数人在设计增量数据方面知识渊博…… 数据工程 5分钟阅读 数据工程 5分钟阅读