数据湖
1. 背景 1.1 整体架构 腾讯广告系统中的日志数据流,按照时效性可划分为实时和离线,实时日志通过消息队列供下游消费使用,离线日志需要保存下来,供下游准实时(分钟级)计算任务,离线(小时级/天级/Adhoc)分析处理和问题排查等基于日志的业务场景。因此,我们开发了一系列的日志落地处理模块,包括消息
业务背景 作业帮成立于2015年,一直致力于用科技手段助力教育普惠,运用人工智能、大数据等前沿技术,为学生、老师、家长提供更高效的学习、教育解决方案,智能硬件产品等。作为大数据中台架构团队,我们一直探索利用有限的资源,较低的开发维护成本、高时效的数据更新和查询,为业务团队提供基础支持。 问题&痛点
在2022第三届银行业数字化创新(中国)峰会上,“华信奖”获奖名单正式公布,腾讯云大数据团队凭借领先的技术优势、丰富的金融科技服务经验,斩获“年度金融科技创新之星”,这也意味着腾讯云大数据在金融科技行业的应用创新与建设能力得到了权威认可。 据了解,“华信奖”组委会成员主要来自上海浦东国际金融学会
随着湖仓技术的持续演进,数据仓库和数据湖方案在快速演进和弥补自身缺陷的同时,二者之间的边界也逐渐淡化,湖上建仓、仓中数据降冷到湖、物化视图、冷热融合查询等方案也越来越多的成为各个公司的标配,各大厂商也陆续提出了自己的湖仓融合方案,通过湖仓融合技术来提升业务使用体验的同时也降低了业务的使用成本。 本论
作者:腾讯大数据 高级工程师 陈九天 导读: 腾讯天穹是协同腾讯内各 BG 大数据能力而生的 Oteam,作为腾讯大数据领域的代名词,旨在拉通大数据各个技术组件,打造一个具有统一技术栈的公司级大数据平台体系。从底层数据接入、数据存储、资源管理、计算引擎、作业调度,到上层数据治理及数据应用等多个环节,
国际权威市场研究机构IDC近日发布了**《IDC PeerScape:金融领域中数据管理分析服务最佳实践案例》**报告,腾讯云大数据TBDS和某股份制银行的存算分离数据湖项目凭借其领先的技术架构、强大的数据能力以及全面的国产化适配,荣获该报告的最佳实践案例。这一荣誉证明了腾讯云在金融领域数据管理和分
6 月 28 日,腾讯云发布了行业首个大数据高性能计算引擎—— Meson ,通过多层级、通用化、智能化等优化理念和技术,为大数据通用计算性能带来体系化的提升。 目前, Meson 已登陆腾讯云数据湖、检索分析服务、云数据仓库三大业务线,为企业在湖仓一体分析、向量检索、海量数据离线计算等业务场景带来
腾讯大数据TBDS 8月重磅推出了的新一代元数据湖管理系统,提供面向大数据湖仓分析、AI智能的统一元数据管理和治理。翻译一下就是:元数据管理的边界,我们给扩展以及统一了! 01、元数据管理发展阶段 大数据发展多年以来,在元数据上整体可以分成三个阶段。 第一阶段是以Hive Metastore为代表的
导读 本次分享主题为 TBDS 新一代数据湖仓助力企业数据架构升级。文中将介绍 TBDS 新一代数据湖仓产品的能力升级,以及 TBDS 新一代产品在企业数据架构实时化、云原生化升级中的实践。 主要包括以下几大部分: TBDS 新一代数据湖仓架构 全新架构 全新体验 环境全面适配 企业数据架构升级实践