技术创新浪潮总是向前,国产大数据平台接近金融核心。
10000元能买多少份基金,看起来是一道简单的数学问题,实则是一道复杂的IT难题。
一家基金公司可能有数百只基金,每天有成千上万笔买入、卖出的操作,或是直销或是第三方代销平台,加上复杂的计算规则,要保证账目一丝不差,最终由哪个系统来做如此之大的数据计算?答案是基金公司的大数据TA(Transfer Agent,过户代理)系统。
鹏华基金的TA系统有点不一样。对于TA这类与核心业务紧密相关的系统,企业IT人员大多遵循一个规则,不要试图去修改那些没有坏或你认为不够好的东西,如果要修,只去修改出问题的部分,尤其是在注重安全稳定的金融行业。
但是鹏华基金却成为基金行业首个实现从服务器、操作系统、大数据平台以及TA全栈国产化替换的公司。鹏华基金为什么这么“不听劝”?
数据暴涨,基金公司“算账”难
时代的落点与技术的发展,交汇在一处。成立于1998年,鹏华基金是业内老十家基金公司之一,经历了国内基金行业完整的发展历程。截至2023年3月,鹏华基金公司管理资产总规模达到11317亿元,294只公募基金、13只全国社保投资组合、6只基本养老保险投资组合。
鹏华基金对于技术和产业的嗅觉非但不“老”,还很敢于尝新。过去几年,鹏华基金等公司广泛接入到各种互联网渠道之后,基民数量大大增加,基金公司的数据量级也随之暴涨。
以给投资者“算账”的TA系统为例,当一个投资者申购10000元基金时,TA系统就要根据申请日的基金净值,计算投资者应得的基金份额、应该支付的相关费用和确定份额的注册日期等。
同样,在投资者赎回基金份额时,TA系统也要计算应得的资金和支付相关的费用,其它一些更加复杂的业务,如基金转换、分红、 转托管等同样由TA来处理,过去一个小时就可以完成的清算,变为三个小时,甚至到六个小时才能完成,大大影响对前端业务的支撑。
相对应地,当基金公司汇入了各种第三方渠道的数据,如何发挥这些数据的价值,就涉及到了营销数据中心的功能。
基金公司希望结合多年来积累的大量历史数据,包括投资研究、客户信息、销售和服务、业务运营等重要数据,把数据转化为生产资料,例如使用大数据技术分析客户需求;对目标客户进行画像并分析业务流程,以达到客户增长更迅速、产品销售更精准、业务流程更高效的目的,营销数据中心也面临性能和效率瓶颈。
TA系统和营销数据中心,自然成为鹏华基金大数据平台更新迭代的问路石。
此外,从政策视角,在数字中国的大背景下, 金融行业是国家定下的8大关键行业之一,正在加速实现信息技术底层架构体系的国产化,实现软硬件的国产替换,解决金融产业关键技术环节“卡脖子”问题,以保障金融领域的全面安全。
由于历史原因,现阶段基金公司的业务系统多采用国外数据库或者海外开源大数据平台,运行在x86服务器或者小机上,随着基金行业对降本增效诉求的提升,加之国家对自主创新的重视,更换大数据平台理所当然,但怎么换,还是要慎之又慎。
显性的要求、隐性的能力
在众多基金公司之中,鹏华基金显然走得更快一步。鹏华基金一直关注大数据技术的进展,早年CDH在基金行业确实有一定的领先性,而且开源版本也为客户提供了便利,之后以云原生、存算分离、一体化、智能化为代表的新一代大数据技术的更迭,以及国产大数据平台的快速发展,腾讯云等国内厂商已经在很多层面实现了反超。
在经过一番严谨的POC测试后,腾讯大数据处理套件TBDS(Tencent Big Data Suite,TBDS)正式在鹏华基金大数据核心系统落地应用。
作为基金行业首个“吃螃蟹”的人,鹏华基金的首要诉求当然是全栈国产化下的性能提升,这已经筛选掉大部分综合实力不强的厂商,全栈国产化涉及到众多组件,在某个环节存在短板,都会影响到整体系统的性能。
迁移过程也十分重要,原有大数据系统承载了大量的关键数据,并不是简单更换一套软件,而是涉及到元数据、业务逻辑、运维监控等一系列内容,需要厂商做全盘考虑,制定完整的迁移计划,实现基于CDH的平滑迁移,降低工作量和转换时间。
自去年5月份,鹏华基金开始进行方案规划和产品验证,10月份选定腾讯大数据处理套件TBDS,随后完成业务迁移和产品部署,进入到稳定运行的阶段。
5月18日,腾讯云首期“开箱吧,腾讯云”也系统性介绍了大数据套件TBDS——TBDS是基于腾讯云大数据多年积淀与客户认知,提供安全可靠的湖仓融合方案与大数据全场景能力,集实时/离线场景高性能分析引擎、数据开发以及数据治理功能于一体,支持私有化与混合云等灵活的交付模式,全面满足企业级用户对大数据性能、数据安全、存算一体、组件的灵活度与丰富度,以及稳定性与高可用等各行业的多重要求。
开放性是TBDS的一大特性,TBDS保持了对开源社区的兼容性,其存储标准兼容开源 Hadoop 标准,使历史构建在 Hadoop 上的大数据平台可以平滑迁移,而且在硬件层面,TBDS对国产硬件也非常友好。
同时,腾讯云能够在源码层面给客户提供支持,鹏华基金过去使用了大量的事务表特性,在迁移过程中,高度兼容有效规避了不可控风险,同时大大降低迁移成本。TBDS还具备智能化运维能力,能够主动发现隐患,并做出预告警。
在平台能力上,TBDS可以帮助鹏华基金降低运营成本,降低开发门槛,提升开发敏捷度,其接入了大量TOP级的SI/ISV合作伙伴,能够以被集成的方式服务最终客户,在鹏华基金项目中,华云中盛作为战略合作伙伴起到了重要作用。
使用TBDS平台之后,鹏华基金TA系统清算耗时相对于旧生产环境节省三分之一,降低了系统清算风险,有效保证了公司业务的连续性。目前,大数据TA已稳定运行5个月,平稳支撑40多个周边金融机构系统和亿级客户的业务运作,日均交易笔数到千万级。
针对营销数据中心的改造和数据迁移也顺利进行,TBDS在Spark基础上做了大量的调优改造,使得鹏华基金营销数据中心总数据存储量较旧系统节约了48%。
在系统性能方面,新系统整体跑批耗时由原来6个多小时缩短至3.5小时,性能提升了71%。此外,新系统还实现了底层数据模型的标准化改造,有效增强了鹏华基金的数据管理能力。
一个信心支点
金融行业正在走向国产化替代的深水区,基金行业也进入到了更新换代的时间节点,由外向内,由边缘向核心,而牵扯到核心业务系统的替换,头部基金公司都在找寻清晰的路径,鹏华基金走在了行业前列,譬如TA系统,已经接近基金公司IT架构的核心位置。
腾讯云大数据副总经理张昆表示,面临新的复杂环境,金融行业的关键基础技术领域被倒逼加速国产化替代,这个趋势在大数据领域会更加明显,金融大数据平台呈现出“新五化”的趋势,包括平台国产化、云数一体化、存算分离化、数据湖仓化、融合计算化。
腾讯云大数据经过不断的技术创新突破与产品优化升级,与国外差距正在快速缩小,在一些能力维度实现了“弯道超车”,产品逐渐成熟和完善,并通过对CDH/CDP等大数据平台进行无缝、可视的迁移和升级能力,已经在金融行业成功落地了一系列标杆案例与最佳实践。
借助TBDS,金融或政企客户可以在公有云、私有云、非云化环境,根据不同需求选择合适的组件来构建数据仓库、用户画像、精准推荐、风险管控等大数据应用服务。
在国产化方面,TBDS能够从多维度支持平台的国产化需求,国产化不意味着牺牲性能和稳定性,在性能层面,腾讯运营的TBDS整体集群规模超80000个节点,单集群可支持超大规模万节点。
此外,TBDS已经全面支持国产化生态,涵盖了国产化芯片、操作系统、服务器等领域。目前,腾讯云大数据TBDS已持续为超1000家中大型客户构建国产化大数据方案。
腾讯云于金融行业的最佳实践之一,也是TBDS打动鹏华基金的重要因素。据腾讯云相关数据显示,头部商业银行中90%客户在数字化转型中均采用腾讯云的方案,其中7成应用在核心或关键业务领域;头部前十的券商全部选择腾讯云服务,其中私有云平台处于深度合作阶段;十二大保险集团中,7家选择了腾讯云。
国产化不缺技术能力,因为技术创新浪潮总是向前,大部分客户缺的是一个信心支点,鹏华基金和腾讯云对外传递出讯息:这件事,能行。
关注腾讯云大数据公众号
邀您探索数据的无限可能
点击“阅读原文”,了解相关产品最新动态
↓↓↓