您的位置:首页 >财经 > 聚焦 > 正文

云栖大会众星云集,万里牛陈晓亮解读实时数仓的演进之路

来源:财讯界 时间:2021-11-04 15:24:21

10月19日,2021杭州·云栖大会在杭州云栖小镇正式开幕。云栖大会是科技界最重要的盛会,已成为中国科技创新成果全景展示和数字智能新品发布的平台。

作为深耕SAAS行业十年的服务商,万里牛已经取得了很多可喜的成果。万里牛大数据架构师陈晓亮在10月22日的“大数据平台技术论坛”上,以“万里牛实时数仓的演进之路”为题进行了主题演讲,重点分享应用Holo来建设实时数仓的经验,并对行业发展进行了分析。

客户需要什么,我们就解决什么

我们的客户主要是从事电商、跨境电商和实体门店的企业客户。

“我们总结了用户在业务过程中的一些数据痛点。首先,业务环节产生了大量数据却不会通过数据分析来反哺业务;其次,实际工作中数据还是会被人工统计,不仅难以保证准确性而且费时费力,与市场节奏脱节;再者,辛苦做出的数据分析被用于改进业务流程后,却无法快速评估实际产生效果。”

用户的诉求促使我们快速建设数据中台,实现各个应用数据之间的融合,消除了数据孤岛,同时构建了基础的离线数据仓库,并且通过数据资产管理系统和可视化系统的配合实现了零代码交互式数据分析能力。

数据中台2.0时代:HOLO建立实时数仓

“2.0时代我们增加了实时数仓能力,技术选型采用了比较成熟的Lambda架构。数据同步部分多了Binlog通道,实时将数据传输到Holo建立实时数仓。同时Holo还承担联邦查询和实时数据引擎的任务。目前万里牛的数据中台架构,能够为客户提供实时和准实时数据分析能力。同时数据中台接手部分场景下业务系统的数据查询服务,利用Holo的能力开放ODS层数据访问。”

阿里云&万里牛,未来皆有可能

随着大数据发展进入普惠期,数据仓库、数据湖、湖仓一体成为业内热点,离线实时一体化数仓和新一代基于云原生的湖仓一体平台成为行业趋势。阿里云提供的一系列大数据组件,让万里牛数据团队如虎添翼。

“万里牛也联合了阿里巴巴聚石塔特别技术小组全程为万里牛商家保驾护航。双十一前夕万里牛已提前对所有服务器、数据库和网络带宽进行了弹性升级扩容,配置相比平时提升10倍以上。万里牛系统已经完成聚石塔压测认证,单店铺最大可承受数据压力超过300万单/天。同时万里牛与阿里云成立专项小组进行驻场,保障大促期间系统的响应和处理速度,降低风险系数。”

相关阅读