大数据浪潮推动科技发展,从大数据1.0的BI/Datawarehouse时代,经历过大数据2.0的Web/APP时代,属于IOT的大数据3.0时代已然来临。近日,Analysys易观发布IOTA整体技术架构,为企业进行数字用户分析和营销贡献了新工具。
早期大数据平台利用Lambda数据架构,将收集来的数据在流式计算平台和批量数据处理离线平台进行计算,主要解决实时数据处理需求和批量离线处理需求。稳定性高、成本可控且便于晚间闲时错峰计算的Lambda架构支撑了起步时期的数据行业,但由于实时与批量计算结果不一致引起的数据口径问题、ETL批量计算在计算窗口内无法完成、数据源变化后修改开发周期长、服务器存储大等缺陷,后期的Lambda数据架构越来越无法适应飞速扩增的数据处理需求。
Lambda典型架构
在Lambda之后,Kappa架构成为主流,核心思想是通过改进流计算系统来解决数据全量处理的问题,使得实时计算和批处理过程使用同一套代码,并且只有在必要的时候才会对历史数据进行重复计算。虽然比起Lambda,Kappa结构能够将实时和离线代码统一起来,既方便维护又解决了数据口径不一致问题,但其缺点也很明显:流式处理对于历史数据的高吞吐量力不从心,开发周期长,服务器成本浪费严重。
而在IOT大潮下,智能手机、PC、智能硬件设备的计算能力越来越强,而业务需求要求数据实时响应需求能力也越来越强,过去传统的中心化、非实时化数据处理的思路已经不适应现在的大数据分析需求,Analysys易观提出新一代的大数据IOTA架构来解决上述问题,整体思路是设定标准数据模型,通过边缘计算技术把所有的计算过程分散在数据产生、“去ETL化”、计算和查询过程当中,以统一的数据模型贯穿始终,从而提高整体的预算效率,同时满足即时计算的需要,可以使用各种Ad-hoc Query来查询底层数据:
凝聚了Analysys易观团队多年心血的IOTA架构,解决了传统技术中ETL和相关开发的痛点,提高了整体数据分析效率;Ad-hoc即时查询功能使用户无需多等就能直接查询到前几秒发生的事件;边缘计算技术解除了中央端集中处理的限制,将计算过程分散到数据产生、存储和查询端,同时确保客户端传送数据时能马上进行反馈。
为了验证IOTA架构,Analysys易观也自主设计并实现了“秒算”引擎,目前支持易观内部月活5.5亿设备端同时进行计算。此外基于“秒算”引擎,Analysys易观研发出了可以独立部署在企业客户内、进行数字用户分析和营销的“易观方舟”精细化运营产品。
Analysys易观认为,在大数据3.0时代,Lambda大数据架构已经无法满足企业用户日常大数据分析和精益运营的需要,去ETL化的IOTA大数据架构才是未来。Lambda大数据架构为大数据分析行业提供了创新思维和技术基础,Analysys易观以此为基础,将继续致力于互联网企业的用户与产品运营。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
很多货主表示,在互联网时代传统的中间人找船模式效果不佳很不实用,有一些平台推陈出新,利用大数据一键智能匹配帮助货主快速找到了合适的船,海运在线平台租船找货业务就是通过数据化革新,逐渐被越来越多货主熟知并被广泛使用!
“客户需求和市场环境复杂多变,传统软件开发难以助力企业竞争力提升。“2021大数据产业生态大会上,南京数睿数据科技有限公司副总裁李争辉在接受中国软件网记者的采访时表示,“供需双方的矛盾,直指当前软件开发模式的弊端,开发流程冗杂僵化,门槛高、周期长、见效慢。急需要颠覆性的开发模式。”
数智转型融合共生,7月28日-29日,为期两天的“2021中国大数据产业生态大会”在北京成功举办。荣联作为国内领先的数字化服务提供商,参加了本次大会。
把脉中国数据智能化
2023年,几乎可以被定义为中国互联网公司的“大模型元年”。ChatGPT的全球爆红,彻底点燃国内的大模型赛道,曾经的“创业英雄”、如今的商业领袖们亲自下场,接连发布生成式人工智能产品与大模型布局。大模型火了,沉寂许久的互联网行业又有了新的“战事”。同时,大模型的快速发展也改变了云市场的现状,企业对
近日,数字化市场研究咨询机构爱分析发布了《2022爱分析·数据智能厂商全景报告》,爱分析从技术研发能力、服务客户数量、收入规模等维度对厂商进行了全面专业的评估
2022年11月18日,首个国家级大数据产业创新赛事——2022第一届中国大数据大赛圆满落幕。工业和信息化部信息技术发展司数字经济推进处处长张建伦,中国电子技术标准化研究院副院长孙文龙出席颁奖典礼并致辞
2022年11月17日,在厦门市工业和信息化局的指导下,以“数据确权”为主题的2022数据资产(厦门)论坛在厦门成功举办。本次论坛以“数据确权”为主题,由厦门市互联网域名应用服务产业协会和构信网(公信.中国)联合主办
近日,国内知名数字化市场研究咨询机构爱分析正式发布《2022爱分析·信创厂商全景报告》(以下简称“报告”)。报告综合考虑企业关注度、行业落地进展等因素,遴选出在信创市场中具备成熟解决方案和落地能力的厂商。
10月31日下午,由数博会执委会主办、数据观(北京)传媒科技有限公司承办、贵阳大数据交易所协办的第四期数博思享会“实践先行观公共数据价值与应用”活动成功举办。
近日,由中国国际数字经济博览会组委会主办,中国电子技术标准化研究院、河北省工业和信息化厅承办的“第一届中国大数据大赛”(简称大数据大赛)正式启动。
广州光点信息科技有限公司自主研发的数据中台产品GI大数据中台V2.0产品是国内率先推出符合新创标准的中台产品,基于“大数据+AI”等技术全新打造,集数据采集、融合、治理、服务、管理为一体的旗舰平台。
广州光点信息科技有限公司自主研发的数据中台产品GI大数据中台V2.0产品是国内率先推出符合新创标准的中台产品,基于“大数据+AI”等技术全新打造,集数据采集、融合、治理、服务、管理为一体的旗舰平台