当前位置:首页 >  科技 >  IT业界 >  正文

Hadoop大数据“存算分离”,柏科数据 ISCloud分布式存储"提质增效"

 2021-08-24 17:09  来源: 互联网   我来投稿 撤稿纠错

  阿里云优惠券 先领券再下单

数据湖的发展契机,来源于近年来的AI热潮和云计算、5G的发展,在日益发展的海量数据时代,数据已成为企业发展的核心资产,通过构建适用于大数据的底层架构,围绕Hadoop提供语义一致性、数据治理和安全性。

Hadoop作为数据湖最常用的解决方案之一,其的部署和需求仍然很大并且正在增长。在最近的一项涉及235名受访者的调查中,34%的受访者目前正在使用Hadoop进行数据和分析工作,另有55%的受访者计划在未来24个月内采取同样方案,总计需求量达到89%(Gartner,2016)。

在Hadoop大数据平台方案中,当存储空间或计算资源不足时,只能同时对两者进行扩容,将导致额外成本的增加。假设用户对存储资源的需求远大于对计算资源的需求,那么同时扩容计算和存储后,新扩容的计算资源就被浪费了,反之,存储资源被浪费。独立扩展计算或存储的架构设计,被认为是更加灵活的扩容方式。

因此,业内新扩容方式“存算分离”架构的优势逐渐明显,“存算分离”成了大数据架构发展的必然趋势,成了解决行业用户在使用Hadoop时,面临计算资源浪费、存储性能低、管理成本过高等痛点的利器。最初在Hadoop1.0时代,计算和存储是高度融合的,仅能处理单一的MapReduce分析业务;如今已经到了Hadoop3.0时代,计算存储走向分离,通过Hadoop架构策略,优化了冷热数据的存储。打造了更适合企业级市场,资源云化和灵活扩展,能够让用户享受更专业的存储,更佳的可靠性和利用率。

ISCloud分布式存储系统面向海量数据场景,针对大数据Apache Hadoop等应用场景,提供原生接口,将原生Hadoop集群从当前计算、存储一体化状态,拆分成计算和存储两个独立集群,实现“存算分离”形式,充分吸纳计算、存储两个产业的最终成果,加速释放数据价值。

• 提供标准接口,实现智能化负载均衡

非结构化的原始数据可以通过Sqoop、DistCp等工具直接存储在ISCloud分布式存储上,业务数据库结构化数据和应用数据可以通过Spark、Kafka等HBase分布式数据仓及Hadoop大数据Hive仓库内。HBase表数据和Hive内部表数据仍然通过HDFS来存储。ISCloud分布式存储在存储海量非结构化数据,甚至是海量小文件的同时,减轻HBase及Hive的压力,为后续扩容单一属性集群提供基础。

⦁ 协议互通特性,提高数据分析效率

ISCloud分布式存储采用多种协议互通技术,部署语义抽象层,面对多样化结构数据提供适合文件、对象、块及大数据的原生语义,为Apache Hadoop计算层提供了标准的Hadoop文件系统API,支持文件、大数据接口访问,免数据迁移,缩短分析路径。实现多集群数据融合互通,提升数据共享和分析效率。

• 降本增效,大幅降低TCO

随着大数据应用的全面普及,存算分离已成为企业大数据平台建设的首选。采用全对称分布式NameNode,集群性能和支持文件数随节点数目增加,单一命名空间支持文件数达百亿级。计算存储分离,按需扩展,实现精准投资。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
数据存储

相关文章

  • 分布式存储费用高吗?大概需要多少钱

    分布式存储的费用是否高,取决于多个因素,包括存储容量、性能要求、服务提供商、计费模式等。因此,无法简单地给出一个“高”或“不高”的答案。通常分布式存储费用通常包含存储费用、网络费用、增值服务费、数据迁移、API调用、管理维护等费用。

  • 当直播“顶流”遇上存储“顶流”,罗永浩和Lexar雷克沙的初次会面

    又是一年双十一热销大促,今年各大平台的直播间可谓是热闹非凡,我们熟悉的罗永浩“交个朋友”直播间也如约带来了很多优惠好货。11月1日,罗永浩“交个朋友”直播间携手众多品牌再度归来,带货实力依然抗打。作为数码3C类目的带货“扛把子”,我们发现此次罗永浩直播间中除了有大家熟知的各大科技数码品牌外,还有一些

    标签:
    数据存储
  • 青云QingCloud 非结构化数据存储 U10000 在海量小文件场景的应用

    青云科技(qingcloud.com)QingStorU10000作为一款分布式存储,在支持线性扩展上表现不俗。U10000最低3节点起步,随着节点数量的增长,存储容量和存储集群的性能都会线性增长。U10000的存储效率比较高。通过可灵活配置的EC纠删码,能让整个集群的物理磁盘可用空间达到90%以上

    标签:
    数据存储
  • 青云QingCloud “很能存”的非结构化存储 U10000

    IDC此前的数据显示,2018年,全球数据量为33ZB,而在2025年,全球数据量将达到175ZB,这其中有80%都是非结构化数据。宏观的数据趋势令人惊叹,存储厂商的反应更真实。这从青云科技(qingcloud.com)存储QingStor的产品线调整,也可见一斑。青云在成立之初主要提供公有云服务,

    标签:
    数据存储
  • 上海摄影展新品发布,lexar雷克沙开创高端存储新篇章

    8月10日,第24届上海国际摄影器材和数码影像展览会(以下简称P&IShanghai)在上海新国际博览中心隆重开幕。在此次展会上,Lexar雷克沙不仅带来了全新升级的影像存储产品系列,还启动了记忆之城·2023影像创作大赛,并在现场举办了《上海记忆》视觉文献展和多场摄影讲座。旗舰品质引领创新P&IS

    标签:
    数据存储

热门排行

信息推荐