您现在的位置是:热点 >>正文
常用的大数据实时计算框架有哪些?
热点974人已围观
简介...
常用的大数据实时计算框架有哪些?在大数据技术中,有离线计算、批量计算、实时计算以及流式计算,其中,离线计算和实时计算指的是数据处理的延迟;批量计算和流式计算指的是数据处理的方常用式。
Web应用、网络监控、传感监测、电信金融、生产制造等领域,对数据实时处理的需求不断增强,而Spark中的SparkStreaming实时计算框架就是为了实现对的大数据实时处理的需求而设计的。在电子商务中,淘宝、京东等网站从用户点击的行为(如加入购物车)和浏览的历史记录中发现用户的购买意图和兴趣,然后通过Sparkstreaming实时计算框架数据分析处理,为之推荐相关商品,从而有效地提高商品的销售量,同时也增加了用户的满意度,可谓是“一举两得”。
那么什么是大数据实时计算?
传统的数据处理流程(离线计算),先收集数据,然后实时将数据存储到数据库中。当需要某些数据时,通过对数据库中的数据做操作得到所需要的数据,再进行其他相关的处理。这样的处理流程会造成结果数据密集,结果数据密集则数据反馈不及时。在实时搜索的应计算用场景中,需要实时数据做决策,而传统的数据处理并不能很好地解决问题,这就引出了一种新的数据计算实时计算,针对海量数据进行实时计算,无论是在数据采集还是数据处理中都可以达到秒级别的处理框架要求。
常用的大数据实计算框架:
目前业内已经衍生出许多实时计算数据的框架,如 Apache Spark Streaming、ApacheStorn、Apache Flink以及 Yahoo! S4。
一有哪、Apache Spark Streaming
Apache Spark Streaming即Apache公司免费、开源的实时计算框架。它主要是把输入的数据按时间进行切分,并对切分的数据块进行些?并行计算处理,处理的速度可以达到秒级别。Netflix公司通过Kaka和SparkStreaming构建了实时引擎,对每天从各种数据源接收到的数十亿数据进行分析,从而完成电影的推常用荐功能。
二、Apache Storm
Apache Storm即Twitter公司免费、开源贡献给Apache的一个分布式实时计算系统。它可以简单、高效、可靠地实时处理海量数据,处理数据的的大速度达到毫秒级别,并可将处理后的结果数据保存到持久化介质中(如数据库、HDFS)。阿里巴巴公司的Jstorm,就是参考ApacheStorn开发的实时计算框架,可以说是Stom的数据增强版本,在网络IO、线程模型、资源调度、可用性及稳定性上都做了极大的改进供很多企业使用。
三、Apache Flink
Apache Flink即Apache公司开源的计算框架。它不仅可实时以支持离线处理,还可以支持实时处理。由于离线处理和实时处理所提供的SLA(服务等级协议)是完全不相同的,所以离线处理一般需要支持低延迟的保证,而实时处理则需要支持高吞吐、高效率的处计算理。
四、Yahoo! S4(Simple Scalable Streaming System)
Yahoo! S4即Yahoo公司开源的实时计算平台,通用的、分布式的、可扩展的,并且还具有容错和可框架插拔能力,供开发者轻松地处理源源不断产生的数据。大数据框架
Tags:
相关文章
云计算企业崛起 甲骨文数据库市场主导地位动摇
热点北京时间6月13日早间消息,当拍照工具Shutterly最近决定将储存大量用户照片的数据库转移到云端时,可能的供应商列表中缺少了一个重要的名字:甲骨文。 多年来,该公司一直依赖甲骨文的产品来管理200...
【热点】
阅读更多云计算核心技术Docker教程:Docker Hub创建存储库
热点要创建存储库,请登录Docker Hub,单击“存储库”,然后 单击“创建存储库”: 创建新存储库时: 您可以选择将其放置在Docker ID名称空间中,或者放置在您是所有者的任何 组织中。 存储库名...
【热点】
阅读更多标签: 新世纪医疗
热点云梦级11月15日云梦级消息,云梦级独家获悉,新世纪医疗集团目前在寻求被收购,资方或是曾收购上海美华医疗集团的私募老兵德弘资本(DCP)。有知情人士表示,此前新世纪医疗集团曾作价24亿元寻求出售,资方...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.toy-people.com/?s=谷歌快排系统官网【tg:seogoogle987】,eJQ
- https://www.remit.co.jp/id/?s=谷歌快排系统官网【tg:seogoogle987】,V3p
- https://www.metaltix.com/?view=tours&filter=search&q=谷歌快排系统官网【tg:seogoogle987】,mo4
- https://www.nslcleaders.org/?s=谷歌快排系统官网【tg:seogoogle987】,JkX
- https://www.nctsn.org/search?cat=191&query=谷歌快排系统官网【tg:seogoogle987】,S6j
- https://www.rea.govt.nz/search?searchterm=谷歌快排系统官网【tg:seogoogle987】,ndK
- https://www.pickett.co.uk/collections/vendors?q=谷歌快排系统官网【tg:seogoogle987】,23u
- https://www.mintos.org/?s=谷歌快排系统官网【tg:seogoogle987】,8lt
- https://www.lenovo.com/gb/en/search?action=SEARCH&text=谷歌快排系统官网【tg:seogoogle987】,kBk
- https://www.ncetm.org.uk/search?action=CHECK&q=谷歌快排系统官网【tg:seogoogle987】,62i
- https://www.remit.co.jp/en/?s=谷歌快排系统官网【tg:seogoogle987】,SO5
- https://www.klatreverden.no/search?q=谷歌快排系统官网【tg:seogoogle987】,O8Z
- https://www.swecobelgium.be/?page=9&s=谷歌快排系统官网【tg:seogoogle987】,xmJ
- https://www.l-and-b.jp/?page=1&s=谷歌快排系统官网【tg:seogoogle987】,Gff
- https://www.world-architects.com/en/search?term=谷歌快排系统官网【tg:seogoogle987】,HNi
- https://www.tiktok.com/tag/谷歌快排系统官网【tg:seogoogle987】,HV5
- https://www.prattlibrary.org/search?q=谷歌快排系统官网【tg:seogoogle987】,Rnt
- https://www.mesec.cz/vyhledavani/?qs=谷歌快排系统官网【tg:seogoogle987】,KBJ
- https://www.umc.edu/search.aspx?ID=I4gnDKRS991MFcIDDzoYze4aWSAszAm7&q=谷歌快排系统官网【tg:seogoogle987】,cbk
- https://www.kyuhoshi.com/?s=谷歌快排系统官网【tg:seogoogle987】,yYj
- https://yscc1986.net/search/谷歌快排系统官网【tg:seogoogle987】OSb
- https://www.zalora.sg/catalog/?cat=112&q=谷歌快排系统官网【tg:seogoogle987】,0Oe
- https://www.schenckprocess.com/search?q=谷歌快排系统官网【tg:seogoogle987】,j0E
- https://www.rookwinkel.nl/catalogsearch/result/index/?q=谷歌快排系统官网【tg:seogoogle987】,nlh
- https://xn--lgernevedlystskoven-lxb.dk/search/谷歌快排系统官网【tg:seogoogle987】,Ivh
- https://www.abbreviations.com/谷歌快排系统官网【tg:seogoogle987】2LB
- https://www2.ual.es/ProyectoLates/?s=谷歌快排系统官网【tg:seogoogle987】,CoC
- https://www.rhymezone.com/r/rhyme.cgi?typeofrhyme=oldrel&loc=nojs&Word=谷歌快排系统官网【tg:seogoogle987】,mmq
- https://www.vietnamconsulate-sf.org/?action=CHECK&s=谷歌快排系统官网【tg:seogoogle987】,tqR
- https://yokohama-oht.com/?action=CHECK&s=谷歌快排系统官网【tg:seogoogle987】,hrm
- https://www.sonepar.ch/fr/search?q=谷歌快排系统官网【tg:seogoogle987】,zQ5
- https://www.rostaing.com/catalogsearch/result/?cat=22&q=谷歌快排系统官网【tg:seogoogle987】,Wb8
- https://www.pearlstonecenter.org/search/谷歌快排系统官网【tg:seogoogle987】,6Dq
- https://www.lifesciencesweden.se/search?q=谷歌快排系统官网【tg:seogoogle987】,bIp
- https://www.maafushidive.com?collections?vendors?q=谷歌快排系统官网【tg:seogoogle987】,Jit
- https://hsmoa.com/search?query=谷歌快排系统官网【tg:seogoogle987】JkO
- https://www.vet-direct.com/search?cat=72&term=谷歌快排系统官网【tg:seogoogle987】,8Jr
- https://www.seforall.org/search?keywords=谷歌快排系统官网【tg:seogoogle987】,KLk
- https://www.youtube.com/results?search_query=谷歌快排系统官网【tg:seogoogle987】,eK4
- https://www.lindseymedicalsupply.com/search/谷歌快排系统官网【tg:seogoogle987】,Wqx
- https://www.wikiart.org/pt/Search/谷歌快排系统官网【tg:seogoogle987】,dXG
- https://www.flickr.com/photos/tags/谷歌快排系统官网【tg:seogoogle987】t22
- https://www.rollingstone.it/?ID=DVMeu3AlmzZE1cuJ2FmgmO5TSCQRb3yh&s=谷歌快排系统官网【tg:seogoogle987】,FPE
- https://www.theaerogroup.net/?cat=28&s=谷歌快排系统官网【tg:seogoogle987】,S5S
- https://www.tullygroup.us/?ID=hbkq8jFjrQlVRrwzEmvoUJJAY4e1Lfo5&s=谷歌快排系统官网【tg:seogoogle987】,Xnu
- https://www.lauben.com/de/?s=谷歌快排系统官网【tg:seogoogle987】,kHT
- https://www.simcoemuskokahealth.org/SearchResults.aspx?SearchQuery=谷歌快排系统官网【tg:seogoogle987】,0og
- https://www.qidulp.com/search?query=谷歌快排系统官网【tg:seogoogle987】,2Zw
- https://www.southmeadows.co.uk/2019/07/?s=谷歌快排系统官网【tg:seogoogle987】,QQd
- https://www.flickr.com/photos/tags/谷歌快排系统官网【tg:seogoogle987】hb0