请选择 进入手机版 | 继续访问电脑版

大唐名人网

 找回密码
 暂停注册
大唐名人网 门户 IT 查看内容

中国唯一自主研发计算引擎 阿里飞天大数据平台集群规模全球第1

2019-7-26 09:07| 发布者: admin| 查看: 67| 评论: 0

钟小河  2019年07月25日 22:43

【IT时代网上海报道】7月25日,阿里云飞天大数据平台亮相阿里云峰会上海站。

作为中国唯一自主研发的计算引擎,阿里云飞天大数据平台是全球集群规模最大的计算平台,最大可扩展至10万台计算集群,支撑海量数据存储和计算。数据显示,飞天大数据平台的单日数据处理量从2015年100PB、2016年180PB、2017年320PB,到2018年超过600PB,3年时间提升5倍。

在浙江,在飞天大数据平台支撑下,“最多跑一次”打通与老百姓办事最密切相关的100个事项70多亿条数据,老百姓甚至有可能一次都不跑。在杭州,城市大脑实时指挥1300个红绿灯路口、200多名交警,从2016年到2018年,杭州从全国最拥堵城市排行榜上下跌52名。

原来需要跑5个窗口、耗时2天才能拿到的新生儿出生证,现在只需在手机上填9项信息;原来看一次病排队付几次费,现在可以看完回家再付钱……这样的场景正在越来越多的城市变为现实,背后有飞天大数据平台的支撑。

据记者了解,该平台的研发源自阿里巴巴的自身实践。十年前,新兴互联网业态蓬勃发展,中小企业在阿里巴巴电商平台上爆发式增长,商家第一次具备直接触达消费者的普惠渠道,激发庞大的消费者需求,海量数据击垮传统IT架构。在此背景下,阿里巴巴开始探索全新的技术来支撑爆发式增长的数据存储和计算需求。

大部分企业的惯例是直接使用国际开源的数据计算框架Hadoop。在阿里巴巴内部,也曾出现过激烈的争论,究竟是直接使用开源Hadoop,还是从每一行代码写起,自主研发一个大数据平台。

当时,人类社会从未有过如此大规模的商业交易在一个互联网平台上进行,如果用Hadoop搭建的大数据平台,必将在不久的未来再次遇到挑战,更别提为外部企业提供服务,成为普惠的IT基础设施。

由此,阿里巴巴坚定投入飞天大数据平台研发,将成千上万台服务器组成一台超级计算机,向社会提供水、电、煤一样的公共服务。早在2012年初,阿里巴巴技术委员会主席王坚就表示,“从战略上来说,阿里云想做的事情实际上可以解读为Amazon+Google并有所超越。将单一集群做到数千乃至更高,技术上是国家和企业竞争力的标志。阿里巴巴必须攻克这道难关。”

也正是因为这一坚持,才有了今天中国唯一自主研发的飞天大数据平台。而在过去10年里,飞天大数据平台打破了多个记录:2013年,突破了单集群内5000台服务器同时计算的局限,如今单集群已超过1万台的规模;2015年,打破计算界奥运会SortBenchmark的4个世界纪录,用不到7分钟便完成了100TB的数据排序,刷新了ApacheSpark 23.4分钟的纪录。【责任编辑/常发】

来源:IT时代网

相关阅读

投稿、合作、联系:admin2#tangedu.cn| 小黑屋|网站地图|大唐名人网 |京ICP备07504790号|

GMT+8, 2019-8-23 12:39 , Processed in 0.086657 second(s), 23 queries .

Powered by Discuz!

© 2001-2015 Comsenz Inc.

返回顶部