找回密码
 骑士注册

QQ登录

微博登录

搜索
❏ 站外平台:

Linux中国开源社区 观点 查看内容

Continuuity 首席执行官:Hadoop 真特么难用

| 2013-03-23 21:23   评论: 3    

在本周的大数据研讨会上,Continuuity的首席执行官指出Hadoop实施难度大,极为难用,如果不解决技术复杂性问题,Hadoop将被自己终结。

continuuity

Continuuity的首席执行官Todd Papaioannou曾经是雅虎的首席云计算架构师,当年他和120个弟兄接到一个艰巨的任务:在拥有40万个节点的雅虎私有云中配置4.5万台 Hadoop服务器,为5000位雅虎开发人员创建一个稳定的开发平台。在Papaioannou的回忆中,当时的场景非常不堪:

负责建设Hadoop平台的团队个个手忙脚乱,互相从代码库中翻找可供粘贴整合的代码,就像一群中学生在车库中做手工。当基础架构总算搭好的时候,开发者又花了4-5个月才开始发布应用,这也严重影响了雅虎的产品创新进度。

“那段时间如果你留意的话,yahoo的产品时不时会出一些状况”,Papaioannou说道。他认为从雅虎的Hadoop实施中学到了重要的一课:

Hadoop实在太难用了。它属于底层基础软件,而今天大多数IT人员都不熟悉底层基础软件。

有过帮雅虎实施Hadoop项目的痛苦经历后,Papaioannou下决心创办一家能够降低Hadoop部署和应用开发门槛的公司—Continuuity,在Hadoop和HBase的基础上创建一个抽象层—AppFabric,屏蔽掉Hadoop底层技术的复杂性,让更多的开发者能够开发大数据应用,而不仅仅是Hadoop(Mapreduce)应用。利用YARN和HBase,Continuuity开发出了能实时处理流数据的方法,并且能在任务不中断的情况下动态扩展Hadoop集群的规模。

Papaioannou认为Hadoop开发者不应该为节点、集群、数据块等本应由工程师处理的事担心。这有些类似Heroku、Cloud Foundry和Windows Azure提供的PaaS服务,事实上Continuuity计划在2013年推出AppFabric的公共云服务,以配合目前企业内部使用的版本。

文章来自IT经理网

 

收藏


最新评论

我也要发表评论

微博评论 2013-03-23 23:48 回复
[思考]

来自 jianchunzhang 的新浪微博
微博评论 2013-03-24 11:48 回复
Hadoop可以算是庞大但不算复杂的系统典范了[ppb鼓掌] //@董诣: 一般人不愿意说某某东西难用,因为不好意思承认自己不会用,我也只敢排队说一下,hadoop真特么的难用[哈哈]//@刘松--甲骨文: 转发微博

来自 MalcolmMa 的新浪微博
微博评论 2013-03-25 15:08 回复
hadoop没那么难用,如果说那难用,请把哪点难用说出来啊。

来自 biansutao 的新浪微博
返回顶部

分享到微信

打开微信,点击顶部的“╋”,
使用“扫一扫”将网页分享至微信。