您的位置:知识库 » 云计算

Google 及其云智慧

作者: Stephen Baker  来源: 商业周刊  发布时间: 2017-09-12 15:45  阅读: 6412 次  推荐: 7   原文链接   [收藏]  

【编者按】“云”的想法,是创造一个平台,让所有大型的信息创造、学习、管理和使用机构不得不加入。这个平台由此成为一台自我生长的超级计算机。而这个超级计算机的品牌就是谷歌。

百年前,每个企业自己用发电机发电,后来则从大型电力网络买电。可以把“云”比作这个大型电力网络,它的品牌就是谷歌。所有用户都要向谷歌买电,而全世界的发电厂都急于向谷歌卖电,或者说不加入谷歌网络自己发的电就卖不出去。“超市”摧毁独立小商店, 逻辑大概也类似。这是互联网上的典型美国方式。

这一知识在非计算机的行业并不普及。在商界恐怕也是如此。但在行政管理上,它意义重大。

  英文原文:Google and the Wisdom of Clouds

  作者:斯蒂芬·贝克(Stephen Baker),译/赵斌,英文原文发布于 2007/12/12  

  这项全新的远大战略旨在把强大得超乎想象的计算能力分派到众人手中。

  这是一个简单的问题,是克里斯托夫·比希利亚为信心十足的 Google 应聘者们出的一道题。作为 Google 公司的高级软件工程师,27 岁的比希利亚留着一头卷曲的长发,他希望了解这些大学本科生是否已经准备好以 Google 人的方式去思考。“告诉我,”他问道,“如果有 1000 多倍的数据量。你将怎么办?”真是个奇怪的问题。假如他们真的跑回学校,愚蠢地想要去处理容量多达 1000 多倍的细节信息,那么学校的服务器恐怕会被拖累得慢如爬虫。

  比希利亚将在面试中阐释他的问题。他告诉应聘者,要想 在 Google 发展,就必须学会从更宽广、更宏观的角度来工作 和思考。他描述了 Google 全球运行的计算机网络。的确,这些设备可以实现对搜索需求的即时回馈;而当形成集群,它们将能更快地处理浩如烟海的数据,其检索答案或指令的速度将超过世界上任何一台单机。绝大部分硬件设备并不安放在 Google 公司园区,而在园区之外,没准就在地球上某个大型冷却数据中心里高速运转着。Google 内部把这种大规模计算机集群称作“云”。在 Google,工程师编程过程中的一大挑战便是如何驾驭“云”,提高它的数据处理能力从而大幅领先于小型计算机群。比希利亚表示,Google 的新员工通常要花费数月才能习惯从这种角度思考;他认为,Google 的新人需要的是高级培训课程。2006 年秋季的一天,当他在会议间歇偶遇公司首席执行官埃里克·施米特时,他脑海里浮现出一个想 法。他将利用自己的“20%时间”(即 Google 分配给员工用于独立开发项目的时间)来启动一门课程,这将在他的母校华盛顿大学进行,着重引导学生们进行“云”系统的编程开发。他计划把这个项目命名为 Google 101。施米特很是欣赏这一计划。 在接下来的数月中,比希利亚的 Google 101 计划不断发展和深化,最终促成了 Google 与 IBM 在 2007 年 10 月开展了一 次雄心勃勃的合作——把全球多所大学纳入类似 Google 的计算“云”中。

  随着“云”概念影响的扩大,Google 的足迹必然会远远超出搜索、媒体和广告领域,从而使这家 IT 巨头得以涉足科学研究甚至更新的业务领域。在这一过程中,Google 在某种意义上可能会成为世界头号的超级计算机。“我最初以为(比希利亚)不过是想在教育上做点事情,这当然也不错,” 施米特最近一个下午在 Google 总部回想道,“9 个月后他拿出了新战略(即‘云’计划),太出乎意料了。”随着自身的不断拓展, “云”计划将通过 Google 自身的设备或是通过提供相同服务的其他厂商,为学生、研究人员和企业家们提供 Google 式的无限的计算处理能力。

  Google 的“云”到底是什么?它是由几十万甚至上百万台廉价的服务器所组成的网络。单个而论,这些机器的性能并不比家用台式机强大多少。但是这个网络存储的数据量惊人, 能容纳不计其数的网络数据拷贝,因此搜索速度更快,在眨眼之间便能为数十亿的搜索提交答案。与许多传统的超级计算机不同,Google 的系统永远不会老化。如果网络中某一台机器落伍(通常在使用 3 年后),工程师们就会把它淘汰,而代之以性能更强的新款计算机。这就意味着“云”几乎能“长生不老”。

  向“云”规模的数据处理迈进,是一个信息技术产业的里程碑。从最基本的层面讲,“云”的发展就如同 100 年来人类用电的进程演变。100 年前,农场和公司逐渐关闭了自己的发电机,转而从高效的发电厂购买电力。Google 的高管们很早就预料到这一转变,并为之筹划准备。以 Google 设备为核心的“云计算”完全符合由该公司创始人谢尔盖·布林和拉里·佩奇 10 年前提出的远大构想:“构建起跨越全世界的信息,供人们随时随地访问。” 比希利亚的想法刚好为实现这个构想开辟了一条道路。“没准他脑子里早就有数,只是没告诉我,” 施米特表示,“一开始,我没有意识到他将试图改变计算机专家对于计算的固有想法。这个目标太伟大了。”

  单行道

  对于小型公司和企业主而言,“云”意味着机会,在密集型数据处理领域这一竞技场中,它就像是一道标准线。今天, 掌控“云”系统的互联网巨头中,只有少数几家拥有吞吐海量信息并开展相关业务的能力。我们的文字、图片、点击和搜索全都是这个产业的原材料。很大程度上,这是一条单行道。人们产出数据,Google、雅虎和亚马逊等公司则将信息转化成观点、服务,最终变成收入。这种状况已开始改变。2006 年, 亚马逊向付费用户开放了自己的计算机网络,调动新的参与者加入“云”计算,无论其规模大小。一些用户只是简单地将数据库存储在亚马逊,另一些则使用亚马逊的服务器搜索数据或建立网络服务。2007 年 11 月,雅虎也将一个电脑集群(即小规模的“云”)开放给卡内基-梅隆大学的研究人员。微软同样通过开放服务器群来加深与科学研究团体的联系。市场调查公司 IDC 的高级分析师弗兰克·金斯表示:随着这些“云”的发展,“新兴的网络公司将有望造访这些服务器。这就如同在播撒 Google 种子”。随着搜索新材料和药品的数据处理实验室把工作室搬到了“云”上,这些新公司很多将会出现在科学和医药领域。

  要想让“云”发挥出潜能,与此相关的编程和操作就应该与使用互联网一样简单。分析家称,这给“云”搜索及其相关的软件工具打开了增长的市场,对于 Google 及其竞争对手来说,这些业务唾手可得。Google 将为用户提供多少存储容量,或以什么形式、什么价格提供,施米特都不会明说。“通常来讲,我们开始时会采取免费策略”,他表示,并强调大客户“应该很有可能负担一些费用”。那么这些“云”能发展到多大的规模呢?“无限大”,施米特表示。随着“云”策略的展开,更多人看到 Google 随时做好了成为下一代计算的主导力量的准备。“Google 渴望占据‘云计算’市场中相当的份额,或成为每天都与普通人打交道的‘云’”,施米特说道。那么有什么样的商业计划呢?就目前而言,Google 仍将继续植根于核心业务,这给它带来了源源不断的广告收入。从投资角度来说,“云”计划在初始阶段不过是像雷达屏幕上显示的一个小光点。它在远处盘旋,目标很大却烟雾弥漫,很难拼凑在一起,但仍充满着无限可能。当比希利亚第一次和施米特谈论 Google 101 时,改变计算和科研的现状还并不是他的主要意图。 他说,当时他只想返回学校。与公司里很多已拿到博士学位的同事不同,比希利亚刚从华盛顿大学毕业就被 Google 录用,他甚至没读过硕士。因此他渴望从 Google 的日常工作中抽身,换换脑子。在 Google,比希利亚每天都需要从公寓搭乘班车长途跋涉到公司,然后开始 10 小时的搜索运算法则的编写工作。他想回到西雅图,哪怕每周只有一天,去和他的教授兼导师埃德·拉佐斯卡一起工作。

  在突发灵感想到“云”计划并直接和老板详细讨论之前,比希利亚并没多加考虑。他和施米特已相识数年。5 年前他刚入职 Google 时还只是一个年仅 22 岁的程序员。其工位就在首席执行官的办公室附近。比希利亚回忆说,他走进办公室时被一架飞机模型所吸引。这让他想起母亲在美国联合航空公司从事的空乘工作。自然而然地。他与话语温和、有学者派头的施米特聊起了数据计算,那种感觉就像在大学一样。后来虽然比希利亚搬到了其他办公楼,但两人仍然保持着联系。在他们第一次讨论“Google 101”计划的那一天,施米特提出了很好的建议:把项目缩减到比希利亚能在两个月内完成的规模。“我实际上没太在意他的话”,施米特回忆说,但是他想尽快给这位年轻的工程师反馈。他说,即使比希利亚失败了,但“他很聪明。一定能从失败中获得经验”。

  要想顺利启动“Google 101”计划,比希利亚必须把项目的来龙去脉和 Google“云”的些许魔力透露给合作对象,同时又不能深入“云”本身或揭示出核心机密。这些机密会激发计算机学家无穷无尽的思考,Google 对此守口如瓶。毕竟这台“超级计算机”是公司运营的支柱,它能自动处理搜索、放置广告、传递电子邮件等业务。计算机从事这些工作时,包括比希利亚在内的上千名 Google 工程师仅仅只是“服侍”着它。 他们“教会”系统新的技术或为它寻找新的主攻市场,同时在其中添加新的集群,如 2007 年一年就增加了 4 个新的数据中心,平均每个成本达 6 亿美元。在搭建这台“计算机”的过程中,在搜索领域名声大震的 Google 随时准备扮演计算机业的新角色。不久之前,科学家和研究人员还在期望国家实验室能启动数据计算方面的前沿研究。如今,IBM 负责开放系统开发的副总裁丹尼尔·弗赖感叹:“Google 现在做的事情。10 年 前只有国家实验室才能做。”

  那么,比希利亚如何让学生们访问这台机器呢?最简单的办法当然是直接从学校连接专线到 Google 服务器。然而公司并不准备对学生们完全开放这台装有授权软件、存储着私人信息以及运营着 106 亿美元业务的计算机。比希利亚因此购买了价位适中的 40 台计算机组成集群。发出订单后,他开始琢磨如何给这些服务器付钱。就在卖家组装电脑集群时,比希利亚告诉 Google 的几名经理:一大笔账单马上就到。之后他“拿着花销报告从下到上请示了一通,结果没人反对”。说到这里,他又加上了自己喜欢的一句格言:“请求原谅比寻求批准容易得多。”

  狂热的学习者

  2006 年 11 月 10 日,排成阵列的计算机群出现在华盛顿大学计算机科学学院的教学楼里。比希利亚和几个技术负责人得想办法把将近 1 吨重的机柜抬上 4 层放到机房里。他们最终解决了这个问题,并准备在第二年 1 月开始上课。

  比希利亚的母亲布伦达说,她的儿子似乎从小就注定要走一条不平凡的道路。直到两岁他才开口说话,但很快就开始成句成句地说。第一次是在一家人开车行至离家不远的华盛顿吉格港时,一只小虫子从打开的车窗飞进来,只听到从后排座传来比利亚的声音:“妈妈,有一个东西在我嘴里。” 在学校里, 这个男孩没完没了的提问和飞快的学习进度惹恼了老师。父母看到他很伤心、很受挫,便把他带回家教了 3 年。比希利亚说,那段时间他失去了很多小伙伴,但是学会了如何成为一个生意人。他对冰岛野马兴趣浓厚,并在十六七岁时投身到养马行当。 他的父亲吉姆回忆道,一次,他们开车一直向北行驶到马尼托巴买了马匹,却并没有考虑到如何把它们运回家。“整个旅行 就像塞维·蔡斯电影里的场景”,他说。比希利亚学会了用计算机为他的贩马事业和父亲的豪华游艇业务制作网页。比希利亚断定计算机比养马更有前途,因此义无反顾地报考了华盛顿大学,并选修了尽可能多的学科,包括数学、物理和计算机等相关学科。

  2006 年年末,当比希利亚往返于 Google 大厦和西雅图之间筹备“Google 101”计划时,他运用生意人的技巧,招募 了一支组织松散的志愿者队伍。他和学院的实习生一起设计课程,还在 Google 公司位于学校附近的华盛顿州科克兰德分部拉拢部分同事,让他们抽出 20%的时间来帮忙教课。比希利亚听从了施米特的建议,把“Google 101”集中在学生们容易上手的方面。“我想得最多的是,什么课程我能在两个月里教会他们,同时又真正有用和重要?”他回忆道。最终他的答案是 MapReduce 。比希利亚十分推崇 MapReduce ,这是 Google 数据计算的核心软件。公司著名的搜索运算法为每一次搜索提供信息。MapReduce 则传递出速度。它把每个任务分解为成百甚至上千块小任务,然后发送到计算机集群中。眨眼之间,每台计算机传送回自己的那部分信息,MapReduce 则迅速整合这些反馈并形成答案。虽然其他一些软件也有同样的功能, 但 MapReduce 速度更快,且显示出几乎可以解决无限任务的能力。提到 MapReduce ,比希利亚变得十分兴奋和狂热:“我还记得刚毕业时来到 Google 学习 MapReduce 时的情景,这的的确确改变了我对计算机科学乃至所有事情的想法。” 他把该软件称为“非常简单但极其卓越的模型”。这个软件是由其华盛顿大学校友杰弗里·迪安开发的。因此,通过回到母校教授 MapReduce ,比希利亚会将这个软件和“这种思考方式”带回它的源头。

  阻碍只有一个:MapReduce 曾经安全地“沉寂”在 Google 主机中,而且不允许外界使用,“Google 101”项目也不行。 Google 曾拿出一部分相关信息与他人共享,以开发开源版本“Hadoop”。Google 当时想在不泄露核心技术的前提下,推动自身的标准成为“云”计算的体系结构。开发 Hadoop 的团队属于一家名为 Nutch 的公司。说也奇怪,这家公司现在归入雅虎麾下,雅虎希望依靠 MapReduce 的衍生产物给自己的数据计算提供一点 Google “云”的魔力。好在 Hadoop 仍然保持开源状态,这意味着 Google 团队能应用它,还能免费安装在华盛顿大学的计算机集群中。

  “Google 101‛一出现在冬季学期的课程安排中,学生们立即蜂拥而来选修这门课程。起初比希利亚和 Google 的同事们尝试自己教课,不过后来他们及时地把这一工作转交给华盛顿大学的专职教员。“他们的讲解更加清晰,” 比希利亚表示。 接下来的几周里,学生们学习如何调整自己的程序来适应 Google 计算机,并雄心勃勃地设计开发网络规模的项目,这些项目涵盖了从维基百科的编辑分类到互联网垃圾邮件的鉴别处理等各个方面。2007 年的整个春天,有关这门课程的消息越传越远,其他大学的相关院系也开始要求参与“Google 101”计划。很多人迫切渴望了解“云”的相关知识和计算能力,特别是在科研方面的计算。实际上在每个领域,从各种传感器、分析设备以及先进的测量工具产生的大量新数据浩如烟海,让科学家们大伤脑筋。这些数据可能用于开发新药品和新疗法、制造新的清洁能源、甚至预测地震,然而绝大多数科学家缺少设备来存储和筛检这些“数据宝藏”。“我们真是被淹没在了数据里,” 美国国家科学基金会的助理主任周以真 (Jeannette Wing)表示。

  IBM 的慷慨

  对 Google 计算能力的巨大需求倒是把比希利亚难住了。能完成第一批计算机集群的采购安装已经算是很幸运了,可是他能像这样一次又一次、最终在每个计算机学院都装上一个微型的 Google “云”吗?这当然不现实。为了把“Google 101”计划扩展到全球各地的大学,各参与方必须要接入到共享的资源中。因此比希利亚需要一个更大的“云”集群。随着 IBM 董事长彭明盛突访 Google 大厦,幸运之神降临了。一位 IBM 的研究员表示,这天成了“Google 的彭明盛日”。那是一个冬日,如果要在 Google 园区里来场沙滩排球可能会有点冷,不过彭明盛中午在 Google 的餐厅体验到了传说中的免费大餐。 随后,他和他的团队与施米特以及包括比希利亚在内的十几名 Google 工程师座谈交流,他们在白板上写写画画、讨论着“云 计算”。IBM 一直希望利用“云”系统来为企业客户提供数据和服务。与此同时,在彭明盛的领导下,IBM 已经成为 Linux 系统等开源软件的领先倡导者。这可是蓝色巨人在软件战役中的重点,尤其是在对抗微软的战斗中。如果 Google 和 IBM 在“云”上合作,它们可能共创这种基于 Google 标准(包括 Hadoop 版本)的“云计算”的未来。

  当然,Google 已在这个项目上先行一步,即比希利亚的“Google 101”计划。就在会面的当天,比希利亚小小的实践演变成由两家技术巨头公司的首席执行官共同支持的一项重大计划。当彭明盛那天下午离开 Google 时,比希利亚和 IBM 公司的丹尼斯·全就被指派组建 Google-IBM 的联合大学“云”的原型。在接下来的 3 个月中,他们在 Google 总部并肩作战。 (比希利亚说,从那时起“云”计划从“20%时间”变成了他的全职工作。) 他们的主要工作是把 IBM 的商用软件和 Google 的服务器进行整合,并装配大量包括 Hadoop 在内的开源程序。2007 年 2 月,他们在加州山景城向高层领导、同时通过视频向位于纽约阿蒙克的 IBM 总部人员首次展示项目原型。丹尼斯·全用手机从“云”集群中下载数据,让在场人员赞叹不已。(比希利亚说,虽然与核心项目关系不大,但这的确是场很精彩的演出。)

  “Google 101”计划通过了。这一计划是:首先将“云计算”用一年时间扩展到全美的多家大学,之后在全球部署。各所大学将会继续开发“云”,创建工具和应用程序,同时培养出大批的计算机科学家来继续建设和管理“云”。那些开发者应该能在 Google 这样的网络公司找到工作。施米特喜欢把这些数据中心比作极其昂贵的粒子回旋加速器。“物理界只有几台粒子加速器,” 他说,“每一台都十分重要,因为你如果是个顶尖的物理学家,你需要在有粒子加速器运行的实验室工作。那才是创造历史的地方,那才是诞生发明的地方。所以我想,假如你把‘云’当作由小型计算机群组成的超级计算机,那么从科学观点讲,我们拥有最能吸引人才的那种计算机。”

  随着商用和科学数据量日益壮大,数据计算能力转变成一 种战略资源、一种资本。“从某种意义上说,” 雅虎研究主管普拉巴卡·拉加万表示,“世界上不过有 5 台真正的计算机。” 他意指 Google、雅虎、微软、IBM 和亚马逊这几家公司。他表示,除此之外,没有哪家公司有实力把“电流”转化为数据计算能力。毫无疑问,各种商业模式都会进化。Google 及其对手能与客户合作、或通过交换计算能力来取得数据的访问权。它们可以在“云”中引入合作伙伴进行次级项目的开发,比如公司在 2007 年 11 月宣布的清洁能源计划。行业分析家表示, 随着大型数据中心电费开支每年以 2000 万美元的速度上升, 也只有 Google 有足够的智力资源和服务器容量来承担重任, 以图在寻找创新能源方面取得突破。

  用于研究的“云”会是什么样子?微软负责外部研究的副总裁 Tony Hey 介绍,他们把“云”建成大型的虚拟实验室, 应用新一代管理程序配以适当人工来管理数据,分级别开放给研究人员。他说,授权用户将开发出新工具、补充新数据,并与各地同事广泛共享。据他预测,在这些新的实验室中,“你可以通过分析从别人那里汇集来的数据赢取诺贝尔奖”。位于加州 Almaden 的 IBM 研究运营部门负责人马克·迪安表示,短短几年内,商用和科学用途的结合将产生“云”网络,对此我们怎么想象都不过分。“与这个相比,” 他说,“现在的网络微不足道。我们将会嘲笑现在的网络实在太小。” 然而,如果这个“太小”的网络对于 Google 帝国发展都已经足够大了,那么没人能预测巨型的“云”网络可以提供什么样的机会。2007 年 11 月的一天,比希利亚刚刚从中国回到美国,还没来得及倒时差。他在中国的几所大学介绍了“Google 101”的计划。他的时间表排得满满当当,不仅要和 IBM 共同建立“云”集群,还需要处理华盛顿大学、加利福尼亚大学伯克利分校、斯坦福大学、麻省理工学院、卡内基-梅隆大学以及马里兰大学等 6 所高校“云”计划启动的相关事宜。此时,他把一位摄像师请到会议室,线缆和灯光占满了整张桌子。他将录制一段有关“云”教学的宣传片,这段视频或许会选择在 YouTube 网站上发布。

  埃里克·施米特走了进来。52 岁的他几乎比比希利亚年长一倍,与爱徒清瘦的体格相比,他显得强壮不少。比希利亚把他引到摄像机面前并解释这个宣传计划。他们会录制采访中的音频,再拍几个施米特的单人正面镜头。比希利亚把这些镜头称为“B 级胶片”。施米特同意并坐下来。他想到了更好的主意,他告诉摄像师拍下全景而省略单人镜头。的确,他和比希利亚太忙了,怎么有时间摆姿势拍摄?

7
0
 
标签:

云计算热门文章

    云计算最新文章

      最新新闻

        热门新闻