有装宽带的装修师傅网吗 我家离集线箱有个一百三四十米 怎么解决呢

家庭网络布线有什么好的建议? - 知乎441被浏览<strong class="NumberBoard-itemValue" title="6分享邀请回答我的第二台群晖 家中真正的资料中心—Synology 918+ 篇二:软件篇之设置&使用&心得_生活记录_什么值得买post.smzdm.com今天要说的是,在我的网络架构中,入户光纤,经过光猫,在接到我的路由器上。其实是有两种上网方式的。一种是光猫拨号,同时充当路由器。当然这个路由比较弱,所以我只需要他把拨号之后的网络连接到我的路由器上,更多的设备管理,广告屏蔽等等功能均由我的路由器完成。这时路由器的wan口模式是DHCP获取IP。另一种是光猫连拨号也不管了,只负责把光信号转换为电信号 ,由路由器来负责拨号。这是光猫的模式叫桥接,而路由器的wan口模式是PPPOE拨号。默认电信给装好的网络,就是第一种模式。这种模式对于大多数人来说没什么不好,而且这个光猫还附带无线路由器功能,你甚至可以省掉路由器(当然如果你省掉路由器,那么就需要考虑这个无线光猫的位置了,扔在弱电箱里面肯定信号不行)。这种模式对于群晖用户来说几乎是不可用的,因为群晖无法通过两层路由器进行端口映射和网络穿透。同时这种模式还存在一些设备多了网络变慢等跟光猫性能有关的问题。所以我就要采用第二种方案,桥接。实现桥接很简单,打个电话让客服上门更改,同时自己的路由器改成PPPOE拨号就可以了。这是合法的,可以公开更改的。但是新的问题出现了,IPTV没法用。IPTV是需要直接插在可以上网的光猫上的,而桥接后光猫没有上网,只有经过路由器拨号才能上网。但是IPTV又不能插路由器。当时改桥接的时候,电信的师傅就说了,IPTV不能用了。难道IPTV和群晖不能共存吗。。。经过反复的折腾,探索,研究,我最终搞定了这个问题,这里就不赘述过程了。首先网络拓扑图就是我最开始贴的那个图。光猫&路由器&交换机&IPTV需要的设置,光猫端除了正常上网桥接外,其他连接设置不要改。同时建立一个ID为85的Vlan(虚拟网络),可以不绑定端口,这样四个端口都可以用。这个过程可以自己有超级管理员密码手动改,也可以找客服师傅帮你改。然后路由器端正常PPPOE拨号,建立一个ID为85的Vlan,同样对于四个lan端口全部启用。并在DNSmasq里面添加如下字段。就搞定了。IPTV可以正常使用,而且不占用正常带宽,有属于自己的专有IP地址。跟电信初装时的效果是一样的。dhcp-option-force=125,00:00:00:00:16:02:06:48:47:57:2d:43:54:03:04:5a:58:48:4e:0b:02:00:55:0a:02:20:00dhcp-option=60,00:00:01:00:02:03:43:50:45:03:0e:45:38:20:47:50:4f:4e:20:52:4f:55:54:45:52:04:03:31:2E:30dhcp-option=15dhcp-option=28#address=/trailers.appl我这个字符只针对我F450G这个光猫的。如果是不同的网络条件,可以参考这个帖子,里面有详细论述,我就不展开了。另外关于有人问如何增加DNSmasq代码,不同路由器的修改界面不一样,需要你自己搜你的路由器的软件说明。不过一般来说好像第三方固件的才支持这个功能。当然也可以直接ssh进去改路由器的文件。我更改的方法是在我的Koolproxy广告插件那里有DNSmasq的修改,我使用的是LEDE的第三方固件。&---------------------------------------------------------------------------------------------------------------------------------------------&五类线,六类线,七类线那些事家中装修布什么线?首先由于我前面强调了千兆内网的作用,所以首先起步就应该是超五类线。(我在2007年装修的一套房子就已经使用超五类线了,到现在装修公司默认还是给你配超五类线,十一年没变样呀。。。)在超5类上面,还有6类,超6类,7类。我不是一个喜欢复制粘贴骗字数的人,所以不详细描述几个线的规格和分类了。简单的说,但从线材本身来说,不考虑接头,设备,环境等,从超5类到7类,就是线材越来越粗。这里指的是那里面8根导线每一根的粗细,不是最后成品线的粗细。如果你还记得初中物理的话应该记得,同样的材料,横截面积越大电阻越小。所以越高级的线电阻越小,损耗越小。当然围绕着不同类别的线,还有很多对应的铺设规范,比如7类线万兆网的环境就要求整个网络环境都是有屏蔽的,从路由器,交换机到每个设备,接插端口都是要屏蔽联通的。像笔者前面照片show的那些塑料墙壁面板都是无法实现万兆网的。这里就不详细谈了,我想真的需要这种条件的人也不会来看我这篇文章的。从价格上,超五,六类,超六,七类 的线有一定差距,七类线几乎是超五类的线的翻倍价格。但是!!我这里要提到的是装修一个一般住宅,100米的网线,七类和超五类的价格差距也就只有200块钱不到而已,这在整个6位数花费的装修里面简直沧海一粟。所以价格和成本并不是问题。 当然对于各类线的理论建议长度,距离等我们也不说,只说家用,我总结一下如下建议。一,怀疑今后有可能会上万兆的折腾玩家(比如我),上七类线,避免今后换线的麻烦。哪怕现在还没上万兆环境。二,啥要求没有的,超五已经绝对够你用了,没有任何问题。三,不上万兆,但是觉得一分钱一分货,线粗点,损耗小点,心里会舒服的人,可以上六类七类线。但是我必须提醒你6类7类的麻烦。六类线中间是有一个塑料十字架的(笔者在2015年装修用过六类线)。会造成线非常硬,同时作水晶头的时候修剪有些麻烦。上面第三类人群如果觉得没啥大问题,完全可以使用。同时挑一些质量好的五类头子,是可以容纳下六类线的单根导线粗细的。也就是说制作水晶头跟5类线没啥区别,只要水晶头质量不是太差。但是七类线就完全不是这么回事了,七类线的单根导线太粗,导致传统五类水晶头无法容纳,必须采用特殊的七类水晶头(中间有个穿线的套子,把8根线分成两层),基本上价格是五类头子的十倍价格(当然,你就捏那么十几个头子的话,加起来还不到一个盒饭钱,也不是非常大的开销)。同时钳子也不一样了。所以笔者后来为了接七类线又买了新的钳子。而且基本上电工师傅没有人给你接七类头,甚至电信上门师傅都不会给你接七类头子。所以如果不是笔者这种自己折腾的人,建议不要上七类线,虽然没多多少钱,但是多了很多折腾。 说完现在选择,再说几个小贴士。网线标签。像我这样在弱电箱有十几根网线的情况,一定要做好标签。我当时没有让电工给我做标记,结果后来我自己接弱电箱和交换机的时候,轮流测试,差点没累死。所以如果能再铺设的时候再做好标签是最好不过的。当然像我后来补的标签,也是可以帮助今后更换设备和故障检查的。&---------------------------------------------------------------------------------------------------------------------------------------------&关于面板和弱电箱关于墙壁面板,我前面说了,我虽然使用7类线,但是并没有使用万兆面板,一个是价格,另一个我的线太多,万兆面板一个面板只有一个接口,所以我暂时没有采用。如果今后需要再外接吧。所以当使用普通塑料面板的话,我推荐使用模块化面板。同时让电工帮你一个线盒多排几根线。如果使用超五的话,基本上最多能排到四根线,六类七类由于粗,会少一点。这样可以节省大量面板。(一来是开槽成本,二来面板多了一长排,家具都挡不住)。比如下图是路由器部分面板,如果用传统面板,需要六个面板,而我现在只用了两个,省掉了四个面板的空间。外加我穿馈线的面板,如果每根线一个面板的话,要是个面板,我只用了三个面板的空间。电视墙的面板也是如此。(那个带大盖子的是HDMI面板)弱电箱这几年的变化和发展也越来越先进,考虑到光猫和路由器之类的设备,现在的弱电箱都比以前要大好多,甚至还有无线天线的延伸孔。我选的这款弱电箱,面板有散热孔,同时自带一个温控风扇,温度超过40度就会启动,增加散热孔这里的空气流动。弱电箱厚度上可以容纳光猫+交换机+温控风扇,长度上塞下一个16口交换机还富富有余,左边还有传统的有线电视,电话模块等位置。而且还附带一个自带12V变压器外加220V插孔的电源,非常适合直接连接各种。&---------------------------------------------------------------------------------------------------------------------------------------------&总结到这里差不多就是我目前这个家的网络建设心得了。或许有的人看了之后觉得弄得太差了,又或许有人觉得我这个太折腾了。其实我也不是要写一个家庭组网指导,我只是觉得我的整套网络系统有些部分还是很有特色的,希望写出来给大家分享一下,如果能在你新家装修的过程中有一些借鉴作用,那我就非常荣幸了。。。。。。希望每个人的网络都可以稳定,快速,并且在美观的家中隐匿于无形。(原标题:新家网络我做主,如何让家中网络稳定、快速、并隐匿于无形?)by:Hillperson本内容来源于@什么值得买原文链接:8113 条评论分享收藏感谢收起8446 条评论分享收藏感谢收起你有什么挣钱的“方法”愿意分享? - 知乎<strong class="NumberBoard-itemValue" title="2被浏览<strong class="NumberBoard-itemValue" title=",945,829分享邀请回答1688.com
这些从我手里进货的外贸公司和个人soho 最终都会将产品运往全世界各地,他们有的会通过零售平台直接将产品送给终端消费者有的则通过批发平台送给国外下一级批发商第二步,在外贸批发平台供货给国外的二级批发商(当然他们也会去我的下游进货,也就是从我这里进货的国内外贸公司,毕竟外贸平台有那么多是吧,这个时候他们就成了三级批发商,价格会更贵一点)第三步,在国外零售平台铺货,差不多相当于从工厂直接到终端消费者手里(我曾经自我怀疑我是不是在作弊,这可是拿着最低的出厂价和国内外批发商竞争啊!后来我发现我想多了,市场那么大,而我的营销团队又是那样渺小,我只是在每一块大蛋糕上舔了一小口,仅此而已)通过这三种广撒网的方式,我分别赚过三笔钱,是的,奇怪的是我从来没有同时在三个或者两个平台上赚过钱,每一次高峰都是来自于其中一个平台。我有时候想也许这是老天的意思,但其实根本原因还是营销不行,团队人太少,我个人能力有限,嗯,总而言之就是缺乏管理才能,我有时候觉得其实我只适合做军师,点子挺多,又特别擅长打鸡血,但成功的人往往都是擅长管理的人。所以我错过一次又一次赚大钱的机会,哪怕我手里掌握了非常牛掰的爆款货源,并且还没有竞争对手的时候。但这第一笔收入也让我很快实现资产七位数的梦了。从0到1最难,最难的都熬过来了,只要坚持,雪球滚起来就不是梦了。一开始创业,我的思路并没有这样清晰,那时我才22岁,用一种及其愚蠢的方式去创业。我是在一次次跌倒和失败之后突然有一天顿悟了,慢慢摸索到适合自己的赚小钱的规律了。是的,首先要摸清商业规律,并且一定要适合自己。比如刚开始,我和很多人一样,听说什么好卖就赶紧去找货,最后从一个N 级批发商手里进到没有任何价格优势的产品,找到了往外贸批发平台一丢,就坐等国外批发客户来询盘。但那时候其实我非常努力,比后来任何时候都努力,努力开发别人卖过气的产品,努力拍照修图,努力给国外客户发一遍又一遍开发信,努力做一些无用功。。。。。经历了长期勉强糊口的低迷期,那真是一段十分漫长又艰难的时光,有一天我居然走了狗屎运,让我碰到一个超级大爆款,并且那个时候居然没有什么人卖的,我自己都没想到自己随便丢上去的产品几个月就让我资产过百万了。所以对于没有什么实力的人来说,运气是非常重要的。开玩笑的,其实我想说,做外贸,爆款是王道,并且必须是第一批掌握爆款信息的。它能让一个穷光蛋一秒飞起来。到后来我才逐渐摸索到一个更大的商业规律,那就是只有掌握了最上游的货源,才能成为分到最大蛋糕的人。所以我才逐渐尝试与工厂合作,供货给下一级批发商,下下一级,甚至直接到国外终端消费者手里。第一桶金很重要,它能让你站的更高,只有站的更高,才能看的更远。并且我的每一次尝试,最后都有成功的赚到一笔小钱。但受限于自己缺乏管理才能(我非常讨厌管人并且也不喜欢招兵买马,尽管我知道这是错的,就是这阻碍了我的进程)以及工厂不是自己家开的,我还不是最顶端的供应商,所以目前我还是赚不了大钱。不过那些将外贸模式玩的特别大的,反而都不是工厂,这一类人,都是具有杰出管理才能的商业奇才。在我看来,他们卖的不是产品,是管理模式。比如说有一个做外贸的老板,团队做到几千人的规模。他是这样做到的,为了防止业务员接私单以及节省成本,将业务员放在厦门,采购分布在深圳广州以及义乌(外贸货源集散地),几百名采购时刻盯紧市场最新动态,一旦有什么新产品马上将信息发送给厦门的业务团队,出单后采购将产品运输到上海,再由上海直接出口到世界各地。业务员根本不知道每天卖的产品来自于哪个城市,他们只能从出口的物流信息上查出包裹是从上海起飞,仅此而已。他们没有自己的工厂没有自己的品牌,光靠倒买倒卖就能够玩转的这么大。上面我说的这些,都是在赚信息差,这比做自己的品牌自己的工厂相比,要简单很多,倒手生意是最简单也来钱最快的方式之一了。不过从长远来看,中间商的利润会越来越薄,工厂和终端消费者的距离越来越近。所以这还是赚小钱的方法。不过没有1哪里来的100?提到赚信息差,还有其他一些类似的模式,比如我看到朋友圈有卖猫的卖珠宝的,他们每天会更新产品信息,包含产品价格以及图片和视频,如果你想做一份几乎不费什么吹灰之力的兼职,可以在征求卖家同意的前提下直接copy 他们的产品信息,转发到自己的朋友圈去,有人下单就让卖家代发货,赚一点中间差价。我从没做过微商,但我认为做微商光靠自己的朋友圈根本没有多少利润可图,并且在朋友圈轰炸式频繁发广告骚扰自己的朋友会被屏蔽甚至拖黑。所以可以另外申请一个新的微信号,利用软件加上千人,每天可是有上千的免费曝光量啊!这种方法不能保证赚大钱,但小钱应该没什么问题,关键是轻松不费力。如果想赚大钱,那又得花功夫和心思好好琢磨琢磨了。我并不提倡或者鼓励这种赚钱的模式,但我想表达的重点是,能赚小钱的方法简直太多了,只要你肯动脑子。而且它们不需要太多成本,甚至可以空手套白狼。我有一个国内批发客户,他和我同行,同在阿里巴巴国内站给外贸公司供货,他将我店铺的产品copy到他的店铺然后每次出单就直接让我代发货,同时也找平台其他供应商代发货,尽管没有合作的工厂,就这样的模式,我估计他年利润至少也有好几十万,还不包括他的外贸平台收入。并且他一直是一个人创业。有时候我都觉得我们都是在为他打工。因为他出单了不费吹灰之力就能赚到中间差价,而汗流浃背包货出货的可是我们上一级批发商啊!所以,你瞧,只要稍微动点脑子,赚小钱完全不是问题。如果你认为自己非常非常辛苦了,而且坚持的也够久了,为什么还是没有赚到什么钱,那一定是方法错了,请换一种思维。为了向父母证明小钱很容易赚,我做了一个实验,前段时间跑去花卉市场买了一大堆花,在马路边摆了两个小时,那是我第一次摆地摊,两小时赚了几十块钱。我从来没有卖过鲜花,没有任何经验,拿货价格也非常贵。而且我都不怎么敢大声吆喝,感觉有点难为情,但两个小时过去了我居然可以赚几十块钱,这是我当时摆的地摊:第二天我爸妈两个人独自去路边摆摊卖花,只卖了一个多小时,也收入了几十块钱。剩下没卖完的花被我拿回家插花瓶了。不过第二天我爸发现他们在地摊收到的100元居然是假币……虽然实际上一分没赚还亏了,但通过这个实验我告诉父母,只要肯行动,赚钱根本不是难题。就连摆地摊月入一万都没有什么太大难度。如果想赚大钱,就得多动脑子,选对项目很重要。还有,做生意得做好承受风险的心里准备,比如那张假币。有句话叫授人与鱼不如授人以渔,我认为手把手教人做一门生意不如传授赚钱的秘诀。一个真正会赚钱的人,在很多行业他都不会饿死,甚至都会做的非常出色。因为他掌握了成功的秘诀。前几年认识的创业的同行,年纪和我都差不多大,他们没有一个没有成功的。少则几百万,多则上千万。我说的一点也不夸张。而我是相对悟性最差的,也最笨的。我也赚了点小钱。所以长期坚持下去,有一天你也可以开窍,就像习武一样,有的人天资聪慧,很快就掌握了秘诀,而有些比较愚笨的譬如我,在失败很多次之后,终于有一天也突然摸索到了一些方法,拿到了通往成功路上的钥匙。我还在路上继续探索。失败过很多次,怀疑人生很多次,怀疑赚钱的意义很多次,很多次想要放弃,甚至一个月以前又有过放弃的念头。但我跌跌撞撞的坚持到今天,我还是没有离开。我梦想有一天可以将法国和美国的产品都运输到国内来,在美国和法国都有自己的仓库,可以随时飞去任何我想去的国家做生意,不仅仅是在网络上。做一个厉害的国际搬运工。我想这不是梦,最近已经开始计划了。我也梦想自己将来可以有自己的品牌,自己的工厂,这也是大势所趋。我还梦想自己将来可以同时去尝试别的领域,比如我最喜欢的室内软装设计,宠物业,高端旅游业,还有开花店等等。这些行业既是我非常感兴趣的行业,也是朝阳产业。春节的时候,我带着家人来到深圳过年,住进了我自己亲手装修的房子,还去澳门呆了几天。家人很开心,我说明年春节,我们一家人去国外度假吧。我从来没有想过原来给家人带来幸福是如此的充满意义。从前我一直在为自己为什么要赚钱找意义,有时候我总觉得是自己太穷了,所以才会去赚这该死的money ,所以我赚的很痛苦。有时候我经常自我安慰,当你不是为了赚钱而去赚钱,为了实现梦想和个人价值,还有回馈社会的时候,赚钱就会变得特别有意义。然而矛盾的我怎样都摆脱不了对金钱的心理洁癖。我想经过这个春节我突然找到赚钱的意义了,它一点也不肮脏,一点也不枯燥,它很有趣,并且有很多很多意义。它一直都在潜移默化的改变我的人生,我周围的一切。因为它,我的人生才有了更棒更多的体验以及更多的选择,更多的可能。包括我每一次喝的早茶和下午茶我买的每一件装饰品和每一束鲜花我上的每一节昂贵的绘画课 瑜伽课 健身课 舞蹈课 吉他课 古筝课我也可以随时去全世界任何国家旅行,也可以在未来的任何年纪都实现出国留学的梦想也许将来有一天,我就住在法国某个带有葡萄庄园的农场里种花养鸡晒太阳,并且已经有几个朋友打算在法国定居了。或者在加州边晒太阳边遛狗?这个主意也不错。再或者去新西兰放羊去吧,据说那里是上帝建造在人间的后花园。最有趣的是,将来我还可以帮助别人实现梦想!我可以勇敢的说出来:将来我一定可以赚很多很多的钱。我从来没有像现在这样重新燃起奋斗的激情,我感觉世界的大门都在为我而敞开。这个世界如此的精彩,我不要仅仅只是出去看看。1.3K添加评论分享收藏感谢收起54914 条评论分享收藏感谢收起终于有人把云计算、大数据和人工智能讲明白了!
今天跟大家讲讲云计算、大数据和人工智能。这三个词现在非常火,并且它们之间好像互相有关系。
一般谈云计算的时候会提到大数据、谈人工智能的时候会提大数据、谈人工智能的时候会提云计算……感觉三者之间相辅相成又不可分割。
但如果是非技术的人员,就可能比较难理解这三者之间的相互关系,所以有必要解释一下。
云计算最初的目标
我们首先来说云计算。云计算最初的目标是对资源的管理,管理的主要是计算资源、网络资源、存储资源三个方面。
管数据中心就像配电脑
什么叫计算、网络、存储资源?
比如你要买台笔记本电脑,是不是要关心这台电脑是什么样的 CPU?多大的内存?这两个就被我们称为计算资源。
这台电脑要上网,就需要有个可以插网线的网口,或者有可以连接我们家路由器的无线网卡。
您家也需要到运营商比如联通、移动或者电信开通一个网络,比如 100M 的带宽。然后会有师傅弄一根网线到您家来,师傅可能会帮您将您的路由器和他们公司的网络连接配置好。
这样您家的所有的电脑、手机、平板就都可以通过您的路由器上网了。这就是网络资源。
您可能还会问硬盘多大?过去的硬盘都很小,大小如 10G 之类的;后来即使 500G、1T、2T 的硬盘也不新鲜了。(1T 是 1000G),这就是存储资源。
对于一台电脑是这个样子的,对于一个数据中心也是同样的。想象你有一个非常非常大的机房,里面堆了很多的服务器,这些服务器也是有 CPU、内存、硬盘的,也是通过类似路由器的设备上网的。
这时的问题就是:运营数据中心的人是怎么把这些设备统一的管理起来的呢?
灵活就是想啥时要都有,想要多少都行
管理的目标就是要达到两个方面的灵活性。具体哪两个方面呢?
举个例子来理解:比如有个人需要一台很小的电脑,只有一个 CPU、1G 内存、10G 的硬盘、一兆的带宽,你能给他吗?
像这么小规格的电脑,现在随便一个笔记本电脑都比这个配置强了,家里随便拉一个宽带都要 100M。然而如果去一个云计算的平台上,他想要这个资源时,只要一点就有了。
这种情况下它就能达到两个方面的灵活性:
时间灵活性:想什么时候要就什么时候要,需要的时候一点就出来了。
空间灵活性:想要多少就有多少。需要一个空间很小的电脑,可以满足;需要一个特别大的空间例如云盘,云盘给每个人分配的空间动不动就很大很大,随时上传随时有空间,永远用不完,也是可以满足的。
空间灵活性和时间灵活性,即我们常说的云计算的弹性。而解决这个弹性的问题,经历了漫长时间的发展。
物理设备不灵活
第一个阶段是物理设备时期。这个时期客户需要一台电脑,我们就买一台放在数据中心里。
物理设备当然是越来越牛:
例如服务器,内存动不动就是百 G 内存。
例如网络设备,一个端口的带宽就能有几十 G 甚至上百 G。
例如存储,在数据中心至少是 PB 级别的(一个 P 是 1000 个 T,一个 T 是 1000 个 G)。
然而物理设备不能做到很好的灵活性:
首先是它缺乏时间灵活性。不能够达到想什么时候要就什么时候要。比如买台服务器、买个电脑,都要有采购的时间。
如果突然用户告诉某个云厂商,说想要开台电脑,使用物理服务器,当时去采购就很难。与供应商关系好的可能需要一个星期,与供应商关系一般的就可能需要采购一个月。
用户等了很久电脑才到位,这时用户还要登录上去慢慢开始部署自己的应用。时间灵活性非常差。
其次是它的空间灵活性也不行。例如上述的用户需要一个很小很小的电脑,但现在哪还有这么小型号的电脑?不能为了满足用户只要一个 G 的内存、80G 硬盘的,就去买一个这么小的机器。
但是如果买一个大的,又会因为电脑大,需要向用户多收钱,可用户需要用的只有那么小一点,所以多付钱就很冤。
虚拟化灵活多了
有人就想办法了。第一个办法就是虚拟化。用户不是只要一个很小的电脑么?
数据中心的物理设备都很强大,我可以从物理的 CPU、内存、硬盘中虚拟出一小块来给客户,同时也可以虚拟出一小块来给其他客户。
每个客户只能看到自己的那一小块,但其实每个客户用的是整个大的设备上的一小块。
虚拟化的技术使得不同客户的电脑看起来是隔离的。也就是我看着好像这块盘就是我的,你看着这块盘就是你的,但实际情况可能我的这个 10G 和你的这个 10G 是落在同样一个很大很大的存储上。
而且如果事先物理设备都准备好,虚拟化软件虚拟出一个电脑是非常快的,基本上几分钟就能解决。所以在任何一个云上要创建一台电脑,一点几分钟就出来了,就是这个道理。
这样空间灵活性和时间灵活性就基本解决了。
虚拟世界的赚钱与情怀
在虚拟化阶段,最牛的公司是 VMware。它是实现虚拟化技术比较早的一家公司,可以实现计算、网络、存储的虚拟化。
这家公司很牛,性能做得非常好,虚拟化软件卖得也非常好,赚了好多的钱,后来让 EMC(世界五百强,存储厂商第一品牌)给收购了。
但这个世界上还是有很多有情怀的人的,尤其是程序员里面。有情怀的人喜欢做什么事情?开源。
这个世界上很多软件都是有闭源就有开源,源就是源代码。也就是说,某个软件做的好,所有人都爱用,但这个软件的代码被我封闭起来,只有我公司知道,其他人不知道。
如果其他人想用这个软件,就要向我付钱,这就叫闭源。但世界上总有一些大牛看不惯钱都让一家赚了去的情况。大牛们觉得,这个技术你会我也会;你能开发出来,我也能。
我开发出来就是不收钱,把代码拿出来分享给大家,全世界谁用都可以,所有的人都可以享受到好处,这个叫做开源。
比如最近的蒂姆?伯纳斯?李就是个非常有情怀的人。2017 年,他因“发明万维网、第一个浏览器和使万维网得以扩展的基本协议和算法”而获得 2016 年度的图灵奖。
图灵奖就是计算机界的诺贝尔奖。然而他最令人敬佩的是,他将万维网,也就是我们常见的 WWW 技术无偿贡献给全世界免费使用。
我们现在在网上的所有行为都应该感谢他的功劳,如果他将这个技术拿来收钱,应该和比尔盖茨差不多有钱。
开源和闭源的例子有很多:例如在闭源的世界里有 Windows,大家用 Windows 都得给微软付钱;开源的世界里面就出现了 Linux。
比尔盖茨靠 Windows、Office 这些闭源的软件赚了很多钱,称为世界首富,就有大牛开发了另外一种操作系统 Linux。
很多人可能没有听说过 Linux,很多后台的服务器上跑的程序都是 Linux 上的,比如大家享受双十一,无论是淘宝、京东、考拉……支撑双十一抢购的系统都是跑在 Linux 上的。
再如有 Apple 就有安卓。Apple 市值很高,但是苹果系统的代码我们是看不到的,于是就有大牛写了安卓手机操作系统。
所以大家可以看到几乎所有的其他手机厂商,里面都装安卓系统。原因就是苹果系统不开源,而安卓系统大家都可以用。
在虚拟化软件也一样,有了 VMware,这个软件非常贵。那就有大牛写了两个开源的虚拟化软件,一个叫做 Xen,一个叫做 KVM,如果不做技术的,可以不用管这两个名字,但是后面还是会提到。
虚拟化的半自动和云计算的全自动
要说虚拟化软件解决了灵活性问题,其实并不全对。因为虚拟化软件一般创建一台虚拟的电脑,是需要人工指定这台虚拟电脑放在哪台物理机上的。
这一过程可能还需要比较复杂的人工配置。所以使用 VMware 的虚拟化软件,需要考一个很牛的证书,而能拿到这个证书的人,薪资是相当高,也可见其复杂程度。
所以仅仅凭虚拟化软件所能管理的物理机的集群规模都不是特别大,一般在十几台、几十台、最多百台这么一个规模。
这一方面会影响时间灵活性:虽然虚拟出一台电脑的时间很短,但是随着集群规模的扩大,人工配置的过程越来越复杂,越来越耗时。
另一方面也影响空间灵活性:当用户数量多时,这点集群规模,还远达不到想要多少要多少的程度,很可能这点资源很快就用完了,还得去采购。
所以随着集群的规模越来越大,基本都是千台起步,动辄上万台、甚至几十上百万台。如果去查一下 BAT,包括网易、谷歌、亚马逊,服务器数目都大的吓人。
这么多机器要靠人去选一个位置放这台虚拟化的电脑并做相应的配置,几乎是不可能的事情,还是需要机器去做这个事情。
人们发明了各种各样的算法来做这个事情,算法的名字叫做调度(Scheduler)。
通俗一点说,就是有一个调度中心,几千台机器都在一个池子里面,无论用户需要多少 CPU、内存、硬盘的虚拟电脑,调度中心会自动在大池子里面找一个能够满足用户需求的地方,把虚拟电脑启动起来做好配置,用户就直接能用了。
这个阶段我们称为池化或者云化。到了这个阶段,才可以称为云计算,在这之前都只能叫虚拟化。
云计算的私有与公有
云计算大致分两种:一个是私有云,一个是公有云,还有人把私有云和公有云连接起来称为混合云,这里暂且不说这个。
私有云:把虚拟化和云化的这套软件部署在别人的数据中心里面。使用私有云的用户往往很有钱,自己买地建机房、自己买服务器,然后让云厂商部署在自己这里。
VMware 后来除了虚拟化,也推出了云计算的产品,并且在私有云市场赚的盆满钵满。
公有云:把虚拟化和云化软件部署在云厂商自己数据中心里面的,用户不需要很大的投入,只要注册一个账号,就能在一个网页上点一下创建一台虚拟电脑。
例如 AWS 即亚马逊的公有云;国内的阿里云、腾讯云、网易云等。
亚马逊为什么要做公有云呢?我们知道亚马逊原来是国外比较大的一个电商,它做电商时也肯定会遇到类似双十一的场景:在某一个时刻大家都冲上来买东西。
当大家都冲上买东西时,就特别需要云的时间灵活性和空间灵活性。因为它不能时刻准备好所有的资源,那样太浪费了。但也不能什么都不准备,看着双十一这么多用户想买东西登不上去。
所以需要双十一时,就创建一大批虚拟电脑来支撑电商应用,过了双十一再把这些资源都释放掉去干别的。因此亚马逊是需要一个云平台的。
然而商用的虚拟化软件实在是太贵了,亚马逊总不能把自己在电商赚的钱全部给了虚拟化厂商。
于是亚马逊基于开源的虚拟化技术,如上所述的 Xen 或者 KVM,开发了一套自己的云化软件。没想到亚马逊后来电商越做越牛,云平台也越做越牛。
由于它的云平台需要支撑自己的电商应用;而传统的云计算厂商多为 IT 厂商出身,几乎没有自己的应用,所以亚马逊的云平台对应用更加友好,迅速发展成为云计算的第一品牌,赚了很多钱。
在亚马逊公布其云计算平台财报之前,人们都猜测,亚马逊电商赚钱,云也赚钱吗?后来一公布财报,发现不是一般的赚钱。仅仅去年,亚马逊 AWS 年营收达 122 亿美元,运营利润 31 亿美元。
云计算的赚钱与情怀
公有云的第一名亚马逊过得很爽,第二名 Rackspace 过得就一般了。没办法,这就是互联网行业的残酷性,多是赢者通吃的模式。所以第二名如果不是云计算行业的,很多人可能都没听过了。
第二名就想,我干不过老大怎么办呢?开源吧。如上所述,亚马逊虽然使用了开源的虚拟化技术,但云化的代码是闭源的。
很多想做又做不了云化平台的公司,只能眼巴巴的看着亚马逊挣大钱。Rackspace 把源代码一公开,整个行业就可以一起把这个平台越做越好,兄弟们大家一起上,和老大拼了。
于是 Rackspace 和美国航空航天局合作创办了开源软件 OpenStack,如上图所示 OpenStack 的架构图,不是云计算行业的不用弄懂这个图。
但能够看到三个关键字:Compute 计算、Networking 网络、Storage 存储。还是一个计算、网络、存储的云化管理平台。
当然第二名的技术也是非常棒的,有了 OpenStack 之后,果真像 Rackspace 想的一样,所有想做云的大企业都疯了,你能想象到的所有如雷贯耳的大型 IT 企业:IBM、惠普、戴尔、华为、联想等都疯了。
原来云平台大家都想做,看着亚马逊和 VMware 赚了这么多钱,眼巴巴看着没办法,想自己做一个好像难度还挺大。
现在好了,有了这样一个开源的云平台 OpenStack,所有的 IT 厂商都加入到这个社区中来,对这个云平台进行贡献,包装成自己的产品,连同自己的硬件设备一起卖。
有的做了私有云,有的做了公有云,OpenStack 已经成为开源云平台的事实标准。
IaaS,资源层面的灵活性
随着 OpenStack 的技术越来越成熟,可以管理的规模也越来越大,并且可以有多个 OpenStack 集群部署多套。
比如北京部署一套、杭州部署两套、广州部署一套,然后进行统一的管理。这样整个规模就更大了。
在这个规模下,对于普通用户的感知来讲,基本能够做到想什么时候要就什么时候要,想要多少就要多少。
还是拿云盘举例子,每个用户云盘都分配了 5T 甚至更大的空间,如果有 1 亿人,那加起来空间多大啊。
其实背后的机制是这样的:分配你的空间,你可能只用了其中很少一点,比如说它分配给你了 5 个 T,这么大的空间仅仅是你看到的,而不是真的就给你了。
你其实只用了 50 个 G,则真实给你的就是 50 个 G,随着你文件的不断上传,分给你的空间会越来越多。
当大家都上传,云平台发现快满了的时候(例如用了 70%),会采购更多的服务器,扩充背后的资源,这个对用户是透明的、看不到的。
从感觉上来讲,就实现了云计算的弹性。其实有点像银行,给储户的感觉是什么时候取钱都有,只要不同时挤兑,银行就不会垮。
到了这个阶段,云计算基本上实现了时间灵活性和空间灵活性;实现了计算、网络、存储资源的弹性。
计算、网络、存储我们常称为基础设施 Infranstracture, 因而这个阶段的弹性称为资源层面的弹性。
管理资源的云平台,我们称为基础设施服务,也就是我们常听到的 IaaS(Infranstracture As A Service)。
云计算不光管资源,也要管应用
有了 IaaS,实现了资源层面的弹性就够了吗?显然不是,还有应用层面的弹性。
这里举个例子:比如说实现一个电商的应用,平时十台机器就够了,双十一需要一百台。你可能觉得很好办啊,有了 IaaS,新创建九十台机器就可以了啊。
但 90 台机器创建出来是空的,电商应用并没有放上去,只能让公司的运维人员一台一台的弄,需要很长时间才能安装好的。
虽然资源层面实现了弹性,但没有应用层的弹性,依然灵活性是不够的。有没有方法解决这个问题呢?
人们在 IaaS 平台之上又加了一层,用于管理资源以上的应用弹性的问题,这一层通常称为 PaaS(Platform As A Service)。
这一层往往比较难理解,大致分两部分:一部分笔者称为“你自己的应用自动安装”,一部分笔者称为“通用的应用不用安装”。
自己的应用自动安装:比如电商应用是你自己开发的,除了你自己,其他人是不知道怎么安装的。
像电商应用,安装时需要配置支付宝或者微信的账号,才能使别人在你的电商上买东西时,付的钱是打到你的账户里面的,除了你,谁也不知道。
所以安装的过程平台帮不了忙,但能够帮你做得自动化,你需要做一些工作,将自己的配置信息融入到自动化的安装过程中方可。
比如上面的例子,双十一新创建出来的 90 台机器是空的,如果能够提供一个工具,能够自动在这新的 90 台机器上将电商应用安装好,就能够实现应用层面的真正弹性。
例如 Puppet、Chef、Ansible、Cloud Foundary 都可以干这件事情,最新的容器技术 Docker 能更好的干这件事情。
通用的应用不用安装:所谓通用的应用,一般指一些复杂性比较高,但大家都在用的,例如数据库。几乎所有的应用都会用数据库,但数据库软件是标准的,虽然安装和维护比较复杂,但无论谁安装都是一样。
这样的应用可以变成标准的 PaaS 层的应用放在云平台的界面上。当用户需要一个数据库时,一点就出来了,用户就可以直接用了。
有人问,既然谁安装都一个样,那我自己来好了,不需要花钱在云平台上买。当然不是,数据库是一个非常难的东西,光 Oracle 这家公司,靠数据库就能赚这么多钱。买 Oracle 也是要花很多钱的。
然而大多数云平台会提供 MySQL 这样的开源数据库,又是开源,钱不需要花这么多了。
但维护这个数据库,却需要专门招一个很大的团队,如果这个数据库能够优化到能够支撑双十一,也不是一年两年能够搞定的。
比如您是一个做单车的,当然没必要招一个非常大的数据库团队来干这件事情,成本太高了,应该交给云平台来做这件事情。
专业的事情专业的人来做,云平台专门养了几百人维护这套系统,您只要专注于您的单车应用就可以了。
要么是自动部署,要么是不用部署,总的来说就是应用层你也要少操心,这就是 PaaS 层的重要作用。
虽说脚本的方式能够解决自己的应用的部署问题,然而不同的环境千差万别,一个脚本往往在一个环境上运行正确,到另一个环境就不正确了。
而容器是能更好地解决这个问题。
容器是 Container,Container 另一个意思是集装箱,其实容器的思想就是要变成软件交付的集装箱。集装箱的特点:一是封装,二是标准。
在没有集装箱的时代,假设将货物从 A 运到 B,中间要经过三个码头、换三次船。
每次都要将货物卸下船来,摆得七零八落,然后搬上船重新整齐摆好。因此在没有集装箱时,每次换船,船员们都要在岸上待几天才能走。
有了集装箱以后,所有的货物都打包在一起了,并且集装箱的尺寸全部一致,所以每次换船时,一个箱子整体搬过去就行了,小时级别就能完成,船员再也不用上岸长时间耽搁了。
这是集装箱“封装”、“标准”两大特点在生活中的应用。
那么容器如何对应用打包呢?还是要学习集装箱。首先要有个封闭的环境,将货物封装起来,让货物之间互不干扰、互相隔离,这样装货卸货才方便。好在 Ubuntu 中的 LXC 技术早就能做到这一点。
封闭的环境主要使用了两种技术:
看起来是隔离的技术,称为 Namespace,也即每个 Namespace 中的应用看到的是不同的 IP 地址、用户空间、程号等。
用起来是隔离的技术,称为 Cgroups,也即明明整台机器有很多的 &CPU、内存,而一个应用只能用其中的一部分。
所谓的镜像,就是将你焊好集装箱的那一刻,将集装箱的状态保存下来,就像孙悟空说:“定”,集装箱里面就定在了那一刻,然后将这一刻的状态保存成一系列文件。
这些文件的格式是标准的,谁看到这些文件都能还原当时定住的那个时刻。将镜像还原成运行时的过程(就是读取镜像文件,还原那个时刻的过程),就是容器运行的过程。
有了容器,使得 PaaS 层对于用户自身应用的自动部署变得快速而优雅。
大数据拥抱云计算
在 PaaS 层中一个复杂的通用应用就是大数据平台。大数据是如何一步一步融入云计算的呢?
数据不大也包含智慧
一开始这个大数据并不大。原来才有多少数据?现在大家都去看电子书,上网看新闻了,在我们 80 后小时候,信息量没有那么大,也就看看书、看看报,一个星期的报纸加起来才有多少字?
如果你不在一个大城市,一个普通的学校的图书馆加起来也没几个书架,是后来随着信息化的到来,信息才会越来越多。
首先我们来看一下大数据里面的数据,就分三种类型:
结构化的数据:即有固定格式和有限长度的数据。例如填的表格就是结构化的数据,国籍:中华人民共和国,民族:汉,性别:男,这都叫结构化数据。
非结构化的数据:现在非结构化的数据越来越多,就是不定长、无固定格式的数据,例如网页,有时候非常长,有时候几句话就没了;例如语音,视频都是非结构化的数据。
半结构化数据:是一些 XML 或者 HTML 的格式的,不从事技术的可能不了解,但也没有关系。
其实数据本身不是有用的,必须要经过一定的处理。例如你每天跑步带个手环收集的也是数据,网上这么多网页也是数据,我们称为 Data。
数据本身没有什么用处,但数据里面包含一个很重要的东西,叫做信息(Information)。
数据十分杂乱,经过梳理和清洗,才能够称为信息。信息会包含很多规律,我们需要从信息中将规律总结出来,称为知识(Knowledge),而知识改变命运。
信息是很多的,但有人看到了信息相当于白看,但有人就从信息中看到了电商的未来,有人看到了直播的未来,所以人家就牛了。
如果你没有从信息中提取出知识,天天看朋友圈也只能在互联网滚滚大潮中做个看客。
有了知识,然后利用这些知识去应用于实战,有的人会做得非常好,这个东西叫做智慧(Intelligence)。
有知识并不一定有智慧,例如好多学者很有知识,已经发生的事情可以从各个角度分析得头头是道,但一到实干就歇菜,并不能转化成为智慧。
而很多的创业家之所以伟大,就是通过获得的知识应用于实践,最后做了很大的生意。
所以数据的应用分这四个步骤:数据、信息、知识、智慧。
最终的阶段是很多商家都想要的。你看我收集了这么多的数据,能不能基于这些数据来帮我做下一步的决策,改善我的产品。
例如让用户看视频的时候旁边弹出广告,正好是他想买的东西;再如让用户听音乐时,另外推荐一些他非常想听的其他音乐。
用户在我的应用或者网站上随便点点鼠标,输入文字对我来说都是数据,我就是要将其中某些东西提取出来、指导实践、形成智慧,让用户陷入到我的应用里面不可自拔,上了我的网就不想离开,手不停地点、不停地买。
很多人说双十一我都想断网了,我老婆在上面不断地买买买,买了 A 又推荐 B,老婆大人说,“哎呀,B 也是我喜欢的啊,老公我要买”。
你说这个程序怎么这么牛,这么有智慧,比我还了解我老婆,这件事情是怎么做到的呢?
数据如何升华为智慧
数据的处理分以下几个步骤,完成了才最后会有智慧:
数据处理和分析
数据检索和挖掘
首先得有数据,数据的收集有两个方式:
拿,专业点的说法叫抓取或者爬取。例如搜索引擎就是这么做的:它把网上的所有的信息都下载到它的数据中心,然后你一搜才能搜出来。
比如你去搜索的时候,结果会是一个列表,这个列表为什么会在搜索引擎的公司里面?就是因为他把数据都拿下来了,但是你一点链接,点出来这个网站就不在搜索引擎它们公司了。
比如说新浪有个新闻,你拿百度搜出来,你不点的时候,那一页在百度数据中心,一点出来的网页就是在新浪的数据中心了。
推送,有很多终端可以帮我收集数据。比如说小米手环,可以将你每天跑步的数据,心跳的数据,睡眠的数据都上传到数据中心里面。
一般会通过队列方式进行,因为数据量实在是太大了,数据必须经过处理才会有用。可系统处理不过来,只好排好队,慢慢处理。
现在数据就是金钱,掌握了数据就相当于掌握了钱。要不然网站怎么知道你想买什么?
就是因为它有你历史的交易数据,这个信息可不能给别人,十分宝贵,所以需要存储下来。
数据处理和分析
上面存储的数据是原始数据,原始数据多是杂乱无章的,有很多垃圾数据在里面,因而需要清洗和过滤,得到一些高质量的数据。
对于高质量的数据,就可以进行分析,从而对数据进行分类,或者发现数据之间的相互关系,得到知识。
比如盛传的沃尔玛超市的啤酒和尿布的故事,就是通过对人们的购买数据进行分析,发现了男人一般买尿布的时候,会同时购买啤酒。
这样就发现了啤酒和尿布之间的相互关系,获得知识,然后应用到实践中,将啤酒和尿布的柜台弄的很近,就获得了智慧。
数据检索和挖掘
检索就是搜索,所谓外事不决问 Google,内事不决问百度。内外两大搜索引擎都是将分析后的数据放入搜索引擎,因此人们想寻找信息的时候,一搜就有了。
另外就是挖掘,仅仅搜索出来已经不能满足人们的要求了,还需要从信息中挖掘出相互的关系。
比如财经搜索,当搜索某个公司股票的时候,该公司的高管是不是也应该被挖掘出来呢?
如果仅仅搜索出这个公司的股票发现涨的特别好,于是你就去买了,其时其高管发了一个声明,对股票十分不利,第二天就跌了,这不坑害广大股民么?所以通过各种算法挖掘数据中的关系,形成知识库,十分重要。
大数据时代,众人拾柴火焰高
当数据量很小时,很少的几台机器就能解决。慢慢的,当数据量越来越大,最牛的服务器都解决不了问题时,怎么办呢?
这时就要聚合多台机器的力量,大家齐心协力一起把这个事搞定,众人拾柴火焰高。
对于数据的收集:就 IoT 来讲,外面部署着成千上万的检测设备,将大量的温度、湿度、监控、电力等数据统统收集上来;就互联网网页的搜索引擎来讲,需要将整个互联网所有的网页都下载下来。
这显然一台机器做不到,需要多台机器组成网络爬虫系统,每台机器下载一部分,同时工作,才能在有限的时间内,将海量的网页下载完毕。
对于数据的传输:一个内存里面的队列肯定会被大量的数据挤爆掉,于是就产生了基于硬盘的分布式队列,这样队列可以多台机器同时传输,随你数据量多大,只要我的队列足够多,管道足够粗,就能够撑得住。
对于数据的存储:一台机器的文件系统肯定是放不下的,所以需要一个很大的分布式文件系统来做这件事情,把多台机器的硬盘打成一块大的文件系统。
对于数据的分析:可能需要对大量的数据做分解、统计、汇总,一台机器肯定搞不定,处理到猴年马月也分析不完。
于是就有分布式计算的方法,将大量的数据分成小份,每台机器处理一小份,多台机器并行处理,很快就能算完。
例如著名的 Terasort 对 1 个 TB 的数据排序,相当于 1000G,如果单机处理,怎么也要几个小时,但并行处理 209 秒就完成了。
所以说什么叫做大数据?说白了就是一台机器干不完,大家一起干。
可是随着数据量越来越大,很多不大的公司都需要处理相当多的数据,这些小公司没有这么多机器可怎么办呢?
大数据需要云计算,云计算需要大数据
说到这里,大家想起云计算了吧。当想要干这些活时,需要很多的机器一块做,真的是想什么时候要就什么时候要,想要多少就要多少。
例如大数据分析公司的财务情况,可能一周分析一次,如果要把这一百台机器或者一千台机器都在那放着,一周用一次非常浪费。
那能不能需要计算的时候,把这一千台机器拿出来;不算的时候,让这一千台机器去干别的事情?
谁能做这个事儿呢?只有云计算,可以为大数据的运算提供资源层的灵活性。
而云计算也会部署大数据放到它的 PaaS 平台上,作为一个非常非常重要的通用应用。
因为大数据平台能够使得多台机器一起干一个事儿,这个东西不是一般人能开发出来的,也不是一般人玩得转的,怎么也得雇个几十上百号人才能把这个玩起来。
所以说就像数据库一样,还是需要有一帮专业的人来玩这个东西。现在公有云上基本上都会有大数据的解决方案了。
一个小公司需要大数据平台的时候,不需要采购一千台机器,只要到公有云上一点,这一千台机器都出来了,并且上面已经部署好了的大数据平台,只要把数据放进去算就可以了。
云计算需要大数据,大数据需要云计算,二者就这样结合了。
人工智能拥抱大数据
机器什么时候才能懂人心
虽说有了大数据,人的欲望却不能够满足。虽说在大数据平台里面有搜索引擎这个东西,想要什么东西一搜就出来了。
但也存在这样的情况:我想要的东西不会搜,表达不出来,搜索出来的又不是我想要的。
例如音乐软件推荐了一首歌,这首歌我没听过,当然不知道名字,也没法搜。但是软件推荐给我,我的确喜欢,这就是搜索做不到的事情。
当人们使用这种应用时,会发现机器知道我想要什么,而不是说当我想要时,去机器里面搜索。这个机器真像我的朋友一样懂我,这就有点人工智能的意思了。
人们很早就在想这个事情了。最早的时候,人们想象,要是有一堵墙,墙后面是个机器,我给它说话,它就给我回应。
如果我感觉不出它那边是人还是机器,那它就真的是一个人工智能的东西了。
让机器学会推理
怎么才能做到这一点呢?人们就想:我首先要告诉计算机人类推理的能力。你看人重要的是什么?人和动物的区别在什么?就是能推理。
要是把我这个推理的能力告诉机器,让机器根据你的提问,推理出相应的回答,这样多好?
其实目前人们慢慢地让机器能够做到一些推理了,例如证明数学公式。这是一个非常让人惊喜的一个过程,机器竟然能够证明数学公式。
但慢慢又发现这个结果也没有那么令人惊喜。因为大家发现了一个问题:数学公式非常严谨,推理过程也非常严谨,而且数学公式很容易拿机器来进行表达,程序也相对容易表达。
然而人类的语言就没这么简单了。比如今天晚上,你和你女朋友约会,你女朋友说:如果你早来,我没来,你等着;如果我早来,你没来,你等着!
这个机器就比较难理解了,但人都懂。所以你和女朋友约会,是不敢迟到的。
教给机器知识
因此,仅仅告诉机器严格的推理是不够的,还要告诉机器一些知识。但告诉机器知识这个事情,一般人可能就做不来了。可能专家可以,比如语言领域的专家或者财经领域的专家。
语言领域和财经领域知识能不能表示成像数学公式一样稍微严格点呢?例如语言专家可能会总结出主谓宾定状补这些语法规则,主语后面一定是谓语,谓语后面一定是宾语,将这些总结出来,并严格表达出来不就行了吗?
后来发现这个不行,太难总结了,语言表达千变万化。就拿主谓宾的例子,很多时候在口语里面就省略了谓语,别人问:你谁啊?我回答:我刘超。
但你不能规定在语音语义识别时,要求对着机器说标准的书面语,这样还是不够智能,就像罗永浩在一次演讲中说的那样,每次对着手机,用书面语说:请帮我呼叫某某某,这是一件很尴尬的事情。
人工智能这个阶段叫做专家系统。专家系统不易成功,一方面是知识比较难总结,另一方面总结出来的知识难以教给计算机。
因为你自己还迷迷糊糊,觉得似乎有规律,就是说不出来,又怎么能够通过编程教给计算机呢?
算了,教不会你自己学吧
于是人们想到:机器是和人完全不一样的物种,干脆让机器自己学习好了。
机器怎么学习呢?既然机器的统计能力这么强,基于统计学习,一定能从大量的数字中发现一定的规律。
其实在娱乐圈有很好的一个例子,可窥一斑:
有一位网友统计了知名歌手在大陆发行的 9 张专辑中 117 首歌曲的歌词,同一词语在一首歌出现只算一次,形容词、名词和动词的前十名如下表所示(词语后面的数字是出现的次数):
如果我们随便写一串数字,然后按照数位依次在形容词、名词和动词中取出一个词,连在一起会怎么样呢?
例如取圆周率 3.1415926,对应的词语是:坚强,路,飞,自由,雨,埋,迷惘。
稍微连接和润色一下:
坚强的孩子
依然前行在路上
张开翅膀飞向自由
让雨水埋葬他的迷惘
是不是有点感觉了?当然,真正基于统计的学习算法比这个简单的统计复杂得多。
然而统计学习比较容易理解简单的相关性:例如一个词和另一个词总是一起出现,两个词应该有关系;而无法表达复杂的相关性。
并且统计方法的公式往往非常复杂,为了简化计算,常常做出各种独立性的假设,来降低公式的计算难度,然而现实生活中,具有独立性的事件是相对较少的。
模拟大脑的工作方式
于是人类开始从机器的世界,反思人类的世界是怎么工作的。
人类的脑子里面不是存储着大量的规则,也不是记录着大量的统计数据,而是通过神经元的触发实现的。
每个神经元有从其他神经元的输入,当接收到输入时,会产生一个输出来刺激其他神经元。于是大量的神经元相互反应,最终形成各种输出的结果。
例如当人们看到美女瞳孔会放大,绝不是大脑根据身材比例进行规则判断,也不是将人生中看过的所有的美女都统计一遍,而是神经元从视网膜触发到大脑再回到瞳孔。
在这个过程中,其实很难总结出每个神经元对最终的结果起到了哪些作用,反正就是起作用了。
于是人们开始用一个数学单元模拟神经元。
这个神经元有输入,有输出,输入和输出之间通过一个公式来表示,输入根据重要程度不同(权重),影响着输出。
于是将 n 个神经元通过像一张神经网络一样连接在一起。n 这个数字可以很大很大,所有的神经元可以分成很多列,每一列很多个排列起来。
每个神经元对于输入的权重可以都不相同,从而每个神经元的公式也不相同。当人们从这张网络中输入一个东西的时候,希望输出一个对人类来讲正确的结果。
例如上面的例子,输入一个写着 2 的图片,输出的列表里面第二个数字最大,其实从机器来讲,它既不知道输入的这个图片写的是 2,也不知道输出的这一系列数字的意义,没关系,人知道意义就可以了。
正如对于神经元来说,他们既不知道视网膜看到的是美女,也不知道瞳孔放大是为了看的清楚,反正看到美女,瞳孔放大了,就可以了。
对于任何一张神经网络,谁也不敢保证输入是 2,输出一定是第二个数字最大,要保证这个结果,需要训练和学习。
毕竟看到美女而瞳孔放大也是人类很多年进化的结果。学习的过程就是,输入大量的图片,如果结果不是想要的结果,则进行调整。
如何调整呢?就是每个神经元的每个权重都向目标进行微调,由于神经元和权重实在是太多了,所以整张网络产生的结果很难表现出非此即彼的结果,而是向着结果微微地进步,最终能够达到目标结果。
当然,这些调整的策略还是非常有技巧的,需要算法的高手来仔细的调整。正如人类见到美女,瞳孔一开始没有放大到能看清楚,于是美女跟别人跑了,下次学习的结果是瞳孔放大一点点,而不是放大鼻孔。
没道理但做得到
听起来也没有那么有道理,但的确能做到,就是这么任性!
神经网络的普遍性定理是这样说的,假设某个人给你某种复杂奇特的函数,f(x):
不管这个函数是什么样的,总会确保有个神经网络能够对任何可能的输入 x,其值 f(x)(或者某个能够准确的近似)是神经网络的输出。
如果在函数代表着规律,也意味着这个规律无论多么奇妙,多么不能理解,都是能通过大量的神经元,通过大量权重的调整,表示出来的。
人工智能的经济学解释
这让我想到了经济学,于是比较容易理解了。
我们把每个神经元当成社会中从事经济活动的个体。于是神经网络相当于整个经济社会,每个神经元对于社会的输入,都有权重的调整,做出相应的输出。
比如工资涨了、菜价涨了、股票跌了,我应该怎么办、怎么花自己的钱。这里面没有规律么?肯定有,但是具体什么规律呢?很难说清楚。
基于专家系统的经济属于计划经济。整个经济规律的表示不希望通过每个经济个体的独立决策表现出来,而是希望通过专家的高屋建瓴和远见卓识总结出来。但专家永远不可能知道哪个城市的哪个街道缺少一个卖甜豆腐脑的。
于是专家说应该产多少钢铁、产多少馒头,往往距离人民生活的真正需求有较大的差距,就算整个计划书写个几百页,也无法表达隐藏在人民生活中的小规律。
基于统计的宏观调控就靠谱多了,每年统计局都会统计整个社会的就业率、通胀率、GDP 等指标。这些指标往往代表着很多内在规律,虽然不能精确表达,但是相对靠谱。
然而基于统计的规律总结表达相对比较粗糙。比如经济学家看到这些统计数据,可以总结出长期来看房价是涨还是跌、股票长期来看是涨还是跌。
如果经济总体上扬,房价和股票应该都是涨的。但基于统计数据,无法总结出股票,物价的微小波动规律。
基于神经网络的微观经济学才是对整个经济规律最最准确的表达,每个人对于自己在社会中的输入进行各自的调整,并且调整同样会作为输入反馈到社会中。
想象一下股市行情细微的波动曲线,正是每个独立的个体各自不断交易的结果,没有统一的规律可循。
而每个人根据整个社会的输入进行独立决策,当某些因素经过多次训练,也会形成宏观上统计性的规律,这也就是宏观经济学所能看到的。
例如每次货币大量发行,最后房价都会上涨,多次训练后,人们也就都学会了。
人工智能需要大数据
然而,神经网络包含这么多的节点,每个节点又包含非常多的参数,整个参数量实在是太大了,需要的计算量实在太大。
但没有关系,我们有大数据平台,可以汇聚多台机器的力量一起来计算,就能在有限的时间内得到想要的结果。
人工智能可以做的事情非常多,例如可以鉴别垃圾邮件、鉴别黄色暴力文字和图片等。
这也是经历了三个阶段的:
依赖于关键词黑白名单和过滤技术,包含哪些词就是黄色或者暴力的文字。随着这个网络语言越来越多,词也不断地变化,不断地更新这个词库就有点顾不过来。
基于一些新的算法,比如说贝叶斯过滤等,你不用管贝叶斯算法是什么,但是这个名字你应该听过,这是一个基于概率的算法。
基于大数据和人工智能,进行更加精准的用户画像、文本理解和图像理解。
由于人工智能算法多是依赖于大量的数据的,这些数据往往需要面向某个特定的领域(例如电商,邮箱)进行长期的积累。
如果没有数据,就算有人工智能算法也白搭,所以人工智能程序很少像前面的 IaaS 和 PaaS 一样,将人工智能程序给某个客户安装一套,让客户去用。
因为给某个客户单独安装一套,客户没有相关的数据做训练,结果往往是很差的。
但云计算厂商往往是积累了大量数据的,于是就在云计算厂商里面安装一套,暴露一个服务接口。
比如您想鉴别一个文本是不是涉及黄色和暴力,直接用这个在线服务就可以了。这种形势的服务,在云计算里面称为软件即服务,SaaS (Software AS A Service)
于是工智能程序作为 SaaS 平台进入了云计算。
基于三者关系的美好生活
终于云计算的三兄弟凑齐了,分别是 IaaS、PaaS 和 SaaS。所以一般在一个云计算平台上,云、大数据、人工智能都能找得到。
一个大数据公司,积累了大量的数据,会使用一些人工智能的算法提供一些服务;一个人工智能公司,也不可能没有大数据平台支撑。
所以,当云计算、大数据、人工智能这样整合起来,便完成了相遇、相识、相知的过程。
版权所有:&&& 备案号:
云计算体验中心:上海松江区光星路618号天诚商务园区1层 &&&&
&&&电话:021-
公司总部:上海松江区光星路618号天诚商务园区10楼&&&
电话:021-
传真:021-&&&E-mail:&

我要回帖

更多关于 移动宽带装机师傅工资 的文章

 

随机推荐