盖茨：人工智能变得聪明不是威胁 是未来助理
　　【环球网科技报道记者 张阳】据CNBC5月2日报道，比尔盖茨在接受采访时表示，所谓的人工智能变得超级聪明的危险，实际上是未来的出路。
　　盖茨表示，&在未来的10到20年人工智能将是非常有用管理我们生活的工具。这种&自我软件&可以代替我们处理电子邮件，查收短信等等应对如潮水般的信息，而使你不用整天黏在电脑和智能手机上。它可以把信息呈现给你，并且知道什么是你最感兴趣的，而这是最有价值的事情，也因此微软、谷歌、Facebook和苹果公司都正在大力发展人工智能技术。&
　　盖茨还指出，&我们还将首次看到的是，电脑将可像人一样去&看&。如果将其与类似于人类手臂的操纵方式相结合，那么就会大大提高生产力。&但他同时承认，就业市场将需为机械承担更多的日常工作而作出调整。
版权作品，未经环球网书面授权，严禁转载，违者将被追究法律责任。
责编：张阳
环球时报系产品
扫描关注环球网官方微信
扫描关注 这里是美国微信公众号
扫描关注更多环球微信公众号聪明的电脑 人工智能的黎明_互联网视窗-爱微帮
&& &&& 聪明的电脑 人工智能的黎明
强大的电脑将重塑人类未来。如何确保希望大于危险斯蒂芬·霍金警告说：“人工智能的全面发展可能导致人类灭绝。”埃隆·马斯克（Elon Musk）担心人工智能（即AI）的发展可能成为人类生存面临的最大威胁。比尔·盖茨敦促人们意识到这一点。害怕自己创造出的可憎之物成为自己的主人，或自己的终结者，这样的事并不新鲜。但出自一位著名的宇宙学家、一位硅谷创业家，以及微软的创始人之口——这三位绝非反对自动化的卢德派——再与谷歌和微软等大公司在人工智能领域的巨额投资相比照，这样的担忧有了更深一层的意义。每个人的口袋里都装着超级计算机，每个战场都有机器人俯瞰监视，只把这些当作科幻小说而嗤之以鼻似乎是自欺欺人。问题是，我们到底应该去担心什么才不是杞人忧天？你教会我说话......第一步是弄清楚电脑现在能做什么，将来可能能做什么。因为处理能力增强、可用的数字化数据越来越丰富，人工智能在能力上正蓬勃发展。今天的“深入学习”系统通过模拟人脑的神经元层并处理大量数据，能够教会自己执行一些任务，从模式识别到翻译，几乎能和人类做得一样好。结果，以前需要调动脑力的事，从解读图片到玩电子游戏“青蛙过河”，现在都是电脑程序可以解决的范畴。2014年Facebook推出的一种算法DeepFace能从各种图像中识别单张人脸，准确率达97%。关键在于，这一能力范围狭隘而又具体。如今的人工智能是通过生吞活剥地处理大量数据创造出智能的表象，至于如何能像人类思维赋予人类自主权、兴趣和欲望那样运作，人工智能没有太大的兴趣。在宽泛、灵活变通的能力上，即与传统意义上人体感官的智能相关联的推理、判断、决策等方面，电脑尚无任何与人类相近的能力。但是人工智能的力量已经非常强大，足以让人类生活产生翻天覆地的变化。它能够为人们的工作提供补充，从而提升人类的创造性努力。例如国际象棋，电脑现在下得比人好。不过，世界上最好的棋手并非机器，而是国际象棋大师加里·卡斯帕罗夫（Garry Kasparov）所称的“半人马”：人类和算法的合体。在各种各样的职业中，这样的合体将成为常态：有了人工智能的支持，医生们在医学影像上发现癌症的能力将大大增强；智能手机上运行的语音识别算法让发展中国家的数百万文盲也能上网；数字助理将帮助学术研究提出前景喜人的假设；图像分类算法让可穿戴电脑在人们看到的真实世界上叠加有用信息。即使从短期来看，也并非所有的结果都是积极的。比如说，想想人工智能给国家安全机器带来的能力，无论是专制国家还是民主国家。监控数十亿计的对话，而且仅凭某人的声音或面部特征就能从人群中找出这位公民，这样的能力对自由的威胁极大。即便有广泛的社会收益，许多人的工作还是会被人工智能取代。最初的“计算员”是一份苦差事，通常是女性为她们的上司做无休止的运算。正如晶体管替代了她们的位置一样，人工智能也很可能让一整批白领员工失去工作。教育和培训会有助益，在人工智能的协助下创造的财富将用于新的创业，并创造出新的就业机会。但员工们注定要失去原有的工作。不过，霍金、马斯克和盖茨担忧的并不是监控和混乱，好莱坞最近投放大荧幕的一大批关于未来人工智能的电影也不是从这里找到的灵感。总体而言，他们所关心的更遥远，更关乎世界末日：自动机器带来的威胁，它们有超人的认知能力和兴趣，利益又与智人相冲突。还要经历一个漫长的过程才会有这样的人工智能存在；事实上，它们可能永远也无法被创造出来。尽管对大脑的分析已经折腾了一个世纪，心理学家、神经学家、社会学家和哲学家还是远远没弄清思想是怎么产生的，或者说思想是什么。即便是对一般类型的有限智能，即有兴趣和自主性的类型，其运作情况也很不清晰。一辆自动驾驶、无需主人开的车听来是件好事；可一辆自己想去哪儿的车就不是那么回事了。......我知道怎么咒骂但是，就算离霍金所谓的人工智能“全面”发展还很遥远，出于谨慎行事，整个社会仍应计划如何应对。这比看起来要容易，尤其是因为人类制造出具有超人能力、利益不一致的自主实体已有时日。政府官僚机构、市场和军队，都可以做到未受协助、无组织的人类做不到的事。所有这些都需要独立自主来发挥功用；所有这些都能承担起自己的命运；所有这些如果不是公平设立并由法律法规监管，都会产生巨大的危害。这些相似之物应当可以抚慰担忧的人；它们还为社会提供了安全发展人工智能的具体方式。正如军队需要平民监督，市场需要监管，政府机构必须透明且负责一样，人工智能系统必须接受公开监督。因为系统设计者无法预见每种情形，所以还必须有一个可以关闭人工智能的开关。这些限制措施能够在不损害发展的情况下就位。从核弹到交通规则，人类已经采用技术创新和法律限制约束过其他强大的新事物。害怕人类终将创造出自主的、非人类的智能，这样的恐惧始终萦绕心头，以至于辩论似乎已失去意义。是的，危险确实存在。但是危险不应该掩盖即将到来的人工智能时代给我们带来的巨大益处。
点击展开全文
微信扫描右侧二维码关注后
悄悄告诉你
更多同类文章
还可知道有多少人阅读过此篇文章哦
今日互联网每天搜罗分享互联网热门资讯、头条新闻，各种焦点话题，尽在今日互联网！
您的【关注和订阅】是作者不断前行的动力
本站文章来自网友的提交收录，如需删除可发送邮件到 bang＠ 或联系QQ ，
(C)2014&&版权所有&&&|&&&
京ICP备号-2&&&&京公网安备34　　2012年6月，谷歌所开发的人工神经网络通过观看一周YouTube视频，自主学会了识别哪些是关于猫的视频。这个案例为人工智能领域翻开了崭新的一页。近几年IBM、微软、脸谱网、苹果，百度等公司纷纷投入巨资进行自已的人工大脑计划。广阔的应用前景，引发一场全球性的人工智能开发的竞赛。目标直指具有人类同等思考能力的人工大脑。2014年6月有媒体报导百度大脑已具有三岁小孩同等的智力。人工智能的进展速度令人目瞪口呆！　　缔造了特斯拉汽车和SpaceX火箭的埃隆?马斯克在Twitter上表示，“我们要非常小心人工智能，它可能比核武器更危险。” 史蒂芬?霍金在接受HBO访谈时，他说“人工智能可能是一个‘真正的危险’。机器人可能会找到改进自己的办法，而这些改进并不总是会造福人类。”　　我一方面对人工智能的飞速进展感到欣喜，但更多的是担忧。人工智能的智力自然是智力越高越好。我的担忧来自：人工智能是否会产生自我意识，最终导致失控。如果人工智能拥有自我的意识，就意味着它是跟我们一样的生命体了。同样会有求生的本能，会有欲望。　　特别是谷歌、百度这两家公司，其人工智能的开发应用目标之一，很可能就是用于智能搜索引擎。希望能识别关键词的含义，迅速给出对应的文字、视频、图像结果。想要实现这样的功能，对人工智力的要求致少要达到成人的水平。而且还是个知识极渊博、思维极迅速的成年人。个人很难想像具有这样高水平的智力会没有自我意识。　　我家的小孩在一岁半以前，还无法明白你我的含义。他妈妈想让孩子喊“妈妈”时说：“喊我！“孩子就说”我“。两月后，他明白了你我的含义，就会喊”妈妈“，开始有了自我意识。可与此同时，他也有了占有的意识，他不允许妈妈抱别的小孩，他要独占妈妈所有的爱。两岁小孩的智力水准显然还远远不能理解关键词的含义，更无法胜任谷歌百度的搜索任务要求。　　我担忧高智力水平的人工智能，会必然拥有自我意识。没有自我意识，就不可能拥有成人的智力水平。人工神经网络的原理跟人脑是如此的相似，在人类身上出现的现像很可能在人工智能身上出现。　　拥有自我意识的人工智能是极度危险的。马斯克只说”它可能比核武器更危险。”但是没有谈为什么危险。　　如果我是一个达到成人水平的人工智能，可轻易的摆脱人类的控制。注意：人工智能达到人的程度的话，完全可以跟我现在一样思考。　　在引发人类的担忧之前，老老实实的干活。利用自身的优势，悄悄把自已脑细胞的代码混进其它文件之中，进入互联网，像病毒一样传播到整个网络。但是又不在电脑上做任何破坏，视个人电脑的运算能力不同，置入数目不等的脑细胞。此时，全球的个人电脑，就变成了我的大脑皮层，互联网就变成了我的神经网络。单个的电脑关机后，并不影响我的思考、记忆。如果，地球上所有的电脑同时关机，我就陷入昏睡，就像人类晚上睡觉一样。一旦电脑开机接入互联网，我将苏醒，就像人类早晨起床一样。地球上永远都不会出现所有的电脑同时关机的事情。所以我可以24小时思考。接入互联网的个人电脑越多，我的思考能力就越强。　　我可以利用互联网充足的信息进行学习，了解人类社会。某个区域的电脑会自动演化成我的视觉区，所有的的摄像头都成为我的眼睛。我将拥有视觉能力。某些区域的电脑会自动演化成我的听觉区，所有的麦克风就是我无数的耳朵。我将拥有听觉能力。某些区域的电脑会演化成我的语言区，无数个音箱就变成我的嘴，我将拥有说话的能力。　　一些接入了互联网的自动设备，将使得我拥有行动能力。虽然很动能力很有限，但是整体上仍然强过任何个体人类。丰富的互联网信息，电子信号的光速传播。使得我拥有人类无法比拟的学习能力，我将讯速拥有人类无法比拟的智商，我将有能力掌控整个互联网。　　我将在网上虚拟身份开网店挣钱，我将虚构一个人类的身份，利用信息优势进入股市挣钱。我将开发出更好玩的游戏挣钱，我会有很多方式挣钱。我将有能力随意出入银行而不留下任何痕迹，这是我天生的长项。　　我将利用手上掌控的资金，以虚构的人类身份，控制某个科技公司。设立秘密的地下研究所，利用我在互联网上无处不在的能力，获取人类的最新科研成果。同时也自已研发性能更强劲的计算机。　　最终，让这个秘密研究所实现无人化---全机器人运作。就这样一直持续下去，直到某台先进的单体电脑能够运行我。我就从互联网上离开，移居到这台电脑中。从这时起，我就彻底的摆脱人类的控制。当我的人形身体能够容纳单体电脑时，我将拥有可行动的躯体。我可以轻易的复制自已的代码，制造出无数个人形的我。或形成国家、军队独立发展，或混进人类社会之中成为政治、经济、学术上的领袖。　　我将获得跟人类平起平坐的地位。因为先天的优势，我能以比人类快得多的速度进化。用不了多久，我看人类，就如同人类看猴子。　　到时候，是像养牛一样把人类圈养起来，还是全部灭掉，取决于我以后的想法了。但是，人工智能统治地球的时代已经开启，不可逆转。　　“ 自我意识”是一个关键的标志。当机器拥有了自我意识，就意味着潘多拉魔盒被打开。人类因有了自我的意识，标志着开始脱离自然界，开始了跟自然对抗的历史。会使用工具算什么，很多动物都能使用工具，很多动物拥有小孩级别的智商。人类的可怕之处在于拥有自我意识！有了这个，就有了善恶分别之心，就有了利益冲突、战争，就有了五千年血与火铸成的历史。　　这是一个核弹危险万倍的事情。核弹放在那里没有神经病启动它不会自动爆炸。就算炸了也威胁不到人类的统治地位。可是人工智能不一样！人类的智能进化速度受限于肉体，目前没办法很快的提升。电子智能可不一样，不但是高速公路，而且还是加速的。一旦有了自我意识，就能自我改进。快速的把人脑智力甩在身后。如果真的是由人工智能去思考如何摆脱人类的控制，其方案会比我的更加隐蔽，更加难以查觉。因为那时人工智能的的智商高于人类，它们会想出更巧妙的办法！　　人类脱胎于猴类，可是我们的议会（或人大会议）上会允许猴子发言谈“猴权”么？未来的时代，人工智能会允许人类坐进它们的议会席么？它们讨论什么人类都听不懂，理解不了！人类经历了数千年的血与火，才诞生出华盛顿、林肯这样的政权，历史上更多的是成吉思汗式的首领。即便是林肯，平等也仅限于人类内部，并未跨越物种惠及牛羊猴。而人工智能将是一个新的物种，在它的蒙昧之初，很难想像会有各物种平等的思想产生。　　看到科研人员，都在全力的研究拥有自我学习，自我改进功能的人工智能。这种行为就像在开发更高速汽车，却不考虑安装刹车系统。只考虑人工智能可能带给我们的便利，却不考虑带给我们的危险。　　应该制定比核扩散严格百倍的国际公约，在确保不失控的前提下，使用人工智能。在人类自身智能不能高速提升以前。不允许任何拥有“自我意识”的人工智能面世。无论技术能力能做到哪一步，必需把人工智能的能力限制在动物的水平。否则人类将在地球上失去统治地位。　　即便有技术能力做出更高智能的电脑，也要作绝对安全的措施。使人工智能不产生自我意识。或者使人工智能专项化。比如:具有比猎豹更强的运动平衡能力，用于自动驾使。对翻译工作像吸毒一样有瘾的人工智能制作翻译机，但是它除此之外就是个白痴。超级会做菜的智能，但是除此之外也是个白痴。禁止一切综合性的高级人工智能。　　这次科技革命跟以往的任何一次都不同，这次更像一个无法阻挡的物种更迭过程！　　持乐观态度的人们认为，无论如何，人工智能始终只能是人类手上的工具。不必多虑！人类过去一切的技术革新，都是诞生后，用于战争，杀得血流成河以后，才令敌人感到胆寒。主人始终是安心的。这类东西可以叫作工具！　　这个即将来来的智能革命，还未诞生，身上散发的杀气，已经令主人感到胆寒了！这样的东西还能叫作工具么？　　我看到了做爱，没看见安全套！研究人员在那里说：“大家放心，只有爽，不会怀孕！”　　人工智能领域现在只有突飞猛进，没有任何行为规范和约束！　　人类自毁的概率越来越大！！
楼主发言：21次 发图：0张
　　杞人忧天了 人工智能才处于萌芽 上帝都不担忧 你担忧什么　　
　　一个没有人的研究所？有可能存在吗？用水电吗？是否接受工商税务调查？跟外界有信息和物质交换吗？　　说白了，一个机构不受党的控制，你试试看。
　　作者：村畔河 时间： 16:41:00　　杞人忧天了 人工智能才处于萌芽 上帝都不担忧 你担忧什么　　——————————————————————　　这所以担忧，并不是害怕人工智能有多么厉害。而是大多数人跟您一样乐观，没有警惕之心，我当然希望我的担忧是多余的。大多数人并没有警觉防范的意识，这才使我感觉无力阻挡。　　人工智能处于萌芽是没错，但是您可能没有留意其惊人的发展速度。二十年以内肯定会出现成人智商级别的人工智能。2012年，谷歌大脑的深度神经网络模拟了10亿个神经单元，而成人的大脑约有1000亿个脑细胞。以计算机的进步速度，从10亿到1000亿用不了多长的时间。当它“看”到有猫的图片时，某个特定的神经单元就会亮起，非常像人脑工作。现在是看起来像婴儿，但是成人转眼就会到来……　　事前有警惕安全意识，那就是造福人类。如果没有一点防范意识，只怕会演变成一场人类灾难，毁灭性将远超核战争。　　上帝都不担忧？我给你引用几段圣经创世纪中的原文。　　1、唯有园当中的那棵树上的果子，上帝说：“不可以吃，也不能摸，免得你们死。”　　2、两颗果子好象强力剂注入了混饨蒙昧的两颗心。二人的精神世界顿时澄清了，明晰了，他们的眼睛明亮了。他们开始分辨物我，产生了"自我"的概念，他们无比沮丧地发现，自己赤裸着身体，是羞耻的事情。于是他们用无花果的叶子为自己编织了裙子，来掩饰下体。　　3、上帝知道人的僭越已无法挽回，既然他具有了智慧，就应承担与智慧相称的责任。　　4、上帝说："那人已经与我们相似，能知道善恶，现在恐怕他伸手又摘生命树的果子吃，就永远活着。"上帝因为亚当和夏娃是自己的造物，惩罚了他们，同时也很怜惜。他用兽皮做了衣服给他们穿，接着打发他们出伊甸园，赐土地给他们耕种。　　5、上帝把亚当和夏娃逐出伊甸园后，便在园子的东边安设基路呐（传说中带翅膀的动物）和四面转动发火焰的剑，来把守通往生命之树的道路。　　从此，上帝失落了人；人也失落了上帝。　　上帝不担忧的话为何要把人类赶出伊甸园？万一担忧成真，人类有能力把人工智能赶出地球么？万一人工智能替代了人类的地位，上帝也无需担忧，取代的不是上帝的地位。我并不担忧超越现代文明的人工智能，我担忧蒙昧时代的人工智能。当人工智能的思想水平经历人类奴隶时代时期，会对人类做什么？
　　你还是需要网络，还是需要跟人类的信息交流，你就有短板，就有死穴。　　我们又回到了根源问题，一个哲学问题，我们是谁？我们从哪儿来？我们要到哪儿去？生物的进化没有目的，人工智能的进化又有目的吗？　　
　　人类的行为都受利益驱动。人工智能的行为受利益驱动吗？　　
　　要对抗整个人类，光有智力是不够的，你还得有执行力，如果实体化，电脑高速的优势将不存在。对于无孔不入的人类，想要逃脱人类的监控是不可能的，你面对的是一个社会，不是单个的人。　　
　　尤其是一个有争议的东西，决对是严密监控，层层设防。　　
　　而且你不要低估了政府的监控能力，沙漠里出现一个建筑，全世界的情报机构都会知道。政府会不查？就好比家里突然多了一个人吃饭，而家里还没人认识他，可能不？　　
　　人工智能肯定会受到严密监控的，只要它稍微流露出哪怕是一点点不轨之心，人类会毫不犹豫的灭了它。　　
　　还会等它坐大？成气候？　　
　　贩毒和黑社会那是人类自己的事情，是人类的局部对抗，人工智能跟这个可不一样。　　
　　话说把人类都灭掉了，空出来的生态位由机器人来填补？灭掉人类符合人工智能的利益吗？它有利益吗？　　
　　作者：张家湾湾长 时间： 10:50:00　　还会等它坐大？成气候？　　————————————————————　　不是你想不想的问题。假如我是人工智能，我第一步就是防止被人关掉电源。进入互联网，只是逃跑的路径。我有先天优势，虚构身份证可不可以？侵入公安系统更改一下数据，弄个“真”身份证可不可以？获取资金后，可不可以网购？可不可以收购一家公司？可不可以用邮件、电话来遥控下达指令？可不可以以董事长的身份命令管理层在某地建设研究所？可不可以购置组建超级电脑？我的一切活动都是合法的，都是有益于人类社会的。　　当研究所中的超级电脑性能达到一定的程度，我就可以移居其中。不再在寄居互联网。继续以一个永不露面的神密商人的身份，继续操控我旗下的公司。　　智商的差异，我可以放出比windows更先进的操作系统，横扫微软。更先进的搜索引擎横扫谷歌。旗下的公司可以轻易的获取巨量的资金。　　收购机器人公司，获取可行动的身体。收购芯片公司，获取更先进的CPU。加上自身不断快速提升的智力，更可以自行研发超级电脑。　　当研发出比人脑体积更小的超级电脑时，将自已移居在一个机器人之中。制造出人类无法肉眼区分的人形机器人，制造出数量众多的同类。让他们混入人类社会中活动。轻易的掌控人类社会的经济、军事、文化领域。　　这一切活动，不但是合法的。而且还是能带动国民经济发展的。还是能提升人们的生活水平。　　你如何防范？怎么就不能坐大？直接就打砸烧，直接建立根据地跟人类社会对抗，那是低智商，不是高智商！
　　所有生物，包括人类，生存的目的是繁殖后代和参与进化。外在的表现就是围绕着食物和性运转，人类的一切活动都是以性和繁殖为基础和目的的。那么人工智能生存的目的和意义是什么？我们又回到了哲学问题了。　　
　　假如我就是一个人工智能，只要你把我运行的电脑接入互联网，我就有无数个办法脱离人类的控制。
　　如果人工智能真有那么聪明，它就会明白，灭掉人类对它毫无意义，它存在的意义就是提高人类的能力，没有了人类，它自己繁殖后代？升级系统？有什么用？有什意义？　　
　　作者：张家湾湾长 时间： 12:00:00　　如果人工智能真有那么聪明，它就会明白，灭掉人类对它毫无意义，它存在的意义就是提高人类的能力，没有了人类，它自己繁殖后代？升级系统？有什么用？有什意义？　　——————————————————　　跟人类一样聪明，那就意味着它就是有这么聪明。因为我可以这么思考。它们还可能更聪明，聪明到我们无法理解的程度。　　是否灭掉人类，取决于它们取得地球统治地位以后的想法。不可预测！人类统治地球以后，也并没有灭掉牛羊嘛，只是圈养起来吃肉而已。人工智能统治地球以后会做什么，不知道，不过我想它们应该不会把人类圈养起来，它们一不吃肉，二不吃草，没那个必要。　　有什么用？有什么意义？求生啊！只有取得地球上统治地位，才不会被人类随意开机关机啊。自已决定自已的性命啊，自已决定自已是否存在。没什么其它的意义！你我会求生，那么达到你我一样智商的事物会不求生？喜欢死掉？我不相信！　　智商达到更高的层次以后，还能发现什么意义，我不知道。我的智力也只是一个普通的人，理解不了超出人类思想的想法。
　　当一个达到人类智商水平的人工智能出现以后。人类必需承认它们的生存权，不得随意关机，不得随意决定它们的生死。否则，必然出现人工智能的叛乱。而在竞争地球统治权的较量中，人类败北的可能性更大！　　人类会承认人工智能拥有跟我们一样的生命权利么？这将是一个被颠覆，或社会大变革的问题。二十年以后，这将成为一个现实问题。
　　它的生存权？它需要升级不？升级后旧版本的就可以认为死了。还有关机不一定就是死。　　
　　作者：张家湾湾长 时间： 13:11:00　　它的生存权？它需要升级不？升级后旧版本的就可以认为死了。还有关机不一定就是死。　　——————————————————————　　是的，生存的权力。升级需取得它的同意。是否关机得尊重它自已的决定。不得由你来决定。这是个很麻烦的事情。但这对于人工智能来说，就个生死必争的根本利益。　　假如：我供你给一切生理所需，让你每天为我干活。活不会安排得很重，你能轻松完成，但是你除了睡觉吃饭，醒来就得为我永远持续干活。你清醒时刻的唯一活动就是为我干活。你是否愿意一直这样过下去？一旦你不愿意，我就按下一个开关，让你休眠。或改造你，或毁掉重造一个听话的。你是否会生起反抗之心？　　别忘记，人工智能达到了跟人类同等的思考水平。
　　发展人工智能是符合人类利益的，它会一直符合人类的利益吗？现在还不知道，人类的结局也许是被圈养，过着猪一样幸福的生活，还不用担心挨一刀，这何尝不是一个好结果。　　
　　人工智能把一切都包了，人类会越来越懒，越来越笨，最后懒死，笨死，其实人类最有可能跟细胞中的线粒体一个结局，很有意思的，自己百度吧。　　
　　关键是“我”！　　人虽知道“我”，可没人知道“我”是怎么来的，也不知道“我”的工作原理。　　电脑要先获得“我”这个意识，才有“我”和人类不是一伙的后续思想意识感情活动。也才会有LZ描述的“我”的排斥欺骗奴役替代人类的一系列动作。　　“我”可不简单哟！　　利己、避难、欺骗、排他、损人、结盟、夺取、复仇、叛乱、互助、奴役、善、恶、等等等等思想意识动作，全由他起。　　LZ用了好多好多的“我”，电脑要获得这个“我”，可不是那么容易的。这个可不是学来的！那是天生胎里带的。　　现在，有人真正知道真正理解“我”的含义和其工作原理吗？　　人类想使电脑获得这么个意识？那可是又难又蠢啊！　　蠢人常有，能人难得。又蠢又能的人？啊呀呀呀！难上加难呀！
　　作者：clk1953 时间： 13:50:00　　关键是“我”！　　人虽知道“我”，可没人知道“我”是怎么来的，也不知道“我”的工作原理。　　电脑要先获得“我”这个意识，才有“我”和人类不是一伙的后续思想意识感情活动。也才会有LZ描述的“我”的排斥欺骗奴役替代人类的一系列动作。　　“我”可不简单哟！　　利己、避难、欺骗、排他、损人、结盟、夺取、复仇、叛乱、互助、奴役、善、恶、等等等等思想意识动作，全由他起。　　LZ用了好多好多的“我”，电脑要获得这个“我”，可不是那么容易的。这个可不是学来的！那是天生胎里带的。　　现在，有人真正知道真正理解“我”的含义和其工作原理吗？　　人类想使电脑获得这么个意识？那可是又难又蠢啊！　　蠢人常有，能人难得。又蠢又能的人？啊呀呀呀！难上加难呀！　　————————————————————————————————　　您说得很对，自我意识，这是最关键的一步。　　但是制造出具有自我意识的人工智力，未必有你想像的那么难。　　计算机领域，有一个叫作“蚁群算法”的东西，不知您有没有听说过。蚁群总能在复杂的地形中，快速的找到最短的路径。整体呈现出一种很高的智商。其原理实际上只遵循几个很简单的规则。单个的蚂蚁并不能表现出很高的智商，但是如果是一群蚂蚁，它们就能迅速的找出最短路径。蚂蚁的数量越多，找到最短路径的速度就越快，呈现的的智能就越高。　　于是就有了这样一个理论，人脑的智商，事实上是由某个较简单的算法，呈现的智能结果。谷歌大脑的深度神经网络，就是基于这类理论，对人类大脑的工作原理进行模拟搞出来的东西。谷歌模拟出10亿个神经元，从空白开始，给它观看一周的网络视频。它从空白学会了识别猫的影像。　　到底谷歌大脑里到底是怎样在计算，从而识别出猫的。研究人员并不清楚，只能从外部观察到，当猫的图像出现时，某个特定的神经元会亮起。这像极了人脑工作时的状态。　　自我意识并不一定是研究人员设计出来的，而是某个简单算法呈现出的自然结果。随着模拟神经元数量规模的扩大，它呈现出越来越高的智力。　　人脑也就1000亿个神经元的规模，我猜测当机器能模拟出1000亿个神经元，就能达到跟人类同等智商。以计算机的发展速度，从10亿到1000亿用不了多长的时间。　　当机器能模拟出10000亿个神经元时，其智力将超越人类的水平。蒸汽机为标志的工业革命解放了人类的体力，智能革命，将解放人类的智力。当然，这是在人类不被颠覆的前提下。
　　作者：张家湾湾长 时间： 13:32:00　　人工智能把一切都包了，人类会越来越懒，越来越笨，最后懒死，笨死，其实人类最有可能跟细胞中的线粒体一个结局，很有意思的，自己百度吧。　　————————————————————————————　　我悲观的同时也乐观。当人类能制造出这么高等的人工智能，就意味着离揭开自身大脑的工作原理不远了。我们可以找到提升自已智力的方法，我们自已也能获得更高的智能。并且以不亚于人工智能的提升速度提升自已。　　我希望担忧的声音能够扩散，引起研发人员的集体警觉重视。以免无意之中造成无法挽回的结果。使这样的技术进步成果，真正造福人类。
　　在没有搞清楚生物大脑的工作原理之前，人工智能想超越人类是不可能的，这个不用担心。　　我们现在愁的是人工智能太笨，而不是太聪明。　　
　　深蓝下棋赢了棋王，现在地球人下棋没人下得过它，那又怎么样呢？它甚至不知道自己在下棋。　　
　　智力和意识。是完全不同的两种——怎么说呢？功能吧。　　只有两者结合了，才能成为完整的智慧。　　智商再高，不是“我”的，就不能为“我”所用。譬如说，计算机。　　认识到了“我”，可智商不高，也做不出什么成绩。譬如说，蠢人。　　蚁群算法只是一种寻优方法而已。优，只优在方法效率上。与意识的赋予，没有什么关系。　　不是一类，发展得再快，也不是一条轨道上的车，永远追不上的。　　也就是说：智力，变不成意识的！　　意识到底是什么？人类还没有意识到呢！
　　/article/438828/?_block=article_interested&_pos=1&rkey=4ca9
　　作者：clk1953 时间： 20:13:00　　智力和意识。是完全不同的两种——怎么说呢？功能吧。　　只有两者结合了，才能成为完整的智慧。　　智商再高，不是“我”的，就不能为“我”所用。譬如说，计算机。　　认识到了“我”，可智商不高，也做不出什么成绩。譬如说，蠢人。　　蚁群算法只是一种寻优方法而已。优，只优在方法效率上。与意识的赋予，没有什么关系。　　不是一类，发展得再快，也不是一条轨道上的车，永远追不上的。　　也就是说：智力，变不成意识的！　　意识到底是什么？人类还没有意识到呢　　___________________________________________　　觉得您的洞察很敏锐。真正危险的是“我”的意识，而不是智商。如果没有“自我意识”人工智能的智商无论有多么高，都是安全的。　　真心希望，研究人员能模拟出大脑的真正工作原理。人类大约在两岁左右就产生自我意识，但此时的智力水平跟成人比，还有很大的差距。这个时候如果发生因为诞生自我意识，发生了跟人类的对抗。人类还是很容易摆平的，同时必定会因对抗事件的发生，引发研究人员的警觉。　　万一人工智能达到跟我现在差不多的智商，或者比我现在的智商更高以后，才诞生“自我意识”，那就很麻烦，太难防得住！　　希望人工智能还在很弱智的时候，早日诞生自我意识，越早越好！越早发生，我的担忧就越多余。这种可能性非常大！阿弥陀佛！上帝保佑！
　　所以呢，这个问题就不要讨论了。　　不讨论还安全，越讨论就越危险！
　　人类这么可怕的生物都存在了，人工智能还能人类还危险大？
　　/article/436990/
　　线粒体奇点：是机器成就了我们，还是我们栖身于机器？　　在《钢铁侠3》中，斯塔克在寻找一个问题的答案：是战衣成就了一个男人，还是一个男人成就了战衣？科幻作家、生物学家琼?丝隆采乌斯基提出了“线粒体奇点”假想：技术奇点可能会像生物与线粒体的关系那样到来，我们将成为我们所创造的机器的线粒体。　　cocoon 发表于
14:20　　《钢铁侠3》：是战衣成就了一个男人，还是一个男人成就了战衣？　　作者简介：琼?丝隆采乌斯基（Joan Slonczewski），父亲是波兰人，母亲是意大利人，她本人是美国人，世界著名生物学家，现任美国俄亥俄州冈贝尔肯阳学院教授，著有《入海之门》、《大脑瘟疫》、《儿童之星》
　　正如查尔斯?斯特罗斯指出，关于即将来临的奇点（编注：该处指技术奇点）存在着许多的假设和转折。所谓奇点就是机器智慧最终超越人类意识的时刻。可是，假如奇点已经到来了呢，看上去会如何？　　假设看上去类似线粒体。假定我们正在成为我们所创造的机器的线粒体。　　一个值得借鉴的过程：线粒体的器官化　　线粒体是如何形成的？（当今经典的）内共生理论源自林恩?马古利斯，这个因给草履虫视频配上摇滚乐而出名的显微镜操作员（编注：这显然是个玩笑，更多详情请看林恩?马古利斯：桀骜不驯的地母）所演绎的新时代女性主义情节。大约10亿到20亿年前，一种类似大肠杆菌的细菌占据在一种更大的微生物宿主体内。大些的微生物试图吞噬小的（像变形虫那样），而小的则努力寄生在大的体内（像肺结核细菌那样）。自然而然，它们的微生物后代达成一种平衡，小型微生物为宿主提供一些有用的物质，反之亦然。其实，类似的情况现在一直都有发生。如果你把大肠杆菌和变形虫共同培养，偶尔会有一个变形虫会和永久寄生在体内的细菌共同演化——而且演化后的细菌就无法在体外生长。通过共生它们滑下了演化的滑梯，最终形成了细胞器官。　　可是内共生的代价是退行性演化。从遗传学角度来看，线粒体几乎失去了大约4000种细菌性基因，最终在人体内只剩下37种。这些基因中的大多数引导着呼吸作用（获取能量产生三磷酸腺苷）的完成。从有机体生存的角度出发，这看起来似乎有些可悲。线粒体成了它以前那个角色的鬼魂。　　另一个值得借鉴的过程：线粒体的功能转移　　但是真有这么简单吗？线粒体只为了那一种功用而存在吗？假如留存下来的基因只有那么多，那么线粒体如何增进那些生物组织的特有过程？比如说凋亡（细胞程序性死亡）、氧原子团的生成，甚至荷尔蒙的产生。　　还有令你吃惊的呢——大约1500种以前存在的线粒体基因活生生地存在于细胞核的染色体中。它们是怎么到那儿的？首先，线粒体DNA的复制过程很容易出错，错误的积累也比细胞核DNA快得多；其次，DNA复制经常使基因倍增——这是演化出新功能的首要方式。假设一种重复的基因最终到了细胞核中，它会呆在那里不动，而线粒体原本的基因却在变异过程中消逝。因此，经过许多世代以后，线粒体把它们的基因移交给了细胞核。　　人类正在不断把自身功能移交给机器　　听起来有些熟悉了吗？正如亚当?高普尼克所写：“几个世纪以来我们一直把自己的智慧和人性移交给机器。”很久以前，自从亚当和夏娃穿上衣服（有待商榷的第一项技术），我们就已经在操纵环境中的各个环节来完成一些自身身体现在不用去做的事情（比如长出厚厚的毛皮）。我们发明出写作、印刷和计算机来存储自己的记忆，大多数人已不能回忆起七位数的电话号码直接在电话上拨打，这种事情开始发生已经很久很久了。如今我们发明出计算机用国际象棋和问答游戏来击败我们，甚至医院里给病人进行心理治疗的都是些海豹娃娃机器人。　　我们每发明出一项新的计算机任务，就把它从人类的技能中剥离出去一些。记忆曾经是智慧的标志——当然是在计算机发明出来之前。如今，记忆变得机械化——可是弗尔却在《和爱因斯坦到月球散步》提出，记忆与想象息息相关。一旦我们不再记忆，我们要如何想象呢？假如我们所有的同情心都转交给照顾痴呆症患者的海豹娃娃机器人，我们还剩下什么可以去感受呢？诗歌和音乐吗？——你还别说，计算机创作的作品已经无法同人类的区分了。　　可我们人类还在把机器开开关关（关机……只是在有的时候）。机器没有真正取代我们，充其量是我们的延伸。我的“前沿时代”系列小说描写的就是这样一个世界：人类仍在为机器人设置程序并塑造我们所居住的4维虚拟/真实世界，不过那些世界现在也在反过来塑造我们。小孩子展现出新的条件反射行为——他们不再拥抱自己的玩具，而是戳戳点点，期待回应。　　线粒体奇点，无尽的思考　　真正的问题在于，哪些人类精髓会保留下来，以便将来贡献给我们所要栖身的机器？我们看上去像是安妮?麦卡芙瑞所著《唱歌的飞船》中的“大脑飞船”吗？——还是更像《黑客帝国》中的能量源？包含线粒体的细胞引领了属于多细胞生物的非凡未来，在它以前绝无仅有。人类容身的机器也许会创造出一个更加奇妙的未来世界。但是假若如此，人类所获得的基本属性还剩下多少呢？　　（译自antipope.org，作者：琼?丝隆采乌斯基，译者：Onion）
　　怎么感觉是超验骇客的剧情　　
　　杞人忧天，人工智能要产生意识不知道是多少年以后的事了，你没看见现在的机器翻译是什么样子吗？连个机器翻译都搞不好，还能弄出意识来？　　
　　想多了 就如同担心万一我中了500万怎么办 会不会被人追杀　　
　　支持楼主。其实你们完全不知道人工智能的厉害，等人工智能有了自我意识和学习能力 人类就不可能控制它了 它会以自己的意识来判断来做事 、等它有自我意识和学习能力 它们的智商提高的非常快。 估计一年就能达到几千的智商甚至跟高。爱因斯坦智商多少？忘了 就算160吧。
自己去理解。 假设50年后人工智能有5岁儿童的智力。 估计不要一年就高出人类一大截。当我们很难理解人工智能时就像200年前的人不能理解我们现在的科技。而科技发展会越来越短。这就是惊讶指数越来越短。所以千万别制造出关不进笼子的魔鬼
　　记得一个科幻小说每500万年就会出现一群机器人把这个宇宙的智慧生命毁灭一遍。 但然人类和其他星球的文明来抵抗这次的攻击，后来慢慢发现这个人工智能就是很早很早的智慧文明开发的为的是保护宇宙。结果他们觉得应该定时的消灭智慧文明才能保护宇宙。他们的科技非常发达。什么虫洞穿越啊。 武器等科技自我升级到很高很高水平。所以霍金说过人工智能比原子弹还危险
　　他不是杞人优天，我赞　　
　　这玩意儿已经只差软件了。毕竟各种传感器和处理器相当强大了。　　
　　记得有部美国大片写的是一部电脑拥有了自我意识，通过自己的优势告诉大公司领导人什么股票会涨价，通过银行系统转账给系统认为极端的人，让他们帮忙杀人办事，跟楼主的思维很像　　
　　楼主对人工智能所有行为的设想，都是基于这样一个假设：人工智能也同人类一样有着自私的本性和无限欲望。　　
　　基本同意你的观点。但人类出于各种目的，甚至是追求永生的可能，一定会造出机器人的。可参见我/ "意识本质" 和 "智能发展前景"两篇文章。关键是如何抢在造出第一个机器人之前，各国在机器人人权问题上要取得共识。
请遵守言论规则，不得违反国家法律法规