霍金:人工智能会导致人类灭亡(图)(页 1)

.腾讯科技 2014年12月04日[摘要]霍金认为人工智能将会超过并代替人类,人类会最终灭亡。
英国理论物理学家史蒂芬·霍金警告说人工智能的发展可能意味着人类的灭亡。
在接受英国广播公司的采访时霍金说,这种技术会迅速演变并超过人类,那时将会出现电影《终结者》中想象的一幕。
“我们已经拥有原始形式的人工智能,而且已经证明非常有用。但我认为人工智能的完全发展会导致人类的终结”,霍金教授在星期二播出的采访中说。
“一旦经过人类的开发,人工智能将会自行发展,以加速度重新设计自己。”
这位被认为是世界上最聪明的在世科学家接着说,“由于受到缓慢的生物演化的限制,人类不能与之竞争,最终将会被代替”。

霍金患有运动神经元病,离不开轮椅,只能通过语音合成器说话,但他十分热衷于使用现代通信技术,他说他属于互联网早期发展阶段最早连接到互联网的那一批人。
他引用英国电子间谍机构政府通信总局(GCHQ)最新掌门人的话说,互联网带来各种好处的同时也带来了危险。
现年72岁高龄的霍金还说,“为了对付这种威胁,互联网企业必须做出更多行动,但困难的是在消除威胁的同时避免牺牲自由和隐私。”
霍金星期二展示了英特尔开发的一个新软件系统,该系统采用预测文本技术,能让他快速写字。该系统将于明年一月份在线发售,以让更多运动神经元患者受益。
霍金的声音来自由为电话目录服务设计的语音合成器。

尽管乐意看到改善,这位科学家决定不会改变他那听起来像机器人的声音。
他告诉英国广播公司,“这种声音虽然听起来像机器人,但是很清晰。它已经成为我的标志,我不会把它变成更自然的带英国腔的声音”。
“有人告诉我,有些需要计算机语音的孩子想要跟我一样的声音”。
霍金:人工智能不一定是好事 或导致人类灭亡(图)
腾讯科技 2014-05-03
[摘要]人类在考核人工智能的潜在风险和收益方面所做的研究工作太少,霍金对此表示担忧。
著名物理学家史蒂芬霍金(Steven Hawking)在讨论约翰尼德普(Johnny Depp)主演的新片《超验骇客》时称,人工智能或许不但是人类历史上最大的事件,而且还有可能是最后的事件。

他的意思是:人工智能可能会导致人类的灭亡。
当你为人工智能技术的飞速发展而欢呼雀跃的时候,你是否想过这可能并不是一件好事?
在观看了德普主演的新片《超验骇客》后,霍金在为《独立》杂志撰写的一篇文章中明确地表达了他对这个问题的担忧。
霍金担忧的对象不仅仅是未来的人工智能技术,甚至还包括现在的一些公司比如谷歌和Facebook。他说:“人工智能的短期影响取决于由谁来控制它,而长期影响则取决于它是否能够被控制。”
不管从短期还是长期角度来说,人工智能都存在着巨大的潜在风险。实际上,霍金似乎根本就不信任所谓的人工智能专家。

他说:“未来可能出现的情况到底是好是坏完全是无法预料的,面对这种情况,专家们肯定会尽一切可能去保证得到最好的结果,对吗?错!如果有一个优越的外星文明给我们发来一条信息说:‘我们将在几十年之后到达地球,’我们是否应该回答说:‘好的,当你到达地球的时候请通知一下我们,我们将给你留门’?我们可能不会那么做,但是如果人工智能技术继续发展下去,差不多就会出现那样的情况。”
实际上,坚持技术发展似乎可以消除或避免最终产品可能对人类构成的威胁。无人汽车就是个很好的例子。工程师们似乎并不关心人们在开车的过程中获得的乐趣。
霍金承认,机器人和其他的人工智能设备也许会给人类带来巨大的好处。

如果那些设备的设计非常成功,就能给人类带来巨大的好处,他说那将是人类历史上最大的事件。然而他同时也提醒说,人工智能也有可能是人类历史上最后的事件。
实际上,人类在考核人工智能技术的潜在风险和收益方面所做的研究工作太少。霍金对此表示担忧和哀叹。
他说:“人工智能技术发展到极致程度时,我们将面临着人类历史上的最好或者最坏的事情。”
霍金以前就曾试图提醒人们注意一点,即科幻的魅力会蒙蔽我们的双眼。它有时会掩盖住一个重要的问题,即最终的结果有可能引发一场浩劫。他曾经说过,外星文明可能会憎恨地球文明。
人类有一种自恋的倾向,盲目相信自己很聪明而从不考虑事情有时可能会出错。

或许正如霍金所说的那样,科技行业应该更多地把关注的焦点放在未雨绸缪上面。
精彩推荐
→ 谷歌两创始人受访:未来机器人干活 人类围观(组图)
→ 日本经济状况不景气 机器人面临“下岗”困境(组图)
→ 世界上第一个武装机器人即将投入野战使用
→ 美军纳米机器人设计灵感来自孙悟空(组图)
→ 巨型机器人亮相东京街头 载歌载舞还能喷火(组图)
→ 新型自复制3D打印机器人可探索火星环境(图)
→ 人工智能计算机有望破解4000年前印度神秘符号(图)
→ 考古学家将用钢铁侠盔甲寻找两千年前的计算机(组图)
→ 遗传专家:人类停止进化 体能智力到极(图)
→ 谷歌要让电脑能读懂你的照片(图)
→ 谷歌眼镜能盗取你的手机密码(组图)
→ 谷歌3D手机冲出地球!

变身空间站机器人大脑(图)
→ 谷歌月球发现人形阴影 UFO爱好者激动不已(图)
→ 与微软竞争:谷歌推出量子计算机研制计划(图)
→ 科学家通过超级计算机窥视太阳强劲“心跳”(图)
→ 科学家计算机模拟暗示光子能进行时间旅行(图)
→ 美国学者盗用超级计算机挖比特币 不够付电费(图)
→ 赛门铁克发现武器级木马病毒 或涉及政府行为(图)
→ 印度空军指控小米手机窃取用户数据(图)
→ 大家要小心迅雷啦!
→ 恶意劫持用户浏览器主页,360安全卫士你在闹哪样?(组图)
→ 辣妈开发奇葩App:不接我电话就锁死你的手机(图)
→ 这款应用听声音可预测精神疾病(图)
→ 2020年智能硬件创造价值将大于一万亿元(图)
→ 超级智能腕带:一个手势控制家电(组图)
→ 你还在用双核CPU吗?霍金已用60核处理器(图)
→ 霍金表示:未来1000年人类必须进入太空生活(组图)
→ IDEO CEO布朗:只有空想家才能拯救世界(图)

2014-12-6 06:59

特斯拉马斯克:人工智能危险超核弹(图)腾讯科技 2014年08月04日
[摘要]人工智能公司频频获得投资,马斯克认为类似“终结者”的场景可能会变成现实。
特斯拉创始人马斯克也是高科技奇思异想计划的追逐者,比如他正在开发火箭发射技术。但是对于另外一个高技术——人工智能,马斯克日前却表示,必须谨慎对待,因为人工智能的破坏力可能会超过核弹。
马斯克关注着关乎人类未来的各种技术发明,他认为太阳能和电动车将是未来的主流,另外人类应该尽早到火星上建立家园。不过,马斯克也认为,一些高技术,会给人类带来危险。
周六,马斯克在Twitter发布一条微博。他写道:“Bostrom撰写的《超级智能》(Superintelligence)一书值得一读,我们必须对人工智能超级谨慎,它的潜力可能比核弹还危险。

”
这不是马斯克第一次谈到人工智能技术。六月份,他在接受美国财经电视频道CNBC采访时表示,他很严肃的认为,有一天类似“终结者”这样的人工智能场景,可能会变成现实。
据报道,马斯克甚至投资了若干家人工智能技术公司,以保持对这一技术走向的及时了解。
人工智能技术已经成为科技行业关注的另外一个前沿科技领域,许多未来学家看好这一技术的前景,比如谷歌的RayKurzweil则认为,人工智能未来将会扮演更加正面、积极的角色,甚至给人类生活添加一些浪漫的味道。
马斯克推荐的作家全名NickBostrom,如果关注此人有关人工智能的作品,就会发现马斯克的担忧并非空穴来风。

2003年,这位作家曾经发表一篇论文,他指出,人类实际上已经生活在计算机模拟的世界中,另外科学家已经开始寻找一些“痕迹”,证明我们周围的世界,并不是我们想象的那样真实。
资料显示,今年三月份,一家名为VicariousFPC的人工智能技术公司,获得了4000万美元的投资,投资人中就包括了马斯克,其他另外一位重量级投资人是Facebook掌门人扎克伯格,另外在电影《乔布斯》中扮演乔布斯的美国名人阿什顿·库切也做了投资。
谷歌是硅谷另外一家高度关注人工智能的公司,今年二月份,谷歌斥资4亿美元,收购了一家名为“DeepMind”的人工智能公司。

马斯克:人工智能的发展或出现可怕后果(图)
腾讯科技 2014年06月18日
[摘要]马斯克也投资了一家人工智能公司,目的不是赚钱,而是为了监测人工智能发展。
伊隆-马斯克(Elon Musk)认为,人工智能的发展最终可能会出现类似电影《终结者》(Terminator)中的可怕情形。
在周二晚上接受CNBC电视台采访时,马斯克表示他投资了一家名为Vicarious的人工智能公司。但是,他投资这家公司的目的不是为了赚钱,而是为了“监测”人工智能的发展。
下面是马斯克接受CNBC电视台节目主持人凯利-伊万斯(Kelly Evans)和茱莉亚-布尔斯廷(Julia Boorstin)采访的全文:
布尔斯廷:现在,我要问问你投资的一家公司。

你以前说过,除了SpaceX和特斯拉,你几乎没有做过什么投资。
马斯克:是的,我不是一个真正的投资人。
布尔斯廷:你不是投资人吗?
马斯克:是的。除了SolarCity和特斯拉,我并没有购买任何公司公开发行的债券。
布尔斯廷:真是不可思议。但你确实投资了一家名为Vicarious的人工智能公司。你能说说这是一家怎样的公司吗?
马斯克:好的。我投资过Vicarious,也投资过DeepMind(后来被谷歌(微博)收购了)。

基本上,我投资它们的目的不是为了获得投资回报,而是为了监测人工智能的发展。我想,人工智能的发展可能会产生危险的结果,我们需要——
伊万斯:危险?怎么说?
马斯克:是的,可能的危险。我的意思是说,有很多电影描述过这种危险的情形,例如《终结者》。
伊万斯:是的,电影描述过这种可能性。但如果真的出现这种情况,你会怎么做呢?我是说,你预见到了什么危险,以及你打算怎么对付它?
马斯克:我不知道。
布尔斯廷:你为什么投资Vicarious呢?Vicarious到底是做什么的?你看到它做了什么?
马斯克:Vicarious开发了一种名为“递归皮层网络”的技术,它主要是模拟人的大脑。

因此,我认为——
布尔斯廷:所以,你希望确保这种科技被用来为人类服务,而不是像《终结者》中描述的那样被用来为非作歹?
马斯克:是的。在《终结者》中,他们创造人工智能的初衷并不是为了作恶,后来的结果是他们当初预想不到的。因此,你必须对这种高科技保持谨慎的态度。是的,你希望确保——
伊万斯:这里确实很有讽刺意味。这个国家负责研发最先进科技的人,居然很担心这种科技发展的未来结果。
马斯克:的确如此。
伊万斯:这也是我反复问这个问题的原因。你该怎么做?换而言之,人工智能的发展是不可阻挡的。你能想法阻止它产生负面的结果吗?
马斯克:我不知道。
布尔斯廷:人工智能应该用于何处?它的最大价值在哪里?
马斯克:我不知道。但是,它的确可能会带来一些可怕的后果。我们应该努力规避这种负面的东西,确保它朝好的方向发展。
伊万斯:也许,如果别无选择,我们只好移民火星了?
马斯克:那样的话,人工智能机器将很快会追到火星上去。
◎ 相关链接:
→ 马斯克:Space X欲在火星上建造城市(图)
→ 马斯克新计划:发射700颗卫星提供上网服务(图)
→ AA租车获千万美元A轮融资 曾花6000万买特斯拉(图)

2014-12-9 12:48

机器人灭绝人类怎么办?谷歌成立小组应对威胁(图)腾讯科技 2014年12月08日
[摘要]谷歌此前已成立了“道德委员会”,其任务就是确保人工智能技术不被滥用。
谷歌已经在英国伦敦组织一群专家,专门应对“人工智能威胁”。这个专家小组将服务于谷歌旗下的DeepMind,这是谷歌2014年收于旗下的人工智能公司。日前在接受采访时,DeepMind负责人戴米斯·哈萨比斯(Demis Hassabis)透露了该公司对未来人工智能的最大担忧。
哈萨比斯及其团队正在为谷歌服务建造使用人工智能的机会,这家公司正教授电脑像人类那样思考,提高人工智能技术帮助谷歌服务实现技术突破。比如它可以帮助用户提高YouTube评论,或者令谷歌移动语音搜索变得更好。

然而令人担忧的是,DeepMind联合创始人肖恩·利格(Shane Legg)认为,这个团队取得的进展很可能导致人类被终结。他在接受采访时说:“最终,我认为人类可能灭绝,而技术可能是部分原因。”他还称,他认为人工智能是本世纪头号危险,这是不祥的东西。
著名科学家史蒂芬·霍金(Stephen Hawking)、传奇企业家埃隆·马斯克(Elon Musk)也对人工智能的进步会导致什么样的后果表示担忧。他们担心机器人的智力增长过快,最后可能自主决定灭绝人类。如果霍金与马斯克感到恐惧,我们也应该如此。
4月份时,哈萨比斯曾在视频中展示了DeepMind的一款软件。

视频中,一台电脑正学习如何通关雅达利(Atari)的视频游戏。工作人员在编程时没有给与电脑任何如何学习的信息,只是给与其控制权和获胜的本能。美国加州大学人工智能大师斯图亚特·罗素(Stuart Russell)称,人们对其表现感到震惊。
谷歌也担心以这种方式开发的电脑会产生威胁。为此该公司成立了“道德委员会”,其任务就是确保人工智能技术不被滥用。哈萨比斯解释称:“我们或谷歌其他人都要了解人工智能。现在我们依然在玩雅达利的游戏,但人工智能已经取得很大进步,我们的恐惧日增。”
哈萨比斯说,DeepMind对人工智能的主要观点是:创建能够解决任何问题的计算机。人工智能拥有巨大潜力,可能令人类感到震惊。人工智能技术的进步可能帮助人类更好地对抗疾病,但其展现的光芒着实令人类感到恐惧。

2014-12-10 07:34

人工智能毁灭人类?一些科学家不同意(图)腾讯科技 2014年12月08日
[摘要]对霍金关于人工智能将带来人类灭亡的看法,一些专家则认为霍金夸大其词。
人工智能一直是热门的影视题材:《2001:太空漫游》里精神错乱的哈尔9000,《我,机器人》(又译《机械公敌》、《智能叛变》 )里的类人机器人。当然,还有《终结者》,在这部电影里,一个机器人被送回过去,它的任务是刺杀一个女人,因为她的儿子会终结机器人的暴 政。
关于人工智能话题从未中断过。由于英国物理学家史蒂文·霍金的一番话,一个黑暗的、反乌托邦式的对人工智能的看法又成为新闻头条。
“我们已经拥有的原始形式人工智能已被证明非常有用。

但我认为人工智能的充分发展会带来人类的灭亡,”霍金告诉英国广播公司记者。“他们会自行发展,以越来越快的速度重塑自己。”
但是法新社采访的专家们对此意见不一。
部分专家同意霍金的看法,认为这种威胁虽然很遥远,应该认真看待。另外一些专家则说他的警告显得夸大其词。
“我很高兴有自然科学家站出来说话。多年来我一直再说同样的事情,”丹尼尔拉·塞齐,瑞士洛桑大学的人类学家如此说。
她说人工智能已取得的成果是创造了超过人类工作能力的机器。她预计最终趋势是机器会负起照顾人类生活的责任。
“这听起来想科幻小说,但当你看到目前的进展,你就会觉得这只是发展程度不一样而已。我们正一步一步走向霍金所说的道路。

”
尼克·博斯特罗姆是牛津大学一个研究未来技术对人类影响项目的主任,他认为人工智能超越人类的威胁不会在近期发生。
博斯特罗姆指出,当前和近期对人工智能的应用仍然掌握在人类手里——比如无人驾驶军事飞机、无人驾驶汽车、工厂机器工人和对互联网的自动监控。
但是他说,“我认为机器智能会最终超过生物智能,这种超越必将带来潜在的重大风险。”
其他专家说“真正的”人工智能——不严谨地定义为高度模仿人类并能创造性思维的机器——至多能在几十年后实现,并告诫不要危言耸听。
牛津大学研究员斯图尔特·阿姆斯特朗说,自从人工智能领域在1956的一次会议上创始,“对人工智能将在下一个15年至25年实现的预言就充斥着该领域”。

阿姆斯特朗在他的书《比人类更聪明:人工智能的崛起》中说,“除非我们错过了近期新闻里某些真正引人注意的事情,这些事从来就没有实现过。”
让·加布里埃尔·加纳夏是法国彼埃尔和玛丽居里大学的人工智能专家和道德哲学家,他认为霍金的警告过于夸张。
他说,“因为人工智能改变了我们的生活方式,这个领域的很多事情引发了各种情绪和担忧。”
“霍金说将来会存在能够离开人类独立发展的自主技术。他并没有证据去证明,也没有数据去支持这种观点。”
法国蒙彼利埃大学的人工智能语言专家马休·拉福卡德说“这有点像世界末日。”
他在提到象棋软件时说,“有些事机器比我们做得更好,但那不意味着机器比我们更聪明。

”
英国布鲁内尔大学计算机科学高级讲师阿伦·塔克则看到了人工智能面临的障碍。
他说近年来数据处理速度取得了的巨大飞跃,开发出了能够让机器从错误中学习的柔性软件。平衡和反应能力也取得了很大的进步。
塔克认为美国波士顿动力公司是此类研究的先锋。该公司在五角大陆高科技部门的资助下设计出名为大狗(BigDog)和野猫(WildCat)的四足机器人。
塔克说,“这些不可思议的工具能够很好的自适应环境,但仍然由人类来控制它们。我认为,这些机器人离真正的人工智能还很遥远。”
托尼·科恩是英国利兹大学自动推理教授。他说,完全的人工智能“还有很长的一段路要走……在我的有生之年肯定不可能实现。从现在发展的速度来看,我认为仍然需要几近上百年。”
科恩说尽管识别程序和语音识别取得了长足进步,在开放混乱的环境里,机器人表现很差,因为这些环境里有各种声音、动作、物体和人脸。
这些环境需要机器拥有人类自然而然就已经掌握的大量“常识”去辨别各种事物。
塔克说,人工智能时代最终面临的最大障碍是机器……毕竟是机器。
他说,“我们进化了好几千年才到发展到现在这样,进化的动力是生存。这种动力深深的扎根在我们身上,对人工智能来说也是至关重要,但是很难实施。”

2014-12-11 08:27

谷歌前CEO施密特:不要害怕人工智能(图)腾讯科技 2014年12月10日
[摘要]施密特认为,所有对机器将抢走人类工作、占领世界的恐惧都毫无根据。
谷歌前CEO、董事长埃里克·施密特(Eric Schmidt)希望人们能够了解:机器人是人类的朋友。
这很重要,鉴于施密特的身份,他曾亲身参与许多世界上最复杂的人工智能系统的研发,从自动驾驶汽车到谷歌的预测性搜索引擎等。谷歌甚至还在最近推出了自己的内部机器人实验室。与此同时,施密特认为,所有对机器将抢走人类工作、占领世界的恐惧都毫无根据。
周二在美国纽约参加金融时报创新美国(innovate America)活动时,施密特说:“这些担忧都是正常的,人们在一定程度上受到误导。

”施密特称,人们对机器占领世界的担忧已经持续数百年。他说:“但是回顾历史你会发现,这绝对是错误的。我想,通过更多机械化方式,我们正在穿上更好的衣服。”
此外,施密特认为,过去的经济繁荣时期,大多数是因为采用新技术而引发的。他说:“有许多证据可以证明,当计算机出现时,人类的工资开始上涨。也有许多证据显示,使用计算机工作的人报酬比不用计算机的人更高。”
施密特表示,真正的威胁是全世界的教育系统,它没有教授学生与那些变得日益聪明的机器更好协调工作的技巧。施密特解释说:“我们需要关注正在做什么以改善教育系统,激励全球教育系统,以便让人们准备好迎接新世界,让他们能获得最多收入。

”
施密特也承认,这些机器比人们现象中的更加原始,他解释了谷歌数年前进行的一项实验作为论据。当时谷歌的科学家们研发出一种神经网络,向里面填充了1.1万个小时的YouTube视频内容,研究其在未经任何训练的情况下能学会什么。施密特还模仿失望父亲的语气称:“它只发现了猫的概念。”施密特认为,人类操作员依然像技术本身同样重要。
当然,对于施密特来说,这不是个好消息。人工智能几乎是谷歌当前和未来所有技术的核心。如果谷歌想要坚持其长期的座右铭,它需要让公众相信:这些发明“不作恶”。
◎ 相关链接:
→ 盘点8种惹人喜爱机器人 可爱女友机器人会亲吻(组图)
→ 机动战士来了!日本公园内建巨型卡通机器人(组图)
→ 日本一美术馆推出机器人解说员 还会说中文(图)
→ 史上最迷人科幻书以及最可爱机器人

2015-1-18 06:27

为了防止未来机器人杀死人类 马斯克捐了千万美元(图)腾讯科技 2015年01月16日
[摘要]“我们最好现在就要做好预防准备,而不是在事故发生时才开始行动。”
美国知名企业家埃隆·马斯克(Elon Musk)向志愿者组织Future of Life Institute(FLI)捐款1000万美元,帮助人工智能朝向有益于人类的方向发展。
马斯克是电动汽车制造商特斯拉首席执行官、屋顶光伏系统开发商SolarCity Corp董事会***,他还是私人太空公司Space X的首席执行官和在线支付公司PayPal的联合创始人。同样需要说明的是,他还是FLI协会的咨询委员会成员。
马斯克在FLI网站的一段视频中称:“显而易见,人类应该确保人工智能的向善性。

我们最好现在就做好预防不利情况发生的准备,而不是在事故发生时才开始行动。现在还不清楚人工智能反噬后,人类能否成功恢复自由。但在许多假想中,人类是无法成功的。”
去年10月,马斯克接受采访时宣称,快速发展的人工智能技术可能成为人类的重大威胁,危及软件和网络安全。马斯克此次捐赠的1000万美元,主要用途是规范研究内容,确保未来人们能够安全而又符合伦理道德地使用人工智能。
去年7月,马斯克还捐出100万美元善款,希望将位于纽约长岛的尼古拉·特斯拉(Nikola Tesla)实验室改造为科学博物馆,以纪念著名的物理学家、发明家、机械工程师和电机工程师。

为了表示敬意,马斯克的电动汽车公司就是以他的姓氏命名的。
马斯克拟在德州建超级高铁 时速700英里(图)
马斯克在推特中写道:“(我们)将为其他公司和学生团队修建一条Hyperloop测试道道路。
马斯克:超级高铁测试轨道很可能落户德州
腾讯科技 2015年01月16日
[摘要]Hyperloop超级高铁理论上时速将达到700英里。
Hyperloop超级高铁示意图
我们听说埃隆-马斯克的Hyperloop超级高铁计划已有一些时日了,据说这种交通系统理论上的时速将达到700英里。
马斯克今日发表推特称,Hyperloop下一阶段的工作即将展开。

公司可能会在德州为参与测试的公司和学生团队修建一条测试道路。
马斯克在推特中写道:“(我们)将为其他公司和学生团队修建一条Hyperloop测试道道路,地点很可能在德州。”
马斯克还说,他打算利用Hyperloop测试道道路来举办一年一度的波的赛车(Pod Racer)大赛,这项比赛类似于方程式汽车工程师大赛(Formula Society of Automotive Engineers Contest)。
目前还不清楚测试道道路的具体修建地点,但是至少这意味着超级高铁距离现实又近了一步。
◎ 相关链接:
→ SpaceX火箭发射在即 马斯克或将改变航天史(图)
→ 机器人正在接管社会,人类去往何处?(图)