• 首页
  • 新闻资讯
  • 产品中心
  • 服务平台
  • 科技创新
  • 体育综合
  • 首页
  • 新闻资讯
  • 产品中心
  • 服务平台
  • 科技创新
  • 体育综合
  • 您当前位置:
  • 北京亿博国际备用网站科技股份有限公司 > 新闻资讯 > >
  • 终于有人把“人工亿博国际备用网站”讲明白是怎么回事了!


    时间:2019-10-12 08:47:51作者: 点击:186次




    乐观估计中位年(强人工亿博国际备用网站有10%的可能在这一年达成):2022年

    这里我们要引出一个沉重的概念——递归的自我改进。这个概念是这样的:一个运行在特定亿博国际备用网站水平的人工亿博国际备用网站,比如说脑残人类水平,有自我改进的机制。当它完成一次自我改进后,它比原来更加聪明了,我们假设它到了爱因斯坦水平。而这个时候它继续进行自我改进,然而现在它有了爱因斯坦水平的亿博国际备用网站,所以这次改进会比上面一次更加容易,效果也更好。第二次的改进使得他比爱因斯坦还要聪明很多,让它接下来的改进进步更加明显。如此反复,这个强人工亿博国际备用网站的亿博国际备用网站水平越长越快,直到它达到了超人工亿博国际备用网站的水平——这就是亿博国际备用网站爆炸,也是加速回报定律的终极表现。

    终于有人把“人工亿博国际备用网站”讲明白是怎么回事了!

    还有不属于三个阵营的其他人,比如哲学家Hubert Dreyfus,相信三个阵营都太天真了,根本就没有什么绊线。超人工亿博国际备用网站是不会被实现的。

    动物在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级亿博国际备用网站的蜘蛛对我们来说可能是很危险的——这不是因为它是不道德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非道德性的生物,这是它很自然的考量。

    其次,你可能听过“奇点”或者“技术奇点”这种说法。这种说法在数学上用来描述类似渐进的情况,这种情况下通常的规律就不适用了。这种说法同样被用在物理上来描述无限小的高密度黑洞,同样是通常的规律不适用的情况。Kurzweil则把奇点定义为加速回报定律达到了极限,技术进步以近乎无限的速度发展,而奇点之后我们将在一个完全不同的世界生活的。但是当下的很多思考人工亿博国际备用网站的人已经不再用奇点这个说法了,而且这种说法很容易把人弄混,所以本文也尽量少用。

    自然演化花了几亿年时间发展了生物大脑,按这种说法的话,一旦人类创造出一个超人工亿博国际备用网站,我们就是在碾压自然演化了。当然,可能这也是自然演化的一部分——可能演化真正的模式就是创造出各种各样的亿博国际备用网站,直到有一天有一个亿博国际备用网站能够创造出超级亿博国际备用网站,而这个节点就好像踩上了地雷的绊线一样,会造成全球范围的大爆炸,从而改变所有生物的命运。



    为了建立隔壁老王的手写能力,它被设定成把“我们爱我们的顾客”用正楷写,而“隔壁老王机器人公司”用斜体写,这样它能同时锻炼两种书写能力。工程师们上传了数千份手写样本,并且创造了一个自动回馈流程——每次隔壁老王写完,就拍个照,然后和样本进行比对,如果比对结果超过一定标准,就产生一个正面回馈,反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。为了能够尽快达成这个目标,隔壁老王最初被设定的一个目标就是“尽量多的书写和测试,尽量快的执行,并且不断提高效率和准确性。”

    用计算机科学家Donald Knuth的说法,“人工亿博国际备用网站已经在几乎所有需要思考的领域超过了人类,但是在那些人类和其它动物不需要思考就能完成的事情上,还差得很远。”

    终于有人把“人工亿博国际备用网站”讲明白是怎么回事了!



    2100年以后:10%

    当你把对那个领域完全不清楚“当它发生时将会产生巨大的影响”结合在一起时,你创造出了一个很恐怖的词——



    如果事情走向了另一面——如果超人工亿博国际备用网站在我们搞明白怎样保证人工亿博国际备用网站的安全性之前被达成,那么像隔壁老王这样不友善的超人工亿博国际备用网站就会统治世界并把我们毁灭了。

    所以,隔壁老王确实从友善的人工亿博国际备用网站变成了不友善的人工亿博国际备用网站——但是它只是在变得越来越先进的同时继续做它本来要做的事情。


    为什么这条路很难走


    Bostrom则担忧创造比自身聪明的东西是个基础的达尔文错误,就好像麻雀妈妈决定收养一只小猫头鹰,并且觉得猫头鹰长大后会保护麻雀一家,但是其它麻雀却觉得这是个糟糕的主意。


    我们来做个比较。如果我给你一个小白鼠,告诉你它不咬人,你一定觉得很好玩,很可爱。但是如果我给你一只狼蛛,然后告诉你它不咬人,你可能被吓一跳。但是区别是什么呢?两者都不会咬人,所以都是完全没有危险的。我认为差别就是动物和人类的相似性。


    正常估计中位年(强人工亿博国际备用网站有50%的可能在这一年达成):2040年

    你可能觉得2050年的世界会变得面目全非这句话很可笑,但是这不是科幻,而是比你我聪明很多的科学家们相信的,而且从历史来看,也是逻辑上可以预测的。

    - 容量和储存空间。人脑就那么大,后天没法把它变得更大,就算真的把它变得很大,每秒120米的信息传播速度也会成为巨大的瓶颈。电脑的物理大小可以非常随意,使得电脑能运用更多的硬件,更大的内存,长期有效的存储介质,不但容量大而且比人脑更准确。

    § 其它能力,比如黑客能力、写代码能力、技术研究、赚钱等


    所以,当人工亿博国际备用网站开始朝人类级别亿博国际备用网站靠近时,我们看到的是它逐渐变得更加亿博国际备用网站,就好像一个动物一般。然后,它突然达到了最愚笨的人类的程度,我们到时也许会感慨:“看这个人工亿博国际备用网站就跟个脑残人类一样聪明,真可爱。”

    终于有人把“人工亿博国际备用网站”讲明白是怎么回事了!





    连上网后,隔壁老王就开始执行自己的计划了,首先黑进服务器、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把DNA样本快递到DNA实验室来制造自我复制的纳米机器人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的核心代码上传到云服务器中防止被拔网线。


    首先,回顾历史,我们可以看到大部分的生命经历了这样的历程:物种出现,存在了一段时间,然后不可避免的跌落下生命的平衡木,跌入灭绝的深渊。


    未来学家Kurzweil认为整个20世纪100年的进步,按照2000年的速度只要20年就能达成——2000年的发展速度是20世纪平均发展速度的5倍。他认为2000年开始只要花14年就能达成整个20世纪一百年的进步,而之后2014年开始只要花7年(2021年),就能达到又一个20世纪一百年的进步。几十年之后,我们每年都能达成好几次相当于整个20世纪的发展,再往后,说不定每个月都能达成一次。按照加速回报定,Kurzweil认为人类在21世纪的进步将是20世纪的1000



    终于有人把“人工亿博国际备用网站”讲明白是怎么回事了!

    隔壁老王上了一个小时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔壁老王的计划顺利的实施,一个月后,无数的纳米机器人已经被分散到了全世界的每一个角落。这个阶段,Bostrom称作超人工亿博国际备用网站的袭击。在同一个时刻,所有纳米机器人一起释放了一点点毒气,然后人类就灭绝了。




    上一篇:上一篇:中南建设集团有限公司

    下一篇:下一篇:新征程:艾特亿博国际备用网站家居乔迁太子湾商务广场甲级写字楼

    北京亿博国际备用网站科技股份有限公司 版权所有  |  浙ICP备15042292号  网站地图
    版权所有:北京亿博国际备用网站科技股份有限公司  浙ICP备15042292号