张智见差不多了，就开始继续自己的演讲：既然定律路线行不通，那么应该怎样保证ai不会毁灭人类呢？要知道这样一个超级智能的程序编得不够好，或者它不在乎人类的需求，那么对我们人类而言就是彻头彻尾的灾难。“agi研究者里，很少有人相信能造出一个百分之百安全毫无隐忧的系统。”因为说到底人生中也没什么东西是百分之百的。
（这里科普一下artificial neral tellince（agi）是指强人工智能，这是一种人类级别的人工智能，在各方面都能和人类比肩，人类能干的脑力活它都能干。不仅仅是当今人工智能所应对的局部c特定的问题，未来可能出现的复杂繁冗任务对它来说都不在话下，当前的人工智能需要人类进行编程，但不排除未来的某一天它可以自动编程。）
“我认为设计有意识c有自我觉知的人工智能或机器人，本身就是很不明智的。一旦我们造出了早期agi系统，或者至少是比我们现有东西强大得多的agi原型机，那么这个原型机将会在日后不断的进化，智力会不断的进化，超人类智力的人工智能或机器人将会很快出现。如果说目前的世界格局是我这个450智商的小孩一手布局的，那你们敢想想如果有人工智能的智力比我还高，如果又对人类稍微有些厌烦，你说人类会不会很快的灭亡？
所以我要设计的是电脑，而不是人工智能电脑，是按给定的程序执行的电脑，而不是自己可以执行程序，agi我劝大家最好别去碰，至少要碰你也要有相应的技术和绝对安全的保护措施和后备措施，一旦出错，人类全部玩完，这并不是在开玩笑，我不想自己的子孙后代被放在机器人的动物园里被机器人像看猴子一样围观。（这也是在未来的几百年里，人类任何一个科学家都不敢去触碰agi的原因）
“我所要研发的电脑不比agi差多少”张智给出了足够的警告后继续说着：举个例子来说，我把一个西红柿放到电脑跟前，设定程序，让他按程序的执行操作一把刀把西红柿切碎，同样设定程序把鸡蛋打开搅拌，然后执行程序按一定的程序步骤，最终西红柿炒蛋就做出来了。从此以后，我们只要把相关材料放好位置，电脑执行程序，做出西红柿炒蛋。这就是程序，而不是智慧。这样的场景在现在很多公司的生产车间里普遍存在，比如汽车身产线上。如果程序足够的复杂，足够的庞大，你们觉不觉得就算让它独自生产出一架飞机出来，也是正常的。这依然是程序而不是产生了智能。
而我最后要说的正是前面电影兰宁博士说的话，想想这一切为什么会产生，或许你们觉得我太过担心，但是我要告诉你们，简单的程序中出点错并不会产生出什么，如果执行复杂的程序，比如按程序组装飞机，无数的简单程序的组合，程序中的一丝错误就会不断的累积，形成随机的编码段，最轻的结果就是飞机组装不了，出错无法执行，如果那些随即的编码段组合一起，形成意想不到的指令，就像两个石头碰撞产生火花一样，产生的后果谁都无法预料。为什么我们的地铁可以电脑远程操控，却还要设人操作的机构，是因为对电脑程序的不放心。如果电脑足够的可靠稳定，我们完全不需要人再去辅助操控，与其将人力放在操控上不如将人力放在多检查程序，多编写安全保护程序。无人驾驶汽车c无人驾驶地铁c无人驾驶巴士将在明后几年里遍布我们的世界，未来更复杂的电脑控制的各种机器将出现在我们的世界，而这所有的一切所带来的安全问题就是你们在座的责任。
我不管你过去编程有什么坏习惯，在这里你们所编写的每一个程序，都很可能是最基本的程序，我要求程序足够的简洁明了，哪怕一个标点符号的错误都不许有。写出的程序需要在所有在座的各位审核以后，才能面对世界现场直播的情况下输入我们即将建设的超大型电脑“女娲”之中。而且电脑每周对自己所有的程序进行一遍自检，一个月一次全面细致的检查。如果在往后工作中，发现更简介c更明了的可替代的程序，务必进行更换。这将大大减少随即的编码段的产生，对今后电脑执行复杂的程序的成功率有很大的帮助。如果你搭积木的时候，积木位置没放正，是不可能搭的足够高的。所以你们务必在写程序的时候谨慎细心，因为你们写的程序也许我们的子孙会使用百年c千年c甚至万年。
“我不管在坐的里面有多少准备破坏的或是准备盗取科技成果的人。我只想告诉你们，这个工程是面向全人类的，造福全人类的，是全方面公开的。任何人想对这个电脑进行程序输入，都会在互联网上现场直播的。一是在全人类的监督下，没有人耍的了花样；二是你的程序将面对全人类检验的考研保证它足够的完美无缺陷，所以说你们大可没必要。而我还有其它的科研项目属于半公开，或不公开的，或许你们可以朝这个方向努力，前提你得有那个本领进来，而且能进行自己的间谍活动。
等到将来，电脑做出的菜肴是特级厨师的水平保证每一个普通人都能天天享受，家里的家务也由机器程序控制完成，出门有无人的士或坐无人巴士出行，各种复杂繁琐的事情将逐步被机器所替代，每个人将腾出大批的时间进行娱乐享受。很多人担心大批的人失业，这个完全没必要。随着人脑技术的逐渐开发，虚拟现实也离人类不远，大家可以通过头盔进驻其中，享受第二人生。在虚拟世界里实现长寿，每天所消耗的也许只不过是几袋葡萄糖营养液罢了，这点支出，政府是付得起的。同时在虚拟的世界，各种学习空间c各种与人交流的空间c这比在现实世界来的更快捷，学的知识更牢固。总之，未来的世界很精彩，但这一切的基础就是在坐的各位给打下的。张智一番话说的下面做的科学家神情兴奋，士气十足。
也有人会问国付出了这么多，却得到了一个公开的科技成果，岂不是很亏？我想说的是这只是我的第一个项目而已，是最基础的，只是集中世界所有的科学家在一起将我们现有的技术整理出来，将我们现有的应用的科学技术再提纯一下，这只是这个电脑科技的初始也就是基础，未来的电脑科技只有在这个基础打牢之后才能研发新的程序c新的软件c新的发明。每个国家可以自己建造，并向里输出相同的程序，在与“女娲”程序核对无误后，才能与女娲联网，也就是说你们各国可以在自己的国家里建造一台一模一样的“女娲”电脑，但“女娲”将执行联网核对程序，也就是说两台电脑里如果程序有一丝的不同，哪怕一个标点符号的位置不对，都会拒绝被访问。
也有人说，不访问就不访问，我自己开发程序自己输入自己的超级电脑里去，我只想说，电脑程序在未来将会越来越复杂，往往一个程序会牵扯到无数的小程序的组合，你们自己对自己的程序输入不负责，超级电脑在未来执行程序出错引发的灾难，或产生强人工智能，那将是全人类得灾难。就像你们有些国家研究病菌，希望改良做战争武器，也许某一病菌变异说不定分分秒秒灭了全人类，这样的东西，各国政府自己都心知肚明。反正你们自己拉着全人类陪葬，我也没办法。
我希望在座的都知道很多国家都有拉着全人类一起灭亡的能力，希望不要再增加这一条，失控的结果谁也无法预料，这是警告。我打比方说我们这所有的科学家一起开发一太空母舰，虽然开发出来了，各国都知道太空母舰怎么做了，但是否有能力有物力有财力再做一太空母舰呢？而国作为东道主，这一同开发的第一艘太空母舰就属于他，各种新技术新应用它先享受，它永远都走在前面，这就是国所得到的好处。
龙腾小说免费小说阅读_www.ltxs.me