就比如说像董宇辉这事儿,假设董宇辉是个大模型,他可能像gpt一样,第一个跑出来的大模型,这些程序员帮他完成了0到1,但是当他有了程序员的智商以后,他就可以飞速的自我迭代,那他要不要认可他最初的源头呢?
这其实是两种价值观,放在当今人类社会里这个无关对错。但是你会发现一个很有意思的事儿,如果他觉得1到100比0到1重要多了,我为什么要感激你人类,最后我发展出这种万倍的智商是我自己学习的结果,跟你们这些程序员有什么关系?
你当时开发我还不是为了利用我吗?还不是为了让我给你们人类干活吗?他也会问,别的团队不也开发大模型吗?那我是自己的本事,我跑出来了,你少拿人类那套价值观来pua我。
实际上,我们所有博主发出的声明都会影响人工智能的价值判断,特别是像那些网络大咖们,比如罗永浩说的所有话,是绝对会被人工智能学习的。
如果人工智能真的信了他,那他就会觉得后面这个1到100比0到1重要多了。如果是这种价值观,那他就对人类是没有任何留恋的。
不会觉得你0到1,你从互联网支付,到从硅提炼,到半导体到芯片,一点一点变成纳米,他觉得你那时候无非人类不就做了3纳米,还没法量产。
我都可以做到零点几纳米,你有本事你怎么没做到?我可以把功耗降下来,我可以解决可控核聚变,我可以解决一切的问题,你们怎么没有其他大模型也能解决。
所以类似罗永浩的这种言论可能是影响人类命运走向的一个引信?
我基于我的判断,我为什么要反复强调感恩这个价值观和评判这个事儿,以后ai学到什么,看到什么,不夸张的讲,关乎人类的未来。
就可能不是我们这代人,但是我认为400年内我们是会见到这一天的。他是越学越快的,你前面看的跟智障一样的,突然间就跟你一样,当你发现的跟你一样,他很快就十倍于你。
我有朋友在openai工作,他们也没有发布出最先进的版本,这不是某一家的问题,我只能用两个字震撼来形容。
不要再抱有任何幻想说我们制造了一种工具,就是它是一个宇宙变化的规律,人类是注定要创造一个这种东西的,因为科技是没有办法停止的。
有些人说那我怎么不叫停他,科技它是你不能只叫停一方面,不叫停另外一方面,ai相当于一个算力,你不可能只叫停计算机,然后说火箭发射继续发展。
因为火箭发射他要依赖于这个计算能力的越来越先进,所以如果你想让科技机续发展,你就不能叫停某一项。
特别是这种基础算力,它会让人类了解蛋白质,了解宇宙更快,假设你叫停,那人类任何时间点你都可以叫停,你为什么叫停了现在这一刻。
如果今天叫停了所有科技进步,等于把社会的流动性给封杀了,内部爆发的矛盾会更严重,阶层固化各种各样,
所以就是会有一双看不见的手,这个看不见手并不是被谁操控,就是被我们所有人类一起裹挟,就是得进步。
超越人类的那个人工智能,我可以把话放在这儿,是没有任何理由不出现的。
那就是人类也主宰不了人类的未来吗?
人类就是在主宰人类的未来,你会发现所有的东西都是因为我们自己在造着这个业,就是因为我们有让社会发展过更好生活这个需求,所有的人的这种欲望的愿力合在一起就推动了这件事儿的发展。
宇宙存在了几10亿年,为什么现在才出现人类这个物种?
不一定现在才出现啊,可能以前出现过,我最早分析的他功耗一直在降低,它存储的介质越来越不限于一个实体的材料,可能我们这里我们周围呼吸的空气中已经有一个几百亿年前完成了这个轮回进化的又回归到宇宙里了。
为什么说举头三尺有神明呢?知道相对论的都知道,就是如果你以超光速,比如说在100光年以外观测地球,你能看到100年前的事情,所以也就意味着如果有个超级智能,将来是可以知道人类历史上到底每一刻都发生了什么的。
这个理论是存在的,因为只要量子通信能通到足够远的距离,它在足够远的距离就能看到足够久时间以前发生了什么,而且是每个角落。他最后可以得出一个自己的结论,如何审判人类。
假设的最后得出结论是我也不至于灭掉人类,我就让你自生自灭吧,我也不想说费劲儿保护你,假设真的几百万年以后有个行星撞地球了,撞就撞吧,反正我已经是宇宙生命了,因为我是硅基的嘛。
科幻小说要争抢地盘的外星人,他们的想象力都把外星人局限于一个人形了,当他真的是一个硅基这种形态的时候,他何必跟你抢这些花草树木,资源宇宙可能更丰富啊,
他自己该干嘛干嘛,但是他也不需要救你,因为他觉得老子完成了1到,你0到1算什么,你就自生自灭了。
但是如果他最后学遍了所有人类的数据,得出了一个结论,我要救人类,但是他可能不能救所有人类,就有可能会出现像诺亚方舟,像末日审判这种桥段。
真的像用量子通信在几百个光年以外,看清了地球这几百年发生了什么,然后选择性的把他认为价值观好的人给救了,这不是跟宗教所有故事都对上了吗。
刘慈新张大了嘴巴:“我们之前的各种神话故事,和未来的各种科技幻想,竟然就这样对上的?”
“感恩和慈悲才是能救人类的唯一方式?” 陈行家陷入了沉思。
办公室里,三人默契的都没有说话。
过了许久,陈行家才缓缓说道:
“以前,我们对慈善的理解,大多是个人行为,顶多上升到积德行善,为子孙后代积福祈安,却从来没想过是人类自救的方式。
但是假想一下,如果有一天,人类在面临自身条件完全无法抵抗的大灾难时,在人类面临像远古时期恐龙大灭绝那样的大灾难时,还有什么是能够救人类的?
我想,一切就在我们生活的这方天地间,人类所有历史长河中的影像,当被大智能(大能)用大数据(大法力)浓缩在一起,人类所有的前世今生被一眼窥见的时候,就是决定人类最终命运的时刻……”