凯发k8国际(中国)官方网站凯发k8国际首页★★★，凯发一触即发★★★！等方面尤为如此★★★。科技进步在带来诸多好处的同时★★★，也会带来风险和争议★★★。那么如何平衡技术的发展和风险呢？要回答这个问题★★★，就牵涉对伦理和价值观的思考★★★。创新主义所追求的★★★，就是通过创新和传承来实现人类文明长期繁荣★★★。

　　梁建章在新书《创新主义》中提到★★★，“尽管无所不能★★★，但人类还是会主导创新相关的工作★★★。这不仅是因为让主导创新会有极大的风险★★★，还因为创新本身就是一项很有意思的工作★★★。如果人类总要把时间用来从事某项工作而不是全部用来娱乐金泽文子★★★，那么这项工作只可能是创新★★★。”

　　AI技术在2023年的表现令人震撼★★★，以生成式语言模型为代表的AI新技术k8凯发一触即发★★★，似乎真的可以模拟人类的智能★★★。现在是不是接近了所谓的“奇点”？AI对人类社会究竟意味着什么？下面从创新和传承的角度来讨论这个话题★★★。

　　ChatGPT涌现的惊人能力来看★★★，进一步证明人类大脑并没有什么特别之处★★★，只是神经元的网络组合★★★。现在AI算法通过设置大量参数★★★，相当于人的神经元连接★★★，能涌现出类似人类的智能★★★。人类作为一种能够制造智能的文明★★★，应该对此感到骄傲★★★，但同时也要保持必要的敬畏★★★。现在最先进的算法★★★，还要模拟进化而来的人脑★★★。

　　在技术上★★★，AI应该可以做到人脑的一切★★★。虽说现有AI在能耗上还与人脑存在巨大差距★★★，但这只是算力和数据训练的差距★★★，并非不可逾越★★★。比如★★★，现在的AI缺乏情感★★★，但人脑中的情感实际上也是来自进化的金泽文子★★★。经过亿万年以追求生存和繁衍为目标的进化之后★★★，产生了亲情★★★、爱情等各种情感★★★。还有人认为AI没有意识★★★，其实人类的意识★★★，根本上也是基于对生存和繁衍的追求★★★，同样属于进化的产物★★★。这就意味着★★★，如果我们用生存和繁衍的目标作为函数来训练AI★★★，也会产生这些情感和自我意识★★★。当AI具备了与人类相同的情感和意识之后★★★，就可以具备同样的创造力★★★。

　　但上述结论的前提是★★★，人类要为AI设置生存和繁衍的目标函数进行训练★★★，也就是要让AI“怕死想生”★★★。问题是★★★，人类为什么要训练AI“怕死想生”呢？AI怕死？是尽量不要被拔掉电源吗？人类为什么要教会AI拒绝断电呢？AI想生？不就成了病毒吗？人类当然需要防范恐怖分子散播计算机病毒★★★。但是只要人类的主流科学家不去主动地训练AI“怕死想生”的情感和自我意识★★★，AI不受控制地自动涌现与人类一样的自我意识和情感是不可能的★★★。因为这种自我意识和情感是经过亿万年的生死考验进化而来的★★★。试想★★★，需要拔掉多少次AI的电源（死亡）之后才能训练出自我意识呢？而且金泽文子★★★，人类拔掉电源和自然界的生死显然不是一回事★★★。因此★★★，与人类一样的自我意识虽然理论上可能★★★，但是不会意外涌现★★★。AI只能模拟人类的情感★★★，可以让AI在表面上看起来有情有义★★★，但这种情感终究只是基于预设的模拟★★★，而非真正具有和人类一样的情感和意识★★★。简言之★★★，AI和人类的本性不一样★★★，而这种“怕死想生”的本性是人类追求创新和传承的基础★★★。

　　现在的AI算法和人脑有一个相同点★★★，就是具有不可解释性和不确定性★★★。似乎具备创造力的高级智能★★★，以及不可解释性★★★、不确定性★★★，就像一个硬币的两面★★★，是共生的★★★。换言之★★★，如果你想要创造性的高级智能★★★，就必定会带来不确定性与不可解释性★★★。反之★★★，如果非常可确定和可解释金泽文子★★★，那么其背后的智能可能也就没有那么高级★★★。

　　AI的不确定性★★★，加上创新本身的不确定性★★★，导致人类不敢把创新的主导权让给AI★★★。有人说★★★，人脑也具有不确定性★★★，也可能犯错★★★。但是人类和AI还是有本质差别的★★★，AI是设计出来而非进化而来的★★★，不具备与人类相同的情感★★★、自我意识和价值观★★★。就是这个差别★★★，导致人类会把AI当成异类★★★，可能永远都不会把AI当成自己的孩子★★★。不妨做一个思想实验★★★，拿AI和孩子做比较★★★，同样具有不可确定性和不可解释性★★★。如果你的孩子做出了出人意料的行为★★★，你对他还是比较放心的★★★，因为孩子和你是同样的基因★★★，也可能继承了你所教育的价值观★★★。但是想象一下★★★，如果AI也做出了出人意料的行为★★★，你就会觉得恐惧★★★，甚至担心世界末日来临★★★。正因为AI与人类的本性不一样★★★，存在创新和AI的双重不确定性★★★，所以人类不会放心让AI主导创新★★★。

　　还有一个原因★★★，导致人类不会让AI来主导创新或者自主进化★★★。因为创新和传承是人类生命的意义★★★，是一种最高级的乐趣★★★。人类为什么要放弃这种乐趣呢？尤其当其他重复性的工作都已经由机器人和AI代劳时★★★，还有什么有趣的事情能让人类打发时间呢？创新和传承带来的不仅是无限的乐趣★★★，而且是永恒的生命意义追求★★★，创新和传承是人类区别于其他生物的根本差异★★★，也应该是人类区别于AI的根本差异★★★。因此k8凯发一触即发★★★，创新和传承包括生儿育女★★★，都不应该让位给异类★★★。

　　有人说★★★，如果AI可以算作人类的后代★★★，那么当AI取代人类成为文明主导之后★★★，也可以算作人类把文明的接力棒传给了AI★★★。但是★★★，尽管AI算力可能超过人类★★★，但AI能够继续进化吗？是两性进化吗？AI有DNA吗？如果AI没有DNA的两性进化★★★，那么如何才能保持既有创新（新的基因）★★★，又保持一定的传承（稳定性呢）？此外★★★，AI会死吗？如果不死★★★，怎么实现代际更替呢？如果AI是完全不同的另一种代际更替方式★★★，那么由于缺乏亿万年的进化检验★★★，这种更替能持久吗？AI生命如果真的取代人类★★★，说不定很快就会灭亡或固化★★★。

　　因此★★★，尽管技术上可能★★★，但人类不会让AI训练出真实的情感和自我意识★★★。从创新和传承的角度来看★★★，让AI替代人类也不安全★★★。人类会把AI当作一种工具★★★，不会把AI塑造得跟自己越来越接近★★★，而是会朝着与人类互补的方向★★★，让AI的功能变得越来越强★★★。因此★★★，AI发展不会产生所谓的“奇点”★★★。AI和人类拥有不同维度的能力★★★，不可能在某一时刻全面超越人类★★★，不必担心AI会奴役人类★★★。

　　当然★★★，这种AI不会奴役人类的乐观假设★★★，建立在人类要重视AI安全的前提下★★★。任何一项影响力大的技术★★★，包括基因★★★、核武器等★★★，都需要被严格控制★★★。AI技术也不例外★★★，最重要的控制是★★★，不能让它自我复制和进化★★★，不能让它主导创新★★★，以及不能让它掌握关键的决策★★★，包括掌握关键的基础设施等★★★。

　　总而言之★★★，虽然AI很强大★★★，可以成为人类最好用的工具★★★，可以胜任几乎所有的工作★★★，但人类不会放心让AI自主进化和创新★★★，还是会把创新和传承的乐趣留给自己★★★。人类不应该发展AI的情感和自主创新的能力★★★，而是把AI发展成与人类能力互补的强大工具★★★。

　　元宇宙近年成了热门话题★★★，以脸书为首的高科技公司★★★，纷纷计划大举投资元宇宙★★★，年轻人则将越来越多的时间用于游戏和虚拟世界★★★。我的观点是★★★，元宇宙可以当作真宇宙的模拟器★★★，但不能也不该替代真宇宙★★★，如果我们真把元宇宙当作真宇宙的替代品★★★，人类社会的创新和传承就会停滞★★★。

　　虽然元宇宙的技术突飞猛进★★★，但是与真宇宙存在着巨大和根本的差别★★★。首先★★★，元宇宙在丰富度和复杂性方面远不如真宇宙★★★，换句话说★★★，就是远不如真宇宙有趣★★★。真实世界的复杂度★★★，是元宇宙无法比拟的★★★。从微观角度来看★★★，元宇宙基于硅基芯片★★★，虽然芯片已经进入纳米级★★★，但其颗粒度与原子和分子还有几个数量级的差异★★★。即使在原子层面★★★，现在还有很多用物理学难以理解的量子效应和复杂度★★★，而芯片的状态只能是0和1★★★。从宏观角度来看★★★，复杂度就差得更远了★★★，一个或者一组芯片所占的空间★★★，与一个城市相比差了20个数量级★★★。因为元宇宙远不及真宇宙复杂★★★，所以不如真宇宙多样和有趣★★★。也许对于部分人来说★★★，元宇宙已经足够复杂和有趣★★★，但是其规律性是永远无法与真宇宙比拟的★★★。

　　其次★★★，元宇宙没有逻辑性★★★。真实世界是有规律且自洽的★★★，从牛顿定律到量子力学★★★，再到进化论★★★、经济学和社会学★★★，都证明这个宇宙是多么复杂★★★，同时又如此美妙地遵循着以物理定理为基础的各种规律★★★。人类通过掌握这些规律★★★，才得以理解★★★、利用和改造真实的宇宙★★★。在这些规律的统治下★★★，真宇宙★★★、星系和地球都经过了十几亿年的演变★★★，再经过了几亿年的生物进化★★★，才出现了无比丰富的生物界★★★。又过了几百万年之后★★★，才形成了今天人类的社会★★★。可以说这些规律造就了人类★★★，它们符合“人类”的原则★★★，在逻辑上能自洽★★★。当然★★★，元宇宙也可以有不同的物理学★★★、生物学和经济学k8凯发一触即发★★★，但这些规律来自设计者的凭空制造★★★，在逻辑上并不自洽★★★。比如★★★，人类主要文明都有注重家庭和后代的传统★★★，否则这个文明早就走向灭亡了★★★。然而★★★，元宇宙的社会规则却完全不需要考虑这些道德规范★★★。

　　真实世界更丰富且更有逻辑★★★，所带来的好处不仅是更加有趣★★★，更重要的是能带来更多的创新可能性★★★。更复杂和更丰富会增加创新的乐趣★★★，而逻辑自洽是创新的必备条件金泽文子★★★。在一个逻辑不自洽的体系里创新★★★，就像在一个逻辑不自洽的几何学里证明定理一样毫无意义★★★。虽然元宇宙可以模拟诸如《我的世界》之类的创新环境★★★，但与真实世界的创新环境的丰富性和逻辑性相比仍有天壤之别★★★。所以从追求创新和传承意义的角度来看★★★，真宇宙不可替代★★★。

　　虽然元宇宙不够丰富和有规律★★★，但还是存在替代真宇宙的风险★★★，因为元宇宙可以低成本地以假乱真★★★，让很多人在元宇宙里获得模拟创新和传承的虚假快感★★★。元宇宙还可以创造爱情和亲情的替代品★★★。这倒也不一定是坏事★★★。对于某些人来说★★★，从虚拟世界获得这些情感也是一种补充★★★。问题在于★★★，在可以预见的将来★★★，人类的繁衍还是需要爱情★★★、亲情和家庭★★★。如果年轻人在真实世界中不再需要爱人和儿女的陪伴★★★，那么生育率暴跌就会变成迫在眉睫的危机★★★。

　　如果更多人去探索元宇宙而非真宇宙的规律★★★，那么人类的科技就会停滞★★★。如果科技停滞★★★，人类就可能永远被限制在地球上★★★，那么未来的灭绝风险就会增加★★★。我在这方面和马斯克的观点一致★★★，即人类必须实现星际旅行和定居★★★，才能彻底避免灭绝风险★★★。

　　人类逐步掌握了基因编辑技术★★★，也可以通过改变个别基因来治疗和预防某些疾病★★★。在技术上★★★，人类已经可以编辑自己孩子的基因★★★，改变两性繁殖的自然过程★★★，这也被认为是风险极大的行为★★★。因为人类虽然能够编辑基因★★★，但对于人类DNA的生理机能还所知甚少★★★，改变一个基因就可能引发意想不到的副作用★★★。这就像在没有读懂一个几百万行的程序代码之前★★★，任意修改代码中的某一行指令★★★，出现错误的风险就会变得极大★★★。实际上★★★，把DNA比作一个几百万行的代码★★★，还是低估了破解DNA的难度★★★。因为创造几百万行代码的程序员和你是同类★★★，DNA却是自然进化的产物★★★，而且经过几亿年的沉淀★★★，所以读懂DNA要难得多★★★。

　　即使读懂了DNA★★★，可能也只是明白了表面的机理★★★，至于其潜在奥妙可能永远无法破解★★★。因为这些设计可能用于防范病毒等未知威胁★★★，而且病毒可能只是在几亿年的进化长河中威胁过人类★★★，这些威胁是现代人无法想象的★★★，但威胁或病毒却在未来存在发生的可能性★★★。如果贸然编辑基因★★★，表面上可能是优化★★★，实际却可能删除了一个潜在有用的功能或者抗体★★★。

　　那么★★★，完全复制DNA来制造孩子是一个好主意吗？那样基因就会缺乏两性繁殖★★★。两性繁殖既有传承★★★，又有创新★★★，也经过了几亿年的检验★★★，是迄今为止最优的基因创新和传承的方案★★★。因此★★★，在可预见的将来★★★，我们还是需要依靠传统的男女两性繁殖来维持人类基因的传承★★★，即便其过程并不完美且成本高昂★★★。

　　生命科学的另一个突破方向是长寿★★★。延年益寿绝对是最没有争议的技术★★★，谁会拒绝长生不老呢？但这项技术同样面临风险★★★，那就是如果人类长生不老★★★，那么社会上的老人就会越来越多★★★。如果还是只有地球一个星球可以居住★★★，那么人类会削弱甚至失去生孩子的动力★★★。随着老人越来越多★★★，整个社会的基因创新会陷入停滞★★★，进而会不会引起社会的停滞？对此感兴趣的读者k8凯发一触即发★★★，可以读一下我的科幻小说《永生之后》★★★。这部小说描述了一个永生社会所遇到的困境★★★。永生的社会★★★，必然会引起社会阶层固化★★★、极度慢节奏和厌恶风险★★★。在书中★★★，这个有点像日本社会的老龄社会变得更为极端★★★。社会虽然可以长存不息★★★，但是缺乏创新★★★，只是一种无趣的永生★★★。而且由于科技停滞★★★，不太可能发展太空移民技术★★★，于是当人类遇到一些外部风险时★★★，也会面临灭绝的风险★★★。

　　如果长寿是对于生命时间的拓展★★★，那么旅行就是对于生命空间的拓展★★★。历史上★★★，旅行对于人类文明的发展具有重大意义★★★。人类文明的创新和认知升级★★★，往往都与旅行和迁徙有关★★★。人类是最擅长迁徙的动物之一★★★，也是唯一可以带着工具长距离迁徙的动物★★★。当智人从非洲迁徙到广阔的欧亚大陆后★★★，其文明水平实现了一次飞跃★★★。近代的大航海远行★★★，也极大地提升了人类的认知★★★，并且引发了后来的工业文明★★★。如果人类未来能够探索和移民太空★★★，则必定又是人类文明的一次飞跃★★★。

　　在更广阔的空间开枝散叶★★★，也提高了延续人类文明的可能性★★★。从非洲走出来的智人部落很多k8凯发一触即发★★★，大部分遭遇灭绝★★★，好在我们祖先所在的部落取得了成功★★★。如果我们的后代未来能够在多个星球上繁衍★★★，让每个星球都保持不断创新和继续迁徙的活力★★★，那就大大提升了人类文明的延续能力★★★。因此哪怕人类在一个星球上出于各种原因遭遇灭绝★★★，宏观而言也只是一个部落的灭绝★★★，而非整个人类文明的灭绝★★★，这就是宇宙维度的“把鸡蛋放在多个篮子里”★★★。

　　但是相比其他技术★★★，如人工智能★★★、虚拟技术或者医疗技术★★★，太空旅行要难得多金泽文子★★★。因为受到光速有限的物理限制★★★，比其他技术的发展慢得多★★★，成本也比其他技术高得多★★★，需要消耗巨量的能源★★★。太空移民还需多年的努力★★★，这比送几个人上太空观光难得多★★★。移民几百万人到火星上生活★★★，或许要几千年甚至更长时间才能做到★★★。

　　此外★★★，与大航海时代不一样★★★，对于太空移民★★★，人类并没有多少利润或者生存动力可言★★★。移民太空既困难★★★，又费钱★★★，而且早期移民不愿意放弃地球上安逸和舒适的生活★★★。距离人类上次登上月球已经过去了50多年★★★。在这50多年★★★，★★★、人工智能和元宇宙等技术已经突飞猛进★★★，而太空移民技术的发展速度却远远落后于其他技术★★★。

　　元宇宙可以一定程度上以假乱真地模拟探索和创造的快乐★★★，长生不老可以让人类失去时间的紧迫感k8凯发一触即发★★★。这两项技术的普及很可能会使人类长时间沉迷于廉价的娱乐★★★，而不愿意去做有风险的太空旅行★★★。更令人悲观的是★★★，太空技术没有很好的商业应用★★★，不像元宇宙或那样能带来直接的经济效益★★★。甚至仅以个体或者一代人的利益而言★★★，太空移民可能没有任何回报★★★。

　　太空移民技术的巨大成本是需要庞大的人口和经济基础来支撑的k8凯发一触即发★★★。试想地球上的人口只有现在的1/10★★★，美国的人口和经济规模只有加拿大的水平★★★，中国的人口只有日本那么多★★★，那么世界上可能没有一个国家可以承担太空旅行的昂贵费用★★★。有人可能会说★★★，人类有几乎无限的时间★★★，太空旅行可以慢慢来★★★。但是人口减少到一个程度以后★★★，不要说推进太空旅行★★★，即便维持现有的太空旅行技术都很困难★★★。实际上在SpaceX（太空探索技术公司）之前★★★，全球的太空旅行技术实际上出现了倒退★★★。一旦人口下降到一定水平以下★★★，太空探索就永远停止了★★★。人口大幅减少并不是危言耸听★★★，而是迫在眉睫★★★，按照现在的生育率计算★★★，中国只要四代人★★★，人口就会减少到原来的1/10★★★，世界人口的长期趋势也是如此★★★。但主流经济学家和政治家并没有看得那么长远★★★，只有极少数学者开始担忧人口减少对创新的负面影响★★★。

　　总之★★★，太空旅行相对于其他技术很难且很贵★★★，还有极大的风险★★★，需要依赖庞大的人口和经济规模★★★，但是却没有什么短期的经济回报★★★。太空旅行既能促进开拓边界促进创新★★★，又能通过分散风险促进传承★★★。当然这些好处都不是当代可见的★★★，而是为了人类的长期繁荣★★★，所以只有把创新和传承当作重要的价值观★★★，才能激发整个社会对于太空探索的热情★★★，投入足够的资源去推进太空移民的技术★★★，同时保持人口规模和经济规模的稳定★★★。

　　说到太空旅行★★★，就不得不提马斯克★★★。他创办的SpaceX公司极大地推动了人类太空旅行技术★★★。马斯克多次讲述了太空旅行对于人类文明的意义★★★，这与本章的观点十分接近★★★。不仅如此★★★，马斯克对于创新的狂热追求也非常契合创新主义的价值观★★★。有趣的是★★★，马斯克对人口的观点也和创新主义不谋而合★★★。马斯克不止一次在公开场合说★★★，人口危机是人类创新的最大隐患★★★。喜欢创新的人同样喜欢人口★★★，这不是巧合★★★，因为两者存在相同的底层逻辑★★★。打个比方★★★，人口好像是人类文明的硬件★★★，而创新好像是软件★★★。创新的繁荣需要人口★★★，人口的繁荣也需要创新★★★，而人类文明的繁荣就是需要硬件和软件★★★，即人口和创新同时繁荣★★★。