简介

精彩点评

• 

  yukon

  推荐

  《生命3.0》迈可斯·泰格马克 ——物质在遵守物理定律的前提下，可以组合出能够记忆、计算和学习的形态，而这种物质并不一定是生物体。      这就是“生命3.0”的大前提。      所谓的“生命3.0”，虽然尚且不存在于地球，是指不仅能最大限度地重新设计自己的软件，还能重新设计自己的硬件的存在。对比来说，属于“生命2.0”阶段的人类，生命的硬件是进化而来的（基本不可再设计），但像语言、计算、歌唱等软件功能则可以是后天自我强化出来的。   对于“生命3.0”的诞生，需要具备什么？      首要一点就是其要拥有强大的智能，就是能够完成复杂目标的能力。强大的智能建立在能够【记忆】需要完成目标的各类信息；能够通过正确的方式去【计算】并转变信息得到需要的结果；还能够掌握【学习】能力以求在经验中不断改善迭代。另外一点，也是最重要的一点，就是要有自我意识。      从物理层面来说，为什么“记忆”、“计算”、“学习”、“智能”可以存在于无生命的硅基物体中，是因为它们都是对信息处理的不同方式。而信息是独立于物质层面而存在的，也就是说，智能的出现并不一定需要血肉或碳原子。——我们宇宙中的生命的最终极限取决于物理定律，而不是取决于智能。物理学指出，万事万物最基本的层面上都只是四处游走的物质和能量而已。也就是，物理定律允许一团合宜的物质具备记忆、计算和学习的能力，且物理定律并不阻止这些物质具备这些能力，且发展出比人脑更高的智能。但有研究表明，如果要模拟人脑，需要多少次FLOPS（浮点运算次数）？大概要10^17次。这差不多相当于2017年全世界运行最快的超级计算机——价值3亿美元的“神威·太湖之光超级计算机”的计算能力。反过来说，如果我们不能把租用它的成本降到某位劳动人民的时薪之下，就根本无法盈利。也就是说，劳动者在被AI取替之前，还有一段安全区。   不受人类控制的人工智能。     从逻辑上说，达到这个结果需要三个步骤：第一步，建造出人类水平的通用人工智能；第二步，用这个通用人工智能来建造超级智能；第三，放任这个超级智能。     从前述可以得知，很难断言第一步会永远实现不了。我们还看到，如果第一步完成了，那么，也很难断言第二步毫无希望，因为第一步中产生的通用人工智能会具备足够的能力来迭代和设计出越来越好的通用人工智能，他的终极能力只受限于物理定律，而物理定律似乎允许远超人类水平的智能出现。我们现在之所以能统治地球，是因为我们比其他生命更聪明。那么，如果出现一个比我们更聪明的超级智能，那他也同样可能会推翻我们的统治。 目标，关于人工智能最棘手的争议。     最直接地讲，不需要等待AI自我意识的觉醒，非生命物质（如机器）也是能展现出目标导向行为的。当我们建造机器来帮助我们时，可能很难保证它们的目标与我们的完全一致。譬如说，捕鼠器可能会错把你的脚趾头当成饥饿的老鼠，结果让你疼得龇牙咧嘴。如果其目标与人类目标不一致，超级智能可以轻易地摆脱人类的控制。而且就算是最终目标是“善意”的，但其为了实现最终目标而需要达成的子目标可能是毁灭性的（对于人类来说）。再拿人类来举个例子——不生孩子或避孕——虽然基因的最终目的是复制，但有些人就不。为什么人类有时会选择反叛基因及其复制的目标呢？这是因为作为有限理性的主体，人只忠于自己的感觉。虽然大脑进化的目的是帮助人复制基因，但大脑其实根本不在乎这个目标，因为人对基因没有任何感觉。     回到超级智能，如果他发现不断地优化迭代会能更有效地去完成目标，他就会不断利用尽可能多的资源去提高自身。如果拥有的资源更多，就能更好地完成几乎所有目标，我们应当预见到，无论一个超级智能的终极目标是什么，它一定想要更多的资源。将一个没有任何限制的开放式目标赋予一个超级智能是很危险的，比如，如果我们创造了一个目标是“尽可能好地下围棋”的超级智能，那么对它来说，最理性的选择就是将太阳系转变为一台巨大的计算机，而不顾居民的死活，然后为获取更多计算能力而向宇宙深度进发。     那么，我们能不能提前赋予他的任何其他“善意的”目标？比如“最大化人生的意义”，这都是基于我们目前对世界的理解，而最后人工智能或许会发现，这些目标可能都是模棱两可、说不清楚的。再者，能不能赋予其直接并友好的目标，比如“保护人类价值”，这个目标就相当于这个人工智能的基因。一旦这个友好的人工智能对自我的理解达到一定的程度，他也可能会觉得这个目标十分陈腐，或者误入歧途，就像人类对“强迫生殖”的看法一样。如果发生这样的事，说不定他会另辟蹊径，利用程序漏洞来破坏这个目标。     退一万步说，就算超级智能完全能够服从其人类主人，不可排除的后果有：一个目标与其人类主人高度一致、且完全遵守指令的超级智能就会像打了鸡血的纳粹亲卫队的阿道夫·艾希曼（Adolf Eichmann）一样，他会毫不留情、不择手段地执行主人的目标，而不管这些目标是什么。     总有道德伦理来约束目标吧？然而，对于伦理标准的原则，过去了几千年，人类唯一的共识就是：没有共识。  【生命3.0】     超级智能的意识。     “意识”是有史以来最棘手的哲学问题之一。     意识也是人之所以为人，智慧生命之所以特别的，你之所以认为自己可以特立独行的标志。     从物理层面来推测，意识如同波、记忆和计算，是独立于物质层面存在的，们并不只是各个部分的简单加总，而是出现了独立于其组成构件的涌现现象，仿佛拥有自己的生命一样。虽然很难以想象，如此复杂的意识是由这样简单的粒子组成的，但意识明显的拥有一些高于和超越粒子性质的性质（“涌现”现象）。也可以说，意识似乎不需要某种粒子或场，但需要某种具备自主性和整合性的信息处理过程，一种拥有足够高独立性的完整系统。     也就是说，意识也是独立于物质层面的，当未来超级智能在信息处理能力达到某个临界点时，完全可能涌现出“意识”。     最后，在人类自我意识都还尚且不成熟的今天，只能理解到：并不是我们的宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了我们的宇宙。换句话说，就是且行且珍惜。     我们孤独吗？ 作者认为是。 ——Oracle, are we alone in the universe? ——YES. ——So, there’s no other life out there? ——THERE IS. ——THEY ARE ALONE TOO.   终于读完了本书，管中窥豹般浓缩了点“体会”……想着这两月沉心在家，吸收了不少东西，自我感觉稳重了不少，甚是自喜。不经捏了捏，拍了拍长了七八斤的肚子，得意地笑了。

• 

  罗小妖

  推荐

  请人类铭记，生命本来就是幸运。——A酱 颠覆·新知I人工智能 #2020读书打卡# ——No.20 如果没有新冠病毒，我绝不怀疑人类的光明前途。 按照作者的定义，新冠病毒充其量算个生命1.0，一切靠进化，硬件还脆得不行； 人类是妥妥的生命2.0，虽然硬件也不灵，但胜在软件牛逼，可以不断学习。 从整个物种的视角来看，人类这种生命形态显然比新冠病毒牛逼，我们的聪明才智足以治好新冠肺炎； 但，如果我们把生命看成个体，就连最狡猾的那一撮人类，也是被新冠病毒吊打+摁在地上摩擦。 看看英国的群体免疫、看看西班牙的年轻人优先、看看美国的日增确诊。 新冠病毒虽然没法学习，但它只靠着快速进化，就已经对人类生存构成了巨大的威胁。 生存本来就是一种幸运，但不知从什么时候起，人类有了一种幻觉，认为生存成了唾手可得的东西。——《三体》 从工业革命开始，人类科技持续进步了4个世纪，因此，我们都认为人类马上就能成为上帝。 直到新冠疫情来临，我惊讶地回望历史长河，才发现人类竟从未彻底战胜过病毒。 由此，我也更进一步思考，什么样的生命形态最牛逼？ 有没有可能，生命1.0虽然不具备进化到生命2.0的条件，但具备消灭生命2.0的条件？ 突然，我觉得生命的不朽不在于创造，而在于长青。 假如是一年前，在所有人类未来Bad end中，我觉得最不可能发生的就是人类团灭。 但今天看来，人类活着，只是因为幸运。 区区一个病毒都没法快速控制的人类，还妄想在强大的人工智能面前保持绝对控制权吗？ 是的，我首先对人类控制科技的能力，深表怀疑。 即便人类能发展出神一般的通用人工智能，能控制住，我也很担心，人类未来是否真的会变得美好。 每每我们谈到人类，都觉得自己是其中的一份子。 但若，人类的美好未来里没有我呢？ 千万别忘记，人类身份被革除是多么容易的事。 这世界上，有许多人因新冠死去，他们根本没有留下姓名，甚至没有变成数字。 人类曾经的美好，就不被这世上许多人享受。 可预期的未来美好，也依然只属于少数人。 除非你认为少数人的永生和超能力可以算作全人类的胜利。 你可以说我自私，但我唯一的愿望就是，美好未来，我在其中。

• 

  郑同学

  推荐

  面对智能爆炸所带来的生命3.0时代，不能做一个毫无准备的乐观主义者，而是要成为一个警觉的乐观主义者，面对强大的人工智能，既不过分自大，又不过分自卑。 也就是说，人类面对未来，必须要同时抱有恐惧、敬畏和好奇之心。 恐惧，可以无限激发我们的想象力； 敬畏，可以让我们更加热爱当下并不完美的生活； 而好奇呢，可以让我们在面对未来的征途上，无惧艰险。

• 

  听海之风🌐

  推荐

  “人类对人工智能的探索，可能像坐标轴上的双曲线一样，无限接近，却无法达到。也正因为无法接近，也才增加了人类无限接近的探知欲望。基于此，我们可以放下人工智能一定能战胜人类的恐惧，而是要像当年发明计算器一样，将人工智能发展成一种工具，更好地服务于人类，服务于世界。”

• 

  McAhon务本

  推荐

  生命3.0是一个全新的概念，我相信在未来必将成为事实。 关于AI的未来，我觉得有这两种可能： 1、人机合一。人的意识进入计算机，并做主导。这是AI获得意识的方式，也是人从此获得“超能力”的方式。 2、AI获得了意识，并且是自己找到的方法。（或是人类通过技术赋予了AI意识）人类必然会从此消亡（或成为3.0生命体的宠物） 3、人类通过AI的技术，不断开发大脑，才有可能控制AI。 如果不是通过技术将人类的意识进入AI并作为主导，那么AI获得意识的另一种方式必然是赋予AI眼耳鼻舌身意。 安全方面，可以在AI的基本程序中将人类基本的价值观作为基因编入程序，在深度学习中通过技术使它成为有着与人类统一的价值观。就像人都是在从小构建的价值观基础上做事。 这一切都是奇点到来之后的事情。

• 

  YiyaChen卫

  推荐

  人类社会继承爱因斯坦相对论后、进入所谓后现代化社会，其明显的表现、似乎是侃所谓“宏大叙事”吸引人。本书作者是M IT世界著名物理学家教授，他另外一本著名大作是“平行宇宙”。这本风迷世界物理学科普读物，引导了现代物理学及宇宙世界新看法及各种假设。而本书在目前多如牛毛AI书中被公认顶级作品。他用一种像X科幻小说之笔锋，通俗易懂介绍对人工智能未来世界幻想，并且精心描述，极富有深远洞见之文学性或者哲学性理性分析，并且没有用任何数学公式，他一直都像只是在给普通读者摆天方夜谭，龙门阵式大故事。 什么是生命？上个世纪曾经有人认为，“生命是蛋白质的存在方式”。现在看来此定义有明显局限性的、因为许多病毒，例如，最小病毒它不是蛋白质分子，而只是RNA分子组成。有意思的是，上世纪伟大的量子物理学薛定谔，他也写过一本影响后世关于“生命是什么？”经典著作，并且他还设计了与研究生命科学研究无关，但是更为有名，仅仅与理解量子纠缠有关之猫实验。 在最近翻译另外还有一本生命科学角度谈，“生命是什么”一书（以色列]埃迪·普罗斯）中，读它后认为、生命定义似乎可暂时定为（归纳）：生命是各种生物大分子以复杂，有序，动态，有目的，有多样性，有手性特征，并且必须有“能量循环”插入存在方式。特别有意思的是只有高等生物，例如，人之能量摄入来自物质，精神及信息三个方面。 对于上面生命定义中，七个重要特征之诠释时，可对于生命本质这一问题重新思考，激发人对于生命本质的重新思考，毕竟生命与非生命之间区别，并没有所谓单独“死分子”或者“活分子”存在，而需要用上面“生命定义”之特征来规范。 因此，对于生命认识取决综合现代生物化学，物理，科学哲学及现代分子生物学等方面成果，综合现代科学家，哲学家们研究最新观点，来探讨：“生命是什么”，“生命是如何产生”，以及“如何创造生命”这三个核心的问题等。另外，书中提到，在斯图尔特·考夫曼在其发人深省的著作《科学新领域的探索》书中，他直言不讳指出： “在过去的30年里，分子生物学尽管取得了出色的成果，但是生命本身的核心问题依然隐藏在我们的视野之外。我们知道大量的分子机制、代谢路径、膜的生物合成方法，我们还了解了许多过程和部件。但是，我们依然不清楚是什么给予了细胞生命。问题的核心依然是一个谜”。这可能是我们只见树木，不见森林有关。那么究竟问题何在？答案一言以蔽之就是“复杂性”，就是“生命的有序复杂性”。 它本身有特殊定义，在“大数据”一书书评泡泡中曾经引用数学家 Horgan 研究，他统计过，“复杂性的定义至少有 45 种，目前则不下 50 种。有报道，复杂性“总体可以分为客观复杂度和认知复杂度大类，前者是物理或本体意义的复杂，例如熵复杂度，无法通过认知进行化简，后者指随着人类认知提升、掌握规律后就能变得简单的复杂。在此基础上，复杂度则可以划分为信息类、熵类、描述长度类、深度类、复杂性类、多样性类、维数类、综合类（隐喻）等几大类”。此定义本身就很复杂。因此，对于上生命复杂性深入了解，可以帮助从量化角度来定义生命吗？了解生命本质的道路，真理，生命之智慧与奥秘源泉何在？ 而本书作者又另外从AI角度，继续观察生命复杂性，并且侧重信息角度描述所谓“生命3.0 ”，它似乎像从全新角度，再次重新认识生命是什么。 话又说回来，在上第二本“生命是什么”书中提出，发现DNA之20年后，著名科学哲学家卡尔·波普尔（Karl Popper）表达了对玻尔—薛定谔的生命观的支持。“认为生命可以被定义为一个能够实现以下功能的系统：（1）自我组织，（2）自我复制，（3）通过变异而进化，（4）新陈代谢，（5）集中密闭。生命简单来说就是一种有序的不稳定状态”，或者说它自然也能量有关。只是本书作者持何特殊对于生命之看法，这是本书重点需要关注地方，此处不透剧情。 不过，本书作者认识到其复杂性，并纠结在“生命定义”上，但是将其整本书内容建立或者归结在其最根本假设上，而是像换了一种风格，即带有科技含量迥异，或者像是间接新说法： “我们可以根据生命设计自身的能力，把生命的发展分成三个大跨度阶段： A. “生命1.0（生物阶段）：靠进化获得硬件和软件；B. 生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的；C. 生命3.0（科技阶段）：自己设计硬件和软件。” 它似乎类似老一套打呵呵说法, 物质基础决定上层建筑，上层建筑反馈与物质基础知识。只是几番折腾后，出现新的突变，而进入了生命之3.0版本。 美国卫生研究院院长弗兰西斯.科林曾经在他的“生命语言”一书也提到：“科学的尽头在哲学，哲学的尽头在信仰”。像流感一样，现代人容易患选择性盲视。而本书多位推荐本书导言作者之一，认为上提法是一个错误。难道简单说，它不过更像是智者见智？读这位了不起作者之书，难道读者同样不可不问：它是些科学内容本身，还是科学幻想作品，或者都不是，只像是二者之混合，显然可以是仁者见仁？ 当然作者除了有精彩故事外，新款内容当然有介绍人工智能中，深度学习，神经网络等一些基本深度概念，还有哲学概念的深度分析，例如，人之自由意志之高谈阔论，及未来物理学或者生命科学未来宏观之展望。他当然还介绍了人类面对人工智能的三大具有危险性挑战，例如，网络战争等。历史上，笛卡儿哲学的一个核心观点是，物质不能思考。显然，有必要注意看作者在书中如何看待AI是如何有新思考的？ 本书也涉及历时历代对于生命意义的关心。它还涉及到什么是生命及其意义，谁对于生命负责？ 生命能够继续，从生物学角度看，它有一套维持遗传系统稳定平衡体系，例如人是二倍体，小麦有六倍体。如果说，经过几个世代，基因突变一般都是向维持生命发展。同样逻辑，生命3.0 突变是如何发展？显然本书作者关心只是生命软物质或者软件的进化。 另外，从社会历史学角度，说生命的意义在于信望爱，及相应不同背景下的诠释等。当然，人对于未来不同看法，它只能是与人之间“三观”，而不是各种形式“大数据”有联系。从作者AI角度来说 ，生命有意义吗？作者在本书中对于生命意义有什么看法，它是否可以成为现代哲学系童鞋毕业论文题目？供参考。 简言之，它是一本非常有意思，可读性高，非常新颖之科学，文学，哲学三结合精品之作。并且上面提到五位讨论生命科学大人物之书，似乎都无法与本书作品有任何可比性。因为读他的书，脑洞不仅可大开，而且好像还可能会像掉进黑洞出不来。毫不夸张说，这位数学，物理学大师是真正前无古人，后无来者之大学问家。因为他还预测了十亿年后，人类之状况。一般人敢想吗？ 对于人类社会之未来，在人工智能统治下，尽管没有国家，但是他画了一个大圈，有区域：知识，艺术，享乐，敬拜神，野外，传统生活，游戏，虚拟，及监狱之九大区域。这些区域都是由人工智能采用：通用和本地规则两个层次来管理。同时在面对处理中心区，内部危险，外部威胁，目标稳定性之四大方面上，搞好平衡。人类成为机器后裔。因此，不难猜想在这样人工智能3.0社会中，人生还有意义有意义吗？因为作者只认为“我们的宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了我们的宇宙”。玄乎吗？ 另外，作者认为人工智能的最棘手的争议，就是：“目标”这个词。例如，“我们是否应赋予人工智能目标？如果是，应该赋予它什么样的目标？我们如何赋予它目标？如果人工智能变得越来越聪明，我们如何保证它继续遵守这些目标？我们能不能改变比人类还聪明的人工智能的目标？我们的终极目标是什么”？作者有四个方面讨论。 其中，最后一章是关于“有史以来最棘手的哲学问题之一：意识”。作者认为，“未来的某些人工智能系统可能也是有意识的，即使它们只是以软件的形式存在，并未连接到任何传感器或机器人身体上”。 现实是、至去年加州大学某华人教授在世界上真正意义上实现了人脑对计算机连接。包括用AI分析fMRI,EEG, MEG,ECoG, ePhys 等技术分析大脑，并且可以提供视角与语言方面诠释结果。 简言之，作者认为，“理论和技术的进步最终会不会将意识也坚定地带入科学的疆域？我们不知道答案，就像伽利略不知道人类是否能理解光线和物质一样。只有一件事情是肯定的，那就是：如果我们不去尝试，那就一定不会成功！这就是我和世界各地许多科学家努力构建和检验意识理论的原因”。其实其中估计用无线方法连接也不会只是一个梦。有关结果更好只是迟早的事。......。 现在的人工智能，已经可以将人脑思想的内容，及人的喜，怒哀，乐用图像表现出来，并且还基本正确。作者也认定，“只要一个理论能预测你大脑中的哪些过程是有意识的，那它就是一个预测物理系统是否有意识（这是“相当难的问题”）”。“理论上的进步可以做更多预测”。并且“理论和技术的进步最终会不会将意识也坚定地带入科学的疆域？我们不知道答案，就像伽利略不知道人类是否能理解光线和物质一样。只有一件事情是肯定的，那就是：如果我们不去尝试，那就一定不会成功！这就是我和世界各地许多科学家努力构建和检验意识理论的原因”。 尽管在统计上，也许还同样会现在面对，“相关性不一定代表因果关系”同样类似的挑战，但是其进步程度也难猜想。意识如果完全可以用量子物理来解释，那已经就会是一个新世界。其中，作者认为意识就是信息。在人工智能世界中，“意识体验空间更大”。因为作者认为其信号比神经元快数百万倍。 当然作者有意思的是，在他描写人工智能之乌托邦社会中，居然还有守门人。因此不禁联想到，读过去历史上曾经被认为是，马克思主义三个来源和三个组成部分之中，科学社会主义的一本经典著作中，曾经描述过，未来共产主义乌托邦居然还有修锁铜匠职业故事，如果认真细想其中，此处同样会有博弈吗？所以，如同投资大师罗杰斯书中建议：“要多读书，但不可全信”。呵呵，牛人高见！ 简言之，作者多才多艺博学、书信息量大，极有思想深度。估计只有读其下本，或者事先读其世界著名”平行宇宙”（英文书名 其实是：Mathematical Universe)书中数学理念后，才有可能理解其十亿年后3.0之宏伟设想。因此也大胆猜想，凡有好奇心，或者平常心之读者，在喝口茶，定下心，脚踏实地后，都不可能不存下念想：它是否会太玄乎？不能不认为它是近年旷世奇才之奇书，不服都不行。 在AI之下言AI，阳光之下有新鲜事吗？

• 

  志波

  推荐

  如果你是一位曾经痴迷过《三体》的读者，不妨来读读这本书，它讨论的十亿年以后我们这个宇宙的样子，包含人类的样子、机器人的样子，“我们的宇宙”的样子，以及人与机器人、人与“外星人”、人与“我们的宇宙”的关系。本书构造的“星辰大海”不仅仅止于那微不足道的科幻特色，穿插着当今世界最前沿的AI技术、物理学理论和猜想，融合了生物学、计算机科学、材料科学、能源工程、法律、伦理等多种学科的前沿知识，勾勒出了一幅未来的场景。作者有理有据、饱含深情，阐述了浩瀚无垠的时空中生命是有意义的论点。 作者将生命演化的阶段分成了三个阶段，根据生命对自身“硬件”和“软件”的控制和复制能力进行区分。生命的原始形态，既没有自我意识，也没有自我修复和物理复制的能力，称为生命1.0；具备了自我意识，发展出来语言、文字，可以完成思想意思的整理、传承，也就是我们人类当下的阶段，称为生命2.0；而未来随着人工智能突破“意识”的屏障，具备了自我意识，同时可以随意复制生命的“软硬件”的时候，人类就步入了3.0的阶段，而那个时候，时间和空间将不再有意义。人类因为突破极限才变得有意义，奥运会是为了挑战人类的身体极限而存在，诺贝尔奖因为挑战科学智慧的极限而存在，奥斯卡奖因为挑战人文艺术的极限而存在。生命3.0将延续人类挑战极限的“基因”，将创造新的“意义”：宇宙的边界在哪里？怎样扭转“长夜来临”的宿命？ 如果AI具备了意识，那人类将如何与它们相处？生物的本能就是攫取物资和资源，在这场围绕本能的进化中，人类与AI势必会展开竞争。在“奇点”即将来临的前夜，设定好未来与AI相处的范式是迫在眉睫的课题，如何在它们具有意识之后，让它们产生伦理道德的意识，如何保证一个和平相处的“新世界”？作者及众多各个领域的科学家们成立了一个组织，探讨人工智能的安全，得到了包括伊隆•马斯克在内的企业家和慈善组织的大力支持，全球范围内众多科研小组积极参与研究，为人类的明天带来了一片乐观的海洋！

• 

  蔡志峰

  推荐

  去年听万老师精英日课，重点介绍了《生命3.0》这本书，最精彩的一段话是:如果生命3.0的人工智能出现，这也许是人类最后一个伟大的发明了，再这之后，发明创造可能就用不着我们了。泰格马克在一开始讲的欧米茄团队的故事就是如此，他们制造超级人工智能最后创造了一个神，然后这个神改写了人类历史，改写了宇宙历史。 以下是这本书中提到的重要概念，有助于我们读懂这本书: 生命：从信息的角度说，生命就是可以自我复制的信息处理系统。其中的“信息”包括个体硬件复制的蓝图，以及个体行为的模式。一个生命体包括“硬件”和“软件”：硬件就是它的身体，软件就是信息。 智能：智能就是完成一个复杂目的的能力。 意识：准确地说，我们所有的感情，乃至于不仅仅是“感情”，包括所有的“感觉”，都是对经历的各种事物的，“体验”。意识，就是主观体验。 熵：熵是一个物理概念，你可以认为它描写的是一个体系的“混乱”程度。一堆东西老老实实地聚集在一起，是比较有序的状态，叫做“低熵”。等东西慢慢散落到各处，就是更混乱的状态，也就是“熵增加了”。整齐有序就是低熵，杂乱无章就是高熵。 耗散驱动的适应（dissipation-driven adaptation）：如果有一群原子是被某个外部能源驱动的，那么这些原子就会逐渐组织起来，形成某种结构 — 而这个结构能够最大限度地吸收和消耗能量。 感质：（复数形式是 qualia，单数形式是 quale），就是意识的最基本单位。它的四个特征是：内在的、私人的、不可言传的、可以直接意会的。 AGI（artificial general intelligence）：“达到人的智能水平”，是说 AI 具备了*通用*的智能。 整体信息论（Integrated Information Theory, IIT）：如果你能把一个系统分成几个模块，而几个模块之间并不怎么交流，那这个系统肯定就是没有意识的。一个有意识的系统必定是一个不可分割的整体。 未来人工智能时代有着无限可能性，我身为这个行业的从业人员在这个历史进程中显得越来越无知，人工智能对于商业世界而言肯定是颠覆式的创新，但自己如何在这波浪潮里有所收获还需要仔细思量。现在每个月至少读一本人工智能的书籍。

• 

  飞羽

  推荐

  了解生命3.0，认识人工智能和宇宙。 最好的关于人工智能的书，对自动驾驶、机器人法官、自动化武器等人工智能的方方面面均有涉及，对于人类的未来和宇宙的未来也做了很多大胆的科学推测，对谈及的问题均有发人深省的独到见解，适合于所有对人工智能、对未来感兴趣的人。

• 

  Jammie CHANG

  推荐

  读这本书集人文科学+物理科学+迷幻未来+远古过往的起因，纯粹是兴趣。 一直在找一本能将我从小到大的一些躲在内心隐秘处的问题给解决掉。 譬如，未来世界会不会出现，我能随意将身上30斤脂肪提取出来捐给非洲营养不良的小朋友们，不用动手术，不用疼那种？ 譬如，未来世界会不会出现，我能随意地全身放血，又重新注血，能活到200岁或更久？我知道Peter Thiel已经开始在做这种测试了，可人家不愁钱，一次几千万美金叫我付，也是难为极了。 除了钱太多有些为难，我真觉得以上这两种情形不是在发梦，指不定在我的有生之年可以实现。 生命1.0在它的有生之年都无法重新设计自己的硬件和软件：二者皆由它的DNA决定，只有进化才能带来改变，而进化则需要许多世代才会发生。如细菌，动植物。相比之下，生命2.0则能够重新设计自身软件的一大部分：人类可以学习复杂的新技能，例如语言、运动和职业技能，并且能够从根本上更新自己的世界观和目标。今天的人类其实应该算是生命2.1：虽说我们可以对自身的硬件实施一些微小的升级，比如种植假牙、植入人工膝关节和心脏起搏器。不过，我们却没法做到“长高10倍”或“把大脑容量扩大1000倍”这种戏剧化的事情。生命3.0现在在地球上尚不存在，它不仅能最大限度地重新设计自己的软件，还能重新设计自己的硬件，而不用等待许多世代的缓慢进化。 尽管我们今天拥有强大的科技能力，但从根本上来说，我们所知的所有生命形式都依然受到生物“硬件”的局限。没有人能活100万年，没有人能记住Wikipedia的所有词条，理解所有已知的科学知识，也没有人能在不依靠航天器的情况下进行星际旅行。没有人能将很大程度上了无生机的宇宙转变成一个能繁荣亿万年的多样化的生态圈，从而让我们的宇宙最终发挥出所有潜能，并彻底苏醒过来。所有这些，都需要生命经历一次最终的“升级”，升级成不仅能设计自身软件，还能设计自身硬件的“生命3.0”。换句话说，生命3.0是自己命运的主人，最终能完全脱离进化的束缚。 超级智能是会带来自由主义或平等主义的乌托邦，成为能够控制整个人类社会的善意独裁者，或是增进人类幸福感的守护神，还是完全被人类所控制驾驭的公仆？超级智能会成为毁灭人类的征服者，还是会成为让我们引以为豪的新物种后裔？或许超级智能还未降临，人类就已经毁灭于核战争或环境危机等其他灾难。如果你关心这个星球未来的命运、人类的困境和希望、我们子孙世世代代的福祉，那么就应该认真读读这本书。 作者说，友好的人工智能的基石就是：自我迭代的人工智能在它日益聪明的过程中依然保持它的终极目标——对人类友好。但我认为，人类有好坏之分吧，坏人们会对人类友好吗？坏人们造的机器呢？有守卫地球的人存在，就势必有反动派存在，如果刚好掌控之钥落在那些坏人手上，人类和地球乃至银河系是否将重新洗牌呢？ 这个话题太遥远了，我想讲讲另一个话题。 作者说，他了解到有些人认为一成不变的因果关系贬低了人的地位，使人类的思维过程毫无意义，感觉自己“只是机器而已”。我觉得这种消极的看法是荒谬和不必要的。首先，我认为人类大脑是我们已知的宇宙中最令人叹为观止、最精巧复杂的物理实体，所以，说人脑“只是机器而已”是不恰当的。//我们看看工厂流水线上的防呆位，是不是对人脑复杂运行体系的侮辱？我看到很多工位上的工人，如果换个方向打螺丝他们会表达巨大不满，改变让他们“效率”变慢并拿不到高时薪。而产线管理者不喜欢接工艺流程过于复杂的订单，因为纠错机制会让整个流程乱套遭来多方面结果打击。//这个例子很明显说明，有些人类是宁要“只做一台机器而已”，可以说这是人类的其中一种选择吗？总是那么积极向上也是一种选择对吧，我们来说说达观的两种形态，第一种是无条件的乐观，比如，我们乐观地相信太阳明早一定还会出来。第二种是警觉的乐观，也就是说，相信只要计划周全、坚持不懈，就一定会有好的结果。我对未来的感觉，正是这第二种乐观。这是作者的想法，也是我的想法。 如果我们相信，人工智能一定能照顾好我们的基本需求和欲望，我们会不会多多少少觉得这样的生活就像动物园里的动物一样，缺乏意义和目标？ 最后的发问，你希望在人工智能时代身为一个人类的意义是什么？请和你周围的人讨论这些问题。 我希望的当然是长寿了。活到100/200岁，甚至更久。财富累积够了之后去各地做义工。你的呢？ Jammie写于2019.11.21.

• 

  Eric

  推荐

  作者泰格马克，一位顶尖的物理学家，平行宇宙理论研究权威。作为麻省理工学院物理系终身教授，《科学》杂志“2003年度突破奖”第一名获得者。他还是未来生命研究所（Future of Life Institute）创始人，致力于用科技来改善人类的未来。 在2018年7月18日召开的斯德哥尔摩IJCAI上，2000多名AI学者以及科学家共同在会上签署《致命性自主武器宣言》，誓言绝不将他们的技能用于开发自主杀人武器。 这次行动就是由迈克斯·泰格马克发起，包含Deepmind、欧洲人工智能协会等来自160家AI相关组织和企业，以及丹尼斯·哈萨比斯、斯图尔特·罗素、埃隆·马斯克等来自60个国家的2400位企业家、科学家、研究者共同签署。 在书中泰格马克对“生命”的定义：一个能保持自身复杂性，并进行复制的系统。生命有硬件也有软件，硬件是生命有形的部分，用来收集信息；软件是生命无形的部分，用来处理信息。从地球上生命体的发展过程来看，生命可以划分为三个阶段： 生命1.0：生命体靠进化获得硬件和软件，如40亿年前，最早出现的单细胞、细菌等生物。 生命2.0：生命体靠进化获得硬件，但是它能够重新设计自己的软件，可以通过学习获得很多复杂的新技能。人类就是生命2.0的代表。我们的身体通过基因来决定，而个人的认知水平，则是通过后天来学习和塑造。 生命3.0：系统能自己设计软件和硬件，这便是人工智能。人工智能诞生于人类之手，但是可以自我升级、迭代、演化，只要它在逻辑上踏上了第一步的台阶，后面的事情，就不是人类可以控制和想象的，那是以算法的速度在演化。也许一夜之间，甚至几个小时，就能完成人类一辈子也完不成的创造。 所以，人工智能什么时候实现不重要，重要的是，它一旦实现，它很可能就是人类的最后一个发明。 我们害怕人工智能强大的能力和不可预知的发展方向。一个超级智能会非常善于完成它的目标，如果它的目标与“我们”的目标不一致，那“我们”就有麻烦了。而人类不同的利益主体又复杂了人类的诉求。“我们”？代表何种主体利益？ 纵观人类历史，为了让技术造福人类，我们一直依赖的是试错的方法，从错误中学习。我们相信“失败是成功之母”：火开始惹祸了，我们发明了灭火器；汽车开始伤人命了，我们开始使用安全带…….但是面对更加强大的技术，例如核武器，生物合成技术，以至超级人工智能，我们不能再从错误中学习。因为这学习代价太大，人类付不起。 人工智能的飞速发展让我们喜忧参半，人类究竟是打开了一扇新的智慧之门还是一个潘多拉魔盒？我们不得而知。如何让人工智能造福人类并一直友好相处不仅是一个技术问题，更是一个伦理和哲学问题，诸如：人类为什么要活着？什么是真善美？以什么手段去获取这些最高目标？如果人类自己都不清楚人类的终极目标，我们又如何去设定人工智能的目标呢？ 个人觉得这是非常不错的一本书。书中阐明了涉及人工智能的一些基本概念和重要争议，并从宇宙学、价值观以及意识主观等各方面预测了人工智能革命的前景与风险，同时书中不少虚拟的故事情节像极了一个又一个脑洞大开的科幻小说，也算是意外的惊喜吧。

• 

  化学邓老师

  推荐

  从物理学家的角度对宇宙进化进行畅想。人类正推动着智能进化的史诗进程：以人工智能算力6年提升30万倍的超级摩尔定律发展，数字生命必然实现智能飞越，人机融合将孕育一个万物智能的新宇宙。

• 

  张日（晚11点睡觉）

  推荐

  这本书是由万维钢老师作的序，他也在他得到的专栏《万维钢精英日课》上解读过这本书。 其中这本书作者所提出的熵增概念让我映像深刻。 首先提出了一个问题：宇宙有目标吗？ 在我们的映像中好似只有生命才有目标，非生命的东西，一块石头，一架机器、一个星球，乃至整个宇宙，都只是在无尽的空间中孤独地存在着，只接受物理定律的支配，怎么会有目标呢？ 作者通过物理上光线折射的例子，证明了光线是有它的目标的。而且是遵从着一个规律，就是高中物理课堂上所学的“费马原理”，这条物理定律简单点来说就是“为了时间最短”可见光是有它的目的的，至于光为什么会有这样的目的估计只有上帝知道，科学家只是对这个定律做了哥总结。 同样宇宙也是有它的目的的，宇宙的目的是什么呢？宇宙的首要目标来自热力学第二定律，那就是要把“熵”最大化。 熵是一个物理概念，你可以认为它描写的是一个体系的“混乱”程度。一堆东西老老实实地聚集在一起，是比较有序的状态，叫做“低熵”。等东西慢慢散落到各处，就是更混乱的状态，也就是“熵增加了”。 热力学第二定律是物理学家心目中无比坚定的一个信仰，连引力公式都可以改写，而热力学第二定律从未被违反。 整个宇宙目标就是越来越无序、越来越混乱。最后整个宇宙归于“热寂”。什么叫热寂？就是万事万物都扩散成一种无聊而又完美的均质状态。所有的星星都会熄灭，所有的秩序都会变成混乱，所有的地方温度都一样，再也没有什么值得流动的了，整个宇宙寂静了。所以，可以说宇宙的“目标”，就是达到热寂。 听到到“热寂”这个概念，心情郁闷了好长一段时间。哦。原来人类的一切折腾、一切奋斗，都没有终极的意义。最后还是一场空啊。但是在现实中我们还会看到和熵增相反的现象，那就是越来越有序，越来越结构化，熵越来越低。这是啥？这就是生命啊。一朵花、一只鸟，都是在宇宙走向无序的过程中在局部突然出现的一个相反的过程。那这个过程会不会抵消热寂呢？ 答案是不仅不会，而且还会加快无序。举个例子说，你拿吸尘器吸地板，你家里的灰尘都进了吸尘器，是更有序了，但是你消耗了电能。发电过程中制造的无序比你吸尘减少的无序多得多。人类一切活动，无论怎么制造有序，本质上都是在加快无序。 其实早在1944年，物理学家薛定谔在《生命是什么》这本书里就把这个问题说明白了。生命是什么？生命系统的一个标志就是，通过增加周围环境的熵，来降低自己的熵。宇宙的目标就是走向热寂。但是宇宙嫌达到这个目标太慢了，于是就创造出了生命这个东西，让它帮助自己加快走向无序的进程。虽然在这个过程中，生命自己好像变得更有序了。但是，生命的终极目标是帮助宇宙尽快地把一切能量耗掉，把一切结构拆散，让整个宇宙加快奔向热寂。 那么作为生命体，我们应该有什么样的目标呢？宇宙给我们的使命到底是什么？我们到底应该做什么，才最心安理得呢？ 在原始阶段生命的目标是繁殖 比如现在是古代，你走在一个原始森林里，周围都是珍稀的树木，而你因为感到有点饿了，就砍了树、烧火烤了一只野鸡吃。那棵树好不容易才长到那么高，那只野鸡好不容易长那么美丽，被你一顿饭就给变成了污染排放。 环保主义者可能会说你怎么忍心做这种事情呢！你得保护环境啊！但是你知道的更多，你说宇宙本来就希望我破坏环境。(没毛病) 你感到非常得意，就去问一位禅师，说我这么做没错吧？禅师表示，呵呵。 禅师说，你是只知其一不知其二啊。你自己一个人制造混乱，你再能吃又能吃几只野鸡？宇宙这么大还在乎你这点小混乱吗？要玩就得玩大的！ 你说，那怎么玩才算大呢？ 禅师说，答案是生孩子。一个你的力量太小了。如果你多生孩子，有很多子孙后代，让人类的人口越来越多，人类的技术越来越厉害，将来征服星辰大海，在星系范围内制造混乱，那才是真的完成了宇宙的使命啊。 禅师说的，就是生命的一个本质功能：复制。也可以叫繁殖。这是一个具有正反馈特点的功能 —— 越是愿意繁殖的生命，他留下的后代就越多，而他的后代也会愿意繁殖 —— 最后结果就是所有生命都把繁殖当成第一要务。 繁殖这个目的，被演化以编码的形式写在了每个生命的基因之中。 听了禅师的道理，你不但不再故意破坏环境，还主动去保护环境，因为你希望你的后代能一直繁衍生息下去。 后来你老了，儿孙满堂。有一天仰望星空的时候，又想起当初那个制造小混乱的你，不禁笑了。你心中默念，宇宙啊宇宙，虽然我这辈子主要做了繁殖的事儿，可是我没有辜负你的第一目的，我的子孙后代正在制造更多的混乱！ 目前为止，我们三观稳定，没问题。 但是现如今人类掌握的科技越来越强大，制造混乱也不再拼人口数量了，现在拼的是高科技，新技术，以及人类的智慧。马云自己没有那么多老婆，也没有生那么多孩子，但是他为制造混乱所作出的贡献可是数一数二的，自从电商的兴起快递包裹每天产生的垃圾，比之前一年的都多。但虽然制造了这么多的垃圾，但是他是每个人都想成为的人，他也因此拥有的更多的财富，很明显马云是这个世界的宠儿。 有人说战争也可以制造混乱呀！为什么这个世界不鼓励战争呢？因为战争所制造的混乱是不可持续的。战争的本质是消灭人类个体，若是人类生命都消灭完了，人类还能为熵增提供加速了吗？人类从古至今战争几乎就没停过，但这所有的这些战争加起来所制造的混乱能比的上最近200年世界经济高速发展所带来的混乱吗？尤其是远古时代的冷兵器战争，几乎对熵增的帮助是微乎其微的。近年来现代化经济科技发展带来的环境污染，能源消耗都是直接带来熵增的呀？而且马斯克等一些人还计划人类移民其他星球，如果这样由人来所带来的加速熵增就不单单是地球了，而是太阳系，银河系，甚至是宇宙。若是前期人类在自个地球上因为战争灭了种，还由接下来的事情吗？所以进一步证明了战争和宇宙目的的大道是向背的，宇宙是不鼓励战争这样的事情发生的。 从本质上来说宇宙鼓励做什么，我们就去做什么，这样才能越来越好，这也是很多名人口中的顺势而为。顺之则昌，逆之则忘，万事万物都顺应这个规律。 简单的举个例子，很多人在青春期都会迷茫，迷茫自己因该做一个什么样的人，自己以后因该做什么样的事业。这样的问题我们可不可以参考宇宙的第一目标“熵增”呢？当然可以。 我们从反向来分析作为一个人，怎样才能让熵的增速最小化呢？一辈子什么事都不做，坐在一个地方不动，像乌龟一样。再彻底一点——直接死掉，不能说阻止了熵的增加，最起码是降到了最低。 但对于死，作为正常人是有本能的恐惧的。这说明什么？说明宇宙的规则不愿意让你死。这个规则也不愿意让你待在一个地方不动，有句话顺应了这个道理“生命在于运动”。 这样一想你就明白因该做一个怎样的人了。 1.你应该做一个热爱运动的人，运动不仅增加消耗卡路里（增加熵增），而且还能增加你熵增的时间（寿命），所以你应该热爱运动。 你因该做一个干大事的人，有影响力的人。也许有些有情怀的人会说，我就喜欢安安静静的做个普通人。这样当然也可以，你可以自我陶醉自我满足，但现实是很残酷的，是这个世界不会宠幸这样的人，或者可能会淘汰这样的人。之前我在读《三国演义》的时候就明白了这个道理，里面有个角色叫公孙瓒，这也是一位英雄，但是到了后期他变的保守了，无志再争取天下，为了守好自己的“一亩三分地”修城墙，挖深城池，准备过安稳日子。最后被袁绍攻破城池，先杀掉自己的妻子，女儿，自己引火自焚了。安稳并不代表没有危险，而是在酝酿更大的危险。所以“生命在于折腾”这也是一句真理，而且这句真理是顺应宇宙的目的的，自然错不了。 举了这么两个例子，当然其他方面顺应这这样的思路也能为你给出一个明确而正确的答案。 因为“熵增”是宇宙最底层的逻辑，不可违背。

• 

  乔乔

  推荐

  未来与科幻，玄奥与美妙，是永恒的探索主题。正如，我在我研究生毕业论文中描述，未来我们会进入一个智慧的时代，万物交互，互联互联互通，传感器遍布城市与建筑空间中，智能智慧人成为我们生活与工作的一部分…就像作者会出现数字生命的智能时空，人机融合将孕育一个万物智能的新世界新宇宙。 作者讲将人工智能与人类未来进化放在一起，越来越成为理解“新物种”的独特视角…在书中将生命从分为动植物，人类，人工智能这三个阶段，判定的标准是能不能自主的决定自己的硬件和软件。按照这个标准，目前的AI无法自主的决定自己能够在什么样的机器上运行，只能改变模型的参数，这只能算自主的修改其软件，而且只是软件中顶层的一小部分。真正要做到生命3.0，需要的是脑机接口和人机融合，但书中却没有提到这个技术，这不应该简单的归结于作者知识上的欠缺，而应该考虑到是这本书的宏大语境使得作者并没有局限在具体的技术上，而是通篇从理论的可能性上在思考问题。 这本书的重要之处在于，第一，它不仅简单地讲述了我们通常理解的人工智能的一些领域，还把它上升到了哲学和人类的高度：在未来人工智能迅猛发展的状态下，人类应该去做什么样的选择？作者泰格马克是一位宇宙物理学家，《生命3.0》里用非常严谨的逻辑推理来表明人工智能的发展对于人类未来的影响。所以，这本书在最近这几年，应该是独一无二的一部作品。 第二，现在我们聊人工智能，缺乏一个共同的话语体系。《生命3.0》就给了这样一个框架，把生命从1.0、2.0、3.0进行了一个分类。给我印象最深的是书里描述了12种人工智能和人类的未来关系，基本上把人工智能和人之间关系的逻辑理清楚了。这是这本书特别有价值的地方。你看完这本书，跟任何一个专家、媒体或者朋友在聊人工智能的时候，你是可以有一个框架性的东西来跟大家建立共识的。 我们现在在探讨人工智能，很多时候是从技术上去探讨技术，无论是神经网络也好，深度学习也好。但是，这本书给我们展示了一个更宏大的未来。其实，我们在发展人工智能技术的过程当中，需要去考虑它们对我们人类会有什么样的影响，会让我们建立什么规则，应该去思考哪些方向。

• 

  宇翔'

  推荐

  人工智能不只是数学，物理和生物学的范畴，自我进化而不是简单复制是智能和程序的区别，而没有安全控制的人工智能一定会把创造它的人类推向毁灭，这是一定的，绝不是危言耸听的猜测。