意识若脱离身体，那还能是“我”么？技术发展倘若存在其不可逆的惯性，该由谁来为技术的边界负责呢？要是我们赋予AI“造物主”的地位，人类会不会体会到一种普罗米修斯式的羞惭呢？这乃是北京大学新闻与传播学院胡泳教授于虎嗅F&M创新节现场发出的警醒。与之形成鲜明对照对比的，是另外三位嘉宾对于 AI 所怀抱的宏大愿景，百川智能创始人王小川视 AI 为人与人类文明的紧密相连如一体且不可分割部分，提出未来人类历史必然或将注定会同 AI 交织相融并共同书写这样的判断，有如此判定以及论断；脑虎科技创始人陶虎坚守秉持大脑便是作为人的最为核心关键所在且关键要点，尝试借助用技术旨在全力增强人的主体特性以及属性，使得让人类在智能领域的竞争角逐当中不会被远远丢下甩在身后进而掉队；涌源合生联合创始人孟凡康借助以合成生物学这一领域清晰明朗地展示呈现出生命在未来所拥有的无比广阔宏大空间，当生命能够可以被重新编写，人类究竟到底是不是仍然依旧是自然所定义确定明确为的那个的“那个人类”呢 ！于虎嗅 F&M 创新节的特定现场，在那张名为《我是谁，我还能是谁》的圆桌上，在主持人纪中展不断地追问之下，四位现场的嘉宾，到底把讨论推进到了何种的深度呢？以下便是整场圆桌完整的内容实录——。

我，如何被重塑？

纪中展表示，刚才三位讲者向我们呈现了三个方向的生命突破，其中，AI医疗使生命的边界得到了延展，脑机接口让大脑和心智的边界得以延展，合成生物学又令生命创造的边界实现了延展。王小川所讲的是为人类打造医生，为生命构建模型；陶虎讲述的是重塑生命，突破人类生存与认知的边界。孟老师谈到的是重写世界，设计大脑。这使得我听得愈发兴奋，同时也愈发迷糊起来，在被他们三位进行重塑、重构、设计以后，我究竟还会是谁呢？我依旧是原来的自己吗？我要怎样才能够重新成为我呢？

我打算先向王小川询问一番，你所阐述的医疗AI究竟是会使得人拥有更为 freely 的状态，又或者是会被更为 systematically 的方式去进行定义呢？你的那个产品技术会带领人去往何处方向呀？你想为人类塑造出医师来，给生命构建起模型，那你的价值观层面以及敬畏的方面到底是什么样的呢？

百川智能创始人王小川，图源：虎嗅F&M创新节现场拍摄

王小川表示，首先，相较于后面两位，我的价值观或许是最为保守的，起码没有对人本身进行重写。然而即便如此，我依旧深感困惑，因为在2023年我投身于AI医疗事项之后，便察觉到一个问题，也就意味着AI会迈向社会，进而成为人类的一部分，我们终将与科技相互融合在一起，所以越深入下去，人跟机器的边界问题，也就是“我是谁”这个问题可能会愈发严峻。我甚至会觉得往后人类的历史所剩无几了，原因在于人类要和AI一同去创造历史 。

感觉“为人类造医生”算得上的、只是一个阶段性的目标，能让人类在精神以及肉体层面上、变得更加自由。当下我们是促使AI去“修理”人，往后或许是、叫AI去“修理”机器人，最终的对象说不定还会、产生很大的变化。

我在差不多 2023 年底之际，于知乎之上发了一个帖子，，结果遭到狠狠责骂，在那个帖子里我说程序员是自身的掘墓人，此乃仿照马克思讲的那句“资本家是资本主义的掘,墓人”后而言的，马克思那句话尚没有实现，然而“程序员是自己的掘墓人”这句话或许会提前达成，在如今不会编写程序之人同样能够借助 AI 帮自己编写个程序去运行 。

不要觉得，人强大到何种程度，AI永远都会是我们的仆人、工具，AI终将超越我们，我们会共同创造一种文明，这样子 。

纪中展表示，最为克制的内容已然讲完，而接下来，咱们来听听那些没那么克制的想法。陶虎老师，倘若意念能够被读取，那么我的意念是否就变成公域了呢。？

陶虎称，我往昔一直沉醉痴迷于长生不老，然而全面审视纵观历史中的长生不老术之后，发觉他们皆意图从肉体层面予以改变，可是却没有任何人想着从“人自身活下去”这个视角来做出改变，方才所提及的意识之类的或许太过“玄乎”，因此我讲述一些相对而言较为基础的事物。

人不外乎两种病，一种是大脑之外部位的病，不论骨折与否，或是肢体残缺也行，实际上均可借助医疗器械进行修复。

在这个时候，你能够发现，当身体安装骨钉、安装假手时，没有人会对你提出“不是人”这样的质疑，然而，仅仅是你在大脑里稍微做了一点手脚，人们就会开始思考“你还是不是人”。所以说，大脑在“定义人”这件事情当中占据着具有决定性的比重。

首先，人的大脑具备两个相当显著的特点，其一，人类的大脑是一款功耗比率极大的超级计算机，它较现今所有的NPU、GPU以及CPU的功耗比率都要高出许多。举例来说，倘若你今早食用了一个馒头，直至当下依旧能够展开思考，然而要是运用算力来达成同样之事，此刻便需要考量能源方面的问题了。

所以，就当下而言，“类脑”这类事物，以及各种各样的架构，它们都在对大脑展开学习，然而，我觉得它们仅仅是触及到了表面的一点东西罢了。大家始终持有担忧的态度，担心人工智能会变得强大起来，担心人工智能会使得人类遭受到取代，其背后是基于两个设定，其一，认为人的大脑不会再出现进化的情况了，对于这一点，我是不认同的。

原本大家常常讲爱因斯坦的大脑仅仅使用了30%就已然极为厉害了，而一个普通的人使用了20%就已经相当出色了，其背后是基于大脑的利用尚未被完全发掘殆尽，一旦我们借助脑机接口的途径持续去认知它，转而激发那些未曾使用过的区域的时候，虽然整体的使用是呈现在线路上的，然而因为大脑有着庞大无比的网络相互关联，它的性能却是呈指数形式的，所以我并不怎么担忧人工智能会将人类智能取而代之，更多探讨的是如何进行结合，并且我始终坚守人类智能应当占据主导地位，是由我来决定运用何种人工智能展开合作。

尽管我随时都准备向脑机接口植入东西，可我始终持有这样的想法，不管是脑机接口、亦或是别的技术来讲，人始终都处于本位层面，外界各种各样所有的东西全都势必会在最终被人用作他途之用。

脑虎科技创始人陶虎，图源：虎嗅F&M创新节现场拍摄

纪中展：你愿意把大脑接入到网络吗？

陶虎称，我必定会愿意。那为何一定会愿意呢？比如说，我是那种性子极为急躁之人，即便方才我的语速这般迅速如此之快，然而也仅仅只能表述出这么多的信息而已，但是同样的这些信息，设若运用上脑机接口状况之下，15分钟时长的内容，在两分钟之内便能够全部分享完毕 。

凭什么我们得持续去开展脑机接口方面的工作呢？并非仅仅是着眼于某一种疾病的修复状况，也不是仅仅关注某一项功能的替代情形，而是在于大脑与外部世界之间信息通道的带宽，切实需具备更为可靠、更为高效以及更为多维的特性。

纪中展：如果意识可以备份升级迁移，那保存下来的还会是你吗？

陶虎表示，这个并非一定如此，原因在于，他是工科出身的，对于纯文科或者哲学这一方面不太理解，然而，之前他们一直都在讲一个词汇叫做数字生命，它存在两个关键的词语，分别是“数字”以及“生命”，最为直接的情况就是，AI最终拥有了自身的想法，这是其中的一种方式。第二个方面则是生命的数字化，也就是将他现有的意识进行备份，然后存储在云端 。

然而，无论如何皆需脑机接口发挥其作用，因此，无论最终的技术路线是怎样番模样，将大脑与外界属于digital范畴的事物相互结合起来，这乃是至关重要的事情。

纪中展说道，我再次去询问孟老师，倘若生命能够被设计，那么我们从自然这样的存在朝着工程方面的存在转变，最令你感觉到兴奋不已的突破到底是什么呢。最需要保持警惕的越界又是怎样的呢 。

孟凡康表示他想要谈论两件事情，其一，合成生物学会不会致使一个人成为人呢，另一方面这种情况会不会导致一个人不成为人呢，他觉得合成生物学会让我们其中的一些人成为人，并且还需要添加一个重要的前提条件，那便是成为更健康的人。

我们身体的各个部位，实际上存在着诸多病症，合成生物学能够促使致使我们患癌的因素消弭不见，让我们的肠道朝着更为健康的方向发展，从而让我们拥有更为舒服舒畅的生活体验，就连阿尔茨海默症这种病症，我们也能够借助通过合成生物学方式设计研发出来的药物或者细菌疗法去加以解决 。

与此同时，我持有这样的观点，即合成生物学具备一种可能性，会致使我们变得不同于原本意义上的“人”。接下来分享若干案例，在生物学范畴内，存在着一项基础理论，那便是DNA是由4种物质，也就是ATCG构成的，蛋白质则是由20种氨基酸组成的，DNA属于生命的底层代码，而蛋白质承担着执行任务的职责。那么随之而来的问题是，为何仅能含有4种以及20种呢？能否实现突破呢？

假若你打算去设计一个由100种氨基酸所构成的事物，要是借由合成生物学将更多不同类型的氨基酸掺和入其中，那么组织空间就成了100的100次方，这相较于原来人类进化的可能性那可是多了不少 。当其能够助力我们去设计更多功能蛋白之际，生命自身将会发生翻天覆地的改变 。我们能够展开想象在极为极端的环境里存活，像是在火山口地下的超高温热泉当中生存，甚至于存在帮助我们拓展星际文明的可能性 。

当然，这些均需于现有的道德框架以及法律框架之下予以执行，存在一些毒蛋白，其具备能够杀人的特性，然而却显著超出了现有的伦理道德以及法律框架范围，这种情况明显是不可行的，而这同样也是大家需要予以警惕的要点所在。

涌源合生联合创始人孟凡康，图源：虎嗅F&M创新节现场拍摄

AI洪流下，如何定义人的存在？

纪中展提出询问，向胡泳老师说道，在听闻他们三位讲述完毕之后，想知道，若从哲学以及社会学的视角出发，人的存在该处于何种所在，人的意义究竟应怎样安放，人主导权到底该坚守于何处 ？

1. 胡泳表示，他自身并非从事哲学领域工作 。 2. 然而他察觉到，在当下这个时代 。 3. 每个人都有必要转变成为哲学家 。 4. 人工智能实际上将我们引领至一个特定场景内 。 5. 每个人都需要去思索身为一个人自身究竟意味着什么 。

首先要表明一下我并非是在制造那种对立的情况，可是但但是我听闻之后在倾听当中感觉下来觉得几位都归属于超人类主义者或者是以是后人类主义者领域范畴之内。在脑海里想象出来似好似乎大概仿佛把好多许多科技添加加到人身体上上到人身上之后，人就能够从普普通通的正常人摇身并以变成超人了那样子，我们所生产制造出来的物种有可能可以将不是人这种情况呈现出来。

可我打算阐述有两个方面的事儿，头一桩事儿是，我并不认为人之所以被称作人，完全是凭借脑子，也就是说，大伙兴许低估了身体具有的重要性。

咱们能够思索一个问题，昨天的你跟今天的你是同一个你，这单单是因脑子的缘故吗？单单是因你拥有记忆、意识、心理活动，才是同一个你吗？身体存在的意义是啥地方？例如刚才孟老师提到阿尔茨海默的事例，阿尔茨海默病人的记忆被中断了，可他的身体还在，要是这个病人是你的亲人，你能讲这个人就不是这个人了吗？

我感觉呀，我们小瞧了身体与智能之间存在的关联性，小看了身体于人的同一性里具备的重要意义，也就是说哈，当你真把意识上传之后呢，如果这个意识脱离了身体，那么咱们确实能够去探讨一个问题，即那个上传的东西究竟是何种事物，究竟还属不属于我呢？

再一方面，于我们人类而言，在进化进程当中，将诸多资源以单兵突进似的方式放置于大脑之上，致使我们的脑容量相较于其他物种更大。为何处于进化时非要把脑子进化得这般厉害呢？我们当然能够进一步提升脑的潜力，比方说借助科学使每个人都变得如同爱因斯坦那般。然而有没有思考过一个问题，我们把脑子进化得如此厉害是为了达成什么目的呢？我觉得从人类社会的发展层面来讲，把脑子变得这么好是为了能够交流、合作，为了可以八卦、可以钩心斗角啊，甚至就是为了让人类具备社会性。

然而实际上，现今，我们每一个人变得愈发原子化，我们不再合作了，每个人都生活在自身那小小的监狱当中，在这个监狱之内所有东西都能有所供应，你根本没必要迈出去，也无需与他人产生关联。所以说，即便人脑进化得极其优良，可要千万别忘了目的究竟是什么呀。

北京大学新闻与传播学院胡泳，图源：虎嗅F&M创新节现场拍摄

纪中展：我想请陶虎老师回应一下。

陶虎表示曾说，那种看到的事例以及所感觉到的进展中的情况，自己能明白胡老师的起始点，从历史的这个维度来讲，单单是处在社会进步以及科技发展的层面，信息传递、信息经由存储之后的交流，并且这个效率方面的事情，是贯穿了过去几百年，甚至几千年时间的过程的事 。

从古老的甲骨文起始，历经书信阶段，再到电话出现，直至如今这般多样的各种多媒体，信息交互的效率越高，传递的效率越高，处理的效率越高，科技便越进步，经济也越进步，甚至文化文明的进步也相对越快。然而到了现阶段，人类文明存在瓶颈之处在于人自身跟外部世界的交流速度，当下正常之人的交互速度滞后于硅基发展的速度，这便是我们会担忧人工智能会取代人的缘由。

第二个现象是，我们暂且不说把正常人变为超人，单说把病人变为正常人这事，从大脑着手就极具意义。中国有十几万个渐冻症病人，他们不能说话，也不能动，平均生存周期大概是48个月，并且这个周期很规律，每年新增加3至5万人，同时也有3至5万人死亡。另外，还有几百万人高位截瘫，几千万人偏瘫，几百万人患有失语症。脑机接口能够让他们恢复或者部分恢复交流需求、情感需求以及工作需求，对于如此庞大的病人群体而言，这是非常有意义的。

纪中展：我也想请王小川来回应一下。

王小川声称，实际上听完讲话之后，他认为这两位是前来肩负拯救人类使命的（露出笑容），鉴于当下硅基类型的发展速度极为迅猛，并且硅基已然能够如同人类一般实现相互交流、展开思考，对世界进行认知甚而至于对世界予以改造。

要是有人问我到底是大脑重要些，还是身体重要些，我的倾向可能依然偏向大脑这一方面，因为认知世界，改造世界，决策思考仍旧得依靠人脑 。

今天存在这样一个问题，即众多角色的AI已然开始有所行动了，以往开车之时是靠自己亲自驾驶，然而如今却是向导航软件告知你所要前往的地点，随后它会为你规划出一整个路线图，实际上在这背后是机器进行决策，人员负责执行，我们不知不觉地就把决策权交付给AI了，往后还会有更多的决策权都将会被交给AI。

如今好多人讲AI不行，原因是你没将它当作人看待，仅仅给了它几个不多的关键词，它当然不会有出色的表现。你不但得给它上下文，还得对它加以控制。

今时，于AI范畴之中，我们碰到了颇为巨大的机遇，然而，于此阶段之内之际的时候，同时也隐匿深藏着颇为极巨的挑战，人类开端初始逐步地徐徐做出让渡出让自己的决策权力，进而成为了仅仅只是具备单一功能的单纯的执行者。我的内心深处之中存有有着一丝悲观消极，忧心担心机器开始一步一步地渐渐变成优于人类，如果这样的一个世界里50%以上的决定抉择是由机器做出的，那么究竟到底是谁在掌控把控这个世界呢呢？AI宛如就仿若如同人类养育抚养的孩子娃子，如果人类与之并且AI能够一同一起携手并肩地向前行进走去，而并非并不是在极端情形状况之下只剩AI独自存在，那么那将会会是乃为最为美好美妙的画面景象。

人类控制AI，还是AI控制人类？

纪中展说，胡泳老师，如果从“我，重新成为我”这个命题去瞧瞧，那他们三位分享的主旨，其中一个是给生命构建模型，还有一个是重新塑造生命，再者另一个是设计生命，您觉得这里面的区别是啥呢 ？

胡泳表示，自GPT出现后，好多美国人工智能领域的人在传阅一本旧书，该书被译为中文称作《原子弹出世记》。与此同时，诺兰在拍摄《奥本海默》期间接受过记者访谈，他讲从事人工智能工作的人都曾对人工智能与原子弹诞生二者之间的相似性存有恐惧之感。

有时候，我觉得社会发展的巧合会令人颇为震惊，缘由是山姆·奥特曼的生日与奥本海默是同一天，甚至奥特曼也认为他的计划能和曼哈顿计划相媲美，于是我便去把那本书找来阅读。那本书开篇引用了奥本海默的一段话，这段话的大致意思是，科学家作出一项科学发现并非因其有用，而是因其必定会被发现。

这段话令我颇为震动，它呈现出一个道理，那就是许多时候你做了一件事之后，它并非仅止于此，恰似那个潘多拉之盒的比方，虽说我的出发点是良好的，我觉得它在这个地方应当存在一个界限，然而最终奥本海默承认道，他之所以要研制原子弹是由于原子弹在技术领域有“甜蜜点”。

所以呀，过后呢，辛顿四处去讲，开口便讲人工智能对于人类是存在风险的，那么呢，就有人反过来进行反问，质问他说，这不都是你往昔搞出来的吗？你当年那会儿在做什么呀？于是乎，他承认了，在科学领域之中有着甜蜜点的技术，身为科学家就得一定要去把它给发现出来 。

基于这样的意义层面来说，“负责任的生命设计”这样的表述自身就是一种悖论，一旦你开展了生命设计，那么就不存在所谓负责任这一情况了，这与刚才我提到的《原子弹出世记》的那个逻辑是相同的。

还有第二个方面哟，我感觉王小川对于人类控制权的那种预期呢，太过乐观啦，未来可不是会有50%的决定是由人工智能来进行决策的呀，肯定是90%以上，甚至达到99%呢。经常地，我会去打一个比方出来呢，有一个寓言它叫做阿拉伯人的帐篷呀，说的是阿拉伯人出于怜悯之心，允许骆驼将头部、脖子、前腿是逐步地伸入到帐篷当中呀，而最终呢，被完全地挤出了帐篷喽。

陶虎表示，我想要表达的其中一点是，即便在这中间我们犯下过诸多的错误，可我对于人类依旧怀有极大的信心。其次，开展“重塑生命”这一事情需要具备充足的耐心，将所有的病人转变为正常状态，甚至从正常进一步转变为超人，这将会是一个漫长的过程，我们不会让道德审判成为科技进步的阻碍力量，然而同样也绝不能让科技进步成为道德失控的托词。

孟凡康表示，我要列举出一个实际存在的案例，这个案例是关于具体来说我们在合成生物学这个特定领域当中究竟是采用何种方式去进行安全管控的 。

我们所构建的整个系统，它的首个环节，是一套完备成熟的生物安全筛选系统，当任意用户递交DNA合成序列之际，要是察觉到任何问题，比如该问题与自然界里某些有害之物相匹配，那么我们会予以拒绝。又或者你运用AI设计躲避了我们的障碍，我们发觉其与自然界毫无相似度，我们同样会拒绝，因为这常常会引发风险。

除此之外，实际上整个科学共同体都在积极施行行动以发出倡议，倡导一种更为安全且更为合理的生命设计，我认为这一点乃是一个负责任的起始，然而正如胡老师所讲的确会存在风险，在这个过程当中需要所有人都参与进去，不管是从政策制定直至技术发展都要共同参与、共同设计保障 。

王小川：一个重要的关键词是，什么叫做人类？

人类指的仅仅是这个人的肉身加上脑子吗，之前才提到科学家共同体，我觉得一个科学家可不单单是指你的肉身以及你脑子，你发表的论文还有引用数同样是你的一部分，我们极易觉得自身的肉身便是“本我”，然而当它脱离外部环境单独存在时，它也无法成为人，今天我们跟古人的差异不在于DNA肉身的不同，而是我们的知识，我们的观念有变化了，所以不应把人分解成DNA或者肉体或者脑子，要把IA当作人类文明一部分去看待，不恐惧它。

好似你碰到外星人时，不会仅仅钻研其肉体，还涵盖它们的科技，它们的沟通方式，这些共同构建起外星文明。故而在重新规定“何为人”之后，我们再跟AI作比对，将它当作人类的一种，它或许比猫狗更贴近我们，尤为是我们要去悉心照料呵护的一个对象 ，变成我们社会的一块部分 。

胡泳表示，他认为AI不太可能会是一个处于婴儿状态的存在，当下在你赋予它某种意义之时它呈现出类似婴儿的状态，然而当它像弗兰肯斯坦所创造的怪物那样具备了相对成熟的能力之后，理所当然是不再处于相当于婴儿的状态了，甚至极有可能会违背你所拥有的所有意志。

大家都清楚，人跟大猩猩之间实际上存在着相当大的差异，大猩猩跟蚂蚁之间的不同会更为巨大，然而，在超级智能的观察角度之下，你能察觉到生物之间的差距根本就不被视作差距了。

爱因斯坦这可是被大家一致公认的天才，然而从超级智能的角度来看，普通人和爱因斯坦之间，其区别并没有那么大，这是由于智能方面存在着巨大的差距，一旦超级智能全盘碾压了人类智能，那么关键问题便随之而来：人类究竟是凭借什么能够战胜所有的物种进而成为地球的霸主呢？为何这个霸主不能是AI呢？这里实际上已然进入到好莱坞式的畅想范畴了，我想要陈述的是AI不太会是那个“宝贝”。

主持人纪中展，图源：虎嗅F&M创新节现场拍摄

孟凡康称，今年有一份发表于《Natural》的报告，所涉内容是利用AI大模型设计出了一种生物分子，就自然进化来讲，该分子从最初的蛋白质历经５亿年才能进化至如今这般，然而AI仅用了一周便达成此事。

所以，我有这样一种想法，倘若AI能够强大到足以跟生物整合在一起，那么我期望它能够助力人类实现进化，从而适应环境。要是AI能够融入到整个生命设计当中，那我们便能够更好地达成人类文明的延续以及拓展，将其发展下去。

陶虎说，刚刚胡老师讲的时候，他始终在反思自身，如何才可以促使个体变作更加出色的个体呢？他期望能够强化自身的共情能力，提升自己的情商，而非当下他所从事的这种越加具备逻辑性且冰冷的技术。人之所以被称作人，因其共情是一项极为关键的特性，他渴望自身的情商能够赶上其智商 。

王小川指出，人处于一种矛盾状况里，人人都期望自身生命得以持续，然而所有人最终都会走向死亡，所有人又都需要一种延续与传承，故而更多人会选择生育子女，心甘情愿为了让自家孩子获得更佳境遇，选择捐献自身器官，甚至是甘愿赴死来助力小孩 。

于我来说，我是以这般这样一种形式去对应对待 AI 的。然而首先我必须创造出 AI，与此同时还要让人类变得愈发更加健康，如此我便获取得到了快乐，把我的创造之行为、人类的更健康状态、我的快乐感受统一起来了。

胡泳表示，愈发觉得，实际上那种具备能够“死掉”属性的生命颇佳，人究竟缘何想要永久活下去、永生是为了求取什么？肉体存有易遭折损的状况，会生病患上各种病症，会经受岁月印记出现衰老面容，这些他认为蛮不错呀，亦并没有实施改造的必要呢。

实际上，我们常常将自身置于一种类似造物主的高度呢，可是一旦投身于世开启类似造物过程了，那么有好多事情其实根本就由不得你呀，各种事物它自身自然而然地竟会有想法，它会依据自身所具有的势头自行迈进了，接下来呢，它究竟会迈向一个什么样的地方呢？

你会面对自身的造物，然后觉得自己比其差了很远，我将此称作“普罗米修斯式的羞惭”，我觉得这不是我愿意看到的，而且也不觉得AI朝着这个方向行进是正确的。

本文源自虎嗅，原文链接为，https://www.huxiu.com/article/4810928.html?f=wyxwapp ，句号。