2021年5月，Mind Matters播客的主持人Robert J. Marks博士，邀请到了威斯康星康考迪亚大学的哲学教授Angus Menuge博士，两人从人工智能和哲学两个视角出发，针对意识的三个问题展开了深度对谈，在上期中，我们看到了这两位学者对“身心问题”的讨论，而在本期对谈中，我们将看到两人对当代不同意识模型的看法。
本文来自微信公众号：Mindverse Research（ID：gh_be9d7092abf7），作者：Mind Matters，译者：朱思嘉，审校：十三维，原文标题：《人工智能与哲学的意识对谈 | Part2：意识模型》，题图来自：视觉中国
Robert J. Marks：
我知道我是有意识的，但我不知道别人是否也是这样。今天，我们将继续讨论关于“意识”的话题。
为了建立意识模型，研究者进行了大量的研究。泛心论（panpsychism）、量子意识（quantum consciousness）和整合信息论（Integrated Information Theory， IIT）等意识模型最近获得了很多的关注。为了讨论意识和意识模型，我们再次请来了 Angus Menuge 博士，他是康考迪亚大学的哲学教授和系主任，也是福音派哲学学会的前任主席。Angus ，欢迎你。
Angus Menuge：感谢再次邀请我。
现象意识和感受质
Phenomenal consciousness and qualia
Robert J. Marks：
在谈论意识之前，我们有必要先对意识进行定义。我曾经和别人（在一个话题上）讨论了很久。最后，我们决定花点时间来定义我们正在谈论的术语，然后发现，见鬼，我们都同意，我们浪费了所有的时间。因此，我认为在谈论一个话题之前，对它进行定义是很重要的。那么首先，意识的定义是什么？这个定义是否得到了广泛的认同？
Angus Menuge：
这个问题的关键在于，意识是一个模糊的术语，可以用来表示各种不同的想法。有一种意识基本上就等同于经验、是你自己的觉察，这种意识叫做现象意识（phenomenal consciousness），心灵哲学家在研究这种意识上花了很多时间。它包括看到或闻到一朵红玫瑰花或者被玫瑰刺痛是什么感觉等各种想法。
Robert J. Marks：这就是所谓的感受质（Qualia）吗？
Angus Menuge：
是的。这种想法曾经被称为原始感觉（raw feels），因为存在一些情况，比如，有人踩到你的脚趾，或者你得到了一笔意外的财富等。有一种主观体验是你所拥有的，而且它似乎是你可以直接取用的。你意识到了这种体验，并且无法真正否认它的存在。
在某种意义上，尽管有些哲学家对此提出质疑，但你依然拥有取用它的能力。举个例子来说，当有一个人在痛苦中挣扎的时候，我们会采取一种模糊的看法。如果其他人对他说“你不是真正的痛苦”，确实存在这种可能，因为他可能是在演戏，但如果他觉得自己很痛苦，他就不会听别人说他不痛苦，因为他已经通过内省（introspection）直接意识到了（自己是痛苦的）这一点。
然而，这不是意识的唯一概念。内德·布洛克（Ned Block）试图区分他所谓的取用意识（access consciousness）。在这里，这个想法更具有认知性，它从经验（experience）转移到表征内容（representational content）。例如，如果你正在解决一个逻辑或数学问题，你的思考就有一个内容。这个内容可能不带有任何特定的感受质或主观经验。然而，它是可以被你的推理所取用的。
所以布洛克的想法是，你或许可以有一些没有特定内容的感受质。所以你只是有一种模糊的疼痛，但这种疼痛不指向任何东西。你也可能有思想（thoughts），但没有相关的感受质或体验，或者你可以两者兼而有之。所以很多时候，当你在思考一些抽象的东西时，你可能会同时写一些东西。比如你正在思考质数，但你实际上是在用一个符号来表示它们。所以，你会同时拥有这两种东西，但它们似乎又是不同的。
然后还会出现其他种类的意识，特别是在人类中，我们有自我意识，所以我们能意识到自己的意识。比如，你可以欣赏日落，但你也可以再退后一步，去思考你当下的意识。
Robert J. Marks：我从来没有想过自我意识是一种元意识，这很有吸引力。
Angus Menuge：
而事实上，意识的层次几乎没有尽头。这实际上是黑格尔注意到的东西。例如，假设我们有充分的理由相信其他人拥有心智，首先，我已经注意到了你，然后我才意识到我正在注意你。现在我是有自我意识的，但后来我开始认为你是有意识的。所以现在我意识到你意识到了我对你有意识这件事是有意识的（I'm conscious of your being conscious of me being conscious of your being conscious）。而你可以增加的层次看起来几乎没有尽头。
值得庆幸的是，我们通常不会这样做。但是我们原则上可以在很多层次上是有意识的。也许其中最有趣的是已故的林恩·贝克（Lynn Baker）所说的第一人称视角，她注意到我们可以从内部意识到，我们的生活将是什么样子的。
当我在心里想，“我在我儿子的婚礼上会哭吗？”这与别人说“Angus Menuge 会在他儿子的婚礼上哭吗？”是完全不同的。这也不同于使用名字或者明确的描述。我想的是作为我自己经历这些会是什么样子。而这表明，我对自己的理解是随着时间的推移而持存的。
同样，我们会后悔过去的事情，或者构想即将到来的假期，如果这样的事情再次出现，我们就是在思考我们自己在这些角度上会是什么样子。而且我们有一种相当好的心理模拟能力，使我们能够去共情。我们不能内省其他人的精神状态，但我们可以在某种程度上想象成为那个现在正在受苦的可怜人会是什么样子。
Robert J. Marks：
我一直有这种体验。在这种元状态（meta state）下，我对自己的意识想得太多了，以至于我没有像我认为的那样享受生活。我想，“我在享受生活”，然后我想，“嘿，我正在享受生活”，然后我开始思考我的意识体验，整个体验的快乐就消失了。
体验视觉和颜色
Experiencing vision and color
Robert J. Marks：
这些很吸引人。你提到了感受质。在人工智能领域，我可以以此为例，说明为什么人工智能永远不会在一般意义上存在，因为你会有一个复制（duplication）。
例如，我们对红色的感知是一种感受质。我要用的例子是，你如何向一个天生失明的人解释红色？你无法做到这一点。你可以解释它的属性、它的波长，什么是红色的（例如苹果）以及其他东西，但实际的经验是不能被传达的。如果这样的话，你又怎么能写一个计算机程序，向计算机解释什么是红色？感受质不是算法，它不能被计算出来。
Angus Menuge：
这与著名的“黑白玛丽”实验有很好的联系，弗兰克·杰克逊（Frank Jackson，1982）提出，想象一个叫做玛丽的女人（从出生起就）在一个房间里，房间里所有东西都是黑白的，她自己也是黑白的。她学习并知晓了关于色觉生理学的全部科学事实。问题是她从来没有真正见过红色的东西。然后有一天她离开了这个房间，第一次看到了一朵红玫瑰。看起来她确实获得了一些新知识。她现在知道看到红色是什么感觉了。
而且很有意思的是，人总是有办法应付各种事情。所以色盲的人可以在停车标志前停车，即使他们没有红色的感受，因为他们知道那个停车标志的功能是什么。
从某种意义上说，失明的人可以谈论红色的东西，例如，当别人说血液是红色时，他们在某种意义上知道这意味着什么，但他们没有像真正看得到红色的人那样直接、直观的理解。
Robert J. Marks：
濒死体验的证据之一就是那些天生失明的人，他们有能力在濒死体验中走出自己的身体，真正去“看见”。因此，他们体验到了他们在生活中从未体验过的感受质。我觉得这很吸引人，这确实是二元论的身心问题的有力证据。
Angus Menuge：
是的。盲人的濒死体验绝对是非同寻常的，因为他们可以用关于颜色的术语来描述他们从未亲眼见过的颜色。而这是相当令人惊奇的，因为他们似乎有某种独立的方式去接触它们，这是一个很困难的问题。我们如何知道有这种体验是什么感觉呢？我想这是一个几乎无法回答的问题，但是他们却能够用他们从未见过的事物的语言来描述这些事情，这真的很了不起。
泛心论的问题
Problems for panpsychism
Robert J. Marks：好了，现在让我们回到这里的一些意识模型上来。你在上一期播客中提到了“泛心论（Panpsychism）”。在我看来，这似乎是那些不能以唯物主义形式定义意识的人的一种逃避。
Angus Menuge：
没错。在我看来，泛心论的确是一个相当绝望的举动。它想说，在所有的物质中，它要么有一种心智，要么在泛心论的观点中，它有一种早期的、类似心智的东西，因此，心智在某种程度上是一种建立在物质中的可能性（potentiality）。而你只要得到正确的配置，你就会得到心智产生的所有奇迹（wonders）。
当然，这其中的一个问题是意识的统一性，因为如果这些单独的粒子是类似心智的，然后它们形成在一起，那你所预测和期望的应该是多种意识的涌现。而事实上，我们发现关于意识的最引人注目的事实是，它是统一的。所以这个问题，也是物理主义（physicalism）的一个问题，因为物理主义有一个非常复杂的大脑（作为其基础）。而我们现在可以肯定地知道，大脑的不同部分会加工同一个物体不同部分的信息。
然而在意识中，这个物体是一个整体，比如一个“蓝色的碗”。这并不是说有一个“蓝色”的意识和一个“碗”的意识，它们相互分离。意识有着这样一种客观的统一性。我认为这个组合问题对于唯物主义（materialism）和泛心论来说都是一个强有力的问题。
整合信息论
Integrated information theory
Robert J. Marks：
是的，我认为把意识分配给物质，就像你分配质量、能量或类似的东西一样，这种想法真的很牵强。但是仍然有人真正支持泛心论的概念。我想（可能因为）如果你是一个唯物主义者，你并没有很多选择，但这是你的选择之一。另一个意识模型是所谓的整合信息论（Integrated information theory，IIT）。我和我的数学偶像之一格里高里·蔡廷（Gregory Chaitin）曾经谈到过这个问题，我向他坦白，我不理解今天由克里斯托夫·科赫（Christophe Koch）推广的整合信息论。
他不是理论的创始人，而是它的普及者。令人惊讶的是，蔡廷向我承认：“是的，我也不理解”。这个杰出的人并不了解整合信息论。在他看来，他还没有尽可能多地去挖掘它。那么你对整合信息论有了解吗？你对它又有什么样的看法呢？
Angus Menuge：
是的，我也关注到了这个理论。这条（研究意识的）进路有点意思。它承认了意识的难题，即从我们所知道的任何物理知识中，你都无法预测或解释意识。
所以它建议我们从反方向入手。这基本上就是说，我们首先对意识体验的本质做一个分析。我们在理论中称它们为公理（axioms），这就是我们要开始的地方，我们要接受意识，因为它呈现出了自己。这方面，我觉得是不可思议的。
我对像保罗·M·丘奇兰德（Paul Churchland）这样的取消物理主义者（eliminative materialists）感到不安，他们似乎否认了我们真的有意识，甚至否认我们有信仰和欲望，但这些现象（信仰和欲望）是存在的，所以这就是否认事实。所以他一开始就接受了意识有一个可取用的内在特征。然后试图从中推断，意识的物理关联物会怎样支持意识的这些特征？
所以这就好比一个逆向工程（reverse engineering）项目。有趣的是，它想成为一种科学的解释，即提出科学上可检验的主张，探究大脑皮层的状态如何导致有意识体验。这个观点与拥有某种整合表征的能力相关，因此，当你昏迷或昏睡时，形成这些表征的能力发生故障，而这正是意识出现问题的关键所在。所以我认为这是值得关注和研究的。
但我也倾向于认为，这其中会存在一些明显的问题。它实际上是提供了一个所谓的意识的因果关系的解释。但问题是，这些物理基础并没有真正地给你任何理由去期待主体性（subjectivity）的出现。而且，这些关系也没有真正地解释意向性。
所以你会看到，有时它会谈论这些表征的结构甚至是几何特征（geometry）。至此我就不知道他们在说什么了，因为现在对于我们的思想似乎有一些物理隐喻。当我思考一个三角形时，我的思想不是三角形和意向性，由于一些很明显的原因，它不能还原为任何物理性的东西。我可以思考未来，但未来不可能在物理上导致我去思考它。我现在就可以去想埃菲尔铁塔，但埃菲尔铁塔并没有在影响我。而且我也可以思考不存在的物体，比如精灵和霍比特人。
所以困难在于，即使你能找到其中的一些因果关联，很可能它们也只是前提条件。而通常情况下，如果你的大脑不处于某种状态，你就很可能不会对各种事物产生意识。这就是我希望科学家们能够给出有力证据的事情。
但在意识的因果先决条件和解释思考与感觉的内容之间会有一段空缺（gap）。在那里会存在一些内容。在我看来，这种意向性并没有还原成任何物理上的东西，也没有被大脑的这些状态所解释。
Robert J. Marks：
我想我现在对整合信息论有了更好的理解。我看过一篇报道说， Koch 把他的整合信息论讲给了一群支持通用人工智能的计算机程序员。Koch 告诉他们意识在近期依旧是不可计算的，而未来的发展也还有一条很长的道路要走，而这些程序员并不喜欢这种说法。所以我想，在某些情况下，这（IIT）会以一种错误的方式让人们感到不快。那么，我还知道的另一个意识模型，即所谓的量子意识。
量子意识
Quantum consciousness
Robert J. Marks：
我对此非常感兴趣，因为在阅读罗杰·彭罗斯（Roger Penrose）的作品时，彭罗斯认为人类可以做非算法的事情。他环顾整个宇宙，然后说，在我们的宇宙中，有哪里会发生非算法的事情呢？
他的结论是，只有在量子力学中，当你有一个波函数（wave function）坍缩到一个特定的结果时，我们才有非算法的东西。所以我不知道这是否与量子意识有关，但确实有一个（关于量子意识的）理论，而且在这个领域中已经有人做了很多工作。那么，量子意识中究竟讲了什么呢？
Angus Menuge：
量子意识的观点是，量子现象似乎并不像经典物理学中的事物那样以决定性的或算法的方式发展。这可以解释人类的创造力和自由意志，以及其他似乎与经典决定论物理学不相容的心智力量。所以，这个领域的一个观点，也就是你提到的彭罗斯的观点，他的工作是相当推测性的，因为他正在研究量子引力（quantum gravity），而这些想法还没有真正被整理清楚以解决到这一点。
但是亨利·斯塔普（Henry Stapp）根据对量子力学的特殊解释认为，也许正在发生的事情是，大脑在离子活动（ionic activity）水平上是一个量子系统。这意味着，大脑可能存在各种叠加的状态。而每一种状态都可能表征了一个不同行动的模板。
比如，当你决定，在五本电影中选择哪一本去看，选择出去看还是在家里看。在那里，所有模板都以叠加的方式存在。它们都有一定的概率被选中，但没有任何一个被选中。是什么解释了最后你会看其中的某部电影而不是其他的？
让我们回到冯·诺伊曼（Von Neumann）的观点，诺伊曼认为量子物理的非凡之处在于，观察者似乎对系统的演变产生了影响。所以你可以有这样一个系统，这个系统里有所有的这些可能状态，然后你有这个波函数。
至于是什么让波函数坍缩？为什么这些状态中会有一个成为实际状态？诺伊曼认为这也许是测量的作用。他自己并没有区分测量的心理行为或做测量的光学仪器（aura machine），但斯塔普做了区分，斯塔普推测也许大脑是一个量子系统，而意识所增加的是选择性注意。
因此，当你考虑五件你可以做的事时，你最终关注和选择的那件事是固定的。然后，那件事情最终被实现，你最终确实做了那件事。
所以，也许就像这样，你的心智测量你的大脑，你的意识导致波函数的这种坍缩。而这就解释了你所做的特定行动。而这将与一种强烈的自由意志观点相一致，即自由意志主义（libertarian free will），因为你的大脑的任何物理状态都不能决定你接下来要做什么。是你有意识的注意力最终真正决定了你所做的那些可能的行动，你不是简单地被你的大脑状态强迫而机械地行为，你不是在这样一个模糊的系统中。
Robert J. Marks：那么量子意识是否根植于唯物主义呢？你可以看着唯物主义的意识模型，诉诸到量子意识，然后说这是唯物主义的吗？
Angus Menuge：
天哪，好吧，这是一个棘手的问题。大多数唯物主义者，他们的范式实际上是由19世纪的旧物理科学观点设计的，所以根据定义，这（意识）超出了这个范围。不过当然，如果人们用最新的物理科学的理论来定义唯物主义，那么你可以说，如果物理科学开始允许意识的存在，那我可以接受它。
但是请注意它带来的后果：它最终会在某种程度上使二元论者和唯物论者之间的大辩论变得微不足道。因为如果我们允许意识本身是一种东西，那么意识就是自成一类的实体（Sui generis）。
Robert J. Marks：自成一类的实体（Sui generis）？
Angus Menuge：
就是它没有和其他的东西一起被还原。换句话说，它是属于它自己的类型（type）或属类（genus）的东西。这就好比，在物理学的历史上，人们先前认为电磁辐射需要以太（ether）作为媒介，然后迈克尔逊·莫雷（Michelson Morley）的实验表明，电磁辐射实际不需要介质，它是属于自己的东西。因此，我们不再把电磁学看作是可以以某种方式简化为机械的东西。
同样地，如果物理学最终会得出结论，当然这种可能性很小。我们不能把意识还原为任何普通的物理现象，我们只能承认它是它自己的一种东西。事实上，需要有意识才能有一个完整的物理学，因为毕竟，如果你想要斯蒂芬·霍金（Stephen Hawking）提出的万物理论（theory of everything），最终就会如托马斯·内格尔（Thomas Nagel）所说，万物理论必须包括科学家以及科学家所观察的世界。
如果我打算用一种方案完全地解释，当科学家测量量子物理学中的系统并处理量子纠缠（entanglement）和其他所有事情时发生了什么，而事实证明这种解释方案中意识是必需的，那么意识是否成为物理学的一部分？如果是这样，那么在某种程度上，物理学家和二元论者之间的辩论就会结束，因为物理已经纳入了意识。而二元论者会在这个意义上更胜一筹，他们会激动地说，没错，意识并没有还原成任何这些其他的东西，这正是他们几个世纪以来一直宣扬的观点。
在AI中检验意识
Testing consciousness in artificial intelligence
Robert J. Marks：
这里有一个重要的人工智能的问题。也是我所感兴趣的地方。我知道我是有意识的，那么有没有一种方法，让我们可以检验他人的意识？如果我们可以，我们是否可以将这种对他人的意识的检验应用于人工智能？我可以在你身上检验出意识吗？我将如何做到这一点？
Angus Menuge：
嗯，这是一个难题，但我认为，它始于我们如何根据数据进行概括。我们发现，所有人都会自然地、随着他们在儿童时期的成长，发展出心理理论（theory of mind），这导致他们相信其他人也有像他们一样的心智。我们也可以直接通过内省意识到我们确实有心智，而且我们发现其他人在所有方面都与我们相似。因此，因为其他人在各方面都和我们一样而得出他们有心智的结论是非常合理的，因为这是我们的自然判断。
问题是，当你转向人工智能时，人工智能与人类是如此不同，以至于现在不能做出一个清晰、可靠的推断。所以当我通过观察你是否产生疼痛行为来检验你的意识时，令我确信你有意识的部分原因是因为我已经确信你本身是拥有心智的存在。
而对于人工智能，我还没有确信这一点。而且由于AI系统与人类是如此不同，我们遇到的问题是它可能会产生各种（与人类）相同的行为。它可能会模拟所有你期望从有意识的人那里观察到的行为。举例来说，给一个机器人编程是很容易的，当它接触到热的东西时，它可以发出惊呼并把手收回来。它可以有热传感器，可以被编程来做这些事情。但这并没有给我足够的理由去认为它真的很痛苦。
问题的一部分在于它在构成上与我截然不同。它在所有其他方面都与我不同，因此我不相信这（它是有意识的）是一个可靠的推断。
Robert J. Marks：是的。在我看来，问题在于区分意识是否被复制或被模仿。而我认为这将是一个很细微同时也难解决的问题（a hard frog hair to cut）。
Angus Menuge：没错，我想是这样的。这是一个很奇怪的情况，因为从理论上讲，可能有一些东西是像这样的机器人或 AI系统，但我们永远对它们是不可知的。
Robert J. Marks：这真的是一个很有趣的话题，谢谢你，Angus，我学到了很多东西。
本文来自微信公众号：Mindverse Research（ID：gh_be9d7092abf7），作者：Mind Matters，译者：朱思嘉，审校：十三维