２０２３年２月第３１卷（总１５０期）上海交通大学学报（哲学社会科学版）ＪＯＵＲＮＡＬＯＦＳＪＴＵ（ＰｈｉｌｏｓｏｐｈｙａｎｄＳｏｃｉａｌＳｃｉｅｎｃｅｓ）Ｆｅｂ．，２０２３Ｖｏｌ．３１Ｎｏ．１５０论意识条件和主体条件的区分———对人工智能体道德身份论题的一个澄清周靖（上海社会科学院哲学研究所，上海２００２３５）摘要：人工智能的心灵哲学研究进路通常将塞尔提出的“意识条件”视为构成强人工智能体的充分条件，即只有在某一人工智能体拥有意识的前提下，才能认为它是强人工智能体。然而，拥有自我意识不意味着可以直接成为一个主体。成为一个同时享有权利和义务的主体的“主体条件”为强人工智能体设定了更高要求。两类条件的关系上，意识条件是主体条件的必要不充分条件，在从前者向后者的发展中，强人工智能体需经历如下三个发展阶段：作为直接性的自我意识、作为奴隶的个体，以及作为一个主体。在不同阶段上对人工智能论题的讨论是实质不同的。混淆或忽视意识条件和主体条件的区分导致了当前人工智能伦理研究中存在的诸多问题。关键词：人工智能；意识；主体；责任；伦理Ｄｏｉ：１０．１３８０６／ｊ．ｃｎｋｉ．ｉｓｓｎ１００８７０９５．２０２３．０２．００９人工智能的心灵哲学研究进路中，我们一般根据塞尔（Ｊ．Ｓｅａｒｌｅ）的经典定义来区分强人工智能体和弱人工智能体，认为前者具有人类般的意识或心灵，后者仅能体现对人类心灵的模仿。①在此意义上，拥有意识构成了强人工智能体的充分条件，我们可以将此条件称为“意识条件”。进一步地说，只有满足了意识条件的人工智能体才可能具有道德身份。然而，本文拟论述的是，强人工智能体拥有意识，这不意味着它同时能够直接成为类似于我们一样的“主体”，成为“我们”中的一个“我”。我们可以将强人工智能体成为一个主体的条件称为“主体条件”。只有满足了主体条件的人工智能体才能具有道德身份。忽视或混淆意识条件和主体条件的区分导致了当前人工智能哲学研究中存在的诸多问题，这主要体现在将人工智能体视为一个主体，从而对人工智能体的权利以及相关的伦理等问题做出了不审慎的讨论。本文第一节将对意识条件和主体条件做出区分，指出意识条件是主体条件的必要不充分条件。第二节将讨论两类条件之间的具体关联，辨明从意识条件到主体条件的发展过程将会经历的具体阶段。最后，第三节将基于第一节中对这两类条件的区分以①作者简介：周靖，上海社会科学院...
