首页 >> 跨学科 >> 热点关注
人工群体智能是否可能?
2021年04月29日 17:20 来源:《华东师范大学学报(哲学社会科学版)》2020年第5期 作者:何静 字号
2021年04月29日 17:20
来源:《华东师范大学学报(哲学社会科学版)》2020年第5期 作者:何静

内容摘要:

关键词:

作者简介:

  摘 要:人工群体智能技术以自治体的方法论与神经网络的模型为基础,通过大量独立人工智能体间的简单交互形成超越个体维度的群体智能类型。一方面,这种人工智能的新发展向我们展现了在某些领域超越人类个体智能水平的新型智能形式;但另一方面也凸显了人工群体智能与人类群体智能在交互方式上的深层次差异。对于人类群体而言,交互从本质上来说是一个个体间共同—规定的耦合过程。这种共同参与、相互规定的社会交互过程在维系并塑造个体自治性的同时,形成了“复数”的“我”对世界的理解——群体智能。

  关键词:群体人工智能;信息;交互;相互规定

  作者简介:何静,华东师范大学哲学系副教授(上海,200241)。

  一 导 言

  群体智能(swarm intelligence)指的是自然界的有机体通过彼此间的交互而涌现出超越个体智能水平的智能类型。更具体地说,就是生物有机体通过简单的规则以及彼此间简单的互动而形成复杂的集体行动或者比其组成部分更强大的智能类型。例如,蜂群所构成的复杂的类社会系统,鸟群和鱼群为了适应气候和水域而进行的集体迁徙等。

  这种群体生物所表现出来的神奇而复杂的群体智能和行动力,受到了生物学家、社会学家和神经科学家的高度关注。与此同时,作为21世纪智力革命核心领域的人工智能也对这种普遍存在于自然界的生物性智能产生了浓厚的兴趣,并将人工群体智能作为未来人工智能发展的重要方向以及迈向通用人工智能的重要突破口。

  特别是近20年来,随着人工智能与神经科学、仿生学和脑科学等学科交叉研究的不断深入,人工群体智能的研究目标从对群体生物行为模型的研究进一步拓展到对人类智能与智能机器融合的思路上。这些研究取得了一些令人瞩目的研究成果,同时也遭遇了一些根本性的难题。导致研究困境的根本原因在于,研究者们可能误解了社会交互的本质。人工群体智能研究试图将社会交互过程还原为以“信息交换”为核心的人工神经集体脑的功能;然而,在真实世界中,个体间的交互过程并非以信息聚合、交换和协同为唯一目的,也不是一个将符号化的规则和算法运用到问题解决中去的过程;而是通过与其他个体在行动、语言、情绪等方面的耦合,以动力学方式与其他个体密切相连并达至具身性理解的过程,其中包含了意义、价值、辩护以及不确定性等因素。

  在接下来的讨论中,我们将通过聚焦当前人工群体智能技术的发展,揭示人工智能体与人类个体间交互方式的深层次差异,并为一种动力具身的社会交互过程提供辩护。这种跨学科的探究,不仅为深化群体人工智能研究提供有益启示,而且对研究人类集体智慧以及社会交往有着非同寻常的意义。

  二 蜂群思维与超级有机体

  凯利(K.Kelly)在其经久不衰的著作《失控》中对“蜂群思维”作了如下描述:

  五六只无名工蜂在前方侦察,核查可能安置蜂巢的树洞和墙洞。它们回来后,用圈子越缩越小的舞蹈向休息的蜂群报告。在报告中,侦察员的舞蹈越夸张,说明它主张使用的地点越好。接着,一些头目们根据舞蹈的强烈程度核查几个备选地点,并以加入侦查员旋转舞蹈的方式表示同意。这就引导更多跟风者前往占上风的候选地点视察,回来之后再加入看法一致的侦查员的喧闹舞蹈,表达自己的选择。……蜜蜂看到一条信息:“去那儿,那是个好地方。”它们去看过之后回来舞蹈说:“是的,真是个好地方。”通过这种重复强调,大家中意的地点便会吸引更多探访者,由此又有更多的探访者加入进来。按照收益递增的法则,得票越多,反对越少。渐渐地,一个大的舞群以滚雪球的方式形成,并成为舞曲终章的主宰。最大的蜂群获胜。1

  这里,凯利所描述的不仅是单个作为有机体的一只蜜蜂,而是由成千上万只蜜蜂所组成的“超级有机体”所表现出来的智慧。这个超级有机体是由蜂后、工蜂和雄蜂组成一个庞大的整体,该整体拥有其组成部分所没有的特征。例如,平均一只蜜蜂的记忆时间是6天,而作为整体蜂群的记忆时间可达到3个月(是蜜蜂平均寿命的2倍)。

  在凯利看来,这种“蜂群思维”的神奇之处就在于,尽管没有一只蜜蜂承担着行动首领的角色,但是在这个群体中好像有一只非匀质的、看不见的手,引领着整个群体的行动。当大量“愚钝”的蜜蜂成员聚集在一起的时候,就涌现出了一个超级有机体。这个超级有机体所蕴含着的神奇力量潜藏在个体的蜜蜂之中,但是当你用最先进的设备来检测一只蜜蜂的时候,却无法找出蜂群所拥有的特征。

  其实,在自然界中,涌现的群体智能无处不在。如果你曾经有机会观察蚁群,就会发现它们在没有上级指挥的情形下,建造出复杂的洞穴、组织搬家或者进行大规模的行军。尽管单个的蚂蚁的表现常常不知所措,但是聚集的蚁群却能够对环境中的问题产生快速有效的解决方案。即便有40万只蚂蚁聚集在一起,它们也能够无需管理而正常运作。这种神奇的集体合作能力,令最了解他们的生物学家也惊叹不已!单个的个体体内有什么特质是我们无法观测到的?或者说这个超级有机体如何通过聚集低层级的存在而涌现出高层级的复杂性?

  绝大多数生物学家主张,我们应当通过对个体行动模式的探究来理解更高层级的群体模式。长期以来,这种将群体行为还原为个体智能的研究方法成为当时研究“蜂群思维”的最佳进路。直到 21世纪初,美国著名昆虫学家惠勒(W.Wheeler)开始注意到生物群体中通过有限的个体行动涌现出来的作为一个更高级有机体的集体行动特征。

  惠勒写道:“无论从哪个重要且科学的层面来看,昆虫群体都不仅仅是类似于有机体,它就是一个有机体……就像一个细胞或者一个人,它表现为一个一元整体,在空间中保持自己的特性以抗拒解体……既不是一种事物,也不是一个概念,而是一种持续的波涌或进程。”1在惠勒看来,蜂群并不仅仅是独立蜜蜂个体的简单聚合。对于蜂群来说,作出行动决定的是集体而不是单只蜜蜂,没有哪只蜜蜂对其他蜜蜂发号施令。这是一种“自下而上”(bottom-up)的群体智能涌现方式——所有的蜜蜂都通过简单的规则以及彼此间简单的互动来决定下一步的行动并最终导向复杂的行动。

  三 人工群体智能:对集体脑的模拟

  近年来,越来越多的人工智能学家开始关注自然界“蜂群思维”的涌现方式。他们意识到,当蜜蜂聚集在一起的时候,实际上形成了一个可以共同处理数据并作出最优选择的实时系统。它们首先要做的就是收集足够多的关于周围环境的信息。几十只甚至上百只蜜蜂在对可能安置蜂巢的地点进行查探并收集完信息后带回蜂群。而前文凯利在描述中所说的蜜蜂的“舞蹈”实际上就是通过震动产生信号的过程。当多只蜜蜂通过震动身体而产生不同信号的时候,便提供了多个可供选择的问题解决方案。这是一种包含着大量冲突变量的复杂的决策机制。最终,当它们从多个问题解决方案中达成一致的时候,最优的问题解决方案也就形成了。

  由此可见,蜜蜂间的相互作用并非简单的线性叠加,而是复杂的非线性动态迭代。尽管它们不具备复杂的逻辑推理和综合判断的思维能力,但是通过个体间的简单合作以及自组织,却能涌现出高于个体之和的复杂系统所具有的强大群体智能。在鸟群和鱼群中,我们同样能够发现相似的群体智能。受到生物群体智能的启发,人工智能学家霍兰德(J.Holland)对智能系统以及生物的自适性机制进行了详细阐释,并提出了自下而上的群体智能的可能算法。2

  例如,在电影《蝙蝠侠归来》的制作中,需要用电脑制作出一大群蝙蝠如黑旋风般穿过纽约市中心的情景。计算机专家先让动画制作人员设计一只扇动翅膀的蝙蝠。而后,又复制了几百只这样的蝙蝠。接着,他们将几百只蝙蝠的图像放置在纽约街道的市集场景中,并为蝙蝠的运动算法植入了两条简单的规则:

  (1) 在靠近群体中心的同时避免与其他蝙蝠相撞;

  (2) 尽量使自己的飞行速度与周围的蝙蝠保持一致。

  当这些根据简单算法所生成的人工蝙蝠图像在银幕上飞行的时候,就像成千上万只真的蝙蝠聚集成一股移动着的黑色的风暴,成群地涌向纽约街头,不受任何人控制。这种自下而上的群体智能算法,不同于自上而下的算法。因为它不需要为系统设置一个分层有序的中央框架结构,而是通过单个智能体相互传递一些简单的信号直接产生受控制的特定行为。这样,这些智能体就无须通过生成与当下环境和任务无关的内部表征模型,或进行复杂的计算和推理,而产生低计算成本的、灵活的智能行为。

  随着研究的深入,人工智能界又诞生了蚁群优化算法、粒子群优化算法和鱼群算法等群体智能算法的思路。这些算法通常要求单个智能体能够在不断变化着的、不完整的甚至是相互矛盾的信息环境中行动并发挥作用。例如,蚁群优化算法利用信息激素对单个智能体的行动进行引导,最优的方案就是具有最强信息刺激的路径;粒子群优化算法中,单个智能体需要通过与其他智能体的协作并根据全局最优方向、局部最优方向以及当前最优方向做出的权衡结果来行动。尽管具体思路不尽相同,不过这些算法仍然共享了一些基本特征。例如,通过并行编程的方式,提高整个群体算法的求解能力,或者通过群体智能算法反复迭代的概率性搜索方式,获取最佳方案的近似解等等。

  近年来,人工群体智能研究目标从群体生物行为模型的研究进一步拓展到将人类智能与智能机器相融合的思路上。这种人机物共荣共赢的思想为人工群体智能研究注入了新的活力。所谓人机物融合的智能就是通过互联网并结合大数据计算、通信、人工智能等技术将智能融入物与人之间实现协同计算。例如,为了达到放大人类智能的目的,美国Unanimous AI公司通过连接网络用户群建立了一个人工群体智能的在线平台——UNU。这些网络用户群是真实世界中的自然人群。在UNU平台中,他们根据实时的系统信息来作出个人选择或提出个人意见,而后系统再将这些答案汇总在一起,最终以集体的形式确定他们认为最正确的预测。

  具体地说,这个人工群体平台系统的工作流程为:研究人员向UNU平台中的参与者提出问题,参与者必须在给定的时间(如,30秒内)将自己认为的最佳选择拉入一个圆圈中。参与者通过感知系统数据并形成反馈,建立起参与群体、系统和互联网之间的环路。这种群体计算和动态感知构成了一种大规模的分布式计算模式。一方面,每一个参与者的选择都会影响圆圈的走向;另一方面,每一个参与者能够根据系统中圆圈的走向,及时进行沟通、调整自己的选择,同时系统对群体提供的数据进行计算和处理,并最终形成最佳选择方案。

  事实证明,这个人工群体智能平台显示了惊人的预测能力。例如,UNU曾对一场赛马比赛的结果进行预测。网络用户群通过集体选择锁定了20匹赛马中的4匹,而后又对这4匹马的排名进行预测。一周以后的比赛结果表明,UNU对包括冠亚军在内的4匹胜出马匹的预测完全正确,超过了以往惯用的全体投票等群体智能手段。

  对于这种最新的群体智能技术的发展,专家们众说纷纭。不少研究者认为这种涌现式的人工群体智能形式超越了个体的智能水平以及自然人组成的专家群集体智慧,对通用人工智能目标的实现有着重要的科学意义;但也有不少研究者提出,人工群体智能的研究还主要集中在对数据处理方式的优化上,对复杂世界中群体智能形成的文化、伦理和规范等问题还缺乏认识,并且可能存在着侵犯参与者隐私的问题等。

  对这些问题的探讨极为迫切,但接下来我们将聚焦于人工群体智能与人类群体智能本质之间可能存在的差异。人工群体智能技术到底在何种意义上以及在多大程度上对人类群体中个体间相互联结的方式进行了模拟?集体智能与行动以及个体间理解的达成是否能够被还原为人机物协同计算的过程?对于这些问题的探讨,不仅涉及单纯的人工智能领域的内部问题,还涉及更深层次的认识论问题。

  四 社会交互:信息协同还是相互规定?

  如前所述,人工智能学家们试图用神经网络建模来模拟大脑,用生物进化机制来提升机器的智能。他们将自治体的方法论与神经网络的模型结合起来,形成了当代人工智能研究中最令人兴奋的、最具开拓性的研究成果——人工群体智能。从本质上说,人工群体智能技术是一种以计算—表征为核心的问题求解模型。这种技术基于种群算法,将人工群体看作是一个由一些准独立的子系统所构成的更大的系统。人工子系统通过彼此间传递信号以及感知整个系统的事件流变化进一步调整自身的行动与决策,同时增加整个系统的开放性。整个模型的核心在于人工智能体间交互的内容——即信息。单个智能体所拥有的信息以及智能体间的信息动态交互,对整个系统的处理结果具有重要的影响。换言之,整个系统所表现出来的思维能力和预测结果极大地依赖于系统对大规模信息的传输、计算以及处理。

  从这个意义上说,在人工群体智能技术中,交互就是智能体间经由不同通道进行信息交换的过程。系统关注每一个智能体对接收到的信息的反馈,并由此将这些反馈分解成可测量的信息单元。一个智能体(作为信息发出者)将信息转译为信号并将它传递给另一个能够对这些转译了的信号作出恰当回应的智能体(作为信息的接受者)。

  在此意义上,交互过程就好像计算机或传真机之间的信息传递,是个体所发送或接收信息离散事件状态的过程。这种以“信息处理”为核心的交互模型最早由香农(C.E.Shannon)提出。31948年,在著名的论文《交流的数学模型》中,香农提出:我们能够通过将声音和图像转换成二进制串的方法,在信息发送的过程中对信息进行编码。这种观点很快受到了人工智能专家的极大关注,因为它能够很好地与心智的计算隐喻相融。

  不过这种以信息为核心的模型受到了不少学者的批判。例如,吉布斯(R.W.Gibbs)认为这种模型忽略了这样一个基本的问题——意义如何能够根植于我们的日常经验。或者说,有意义的符号如何能够与真实世界中的具身性和指称对象相连。4蒙科(A.Monk)认为这种模型无法为我们提供完整的个体交互图景,因为它忽略了语言运用的社会维度。5在实际的交流情境中,个体的语言组织和运用往往会出现句法错误、表述不精确或者同语反复等情况,但是在人工群体交流中所运用的信息却是有明确定义的准确编码。因此,如果一种计算模型仅关注信息发出者和接受者之间信息传递过程,那么这将是对现实生活中个体间交互过程过于简单(甚至是错误)的模拟。

  当然,人工群体智能技术比上述老式的计算模型走得更远。在新兴的人工群体智能系统中,每个参与者都积极地参与系统的信息处理过程,通过对系统信息的感知以及与其他个体的简单交流,及时更新或调整自身的选择并最终令整个系统涌现出高于个体之和的群体智能类型。在此系统中,交互过程的本质在于:个体能够依据群体中其他个体的信息来实时调整自身信息。也就是说,尽管这是一个开放、非线性的动态交互群体(如UNU),但是如何快速有效地获得大规模的信息是整个系统框架的核心。换言之,系统的核心仍旧在于信息。

  然而,在真实世界中,个体之间的交互的核心在于:个体间持续地进行彼此规定和耦合。这种耦合并非以个体间的信息聚合、交换以及协同为目的,也不是一个将符号化的规则和算法运用到问题解决中去的过程,而是通过与其他个体在行动、语言、情绪等具身性的交互,以一种动力学方式与其他个体密切相连并达至具身性理解的过程。个体通过熟练的身体活动对情境中的其他个体和问题作出富有情感的回应,并利用因为其他个体的在场而产生的“联合知觉”知识来获取与行动目标相关的信息。

  福克斯(T.Fuchs)和蒂亚戈(H.De Jaegher)强调6,个体间(主要指自我与他者)的交互过程主要是一种双向的协调过程,意味着两个系统之间相互定义、相互规范并基于动态的交互而达到某种一致性/联合性。在交互过程中,尽管个体双方都积极地参与到交互的反馈和前反馈环路中起到对对象的引导和调节作用,但是任何一方都无法对由两个个体共同构成的整体的交互过程进行掌控。这种耦合和参与式的特征构成了社会交互过程的重要特征。

  沿着福克斯和蒂亚戈的思路,我们将个体间的“交互”过程定义为:两个或两个以上的个体参与到共同—规定的耦合过程中;这种共同—规定的过程在不破坏个体自治性的同时,构成了个体自我身份维系的重要部分。这种对交互过程的定义以具身性的认知观念为基础,将交互过程看作是一个具身的、依赖情境的动态过程。需要特别指出的是,在此框架内所蕴含着的自我和他者的关系也与人工群体智能框架中的个体间关系截然不同。

  在对哈贝马斯的交互理论进行诠释的过程中,本哈比(S.Benhabib)将哈贝马斯的理论看作是一种对称性理论。她认为自我和他者应当处于一种对称的个体关系之中,这种道德的交互性令自我和他者之间的“角色互换”成为可能。因为在哈贝马斯和本哈比看来,自我和他者交往的基础在于自我和他者之间的共性而非差异。在交互的过程中,参与者应该“抛弃”自身特定的经验、视角和情感而关注那些共同遵守的道德的和社会的规范。

  但是,本哈比认为哈贝马斯所描述的交往形式过于单一了,因为他并没有把实践的多元性纳入交往理论。在本哈比看来,其中的原因在于:哈贝马斯交往理论中的他者是一个“普遍化的他者”(the generalized other),这样的他者是从情境和社会关系中抽象出来的理性的他者;而在实际交互过程中,我们面对的则是一个“具体的他者”(the concrete other),这样的他者是拥有特定的历史、情感和身份的独特个体。7因此,在与具体的他者进行交互的过程中,主体双方不仅以遵循一些基本的平等、互惠准则为前提,还需要承认并尊重他者的个性与不同。

  沿着本哈比的论证,杨(I.Young)进一步提出,个体间的交互应当是“非对称性的”自我与他者的关系8。将自己置于他者的境地去思考他者可能会怎么样的做法可能导致“误解”,自我与他者恰恰是通过彼此的差异与不同而达至理解的——认识到个体间的非对称性,并且“跳出”自身去接纳对同一个事件不同的看法和观点。

  从这个意义上说,交互是一个创造性的过程:他者提出自己的观点,我对这种观点的理解并不是因为它与给定的范式相一致而是因为我是开放的,“你的观点和立场部分地是由我们对彼此的观点而建构的。在很大程度上,我们是谁是由我们与他者的关系以及我们与他者过去的经历建构的。因此,在特定的情境中,我们的观点部分地是我们关于他者对我们观点的经验的结果”。8

  因此,交互作为一个个体间进行共同—规定的耦合过程,他者为我们提供了与我的经验相关但又超越我自身经验的关于情境和行动的新的视角和样式。在杨看来,正是在这样一种非对称性的认识论关系中,我们与他者相遇、进行交流……主体双方都意识到这样一种“非对称性并对他者的理解保持开放的状态”。8这意味着,交互的一个前提就是我们承认主体间的差异与不同。尽管没有明述,但是我们都能够意识到彼此有自己的历史、情感和心智状态。从这个意义上说,我们不可能通过“设身处地”“感同身受”去理解他者的行动和思维。通过主体间多形式的交互,我们能够在一定程度上理解他者的行动、意图或情绪,但是这种理解不可能是充分和完整的。

  这种共同参与、相互规定的社会过程在维系并塑造了个体的自治性的同时,形成了“复数”(plurality)的“我”对他者和世界的理解——群体智能。与人工群体之间的交互不同,自然个体间的耦合过程往往不是同步的,失败的协调经历或者出现的不协调不断地促使个体间对已有的交互模式进行维护或重启。

  五 结 语

  人工群体智能是把群体智能视为一个超级集体脑的认知系统进行信息聚合的产物。一方面,这是一个以信息为核心的、自给自足的、脱离真实情境的系统;另一方面,人工智能体间尽管相互演化、相互作用,但是这种作用是通过符号的输入—输出而实现的。因此,在人工智能体的交互过程中,智能体之间的关系以及智能体与周围情境之间的联结是隐匿且无足轻重的。

  同时,人工群体中的个体也是“虚拟”化了的个体,个体的身份认同与自我意识并不重要。单个智能体存在的核心意义在于信息承载,它们扮演了群体系统中信息介质的角色。例如,在UNU平台中,尽管其人工群体是来自真实世界中的自然人群,但是在运行的过程中,自然个体对真实世界的感知和联系在一定程度上被切断了,并被切换成虚拟系统中的一个信息化了的存在形态。

  然而,对于自然个体间的交互来说,个体间持续的相互规定和耦合以及个体与其他个体在周围情境中的共生共存则恰恰是解决问题的重要维度。换言之,自然个体间的交互具有“承载性”(affordance)的特征。这种承载的特征表明了,交互过程不仅仅蕴涵了具体情境中稳定的客观性特征,更意味着个体通过交互离开私人的领域走进社会或群体的领域。

  在个体走向群体并最终与其他个体共同产生群体智能的过程中,个体的身份认同与意识经验不但与群体的身份和意识经验共存,而且不断得到拓展。在这个过程中,自然个体的内部(心智)与外部(大脑与身体)是耦合的;同时,个体与周围环境也是耦合的。这是一个内部与外部、个体与个体及世界连续统一的过程。

  除此之外,自然群体中个体间连续统一的交互过程还体现了交互行动所具有基本的认识作用,即共同的意义—建构。系统中的每一个个体都共享着某种意向,例如,共同采取某个行动或共同解决某个问题。个体以在行动中得到表达的意向为前提,积极参与到与其他个体的耦合过程中,并由此建构“我们”(复数的“我”)关于世界的意义。在不同的时间、不同的情境中,个体间的合作方式并不局限于某一种特定的联结方式,而是灵活地产生嵌入情境的不同的结构特征。甚至,对于不同年龄阶段的群体合作来说,也具有不同的结构特征。

  综上所述,人工群体智能技术是以互联网与信息为基础,通过大量独立个体共同作用所产生的超越个体智能局限性的群体智能类型。然而,正如哈贝马斯所说:“社会概念必须与生活世界概念联系在一起,而生活世界概念又与交往行为概念形成互补关系。因此,交往行为主要是一种社会化原则。”9这种以信息为核心的人工个体间的交互与以共同意义建构为核心的自然个体间的交互之间仍然存在着一些重要的区别。

  人工群体智能技术的发展为当代社会认知的研究开辟了一个新的领域。在人工群体中,由于交互是以匿名和信息的方式进行的,个体间交互的效率、自由度以及开放程度得到了极大的提升。对人工群体智能的研究不但对于深化人工智能的研究有着重要的推动作用,而且对于我们从哲学上解释社会认知现象也有着非同一般的意义。尽管这种新的技术未能帮助我们完全解释群体智能现象之谜,但是它为我们拓展了哲学讨论的范畴和方法论。同时,人工群体智能技术中蕴含着的新问题,例如身心问题、虚拟自由与现实规范的问题以及复杂的信息安全问题等,不但是人工智能发展亟待解决的问题,同时也为社会认知理论向纵深发展提供了新的视角。

  注释

  1(2)[美]凯利:《失控》,张行舟等译,北京:电子工业出版社,2017年,第12—13页;第13页。

  2(3)John Holland,“Outline for a logical theory of adaptive system”,Journal of the ACM,1962(9),pp.297-314.

  3(4)Claude Elwood Shannon,“A mathematical theory of communication”,Bell System Technical Journal,1948(27),pp.379-423.

  4(5)Raymond Gibbs,Embodiment and Cognitive Science,Oxford:Oxford University Press,2005.

  5(6)Andrew Monk,“Common ground in electronically mediated communication:Clark’s theory of language use”,in J.M.Carroll(eds.),HCI Models,Theories,and Frameworks:Toward a Multidisciplinary Science,CA:Morgan Kaufmann,2003.

  6(7)Thomas Fuchs & Hanne De Jaegher,“Enactive intersubjectivity:Participatory sense-making and mutual incorporation”,Phenomenology and Cognitive Sciences,2009(8),pp.465-486.

  7(8)Seyla Benhabib,Situating the Self,New York:Routledge,1991.

  8(9) Iris Young,“Asymmetrical reciprocity:on moral respect,wonder,and enlarged thought”,Constellations,1997(3),p.348;p.349;p.354.

  9(10)[德]哈贝马斯:《交往行为理论(第一卷)》,上海:上海人民出版社,2004年,第320页。

作者简介

姓名:何静 工作单位:

转载请注明来源:中国社会科学网 (责编:马云飞)
W020180116412817190956.jpg

中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|m5彩票重庆时时彩
网站地图 m5彩票幸运飞艇 m5彩票上海快3 gt彩票澳洲3分彩
申博官网登录入口 申博99sunbet 星际娱乐平台 申博手机下载网址
588彩票网PT电子游艺 聚富彩票网时时彩 金沙乐场 菲律宾太阳城娱乐首页
m5彩票台湾5分彩 gt彩票北京快乐8 m5彩票排列三、五 m5彩票幸运农场
m5彩票湖北快3 m5彩票广东11选5 m5彩票分分彩 m5彩票北京时时彩
315ib.com 729tt.com 1666DZ.COM 549xx.com DC738.COM
77TGP.COM 555xsb.com 528XTD.COM 729cw.com XSB868.COM
157PT.COM 777sbsg.com 11sbib.com 11sbsg.com DC927.COM
81ib.com XSB887.COM 8LSS.COM 688TGP.COM 316sun.com