信息伦理道德物化研究的实现逻辑与道德价值构建——以ChatGPT为例

杨先顺,莫 莉

(暨南大学 新闻与传播学院,广州 510632)

信息伦理是调整在信息生产、传播、利用和管理等信息活动中人与人之间关系的规范和准则[1],主要研究社会信息生产、组织、传播与利用中的伦理要求与伦理规范,以及在此基础上形成的新型伦理关系[2]。信息技术的发展使信息传播研究呈现“媒介物质性”特性,突出信息媒介在社会建构和社会关系交往中的能动性、主体性。其中,信息媒介参与建构的新的道德秩序和伦理规范是研究重要面向之一,也是理解现代性主体道德生存、如何构建和谐向善的人工智能社会应考虑的事项。

目前信息伦理问题研究主要包括信息隐私、数字平等、信息鸿沟、信息茧房、信息权益等主题,这些伦理问题除了指向实践中的道德规范外,更重要的是信息技术对人的主体和身份的重构问题。信息化生存背景下,人的主体性本质跳脱出生物学范畴中的主体,人的生存本质由单一物质性转化为物质性与信息性的混合背景。现代性的伦理问题并非单纯社会性所产生的问题,而是信息化生存中理性且离身的自主性主体问题[3]。信息伦理需要获得技术哲学关于主体性探讨和技术内在性交往关系研究的启示。作为技术哲学内在转向阶段的代表性思想,道德物化(materializing moralty)在技术意向性、技术道德化实践路径方面的探索可以给予信息伦理一定启发。

一、道德物化理论开启信息伦理研究的新视域

信息技术在赋能人的能力提升外,还带来了人对自身生存境域和本质的担忧和焦虑。人们为了获得便利和效率,需要将信息权力让渡给智能技术,在享受着信息便利的同时,又不得不担忧自身在信息环境中的地位,这便是现代信息伦理中的价值悖论问题。信息实体已经成为人们生活生产的必需品,也是信息化关系规则的承载者和解释者。被赋予意义的信息实体在信息环境中按照一定的规则生产、流通、交换,形成存在价值倾向的信息活动,由信息活动构成的信息环境进而影响着人的道德认知与道德行为。这意味着,研究信息环境中的伦理问题,特别是主体身份认知问题,离不开考察信息技术如何建构道德自我和道德身份。

机器伦理的核心问题是如何使得自主智能系统的行为或行为序列与人类的道德判断对齐[4]。道德物化理论出发点,来自技术效率和技术焦虑的价值冲突,视技术为具有能动性的行动者,将伦理研究从结果导向转为过程导向与设计导向,以适应道德实践环境中的不确定性。特别是在人机交互的新闻信息生产中,道德判断是多角度兼顾多方行动者利益的结果,并不是单一伦理标准逻辑[5]。道德物化所提倡的技术调适,研究技术在“人—技”道德实践复合型主体中的意向性,使技术成为激发人们道德实践的驱动力,为缓解道德价值冲突、使“他律”转化为“自律”提供一种新的途径。

(一)道德物化理论溯源及其对信息伦理研究的重要性

技术哲学是一门应用哲学,它主要探究技术是什么、技术的主体性、技术在社会中的作用与影响、技术反思等问题,是对人类如何运用技术以及构建何种技术文明的哲学思考。从技术哲学发展阶段来看,共经历了三次重要转向:经验转向阶段、伦理转向阶段以及内在转向阶段(见图1)。道德物化是技术哲学内在转向的代表性思想。

图1 技术哲学发展的大致脉络(1)本图根据以下两篇论文中的图示绘制:史晨.技术哲学的第三次转向:维贝克道德物化思想的三重特征[J].科学技术哲学研究,2020(5):67-73.潘恩荣.技术哲学的两种经验转向及其问题[J].哲学研究,2012(1):98-105.

经典技术哲学提出的技术价值观,打破了传统主客二元主体论,对主体性问题研究具有重大推进意义。受20世纪中期科技革命影响,科学理论出现重大突破,新技术成为社会生产中的活跃因素,由此成了社会结构性变迁的重要推动力量,技术哲学开始进入经验转向阶段。布瑞认为,技术哲学的经验转向又分为两种:面向社会的经验转向(以下简称ET1)与面向工程的经验转向(以下简称ET2)[6]。两种经验转向的共同点在于都关注具体的而非宏观层面的技术;两者的区别在于:社会经验转向倾向于探讨技术的社会建构性,而工程经验转向则关注技术本身的结构、实践与结果。受研究范式差异的影响,ET1与ET2始终无法形成统一的研究理论与框架,有学者试图通过采用“技术—社会”框架[6],或“设计情境—使用情境”框架[7]来消除二者间的分裂风险。这意味着,技术哲学需要从更为统合的内在路径,整合人与技术间的主体性交织问题,并在此基础上建立研究理论与路径。

这就是技术哲学与伦理学产生交集、并在2000年前后将关注技术伦理作为技术思考的主要原因。伦理主题为技术哲学研究带来了关系性主体研究启发,同时,传统、外在的伦理学研究框架需要结合技术环境加以改造,以寻求更为合适的技术伦理问题解决方案。道德物化理论可以从主体性研究和内在研究视角两个方面,为信息伦理研究提供理论支点和重要启示。

(二)道德物化的主体性研究是信息伦理本体研究的理论支点

主体性讨论是道德物化的本体论基础,可为信息伦理本体论研究提供理论支点。例如,将信息推送中的算法视为纯粹物质性载体,与将算法视为价值倾向的两种不同本体论,将导向不同的研究范式、研究路径和研究视角。道德物化提倡将道德写入技术,使技术发挥“脚本”的规范引导作用,在一定程度上“导演”人们的现实行为[8]。但笔者认为,将道德物化的作用仅仅称之为“脚本”等类似物质载体的基本设施存在是对道德物化主体思想的单一理解。道德物化的提出并不是通过对技术的“布置”和“摆放”来加以规训人的行为,这仅仅是将技术视为单纯客体的主体论,是只见物而不见人的观点。道德物化更重要的启示在于,伦理并不是外部的、结果导向的产物,伦理如交往关系一样存在与发展于“人-技”复合主体构成的物质化交往关系中。

在经典技术哲学阶段,以海德格尔为代表的“技术存在论”突破了物的单纯工具性,认为技术的本质是对人类主体性的“展现”。海德格尔技术理念的核心思想在于他开启了技术哲学的主体建构论思路[9]。福柯、拉图尔、伯格曼等学者延续主体建构论思路,将技术置于具体社会情境中,对技术建构的运行方式进行考察,这类观点被称为“技术中介论”。技术中介论将以批判为主的主体性研究纳入关系考察范畴,引入了实用主义路径。在技术中介论基础上,主体研究引入现象学解释学方法论,逐步形成“技术伴随”(technology accompaniment)的主体性观点。阿特胡斯于1995年发表的“器具的道德化”(De moralisering van apparaten)一文中明确地提出了“人工物的道德”(morality of artifacts)和“物质伦理学”(material ethics)的概念[10],标志着“道德物化”思想的出现。这一思想将主体研究关系视角引入人的主观意识活动领域,开启了关系性的内在探索视角。唐·伊德采用现象学进路分析技术与人的内在建构方式,以“放大”(amplification)和“缩小”(reduction)[11]作为技术意向性(technological intentionality)基础,指出技术意向性随情境不同而改变,呈现出多元稳定性(multistability)。技术的意向性依赖于技术的各种使用方式[12]。维贝克在此基础之上,拓展了技术在人与世界中的关系类型:赛博关系(Cyborg relation)和复合关系(Composite relation),缝合人与技术间存在的物理边界。主客体间通过相互之间的交往关系认识自身与世界,意向性不仅揭示了存在,也揭示了自身。维贝克的“技术伴随”理论也被看成是“道德物化”主体性研究的系统体现。

道德物化作为技术哲学第三次转向的代表思想,延续了技术哲学前两次转向的主体性研究成果,并在此基础上引入现象学方法,形成了系统的本体论、逻辑推演以及现实转化的环节。

(三)“技术伴随”内在视角是信息伦理实践研究的切入点

传统伦理原则之所以出现无法解决技术社会伦理问题的不适应性,关键就在于传统伦理原则忽略了技术作为一种重要建构力量存在的影响,将人视为道德活动的唯一行动者。道德物化提倡将伦理视为技术原发性、而非技术外生性的产物,主张采取内部视角而非外部视角。但需要明确的是,内在视角并非排斥技术的社会建构视角。内在视角强调技术存在伦理导向,这种导向受到技术存在社会的建构与影响。技术是条件,也是行动者。

拉图尔根据其行动者网络理论的研究分析指出,面对当今社会很多地方道德滑坡的现象,社会学家总是把眼光盯在人类身上,试图通过各种教育或宣传手段来提高人的道德修养,而始终忽视物质力量的存在,因此,他建议社会学家应该去探寻伦理空间的“暗物质”。阿特胡斯认为,主体二元论遮蔽了道德实践中意志的活动规律,道德实践不能单纯依靠纯粹的实践理性这种形而上的原则去规定属于意志的活动,道德实践镶嵌于一定的社会物质环境之中,如何更好地实践道德,必须依赖于物的帮助。道德物化认为,伦理学在技术时代应该是技术产品设计中不能忽视的方面,伦理学需要技术的帮助实现。如果伦理学是关于人如何行动的,设计师帮助塑造技术如何调节人的行为,那么设计应该被视为“做”伦理学的一种物化形式[13]。技术物的设计情境与使用情境都包含了伦理导向,技术物设计必须考虑关照技术对于人的主体性的塑造问题。

二、信息伦理道德物化研究困境

(一)存在技治主义(Technocracy)风险

“如何在承认和利用技术对使用者的引导和改变效应的同时而避免人的存在沦为技术的玩物”[14],这是道德物化思想必须回应的关键问题之一,即道德物化是否会加重技术侵犯人的自由之质疑。持康德主义观点的伦理学家认为,人的可贵之处正在于人具有“自由意志”,人可以自己为自己立法并按此立法而行动。如果人的选择是由技术决定的,那么人的自由意志岂不是被剥夺了?如果人失去了意志自由,那么人还何以为人?道德物化的“大家长制”风险还包括了是否会引发技治主义甚至是独断主义的可能性。“道德物化”是否会让努力挣脱技术舒适的主体性,回到受到技术约束的状态,是信息伦理道德物化研究需要面对的挑战之一。

(二)对可能引起去道德化的质疑

“去道德化”的担忧,是将道德托付于技术后,人们是否会更好的撇清道德责任,阻止道德情感进入道德实践,进而变成道德取消的状态。如果人的行为是受到外界力量所促使的,那么在持有义务论立场的伦理学家看来,即使这种行为会带来善的后果,也不能称之为道德的行为,只有出于自己内心的善良意志,并按照心中的道德律作为行动的原则的行为才能称得上是道德行为。如果技术的道德中介作用机制无法厘清,那么一旦超过了平衡的边界,技术的道德中介作用从道德引导的最初良善意图,变成了技术的道德操纵,那么也有可能使人陷入道德情感淡漠、道德迷惘与困惑之中。曾经居于信仰地位的商业伦理和经济道德观念被抑制于技术理性逻辑之下,仿佛经由技术之手达到的高效率狂欢,使人们可以不再为了“道德责任”而烦心。

对“去道德化”效应的第二种担忧是道德信仰的瓦解。道德信仰是人意识中对于“道德”和“至善”的一种信念,是道德价值的内在化形式。道德信仰是在道德困境中坚持自我初心、在道德行为中保持稳定性的重要因素。道德信仰来自道德实践,并最终内化为良心、名誉、品德、修养等道德信仰的各类形态。作为道德主体的人在道德实践中如果不再进行经验总结与道德反思,那么道德行为只是机械的跟随技术的引导。或许这是一种过于极端的表述与质疑,但不可否认的是,道德信仰作为道德行为坚守的内在力量源泉,需要具有主体性的人的道德行为施行。

(三)实践研究落点尚未明确和统一

上述关于道德物化的主要质疑表明:一方面道德物化需要明确关键概念范畴的边界;另一方面更重要的是道德物化需要在实践中获得稳定、一致的研究路径(并非认为此前道德物化实践研究是失败的)。实践路径研究关键在于实践落点的选择:以何种视角切入对道德物化进行研究,即物化道德的“什么”。结合道德物化现有的主要研究成果,笔者对道德物化主要实践路径进行概括对比,详见表1。

表1 道德物化主要实践路径的概括对比

综合上述道德物化实践研究来看,道德物化思想所提倡的主要技术哲学观点:技术伴随的主体性、技术研究的内在视角,在其实践研究中得到了贯彻。在现阶段的道德物化实践研究中,采用“价值”进行分析探索是主要研究落点,价值是体现技术发挥意向性的主要维度。此外,从道德激发力视角出发的研究,虽说未有系统化的实践探索路径,但它仍旧给予笔者重要的启发:道德物化可以从道德内驱力进行探索。

信息伦理道德物化研究所面临的困境,本质上是研究落点并未明确和达成统一。诚然,道德物化的研究落点并非只有一种可能性,但就现有的研究成果来看,仍需要找到一个既符合道德物化研究基本条件,同时能体现人在不同类型主体互动关系间核心地位的研究落点,以克服现有的研究困境。下面将论述“道德价值”作为信息伦理道德物化研究落点的有效性,采用信息技术产品ChatGPT作为案例,探索构建道德价值之路径,以期对后续相关研究提供借鉴。

三、道德价值:信息伦理道德物化研究困境的化解路径

(一)信息伦理道德物化的研究需要满足什么条件

将技术视为具有建构性、能动性以及意向性之行动者角色,是一种主体间性关系型视角。这种关系型视角体现为,主体对于自身的认知从来都不是主体自身所规定的,而是在一段时间内与其他主体和对客观事物认知与能动的视野共同构造,正如福柯所指出的:主体性不是先天完成而是不断受到具体条件影响[15]。

同时,作为主体的自身也是他人认知和能动性指向的客体,通过主客体间的反馈使主体获得对于自身主体性的认识。在基于主体间性关系视角的基础上,传统伦理学资源的主体论述基础是以人为中心的,而在技术化生存的现实情境中,即便是现实伦理问题是传统伦理问题的延续,但伦理问题的发生机制和情境已然发生了改变。道德物化认为,技术是具有伦理导向的,伦理是技术伴随物,这就意味着,需要从内在视角打开技术为何会具有伦理导向,技术在伦理行为中是如何发挥作用的。但伦理学资源如此丰厚,对于技术如何在伦理行为中发挥作用的研究分析,需要找到一个切入点,且这一切入点需要满足主体间性关系视角以及伦理研究的内在视角两个条件。

(二)信息伦理道德物化需要回应关于“技治主义”的质疑

技治主义即技术治理主义,最初发源于1919年前后的美国,并在工业时代成为工业民主治理探索的思潮。技治主义理论主张以科学原则、技术方法与技术专家掌握管理权力的方式实行管理[16]。技治主义提倡的科学管理与专家政治的新管理思潮,对社会治理思想的创新有一定的促进作用,但技治主义也因其政治合理性论证、唯科学主义的倾向以及潜藏的伦理风险招致了质疑与批判。道德物化提倡的将技术道德化的主要思想,被认为与“技治主义”存在类似风险:对技术人工物中介调控作用的过分依赖、过度凸显技术理性逻辑进而掩盖价值理性,有可能会导致技术神话,从而对社会技术和其他技艺的僭越,纯粹技术化的意志会在思想和行动中陷入单一的因果论和数字决定论。无论是“去道德化”效应,或是对技术“大家长制”的质疑,根本上是对“技治主义”的担忧。需要明确的是,这种担忧不是对道德物化本身的质疑,而是如何道德物化的要求,即对道德物化实践落点的锚定。

(三)道德价值:作为信息伦理道德物化研究的突破口

结合上文所讨论的三个关键问题:道德物化之于信息伦理研究的重要性与启示性、道德物化研究的满足条件、道德物化需要回应何种质疑,笔者提出“道德价值”作为信息伦理道德物化研究的突破口。

1.道德价值产生于主客体关系交往范畴

道德价值是行为事实如何对于道德目的的效用,道德价值是道德的内容[17]79-81。道德价值属于价值范畴,是一种客体事实属性对主体需要的效用。主体具有“自主性”,这是一种能识别客体事实属性好坏利害的能力,也是一种通过主体活动实施趋利避害行为的能力。客体具有的事实属性,如果没有经过意识的各种转化形态,变为主体需要的效用,那么这种事实属性是无法称之为具有价值的。价值不光是主体对客体实施自主性活动指向,也是客体获得主体效用认可的意识转化,价值处在主客体关系范畴中。这里的主客体讨论并非主客二元论的观点,而是为了区分某一个实践活动中存在主体与客体之指向,即必然存在自主性的主体,和主体活动指向的客体。主客体之间是可以交换身份的,并不存在着角色固定。道德价值,即行为事实对于道德目的的效用,产生于主客体动态关系范畴之中,满足了道德物化研究的条件之一:关系视角。

2.道德价值贯穿道德行为的全过程

从道德的完整结构来看,道德包含道德形式与道德内容。道德是根据道德价值所制定的,道德规范是道德根据道德价值制定的表现形式,道德价值是道德的内容(见图2)。

图2 道德的完整结构[17]82

道德行为发生离不开道德价值判断。道德规范的形成,是道德价值判断的结果,也是道德价值化约为规范性事实的体现。道德价值存在于意识领域,将客观事实行为与主观意图相连接,通过道德规范的评价,最终作用于道德实践。道德价值贯穿道德实践的全过程。这满足了道德物化研究的第二个条件:内在视角。由于道德价值是一种关系范畴,主体的道德价值展现必然包含了技术对主体道德价值认知的影响,同时,道德价值处于道德实践的“伴随”状态,道德价值既带有技术工具理性的烙印,也带有技术生存环境对主体意识的影响痕迹。

3.道德价值是一种彰显主体性的“自为”活动

道德价值是一种人的主观性评价活动。在实用主义和自然主义视域中,价值的根源在于自然演化所产生的人类的评价性智能[18]。评价活动存在于人类的日常行为实践中。评价性智能属于人类的智能活动,是根据需要和目的意图对行为作出评估指引。价值的本源是人的主观性评价活动,评价内容与评价标准在经过社会化和普遍化之后,附着于客体的某种客观属性上,通过代际传承,形成稳定的、共识的价值观。萨特将存在分为“自在的存在”(being-in-itself)与“自为的存在”(being-for-itself)。所谓“自在的存在”是已经存在着的,本质受存在规定的东西,“自为的存在”是赋予“自在的存在”价值与意义的过程,是人在主观意志中所想要成为的那种状态[19]。评价便是“自为存在”活动,彰显人的主观能动性。将人的主观能动性纳入到道德物化分析中时,自然不会将人的自愿与自由问题排除在外。无论技术介入深浅程度如何,当道德主体具备明晰自身责任与义务的能力,就意味着主体在发挥着对道德行为的道德价值判断活动,这是一种主体发挥自主性与能动性的表现。这说明,人并未将所有道德活动交付于技术或由技术取而代之进行道德决策,“道德取消”效应的困境也可以得到破解。

四、构建信息伦理的道德价值——以ChatGPT为例

价值指客观事实对主观目的的效用评价,价值根据前缀搭配的名词不同,其价值排序也存在差异。例如经济价值,那需要将经济内容视为首要评价要素,将收益、效率等评价要素置于优先排序。信息伦理需要构建一种道德价值,以阐述信息道德与信息交互之间和谐关系。道德价值则需要将道德内容视为首要评价要素,将善、美好、公平、公正等评价要素置于优先排序。道德价值的独特之处在于,它指向的是人精神世界的满足,而非单一物质世界的满足。道德处于人的意识活动领域,存在于人的精神世界中,物质性的道德是道德意识作用于物质实践的体现。道德价值将效用评价从人的外在性、物质性反映,拉回到人的自主性本身:精神世界的富足。所以,道德价值的冲突从本质上反映了信息伦理的核心问题:主体性自由和主体性存在危机感的冲突。

(一)道德价值的发现:道德价值推断法

道德价值属于伦理学研究范畴。元伦理学的研究表明,道德价值的发现和证明方法主要是道德价值推导法[20]。道德价值推导法以价值推导法为基础,事实所对应的是道德主体的行为事实,主体需要、目的对应的是道德目的,同样通过将行为事实与道德目的之关系的推导,获得道德价值。道德价值推导法框架如下[20]:

前提1:行为事实如何(道德价值实体)

前提2:道德目的为何(道德价值标准)

两者前提的关系:行为事实对道德目的之关系(符合或不符合)

结论:(正向或负向)道德价值

道德价值推导法首先要弄清行为事实如何,以ChatGPT为例,需要基于该技术产品的技术逻辑,分析ChatGPT在信息生产、信息关系和信息环境塑造中形成的具体事实。其次,道德价值推导法需要弄清楚道德目的。道德目的本源是一种他律,道德作为一种管理规范手段,强调人自发地对自身欲望、自由的约束行为。人为何要采用自我抑制的行为进行道德实践,是因为对人有益的并非道德行为本身,而是通过实践道德所达成的目的与结果。个体自由与他人自由之间存在着一种默契的、由集体性内化为个体化的调节方式,那便是道德。道德行为发生的评价标准不是行为者获得了何种物质层面的收益,道德行为之所以发生,重点在于行为者如何理解道德行为和道德目的之间的关系,即道德价值评价。

(二)道德价值分析:以AI大模型技术代表性产品ChatGPT为例

1.行为事实:ChatGPT的技术逻辑与社会影响

ChatGPT是由美国人工智能研究公司OpenAI研发的人工智能技术驱动的自然语言处理工具。通过预训练大量文本数据来学习如何生成人类可读文本,拥有语言理解和文本生成的能力。ChatGPT目前在实际应用中的定位是“通用任务助理”,在对话过程中通过强调自身无情感、无价值观的机器属性,希望通过这种角色定位增强AI使用的信任感和安全感。作为一种生成式人工智能,ChatGPT带来最大的改变便是生成内容,正如卡斯特所指出的“作为社会种类机构的基石,权力关系很大程度上通过传播过程在人们心灵中得以建构”[21],从直观角度来看,生成式人工智能虽作用于个体信息交互,但更深层次的影响是嵌入到传播场域的组织结构和权力博弈中。内容是信息生产、传播中的关键要素,也是信息伦理约束的文本对象,具有代表性的AI大模型技术产品ChatGPT对信息生产、信息交往关系以及信息环境分别产生了一定影响(见下页表2)。

表2 ChatGPT的技术逻辑及其对信息传播的影响

由上述表格整理分析,可将ChatGPT形成的行为事实归纳为以下四个主题:

第一,信息的智能生产与整合〔(1)(2)(3)(4)(7)〕:主要指ChatGPT在信息搜索、整合和提炼中的生产效率;ChatGPT能基于与人交互和文本理解特性,应用于内容生成、回答问题、提供思路等方面,改变信息生产与分发模式。实现信息知识价值的快捷、高效提炼,直接作用于人的认知层面,也可能引起简化、窄化人的认知风险。同时,知识产权保护与作品版权保护再次成为关注焦点。

第二,知识生产的“去教师化”与“去专家化”〔(3)(4)(5)(6)(7)〕:区别于专家系统“本质性资料库”[22],ChatGPT基于互联网文本信息“或然率资料库”生成的知识性内容对人类知识传播、流通、调用产生重要影响。知识生产强调在信息生成内容基础上的进一步处理,包括对信息的分析与诠释。知识传播不再是以确定性的教师授课形式传递,ChatGPT生成的知识具有不确定性、概率性与非透明性。知识传播与生产环节中嵌入了多元主体的价值观、社会文化背景、意识形态、权力结构等多种复杂机制。同时,受技术学习水平差异的影响,还可能引起知识学习与接受“鸿沟”。

第三,信息关系与信息环境的改变〔(6)(8)(9)〕:人类为更好地与机器交流(或指挥机器),需要学习和掌握与机器交流的规则与用语(诸如prompt工程师)。机器用语规则与人类用语规则并不完全相同,虽然训练文本来自人类文本,但需要调用、指令、转换等更为深度的机器指挥,还需要学习机器用语规则。所以,不光是机器在学习人类的用语习惯与情境,人类同时也在学习掌握机器用语。人与AI之间存在驯化与反驯化的动态关系。

ChatGPT在解放人类大脑和帮助人类去除一定低水平繁复工作的同时,信息生产传播所裹挟的技术意识形态、价值观念、权力结构等,使得信息生产背后权力实践机制变得更为复杂和难以辨析。训练ChatGPT的文本来源、语言、文本结构,以及人类如何反馈和评价模型输出结果、强化激励模型等都蕴含着权力间的博弈。技术使用水平的差异极有可能会使得未来获得更好数字技术教育地区的人群,在知识生产方面拥有更多主动权和影响力,形成数字知识驱动鸿沟,扩大信息贫富差距与数字不平等。

第四,自我认知与主体性构成〔(4)(5)(8)(9)〕:内容的生成与聚合直接作用于人们的认知,特别是当人们逐渐将记忆、决定、工作日程安排、信息搜集提取等工作外包给智能技术时,人类构建自我认知的信息来源也委托给了智能技术。认知能力和判断能力的增长需要时间与社会阅历,如果长时间包裹于智能技术生产内容、供给知识的环境中,是否会降低人的创造力与想象力?当内容生产并未超脱出现有机器训练给定文本时,是否内容生产本质上只是内容迁移而并非生成?创造力与想象力是人类主体性的重要构成部分,它彰显了人类对主体存在意义的感受与思考,以及如何用灵感来表达和理解世界,创造力和想象力是人类对于世界探究的自我表达。当信息生产的创造性被破坏性所取代,信息的启发性被其畸变性所取代,交流的沟通性被其累积性所取代[23],信息主体将面临被异化的风险。

在信息过载环境中,“收藏即阅读”“看过即知道”行为已是常态,信息过载的情况并没有得到减缓,“认知胖子、行动瘦子”越来越多。当决策的信息积累过程交付于智能技术,而又缺乏判断力的培养时,到底是人类在训练机器,还是机器在训练人类?当技术系统逐渐形成时,人类主体是否会更难改变和介入技术进程?彰显主体自由的“自为存在(2)萨特认为,自为的存在是人按照自身主观意愿成为想要成为的存在状态。参见:萨特.存在主义是一种人道主义[M].周煦良,汤永宽,译.上海:上海译文出版社,2012:30.”是否会在技术替代大脑工作的环境下,取代意识主动性进而消灭主体能动性?当人以非人状态(例如使用prompt训练AI)参与到技术系统中时,是否也是人在学习技术物内部的规范性,以牺牲主体的独特性来换取在技术系统中的位置?

2.道德目的:技术道德与人类道德的对齐

技术道德可以实现与人类道德对齐的根本在于,二者最终道德目的相一致:增进人类利益、实现人的全面发展。对于技术而言,技术对自身进行应用风险规范、道德训练等道德约束的目的是以增进人的利益,实现技术创新与深化应用。对于人类而言,个体需要采用道德规范来约束自身技术使用行为,释放技术效率,保障信息交往秩序与营造良好的信息环境。道德的总目的在于促进社会和利益共同体的存在发展,道德的终极目的在于增进每个人的利益[17]107。根据ChatGPT在信息生产、信息关系与信息环境中形成的事实分类,对应划分其道德目的(见表3)。

表3 ChatGPT的行为事实与道德目的

在上述道德目的的划分中,与道德的总目的与最终目的层次相符,ChatGPT技术应用需要在保障企业、行业自身规范化、可持续发展的基础上,满足整体性利益,进而努力实现增进每个个体的利益。

(三)构建ChatGPT信息伦理的道德价值

道德价值推断法需通过对不同层次的道德目的引申,推演出对应人类多样化道德行为的道德价值评价,进而根据道德价值制定行为应该如何的道德规范。例如:

行为事实:ChatGPT的技术逻辑是以概率逻辑对大量文本进行理解,无法分辨事实真假。ChatGPT生成“非确定性”知识性信息。

道德目的:ChatGPT需增进人的利益,并强调人在信息生产中的主体作用。

道德价值推导:ChatGPT需标注机器生成内容,保护版权(可信);ChatGPT的道德训练应尊重多样化价值观(公平、公正);个体使用ChatGPT应保持质疑与审慎的核查能力(信息素养)。

结论:ChatGPT应具备可信技术规范;人与机器共同参与的模型强化训练应坚持公平公正的价值反馈;个体需提高信息素养。

由前文所述ChatGPT的行为事实与道德目的分析,根据信息伦理规范范畴、道德目的层次以及对应主体道德行为能力,采用道德价值推断法对道德价值进行推导,以ChatGPT为例建构信息伦理道德价值层次(见表4)。

表4 信息伦理道德价值层次(以ChatGPT为例)

在规范监督层面,以技术为道德规范主体层面所对应的道德价值具有清晰的边界和明确的执行规范,符合技术执行任务指令的行动逻辑,可以通过规范监督等显性手段(包括技术手段)实现。在评估审查层面,例如如何实现群智协同、进行公平公正的道德价值反馈、避免偏见与歧视伤害等,需要对人的主观目的和机器模型进行评估与审查。这一层次的道德价值实践需要人与智能技术混合主体共同发挥能动性,具有相对清晰的评估标准和一定的主观评价、解释空间。在激励引导的伦理规范层面,提倡人的主体性自由最终行动者落于人本身。信息伦理认为,现代人的身份是通信的产物[24],信息技术在帮助人们认知社会的同时,也在形塑人们的自我认知。人的必要性不能因为技术能力的强化而降低。这一层面道德价值需要引导人们寻找在信息技术环境中主体存在的必要性和可行性。

受道德价值实践主体能力高低以及约束手段的差异影响,道德价值发展存在阶段性差异。对ChatGPT信息伦理道德价值层次图进行梳理整合后,得出ChatGPT信息伦理道德价值系统(见图3)。

图3 ChatGPT信息伦理道德价值系统

规范性道德价值是道德价值系统的表层结构,是道德价值的外在显性部分,直接关乎道德行为将如何发生与约束,作用于认知层面,是最直接的价值体验,是形成道德价值思维的经验来源。道德价值思维是道德价值系统中的中层结构,包含道德价值判断、道德价值推理等思维逻辑形式,是将外在规范性道德价值转换为内在道德价值观的重要过程,是一种道德价值自我审视能力形成的路径。道德价值观是道德价值系统中的深层结构,它不仅包含对道德价值的认知和判断逻辑,更重要的是包含了内在于人的道德动机和道德需要,是一种由规范内化为情感激励的结果。

(四)采用“道德价值”回归信息伦理道德物化研究

由上述推导获得的ChatGPT信息伦理道德价值系统结构图可以看出,道德价值结构具有由外在—内在演进、人与技术主体交互建构影响的过程,这一过程符合道德物化所提倡的使技术道德化、如何道德化并最终作用于人本身、体现“以人为本”的基本思路。以道德价值回归信息伦理道德物化研究,首先需要明确道德价值的可计算与不可计算部分,对可计算部分的道德价值采取技术引导和技术监督方式引导道德实践,对不可计算部分,例如人的道德意志、道德常识、道德情感,这类道德精神世界的基本支柱部分仍需要以引导和激励人的主体行为、发挥主观能动性为目标。对于道德价值的混合计算部分,重点在于考察“人—技”混合主体的道德价值评价机制,发掘二者在主体构成和认知建构部分的关系,考察技术意向性,并采用目前关于人工智能技术道德评价标准进行排序。目前,基于智能技术(也包含智能信息技术)伦理原则的道德价值标准,可为道德价值评价过程提供稳定、一致的标准。道德价值对道德物化研究的进一步探索具有一定的研究空间与建设意义。