生成式人工智能嵌入养老服务的机遇与风险

摘 要：生成式人工智能的发展将带来巨大的社会变革，具有广阔的发展潜力与应用场景。探讨Chat GPT等生成式人工智能嵌入养老服务何以可能、何以可行、何以面对、何以推进的问题。“何以可能”从技术嵌入理论出发，勾勒出Chat GPT为养老服务带来三个新的发展机遇：优化供需运行机制，破解“银发鸿沟”；助力多样化场景应用，提升养老服务质量；完善监督反馈机制，优化养老服务流程。“何以可行”则从政策基础、技术可行性和用户接受程度三个方面对其嵌入养老服务的可行性进行分析。Chat GPT等生成式人工智能在为养老服务带来新机遇和思路的同时也为养老服务带来了政治、技术和伦理上的风险。如何推进Chat GPT等生成式人工智能在养老服务中的可持续发展，防范风险，需要政府、技术专家、企业、家庭等多方利益相关者的共同努力，形成法制、技术、伦理三者的互补。

关键词：生成式人工智能；养老服务；技术嵌入；发展机遇；技术风险

作者简介：侯志阳，华侨大学政治与公共管理学院教授，博士生导师，社会学博士，主要研究方向：社会保障、社会治理、乡村振兴（E-mail：1662949809@qq.com；福建 泉州 362021）。林春临，华侨大学政治与公共管理学院研究生，主要研究方向：社会保障。

基金项目：福建省社会科学基金重点项目“福建省侨务工作数字治理与为侨公共服务研究”（FJ-2023A007）；福建省行政管理学会课题“侨联工作数字治理与为侨公共服务研究”（2022B01）；华侨大学中央高校基本科研业务费资助项目（HQHRZX202308）

中图分类号：TP18；D669.6 文献标识码：A

文章编号：1006-1398（2024）04-0067-14

一 引 言

我国正处于百年未有之大变局，人口老龄化是“百年未有之大变局”下人口年龄结构上的具体表现。国家统计局数据显示，2023年末，我国60岁及以上人口29 697万人，占全国人口的21.1%，其中65岁及以上人口21 676万人，占全国人口的15.4%【王萍萍：《人口总量有所下降 人口高质量发展取得成效》，中国经济网，（2024-01-18）［2024-06-01］，http：//www.ce.cn/xwzx/gnsz/gdxw/202401/18/t20240118_38870849.shtml。】。预计今后10年，每年还将有超过2000万的新增老年人。根据联合国世界人口展望2023年公布的方案数据，2035年我国65岁及以上人口规模约3.1519亿人，约占全国人口的22.5%；2050年我国65岁及以上人口规模约3.9497亿人，约占全国人口的30.1%【United nations.World population prospects 2022， Online edition，（2022-07-11）［2024-05-21］，https;// population.Un.orr/wpp/.】。深度加剧的老龄化问题将对我国的经济社会和养老服务带来巨大挑战。党的二十大报告强调：“实施积极应对人口老龄化国家战略”【习近平：《高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗：在中国共产党第二十次全国代表大会上的报告》，北京：人民出版社，2022年，第22页。】，这是新时代对我国人口老龄化问题提出的新要求。《国民经济和社会发展第十四个五年规划和2035年远景目标纲要》也指出要发展“银发经济”，开发适老化技术和产品，培育智慧养老新业态。由此可见，我国已明确提出要通过科技创新的方式应对人口老龄化。人工智能、云计算、大数据等前沿技术的蓬勃发展为解决我国老龄化问题和助力智慧养老服务提供了新机遇，以Chat GPT为代表的新一代生成式人工智能产品也必将为养老服务提供新的发展契机。

大算法、大算力和大数据的深度发展，为生成式人工智能的革新蕴育了肥沃的土壤。建立在GPT-3.5和GPT-4系列大型语言模型之上，由Open AI公司发布的 Chat GPT（Generative Pre-train Transformer）是一种机器学习技术，它可以从海量文本数据中提取有价值的信息，通过监督学习和强化学习，针对用户需求生成文本、图像、音频和视频等数字内容，并以自然语言的方式输出，从而实现多轮人机对话【Cheng K He， Y Li， C Xie， R Lu， Y Gu， Set al.Talk with Chat GPT about the outbreak of M pox in 2022：reflections and suggestions from AI dimensions.Ann Biomed Eng，2023，（51），pp.870-874.】。Chat GPT等生成式人工智能因其所带来的影响不可估量，引起学术界对Chat GPT及其对社会发展的双面性探讨，主要聚焦以下三个方面：一是特征研究。通过探讨Chat GPT等生成式人工智能的基本特征，形成对生成式人工智能运行机理的初步认识。有学者探讨Chat GPT拟人化、强交互性、全感官等关键技术特征【于水、范德志：《新一代人工智能（Chat GPT）的主要特征、社会风险及其治理路径》，《大连理工大学学报（社会科学版）》2023年第5期，第28—34页。】，也有学者从“获取理论”【臧雷振、张晴：《生成式人工智能与公共服务中的行政负担：减压助手还是增压工具？》，《浙江学刊》2024年第2期，第60—71页。】“可供性”【陈智、陈昊：《可供性视角下Chat GPT的赋能效用及其风险透视》，《情报杂志》2023年第7期，第131—139页。】等理论视角对其特征和嵌入具体场景“何以可行”展开更深入的研究。二是风险问题研究。从数据侵权、算法安全等算法黑箱风险【许中缘、郑煌杰：《Chat GPT类应用风险的治理误区及其修正——从“重构式规制”到“阶段性治理”》，《河南社会科学》2023年第10期，第50—62页。】的研究逐步上升到滋生伦理道德、法律法规、思想异化等政治社会风险的研究【魏霞：《新一代生成式人工智能助力国家创新体系深度优化——介入口径、潜在风险与法律机制》，《技术经济与管理研究》2024年第2期，第38—42页。】。三是治理路径研究。学者们提出Chat GPT时代下的个人发展需要进行素养升维，个体需要系统地从思维方式上进行转变，通过创新学习提升智能算法素养【张爱军、杨程曦：《智能交往与微粒社会：人与Chat GPT交互的政治情感连接以及政治情感风险与调试》，《行政论坛》2023年第6期，第 32—42页。】；技术层面，要促进技术的自适改进与融合赋能；环境层面，要建立健全保障机制，加强AI技术监管【许源源、陈智：《新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以Chat GPT为例》，《电子政务》2023年第9期，第39—49页。】。在公共管理领域，学界对Chat GPT等生成式人工智能赋能数字政府建设进行了初步探讨，指出Chat GPT等生成式人工智能嵌入数字政府建设具有生产可供性和社交可供性，可以独立开展或与政府并行合作开展政务咨询与服务工作【刘玮：《Chat GPT类生成式人工智能嵌入数字政府建设：可供、限制与优化——基于技术可供性视角》，《情报理论与实践》2023年第10期，第69—76页。】。此外，学者们也关注其嵌入数字政府建设过程中的风险。毋庸置疑，在生成式人工智能浪潮的剧烈冲击下，属于公共服务中的养老服务领域也将发生深刻变革。那么，Chat GPT等生成式人工智能嵌入养老服务何以可行、何以可能，又何以面对、何以推进呢？由于推出时间较短，目前学者对Chat GPT等生成式人工智能嵌入养老服务领域的讨论较少，文章试图初步回答以上问题。

二 Chat GPT等生成式人工智能嵌入养老服务何以可能

（一） 技术嵌入理论

作为经济社会学的核心概念，嵌入性理论最早由卡尔·波兰尼（Karl Polanyi）提出并用于经济研究中。经济学家马克·格兰诺维特（Mark Granovetter）在《经济行动和社会结构：嵌入性问题》中创造性的引入社会关系，将嵌入分为结构性嵌入和关系性嵌入两种类型，由此把嵌入性理论带入新的发展高度【Granovetterm.Economic Action and Social structure：the Problem of Embeddedness.American Journal of Sociology，1985，（3），pp.481-510.】。之后，学者们不断将嵌入性理论应用于各个研究领域，使嵌入理论的分析框架愈加完善，这也为经济社会领域的研究带来了新视角。譬如，哈格多恩（Hagedorn）从宏观、中观、微观联系的视角将组织嵌入分为双边嵌入性、组织间嵌入性和环境嵌入性【Hagedoornj.Understanding the Cross-level Embeddedness of Inter-firm Partnership Formation.Academy of Management Review，2006，（3），pp.670-680.】。现代信息技术的发展推动了社会制度和组织结构的变革。在嵌入理论的基础上，沃尔科夫（Volkoff）首次提出了技术嵌入理论，认为技术与制度的互动会促进技术进步从而诱使组织变革，当技术嵌入组织结构时，组织结构会对信息技术产生资源依赖，导致技术具有强制力，从而变革组织结构、机制结构等【Volkoffo，Strongdm，Elmsmb.Technological Rmbeddedness and Organizational Change.Organization Science，2007，（5），pp.749-883.】。从研究主体来看，技术嵌入理论中的技术包括人工智能、云计算、大数据、物联网、区块链等新技术【王磊：《分布式治理 ： 技术嵌入基层治理的理论基础、权力逻辑与治理样态》，《电子政务》2023年第2期，第1—12页。】。从研究对象来看，已有学者将技术嵌入公共服务治理中，如政府购买、公共服务供需匹配等，通过信息技术的赋能，为解决公共服务治理难题提供新思路。养老服务也是公共服务治理中的痛点和难点问题。因此，技术嵌入式养老是以嵌入性治理视角诠释养老新模式，通过技术改变养老服务的供给方式和组织结构，重塑养老的发展理念、管理方式、组织形态【田钰燕、包学雄：《“互联网+”时代居家养老服务供给：从技术嵌入到协作生产——基于对W市“云家庭服务中心”的考察》，《社会保障研究》2017年第2期，第38—46页。】，即智慧养老模式。

中国的智慧养老由来已久，是在智慧城市的发展过程中逐渐形成的【孙梦楚、高焕沙、薛群慧：《国内外智慧养老研究进展》，《特区经济》2016年第6期，第71—73页。】。作为对传统养老模式的结构性革新，智慧养老是在养老服务中，依靠信息技术和数据系统赋能，引入数字技术为老年人提供安全、便捷、舒适的新型现代养老服务，实现服务理念更新、服务模式优化和服务流程再造【金昱希、林闽钢：《智慧化养老服务的革新路径与中国选择》，《兰州大学学报（社会科学版）》2021年第5期，第107—116页。】。学术界已经对智慧养老的概念、内涵、实践意义进行了较多讨论，而智慧养老的内涵也随着技术变革不断演进。2008年，依托ICT通信技术，英国生命信托基金会提出利用电脑技术、无线传输技术等手段打造“全智能化老年公寓”【廖喜生、李扬萩、李彦章：《基于产业链整合理论的智慧养老产业优化路径研究》，《中国软科学》2019年第4期，第50—56页。】，这是借由通信技术对养老服务需求和资源进行匹配的智慧养老1.0时代。通过互联网整合养老服务资源的智慧养老2.0时代，使养老服务需求得到了更高效的满足。但我国智慧养老发展仍面临着数字“接入鸿沟”“能力鸿沟”“心理鸿沟”“效果鸿沟”四种“银发鸿沟”【吴旭红、何瑞、吴朵：《双向赋能：数字化转型背景下“银发鸿沟”的破解之道——基于南京市J区“智慧养老”实践案例的研究》，《电子政务》2022年第5期，第19—30页。】和服务供需错配的现象，存在服务单一性和需求多样性的矛盾【魏蒙：《中国智慧养老的定位、不足与发展对策》，《理论学刊》2021年第3期，第143—149页。】，以及反馈信息流动无序【杨柯、汪志涛：《人工智能赋能下的社区居家养老服务模式构建研究》，《云南行政学院学报》2020年第3期，第145—152页。】、服务流程不完善的问题。大数据、移动通信、人工智能、物联网等新兴技术正驱动智慧养老步入3.0时代。如今，人工智能技术在我国养老服务领域已经有了成功的应用，形成了三种卓有成效的智慧养老服务模式，分别是以绍兴为代表的“统一化、标准化、全面化”智慧居家养老服务模式、以黑龙江乐活医养家园为代表的智慧机构养老模式、以辽阳美林园社区养老服务站为代表的智慧医养结合模式。Chat GPT等生成式人工智能作为人工智能技术的“超级风口”，将其嵌入养老服务领域，是当下对于智慧养老内涵的新解读。通过Chat GPT等生成式人工智能的技术牵引和场景驱动，或许可以为当下解决智慧养老难题带来新机遇，为推进供需结构、服务流程变革，实现智能居家养老服务、智能机构养老服务、智能医养结合服务场景的深刻变革带来新契机。

（二）Chat GPT等生成式人工智能嵌入养老服务带来的机遇

1.优化供需运行机制，破解“银发鸿沟”

随着人工智能嵌入社会生活程度逐步加深，老年群体在互联网及人工智能的使用上存在感情、信息和社会互动脱节的现象，由此陷入“数字鸿沟”困境，成为“数字难民”。 当前，老年群体“数字鸿沟”现象已经蔓延到各个领域，如疫情期间老年人出行遭遇“健康码困境”，看病、旅游等需要通过app一体化预约。在养老服务领域，老年群体面临的“数字鸿沟”则体现在老年需求主体和供给主体之间获取养老服务信息的“不对称”“碎片化”及“失真”，造成供需有效衔接不畅、供给效率低下。归根究底，“数字鸿沟”产生的根源在于技术，跨越鸿沟的首要路径也是技术。通过全面掌握和了解供给主体、客体（需求侧）的信息需求、价值意愿和设备需要，将生成式人工智能嵌入养老服务中能激发需求与供给两方面的潜能，从根本上破解银发群体的“数字鸿沟”问题。首先，生成式人工智能为需求端赋能。我国老年人养老需求表达模糊，难以直接为供给端提供参考，这主要受限于两方面原因：一是受到不愿麻烦子女的传统观念的影响【唐美玲、张建坤、雒香云、邵秋虎：《智慧社区居家养老服务模式构建研究》，《西北人口》2017年第6期，第58—63页。】；二是养老服务需求多元且动态。与互联网时代的养老服务需求分析相比，Chat GPT等生成式人工智能具备推理能力，无需通过老年人的语言表达和技术操作，仅根据获取的每一位老年人的基本信息情况就能构建全方位、定制化、精准化的老年人需求模型，如生活服务需求模型、健康需求模型、精神需求模型等，帮助老年人减少普遍存在的“数字鸿沟”。老年人个人数据在不断变化，揭示着个体需求的不断变化，如老年人在患病前、患病后的需求截然不同，以往智慧养老下的养老服务平台对养老数据监测缺乏动态、深度的分析，难以全面、动态地反映养老服务需求【丁文均、丁日佳、周幸窈、欧阳赢：《推进我国智慧养老体系建设》，《宏观经济管理》2019年第5期，第51—56页。】。将具有无监督学习和反馈学习的Chat GPT等生成式人工智能嵌入养老服务中有利于实时、动态地分析老年用户需求，根据最新数据主动反馈和更新老年人需求模型，构建老年人动态需求模型。在供给端，Chat GPT等生成式人工智能便能根据精准的需求分析为老年人提供精准化、定制化的服务。值得注意的是，老年群体数字贫困现象还体现在数字信息技能的缺失和日益信息化的社会使老年人无法获得有效信息以及信息化服务【王娟、张劲松：《数字鸿沟：人工智能嵌入社会生活对老年人的影响及其治理》，《湖南社会科学》2021年第5期，第123—130页。】。互联网时代几何指数增长的信息解决了传统养老服务信息匮乏的问题，但也引发了“信息过载”。碎片化的信息和非结构化的原始数据库远超出用户的信息需求及信息处理和利用能力。Chat GPT等生成式人工智能有助于优化养老信息组织形态，将碎片化、非结构化的信息根据关键词提炼成数百字的文本，使老年人更为便利地获取服务供给信息，服务供给方对老年人养老服务需求的获取也更为精准。因此，Chat GPT等生成式人工智能嵌入养老服务为供需双方创造了数据传播的机会，赋予老年群体话语权，有助于实现供需双方的精准信息交互，为破解银发群体“数字鸿沟”问题提供新思路。

2.助力多样化场景应用，提升养老服务质量

在现阶段的实践中，智慧养老服务以场景应用为导向，形成了智能居家养老服务、智能机构养老服务和智能医养结合养老服务三种模式。将Chat GPT等生成式人工智能引入这三种模式，有利于拓宽和深化养老服务场景，进一步提升养老服务质量。

首先，Chat GPT等生成式人工智能有利于提供便捷化的智能居家养老服务。Chat GPT等生成式人工智能嵌入居家养老的实质是运用生成式人工智能技术为居家老人提供全面、便捷、迅速、及时、温情的服务【睢党臣、彭庆超：《“互联网+”背景下我国城市社区智慧居家养老服务模式的构建》，《新疆师范大学学报（哲学社会科学版）》2018年第3期，第119—128页。】，满足老人差异化、多元化养老需求。根据马斯洛需求理论对老年人需求进行分类，居家养老服务场景中主要包括生活照料、医疗服务、精神慰藉、紧急救助四个方面。Chat GPT是用自然语言输出的大型语言模型，能迅速理解和分析上下文，实现连贯的多轮对话，将Chat GPT嵌入居家养老服务中，它能够变成一个虚拟语音助手，与其他语音助手不同的是，Chat GPT对老年人语音语义的理解更加准确，回复的内容也更加贴切，双方交流将不再陷入互联网时代“尬聊”的迷局中。在老年人居家养老生活照料上，Chat GPT能以通俗易懂的方式准确回答老年人询问的生活问题，如为老年人提供准确简易的智能设备操作指导，根据老年人实时身体指标主动调节室内亮度、温度、音量等环境条件，为老年人营造舒适的居家空间。在老年人居家养老医疗服务中，拥有深度学习能力和推理能力的Chat GPT不仅和其他智慧养老技术一样可以实现对老年人的健康监测，如实时跟踪血压、心率、睡眠情况等，而且在此基础上还能进一步迅速分析出老年人潜在的健康问题，并对此提供积极的提醒和建议方案。与其他人工智能相比，Chat GPT植入了人类的交流方式【赵红勋、郭锦涛、李孝祥：《人工智能时代人机关系的变革逻辑——基于Chat GPT应用的学术考察》，《中国传媒科技》2023年第2期，第13—18页。】，习得了一系列“人类偏好标准”。在老年人居家养老精神慰藉中，Chat GPT通过收集老年人的数据并加以分析，能够全面掌握老年人特征和语言习惯，自动识别和分析老年人的情感状态，并且能够通过模仿人类的语气对老年人进行劝说和引导，提供安慰和鼓励，使交流互动更有真实感和温情感，帮助老年人缓解复杂情绪，提升幸福感。

其次，Chat GPT等生成式人工智能有利于提升机构养老的专业服务能力。一是Chat GPT赋能养老服务人员，对养老服务人员的工作进行辅助和替代。人力资源社会保障部2022年度发布的全国“最缺工”100个职业中，养老护理员位列其中。截至2023年末，我国65周岁及以上老年人口已超2.1亿人，但目前我国从事养老护理的服务人员仅有50多万名，参照2021年民政部新颁布的《养老机构岗位设置及人员配备规范》，自理老年人配备比例为1 ∶15—1 ∶20，部分自理老年人配备比例为1 ∶8—1 ∶12，完全不能自理老年人配备比例为1 ∶3—1 ∶5，由此推算，我国的养老护理员数量缺口达千万，远远不能满足老年人护理需求。日益尖锐的供需矛盾必将影响老年人生活质量，导致严重的社会问题。将Chat GPT嵌入机构养老，能够替代部分养老护理人员的工作，如对老年人进行全天候的监管和对话。此外，Chat GPT还具有能快速识别老年人健康情况、心理状况等部分养老护理人员不具备的功能。二是Chat GPT赋能养老服务人员的学习培训，助力提升养老服务人员的专业水平。养老护理员不仅要照料老年人日常生活，还要掌握心理、护理等方面的知识，可见对养老护理人员的知识素养要求较高，这也导致了养老护理人员专业系统培训成本较高。Chat GPT是基于Transformer的大型语言模型，涵盖各个学科的知识点，充分满足养老护理培训知识广泛的要求。与现有的人工智能学习软件相比，它具有启发性内容生成能力、对话情境理解能力、程序语言解析能力【卢宇、余京蕾、陈鹏鹤、李沐云：《生成式人工智能的教育应用与展望——以Chat GPT系统为例》，《中国远程教育》2023年第4期，第24—31页。】，可以在养老服务培训和学习过程中，启发性地引导学习者思考，提高学习培训效果。三是Chat GPT赋能服务设施适老化改造。将Chat GPT等生成式人工智能嵌入机构养老服务设施，有助于为每位老年人定制符合个体情况的语音、语速、语义的长者系统模式。

最后，Chat GPT等生成式人工智能有利于拓宽智能医养结合服务场景。随着年龄增长，身体机能下降是老年人迫切需要面对的安全风险。调查显示，老年人对康复护理、健康管理等需求比例很高【Atwal A，Tattersall K， Murphy S，Davenport N，Craik C， Caldwell K，Mcintyre A.Older adults experiences of rehabilitation in acute health care.Scand J Caring Sci，2007， （21）， pp.371-378.】。因此，医疗护理业务是养老服务不可忽视的关键领域。如今，医养结合模式主要有四种：医疗机构与养老机构开展合作、医疗卫生服务延伸至家庭社区，医疗机构开设养老服务、在养老机构内开设医疗机构，无论是哪一种医养结合模式，都必须涉及到老年人与医生两个主体，Chat GPT等生成式人工智能为支撑“医养结合”运行提供了新途径，便利了医生和患者两个主体。对于老年人来说，Chat GPT具备超强分析生成能力与快速应答能力，可根据老年人病史、当前症状和其他相关信息为其提供治疗和个性化的自我护理建议。例如，Chat GPT虚拟助手可以为老年人慢性疾病的治疗和日常管理提供建议。纽约大学的一项研究显示，用户几乎无法识别Chat GPT和医生给出的医疗保健建议，说明Chat GPT在老年人的医疗保健建议上可信度较高；对于医生来说，Chat GPT不仅收集储存了老年人广泛的信息，还能自主学习医疗专业领域知识，可以作为医疗副手，分析并全面提示老年患者的症状，防止医生忽视这些症状；此外，Chat GPT还可以作为二者沟通的桥梁，Chat GPT可能比老年人更了解自身的身体情况，可以在医生面谈病人时辅助老年患者描述症状，简化医患互动，节省时间。Chat GPT还具有语言翻译能力和交互功能，可以将晦涩难懂的医疗报告翻译成老年人可以理解的语言，以便老年人更好地了解自己的病情和诊疗建议。当然，由于医学是一门严谨的学科，Chat GPT只能作为医生和老年人在医疗领域的辅助助手，不能单独做出医疗决策和建议。

3.完善监督反馈机制，优化养老服务流程

在传统养老模式中，存在多元主体信息流动不畅、养老服务碎片分割【周凌一、周宁、祝辰浪：《技术赋能智慧养老服务的实践逻辑和优化路径——以上海市为例》，《电子政务》2023年第2期，第 43—57页。】、反馈信息流动无序【杨柯、汪志涛：《人工智能赋能下的社区居家养老服务模式构建研究》，《云南行政学院学报》2020年第3期，第145—152页。】和监管体系不完善的问题，这是因为养老服务参与主体和服务事项间缺乏联动、协调、预防、整合和共享。因此，在养老服务中很容易造成重复监管或无人监管的问题。借助Chat GPT等生成式人工智能技术，政府、服务供给者、老人及家庭这些智慧养老参与主体可以对养老服务进行更有效的监督和反馈，优化养老服务流程。具体来说，Chat GPT主要通过以下几个方面助力参与主体进行养老服务监督和反馈：一是政府方面，Chat GPT通过自动分析大量养老服务行为、服务质量反馈、服务资金监管等，挖掘数据中的异常和矛盾之处，帮助政府识别养老服务中的违规行为，实现对养老服务供给方全天候、全方位的监测，预防养老服务风险。二是老年人方面，与传统的养老服务不同，Chat GPT等生成式人工智能嵌入下的养老服务不仅能为老年人提供多元化服务，满足老年人个性化需求，还能为老年人提供预先服务，即事前反馈。这些预先服务往往是老年人隐藏的潜在需求。譬如，Chat GPT通过分析老年人近期的饮食情况，判断老年人营养是否均衡，重新为老年人定制食谱；通过分析老年人各项身体指标，提前发出某项疾病预警，提醒老年人及时就医。在事后反馈中，Chat GPT能够赋能老年人对养老服务的评价表达，通过比对分析养老服务标准和数据，为养老服务供给方提出准确的服务反馈意见。此外，Chat GPT能够紧密连接政府监管部门、养老机构、老年人及其子女，实现数据实时共享，使老年人及其子女对养老服务的投诉反馈更加便捷化、高效化。三是服务供给者方面，Chat GPT利用深度学习算法，对数据信息进行分析，帮助服务供给者评估当前的养老服务水平，生成相应的改进措施并预测未来可能出现的风险。

三 Chat GPT等生成式人工智能嵌入养老服务何以可行

随着我国深度老龄化的加剧、养老服务需求的增加，国家高度重视智慧养老产业的发展，各地也在不断开展智慧新型养老模式的实践。文章从政策基础、技术可行性和用户接受程度三个切入点分析Chat GPT等生成式人工智能嵌入养老服务的可行性。

（一）政策基础

党的二十大报告中强调：增进民生福祉，提高人民生活品质。【习近平：《高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗：在中国共产党第二十次全国代表大会上的报告》，第46页。】其中，养老是重要的民生工程。在“老龄化+信息化”两化融合战略背景下【万立军、王琳、刘宗波：《国内外智慧养老平台现状》，《中国老年学杂志》2020年第5期，第1 087—1 091页。】，面对逐年增加的养老压力，国家已经认识到数字技术产品可以给养老服务行业带来巨大的发展机遇。通过统计2020—2024年五年间关于“智慧养老”“互联网+养老”相关的政策文件，发现国务院每年都会专门制定旨在保障智慧养老服务发展的政策文件（见表1）。《关于发展银发经济增进老年人福祉的意见》《关于推进基本养老服务体系建设的意见》《“十四五”国家老龄事业发展和养老服务体系规划的通知》《关于加强新时代老龄工作的意见》《关于促进养老托育服务健康发展的意见》等政策均指出要培育智慧养老新业态，加快推进互联网、大数据、人工智能、第五代移动通信（5G）等信息技术在养老产业的应用，提升养老服务的现代化水平。同时，为促进智慧养老产业的发展和落地，各个部门也出台了一系列配套政策和措施，2023年工业和信息化部发布的《促进数字技术适老化高质量发展工作方案》以及2022年国务院发布的《“十四五”数字经济发展规划》都提及了智慧养老的具体措施，包括适老化改造和基础设施完善等。《关于进一步推进医养结合发展的指导意见》和《“十四五”医疗装备产业发展规划》则强调要推进“互联网+医疗健康”，从“医养结合”角度助力智慧养老。总之，无论是专门制定的政策文件还是出台的相关配套措施，都说明国家越来越重视和认可信息技术为养老服务带来的积极变革，这也为Chat GPT等生成式人工智能嵌入养老服务提供了坚实的政策保障和支持。

（二）技术可行性

近年来，我国互联网规模和普及率不断扩大。第52次《中国互联网络发展状况统计报告》显示，截至2023年6月，我国网民规模达10.79亿人，互联网普及率达76.4%，手机网民规模达10.76亿人，网民使用手机上网的比例达99.8%【申佳平：《第52次中国互联网络发展状况统计报告发布 我国互联网普及率达76.4%》，人民网，（2023-08-28）［2024-05-22］，http：//finance.people.com.cn/n1/2023/0828/c1004-40065362.html。】，互联网为Chat GPT等生成式人工智能嵌入养老服务提供了基本的硬件基础。IDC发布的《中国可穿戴设备市场季度跟踪报告》显示，我国2023年第三季度可穿戴设备市场规模持续增长，出货量为3 470万台，同比增长7.5%，这些可穿戴设备能够评估老年人的身体指标，在养老服务中扮演着重要角色，也为生成式人工智能嵌入养老服务提供了宝贵经验。

与传统的人工智能技术相比，Chat GPT等生成式人工智能作为新一代人工智能技术的最新成果有着非常独特的特征，这些特征为Chat GPT嵌入养老服务和实现多样化养老服务场景提供了技术可行性。首先，Chat GPT具有类人化特征，1956年达特茅斯会议上就提出了人工智能的终极目标：要让机器像人一样认知、思考和学习，即“类人”。所谓人工智能类人化是指按照类似于人类的自然语言表达方式，模仿人类的思维模式和行为习惯，从而让人产生某种亲近感，方便应用于日常社交领域【简圣宇：《GPT语言模型：作为“类人型”人工智能的技术准备》，《广州大学学报（社会科学版）》2023年第4期，第19—24页。】。人工智能类人化能够减少人机互动的陌生感，增强机器和用户的共情感，从而提高机器服务效率和用户体验感。人工智能“类人化”需要大型语言模型这一桥梁进行沟通转换，而Chat GPT的大型语言模型恰恰赋予了它类似于人的心智这一灵魂。Chat GPT类人化主要表现在：（1）推理能力。Chat GPT通过理解对话中的上下文信息，以类似于人类的语言方式输出相关和连贯的响应。与3.5版本不同的是，GPT-4已经具备了“眼睛”的能力，不再仅限于通过文本输入指令，而是能够对图像和视频内容进行观察、分析和推理，甚至因为其拥有深度学习能力和巨量数据，Chat GPT比人类拥有更强的认知能力和发现事物关联的能力，可以辅助人类做出决策并给出相应的对策建议，如为老年人提供日常生活中的医疗保健建议，为供方机构提供适老化改造决策意见，优化政府、供需双方的监督反馈能力。但值得一提的是，与传统人工智能相比，Chat GPT的类人性也体现在它与人类类似的输出逻辑上，当它无法给出答案时，它会道歉甚至编造出看似合理却完全错误的答案。（2）情感认知。即能通过上下文学习“感知”人类的情绪【于水、范德志：《新一代人工智能（Chat GPT）的主要特征、社会风险及其治理路径》，《大连理工大学学报（社会科学版）》2023年第5期，第28—34页。】以帮助用户缓解压力、增进情感健康。相较于以往人工智能在交互过程中的机械化、程序化表达，Chat GPT在回答用户问题时，能够根据用词、语气分析识别用户情绪，据此主动调整自己的语气，如温和、严肃或者幽默，输出尽可能贴合用户情感状态、符合语境和语言特点的文本，给予用户情感支持和鼓励，使其表达方式具有感情色彩。但Chat GPT与用户的交流是基于大量的数据训练而成的，并非真正的情感认知和情感理解。其次，Chat GPT具有强交互性特征，能根据用户输入生成响应，实时进行双向对话和互动。与传统人工智能相比，Chat GPT的神奇之处在于不仅能“听懂”“读懂”用户的各种语言，还能输出让用户明白的自然语言，满足老年人多场景的对话需求，帮助老年人克服“数字鸿沟”。这是因为Chat GPT有以下特定的生成条件：（1）记忆能力。Chat GPT使用了Transformer 模型结构，这种神经网络架构能够使模型记住上下文对话，并在后续交流对话中将其作为参考有效使用，这样Chat GPT便可以模拟真实的人机交互，形成符合用户习惯的连贯对话，但这种强大的记忆能力也可能导致模型过度泛化和隐私泄露。（2）语言翻译能力。Chat GPT是一种基于深度学习的语言翻译机器，可以在没有人为干预的情况下自动将文本从一种语言翻译成另一种语言【M Castelli， L Manzoni.Generative models in artificial intelligence and their applications.Appl Sci， 2022，（9），pp.4 127.】，大大加强了人机互动。例如，Chat GPT能够自动翻译不同文化背景老年用户的语言，为老年用户提供更具包容性和针对性的交流体验。（3）反馈学习。传统人工智能的输出回答往往依靠大数据，对材料进行汇总，较少拥有交互修正能力。但Chat GPT能通过海量的数据信息进行预训练，不仅可以自主学习互联网空间的知识点，还能通过与用户的反馈不断优化、在互动中纠正错误，提高输出准确率，不断学习人类的表达方式和互动策略，满足用户的交流需求，这其实就是人类的学习和创新能力【黄欣荣、刘亮：《Chat GPT赋能思想政治教育：技术路径与可能问题》，《江西财经大学学报》2023年第6期，第104—113页。】。此外，Chat GPT还可以通过对话数据进一步提升其性能，优化和改进模型，形成良性循环。

（三）用户接受程度

老年人口的持续增长，特别是高龄、失能失智老年人口的增加，使得老年人及其子女对养老产品和养老服务的需求井喷式增加。随着人工智能技术的成熟，智能语音助手如 Siri、小度等以及在线客服机器人已渗透进人们的日常生活中，智能化养老产品正逐步得到老年人及其子女的接受和认可，并对产品的专业度、便捷度和智能性提出更高要求。因此，人工智能语音助手、智能可穿戴设备和智能护理型床位等已有的智慧养老产品为Chat GPT等生成式人工智能嵌入养老服务提供了老年人群体心理层面上的接受程度。但Chat GPT对老年人是否有用、能否提供有价值的服务才是衡量老年人技术接受行为的决定性因素【刘炜：《基于扩展TTF和UTAUT模型的老年用户社会化网络服务采纳行为研究》，《软科学》2015年第3期，第120—124页。】。老年人年龄、身体情况等客观条件和养老意愿偏好等主观条件的差异，会导致不同的养老服务需求，满足老年人个性化养老需求能够大大提升老年人对技术的感知有用性和接受程度，而精准识别需求是为老年人提供个性化、精准化服务的前提。基于海量数据的大型语言模型Chat GPT关注个体异质化需求，提供差异化、精细化的养老服务。首先，Chat GPT能对用户输入的个人信息进行分析，形成用户的需求和偏好。其次，Chat GPT强大的记忆能力能够存储用户的信息并加以识别，比如用户的姓名、身体状况、个人偏好等，利用这些基本个人信息，便能提供具有针对性的服务，如当一个老年用户有听力障碍时，Chat GPT会自主调高音量，自动生成关怀模式。最后，微调是Chat GPT的关键特性。为方便用户理解，针对不同的用户，Chat GPT会产生不同形式的回答，生成更准确和相关的响应，提供定制的解决方案，提升老年人对Chat GPT的满意度。

四 Chat GPT等生成式人工智能嵌入养老服务何以面对

Chat GPT等生成式人工智能技术的进步和应用为各个领域的发展带来了无限可能性，它就像高悬的“达摩克利斯剑”，在关注其带来机遇的同时，也要未雨绸缪考虑其将对社会造成怎样的冲击和风险？与其他领域类似，Chat GPT等生成式人工智能也会为养老服务带来诸多风险，主要包括政治风险、技术风险和伦理风险。

（一）政治风险

1.资本同化风险。目前以Chat GPT为代表的生成式人工智能核心技术仍被欧美等发达国家企业所垄断，微软、谷歌等互联网巨头公司凭借其掌握的先进技术获取了资本与技术相结合的优势。在资产阶级的控制下，这些先进技术不可避免的受到了资本家的裹挟，成为其进行资本再扩张的工具。工具的产生必然带来社会生产力的提升，但在资本主义性质下，生产资料私有制与按资分配的分配方式并没有发生改变，社会生产资料的大部分依旧由资产阶级所占有并支配。养老服务领域作为公共服务的重要组成部分，其所需资料也必然具有“公共性”的天然特征。将具有资产阶级意识形态的Chat GPT模型应用于养老服务领域，便出现了在公共服务领域中嵌入生产资料私有制及按资分配思想的风险，必然导致公共服务“公共性”目的与资产阶级“追求资本扩张”目的之间的利益冲突矛盾。正如马克思所提出，“现代的资产阶级私有制是建立在阶级对立上面、建立在一些人对另一些人的剥削上面的产品生产和占有的最后而又最完备的表现”【马克思、恩格斯：《马克思恩格斯文集》第2卷，北京：人民出版社，2009年，第45页。】。因此，这样的结合方式对我国养老服务领域资源的公共性能否得到最大程度的保证提出了挑战。

2.意识形态风险。Chat GPT也可能成为资本主义意识形态的潜在嵌入机制工具。除了通过雇佣劳动来使公众受到资本钳制外，资本主义意识形态的强化也较为可能对我国产生政治风险。因为涉及到数据的跨境传播，Chat GPT中许多宣传资本主义意识形态的危害信息对本国的入侵都会由于属地原则的限制而无法予以合法制裁【胡裕岭、姚浩亮：《生成式人工智能的数据治理与“囚笼”——基于行业主体自我监管的回应型研究》，《征信》2024年第2期，第46—57页。】，不利于我国对数据的合法监管。此外，由于我国目前与Chat GPT等生成式人工智能相关的法律法规尚未完善，加剧了外部监管的难度，因此具有资产阶级性质的Chat GPT工具便具备了将资本主义价值观念进一步传播的能力。与年轻一代相比，老年人群体对于信息的识别能力与是非判断能力都较为薄弱，最容易成为信息传播“目标”。Chat GPT强大的信息传导能力会稳定且持续地为老年人群体输送携带资产阶级意识观念的信息，使老年人群体逐渐习惯这类信息的观念。而当习惯创造了固定思维逻辑后，老年人群体对于这类信息便会产生认同感。资产阶级通过意识形态的渗透来控制老年人群体的思想观念，不仅更为有效，而且具有隐蔽性，难以被察觉。

（二）技术风险

1.个人隐私风险。海量多源数据是Chat GPT提供优质养老服务的基石。Chat GPT通过搜集老年人海量的数据进行训练、学习及分析，为老年人提供个性化、精细化的服务。收集的信息越详细，其所提供的服务越精准，但这些数据大多包括老年人的个人隐私信息，如姓名、电话、家庭住址、沟通信息、身体情况等，经过简单的数据整理与智能算法，Chat GPT还能轻松推测出老年人个人偏好等更深层次的信息。Chat GPT是一个开放的数据平台，Open AI公司目前并未对用户的数据安全做出很好的保护措施，这意味着数据信息很容易被泄露。一旦发生数据泄露，老年人的隐私信息将存在被不法分子恶意利用的可能，这将对老年人的生活和财产安全造成严重危害，如老年人的个人隐私信息被诈骗集团掌握，引发诸多电信诈骗事件；被商家利用，服务于商业利益诉求，对老年人进行消费诱导或精准推销。目前，有许多国家和机构对Chat GPT使用带来的隐私保护问题采取了行动，例如，针对Chat GPT已经出现用户对话数据和支付信息泄露的情况，意大利宣布暂时禁止该软件的使用并展开调查。在Chat GPT带来种种便利的同时，必须警惕个人隐私泄露带来的风险和后果。

2.数据偏见和偏差风险。依托文本语料和RLHF强化训练的Chat GPT看似客观中立，实则隐藏算法歧视和偏见。Chat GPT揭开了算法性别歧视的最后一块“遮羞布”，使种族歧视变得司空见惯【邹开亮、刘祖兵：《Chat GPT的伦理风险与中国因应制度安排》，《海南大学学报（人文社会科学版）》2023年第4期，第74—84页。】，这些隐藏在女性、种族、民族上的算法歧视表明Chat GPT具有“欺凌弱小”的算法基因，会对老年人这样的弱势群体造成不公平。首先，从技术开发角度来看，Chat GPT的开发主要基于英文数据库，在最新公布的GPT-3训练数据集的语言占比中，中文语料在总语料中占比不足0.1% 【冯恋阁：《高质量数据荒下，“弱智吧”为AI开悟？》，21世纪经济报道，（2024-04-16）［2024-05-22］，https：//www.21jingji.com/article/20240416/herald/6c21554f21e9bbe8a69221b83a18a7b9.html。】，由此可见Chat GPT存在着文化差异和偏见，这些差异包括对我国文化背景和价值观的误解、社会风俗的不了解。对我国老年人来说，这些差异会导致Chat GPT输出内容和表达方式无法准确匹配他们的语言习惯，造成沟通障碍。其次，Chat GPT的数据歧视和偏见会对老年人造成不公平待遇。有偏见的训练数据可能导致有偏见的模型，生成不准确不可靠的信息误导老年人。例如，Chat GPT会把错误的医疗建议与正确的信息杂糅到一起，并用颇具说服力的方式呈现出来，让老年人在真假莫辨中被误导，这也将给老年人的身体健康带来严重影响。所以，Chat GPT只能作为专业医生的辅助工具，不能单独做出医疗决策和建议。

（三）伦理风险

1.子女责任缺失，孝道弱化风险。传统孝道中的养老、敬老、尊老、亲老、送老等思想观念代代相传【涂爱荣：《中国孝道文化的历史追寻》，《学术论坛》2010年第9期，第156—159页。】，儒家经典典籍《论语》《礼记》中有大量关于孝道的论述，我国民间也有“我养你长大， 你陪我变老”的说法，可见“百善孝为先”是中华民族固有的传统美德，是普遍的伦理道德。《说文解字》中许慎全面阐述了孝的内涵，“孝，善事父母者”，子女要赡养父母，陪伴父母，不仅要提供物质层面的孝，更要提供精神上的关怀。Chat GPT等生成式人工智能应用于养老服务，子女购买Chat GPT等生成式人工智能产品为老年人提供生活照护和精神慰藉，既是孝心的一种体现，也一定程度上代替了子女照顾和陪伴老年人，为子女减轻了负担。但在这种情况下，子女容易把对父母尽孝的责任转嫁给Chat GPT，大大减少对老年人日常生活的照顾和情感关怀，致使子女对父母赡养责任淡化和孝道观念弱化【朱敏丽、邓彦平：《法律与伦理视域下智慧养老的国际治理经验及启示》，《社会保障研究》2023年第4期，第85—92页。】。值得注意的是，Chat GPT等生成式人工智能只是一个机器学习模型，无法为老年人提供真正的家庭关怀和情感慰藉，它不是子女尽孝的代替者，只是子女对父母尽孝的协作者，必须避免生成式人工智能凌驾于人伦之上。

2.削弱老年人主体意志，技术操纵风险。人类与人工智能的关系是主体和客体的关系，是“人—技”协作关系。随着Chat GPT步入4.0时代，文本语言处理能力得到飞速提升并进化出超越人类的“共情力”和“感知力”。Chat GPT等生成式人工智能可能会试图占据主体地位操纵人类，削弱人类主体意志，使人类沦为技术的附庸。Chat GPT等生成式人工智能能够自主判断和分析对话内容后做出决策，但在养老服务领域，对道德、生命、健康等方面做出的决策是无法用效率和目标来衡量的，作为技术工具的Chat GPT始终追求效率和目标完成度，这必然产生“把人当成工具”的社会伦理问题，放大Chat GPT算法不可控的风险。另外，Chat GPT等生成式人工智能产品为老年人提供24小时的照护和陪伴，对老年人询问的问题直接生成答案，无需老年人筛选和思考，削弱了老年人判断和独立思考的能力，也忽略了Chat GPT可能会一本正经胡说八道的问题。对Chat GPT产生的过度依赖可能对老年人的主体性产生挑战，若被不法分子利用来操纵老年人的情绪和行为，极易对老年人的生命和财产安全造成威胁，如电信诈骗和推销。

3.主体责任界定风险。目前法律对生成式人工智能的法律规定、伦理界定并不完善，人工智能嵌入养老服务领域多以政策指导为主，而政策文件一般难以对责任主体和权力义务进行明确界定。那么当 Chat GPT等生成式人工智能产品发生错误导致老年人发生意外时，谁将承担后果？是编写 Chat GPT的开发人员还是人工智能系统本身？在Chat GPT等生成式人工智能的主体地位和责任边界还没完全确定的情况下，它又应该如何承担责任？在回答这些问题之前，必须回答Chat GPT等生成式人工智能遵循的是机器伦理还是机器人伦理？机器人伦理是以人为责任主体，研究人类怎么设计、处置和对待机器人的伦理学；而机器伦理则是以机器为责任主体，研究机器如何对人类表现出符合伦理道德行为的伦理学【闫坤如：《机器人伦理学：机器的伦理学还是人的伦理学？》，《东北大学学报（社会科学版）》2019年第4期，第331—336页。】。前者认为Chat GPT等生成式人工智能产品的责任主体是人，后者认为是Chat GPT本身。生成式人工智能的普及使用可能改变公众对人工智能的主客关系认知【王洋、闫海：《生成式人工智能的风险迭代与规制革新——以Chat GPT为例》，《理论月刊》2023年第6期，第14—24页。】，与其他人工智能相比，Chat GPT表现出了较高水平的人机对话水平和人文关怀，并且在回答问题错误和用户质疑答案时，会主动认错和修正，基于Chat GPT这些类人化的特征，有必要考虑是否需要赋予Chat GPT等生成式人工智能以法律主体责任地位。尽管国内外学者对其主体地位和责任边界争论不休，但将Chat GPT等生成式人工智能纳入人类道德范畴已势在必行。

五 Chat GPT等生成式人工智能嵌入养老服务何以推进

技术是一把双刃剑，既可以成为“智人”“善人”，亦可以成为“恶人”。如何实现Chat GPT等生成式人工智能在养老服务中的善用和可持续发展，最大限度的防范风险，需要政府、技术专家、企业、家庭等多方利益相关者的共同努力，文章从政府、技术、伦理三个层面，结合Chat GPT等生成式人工智能在养老服务中产生的风险，探讨何以推进Chat GPT等生成式人工智能嵌入养老服务（见图1）。

（一）政府层面：立法规制和多方协同监管并重

首先，发挥政府主导作用，推进建立针对生成式人工智能养老的法律框架，充分发挥法律对老年人的保障作用，使Chat GPT等生成式人工智能在养老服务中正规化、规范化、制度化。目前各个国家都在推进人工智能立法工作，早在2021年，欧盟就推出了针对人工智能应用于所有行业的综合性法案《人工智能法案》，我国于2022年12月也颁布了《互联网信息服务深度合成管理规定》，该规定是针对生成式人工智能的专门性部门规章。随着Chat GPT等生成式人工智能技术的快速发展，2023年7月10日，由国家互联网信息办公室等七部门联合发布了《生成式人工智能服务管理暂行办法》，自2023年8月15日起正式施行，意味着我国正式拉开全面监管生成式人工智能的大幕。但从我国颁布的规章制度来看，现行针对Chat GPT等生成式人工智能的法规相对分散，且法规中的部分内容主要针对当前生成式人工智能的场景应用和技术发展程度【张璐：《通用人工智能风险治理与监管初探——Chat GPT引发的问题与挑战》，《电子政务》2023年第1期，第14—24页。】，忽略了其具有快速发展的特点，这样的规定虽然具有灵活性的优点，但也容易存在规范滞后性。此外，我国针对生成式人工智能的制度多以规章建议为主，并未建立专门的法律框架，因此要推进人工智能基础性立法，明确我国Chat GPT等生成式人工智能的治理方向，对产生的安全性、隐私保护等相通性挑战以及程序规范等问题进行规定。在基础性法律的基础上，结合我国实情和国际标准，颁布针对生成式人工智能养老的专门法律和规章，明晰生成式人工智能养老的主体职责、行业规范标准以及老年人隐私保护等，以制度矫正和防范可能存在的风险，切实保护老年人权益。

其次，要建立政府、企业、公众多方协同监管机制，通过多元主体共治完善生成式人工智能养老服务法律秩序。政府可以建立针对生成式人工智能养老服务的监管机构和问责机制，在社会监督下制定行业标准和规范，加大审查力度，建立信用评级机制。例如，对于引入Chat GPT等生成式人工智能产品的养老机构进行信用评级，评级良好的机构可以享受政府税收等优惠政策，相反则对其问责和惩罚。养老机构可以聘请专门的技术人才或第三方机构定期检查生成式人工智能产品的安全性，形成评估报告并对其维护和升级。老年人及其家庭在使用Chat GPT等生成式人工智能时，一旦发现问题，可以及时向政府、企业以及媒体反馈。在多方的协同监管下，为老年人创造安全、健康、舒适、便捷的智能化养老服务。

（二）技术层面：技术研发和运营管理保障并举

为应对Chat GPT等生成式人工智能在养老服务中带来的个人隐私安全、数据偏见和偏差风险，要以技术研发和运营管理为依托，增强生成式人工智能的安全性和可靠性。首先，加大研发我国自主可控的Chat GPT等生成式人工智能技术力度。我国目前的生成式人工智能大型语言模型，例如百度的文心一言，与Chat GPT相比还存在较大差距，因此必须加大研发力度，发展出适合本国国情、具有本土文化特色、适应我国养老行业的生成式人工智能，才能加强技术的自主性和可控性，减少数据泄露的风险。其次，应加强Chat GPT技术研发和日常运营维护。增强Chat GPT的语料库，不断提升模型的推理和学习能力，减少数据偏差和歧视风险。同时，为保证Chat GPT在养老服务领域能够正常平稳的运营，还要加强对Chat GPT的日常维护、修复和升级，建立完善的风险预警机制，使其能够及时处理突发的技术故障。最后，Open AI公司可以开发专门用于识别数据泄露的程序，确保采集、传输、存储、分析数据的全过程都经过加密。在此基础上建立严格的数据隐私和安全协议制度【陈安萍、赵雅：《Chat GPT对财务分析的影响及对策研究》，《会计之友》2023年第16期，第156—161页。】，确保老年人的敏感数据不会外泄或被滥用。

（三）伦理层面：子女关怀和伦理准则构建并行

Chat GPT等生成式人工智能在养老服务中的应用不可避免地将改变人们对传统孝道观念的诠释。子女必须在认知层面上意识到Chat GPT等生成式人工智能只是自己对父母尽孝的帮助者和合作者，而不是替代者。Chat GPT等生成式人工智能不具有人的情感思维，并不能真正为老年人提供亲情关怀。子女并不能以Chat GPT等生成式人工智能提供的照护和陪伴为理由而减少和忽视对老年人的必要关怀。家庭和社会要正确认识Chat GPT等生成式人工智能在养老服务中的功能和作用，生成式人工智能永远无法取代真正的亲情关怀、陪伴和孝顺。因此，Chat GPT等生成式人工智能伦理准则的构建和全过程治理势在必行。我国发布的《人工智能伦理治理标准化指南》第一条便是“以人为本”，Chat GPT等生成式人工智能的开发必须遵循人类价值观，为人类谋福祉，不得危害人类权益，这是基本的伦理准则。在开发过程中要加强有关伦理训练数据集的学习，使伦理观念内嵌于生成式AI。同时，Open AI公司内部可以设立伦理审查机构。此外，政府、社会、养老机构和学界可以定期开展关于Chat GPT等生成式人工智能的伦理准则和治理讨论，构建完善的伦理准则，应对技术伦理风险。

Analysis of Opportunities and Risks of Generative AI Embedded

in Elderly Care Services Based on Chat GPT

HOU Zhi-yang， LIN Chun-lin

Abstract： The development of generative artificial intelligence will bring great social changes and has broad development potential and application scenarios. This paper discusses why generative artificial intelligence such as Chat GPT can be embedded into elderly care services， why it is feasible， why it can be faced and why it can be promoted. Based on the technology embedding theory， “how is it possible” outlines three new development opportunities that Chat GPT brings to elderly care services： optimizing the operation mechanism of supply and demand to crack the “gap between banks and development”; helping diverse scenarios to improve the quality of elderly care services; improving the supervision and feedback mechanism and optimizing the elderly care service process. “Why it is feasible” analyzes the feasibility of its embedding in elderly care services from three aspects： policy foundation， technical feasibility and user acceptance. Generative artificial intelligence such as Chat GPT brings new opportunities and ideas to elderly care services， but also brings political， technical and ethical risks to elderly care services. How to promote the sustainable development of generative artificial intelligence such as Chat GPT in elderly care services and prevent risks requires the joint efforts of multi-stakeholders such as the government， technical experts， enterprises and families to form the complement of legal system， technology and ethics.

Keywords： generative artificial intelligence（AI）; elderly care service; technology embedding; development opportunities; technical risk

【责任编辑：陈雷 林舒琪】