数字经济背景下数字产品设计伦理问题探究*

2022-01-01浙江经贸职业技术学院高雅斯张先良

区域治理 2021年6期

浙江经贸职业技术学院高雅斯，张先良

一、概述

（一）数字经济

数字经济指的是人类运用信息化手段通过大数据实现社会资源的快速优化配置与再生以及经济高质量发展的经济形态。目前我国已经进入了数字经济时代，数据和知识产权成了重要的生产要素。[1]数字技术给社会发展带来了新的活力，运用数字技术推动经济发展、改善社会治理体系、提高政府服务质量和监管能力、提高企业工作效率已经成为社会发展新趋势。数字经济的产生是基于成千上万甚至数以亿计的虚拟用户人口，以数据和知识产权为核心，创造企业和社会价值的经济形势。

（二）数字设计

数字设计（digitaldesign）是20世纪90年代“艺术”与“科技”进行结合后而产生的一种新的设计方式。在互联网高度发达的时代，以“数据化”人工智能技术的发展，使得数字设计所涉及的学科、影响的领域愈加广泛，例如广告、影视、游戏、建筑、工业设计、纺织、医疗等领域。从以智能手机为代表的数字产品的出现到迅速普及，数字产品的即时传播从影响当地小范围市场扩大为拥有全球的受众的媒介，数字设计对整个社会氛围和个人生活的影响都非常深远。

（三）设计伦理

“设计伦理”的概念最早是在维克多巴巴纳克在《为真实的世界设计》中提出的，强调设计必须考虑人、环境、资源等因素，实现各种价值的统一平衡。2013年德国汉诺威工业博览会上正式提出了第四次工业革命的概念，也就是所谓的工业4.0（Industry4.0）。我国从2015年5月，国务院正式印发《中国制造2025》部署全面推进实施制造强国战略，到2019年6月发布《新一代人工智能治理原则——发展负责任的人工智能》，提出“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”8条原则。从政策制定和执行的进度可以看出，信息技术的发展从单纯技术层面的重视，到技术与道德的并重，对新经济时代的设计伦理规范提出了新要求。

数字产品的人工智能化趋势，使数字产品出现高智趋势，给人与人、人与社会之间的关系带来了巨大的挑战。

传统的“只重视使用价值和审美价值辩证统一的原则”，已经无法作为复杂社会伦理问题的设计行为和设计现象的评价标准。道德价值作为“物”的评价标准，在数字产品设计的最终阶段存在着一定程度的不可逆性，那么关于设计伦理的讨论在人工智能产品的设计过程中时是无法避免的。

二、数字设计的设计伦理

（一）人工智能影响下的数字设计发展现状

人工智能的发展无疑是信息科学中最令人期待的领域之一，同时计算机科学、神经网络等技术的发展，将人工智能应用到了更广阔的领域中。这类技术的应用对各个交叉学科产生了深远影响，例如社会学、心理学等，形成了新的知识网络和学科体系。

在数字经济时代，科技公司已经拥有成百上万甚至数亿的用户群虚拟人口。政府、企业依靠虚拟人口的数据来优化促进社会发展。而做为虚拟人口本身，他们在计算机、手机、平板等人工智能产品上所花费的时间已经大大超过了他们所喜欢的城市空间，人工智能产品正在改变着人们的日常生活习惯、传统居住环境甚至是思维模式。一方面信息处理效率的提高，使人们更为广泛地参与到社会互动中；另一方面，知识冗余与信息轰炸制造出的选择困境和需求支配困扰着用户。

（二）数字产品设计的伦理挑战

人类作为社会主体，使得机器一直处于从属地位。从数字产品的初诞生到人工智能技术的加持，产品的服务对象始终是人。数字设计的受众范围的扩大，意味着产品设计、使用过程中会面临各种各样的问题，如高科技造假、技术使用的安全、数据安全等。这些潜在的隐患，无论在哪个行业都会遇到，只有当客观认知到这些问题时，才能从数字设计的各个环节中寻找到适当的解决方案。

数字经济的竞争是一个无硝烟的战场，无数企业的发展进入了成熟阶段，科技巨头的出现使企业并购速度加剧，行业垄断现象不断增多。垄断地位的企业决定了行业的发展方向以及道德底线。作为行业引领者，垄断企业对数据的使用方式决定了数据资源的生长方式是适度经营还是野蛮生长。数据作为人工智能技术的资产、数字设计的核心要素，存在一定程度的粗放化运用。此现象主要体现在科技企业通过所运营的数字产品对用户个人隐私数据的收集和利用，例如广告追踪、用户数据的保密等。

在价值敏感设计（Value Sensitive Design/ASD）理论中，Batya Friedman提到了基于某些原始数据所带来的不公平的现象：国家、社会组织中已存在的行为和态度偏见；某些工具设计缺陷导致的技术偏见以及某些用户使用过程中的突发偏见。人工智能的特点之一是真实地记录、描述原始数据的特征，将一些习以为常的问题暴露在数据中。但如果缺乏对数据的辨别能力，则会进一步放大已存在的偏见现象，加大社会的矛盾。例如2012年Facebook的一项研究试图通过优先考虑快乐或不愉快的新闻提要故事来分析“情绪传染”。该公司没有征求689,000名参与者的知情同意（而是依靠现有的服务条款），也没有考虑对抑郁症用户的潜在影响。类似现象还有某些数字产品杀熟现象、某些行业的性别的差异以及社会缺乏对弱势、少数特殊群体关注等。

（三）关于数字产品设计伦理问题的建议

政府和企业在数字产品设计中分别从被动和主动两个方面影响着数字设计的伦理道德——数字产品道德底线的维护者和数字产品的决策者。政府所制定的法律法规作为道德的底线，决定着产品决策者的最低道德水平，因此政府在数据所有权和使用权上做出了明确的划分和规定，设置了数据使用壁垒，有助于维护设计伦理。而企业作为数字设计的最终决策者，完整的道德评估系统标准，能有效规范数字设计的过程，将设计伦理融入数字产品设计的各个环节中，确保每个环节都能尊重数据地提供者。

作为设计师应具有职业道德，需要确保所设计的产品对世界有益。设计师作为人工智能产品创造的核心，在维护产品运营的过程中发挥着核心作用，而另一方面设计师不仅可以增强用户体验，还可以保护用户。第一，数字设计师可以通过积极参与团队内部对话，倡导用户需求，强调道德问题。设计团队内部的对话是关键性设计伦理问题得到解答的方式，通过设计师在团队内部的学习和讨论，明确需要深入研究的领域，并在过程中反复思考道德的标准问题。第二，让数字产品在访问的无缝性和用户的可访问之间保持健康的平衡。现阶段，“智能化”“无人化”之类的无人工干预的人工智能产品对设计团队来说很有吸引力，但是无人工干预的人工智能产品容易失去监管。而可访问的产品则可以吸引有好奇心的用户了解产品在做什么、收集了哪些数据以及数据的去向。以此让用户能够随时监督数据的使用规范。第三。数据设计师可以推动团队的多元化，创造出具有包容性的产品。

三、结论

物联网带来的超连通浪潮，将技术嵌入了日常物体中，给整个社会带来了一系列新的道德挑战。我们的公共空间和家庭很快就会点缀着可以收听我们所说的每个单词的连接设备，或收集有关我们体重、爱好和财产等敏感数据。好处可能是惊人的——但滥用的风险也是如此。另外，政府通过对数据权利与权力的规定，明确数据权限；企业通过建立产品的道德评估标准，加强对产品的道德评估，规范产品的社会效益；数字设计师从创造到维护数字产品的过程中，维护数字产品各个流程进行的环境，设立积极的数据使用监督和反馈机制，积极倡导设计道德伦理。从设计师个人的责任感输出，到企业对智能产品的设计伦理评估，人们更应该考虑数字产品的社会、法律和道德影响。作为人类创造出来的人工智能产品，产品本身不具有道德感，产品的功能属性可能会在使用过程中被用户产生“误读”，但作为产品的研发企业来说，在设计和提供服务的同时，更应该去规避潜在被误用或者滥用的情况，以实现数字环境的净化以及数据经济的健康可持续发展。