AI系统如何不遭人恨

齐夫·卡蒙 罗姆·施里弗特 克劳斯·韦滕布罗赫 杨海洋

大数据分析、机器学习、人工智能的结合是如今全球经济中最耀眼的闪光点。但也有人不看好人工智能应用，第一个原因就是侵犯数据隐私。人工智能是靠数据驱动的，人们不清楚自动化技术掌握了什么隐私信息，也不明白了解到的信息要派什么用场，由此产生了担忧和不安。

第二个原因就是侵犯用户的自主决定权。当顾客认为服务供应商能够基于他们过去的选择，预测其未来倾向时，他们通常会选择次优方案。也就是说，消费者会有意违背自己的偏好，做出有悖于预测的选择，以重建个人自主权。

企业要想开发不会引起顾客仇视的人工智能技術，需做到以下几点。

保护顾客的个性特点 自主权的一个重要方面就是个性。当人们遇到问题需要帮助时，他们渴望得到人工客服的关注，而不喜欢机器人提供千篇一律的解决方案。人们在生病的时候也更希望见到医生或护士，而不是具备医护功能的机器人，因为他们觉得自己的病情有独特的地方，机器考虑不到这种细微的个体差异。

不过人工智能的机器人可以小步推进，让每一次互动变得人性化。在一项随机对照测试中，如果算法对拒绝顾客交易的原因做了简单说明，那么顾客拨打服务中心电话的可能性就会低于没有任何解释说明的情况。

保护顾客不愿被预测的自由 自由的一个主要方面就是个人可以改变想法，放弃一贯的行为模式。消费者越是觉得公司期待他们按照过去的选择走出下一步（比如商家根据其购买记录或浏览历史，有针对性推送商品），就越想摆脱这样的选择定式。

谨慎选用推送措辞会有所帮助。如果把消费者行为描述成“前后一致”（表达正面含义），而不是“可预测”（传递负面含义），那么在消费者心里，这种对自主决定权的威胁可能就没那么大。例如，消费者在亚马逊上买了《指环王》系列丛书中的一两本，那么接下来他们会收到邀请来“继续领略托尔金的作品魅力”或“全面了解本套丛书”。这种推荐方式会无形地鼓励他们按原先选定的道路前行，而不会迫使他们做出改变来彰显自己的独立自主性。

保护顾客的隐私 去年，《纽约时报》报道称，美国至少有75家公司从多达2亿部移动设备中收集极其精确的位置信息。美国东北大学的研究者发现，有9，000多个安卓应用得到授权，可以调用所安装设备上的麦克风与照相机。

利用算法来推导人的行为，有时会很愚蠢，令人气愤甚至心碎。2018年，一位任职于《华盛顿邮报》的视频编辑流产了，但线上的孕妇产品广告还是源源不断地推送给她，一次又一次撕开她内心的伤口。因为有了社交媒体，这类严重侵犯个人隐私的事情很容易就被公之于众。企业应当小心谨慎，避免过度利用相关数据。