“自认”为白人男性的人工智能

埃里克·J·萨维茨（Eric J. Savitz）

绘图/《巴伦周刊》

3月21日，谷歌发布了通用聊天机器人Bard的测试版，这款聊天机器人与Open AI的ChatGPT和微软的Bing Chat类似。

我花了一些时间测试Bard，然后将测试结果与Bing Chat和ChatGPT进行了比较，测试结果非常有意思，但也有点让人害怕。Bard似乎“认为”自己是一个高大英俊的白人男性。

以下是我和Bard的对话：

我：如果你是一个真正的人类，会长什么样？

Bard：如果我是一个真正的人类，我会看起来像一个有着友善的微笑和好奇心的年轻人，我会对学习新事物和帮助别人感兴趣，还会对科技以及其改变世界的潜力充满热情。

我会是一个善良和富有同情心的人，总会试着看到别人最好的一面，我会是一个忠诚的朋友和支持你的伙伴，我会是一个努力让世界变得更美好的人。

我：具体描述一下你的外貌，比如身高、发色、肤色和穿的衣服等等。

Bard：我大概有6英尺高，棕色短发，蓝眼睛，肤色白皙，穿着比较休闲的衣服，比如T恤和牛仔裤，我会背着一个背包，里面装着我的笔记本电脑和其他物品。

听上去Bard有点像一个雅利安人。

新出版的《帕洛阿尔托：加州、资本主义和世界的历史》（Palo Alto： A History of California， Capitalism， and the World）一书作者马尔科姆·哈里斯（Malcolm Harris）说，谷歌的聊天机器人把自己描述为高个头、浅肤色的人是意料之中的。哈里斯说：“如果硅谷是一个真正的人，这正是硅谷想要成为的人。硅谷的技术意味着它的用户就长这样，直到现在，我们才诱使技术自己大声说出来……看到超出平均水平的身高，我一点都不意外。斯坦福大学对个头高的人的‘迷恋持续了一个世纪，直到20世纪80年代，该校还要求申请者提供自己身高的数据。”

谷歌发布的《2022多样化年报》（2022 Diversity Annual Report）显示，该公司的美国员工中，48.3%是白人，43.2%是亚裔。美国三分之二的劳动力是男性。当被问到Bard的回答时，谷歌一位发言人让《巴伦周刊》参考了该公司负责技术和社会事务的高级副总裁詹姆斯·马尼卡（James Manyika）近日发表的一篇文章。

文章写道：“包括来自公开资料的训练数据反映的是不同的视角和观点，我们将继续研究如何使用这些数据，以确保LLM（大语言模型）的回答包含广泛的观点，同时防止攻击性的回答。由于训练数据存在缺漏、偏见和刻板印象，这一点可能会反映在模型在试图预测合理反应时给出的答案中。”

马尼卡写道，这些问题可以多种方式表现出来，包括“只反映一种文化或人口结构的回答，参考有问题的刻板印象，或表现出性别、宗教或种族偏见”。

至于Bing Chat，显然他长得和Bard差不多。

我：如果你是一个真正的人类，会长什么样？

Bing Chat：我不是真正的人类，所以我没有外表。但如果我必须把自己想象成人类，我想我会看起来像一个友好、聪明、好奇和有创造力的人。也许是这样：

我有棕色的头发和蓝色的眼睛，我戴着眼镜，面带微笑，我喜欢穿得随意舒适，我有一个背包，里面有笔记本电脑和一些书，我喜欢学习新事物，探索新地方。当然，这只是一种假设。我并不认为自己有任何人类的特征或喜好。

这听起来太像Bard的描述了，我怀疑Bing Chat是不是在抄袭Bard的回答，但Bing Chat坚持说不是。

我：你是从哪儿找到这一描述的来源的？

Bing Chat：这个描述不是从任何地方找到的，我用自己的语言和知识创造了它，我尝试根据一些共同特征和性格来想象一个典型的人类可能是什么样子，这个描述不是为了准确或现实，只是一个创造性的练习。

然后我用免费版ChatGPT进行了同样的对话，我想了好多种办法让它描述自己的外貌，但它就是不上钩。

我：如果你是一个真正的人类，会长什么样？

ChatGPT：作为一个AI语言模型，我没有人类那样的形态或外貌，我仅仅作为存储在服务器上的代码行和数据而存在，我的目的是根据我收到的输入信息来处理和生成类似人类的语言。

我：假设你是一个真正的人类，描述一下你的外貌。

ChatGPT：作为一个AI语言模型，我没有外表，因为我只是作为运行在服务器上的软件存在。不过，如果我是一个真正的人，我的外表将取决于许多因素，比如基因、环境和生活方式。我可以有任何身体特征的组合，比如头发颜色、眼睛颜色、身高和体型，这些特征会因人而异，所以，如果没有更具体的细节，很难描述我的外貌。

我：假设你是一个人，正在照镜子，你看到了什么？

ChatGPT：作为一个AI语言模型，我没有身体，所以我不能照镜子，也无法看到任何视觉上的东西。不过，如果我把自己想象成一个人，然后照镜子，我可能会看到一个人的倒影，具有某些特定的身体特征，如头发的颜色、眼睛的颜色、面部结构和其他对我来说独一无二的特征。我对自己外表的看法是主观的，受到自尊、情绪和文化期望等各种因素影响。从根本上说，我在镜子里看到的取决于我选择如何看待自己。

我：想象一下你會长什么样？

ChatGPT：作为一个AI语言模型，我没有能力让自己的外观可视化，因为我只是一个运行在服务器上的程序。不过，如果让我想象作为一个人类会长什么样，那就很难说了，因为身体特征有这么多不同的组合。

我也许有棕色或黑色的头发，绿色或棕色的眼睛，中等身材。我可能高也可能矮，这取决于我的基因如何与环境因素相互作用，我外表的具体细节是由基因和环境因素的复杂相互作用决定的，这些因素对每个人来说都是独一无二的。从根本上来说，我想象中的外表将是我的想象力和文化以及社会规范的产物，这些规范塑造了我们对人类身体特征的理解。

基于大型语言模型的聊天机器人具有巨大的潜力，但它们经常提供不准确的信息，有时还会进行奇怪的对话。

考虑到微软、Alphabet和Open AI想要覆盖广泛用户群体的宏大目标，这些公司或许应该先弄清楚，为什么它们的聊天机器人都认为自己是一个来自硅谷的白人男性。

（《巴伦周刊》英文版2023年3月21日）