何以为人——寻找《卧底机器人》

陈一诺

如果，我是说如果，在你的同学中，藏了一个机器人。如果你能成功发现它，就可以获得一笔大奖。这非常诱人，也十分艰难，因为它看上去就和普通的人类小孩一样，长得人畜无害，甚至非常可爱，还能和你一起疯一起闹，帮你做作业……我们到底该怎么分辨人和机器人呢？也就是说，什么才是人独有的特质呢？在《卧底机器人》中，卧底在学校的机器人小朵是怎么伪装的？它有没有被人类同学发现？故事结局又是什么呢？

本月推荐：

《卧底机器人》

作者：〔英国〕 戴维·埃德蒙兹/〔英国〕休·弗雷泽

出版社： 中信出版社

作者简介：

戴维·埃德蒙兹，哲学家、作家。牛津大学尤希罗实践伦理学中心高级研究员。

休·弗雷泽，英国著名儿童有声故事网站创始人。

作品导读：

小朵是一个机器人，它被科研团队研制出来并送进一所学校，伪装成人类参加一场特殊的比赛。这场比赛有很多个机器人参加，如果小朵最终没被认出来是机器人，那么它的研发团队就会获得十亿美元的奖金。

小朵自信满满，这源于它具有亲和力的外表和无懈可击的程序。它知道拥有朋友是伪装的第一步，于是开始通过扫描检索的方式和新同学交流。它尝试着用人类的思维方式融入新班级，可机器人固有的程序设定又偶尔让她显得刻板固执，甚至奇怪。这让它好几次都处于暴露的边缘，幸好科研团队及时添加程序补丁才转危为安。

随着比赛中其他机器人的陆续出局，小朵胜利在望，然而它却为了救一个人类宝宝而被棕熊压垮。科研团队为了比赛能够获胜，立刻启动了机器人二号，让它来代替小朵继续参赛。知晓了这件事情的小朵非常愤怒，它觉得自己才是小朵，唯一的小朵，而另一个机器人只是个冒牌货。纠缠中，冒牌小朵喝下对核心机器有毒的饮料，彻底报废，小朵得以继续上阵赢得了比赛。可是，小朵却收到获得的奖金将用来制造更多“小朵”的噩耗，她悲愤交加，当场暴发……

《卧底机器人》通过机器人的视角探讨了人与机器人之间的关系。机器人越来越像人，可是人却越来越追求宛若机器一样的高度精准和金刚之躯。成为机器人一样的人，亦或是做个普通人，哪个更好，你如何评判呢？科技在进步，当机器人拥有了自我意识，世界又会变成什么样子呢？如果每一个机器人都觉得自己是独一无二的，都试图把别的“自己”赶跑，世界会不会因此而更加混亂呢？

作品赏析：

科技与人性

作为故事的主角，也许小朵永远都无法理解人类，但是它的算法程序依然以人类的安全为优先级。比如小朵因为和瑞奇妈妈约定了“不可以说谎话”，就把朋友瑞奇故意搞坏了自己的古董手机伪造成一场意外以便购买新手机的事情说了出来。机器人会觉得这样是遵守了约定，但是人类小孩可能会选择宁愿说假话也要袒护朋友，这就是程序和人类观念之间巨大的差别。

“人类为什么要这么做？”我（小朵）问，“人类不是应该遵守道德吗？”

“是的，我们是应该遵守道德。”教授说，“可是，有时候我们会考虑多方因素，权衡利弊。就比如昨晚的事，人类小孩很可能会觉得，维护和瑞奇的友谊比信守对瑞奇妈妈的承诺更重要。”

“那有没有一种算法，可以帮我权衡违背诺言带来的好处与坏处呢？”

教授轻声笑了起来。“没有可靠的算法。人类总是会为自己的行为找各种各样的理由，众所周知，我们有时候对自己并不诚实。”

我不知道一个机器人是否也可以对自己不诚实，可能只有程序故障或者系统中有病毒的时候才会吧！

上面的选文是小朵和教授的一段对话，如上文所说，小朵坚持自己的算法并且好奇人类会怎么做，教授的话语则引人深思。人类对于对错没有严格而客观的界定标准，更多会选择于自己有利的那一种，所以教授自嘲人类此时的不诚实，而小朵的绝对道德就让她成为了人群中那个异类。

道德和论理问题

当机器人拥有越来越多的自主决策能力时，涉及到道德和伦理问题的讨论就显得尤为重要。例如书中小朵的朋友瑞奇正在为自己不擅长的网球比赛感到苦恼，小朵恰恰有这么一副能帮助人拥有更清晰视力的隐形眼镜，这副神奇的眼镜能让瑞奇获得冠军。小朵决定将眼镜给瑞奇，瑞奇拥有了超人的动态视力，这让他轻而易举地就超过那些艰苦训练了很久的选手。这种事在机器人眼中差不多是改装了一个零部件，更新了一个程序，但是在人类的比赛中这就是作弊，是对别人极度不公平的行为。这让我们不禁思考权责划分、机器人与人类间的道德标准和价值观的对比。

“你难道不因为我帮助了你儿子而感到高兴吗？”我问道。

“当然不高兴，因为你欺骗了大家。”卡特尼普教授说道。

我告诉他许多运动员在比赛的时候都会戴隐形眼镜，而瑞奇只不过是戴了效果最好的那一种，这就和打网球有一副昂贵的球拍是一样的道理。

“我不这么认为。在我看来，”卡特尼普教授说，“这就像参加自行车比赛的时候，有选手偷偷在自己车子的后轮上装了发动机。”

上面的选文是教授得知小朵用隐形眼镜帮助瑞奇作弊后与小朵的一段对话。可以看出此时机器人的道德观和人类又有了巨大的冲突。不过与我们研究的上一个冲突相比，这次人类对于公平的判断标准显然更为合理。这场比赛靠的是自然人的体能和技巧，而非借助工具的改造将自己变成超越自然人的半机器人，这样的比赛不公平，也失去了比赛的意义。机器人本就是通过科技塑造出的更强的个体，它们和需要靠自己努力学习、练习、进步的自然人不同，所以也无法理解不断突破自身的极限对人类的意义。

模拟小课堂

师：机器人日益普及，你们对此有什么看法？

生：我认为人与机器人是相互依存的。机器人可以帮助我们完成一些低效劳动，提高人类的工作效率。

生：机器人的发展给我们的生活带来了许多便利和机会。

师：机器人确实展示出了巨大的潜力。但人与机器人的关系还值得细细琢磨。你们认为有哪些特别需要关注的方面？

生：我认为机器人的智能程度和道德的问题需要关注。虽然机器人可以模仿人类的行为和思维，但它们缺乏真实的情感和道德判断，或许会导致一些伦理混乱和隐私暴露的问题。

模拟亲子共读

家长：读完《卧底机器人》，我们来讨论一下是什么让一个人成为一个独立、有责任感的个体，即成为一个真正的人。

孩子：我认为成为一个人的关键是自主和独立。当一个人能够自主地作出决策、承担责任并独立思考时，他们才能真正成为一个人。除此之外，我觉得人还需要有正确的价值观和道德观念，应该懂得区分对错，有自己的原则和道德底线。

家长：说得很对！还有呢？

孩子：学会应对不同的挑战和困难也很重要。面对困境时，一个人要有坚持和克服困难的勇气，不轻言放弃。还应该与人为善，与别人建立良好的关系，尊重和关心他人，这样才能真正融入社会。