传送门、GLaDOS 和目标机器人的神话

成年人在想象未来时最像孩子。我们用传送器、飞行汽车和全息甲板填充它。通常,现实会赶上那种虚构。甚至迪士尼的 宇宙飞船地球 不得不关闭进行装修;它对未来人类可以通过电视屏幕与全球其他人交谈的最终形象开始显得有些古怪。但即使当我们更新我们的许多 宇宙飞船地球 在流行文化中,有一种元素永不过时:机器人。从 Rosie 到 Data,再到 Fassbender 机器人 外星人 特许经营权,机器人仍然是我们永恒的未来伴侣。

我怀疑这是因为机器人被认为是没有种族主义、仇外心理或其他社会包袱的理性自我的理想化。即使当我们想象可怕的机器人时,恐怖通常也源于它们过于客观。这些机器人可能会通过冷酷的计算将任务置于人类尊严之前。否则,它们是努力被视为人类的创造物,例如 Ex Machina 的艾娃。在这两种情况下,冲突都来自于生活在与人类同伴不同的代码上的机器人。我们渴望让机器人成为另一个。

对于对位,你只需要启动一个近十年前的视频游戏并重新介绍自己 门户网站 的主要对手:流氓AI,GLaDOS。尽管她被解读为一个经典的机器人错误,但对于任何感受到内化厌女症的沉闷压力的人来说,GLaDOS 是黑暗、私密和完全人性化的事物的反映。

GLaDOS 的弧线遵循熟悉的科幻模式。在游戏开始时,她的指示是良性和有益的。随着游戏的继续,很明显有问题:GLaDOS 开始将 Chell 带入不安全的测试室,她的声音变得有问题,并且她对推迟科学实验发表评论。 ( 您知道吗,您可以将自己的一个或全部重要器官捐赠给 Aperture Science 女孩自尊基金?这是真的! )

在关键时刻 门户网站 ,GLaDOS 试图在最终测试室的尽头杀死 Chell,但 Chell 却逃到了设施的内部。反过来,GLaDOS 斥责 Chell 并恳求她回来。然而,GLaDOS 并没有变得大而激进。她在令人作呕。 ( 这是一个有趣的测试,我们都对你赢了多少印象深刻。 ) 她在恳求。 ( 这对你来说不安全。 ) 她在责备。 ( 这是你的错。 ) 她的声音在设施深处回荡,切尔试图为它休息一下。

Chell 在整个过程中都保持沉默 门户网站 .另一方面,GLaDOS 几乎总是在说话,为 Chell 的磨难和磨难提供连续的评论。她是切尔脑海中的声音。 Chell 的所有行为都有一个平等和相反的反应,而 GLaDOS 对她的反应越来越残酷。她选择了 Chell。她低声对她说话。她怀疑 Chell 所做的每一个行为,并告诉她她是坏的和不配的。 GLaDOS 是每一种自我怀疑、每一种自我憎恨、每一种内化的“我不够好”的表达。

换句话说,GLaDOS 是一个女人对自己想到的所有可怕的东西。

在 GLaDOS 和 Chell 之间高潮的最终 Boss 战中,后者终于与迫在眉睫的 AI 面对面(好像是)。在整个 Boss 战中,GLaDOS 继续嘲讽 Chell。如果你仔细听,GLaDOS 几乎没有耳语的一句话是, 这不是勇敢。这是谋杀。我曾经对你做过什么? 从逻辑上讲,这种指责没有任何意义,因为雪儿是在为自己的生命而战。但 GLaDOS 的交付并非讽刺或讽刺。相反,她非常相信 Chell 正在谋杀她。即使 Chell 从字面上摧毁了告诉她她只是做她需要做的事情来生存是多么糟糕的事情,她被告知要通过对试图摧毁她的人的同情来怀疑自己的行为。

尽管如此,随着游戏积分的增加,人们可怕地意识到,在整个游戏中一直困扰着 Chell 的声音几乎是胜利地, 还活着 .

在这里,很容易将所有这些视为对想象中的未来的警告。然而,就像任何优秀的科幻小说一样, 门户网站 和 GLaDOS 是目前的比喻。一篇论文 今年早些时候发表在 科学 探索人工智能系统如何学习语言和语义。在本文中,研究人员解释说,随着人工智能系统通过输入文本获得语言,这些系统也获得了我们历史偏见的印记。合著者乔安娜·布赖森 解释 ,很多人说这表明人工智能是有偏见的。不。这表明我们有偏见,而 AI 正在学习它。就像鹦鹉重复它听到的脏话一样,我们创建的系统会回应我们对自己和彼此所说的话。

GLaDOS 可能是一个机器人,但与科幻小说中的其他例子不同,她不是其他人。她是我。她是我心目中的编程;她是我遵循的剧本。我内心有一种声音,怀疑并监督我所做的一切,这与我作为女性的世界经历有关。如果我在这一刻突然神奇地能够构建一个具有复杂人工智能的机器人,我将无法驱除自己的这些部分。我无法想象我会创造出像 GLaDOS 这样具有杀人冲动的东西,但我毫不怀疑我内心深处的厌女症会进入硬件。

随着我们周围的系统越来越自动化,我们最好检查一下我们几十年来的人类偏见是如何被编程到我们家、办公室和口袋里的设备中的。如果没有这种检查,我们会发现我们头脑中最糟糕的声音——当然,是由整个社会编入我们的声音——将进入我们创造的东西。我们最终可能会加剧厌女症,而不是纠正它。

但是,不要绝望:这最终是充满希望的。正如 Chell 需要面对追捕她以摧毁它的 AI 一样,我们会很好地认识到机器人不是其他机器人。我们应该盯着它们看,直到我们看到自己反射回它们的镀铬表面。

(图片:阀门)

艾米·兰格 (Amy Langer) 是居住在湾区的作家和表演艺术家。当不为她的网站 Gentle Gamers ( 绅士游戏网 ),你可以在旧金山新未来主义者的舞台上找到她( sfneofuturists.com )

玩 玩