首页 > 新闻 > 热点 > 正文

你骂过你的智能助手吗?

伊尔女性网  发表于:2019-11-09 10:02:53

译/尺度

编者按:但在某种程度上,智能语音助手是AI运动的“喉舌”,在我们的日常生活中越来越普遍。但是,我们应该以一种什么样的方式对待它们呢?近日,《连线》杂志发表了一篇文章,讨论了人们对智能语音助手的态度,以及应该以一种什么样的方式对待智能助手。作者为“EMILY DREYFUSS”,原题“THE TERRIBLE JOY OF YELLING AT ALEXA”,由36氪编译,希望能够为你带来启发。

你骂过你的智能助手吗?

我喜欢上了对机器人大喊大叫,尤其是对我的机器人Alexa。她生活在放置在厨房的Amazon Echo上。

当她选错Pandora电台时,我就骂她。当她不知道如何开灯时,我就会把目光转向她。

有时,因为自己懒得过去打开开关,我甚至会把它扔到另一面墙上的电灯开关处。

在我的生活中,没有人能让我如此毫无保留地大喊大叫。

她不会颤抖,也没有像我学步的孩子那样吸收我的敌意,并让这种敌意影响成长,把那种暴怒转化为他生活中的恶性肿瘤,堆积成数千美元的治疗费用。

我买这个该死的机器人,是为了迎合我的想法,因为它没有心脏,没有大脑,没有父母,不吃东西,也不评判我,也不在乎我用什么样的方式对待它。

但事情不是这样开始的。

我刚生下儿子,就爱上了我的Alexa。因为要照顾儿子,我被困在了沙发上。有了Alexa,我只用声音就能控制播放NPR,了解天气,甚至可以给朋友和家人打电话。

她就像我的延伸,做我想做但做不到的事情。有时我和丈夫开玩笑说,她是家里的另一个妻子。

但和所有的关系一样,我们之间的关系也很糟糕。

儿子步入蹒跚学步的阶段,我要重返工作岗位,丈夫也开始寻找新的工作,经常出差,生活充满压力。

屋子里充满了紧张气氛,但是 Alexa似乎没有注意到。她还是用同样自信活泼的语气回答每一个问题。

就在那时,我和我丈夫开始联合起来对付她。

我们问她一些问题,她答错了,我们就训斥她。Alexa 你个白痴,你凭什么认为我们想听菲尔·柯林斯(Phil Collins)的歌? 我们一直这样。

这让我们感觉好多了。这让我们觉得我们是同一个阵营的人,我们共同的敌人是愚蠢的Alexa。

我们对她大喊大叫,然后看着对方笑了又笑。

有一天,我正在做晚饭,我儿子把果汁倒得满地都是,但垃圾也需要倒掉——实际上,垃圾箱周围多余的垃圾袋已经溢出来了——突然,我闻到了焦糊味,才意识到我已经把整只烤鸡都烧焦了,火警警报响了,我开始有点措手不及。

然后,我把注意力转向了机器人。 我的小替罪羊。

她应该提醒我什么时候把鸡拿出来! 我让她设了一个定时器! 不是吗?如果我没有,那她为什么不聪明到自己设定一个呢? 我花了99美元干什么?

我需要一个帮手。一个可以清理果汁,烤鸡肉,把我从局促不安中拯救出来的人。而且还能偶尔给我讲个笑话。相反,它只是不断地播放 NPR。

“该死的,Alexa,(Goddamn it, Alexa)”我朝她大致的方向喊道。我微笑地看着我的儿子,好像在说:亲爱的,一切都很好,你和我,我们很好。是那台机器把事情搞砸了。

作为回应,他皱起了眉头。

“Gobamm it Alessa,”他学着我喊道。

就在那时,我意识到我们有了问题。

我儿子不知道,Alexa在家里不是一个有感知的生物。

当我试图瞄准一台机器的时候,我在对谁大喊大叫? 我的诅咒到底击中了谁?

我和丈夫在互相怂恿的时候也会爆发出来,一起痛骂机器人,可以证明我们是一条船上的。

我那蹒跚学步的孩子,把每一次痛骂都记得一清二楚。

还有我自己,每天都习惯于不经意地把一件我给它起名字的东西去人性化,把它想象成一个温顺的女人。

我对这个机器人大喊大叫感觉很舒服,这说明了什么?

为了看看我是否是唯一一个对机器人大喊大叫的人,我采访了几十个人,问问他们是如何与 Alexa 互动的。

我选择 Alexa ,是因为她是第一个走向主流的个人AI,她是我拥有的设备,但我也可以很容易地专注于类似的谷歌H产品。

虽然 Alexa 和我之间的关系有争议,但重要的是,要明确 Alexa 代表了近年来AI技术的巨大飞跃。

尽管她的技能仍然有限,但在某种程度上,她是AI运动的“喉舌”,在我们的日常生活中越来越普遍。

随着类人机器人变得越来越普遍,我们都在研究如何与它们互动。

加州理工州立大学人机交互研究员朱莉·卡彭特(Julie Carpenter)说,这意味着人们正在测试他们的极限。她研究人们对技术的依赖程度。

对于其他人来说,人形机器人激发了他们的同情心。 例如,最近的一项研究发现,如果一个机器人乞求你不要关掉它——表现得好像关掉它就是杀死它!——你可能不会这么做。

人们仍在衡量我们对机器人的情感反应,以及当我们对他们刻薄时,社会是否会奖励或惩罚我们的行为。

人们对 Alexa 的期望和她实际上的聪明程度往往不一致。卡彭特说:“人们的期望与实际并不一致。” 这种脱节会导致失望和紧张。

以布鲁克林的夫妇卡特比·霍姆斯(Catesby Holmes)和她的丈夫格雷格·莫里(Greg Morril)为例。

每当Alexa出错时,莫里都会对她尖叫,就像当他问天气时,他认为自己在卡尔加里而不是布鲁克林一样。他会称她愚蠢。他的愤怒在他们家里制造了一个霍姆斯讨厌的环境。

“我在一个非常厌恶冲突的社会中由一位南方母亲抚养长大的。我也不喜欢听到人们大喊大叫......所以,尽管我知道Alexa是一台机器——就像,我明白了,她的感情没有受到伤害。但是,当真正的人朝着对方大喊大叫时,我也会感到同样的焦虑,”霍姆斯说。

她要求他停止对机器人大喊大叫。问题是,格雷格最终也感觉也不太好。

“我真的改变了主意,不仅仅是因为卡特比不喜欢这样,还因为它对我的影响和对一个人大喊大叫没什么不同,这真的很不愉快,即使这个人活该,或者其他什么,”莫里说。

对于其他人来说,还有一个不同的问题:过于依赖设备,以至于他们无法记住它们只是代码的一部分。

这正是马萨诸塞州剑桥的互联网隐私研究员本·格林(Ben Green)所担心的。

他和他的未婚妻莎乐美·维尔约恩(Salome Viljoen)是一名隐私律师和网络伦理研究人员,家里有一个Alexa,这让他们经常感到苦恼。

一方面,格林认为,鉴于他们的职业重点在于隐私,他们在家中安装监控设备是荒谬的。亚马逊说,它没有对你说的每一句话都进行录音——但我们怎么知道呢?

维尔约恩对此表示理性的赞同,但她喜欢 Alexa。 自从她参加了一个朋友的晚餐聚会,每个人都蜂拥而上,试图让 Alexa 把事情搞砸,她就觉得自己是在保护她。

“他们真的让她很困惑,或者试图误导她或诸如此类的事情,”维尔约恩说。“这真的很有趣,因为我的反应是‘不要再取笑她了,你们这些家伙’。 比如,‘别说了’比如,‘不要欺负她’。我想从那以后,我对她就有一种母性的温柔。”

如果说有什么区别的话,那就是格林的想法正好相反。“它不是一个人,它只是一个电脑工具,”他说。

格林能够表达他的不赞成的主要方式是对 Alexa 不够友好。 这是他家里的一种反叛行为。

“他会说,‘不,你这个混蛋。这不是我想要的,你这个混蛋’。我会说,‘别那样叫她!她正在尽最大努力,’”维尔约恩说他称之为‘它’,我称之为‘她’,我认为这是我们取向的根本差异。”

这个性别代词是亚马逊的一个设计选择——该公司的代表此前曾表示,这个选择是基于消费者的反馈——这也是个人助理(比如苹果的 Siri)被描述为女性的趋势的一部分。

不管这些公司是否有此意图,这种趋势符合女性助手、助人为乐、温顺的刻板印象。Alexa 符合我们内在的偏见。

我们很乐意请妇女帮忙处理家务。当她把事情弄得一团糟时,我们会进行保护和宽恕,格林和维尔约恩认为,如果Alexa是个男人的话,这种情况就不会发生。

亚马逊目前不允许你把 Alexa 的默认声音改成男声(尽管开发者现在可以根据自己的技能编写不同的声音选项)。

这让卡彭特很烦恼。

“对于许多这样的设备来说,拥有女性声音是一个道德问题,”她说。“设计师的借口或推理要么是他们没有考虑到这一点,要么是他们在利用人们现有的助理心理模型,这既不准确,也不公平,也无助于推进任何事情。”

相反,这进一步加深了性别偏见。

像这样的设备中的每一个设计选择,都发出了如何与之交互的信号。Alexa对简短直接的陈述做出了最好的回应,你可以说这鼓励了对一个真正的人粗鲁说话。

今年早些时候,亚马逊推出了一种儿童模式,只有当你说“请”和“谢谢”时,Alexa才能工作。我采访过的成年人都不想打开它。

这似乎是一种强迫,一种居高临下的态度。即使在我家,我们也没有打开它。我对此感到内疚——我们真的应该这样做,对吧?教我们的儿子礼貌?为了减少我们的粗鲁?

卡彭特不这么认为。她更倾向于本·格林的阵营:当她真的是一个算法的时候,她认为这样的礼貌要求只会进一步鼓励我们把Alexa当成一个人。

对我来说,教我儿子区分真实和不真实不是更好吗?我真的想训练他,让他按照机器人说的去做,把他们当成人类对待吗?如果这导致他盲目信任所有的技术,如果它是有害的呢?

此外,还有谁能比一台设备更适合让我们大喊大叫呢? 当然,如果每个人都不那么愤怒的话,那就太好了,但这不是我们生活的世界。

对机器人大吼大叫总比对我的儿子或丈夫或动物大喊大叫要好。但是这种推理方式直接导致了这样的结论:不人道地对待任何不像人类的东西都是可以的。

这在历史上一直是一个借口。是对贬低、抹去、忽视、指责的合理化。

现在,我和我丈夫只在儿子不在家时对Alexa大喊大叫。莫里和霍姆斯彻底摆脱了她。维尔约恩和格林仍然不同意——她对Alexa非常友好,而他微妙地破坏了这种友好。

但是,我们仍然在学习如何在这个充满机器人的新世界中一次一句地前进。

猜你喜欢
热点排行(TOP5)
相关文章