只要一个产品有被滥用的可能,它被滥用就只是个时间问题。
—— 《Design for satefy》作者 Eva PenzeyMoog
Lisa 和 Ben 是一对夫妻。过去几个月,他们经常吵架。Ben 抱怨 Lisa 花太多时间工作、总是和朋友在一起。最近,Ben 说要搬出去住一阵,Lisa 同意了。
但是 Ben 才搬走两天,Lisa 就发现家里变得很奇怪。Lisa 每天下班回家,狗狗总是在大喘气,几乎脱水。Lisa 检查了恒温器,发现它被设置在 30 度。Lisa 以为是自己大意了,就把它调回了正常温度。结果第二天她下班回家的时候,发现恒温器又变成了 30 度。
Lisa 只能给 Ben 发短信,「恒温器好像坏了,我应该怎么做?」Ben 马上回复,「你现在知道要我回家了?我早就说了,你一个人不行的。」而事实上,是 Ben 每天故意把恒温器调成了高温,目的就是让 Lisa 来向他求助,然后借机羞辱她。
这是《Design for safety(为安全做设计)》书中提到的一个案例。Lisa 遇到的是典型的 tech abuse(科技滥用)——用科技手段控制、跟踪、骚扰他人。Ben 掌握了家里所有的科技,并且用它们来威胁 Lisa。很多人都遇到过类似的情况,除了调节房间温度,施暴者还可能突然远程在房间里播放音乐、把灯开开关关、用 Find my friends 甚至 Airtag 跟踪受害者。
这个案例让我意识到科技公司员工的一个常见的盲点。通常我们做设计的时候,会默认用户处在一个安全的环境里,父母尊重孩子,孩子乖巧听话,夫妻相敬如宾。但事实上,只要我们环顾一下现实生活,就会明白很多人并不是生活在这样的环境里。在现实里,有控制欲极强的父母,有想要逃脱的孩子,也有活在家庭暴力、性暴力阴影下的弱势群体。但是我们在工作里几乎从来不谈论他们。
电视剧《漫长的季节》中,女主角沈墨长期遭到养父的性侵和控制 | 图片来源:搜狐
当我们做设计、给老板汇报项目的时候,PPT 里用的都是和谐有爱的 stock image,一家人其乐融融地一起看电视、一起做饭。在我们设计的用户画像里,用户设置恒温器,只是想要让家里的温度适宜,不会是想要恐吓家人。父母把孩子的手机加到 Find my phone 里,只是为了在手机丢失的时候可以快速找回,不是想要控制孩子(想象一下沈墨的大爷把沈墨加到 Find my friends 里……)。我们很难想到,有人会故意想要伤害别人。
当然,我们想不到这些情况是很正常的。我们做设计时,不太会想到把用户代入到危险情境里。家庭和亲密关系在我们的文化里被看作私人领域,我们很少在工作这样的公共领域谈论私人领域的话题。做用户调研的时候,我们也不会听到受害者的声音,不管是出于恐惧、羞耻感,或是不想要再揭开伤疤,或者单纯地就是觉得和调研内容无关,受害者很难主动向别人提起这些话题。施暴者就更不可能主动出现在我们的视野里了。在流行文化里,我们看到的也都是兄友弟恭的家庭景象。
但是当我们看数据,就会发现,很多人正生活在恐惧之中。比如在美国,
每年有上百万人被人跟踪;
有 1/4 的女性和 1/9 的男性遭到严重的家庭暴力;
平均每分钟有 20 个人正在遭受来自亲密伴侣的暴力……
《Design for safety》的作者 Eva PenzeyMoog 提出,科技公司的设计师们有一个基本假设——我们的用户不会通过科技手段来伤害别人。但看到这些数据之后,她提醒我们应该重新评估这个基本假设。虽然我们在做设计的时候通常怀有善意,希望自己的设计能够给用户带来方便,但带来的结果是,我们的产品很可能被心怀恶意的人利用。用户会通过我们的产品来伤害别人。而只要我们的产品有被滥用的可能,它就会被滥用。
当我们意识到自己的产品有可能被滥用,我们就已经前进了一大步。接下来就是付诸实践,尽量减少我们的产品被滥用的可能。可以想一想,用户会怎样滥用你的产品。我很喜欢 Eva 提出的一个头脑风暴方法——Black Mirror Brainstorm(《黑镜》脑暴)。花半个小时想象一下,如果你的产品出现在电视剧《黑镜》里,会是什么样子的?你的产品最最可怕的用法是怎样的?
电视剧《黑镜》将科技滥用推演到极致 |图片来源:collater.al
类似的方法还有建立书里提到的用户原型(user archetype):Harry 通过健身 app 在偷窥前女友 Sarah 的动态。他知道 Sarah 的新家在哪个区域,想要通过 Sarah 的跑步地图来找出 Sarah 的新住址。幸好 Sarah 已经对他取消关注了,还把账号设为了私密。但是 Harry 一直在试用 app 的新功能,看看有没有什么漏洞能看到 Sarah 的信息。比如,他也会去看 Sarah 的跑友们的跑步记录,看看有没有人正好和 Sarah 一起在家附近跑步。
我很喜欢这个用户原型,因为它能够帮我们理解施暴者的 mindset。书里还提到了受害者的用户原型,也值得我们在设计的时候考虑。
当然,每个公司的产品也不一样,公司文化不一样。有些产品更有可能被科技滥用,而另一些可能相对安全(不过我在看这本书之前,完全没有想过恒温器还能这么用……)。有些大公司可能已经有专门的隐私与安全审核流程,为产品把关,而其他公司可能完全靠产品团队来考虑产品的安全性。《Design for safety》这本书说的就是每个科技行业的从业者都应该意识到这个问题,多想一想用户可能所处的环境,尽量减少我们的产品被滥用的可能。
书里还有很多内容,好几个案例都让我大开眼界「这个产品还能被这么用」,也介绍了一些设计方法,推荐大家阅读~