元宇宙可能会产生广泛的影响,改变人们的社交、旅行、学习、工作和娱乐方式。问题是,这些后果对每个人都一样吗?历史表明,答案是否定的。
边缘化的人往往因新技术的意外后果而受到最大的伤害,拥有多种边缘化身份的人,如黑人和残疾人,甚至比拥有单一边缘化身份的人面临更大的风险。
2021年10月,当马克-扎克伯格提出了他对元宇宙的愿景--一个由虚拟环境组成的网络,许多人可以在其中相互交流和数字对象--并说它将触及该公司制造的每一个产品时,我感到很害怕。作为一个研究种族、技术和民主交叉点的研究人员,以及作为一个黑人妇女--我相信,仔细考虑下一代互联网中的价值观是很重要的。
问题已经浮出水面,头像是人们可以在虚拟环境中创建或购买的代表自己的图形角色,根据头像的种族,价格也不同,而种族主义和性别歧视的骚扰也在今天的前metaverse沉浸式环境中出现了。
要确保互联网的下一次迭代是包容性的,并为每个人服务,就需要来自边缘化社区的人带头塑造它。它还将需要监管,使大科技公司对公共利益负责。如果没有这些,元宇宙就有可能继承今天社交媒体的问题,甚至变得更糟。
乌托邦式的愿景与艰难的现实
在互联网发展的早期,乌托邦式的愿景通常认为,在线生活将与物理世界的生活截然不同。例如,人们设想互联网是一种逃避他们身份的方式,如种族、性别和阶级的区别。在现实中,互联网远远不是这样。
虽然技术乌托邦传达了人们对未来的期望,但新技术的现实往往并不符合这些愿景。事实上,互联网给社会带来了新形式的伤害,比如在社交媒体上自动传播宣传,以及塑造在线体验的算法中的偏见。
扎克伯格将元宇宙描述为一个更有沉浸感的互联网,它将 "释放出许多惊人的新体验"。这不仅是对未来互联网的展望,也是对未来生活方式的展望。无论这一愿景如何偏离目标,元宇宙都有可能--就像早期的互联网和社交媒体一样--产生广泛的影响,改变人们的社交、旅行、学习、工作和娱乐方式。
问题是,这些后果对每个人都一样吗?历史表明,答案是否定的。
广泛使用的技术往往将白人男性的身份和身体作为默认。麻省理工学院计算机科学家乔Joy Buolomwini表明,面部识别软件对女性的表现更差,对脸色较黑的女性更是如此。其他研究也证实了这一点。
白人在这些技术中被嵌入为一种默认状态,甚至在没有将种族作为机器学习算法的一个类别的情况。不幸的是,种族主义和技术往往是相辅相成的。黑人女性政治家和记者被滥用或有问题的推文所针对,黑人和拉丁裔选民在2020年的选举周期中成为在线错误信息活动的目标比例过高。
种族和技术之间的这种历史关系让我对元宇宙感到担忧。如果像扎克伯格所描述的那样,元宇宙旨在成为互联网的沉浸版,那么这是否意味着已经被边缘化的人将经历新形式的伤害?
技术和种族主义之间的一般关系只是故事的一部分。Meta公司在其Facebook平台上与黑人用户的关系很差,尤其是与黑人妇女的关系。
2016年,ProPublica的记者发现,Facebook广告门户上的广告商可以根据用户的种族,或者Facebook所谓的 "种族亲和力",筛选看到他们广告的用户群体。这个选项受到了很多人的反对,因为Facebook不问用户的种族,这意味着用户被分配了一个基于他们在平台上的参与的 "种族亲和力",例如他们喜欢哪些页面和帖子。
换句话说,Facebook本质上是根据用户在其平台上的行为和喜好对其进行种族分析,为广告商创造了基于种族的歧视机会。此后,Facebook已经更新了其广告定位类别,不再包括 "种族亲和力"。
然而,广告商仍然能够通过利用客户的兴趣组合来推断种族,根据他们假定的种族来定位人们。例如,如果广告商从Facebook的数据中看到你对非裔美国人的文化和BET奖感兴趣,它就可以推断出你是黑人,并针对你投放它想向黑人推销的产品广告。
更糟糕的是,Facebook经常删除黑人妇女反对种族主义和性别歧视的评论。具有讽刺意味的是,黑人妇女关于种族主义和性别歧视的评论被审查--俗称被Zucked--因为表面上违反了Facebook的反仇恨言论政策。这是网络平台中一个更大的趋势,即黑人妇女因在数字空间中表达她们的关切和要求公正而受到惩罚。
根据《华盛顿邮报》最近的一份报告,Facebook知道它的算法对黑人用户造成了不成比例的伤害,但却选择袖手旁观。
前国家公共广播电台主持人Audie Cornish在采访Meta公司的元宇宙副总裁维Vishal Shah时问道。"如果你不能处理Instagram上的评论,你怎么能处理在元宇宙上有仇恨言论的聚集地?你怎么能处理在元宇宙里可能发生的种族冲突?" 同样,如果黑人因为在网上发表反对种族主义和性别歧视的言论而受到惩罚,那么他们是否会在元宇宙中受到相应的待遇?
确保元宇宙具有包容性,促进民主价值而不是威胁民主,需要设计正义和社会媒体监管。
设计正义是将那些在社会中不掌握权力的人放在设计过程的中心,以避免延续现有的不平等。这也意味着从考虑价值和原则开始。
联邦法律保护社交媒体公司对用户在其平台上的帖子和行为不承担责任。这意味着他们有权利,但没有责任来监管他们的网站。监管大科技公司对于面对今天社交媒体的问题至关重要,至少在他们建立和控制下一代互联网之前也同样重要。
我并不反对混沌世界,我支持一个民主且负责任的元宇宙。不过,为了实现这一目标,我断言需要为互联网公司建立更好的监管框架,以及更公正的设计流程,这样技术就不会继续与种族主义相关联了。
Martial God Asura - Chapter 282 – Seizing Back Face
2022-11-04