随着技术密集型经济体进一步与“黑镜”融合,最大、最令人毛骨悚然的创新可能是建立在大数据经济之上。 不仅仅是谷歌、Facebook、亚马逊和硅谷的其他公司在获取我们的数字信息,越来越多的公司正在以一种可能对你产生负面影响的方式,从你的每一个行为中获取信息以达到其盈利目的。
就连福特公司一向乐观的未来主义者Sheryl Connelly也对未来感到担忧。处在日益加剧的经济不平等问题、日益扩大的数字鸿沟和持续的隐私侵犯之间,她说:“这非常像1984年经济危机那时候,你不得不时刻提心吊胆。”
在许多国家,几乎没有法律框架来约束个人数据的收集和可能的滥用。去年,就在Facebook剑桥分析公司丑闻爆发的几个月后,欧洲开始通过其新的通用数据隐私管制政策,来应对围绕数据收集的新规则。此后不久,加州通过了美国影响最深远的数据隐私法,并将于2020年生效。
在过去的一年里,科技行业的丑闻、失误以及各种让人想起创新发明令人毛骨悚然的一面的东西,都给个人隐私带来了损害。近期新法律的出现,对于个人隐私来说是个重要的胜利。以下是今年值得关注的一些最新进展。
人脸识别
机场、商店、赌场等场所都在使用人脸识别,有些甚至是实时的,能在庞大而模糊的数据库的帮助下搜索可疑的人。澳大利亚将推出一项全国性的面部扫描系统,而在中国,面部识别技术正用于抓捕在啤酒节上喝啤酒的罪犯。去年12月,在亚马逊因出售面部识别服务面临批评之际,最引人注目的监管呼吁之一,来自一个人工智能的竞争对手。微软总裁布拉德·史密斯写道:“我们认为,一场逐底的商业竞争并不会给世界带来最好的服务,而科技公司将被迫在社会责任和市场成功之间做出选择。”
情感识别
所谓的“情感识别软件”并不仅仅用于评估求职者,警方也正越来越多地求助于基于人工智能的系统,根据一个人的面部姿态和声音来判断他是否暗含危险。一些专家将这个系统称为现代版的相面术。
虚拟人物
当Lil Michaela的账号第一次出现在Instagram上时,她就征服了全世界。现在我们有了像谷歌的Duplex这样的电视新闻主播和助理,它可以代表用户给餐馆和发型师打电话。Duplex的人性化是如此的不可思议,以至于许多人都指控谷歌造假。当Fast Company尝试这项服务时,它似乎像广告宣传的那样有效。当虚拟人被要求从事客户服务和类似的工作时,他们也冒着恶化环境的风险。在这样的环境中,活人无法区分虚构和现实。
数字造假
就像虚拟人一样,围绕深度伪造的技术——旨在诱使观众认为某人说了或做了他没有做过的事情的视频——最近已经让位于新技术,比如深度视频人像和接近照片真实物理位置的模拟。在与美国国防部高级研究计划局(DARPA)等机构支持的先进数字造假行为进行斗争的同时,一些专家也在对一种不那么复杂的攻击发出警告:虚假数据和欺诈性文件的传播。
人类机器化
在一个充满算法建议的世界里,谷歌正在自动完成我们的句子。当然,这很方便,但让我们更接近谷歌认为我们应该写的东西,也可能让我们人类变得像机器人。技术伦理学家David Polgar表示:“很多预测分析的核心问题都是关于我们是否有自由意志。我应该选择下一步,还是谷歌来选择?如果它能预测我的下一步,那么这对我来说意味着什么呢?”
同时,Ride-hail司机和其他在算法指导下的工作人员也面对一个同样重要的问题。Uberland的作者,Alex Rosenblat写道:鉴于Uber将员工视为“消费者”的“算法技术”和促进他们成为创业的企业家的情况,一个棘手的、未知的、令人不安的问题必须得到回答:如果你使用一个应用程序来上班,社会应该认为你是一个消费者、一个企业家、还是一个工人?
传感器监控
多年来,公司一直能够追踪员工的位置和谈话内容,但这种追踪越来越具有入侵性,越来越接近员工的身体。去年,亚马逊获得了一项腕带专利,这种腕带可以在员工可能要做错事的时候,利用触觉反馈来纠正他们。还有一些公司在办公室周围部署传感器,以跟踪移动和空间利用情况。
智能家居
2018年,智能家居设备蓬勃发展,为家庭带来了更多的摄像头和面部识别技术。Facebook推出了门户网站,谷歌扩大了其Home Hub网络,亚马逊推出了智能门铃服务铃声,以此作为其大举进军我们家庭的一部分。(上周,该公司表示,搭载Alexa的设备已售出逾1亿部。)我们已经开始担心Alexa捕捉人们对话的能力,但现在该公司正朝着将面部识别技术整合到其设备的方向发展,美国公民自由联盟称这预示着一个“危险的未来”。当然,不仅仅是苹果、谷歌和亚马逊在深入我们的家庭:我们的智能电视也在注视着我们。
基因技术
使用CRISPR等工具进行基因组编辑,有望对人类健康带来不可思议的改善,但它们也带来了令人难以置信的医学和伦理问题,可能会给它们的潜在好处蒙上阴影。去年10月,我国一名研究人员宣布,他利用CRISPR培育出了新的人类婴儿,这些婴儿未来的后代将对艾滋病病毒具有抗性。这导致了全球研究团体的广泛谴责——在许多国家,种系基因编辑和胚胎植入人类母亲的子宫是非法的——但这项研究提醒人们,转基因工具正在扩散,并可能在这一过程中给生态系统带来重大风险。
基因检测
随着DNA检测市场的爆炸式增长——预计到2020年将增加到3.1亿美元——人们对基因数据被滥用的担忧也与日俱增。许多消费者没有意识到,他们从DNA检测公司获得的基因数据可能会与制药公司等第三方共享,这一细节隐藏在晦涩的隐私政策中。这些公司坚称,只有在用户同意的情况下,它们才会分享匿名数据,但监管机构可能不会相信:可能是出于对隐私方面的考虑,美国联邦贸易委员会正在调查一些DNA检测公司。与此同时,DNA网站也是黑客们垂涎的目标,这前景更加堪忧:你的基因信息可能会像Equifax事件一样被泄露。
公众和隐私倡导者呼吁企业如何收集数据进行更多的控制,和更多的法律保护,另外一线希望来自科技公司自己:通过抗议和信件,工人越来越要求雇主对他们的行为和出售的产品的风险负责。如果没有严格的规则,可能那些开发了令人毛骨悚然的技术的人,才最有能力来防止它变得危险。