元器件交易网-中发网全新升级平台
关注我们:
首页 > 业界新闻 > 正文

当无人车遇上著名的“电车难题” 它会怎么办?

“电车难题”是一个伦理学领域的思想实验,自1967年Phillipa Foot提出以来,大批哲学家对此乐此不疲。

五个无辜的人被绑在铁轨上,一辆列车疾驶而来,他们死定了。除非你拉下列车控制杆,使列车朝另一个方向驶去,但那条轨道上有一个同样无辜的人。拉下控制杆,你能拯救五条生命,但会牺牲另一个:你如何选择才能不违背伦理?

随着时间的推移,这个问题演化出许多新版本,譬如:是选择让电车撞死五个人,还是把一个胖子推下去阻止列车前行(胖子也得死);还有一种,胖子恰巧就是这个把五位无辜者绑在轨道上的人,等等。如今,这个辩题因无人车的出现被赋予了新的生命。新的版本是:你的无人车将撞上一辆校车,它意识到它可以选择杀死你或者拯救一车的孩子。那么在设置程序时应该如何抉择?我已经记不清有多少次,“电车难题”总是以各种故作严肃、远见卓识的未来主义姿态出现,并激怒我 。最糟糕的是,这个肤浅的题型不仅伪装深刻,还演化出各种貌似更深刻、意义更重大的形式。

我们可以换种方式思考:如果你想设计一辆车,让它在特定条件下故意杀害它的司机,你如何保证司机不会修改程序,确保自己永远不会被自己的汽车蓄意谋杀?

答案很明显,借鉴iPhone模式。设计一辆汽车,让它只能安装通过交通运输部(或制造商)认证的软件,并将教人解锁定以重罪。目前iPhone、游戏机和其他设备都上了数字锁,即业内所说的“DRM”(数字版权管理)。美国1998年颁布的“数字千年版权法案”和欧盟2001年颁布的“协调信息社会的著作权指令"禁止去除数字锁,防止受版权保护的作品被盗版。泄露帮助他人解锁的信息,如设备中的漏洞等行为也会受到制裁。

围绕这个问题有很大争议。无人车的程序必须对一个公路上高速移动的对象负责,尤其是那些脆弱的人类。

但这在现实中显然根本行不通。大家都知道,每台被锁定的设备都可以轻易地“越狱”。数字锁法规最主要的目的不是阻止人重新配置设备——而是确保他们不能在企业和产品的帮助下这样做。2002年英国电信监管机构OFcom宣布了手机解锁合法化,解锁你的手机并不难,你可以自己从网上下载软件解锁,或找非法破解手机的人。

即使我们可以锁定汽车的设置,我们也不应该这样做。数字锁会在在计算机里建立了一个计算机所有者也无法进入的空间。数字锁的相关文件对所有者绝对不可见。当用户命令操作系统列车数字锁的目录下的文件时,文件必须被掩盖或忽略(以防用户删除或替换它们)。当用户命令操作系统列出所有运行的程序时,数字锁程序也应被忽略(以防用户终止程序)。

所有计算机都有漏洞。即使使用多年的软件,源代码被无数程序员检查过后,仍会有微小的漏洞。安全是一个过程,不是一个结果。准确地说,安全是一种识别漏洞的过程,以及在对手发现、利用漏洞之前打补丁的过程,也是一种防患于未然,在此之前将对手从系统中消灭,并修补他们造成的破坏的过程。

当SONY BMG将数字版权管理软件暗藏在大量计算机中以阻止CD泄漏,它得不被杀毒软件发现,因为杀毒软件可以准确将它识别为一个未经用户许可安装、违背用户意愿运行的程序。通过改变用户的操作系统,使其无视任何以一串特殊、秘密的字母串“$sys$”打头的文件。恶意木马作者一旦发现,就会利用它:当他们的程序侵入SONY授权的电脑,程序可以在SONY的掩护下,不被杀毒软件发现。

汽车体型庞大且行驶速度快,可以杀死用户和周围的人。黑客可以通过授权的软件控制刹车、加速器和方向盘(去年夏天的克莱斯勒公司因此召回140万辆汽车)。如果把汽车设计为无法修改的无人车,把任何驾驶员试图修改程序(比如在“电车难题”中选择自保)的做法视为自私的行为,把乘客视为敌人,事情就会更糟。

“电车难题”愚蠢的假设之下隐藏着深意。互联网的世界已经出现了“合法拦截”,留下后门以供警察监管。这些后门已成计算机安全问题的根源。比如2011年中国政府攻击Gmail账户,“合法拦截”疑似政见不同的激进人士;以及NSA在2004年奥运会期间窃听希腊政府的竞选过程。

尽管存在这些问题,执法者仍希望留下更多后门。英国内政大臣Theresa May颁布的“刺探者宪章",将迫使公司弱化产品的安全性,使监管用户成为可能。

我们似乎可以从无人车的合法拦截能力中获得启示:警察可以对你的车发送信号,让它停下。这会比"电车难题"带来更多问题:一种让汽车不按乘客意愿行驶的内置装置,对骗子、杀人犯和强奸犯来说简直是天赐良机。这些人能以此巧妙模仿执法机构的官员。不要说政府的警察这种行为在我们看起来是非法的——更别提叙利亚总统Bashar al-Assad的秘密警察,或是Isis控制下自封警察的恐怖分子了。

"电车难题"变得更棘手了:对城市规划者来说,无人车主要的吸引力在于可以减少路上的汽车数量,将私家车转化为一种无人驾驶的Uber。Uber甚至可以被看作一种无人车的演练。你和你的车存在某种关系,但你并不拥有它。你没有权利改变(甚至监视或确认)无人Uber里的软件。它会设置为让第三方控制。比如可以设置一种用户控制的紧急刹车,并委托保险公司管理,但保险公司显然不希望这种功能出现。

买正品元器件就上天交商城!

扫描左侧的二维码

科技圈最新动态一手掌握
每日砸蛋,中奖率100%

责任编辑:周西淋