首页 科技快讯 我们的“两个身体”:简析健康码等算法治理术

我们的“两个身体”:简析健康码等算法治理术

来源:晰数塔互联网快讯 时间:2020年06月29日 08:00

本文来自微信公众号:腾云(ID:tenyun700),作者:朱悦(对外经济贸易大学数字经济与法律创新研究中心研究员、圣路易斯华盛顿大学法律博士(J.D.)候选人),头图来自:pixabay

我们要让死者和生者在这个地方(档案库)变得不可分离……先生,给这名(物理身体已经自杀的)的女子做一张新卡片,然后放在生者资料库……

若泽·萨拉马戈

围绕健康码的讨论有多少,其引出的议题就有多少。

二色分明,三色璀璨,渐变迷离;接触追踪,染病风险,思想淳正……当健康码突破曾经莫须有的藩篱,试图将自身与生活的各种侧面相虬结,我们的视线随之难以聚焦,再难分清“健康”“信用”“不安全”这些同等科学、同样四通八达的支离术语。泛化越广、越深,一般的讨论便越有必要。

二十世纪来经久不息的“两个身体”隐喻,可“挪用”至这一议题。

“国王的两个身体”是伊丽莎白一世时期英国法学家创制的概念:国王有一个“自然之体”,他个体的肉身,可生病、会疲弱、可朽坏;同时,国王另有一个“政治之体”,永远存续、不可朽坏。这一隐喻代表着种种冲突与矛盾。

算法以及和算法关系密切的信息保护,核心总在“识别到个体”上。

在这类修辞下,数字身份好像内化为个体的一部分,表征不同场景中个体的统一。然而,自大半个世纪之前,数字的、统计的甚至是算法的身份开始异化,既因“识别到个体”而获得预测、奖惩以至操纵个体的正当性,又让现实中的另一重身份感到焦虑和恐惧。

一码通行、孤岛融合,这既是部分观点中美好的应许地,又唤起了作为信息保护制度基础的所谓“卡夫卡式恐惧”。如果难以容忍两具身体间无休止的牵扯,求取合二为一,融合方向,将塑造相关制度的基调。

在难以断定哪一方更为可能的前提下,倘若以物理身体控制数字身体,这一思路,可以系统地串接算法规制领域的众多制度。反向的过程并非全无可能:若数字身体凌驾于物理身体,如此一来,历史比想象的更久远。

“我”之道,一以贯之

对单一身份的准确识别,是个人信息和算法规制中众多制度设计的共同源头。

到19世纪末,随着“陌生人社会”的兴盛,以及统计机器的日渐实用化,一纸一人、一卡一人,再到更晚些的一行(数据)一人,都由幻梦落入现实。

20世纪中叶,多国提出建设“统一数据库”的愿景,意图统合各数据“孤岛”,以此解决众多扰人的社会问题。

法律的争辩,同时达到高点;制度层面,作为世间几乎所有个人信息保护法律根基的“可识别个人信息”概念诞生。尽管这一概念的适用在今天遇到了一些困难。在学理层面,时人既奠定了领域内各方向的基础,又创设了我们对大型数据库的几乎所有比喻:触手遍地的章鱼,K所面对的城堡,之下的芸芸众生,尽皆赤裸、透明,等等。

吵闹很多,但以下假定渐渐不可动摇:每个人都(该)有个数字身份,这一身份可以很丰富、很准确,也可能很不安全。争论大多集中在这一假定的边缘。

逆反形式的命题,真值同样慢慢得到承认:每个人都有属于他/她的一页或一行,每一页/一行,都有属于它的一个人。

19世纪下半叶的济贫浪潮里,谓之科学的筹划,已有几分这样的意蕴。同时期保险和信用行业的发展,和20世纪初“精算警务”的崭露头角,则是上述命题逐渐成真的现实渊薮。

比如,从成千上万嫌犯样本里抽象出犯罪者的许多特征,形成理念中典型犯罪者的画像,到比对这一画像与日益完善的个人信息库,再到根据个人信息预测犯罪概率:对最能体现社会臧否个体的“有罪与否”和“该当何罚”,数字身份的作用日益凸显。从数字身份出发,足以对个体现实生活产生翻天覆地的影响。

20世纪六七十年代,法学家开始严肃地议论这样的题目:雇用、录取或求刑个体时,既可严格依照算法,按规则计算结果判定,也可延续因人识断的传统,按照个体的所有侧面综合决定。尽管当前论调偏重于反思前者的偏误,但在当时,为前者正名的音浪,声势要强劲得多。

从现实身体里凝练出纯净流淌的数字身份,再以数字身份提拉万千丝线羁连的现实身份,驱动其中往复的,有不断成型的制度,有快速演进的技术。从这重意义看,个人信息保护中的核心概念,总可做多向的解读。

“识别到个体”的范围不断扩张,既将保护投射得更为宽广,又在反复的肯定数字身份与现实中个体的密切联系。正当性基础中最凸显的“同意”,是身份自主的声张,也是牵连两种身份间的牢固保障。

修正、携带与遗忘,令修饰过的面目愈发清晰,还为这部分身份的可靠,下了又一重背书。

在这一框架里,身份的细部特征大可商议,但身份的本体只会不断凝实。由此,信息自主悄然削弱了“彻底的匿名” “自卫的混淆”和“隐私即低效”等话语,在赋予个体打理数字身份的空间的同时,隐式地保障了数字身份的始终存续。

技术层面的话语变动则更为显然:个体的数字画像比他/她更了解自己。这句谶谚蕴涵了颇为精巧的佯谬:如果“个体”和“自己”实为一以贯之,“更”字不过修辞尔;如果接受二者的彼此分离,“更”的使用,或许再不是夸张。

当然,在绝大部分的时间或场景里,零星的信息流动,很难称得上什么“数字身份”;即使信息多到足以画像,信息处理者的关注点,通常也十分狭窄。要害始终在于不同场景间信息的融合。

散落的信息加特定的处理,个体容易修饰,生成数字身份的人,一般不会对这样简陋的画像有太多期待;贯通的信息加无垠的用途,个体再难揣度全貌,运用如此身份的人,对可以实现的治理效能,怀有难以挫败的信心。

在这一趋势上,个体很早已经袖手:即使是计算机还在吞吐纸带的年代,哪怕是学者,也很难大概理清带子上戳刺的上百种个人信息。

1990年代以来,帮个体对数字身份“摄影”、清楚了解各类收集信息与相应处理,是各地创业者经久不衰的设想。随着“健康”或类似算法治理术的逐渐贯通,相应观念的渠成,不再全是幻想。

无论术语为何,一旦通行观点开始悦纳这样的存在:个体设想与生活处处交结的算法的独立存在,行为举止均考虑数字身份的修饰;各方同样认可身份的准确,尽量观测这种覆盖相当广泛的数字身份,以此为决断个体的实质标准。

那么,我们可以认为,数字身体对应的“奇点”已经到来。之后,任何对“人”的讨论,都要考量两重无法通约的身体。

1990年代以来,帮个体对数字身份“摄影”、清楚了解各类手机信息与相应处理,是各地创业者经久不衰的设想。随着“健康”或类似算法治理术的逐渐贯通,相应观念的渠成,不再全是幻想。

数字人的两个身体

身体这一意象,同样经历了长久的凝结过程。

1960年代,就有理解数据库的丰富语言,也有面对算法效能的欣喜,尚有对数字“影子”的担忧。此时,恰如“影子”这一譬喻所示,对数据库操纵个体固然深刻,说到底,发声者依然假定:这是依附在实体上的幻影。以下,借用这一比喻表达类似观点的评论越来越多,对操纵的描述也更加生动。

例如,算法塑造了社交媒体上头部流量所对应的话语、情绪和审美标准,与此同时,新一代的话语、情感表达与美的追求,出现了类似的漂移。数据集合之意志所表达的偏爱,在大范围内影响个体的举手投足。

监控研究领域前沿中频繁的词汇,早先更多是“透明” “赤裸”“窥视”,现在更多是“助推” “塑造”甚至“哄骗”。在已经开始深刻涉及人格的创作层面,研究者也不再讳言算法的作用。

实际上,还有观点严肃地讨论人与机器——而非机器与人——难以区分、导致人难以通过“逆向图灵测试”的可能性。数字身体牵引现实身体的程度,早已不止于轻触即碎的倒影。

当数字身体彻底凝实,物理身体的意志和行为,反而需要向前者辩护。毕竟,和传统的“两个身体”话语一致:物理的身体容易朽坏,意志也不够强韧。相比之下,至少在理论层面上,数字身体可以存在许久,判断的能力总是“在线”。

有观点认为:如果路上全部都是算法驾驶,就可以避免不确定性,从而防止任何事故。但算法与人并存的路段始终存在不确定性,进而可能导致算法驾驶车辆与人驾车辆的碰撞。既然如此,为何不彻底取消人驾,全部由更加理智的算法驾驶接管道路?

不知由此,迈过数字经济的奇点之后,尽管法律仍然可以尝试赋予个体“对抗自动化处理”的可能性,想要超越算法决策的个体,依然要证明这一显然十分困难的命题:他/她那脆弱的意志和头脑,比精巧且长存的数字身体更为“真实”。

甚至,当有关讨论涉及意图、动机和思想,如果“真实”的基准即落在数字身份上,他/她面临的举证任务——证明自己的意图、动机和思想比真实的还要“真实”,在修辞层面,似乎已经自相矛盾。

对由数字身体所主导的社会进行批评很容易。信息安全是永恒的担忧,数字身体为害物理身体的可能性永远存在。然而,“何以因噎废食”?数字身体的表达确实可能与物理身体的言语不一致。

不能否认,众多乌托邦文学影视有警示作用。从数字身体开始成型的19世纪下半叶起,畅想“乌有乡”和描绘“新世界”的艺术,在数量级上总可以等量齐观。数字的身体,狡黠,顽强,永远难以打破。

如果不是对未来有非常的乐观,又难以克服心底总有的无助、焦虑和恐惧,大概很难忍受始终与数字身份相纠缠的生活。我们也不喜欢这样的异化:数字身体的每一缕思绪和每一寸肤骨,都来自物理身体的同意。

如有此事,即使不考虑1960年代各方已剧烈批评同意这一历史,数字身体所具备的力量,也足以让同意者哑然失笑。数字身体勾连物理身体的能力,既来自数字肌骨和物理身体的一一识别,又以对物理身体的真实映射为基石。不过,细究这一身体生成的原理,最终仍是千万其他物理身体的提炼,再将其中每一个体套入由众多其他个体织成的丝网。

换而言之,这里既可以描绘为成“帮助你了解你自己”,也可以表达成“一切人对一切人的驯化”。在奇点遥遥可见的今天,最好的出路之一,是提前在两种身体间分出主次;或者,让一具身体始终束缚另一具。

作为对人的精准识别和度量,数字身份具备了牵引物理身份的可能性和正当性。随着这一现象逐渐变得日常,跨越不同场景、甚或覆盖生活所有侧面的算法日益可能。

支线一:算法规制的三道“坎”

我们更加熟悉的,大概是第一条路:物理的身体,应当始终保持优先。

如果假定跨越场景的大范围算法运用无法避免,那么,我们期待1960年代的比喻成为制度和现实的锚点:数字画像始终是物理身体的影子,影随身而动。可以有深浅,能容忍歪斜;“对影成多人”,则始终只能是浪漫诗句里的瑰奇想象。

从此出发,笔者之前写作的《算法规制的三道“坎”》,不仅是对现实制度的归纳,还是对数字身体主导的三种制约。

简而言之,个人信息保护,在于阻止数字身体成型;算法伦理原则,在于压制数字身体的话语;类似健康主义的追问和警惕,则是奇点前最后的屏障。这既是对三类制度的证立,又是对三者强有力的回护。

海量个人信息,是构建数字身体的基础“营养”。由此,若个人信息流出有所规范,数字身体成型的速度,自然相应减缓。这一点的效应,至少体现在四个不同层面上。

首先,对敏感时期收集的大量非常准确的信息,有关后续处理的建议,强烈指向最严格的匿名化或者删除。

这一思路同时与近期法国等地法院作出的,或许有些不近人情的要求删除相应信息的判决相合。如上,这些数据越准确,匿名或删除的依据未必因此减弱,反而可能加强。

其次,对“同意”,以及更加宽泛的“正当性基础”,应有相应反思。

须知,相应基础,仅仅是对狭窄范围内收集、处理等行为的辩护,而无法成为对更加一般的、建构数字身体的辩护。因此,针对海量个人信息的处理,总应当放在数字世界里个体状况的整体情势下看,并从此保留一定的、超越相应正当性基础的空间。否则,千头万绪的同意,反而可能织成最为基础的、两个身体间的张力。

再次,在个人信息保护领域,很少有不涉及错综复杂平衡问题的条文。

考虑到前述可能,对每一条文,行称提之心事时,都多了一项基础性的考虑。对默认不收集的偏向,亦因此强了些许。

最后,个人信息保护制度的发展已经大致踏过了“容忍黑暗般匿名”的阶段,现实社会经济发展,对秘密留下的空间大概也越来越少。

同时,除制度框架本身外,聚光灯几乎完全落在“基于(个体以外的)设计”的隐私上。尽管如此,我们不应忘却 “低效是对隐私最好的保护”的法谚。

如果说,个人信息保护的各层制度是对数字身体原料的限制,算法伦理原则,更多指向以原料孕育身体的过程。一方面,落实伦理原则,将阻挡许多跨越场景运用个人信息的行为;另一方面,一定程度上阻遏数字身体,也是对伦理原则领域众多难题的开解。

前一点,对数字身体凌驾物理身体的警惕,需要在“向善” “有度” “可信赖” “可持续” “人类中心”等各具影响的原则中找到融通之处。后一点,对算法伦理原则,讨论的声音越来越多、越来越强。但透明、公平、可解释,既难以严谨的方式定义,在具体的算法里又缺乏公认实现方法。

虑及前文的讨论,更加充分地暴露算法涉及伦理的多样,更为明白地阐释算法可能无法调和许多重要伦理原则的事实,未必是件坏事。

两个身体对算法伦理的另外一重影响,在于提示过程性伦理的重要性。

眼前通行的算法伦理,从“向善” “透明”再到“公平”,大多可以视为预设了过程的、针对发展结果的伦理:应用算法是必然的结果;与其显得“顽固”,不如关注已来之未来中算法的特性是否合乎理想。

停滞算法的应用,与社会经济的呼唤并不相合;不过,这并不妨碍对预设的过程进行反思,讨论是否有所偏离,时刻警惕。例如,在大规模应用特定算法前,当考虑相应算法是否符合可逆原则。

换而言之,如果相应算法最终导致不尽如人意的结果,社会是否可以较低的代价,大体恢复到列装算法之前的情况。技术并不孤立地发生影响:技术的影响,既依赖于对社会现有结构的足够嵌入;实现嵌入后,技术本身又会深入塑造社会的结构。

当后者发生,即使个体具备“拒绝自动化处理”的权利,此时个体也很难脱嵌于被技术显著塑造的结构。数字身体在观念中逐步压过物理身体,很可能是类似的过程。

因此,除了对个体层面的制度安排进行反思,在社会层面设置前述的过程性伦理,同样是第二道坎中的应有之义。

最后,是诸如健康主义的省思:在令健康码与多种现实结果关联以前,应当论证相应关联正当、合理。在本文语境下,这一点也可以替换成“信用主义” “安全主义”,等等,还可以推广到任何成为大规模应用算法之凭据的术语上。与前两道坎有所不同:健康主义,一定程度上可以成为奇点前的底限。

这一反思,同样具备两重意味。

第一重相对现实,大抵与既定的行政法等部门法重叠,要求基于算法的行政决定服从有关法律原则。第二重则更为突出:在审视信息的大量汇集与算法的超场景应用时,应始终从社会中人的总体处境的角度,考虑有关应用是否正当、合理。算法在日常生活中的大部分应用,都不会触发这层考虑。

不过,当算法进入涉及人格核心的层面时,这一点将发挥作用。

具体而言,倘若我们接受基于信息和算法的,在财产、健康乃至刑罚等场景的决断,如此,我们不仅应当审视算法在这一场景中取得正当的影响,还应当审视这一结果对其他人格利益强度相当的场景的影响。

毕竟,数字身体并不会在物理意义上“吞噬”我们;真正重要的是对物理身体的否认,和数字身体在话语上的主导。

倘若数字的身份在任一场景中可以作为主导,如果再失却全局层面的平衡,可以想象,类似的权衡结果,可以迅速影响到其他牵涉人格核心的层面。从这个意义上说,数字的身体,正是在失却这一层考虑的过程中凝聚成型。为了维护这条底限,需要上述有益的“滑坡”论证。

支线二:在历史之流里上溯

我们期待支线一,但我们没有把握断言,支线一必然是未来的方向。数字身体与物理身体的共存已是现实。技术当然是永恒的难点。

不过,即使地平线可以抵达,制造“身体”,依然需要非凡的哲思。在“两个身体”的原喻体里,超越物理极限的另一身体得以诞生。

可惜的是,这样的身体似乎无法量产:或许,这一身体的制造过程,其中即蕴涵着唯一性。此外,擦除这一层身体意象,本身即是“现代”的体现。

在第一条路里,预设的立场,是毋须在影子面前辩护。即使这片影子已经覆盖生活的每一重要侧面,每个人都仍可以反思等方式,肯定自己之为自己。

然而,在这一条支线里,这一最后的防线,反而成了难以逾越的障碍:即使数字身体取代了物理身体的每一侧面,反思仍然可以引起疑虑:这是我/他/她的身体吗?

倘若无法飞越这道深渊,物理身体终究难以相信:对方是数字的身体。对拟人机器的过度信任偏误,或许可以发挥作用,但这太容易被“纠正”。此处,这样的怀疑有所根据:是否存在任何理性的证明,能够超越本性里无法尽抑的反思?

从这一角度出发,尽管“两个身体”所叙述的、神秘的身体制造过程已经显得久远而缥缈,我们需要从此上溯,寻找足以制造身体的程仪。

即使健康、信用和安全终究是一抹光影,对那些主动寻求多个身体的人,对也许有的、希望用数字身份压制个体物理身体的人,还有,对那些希望找到办法,让劳作的算法、创作的算法都成为社会观念意义上的人格实体的人,技术的飞跃和缜密的说理固不可少,但终究无法替代最后的飞跃。

未来,无论这三类中哪一类的意志占据主导,从而引向第二条道路,他们都需要“发明”类似的程序,让数字身体成为真正意义上的身体。或许可以期待:在这一道路所指向的将来,理性主义的硕果,和神秘主义的孑遗,以最为奇特的方式合流。

结语:今日方知“我”非我

本文探讨了如何串接健康码或类似算法治理术的历史。作为对人的精确识别和度量,数字身份具备了牵引物理身体的可能性和正当性。随着这一现象逐渐变得日常,跨越不同场景、甚或覆盖生活所有侧面的算法日益可能。同时,零散的数字身份开始汇聚,独立于物理身体。

个人信息保护或类似法律未必能够阻遏这一过程,反而可能加速数字身体取得主导的进程。两类身体间既有无尽的牵扯,又赋予了部分极具吸引力的可能性。

无论是数字身份始终归附物理身体,成为后者的幻影;还是数字身体外在于人,甚至成为不同场景的主导,都是无法彻底排除的可能。以前者为理想,如此,对数字身体压过物理身体的防御,可以成为算法规制领域众多内容的枢纽。

个人信息保护,对应于控制前者的“原料”;算法伦理,既是对组合原料的制约,又可以在接近失控时提供逆转的空间。我们冀求多个身体共同存在的可能,让数字的身体在众多方面比物理的身体更智能、更恒久,但并不取而代之。

本文来自微信公众号:腾云(ID:tenyun700),作者:朱悦(对外经济贸易大学数字经济与法律创新研究中心研究员、圣路易斯华盛顿大学法律博士(J.D.)候选人)

相关推荐

我们的“两个身体”:简析健康码等算法治理术
“判断”是人的基本权利,但我们正在把它交给算法
被低估的健康码:AI商业化“奇点时刻”正在降临
国家版“健康码”来了 将逐步与各地健康码对接
为什么总要刷不同的健康码?这背后有一张复杂的大网
当AI+医疗走出医院:未来健康管理的无限可能
2019年度教育行业全析:快速奔跑的合规之年
刘永谋:关于智能治理的哲学反思
把大脑从衰老的身体里分离出来?“长寿科技”让人类活200年不再遥远
Zoom危机与“健康码”抗疫:你愿意让渡多少隐私?

网址: 我们的“两个身体”:简析健康码等算法治理术 http://www.xishuta.com/newsview25771.html

所属分类:互联网创业

推荐科技快讯