公告栏:

首页 > 青年视点 > 列表

人脸识别:物之所“是”面临不断“发生性”可能

作者:西南政法大学国家安全学院讲师、中国人民公安大学博士后 谢 玲

 
  随着人工智能发展的日新月异,人脸识别技术从最初应用的公共安保和视频监控领域走向更多的社会应用场景:通过监视器的布控和个人图像分析预防街头路面等公共场所的犯罪和暴恐行为,进入教育系统侦测学生上课的出勤率和专注度,参与医院对重症病人照护协助和家属异常情绪的侦知等。一般认为,在人脸识别技术的软件开发分析和设计阶段,设计者应考虑人的基本权利原则和法律上的要求。然而随着人工智能研究领域的增长和智慧城市的发展,人脸识别已经进入定制化时代,降低了弃用技术的社会倾向,基于各自设计目的和理念投放于不同领域成为不可逆转的潮流趋势。人脸识别技术在“引入”环节的法律限定问题似乎已经被全球人工智能浪潮所“淹没”,但这并不能取代人脸识别技术在“适用”环节的道德问题和法律意义之讨论。
 
  技术与人发生关联具有伦理、道德特性
 
  人脸识别技术作为一种技术物,在开发应用程序之前,对于适用的目的、范围和效果往往有一个目标设定,通过发挥它的作用去诠释设计者和应用者的立场、解决社会现实生活中的具体问题。比如,在社区矫正中通过人脸识别技术侦测数据主体身份,监测矫正人员的情绪和行动方式是否存在违法或违例,对矫正人员社区活动的决意和行为施加影响,并赋予他们在人脸识别系统运行中作出矫正机关希望的合法行为或避免否定行为的责任。一般认为,作为“物”的人脸识别之使用状况被设计程序和固定脚本操控左右而具有“稳定性”,这意味着技术物作为被人主制的工具,它自身不会超出人的规定界限和使用范围,就像人脸识别系统承载了设计者所规定的运行规则,它仅仅作为意义的载体发挥人的指令要求。
 
  然而,事实证明这是设计者所期望的一种“理想状态”。正是这些由普及到扩大的新技术适用带来了新的社会问题和价值困境进而引发法律介入的可能性。当人脸识别系统投放某个领域后,它并不是被设计目的“钉”在那里去发挥机械作用,它与人们的行动、情境开始产生互动关系,反过来调节人的意向和行动,参与人的规避行为和规范行为等社会主体行为的建构,它的影响深远至技术设计和使用目的以外的存在维度。由此看来,设计者的意志不是技术物唯一的型构依据,它更像是一种情境或关系的存在。就像著名的技术哲学家维贝克认为的那样,技术与人发生关联时就具有了伦理的、道德的特性。
 
  展开物之为何
 
  对于人脸识别一旦与人相接触,超出使用目的、实际参与和影响每一个人的行动、型构一个全新的计算机与现实交融的一体化世界,与当下成为讨论热点的人工智能是否具有“意识”并无直接关联。它更多地体现和印证了海德格尔对于存在问题的现象学认识:“缘在展开了它如何存在于世界之中的方式,它解释它自身”。
 
  也就是说,人脸识别技术应用过程中出现的道德特性、超设计目的的影响力是一个技术物对其自身最“切近”最“真实”的表达:技术物自身的意向性被此前设计者强加于设计框架之上的设计目的所掩盖,设计者虽然理解它的基本结构,但是技术物本身却以相当实践性的方式投身于世界,去展开物之为何,是与人类社会之间的融合让它显露、揭开被设计者的理解局限所遮蔽的方面、增加新的意义,技术物在实际的使用中成为它自身。比如人脸识别系统的表情辨识和情绪计算,可能会在一定条件下对未成年人、患有精神疾病的人、环境感知较为敏感的人、期待公平待遇和正当维权的人造成生理和心理安全感和舒适度之侵害,这说明在与特定情境中的人发生互动关系过程中,人脸识别从设计指向转换至实际指向已经深深嵌入人的知觉、体验和存在感之中。而人类在受到威胁感到不安时,或故意掩藏抑制实施反侦测行为,或爆发极端情绪采取极端行为,都不是人脸识别设计者和应用者最初所预期的以技术塑形智慧城市、服务社会的功能场景。
 
  面临的质疑与挑战
 
  如果将设计初衷解释为人脸识别技术在某个领域适用的原因,会错过以其存在的可能性完整定义技术物属性,尤其是概括该技术物在使用过程中会产生哪些风险,面临以下质疑和挑战:第一、在新领域使用人脸识别技术的合法性问题。公共安全和警务部门对人脸识别的应用是推动这一研究领域增长的主要动力,但对于开发公共利益以外的私营、消费、产品应用程序或数据主体特殊的教育等行业的人脸识别应用,则应从必要性、合法性和滥用防止方面则作出充分的论证和说明,符合明确的目的原则和不得已的比例原则才可投入使用,并在应用技术中嵌入比公共安全领域更加严格的隐私保护条款;第二,是否全面考虑如何缓和技术所承载意向性与法的基础价值之间的紧张关系?比如在自由与安全的冲突之中寻找平衡点,确定人脸识别技术实际运用的临界范围,以作为寻求两个价值之间平衡最佳化的界限;第三,人脸识别技术的应用在何种深度和范围内是有意义的?一项新技术的普遍运用意味着将会改变数据主体的生活习惯和行为方式,人脸识别不是设计者所独有的事物,当它在切入人类社会生活领域时,就应该对技术物使用的意义、技术异化问题、新领域研发使用的隐私影响作出整体评估。
 
  面对人脸识别技术投入使用后的物之所“是”以及不断“发生性”的可能和挑战,需要从一个更新更全面的层次,去打破对于人脸识别设计用途和作用的前设性理解,在它们的使用环境、所容身的日常生活中去理解和追问它存在的意义、它的利弊,更重要的是要设置必要的规范和限制促进技术物更好地朝着预设目标而动。从设计之初被设计意向主导而产生暂时功能的遮蔽,到进入一个相对于设计者个人目的在价值取向上更加多样化的社会空间,一个敞开性的技术物必须获得道德维度与合理价值的省视,在使用范围、使用方式,服务对象方面受到技术规则与立法的限制,及时从“物的道德性”出发调整现实中不断放大的、调节着人类行动但有道德争议的隐蔽特性,不仅在设计层面,而且在运用过程中也要做好人脸识别技术的风险论证与安全保障。
 
  《社会科学报》总第1677期6版   
  未经允许 请勿转载