近年来,市面上充斥着诸多将人工智能塑造成“盲人的眼睛”并声称能够拯救其生活的宣传语。在酷残未来研究院近期举办的无障碍与合理便利工作坊上,也有视障伙伴满怀热情地分享,人工智能极大提升了个人工作效率,克服了诸多以前的信息障碍,对未来充满期待。
然而,当话题转向这些技术背后潜藏的社会风险时,大家往往感到困惑,难以充分理解人工智能会带来新的不平等这一命题,甚至从未在技术根植于既有权力结构这一角度展开思考。无论是科技界的拯救叙事,还是个体对技术效率的全然拥抱,都提示我们需要跳出单纯的工具视角,展开更具批判性的反思与讨论。当下正是一个极为重要的时机。在过往的历史进程中,技术的表象在不断更迭,但背后那些未曾改变的隐蔽逻辑如果得不到检视,历史上的技术排斥便会再次上演。事实上,这种排斥在人工智能的快速普及中已经初显端倪。
六月二十三日,联合国中国残障包容发展联合项目在北京举行结项与前瞻对话,为期三年的联合项目由此画上阶段性句号(联合国中国残障包容发展联合项目举行结项与前瞻对话,呼吁持续推进残障包容发展)。
在这项工作实施期间,酷残未来研究院团队在中国社会科学院新闻与传播研究所卜卫教授的指导下,参与了该项目数字素养部分前期的需求与状况研究工作。酷残未来研究院发起人蔡聪受邀出席本次活动,并参与了以数字素养与包容为主题的圆桌交流。该环节旨在探讨如何加强残障群体的技术获取、技能提升与社会参与。
在对话中,蔡聪结合前期的工作与研究观察,深入回应了这项数字素养工作的核心价值,剖析了残障人士更充分地参与数字社会、表达自身经验以及建立社会连接时,需要从历史发展和现实观察中吸取的经验与教训。下面的内容,由其根据在此次会议上的发言稿整理与深度扩展而来。
发言稿原文
从信息障碍到数字排斥的可见性无论媒介技术如何迭代,残障群体始终面临着被数字鸿沟排斥的风险。因此,任何时候反复强调这一议题的可见性都不为过。正如过去存在阅读鸿沟与电视鸿沟一样,在全面迈向人工智能的时代,如果我们不去反复提醒这件事,鸿沟的那边依然会遗落大量残障者。
这种数字环境中的排斥表现出复杂的多维特征,它深刻地嵌构在设施接入、技术使用、内容获得与信息理解这四个相互交织的层次之中。在设施接入层面,运行高效的大语言模型往往伴随着较高的算力订阅费用,这对于经济条件受限的残障群体构成了一道隐形门槛。此外,社会对残障者技术需求的刻板认知也会阻碍接入。如果人们误以为视障者根本无法与智能体进行交互,就不会去考虑他们的底层接入需求。同时,如果仅仅基于传统的慈善心态去开发与主流技术生态相隔离的的残障专用智能硬件或软件,类似过去的盲人搜索引擎、盲人专用AI外卖点餐软件等,缺乏基于主流算力生态的各项应用服务以及与大众大模型平台的融合,只会导致残障者在接入端便遭遇彻底的孤立。在技术使用层面,许多新推出的大语言模型及智能体产品在前端界面上依然沿用以健全人为中心的设计。目前的交互入口如果完全依赖复杂的网页前端,或者在移动端缺乏无障碍底层支持,会导致视力障碍者的屏幕阅读软件无法顺利读取,同时也缺乏适合听力障碍者或上肢肢体障碍者的多模态输入与控制方式。弥合这种障碍不仅需要智能技术本身具备融合性,更需要提升使用者的数字素养。想要指导手部精细动作受损的脑瘫人士熟练运用提示词或语音交互来操控智能体,便需要那些拥有同样生命体验的残障同伴来主导培训,这也提示了残障主体经验在智能技术传授中的不可替代性。
在内容获得层面,大模型生成信息的展现形态会对特定群体产生实质性限制。未加无障碍标签的超链接或纯视觉呈现的交互卡片越来越多地嵌入在智能体的回复当中,并且以自动调取各项生活服务程序的方式全面介入日常,这会直接阻断视障者的访问。同时,残障群体内部获取人工智能生成信息的能力与偏好也存在广泛差异,单一的文本输出或纯语音播报难以涵盖所有群体的获取习惯。在信息理解层面,人工智能输出的内容能否被充分且准确地认知,是无障碍的终极目标。
在现实与智能体的交互中,系统默认的复杂逻辑表达与快节奏的连贯发问,是否会给心智障碍者/精神障碍者带来压迫,如果缺乏浅显直白的语言等替代性提示与文本设计,他们也会被排除在人机交流的大门之外。即便当下大模型已经能够为视障者实时生成环境的口述图像等多元服务,我们依然需要审视这种机器讲述的性质。我们需要反思这究竟是一种单向的机器灌输,还是一种真正尊重残障文化与尊严的双向交互。目前的AI口述图像技术的单向灌输性,一方面体现在其仍然在无意识地复刻视觉中心主义的霸权。当机器尝试向盲人描述“谁是大眼睛、谁穿着花衬衫”时,它所输出的不仅是视觉信息,更是一种充满视觉文化偏见的描述逻辑。这些描述看似在传递图像,实则并未回应盲人的信息需求,反而是在强行向非视觉认知空间里植入一套主观且刻板的视觉概念。另一方面,更深层的问题在于视觉的运作逻辑往往伴随着意图判断,譬如“明眼人”眼中的“障碍物”,在使用盲杖独立出行的盲人的非视觉经验中,可能是至关重要的“标志物”。比如一个在明眼人看来必须躲避的马路牙子,在盲人的行路逻辑中,反而是通过盲杖触碰来保持直线前进或者拐弯的可靠线索。然而,一些由“健全人”主导设计的AI避障眼镜,却倾向于强行介入并控制盲人的行走路径,将行进过程打造成“丝滑”但完全脱离盲人实际感知习惯的视觉标准,这种违背感知的逻辑无异于一种技术性的“反人类”矫正。
数字排斥还在残障群体内部制造了新的分化。不同障别人群在拥抱人工智能时面临的技术障碍存在显著差异。随着多模态大模型日益倾向于视觉和复杂图形界面的生成,视障者在技术迭代中极易处于不利位置。听障者看似在获取纯文本内容时没有障碍,但在面对大量依赖语音唤醒或缺乏实时字幕与手语翻译的智能语音助手等环境中,其遭遇的排斥同样深刻。年龄、收入以及受教育环境等交叉因素也在加剧这种不平等。在需要依靠智能终端获取紧急公共服务的场景中,部分老年人与残障者由于无法熟练调用大模型应用,遭遇了实质性的生活受阻。放任这种新型数字基础设施中的障碍持续存在,会不可避免地催生出由智能环境排斥所形成的新型“残疾”体验。
算法歧视与黑箱智能技术在创造新感官交互方式的同时,也暴露出一个核心缺陷,其各个环节研发缺乏残障群体的全过程参与会直接引发系统性的排斥风险。纽约大学人工智能当下研究所与纽约大学残障研究中心在2019年联合发布的《残障、偏见与人工智能》报告指出,人工智能的底层逻辑依赖于对历史数据的学习,机器训练的材料源自既有的人类社会。社会在历史发展中往往忽视残障人士的平等参与,导致残障个体在各类历史数据中常处于缺席或边缘化的状态。带有偏见的数据一旦成为算法的基础,人工智能便会将歧视固化并放大。该报告记录了一个求职场景,多家企业正在引入人工智能视频面试系统,算法通过捕捉求职者的微表情、语气语调和面部运动来预测工作能力。系统将非残障人群的表达方式设定为正常基准,进而对聋人、盲人、面部神经受损等群体造成了系统性歧视。这种因缺乏多元群体参与而导致的数据缺失在生物特征识别领域同样普遍存在。
麻省理工学院研究团队在关于算法偏见的研究中证实,主流面部识别系统对深色人种女性的识别错误率远高于浅色人种男性。将这种基于肤色识别的偏见逻辑平移到残障维度,我们会发现更多被算法排斥的边缘群体。目前广泛应用于身份验证的活体检测系统通常要求用户完成眨眼或转头等动作,这直接将面部神经障碍者以及部分无法自主控制眼球运动或无眼球的视障者阻挡在数字服务之外。对于面部烧伤者或有罕见面容差异的个体,主流视觉大模型也往往无法成功提取其面部特征,导致他们在各类人脸识别场景中无法完成基础验证。人工智能的统计学本质决定了它倾向于追逐数学意义上的平均值。在前述的报告中还提及了学者朱塔·特雷维拉努斯测试自动驾驶视觉模型的经历。她将一位习惯向后倒退驱动轮椅的朋友的影像输入给系统,所有模型都做出了直接撞上去的决策。随着模型自我学习次数增加,它选择撞击这台轮椅的置信度反而更高。系统根据海量轮椅数据计算出的平均行为是向前行驶,向后驱动的轮椅在算法眼中成了异常数据。增加常规数据无法解决这个问题,只会让偏离平均值的残障者变得更加边缘。
与过去遭遇歧视的过程不同,当系统内部的运作原理如同黑箱一般难以察觉时,歧视也变得难以追踪。企业常以商业机密为由拒绝公开训练数据与算法规则,残障者遭遇系统性排斥后难以寻找证据进行维权。传统反歧视的法律途径在面对算法黑箱时往往缺乏有效的应对手段。要从根本上抵御这种隐蔽的技术排斥,单纯依靠产品发布后的末端修补已无济于事。我们必须改变以往滞后的干预模式,要求并保障残障群体在人工智能发展的全过程中实现有意义的充分参与。这种全过程的参与要求残障主体提供属于自身真实经验的数据集以建设更包容的语料库,深入黑箱技术的实施过程去纠正算法偏见,并持续主导最终前端使用工具的无障碍设计。只有让多元的真实经验从一开始就写进数字世界的底层代码之中,智能时代才能真正避免重蹈历史排斥的覆辙。
个体效率错觉与尊严否定面对智能工具,残障社群内外都容易产生一种技术救赎的迷思,对于技术的开发和应用洋溢着技术乐观主义的氛围。作为一种最古老的技术观,技术乐观主义认为人控制技术和技术的使用后果,技术将会作为中立的工具服务于人、造福于人,技术进步必然带来社会的进步。在这里,首先需要明确一个基本判断:人工智能并非价值中立的工具。它的设计、训练数据和部署方式,无不内嵌了开发者的意图、社会的主流价值观以及既有的权力结构。因此,讨论其对残障群体的影响,必须首先解构这种破除技术中立的迷思。许多声称无障碍或者助残的产品,其底层设计逻辑事实上深受能力主义的影响。能力主义倾向于以健全人的运转效率和行为模式作为衡量个体价值的唯一标尺,将残障视为需要被单独矫正的个体问题。研发者试图通过技术手段使残障者的行为表现强行对标主流群体的标准。纽约大学的报告将其总结为一种正常化规训,例如市面上出现了教导孤独症人士模仿主流群体进行眼神交流的人工智能,以及承诺让聋人“彻底融入”有声世界的实时转写应用。正如开篇谈及的备受追捧的视障者专属智能眼镜一样,这些技术预设了残障是一种有待消除的状态,忽略了残障社群自身的文化与身份认同。这种迷思进一步催生了个人效率提升的错觉,让人误以为仅仅依靠个人购买和使用智能技术就能完全弥合环境障碍。这种对技术效率的全然拥抱带有极大的社会危险性。
学者阿什利·休将其概括为技术能力主义,揭示了能力主义与技术手段深度结合后产生的衍生风险。在这种技术能力主义逻辑下,解决残障问题的公共责任发生了转移。加之传统的无障碍倡导往往面临高昂的实践成本且难以立竿见影,残障者自身会随之减弱对外部无障碍环境与政策变革的诉求。
以图形验证码为例,过去残障主体的倡导方向是要求互联网平台改变这种排斥性的设计,如今许多视障者转而寄希望于屏幕阅读软件引入人工智能来自动识别并攻破验证码。这种技术赋能看似解决了眼前的访问难题,实际上让排斥性的环境设计得以合法化保留。这实质上将实现社会融合的责任从“公共社会应当建立无障碍环境”,转移到了“残障个体必须努力掌握智能工具跟上系统节奏”之上。未能利用新技术提升效率的残障者,往往会面临不够努力的二次苛责。这依然是在复制过去要求个体自强不息与身残志坚的陈旧逻辑,只是在表面形式上将拼搏的方向转换为了“技术励志”。技术中的能力主义政治在心智障碍群体的应用中表现得尤为隐蔽。当下许多人认为人工智能拥有无限的耐心,非常适合陪伴心智障碍人士,系统也可以被专门训练以使用简单语言识别并回应他们的需求。这种看似充满善意的技术应用表象之下,隐藏着剥夺真实人际连接与去人性化的巨大风险。将陪伴与沟通的社会责任转移给机器,潜台词依然是认定心智障碍人士无法达到主流人类互动的效率标准,进而任由真实社会拒绝接纳他们,或者要求他们必须先接受机器的技术训练才能与主流人群互动。这种技术隔离变相贬低了心智障碍人士的主体价值,用虚假的机器温情掩盖了真实社会融合的失败。这种无处不在的效率要求与能力主义规训,在新技术的飞速发展中越来越演变为了残障学者卡伦·中村提出的反向图灵测试。
在传统人工智能领域,图灵测试旨在检验机器能否完美模仿人类以至于让人无法察觉其机器身份,反向图灵测试则要求人类必须向机器证明自己符合主流群体的运转标准,一旦无法通过测试,便会被机器判定为非人类主体。前文提及的图形验证码便是典型的反向图灵测试。视障群体以及手指不够灵活的肢体障碍人士,无法满足现有验证机制强制依赖视觉辨识与精准的机械操控要求,一旦他们因生理限制无法达成识别或操作目标,就会被系统拒绝承认为真实人类并被剥夺访问权限。卡伦·中村明确指出反向图灵测试的核心问题在于它构成了一种对人类尊严的根本否定与去人性化的剥夺。无法顺应系统效率设定的群体,最终面临着被算法彻底剥夺人类资格的境地。这一切都在反复提醒我们,技术从来都不具备天然的中立性与透明度,也绝不会自动带来社会的系统性进步。面对不断演进的技术浪潮,我们固然无需不假思索地全盘抵制,但也必须持续审视隐藏在代码与算法背后的差异性政治,并时刻对其中裹挟的权力结构保持警惕。
捍卫媒介传统与主体尊严在应用所谓的“前沿”技术的同时,我们还需要对新旧技术的更迭保持理性的关怀。技术的演进不应演变为压迫个体的工具。纽约大学的报告指出了科技界一种流行的人格软件模型思维。这种思维将人类的心智简化为可以替换和升级的软件程序,忽略了人的具身经验。当科技公司试图用人工智能语音识别取代为听障人士提供速记与手语翻译服务的真实人类时,剥夺的远不止一个工作岗位。真实的速记员与手语翻译在长期服务中会与残障者建立深厚的情感连结与沟通默契,这种劳动包含了算法无法替代的照护价值与人际互动体验。我们还必须看到残障群体在长期实践中积淀下来的媒介传统。
联合国教科文组织在一九八零年发布的《多种声音一个世界》报告中,明确提出要保护边缘群体传统的传播方式,并大力倡导发展适宜媒介【注释】生态。盲文的触摸阅读体验、有声书的特定格式,以及视障者在使用屏幕阅读软件时习惯的高语速,都是残障者在长期摸索中建立起来的有效信息获取方式。我们不能因为新一代语音合成技术声音更加逼真,就轻易否定传统读屏软件带来的信息获取效率,更不能用新技术强制否定旧有传统并替代残障者已经建立的主体性习惯。保护媒介传统旨在捍卫残障者选择生活方式的尊严。与媒介传统紧密相连的,是残障群体长期被忽视的能动性与数字素养。主流社会习惯于采用自上而下的技术评估框架去衡量残障个体,进而轻率地得出他们数字素养欠缺的结论。这种评判逻辑如同历史上使用基于西方白人文化背景的智力量表去测试其他族裔并贬低其心智一样,带有深层的能力主义偏见。残障群体对技术的选择和使用深刻受制于其所处的具体生活环境。在他们看似滞后的技术使用表象下,往往存在着社群内部丰富的互助经验与同伴支持网络。单纯将残障者定义为跟不上时代发展的落后群体,实质上依然在延续前文所述的能力主义与歧视逻辑。一旦将残障者预设为毫无技术素养且只能等待被人工智能拯救的弱者,社会自然会认为他们缺乏参与技术研发的能力。看见并尊重残障群体的媒介传统与能动性,打破居高临下的技术施舍观,才能真正终结科技界的拯救叙事,并为残障主体全过程参与智能时代的技术构建提供坚实的合法性基础。
结语
历史上的建筑工程曾留下了深刻的教训。为了省事或基于对残障者需求刻板的想象,早期的设计者往往在建筑与道路建成后才发现既有环境中遗漏了无障碍设施,最终不得不耗费数倍的人力与财力进行事后修补,而这种补救措施往往永远无法达到从最初规划就融入包容性设计的理想状态。人工智能的发展正处于相似的疯狂演进阶段。技术虽然在不断更新,但如果缺乏对权力结构的省思,历史上的技术排斥便会再次上演。我们应当意识到,所谓的拯救叙事依然在重复着以健全人为标准的认知偏见,而技术励志的逻辑更是掩盖了残障个体在面对壁垒时的结构性困境。这种做法实质上会瓦解残障社群的共同倡导力量,将个体困境与公共福祉剥离,最终导致的是边缘群体的进一步孤立。技术本质上应当作为服务于人的辅助手段,绝不应异化为压迫人、规训人、测量人的统治工具。当我们面对技术赋能与技术向善的宏大话语时,这些层面的剖析应当成为社群捍卫权利的理论工具。通过持续的反思与参与,我们将有底气去拆解那些被包装好的技术霸权,并在面对指责与误解时,清晰地表达我们的立场与诉求。只有确保残障主体在算法演进的全过程中拥有不可剥夺的发言权,我们才能确保技术洪流不仅不会吞没每一个残障个体的尊严,反而能成为构建真正平等社会的有力支撑。我们所捍卫的不仅是数字时代的信息获取权,更是每一个生命在技术演进中对于自主、尊严与社会参与的根本权利。(注释:英文词汇“alternative media”在传统译法中多被译为“另类媒介”或“替代性媒介”。然而,社会科学院新闻与传播研究所卜卫教授在对媒介赋权与传播权利的研究中提出,将其译为“适宜媒介”更为恰当且具有社会意义。这一译法强调了弱势与边缘群体在传播过程中拥有自主选择媒介形态、构建适宜自身生活经验与文化生态的权利,而非仅仅是被动地充当“另类”或作为主流媒介的“替代品”。这种视角凸显了边缘群体在媒介使用中的主体性地位,拥有根据自身具身经验、语言习惯与媒介传统,去界定什么才是真正有利于自身生存、表达与连接的“适宜”传播方式。)!4f480bace47440f74165d63164856dc4
