报告概述

本报告基于UNDP AI信任与安全重塑计划在11个国家和地区开展的研讨会、利益相关方会议和实地调研,聚焦作为AI采纳者、采购方和部署者的小国、小岛屿发展中国家及中低收入国家。报告分析了AI如何通过企业软件更新、供应商平台和日常工作流程进入公共机构,揭示了在治理能力尚未成熟时,信任与安全风险如何显现,以及采购、数字公共基础设施和横向治理基础作为可行杠杆的作用。报告旨在为资源受限环境下的负责任AI采纳提供实用路径,而非提出通用监管模型。

报告的核心结论

AI采用速度超过机构可见性和治理准备度

AI通过企业软件更新、供应商平台和员工非正式使用嵌入公共机构,往往未经正式批准或监督,导致采用碎片化、难以追踪和管控。许多国家缺乏国家AI政策、更新的采购指南或数据保护框架,治理体系尚未适应AI现实。

供应商驱动的采用造成结构性透明度和问责缺口

AI系统通过全球开发的SaaS平台集成,用户常无明确同意或退出机制。政府虽对结果负责,但对系统行为、更新和性能权衡的控制权往往在供应商手中。缺乏采购标准和合同保障时,风险在州层面累积,而管理能力有限。

AI保障能力在采用发生地尚未制度化

多数受调研国家没有专门机构负责AI风险评估、评估或持续监控。责任分散在多个机构,AI任务授权不明确,治理被动而非预防性。机构高度依赖供应商保证,或仅在系统影响人群才发现风险。

资源受限环境下AI失败会立即影响民生

错误分类、身份验证失败、语言性能缺陷和系统中断可直接阻碍人们获取支付、身份系统、公共服务和法律程序。在某些情境下,解决认证错误需在有限服务时间内亲自验证,将技术故障转化为经济或公民排斥,侵蚀公众信任和机构合法性。

采购是当前最可行的治理杠杆,但仍未被充分利用

在AI信任与安全计划工作中,采购(而非单纯监管)成为最直接的治理切入点。在采用点嵌入披露、性能阈值、可审计性、升级和退出条件等要求,可在系统大规模部署前将问责向上游转移。

报告回答的关键问题

小国家在AI采用中面临哪些独特挑战?

小国家面临供应商主导的采用、有限的本地技术评估能力、基础设施与AI部署不匹配、失败影响放大以及纠正能力受限等挑战。这些条件使治理问题更早显现,且后果更严重,但同时也为全球AI治理提供了早期信号。

采购如何成为AI治理的有效工具?

在资源受限环境中,采购可在系统部署前将AI特定要求嵌入合同,包括AI使用披露、数据处理承诺、性能阈值、可审计性、升级义务和退出条款。这能将问责向上游转移,使采购从合规功能转变为AI扩散能力,并支持机构学习。

数字公共基础设施对AI信任和安全有何作用?

安全包容的数字公共基础设施(如身份系统、支付平台、注册系统)作为能力倍增器,使机构能更早检测错误、清晰归属责任并有效纠正。当系统可互操作且治理一致时,AI与现有流程的交互更透明,有助于建立机构信心和响应能力。

资源有限国家如何确保AI系统的语言包容性?

语言是AI信任和安全的关键维度,但常被忽视。AI系统在低资源语言或混合语境下性能不均。通过横向投资本地语言数据集、界面和评估实践,可提升公平性、准确性、可解释性和信任。UNDP的本地语言加速器等项目正支持创建高质量本地语言数据。

完整报告包含什么

  • 执行摘要:概述从11个国家调研中提炼的10项核心发现,包括AI采用速度、供应商依赖、保障能力缺口、失败影响和采购杠杆等关键洞察。
  • 引言:阐述报告将AI采用视为发展问题,介绍调研国家范围(阿尔巴尼亚、白俄罗斯、波斯尼亚和黑塞哥维那、格鲁吉亚、摩尔多瓦、卢旺达、萨摩亚、特立尼达和多巴哥、土耳其、乌克兰及巴勒斯坦援助方案)以及方法论(2025年11月至2026年3月间的访谈、调查、研讨会)。
  • 全球AI采用与扩散的现实:分析AI如何通过采购决策和供应商平台进入机构,揭示模型所有权与责任分配的结构性错位,以及全球AI市场动态对资源受限国家的直接影响。
  • 小国家为何对全球AI信任重要:论证小国并非边缘案例,而是反映全球采纳的普遍条件——机构规模小、冗余低、失败影响大,因此成为AI治理的早期信号,其采购和生命周期治理规范可全球复用。
  • 关键观察总结:详细描述AI采用超过治理准备度、供应商驱动采用、本地评估能力不足、基础设施错位、危害放大、信任与安全优先事项转向预防和决策信心等六项模式,并配以具体国家案例(如特立尼达和多巴哥采购演变、萨摩亚语言问题)。
  • 对全球AI采用的预示:讨论采购主导和联盟为基础的方法如何成为可行入口,包括合同条款作为治理杠杆、小国间共享评估基准和供应商情报的需求,以及能力向量图(技能、风险吸收、运营实践等)的展示。
  • 治理与制度基础设施:阐述数字公共基础设施和数据系统作为AI能力使能者,横向基础(数据治理、语言包容、采购标准、制度能力、DPI集成、风险与补救框架)的构成及其在资源受限环境中的实际应用。
  • 共享的可行方法:提出三个相互强化的组成部分——共同创建AI保护系统、建设制度韧性和能力、集体行动与迭代扩展。详细介绍UNDP如何通过AI景观评估、国家AI战略、语言数字化等工具支持政府。
  • 当前的行动要求:强调需要保护性基础设施(网络安全、数据治理、升级路径)、制度能力(采购官员、监管者、公务员的关键技能),以及情境感知实践(评估系统在部署地的表现)。呼吁早期行动者从采纳而非发明的角度建设能力。
  • 方法论附录:详细说明AI信任与安全重塑计划的工作方法,包括混合方法(定性访谈、问卷调查、实地工作坊)、适应不同数字化成熟度情境,以及跨国家比较学习的重点。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告