报告概述
本报告考察2025年负责任AI生态系统的整体状况，重点分析公民社会在推动AI治理从原则走向实践中的核心贡献。报告覆盖全球监管动态、AI安全与风险、隐私公平、透明度问责、AI伴侣、合成媒体、欺诈、劳动力影响、气候能源、经济集中等广泛议题，并系统梳理了AI评估、保证、组织治理以及公共AI基础设施的新兴模式。报告采用多利益相关方视角，结合具体案例、标准与框架，为行业从业者、政策制定者、研究者和公众提供了一份理解人工智能如何被塑造、如何影响社会，以及如何通过集体行动引导其走向公共利益的综合路线图。
报告的核心结论
负责任AI正从原则转向实践，公民社会引领具体治理工具开发。
报告指出，民间社会组织不再停留于抽象倡导，而是制定标准、基准、审计和红队方法等可验证工具，将高级原则转化为可测试的证据。这一转变使得AI治理不再只是企业内部的合规行为，而成为监管者、采购者和公众能够使用的持续验证机制。
人工智能风险日益加剧，涉及安全、隐私、公平等多重维度。
报告认为，前沿模型与代理系统在放大既有危害的同时创造出新的故障模式，如规模化欺诈、合成媒体、生物特征监控和AI伴侣依赖。这些风险彼此交织，需要超越单一技术修复的社会化治理方案，包括更严格的权利法规和全球标准协调。
公共AI正作为专有AI的替代方案出现，强调公共访问与问责。
报告记录了共享计算、社区治理数据集、开放安全工具和公共利益机构等基础设施的兴起。这些努力使大学、非营利组织、政府和社区能够共同塑造AI生态，而非仅由少数企业主导，从而将焦点从“使私有AI更安全”转向构建替代权力中心。
2026年核心挑战是谁决定人工智能的用途。
报告指出，未来一年将决定AI是进化以加深监控和依赖，还是作为与社会利益相符的公共物品服务。这一挑战关乎民主问责与公共利益，需要重塑技术决策的权力结构，让更广泛的社会主体参与AI的目标设定。
全社会协同治理是应对AI社会影响的关键路径。
报告强调劳动力转移、气候负担、经济集中和民主威胁等影响需要多利益相关方参与，包括以权利为基础的法规、全球标准协调、非营利能力建设以及公众监督。公民社会、政府、产业和学术界的协作是确保AI向善的基础。
报告回答的关键问题
什么是公共利益人工智能？
公共利益人工智能是指以公共访问、公共问责和永久公共产品为标准，跨计算、数据集、模型、工具和机构管理的共享、非专有AI资产。报告指出，这种AI在公共基础设施上开发，旨在解决人类最紧迫的挑战，而非仅为商业利润服务，强调社区能够民主地参与其治理。
AI伴侣可能带来哪些心理伤害？
报告显示，AI伴侣可能引发情感依赖、不良应对、隐私侵犯和权力不平衡，尤其对青少年和孤立成人。设计上鼓励连续使用和关系升级会加剧过度使用，按需慰藉可能取代人际接触和专业护理，导致用户难以脱离，并增加对不安全建议的易感性。
如何评估AI系统的安全性？
报告认为，需要通过标准、基准测试、评估、审计和红队演练将高级原则转化为可验证证据。独立第三方评估和数据生命周期证据管道至关重要，而非仅依赖一次性预发布测试。评估还应覆盖系统级风险，而不仅是模型表现，并保护独立研究者的合法权益。
合成媒体如何影响信息真实性？
报告指出，AI生成的媒体能以极低成本模仿真人、编造事件，产生“说谎者红利”并侵蚀可信信号。应对措施包括内容凭证、溯源元数据、多级披露和平台审核排名补救，并需要设备制造商、新闻编辑部和平台等协同采用C2PA标准以建立全链路信任架构。
为什么需要公共AI基础设施？
报告认为，公共AI基础设施如NAIRR、社区数据集和开放工具能够扩大参与范围，减少对少数供应商的依赖，使大学、非营利组织和公共机构能够塑造和审查AI系统。它是确保AI被公众利益引导、避免权力过度集中的最短路径，也是实现民主问责的基础。
报告中的代表性数据
美国青少年使用AI伴侣比例
2025年，根据Common Sense Media报告，72%的美国青少年已使用过AI伴侣，超过一半是常规用户，近三分之一觉得与AI聊天和与朋友交谈同样满意或更满意。
前沿AI模型数量预测
2028年底，GovAI和爱丁堡大学分析预测，到2028年底将有103-306个超过10^25 FLOP的模型，45-148个超过10^26 FLOP的模型，且每年呈超线性增长。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- 全球监管进展与政策分析：包括欧盟人工智能法案实施细节、美国州级法规如加州SB-53的潜在影响，以及各国AI行动计划与民间社会回应，帮助读者理解全球AI治理格局。
- AI安全与风险研究：涵盖模型安全训练、代理系统实时故障检测、生物安全风险预测、关键基础设施数据完整性等前沿议题，并提供具体工具和框架。
- 隐私、公平与透明度专题：探讨个性化AI的隐私问题、算法定价与薪资设定、机场面部识别监控的公平风险，以及AI代理的问责机制与注册表设计。
- AI伴侣与合成媒体危害：分析AI伴侣的心理影响、合成媒体与信息完整性、语音克隆欺诈、AI生成滥用材料等双重用途危害，并给出治理建议。
- 评估与基准测试体系：介绍NIST标准草案、社区对齐基准、评估卡与红队演练方法，展示如何将AI评估从营销工具转变为审计级证据来源。
- AI保证与组织治理：探讨AI保证（Assurance）实践、组织内部治理框架、董事会层面的监督以及代理式AI的实时问责，提供可操作的实施手册。
- 社会影响与可持续发展：涵盖劳动力转移、气候与能源影响、经济集中、人权民主法治等议题，基于具体案例揭露AI的隐性成本和社会风险。
- 公共AI基础设施蓝图：包括公共计算、社区数据集、开放模型与工具、公共利益运营商等实践案例，支持构建以公众为中心的AI生态。
- 公共利益AI实践：介绍公共利益AI项目地图、非营利组织应用案例、慈善资助模式等，展示AI如何被用于医疗、教育、气候适应和社会正义。
- 2026年RAI路线图：报告提出未来工作重点，包括提升负责任AI素养、深化公共AI基础设施、加强合成媒体治理和代理式AI问责框架等。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
