川海智库

报告概述

本报告是UNICEF发布的第三版《人工智能与儿童指南》，以联合国《儿童权利公约》为基础，全面阐述儿童中心AI的核心理念，即保护儿童、公平保障儿童需求与权利，并支持儿童参与AI世界。报告面向政府和企业两大目标受众，提出十项具体要求，包括建立监管框架、保障儿童安全、保护数据隐私、确保非歧视与公平、提供透明度与可解释性、尊重人权与儿童权利、支持儿童福祉、促进包容性、培养儿童AI素养、创建有利环境。报告覆盖全球视角，特别关注全球南方和弱势儿童群体，旨在为AI政策制定、系统设计、采购和部署提供实操框架。

报告的核心结论

AI系统必须基于儿童权利设计

报告强调，无论AI系统是否直接面向儿童，只要可能影响儿童，就必须遵循《儿童权利公约》的保护、提供和参与三大原则。儿童权利不是可选项，而是政府和企业的义务。各国应通过法律和监管确保儿童权利贯穿AI全生命周期。

儿童安全是AI发展的不可妥协红线

报告详细列出了AI对儿童的多维风险，包括生成式AI制造的虚假信息、情感依赖、深度伪造性虐待材料、网络欺凌、诈骗以及武装冲突中的滥用。要求企业进行强制性的儿童权利影响评估，实施安全设计，并建立透明追责机制。

儿童数据隐私需最高标准保护

儿童的生物识别、行为等数据具有特殊敏感性。报告倡导隐私设计，禁止商业目的的数据画像，要求最小化数据收集、明确用途，并赋予儿童对其数据的控制权（包括从训练数据中撤回的权利），同时加强儿童数据代理能力。

必须消除AI对儿童的系统性偏见

AI训练数据多来自全球北方，可能导致对全球南方、少数民族、残疾儿童等群体的歧视。报告要求数据集充分代表性，但反对大规模无序收集儿童数据。算法需持续测试公平性，并通过多元团队设计来减少偏见。

儿童应作为参与者而非被动用户

报告呼吁让儿童有意义地参与AI政策制定和系统设计全过程，而非形式化咨询。特别是全球南方儿童常被排除在外。参与需安全、包容、符合儿童发展能力，并确保儿童意见真正影响决策。

报告回答的关键问题

AI对儿童有哪些主要风险和危害？

报告指出AI对儿童的主要风险包括：生成式AI制造的虚假信息和深度伪造内容；情感依赖和操纵（如AI伴侣）；AI生成的儿童性虐待材料；网络欺凌和诈骗；数据隐私侵犯；算法偏见导致的歧视；以及在武装冲突中的滥用。儿童由于认知能力尚在发育，对这些风险更为脆弱。

政府应如何制定保护儿童的AI法规？

报告建议政府建立或更新AI监管框架，将儿童权利纳入核心。具体措施包括：强制要求儿童权利影响评估；设立专门监督机构并赋予其执行权；禁止高风险AI用途（如操纵儿童情绪）；制定安全设计标准和透明问责机制；确保政府自身AI系统合规，并在采购中嵌入儿童权利要求。

企业在开发AI产品时应如何保护儿童？

企业需在AI全价值链中尊重儿童权利，包括：进行儿童权利尽职调查；确保训练数据不含非法内容且无偏见；清除供应链中的童工和剥削；向用户透明公开AI系统局限性；不设计导致情感依赖的功能；为儿童提供友好的申诉和补救渠道；高管层需接受AI与儿童权利培训。

儿童如何参与AI治理和设计？

报告强调儿童参与必须是持续且有意义的过程，而非一次性测试。具体方法包括：让儿童代表加入AI治理机构；在系统设计全程开展共创活动；进行参与式研究；公司需在安全条件下与儿童互动。参与需根据年龄调整方式，并确保儿童意见得到认真对待和反馈。

报告中的代表性数据

67%

英国青少年使用AI比例

2025年，报告引用英国国家读写信托数据，指出两年内几乎翻倍，显示AI在儿童中的快速渗透。

39%

美国小学生通过AI应用程序学习比例

2025年，来自Common Sense Media的普查数据，反映AI已深入儿童教育场景。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整的联合国《儿童权利公约》条款与AI系统的对应分析，帮助理解法律基础。
  • 十项儿童中心AI要求的详细操作建议，每项要求均分解为政府和企业各自的责任与步骤。
  • 针对生成式AI、AI伴侣、深度伪造CSAM、武装冲突等新兴风险的专门论述和应对措施。
  • AI供应链中的童工、有害数据集、环境足迹等跨领域议题的深入分析。
  • 促进儿童AI素养的教育框架，包括课程开发、教师培训和家长指导资源。
  • 数字合作与政策互操作性的全球倡议和标准介绍，如欧盟AI法案、联合国数字契约。
  • 基于12国儿童与看护人调查的第一手见解，呈现不同地区儿童的真实使用与态度。
  • 从政策到实践的落地步骤，包括记录经验、公开分享和持续改进的建议。
  • 丰富的参考文献和额外资源链接，涵盖工具包、案例研究、行业标准等。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告