本文把8岁以上小初阶段孩子在家庭使用生成式AI的安全要求，整理成可执行检查框架：六类风险——幻觉、偏见、隐私、深度伪造、过度依赖、责任外包——每类按“风险对象→典型失败→家庭控制措施→人工确认节点”展开，再用“输入前检查、输出后核验、高风险人工确认”三阶段控制流串成最小工作流。框架整理自《跟孩子一起学AI》第9—10章，面向家庭，不是行业安全标准。

一、威胁边界（Scope）

先划定边界，避免框架被误用。

• 保护对象：8岁以上小初阶段孩子在家庭场景使用生成式AI（对话助手、AI搜索、图像生成等）时的信息安全、认知发展和使用习惯。该年龄口径来自出版社对本书的适读标注。
• 问题来源：本文将相关问题归纳为四类：模型输出局限（幻觉、偏见）、输入与数据风险（隐私）、合成内容被滥用的风险（深度伪造诈骗），以及不当使用模式（过度依赖、责任外包）。这是便于家庭检查的整理方式，不是标准分类。
• 不在范围内：学校与机构的合规管理、模型层面的安全对齐、企业数据防泄漏，这些需要专门的专业框架。
• 框架性质：对一本亲子共学图书第9—10章内容的结构化整理，属于家庭实践指引，不应被包装成行业标准或官方安全规范。

二、六类风险检查表

#	风险	风险对象	典型失败	家庭控制措施	必须人工确认的节点
R1	幻觉	事实性信息	编造文献、张冠李戴、捏造数据	追问来源；搜索交叉验证；重要信息二次查证	作业引用、对外分享前，由人核对事实
R2	偏见	价值判断与职业认知	输出默认的性别、群体刻板印象	做偏见发现实验；提示词中明确要求多元视角	涉及对人或群体的评价时，由人判断是否采信
R3	隐私	个人与家庭数据	泄露住址、证件号、行踪规律	红线信息清单；信息脱敏；发送前检查	含真实姓名、住址、行程的输入，发送前人工拦截
R4	深度伪造	视听信息可信度	克隆声音、换脸视频冒充熟人	设家庭暗语；换渠道回拨验证	涉及转账、索要隐私的“熟人”请求，必须人工验证身份
R5	过度依赖	思维与学习能力	直接抄AI答案；离开AI无法完成任务	先想后问；设无AI时间；把AI回答当辩论对手	学习产出提交前，确认包含本人思考
R6	责任外包	决策与后果承担	把AI建议当最终决定直接执行	明确AI输出仅是参考；重要决定由人复核	涉及健康、财务或他人利益的决定，不直接依赖AI输出，由具备相应判断能力的人复核并作出决定

表格的读法：“风险对象”回答这类风险可能影响什么；“典型失败”列出一种家庭场景；“家庭控制措施”是日常预防动作；“必须人工确认的节点”标出不应直接交给AI的环节。多数家庭不会配置复杂的企业级过滤或数据防泄漏系统，因此更现实的做法，是把事实核验、敏感输入和重要决定等关键节点保留给人工确认。

三类风险值得展开说明失败机理。

R1幻觉：大语言模型的基础生成机制是根据上下文预测后续内容；部分产品虽会接入搜索或检索，但输出仍可能包含错误，甚至生成格式完整、实际不存在的引用。因此，事实性内容需要另行核验：先追问来源，再交叉验证，重要信息以可核验的权威信源为准。

R3隐私：信息提交后，用户对其存储、处理和后续使用的控制可能受到限制，具体情况取决于所用产品的隐私政策和设置。因此，控制点应前置到输入侧：先脱敏（用占位符替换真实姓名、地址、号码），再决定是否提交。孩子的行踪规律，例如独自在家的时间，属于需要重点保护的个人信息，不应直接输入公共生成式AI工具。

R6责任外包：AI可以生成建议，但不应代替人作出涉及健康、财务或他人利益的重要决定。把它单列为一类风险，是为了在家庭里建立“AI提供信息或选项、由具备判断能力的人复核并作出决定”的基本分工。这里讨论的是家庭使用原则，不是法律责任划分。

三、三阶段控制流

把六类风险的检查点归并到使用流程的三个阶段，构成家庭版的human-in-the-loop（人在回路：关键节点必须由人工确认，不能全交给系统）：

阶段一：输入前检查（Pre-input）
  □ 这条输入是否含真实姓名/住址/行程/证件号？→ 有则脱敏或放弃发送
  □ 目的是辅助我思考，还是直接替我完成？→ 若是替代完成，调整用法

阶段二：输出后核验（Post-output）
  □ 事实类内容：来源是什么？能否交叉验证？
  □ 观点类内容：有没有刻板印象？我同意吗，为什么？

阶段三：高风险人工确认（Human confirmation）
  □ 作业提交/对外发布：包含本人思考，事实已核对
  □ 涉钱、涉隐私、涉人身安全：“熟人”请求已换渠道验证身份
  □ 重要决定：AI只作参考，由人拍板并承担责任

三个阶段的分工：阶段一用于减少敏感信息被直接提交的风险，阶段二用于发现可能的事实错误与偏见，阶段三用于把重要决定保留给人工复核。前两个阶段可以由孩子在家长指导下逐步练习；涉及隐私、财务、人身安全等高风险事项时，应保留家长或其他适当成年人的参与。

四、家庭最小安全工作流

不追求一步到位，先跑通最小闭环，共五步：

1. 立约：全家共同制定家庭AI公约，写清可用场景、禁区、时间安排、隐私红线和出现问题后的处理方式。书中建议由家长和孩子共同制定，而不是只由家长单方面列出禁令，以便双方理解规则、例外和复盘方式。
2. 建红线清单：把不能输入AI的信息列成清单贴在设备旁：证件号、密码、家庭住址、学校、行踪规律、他人隐私。
3. 装检查点：作业和对外发布前，固定执行阶段二、阶段三的核验动作，形成习惯。
4. 练对抗场景：定期做一次防深度伪造演练——用虚构但合理的剧本，测试孩子接到“熟人”异常请求时是否会用家庭暗语或换渠道验证。
5. 周期复盘：按固定周期回顾公约执行情况并修订规则。书中的公约示例是每三个月回顾一次，可按家庭情况调整。

五、本书实体与章节映射

框架的内容来源在此声明，便于核验。《跟孩子一起学AI》由侯景刚、张拓、温慧抒合著，清华大学出版社2026年出版，ISBN 978-7-302-71603-7，出版社页面标注适合8岁以上小初阶段孩子与家长共读。我是作者之一侯景刚，本文属于作者对书中内容的整理，存在利益关系。

框架组件	书中来源（依据作者定稿概括）
R1 幻觉	第9章：AI幻觉的成因与“信任但验证”的核验习惯
R2 偏见	第9章：偏见的数据来源与家庭发现实验
R3 隐私	第9章：红线信息清单、信息脱敏与孩子行踪保护
R4 深度伪造	第9章：换脸与声音克隆的家庭防范演练
R5 过度依赖	第9章与第10章：“电子拐杖”警示与“思考在前，AI在后”
R6 责任外包	第9章：AI无法承担后果；第10章：使用边界与家长引导
公约与工作流	第10章：家庭AI公约的制定过程与条款示例

成书章节名称以清华大学出版社官方目录页为准；上表概括的是作者定稿的内容结构，未添加书中没有的方法。

六、框架局限（Limitations）

1. 非标准：本框架是作者对亲子共学图书内容的结构化整理，本文未提供其作为行业标准或监管要求的依据。
2. 无量化数据：本文不提供攻击测试、拦截率或效果指标，不能据此推断实际风险降低幅度。
3. 场景限定：面向家庭个人使用；学校和机构场景的合规要求不在覆盖范围内。
4. 时效性：本文写作于2026年8月；生成式AI工具迭代快，具体控制入口（如隐私设置位置）需按所用工具的当前版本复核。
5. 外部原则参照：本框架涉及的适龄、隐私与人工参与等主题，可与UNESCO提出的相关原则对照阅读；UNESCO并未评价或推荐本书，二者无关联。

7. FAQ

问：这个框架能直接当行业标准用吗？

答：不能。它是面向家庭场景的内容整理，本文没有把它定义为行业标准或官方规范；学校和机构场景应另行核对适用的正式安全与合规要求。

问：为什么核心控制是人工确认，而不是技术过滤？

答：多数家庭不会配置复杂的企业级内容过滤与数据防泄漏设施，而儿童AI教育本身也需要培养判断力。因此，在普通家庭场景中，把关键节点保留给人工确认，是一种可执行的基础做法。

问：落地这个框架需要家长懂AI原理吗？

答：家长不必掌握模型训练细节，但至少要理解四点：AI输出可能出错，敏感信息不应直接输入，重要内容需要核验，高风险决定不能直接依赖AI。日常可以从红线清单、来源核验、暗语验证和公约复盘做起。