知更鸟AI 教育动态站

评估工具 · 更新于 2026-09-21

教育 AI 安全风险评估具体该怎么做?

整理与维护:知更鸟 · 更新于

这份答案综合公开资料,使用时请核对对应依据和适用边界。 查看对应依据

引用这份答案
引用文字
知更鸟. 教育 AI 安全风险评估具体该怎么做?. 2026-09-21.
安全风险评估应按具体场景识别受影响者、数据、错误、操纵、心理、深伪、评价和网络风险,判断发生可能性、影响和现有控制。
https://edu.hhhh.life/guide/ai-safety-risk-assessment/#answer
13条直接引用
13个来源主体
2026-09-10证据更新至

READ THIS FIRST

先记住三个判断

  1. 01

    从真实场景识别多类伤害

  2. 02

    控制措施覆盖技术、流程和人员

  3. 03

    残余风险决定是否允许使用

ACTION PLAN

具体怎么做

按顺序执行五步,每一步都保留过程材料和对应证据;条件变化时回到前一步复核。

  1. 01

    界定问题与边界

    逐场景绘制用户、数据、模型、输出、人工决定和外部连接。

    查看 7 条步骤依据
  2. 02

    记录基线与责任

    用伤害清单访谈师生和支持人员,加入低频高影响事件。

    查看 7 条步骤依据
  3. 03

    开展小范围实践

    对每项风险评估可能性、影响、可发现性和受影响群体,记录证据。

    查看 3 条步骤依据
  4. 04

    核对结果与代价

    配置最小权限、数据最小化、人工复核、告警、报告、申诉和停用控制。

    查看 3 条步骤依据
  5. 05

    决定扩展、调整或退出

    重新评估残余风险,超过阈值的场景暂停,低风险场景设置复审日期。

    查看 3 条步骤依据

REVIEW CHECKLIST

推进前复核

  1. 目标是否具体到一个可观察任务,并说明教育 AI 安全风险评估的适用对象与禁用范围?

    英国把儿童心理健康和操纵风险纳入教育 AI 产品安全标准 · 两项国家指南划清“学习 AI”与“独立使用生成式 AI”的边界 · 马萨诸塞州要求学校调查学生深伪伤害,并明确受害者支持流程 · 新墨西哥州35名议员致信教育厅,要求Amira AI识字测评增加独立验证与家长同意 · AI生成文本进入小学阅读课堂,研究者提示三类使用风险 · 新南威尔士州限制HSC带回家评估任务以应对AI使用 · UNESCO IITE 发布 AI 与 ICT 支持自闭症、ADHD 及学习困难学生融合教育全球研究报告
  2. 负责人、人工复核、数据处理、异常报告和申诉路径是否已经写清?

    英国细化学校生成式 AI 数据指南,明确个人信息、偏差和供应商风险 · SchoolAI 更新学区级能力:统一 guardrails、告警路由和班级掌握度 · 世界数字教育联盟发布两项标准,覆盖教育 AI 全生命周期和智慧校园
  3. 结果是否同时包含独立表现、持续使用、工作负担、安全事件和分组差异?

    英国考试监管继续禁止 AI 独立评分,允许经验证的辅助用途 · 教师生成式 AI 指引明确:AI 批改不能直接成为开放性作业的最终评价 · 爱尔兰成立学校 AI 常设咨询组,首轮聚焦考试和评价
  4. 继续、调整、暂停和退出是否各有阈值、日期与负责人员?

    英国把儿童心理健康和操纵风险纳入教育 AI 产品安全标准 · 英国考试监管继续禁止 AI 独立评分,允许经验证的辅助用途

CURRENT ANSWER

我们目前怎样回答

每个判断都连接到对应资讯与原始来源;新证据会进入相应维度。

01

从真实场景识别多类伤害

儿童安全、分龄使用和深伪指南覆盖内容、操纵、心理、隐私与受害者保护。 新增风险覆盖低龄语音数据、阅读文本失真、考试真实性与特殊学习者尊严,评估时应逐项指定控制、责任人与申诉。

查看 7 条直接依据
02

控制措施覆盖技术、流程和人员

数据指南、学区告警和生命周期标准支持审批、权限、监测、报告与响应。

查看 3 条直接依据
03

残余风险决定是否允许使用

考试监管、教师指引和常设咨询机制都保留高风险场景的人类决定与复审。

查看 3 条直接依据

EVIDENCE BOUNDARY

阅读边界

这些限制决定页面能够支持多强的结论。

  1. 01

    以下步骤是本站依据公开材料提出的实施建议,未作为完整方案接受效果验证;请适配本地课程、年龄和资源条件。

  2. 02

    产品功能、项目覆盖和参与数字可以说明实施入口,学习成效需要独立任务、延迟测量和分组结果。

RELATED QUESTIONS

搜索时还会问什么

围绕相邻搜索意图给出可复核的短答案,每个回答都连接到对应证据。

01

这套教育 AI 安全风险评估流程应从哪里开始?

02

怎样保留人工责任和安全边界?

数据指南、学区告警和生命周期标准支持审批、权限、监测、报告与响应。 每一步都应写明负责人、复核点、数据范围和申诉路径。

查看 3 条回答依据
03

什么时候应该调整、暂停或退出?

EVIDENCE INDEX

资讯索引

按公开日期倒序排列,仅保留可核对的资讯与原始来源。

查看 13 条相关资讯
政策与治理海外报道发布

新墨西哥州35名议员致信教育厅,要求Amira AI识字测评增加独立验证与家长同意

新墨西哥州35名两党州议员于8月25日致信州公共教育厅长Mariana Padilla,要求提高Amira AI识字测评工具的透明度并开展额外独立测试,评估其测量学生阅读能力的准确性。该工具自2025-26学年起被州教育厅要求用于K-2年级全州测试,学生需向数字头像朗读。议员指出Amira已收集数千条学生录音,并获取姓名、性别、生日、位置等敏感信息,要求在使用前取得家长同意。

The Taos News家长 / 教师
学习工具海外报道发布

AI生成文本进入小学阅读课堂,研究者提示三类使用风险

Education Week报道,AI生成文本已进入小学课堂,与课堂图书馆书籍和早期阅读课程材料并列。面向教育者的工具可将文章改写为不同阅读水平,或生成拼读练习文本。南达科他州阅读干预教师Jean Gunderson称AI可在数分钟内写出故事和理解题,过去需数小时,但她需精确提示并筛选输出。研究者提示三类风险:AI写作语气趋中、部分工具难以按年级水平生成文本、部分工具不熟悉学术标准与课程差异。

Education Week教师 / 学校
政策与治理海外报道发布

新南威尔士州限制HSC带回家评估任务以应对AI使用

新南威尔士州政府于2026年9月1日发布新规,学校最多只能设置一项带回家完成的评估任务,且该任务分值不得超过校内评估成绩的15%,即HSC总成绩的7.5%。该建议来自新南威尔士州教育标准局(NESA),适用于2027届学生今年第四学期开始的HSC学习,以及2027年第一学期升入11年级的学生。HSC重大作品及创意艺术、技术、英语扩展2等部分课程获得豁免,但学校仍须验证学生作品真实性。

NSW Government学校 / 教师
研究海外报道发布

UNESCO IITE 发布 AI 与 ICT 支持自闭症、ADHD 及学习困难学生融合教育全球研究报告

UNESCO IITE 于 2026 年发布一份全球研究报告,聚焦人工智能与信息通信技术如何支持自闭症、ADHD 及学习困难学生的融合教育。研究采用文献综述、专家访谈和案例研究相结合的方法,考察数字技术如何在数字化教育系统中提升参与和学习。报告作者为 May Agius,另有 Alperen Sağdıç、David Banes、Jingying Chen 等多名贡献者参与,出版物提供英文版下载。

UNESCO IITE教师 / 学校
政策与治理中国政策发布

两项国家指南划清“学习 AI”与“独立使用生成式 AI”的边界

教育部基础教育教学指导委员会于 2025 年 5 月发布《中小学人工智能通识教育指南(2025年版)》和《中小学生成式人工智能使用指南(2025年版)》。前者规范课程分层,后者规范学生、教师、学校和教育部门如何使用生成式 AI。

中小学 AI 通识与生成式 AI 使用指南学校 / 教师