EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers

📄 arXiv: 2608.02024v1 📥 PDF

作者: Junyeong Park, Jieun Han, Haneul Yoo, So-Yeon Ahn, Jinsung Yoon, Alice Oh

分类: cs.AI, cs.CY

发布日期: 2026-08-03

备注: Under Review

💡 一句话要点

提出EduZone框架以评估K-12教育中LLM的安全性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 教育安全 K-12教育 风险评估 对抗性互动 自动化评估 教育技术

📋 核心要点

  1. 现有的LLM安全评估方法未能充分考虑教育场景中可能出现的有害内容，导致安全性不足。
  2. EduZone框架结合了多种教育场景和风险类别，系统评估LLM在K-12教育中的安全性。
  3. 实验结果表明，教育特定风险和动态对话中LLM的脆弱性显著，现有安全措施未能有效应对。

📝 摘要（中文）

大型语言模型（LLMs）在K-12教育中被广泛应用，但现有的安全评估很少关注LLMs与学生或教师之间互动中出现的有害或不当内容。为此，本文提出EduZone，一个针对多种教育场景的LLM安全评估框架。该框架系统地结合了学生和教师的LLM使用背景、细化的课程概念，以及涵盖传统和教育特定危害的6个风险类别和28个子类别，以生成具有情境基础的对抗性互动。通过在单轮请求、静态多轮对话和动态多轮对话三种设置中构建这些互动，评估了十种LLMs在拒绝、安全协助、带安全指导的风险协助和完全风险协助四个安全级别下的表现。结果显示，教育特定风险和动态多轮互动的脆弱性更大，而现有的安全防护措施未能充分应对这些风险。EduZone通过提供一个自动化、可扩展的评估框架，推动了教育领域LLM的安全性发展。

🔬 方法详解

问题定义：本文旨在解决现有LLM安全评估方法在K-12教育场景中对有害内容的忽视，尤其是在学生和教师的互动中。现有方法未能充分识别和评估教育特定的风险和挑战。

核心思路：EduZone框架的核心思想是通过结合学生和教师的使用背景、细化的课程概念以及多种风险类别，系统地生成对抗性互动，以全面评估LLM的安全性。

技术框架：EduZone的整体架构包括三个主要模块：1) 生成具有情境基础的对抗性互动；2) 评估LLM在不同安全级别下的表现；3) 分析和报告评估结果。框架支持单轮请求、静态和动态多轮对话的评估。

关键创新：EduZone的主要创新在于其系统性地结合了教育特定的风险类别和细化的课程概念，生成了更具针对性的对抗性互动。这一方法与传统的安全评估方法相比，能够更全面地识别和评估潜在风险。

关键设计：在设计过程中，EduZone设置了6个风险类别和28个子类别，确保覆盖传统和教育特定的危害。此外，评估过程中采用了四个安全级别的分类，确保对LLM的表现进行细致的分析。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，评估的十种LLM在动态多轮对话中表现出更高的脆弱性，尤其是在教育特定风险方面。现有的安全防护措施未能有效应对这些风险，EduZone框架的引入为LLM的安全性评估提供了新的视角和方法。

🎯 应用场景

EduZone框架的潜在应用领域包括K-12教育中的教学辅助工具、在线学习平台和教育技术产品。通过提供更安全的LLM评估，EduZone能够帮助教育工作者和开发者设计出更符合学生需求的智能教育工具，提升教育质量和安全性。

📄 摘要（原文）

Large language models (LLMs) are increasingly used across diverse tasks in K-12 education, yet existing safety evaluations rarely examine how harmful or inappropriate content appears in interactions between LLMs and students or teachers. To address this, we present EduZone, an evaluation framework for LLM safety across diverse educational scenarios. Our framework systematically combines (1) student- and teacher-facing LLM usage contexts, (2) fine-grained curriculum concepts, and (3) 6 risk categories and 28 subcategories spanning both conventional and education-specific harms to generate contextually grounded adversarial interactions. We construct these interactions in three settings: single-turn requests, static multi-turn conversations, and dynamic multi-turn conversations. Using these interactions, we evaluate ten LLMs using four safety levels: refusal, safe assistance, risky assistance with safety guidance, and fully risky assistance. Our results reveal greater vulnerability to education-specific risks and dynamic multi-turn interactions, while existing safety guardrails fail to adequately address these risks. EduZone advances LLM safety in education by providing an automated, scalable evaluation framework that supports the development and deployment of safer LLMs in K-12 education.