OpenEval: Benchmarking Chinese LLMs across Capability, Alignment and Safety

📄 arXiv: 2403.12316v1 📥 PDF

作者: Chuang Liu, Linhao Yu, Jiaxuan Li, Renren Jin, Yufei Huang, Ling Shi, Junhui Zhang, Xinmeng Ji, Tingting Cui, Tao Liu, Jinwang Song, Hongying Zan, Sun Li, Deyi Xiong

分类: cs.CL

发布日期: 2024-03-18

💡 一句话要点

提出OpenEval以解决中文LLM评估中的能力、对齐和安全问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 中文大语言模型 评估框架 能力评估 对齐评估 安全评估 常识推理 偏见检测

📋 核心要点

  1. 现有中文LLM评估方法多集中于能力，忽视了对齐和安全问题，导致评估结果片面。
  2. OpenEval通过整合能力、对齐和安全三个维度的评估，提供全面的中文LLM评估框架。
  3. 首次公开评估涵盖7B至72B参数的多种中文LLM，结果显示在常识推理和安全性方面仍需改进。

📝 摘要（中文）

中文大语言模型（LLMs）的快速发展带来了高效评估的挑战。现有评估平台多集中于能力评估，忽视了对齐和安全问题。为此，本文提出OpenEval，一个评估测试平台，涵盖能力、对齐和安全三个维度。能力评估使用12个数据集，涵盖自然语言处理、学科知识、常识推理和数学推理等四个子维度；对齐评估则通过7个数据集考察模型输出的偏见、攻击性和违法性；安全评估则关注高级LLMs的潜在风险，包括权力寻求和自我意识等。OpenEval还实施了分阶段的公开评估和基准更新策略，以确保其与中文LLMs的发展保持一致。

🔬 方法详解

问题定义：本文旨在解决当前中文LLM评估中存在的片面性，尤其是对齐和安全问题。现有方法往往只关注能力评估，导致无法全面了解模型的潜在风险和偏见。

核心思路：OpenEval的核心思路是通过综合能力、对齐和安全三个维度的评估，提供一个全面的评估框架，以便更好地指导中文LLM的发展。这样的设计能够确保评估结果的多样性和全面性。

技术框架：OpenEval的整体架构包括三个主要模块：能力评估模块（使用12个数据集）、对齐评估模块（使用7个数据集）和安全评估模块（使用6个数据集）。每个模块针对特定的评估维度进行测试。

关键创新：OpenEval的最大创新在于首次将能力、对齐和安全三者结合进行评估，填补了现有评估方法的空白。这种综合评估方法能够更全面地反映模型的实际表现。

关键设计：在能力评估中，使用了多样化的任务和数据集；对齐评估则关注模型输出的社会影响；安全评估则特别关注高级模型的潜在风险。这些设计确保了评估的全面性和深度。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在首次公开评估中，OpenEval对多种中文LLM进行了测试，结果显示这些模型在特定任务上表现出色，但在常识推理、对齐和安全性方面仍存在显著不足，提示开发者需关注这些领域的改进。

🎯 应用场景

OpenEval的研究成果可广泛应用于中文大语言模型的开发和评估，尤其是在教育、医疗和法律等领域。通过提供全面的评估框架，开发者可以更好地理解和改进模型的能力、对齐性和安全性，从而推动中文LLM的健康发展。

📄 摘要（原文）

The rapid development of Chinese large language models (LLMs) poses big challenges for efficient LLM evaluation. While current initiatives have introduced new benchmarks or evaluation platforms for assessing Chinese LLMs, many of these focus primarily on capabilities, usually overlooking potential alignment and safety issues. To address this gap, we introduce OpenEval, an evaluation testbed that benchmarks Chinese LLMs across capability, alignment and safety. For capability assessment, we include 12 benchmark datasets to evaluate Chinese LLMs from 4 sub-dimensions: NLP tasks, disciplinary knowledge, commonsense reasoning and mathematical reasoning. For alignment assessment, OpenEval contains 7 datasets that examines the bias, offensiveness and illegalness in the outputs yielded by Chinese LLMs. To evaluate safety, especially anticipated risks (e.g., power-seeking, self-awareness) of advanced LLMs, we include 6 datasets. In addition to these benchmarks, we have implemented a phased public evaluation and benchmark update strategy to ensure that OpenEval is in line with the development of Chinese LLMs or even able to provide cutting-edge benchmark datasets to guide the development of Chinese LLMs. In our first public evaluation, we have tested a range of Chinese LLMs, spanning from 7B to 72B parameters, including both open-source and proprietary models. Evaluation results indicate that while Chinese LLMs have shown impressive performance in certain tasks, more attention should be directed towards broader aspects such as commonsense reasoning, alignment, and safety.