浙大联合华为发布开源安全大模型 DeepSeek-R1-Safe

浙江大学网络空间安全学院与华为公司合作，共同发布了 DeepSeek R1 模型的安全加强版——DeepSeek-R1-Safe。

据介绍，该模型利用华为的昇腾芯片和 MindSpeedLLM 等框架进行开发，训练流程如下：

1. 训练数据生成：构建安全、合规的数据集

2. 安全监督训练：在训练过程中引入安全约束

3. 安全强化学习：通过 RLHF 等方法优化模型行为

4. 模型性能评测：对安全性能和通用性能进行全面评估

其核心优势在于显著提升安全防护能力的同时，有效保持模型的通用性能，从而在安全性与可用性之间实现了理想的平衡。

开源地址：https://github.com/ZJUAISafety/DeepSeek-R1-Safe