阿布扎技术创新研究院（Technology Innovation Institute，TII）发布了全新推理优化的开源大型语言模型 Falcon H1R 7B。它基于 Falcon-H1 系列，在保持紧凑 7B 参数规模的前提下，提供了行业领先的推理表现，大幅挑战传统“大模型越大越强”的理念。

核心设计与训练方法

双阶段训练流程

• 冷启动监督微调（SFT）：在 Falcon-H1-7B 基础模型上进行，专注长链推理、数学、编程和科学等领域训练。

• 强化学习增强（GRPO）：在 SFT 基础上进一步优化，通过奖励正确推理链条来提升逻辑性和多样性输出。

三维性能优化指标

模型围绕速度、Token 效率、准确率 三大维度优化，并集成了名为 Deep Think with Confidence（DeepConf） 的置信度驱动测试时推理方法，在生成更少 Token 的同时提升整体准确性。

混合架构优势

采用 Transformer + Mamba（状态空间模型）混合结构，兼具深入关注能力与高效序列处理，提升长上下文处理能力与推理吞吐率。

领先 benchmark 成绩

Falcon H1R 7B 在多个公开评测中表现优异：

推理性能与效率提升

• 推理吞吐量领先：在常见 batch 大小下，每 GPU 令牌处理速度高达 ~1500 tokens/s，几乎是部分对手的两倍。
• 高效推理成本：凭借架构与训练优化，在较低算力环境下仍能实现深度推理任务，适合开发者和企业部署。

Falcon H1R 7B 在 Hugging Face 上提供完整检查点和量化（GGUF）版本，并采用 Falcon-LLM 开源许可发布，便于研究、产品开发和实验用途。详情查看：https://huggingface.co/collections/tiiuae/falcon-h1r