全国政协委员周鸿祎:破解安全难题,最大化释放大模型技术潜力
近段时间,国产大模型DeepSeek引发国内外关注,我国人工智能产业创新步伐不断加速。2025年政府工作报告提出持续推进“人工智能+”行动,引发代表委员热议。 全国政协委员、360集团创始人周鸿祎认为,DeepSeek-R1等先进模型带来了前所未有的机遇,也同样面临无法通过传统网络安全手段解决的安全挑战。对此,周鸿祎建议,各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全的前提下最大化地释放大模型技术的潜力。 周鸿祎认为,DeepSeek-R1的诞生标志着我国AI技术加速从“追赶者”迈向“领跑者”,其开源、透明、免费等特质,尤其适合在政府与企业开展私有化部署,不过随之而来的安全问题也值得关注。 “开源带来大模型的广泛应用,未来将会有各类专业大模型、垂直大模型、场景大模型,连接内部知识库,以智能体的形式在大批政府机构和企业中广泛部署,推进‘数转智改’,实现降本增效。然而大模型存在的幻觉、内容安全等诸多问题无法通过传统安全方案有效化解。”他说。 周鸿祎认为,大模型应用安全主要集中在基座模型、知识库和智能体三个方面。其中,基座模型安全方面,由于大模型存在的幻觉现象,特别是在生成文...
