2024年7月17日，由中国计算机学会主办，中国计算机学会计算机应用专业委员会、《网络空间安全科学学报》、哈尔滨工业大学网络空间安全学院、安天科技集团共同承办的NCCA 2024“大模型的安全风险与应对”学术研讨会在黑龙江省哈尔滨市成功举行。本次研讨会邀请了清华大学自动化系陶建华教授、哈尔滨工业大学网络空间安全学院院长张宏莉教授、安天科技集团首席技术架构师肖新光、西安交通大学网络空间安全学院赵正宇研究员、浙江大学网络空间安全学院巴钟杰研究员作主旨报告，研讨会由中国科学技术大学网络空间安全学院储琪副教授主持。

中国计算机学会计算机应用专业委员会主任、吉林大学教授黄岚代表专委会致辞，她表示计算机应用专委会作为中国计算机学会的专业分支机构，一直以来致力于开展学术交流、科学普及、发展战略研究等活动，此次会议的举办旨在展示国内外计算机领域各专业方向学术研究最前沿的科研成果，推动和促进产业数字化转型、加速产业落地，希望此次会议可以为大家搭建一个探讨行业解决方案、推动行业创新发展的交流平台。

黑龙江省计算机学会秘书长、哈尔滨工程大学教授潘海为代表黑龙江省计算机学会致辞，他表示随着人工智能技术的飞速发展，大模型已经成为学术界和工业界关注的焦点，在推动科技进步的同时，大模型的发展也伴随着一系列的安全风险，此次会议期待大家深入讨论并研究保障大模型安全的方法和应对策略，以促进大模型的健康、可持续发展。

陶建华教授作了题为“大模型技术发展与安全思考”的报告。他表示，人工智能大模型技术的发展展现出了较好的自然语言理解、音视频分析和多模态内容生成能力，已在各种领域中初步应用，但其安全性还面临诸多问题。陶教授针对大模型存在的输出结果可信性不足、稳定性不强等问题进行了较为深入的分析，对如何解决大模型的可信性和安全性等问题提出了思考和解决方法，并介绍了几种典型的大模型技术应用案例。

张宏莉教授作了题为“中文对抗文本生成方法”的报告。报告从人工智能发展与安全问题出发，研究当前在物理世界中应用广泛的大语言模型开展中文对抗攻击，以观察其在对抗攻击条件下大语言模型的鲁棒性，通过对基于掩码语言模型的中文对抗文本生成方法和基于知识引导的可解释的中文法律对抗文本生成方法进行深入研究，有针对性地提升了对抗文本的可解释性、流畅性以及通用性，进而设计出抗攻击性能更优越的模型。

肖新光首席技术架构师作了题为“从算法选择到大模型应用的实践及需要警惕的误区”的报告。报告从支撑海量恶意代码检测的大规模特征工程运营实践出发，解析了实时检测和大规模特征运营的场景需求，介绍了通过原始的自动化系统、两代分析流水线到VILLM大模型的工程过程，总结了安全赋能体系迭代过程中对于算法和智能技术的扬弃经验，并进一步探讨了大模型在网络安全中扮演的角色。

赵正宇研究员作了题为“AI大模型的安全与隐私风险”的报告。报告从大模型的保密性、完整性、隐私性三个角度出发，分析AI模型安全与隐私在大模型时代的各种挑战，探讨了大模型的隐私泄漏、模型窃取、对抗攻击、后门威胁、输出安全以及公平性与偏见等热门研究问题。

巴钟杰研究员作了题为“人工智能安全前沿技术与实践研究”的报告。报告聚焦人工智能大模型安全的模型、内容以及安全评测等方面，介绍分析了多个大模型安全前沿研究方向与最新技术成果，并从学术界的角度对领域未来落地与工业界相关标准的推进提出了思路建议。

研讨会的Panel环节由赵正宇研究员主持，邀请了陶建华教授、张宏莉教授、肖新光首席技术架构师、巴钟杰研究员作为分享嘉宾，共同探讨了大模型安全领域的热点问题，包括大模型产研融合的安全风险与挑战、价值观对齐和隐私保护难题、隐私保护能力、安全评测标准落地等方面，嘉宾们结合热点问题提出了自己的见解和解决建议，为大模型安全领域的研究和实践提供了多角度的视野和宝贵的参考。

随着人工智能技术的不断发展和进步，大模型的安全问题将面临长期而复杂的挑战。《网络空间安全科学学报》将继续致力于推动人工智能领域的学术交流与知识传播，关注领域发展的热点与重点，继续策划出版人工智能领域的专题专刊、组织学术研讨会，如2024年第一期出版的“大模型安全”专刊，以期为学者们搭建学术交流与学术服务的平台，共同推动人工智能技术的健康发展。