2024年11月7日，在2024第三届江苏省信息技术应用大会期间，由江苏省信息技术应用学会主办，江苏省信息技术应用学会信息安全专委会承办的“人工智能赋能网络安全专题研讨会”在南京大学国际会议中心召开。会议围绕基于人工智能的威胁识别、安全监测、态势感知、恶意软件检测、智能化网络攻击、安全大模型等主题，来自高校、企业的60多位专家、学者参与了交流讨论。
中国科学院信息工程研究所霍玮研究员作题为《大模型驱动的漏洞挖掘技术探索》的报告，从大模型的发展现状，大模型驱动的复杂程序理解、动静态漏洞分析、安全漏洞利用等角度阐述了当前的进展；浙江大学陈艳姣研究员作题为《基于机器学习的异常检测技术与风险》的报告，分析了基于机器学习的异常检测技术面临的挑战与潜在风险，以及其在实际应用中的局限性和应对策略；南京大学华景煜教授作题为《大语言模型Prompt中的安全与隐私保护初探》的报告，从两个角度探讨LLMPrompt中隐含的安全与隐私风险，并介绍了应对此类风险方面进行的针对亚敏感问题的防御尝试；北京航空航天大学张小明教授作题为《防御性大语言模型可用性的修复——LlmFixer》的报告，介绍了针对大模型的越狱攻击和防御策略，提出了一个通用框架LlmFixer，在不更新防御性大型语言模型的参数的情况下，修复了其可用性并保持安全性；南京航空航天大学朱友文教授作题为《浅谈人工智能模型和数据安全挑战及应对方法》的报告，分析了人工智能技术在模型安全和数据安全方面所面临的主要挑战，对现有的应对策略进行分析与评估，并提出了在保障人工智能安全隐私方面的改进方向；南京南瑞集团魏兴慎高级工程师作题为《电力网络安全智能体技术研究进展》的报告，介绍了网络安全智能体构建的方法以及网络安全智能体在内部威胁检测、钓鱼网站检测、攻防渗透等方面的进展。
此次研讨会提供了分享研究成果、探索前沿科技的权威性合作交流平台，共同探讨了网络安全领域的最新趋势与挑战，分享不同行业、不同视角、不同维度对人工智能赋能网络安全的理解、经验和感悟，集智聚力，助力江苏数字经济高质量发展，共同谋划行业的美好未来。
