2024-3-25 11:33:44 Author: mp.weixin.qq.com(查看原文) 阅读量:23 收藏
演讲主题：网络空间安全和AIGC整合之道
演讲人：刘杨 新加坡南洋理工大学（NTU）计算机学院教授
时间：3月26日10:00-11:00
地点：清华大学 FIT楼1-312
直播地址：www.inforsec.org/wp/?p=781
（注：清华校外人员可直接点击文末“阅读原文”观看直播）
内容摘要
AIGC 和网络安全要求在软件开发过程的所有阶段系统地整合安全测试，其目的是通过使用工具，将人类专业人员的安全专业知识自动化，从而能够在开发生命周期的早期阶段及早识别和解决安全问题。然而，其有效性在很大程度上取决于智能工具模拟或可能替代安全专家的能力。随着 LLM 的出现，现在有了实现这一目标的新手段。在本演讲中，刘杨教授将讨论最近在应用安全领域利用 LLM 的努力，以涵盖漏洞分析的整个生命周期：漏洞检测、诊断、POC 生成和修复。另一方面，LLM 的安全性对于确保人工智能应用程序的成功部署同样重要。在这个方向上，刘教授将展示有关 LLM 攻击面的最新研究成果、针对提示注入的黑盒/白盒攻击生成、针对多模态模型的攻击、后门攻击以及可能的防御机制。最后，刘教授将研究如何将这两方面结合起来，开发一个人工智能应用安全分析平台。
演讲人简介
刘杨博士现任新加坡南洋理工大学（NTU）计算机学院教授，NTU网络安全实验室主任，新加坡网络安全研究办公室主任，并于2019年荣获大学领袖论坛讲席教授，在2024年荣获校长讲席教授。刘杨博士专攻软件工程，网络安全和人工智能，其研究填补了软件分析中理论和实际应用之间的空白，研发了多款高效的软件质量和安全检测平台并成功商业化。到目前为止，他已经在顶级会议和顶级期刊上发表了超过500篇文章，并在顶级软件工程会议上获得25项最佳论文奖以及最具影响力软件奖。他还同时负责多个重要研究中心，包括新加坡网络安全研究办公室（CRPO）、南洋理工大学可信AI研究中心（TAICeN）以及与ICL合作的医疗设备安全CREATE中心。他还获得多项著名奖项，包括MSRA fellowship，TRF Fellowship, 南洋助理教授，Tan Chin Tuan Fellowship，Nanyang Research Award 2019， ACM杰出演讲人，新加坡杰青和NTU创新者（创业）奖。
如有侵权请联系:admin#unsafe.sh