点击蓝字 关注我们
活
动
回
顾
2023年8月25日，来自UCI（加州大学尔湾分校）的助理教授陈齐老师来到了复旦大学江湾校区交叉二号学科楼，分享了题为“On the Cyber-Physical Security of Emerging AI-Enabled Autonomous Cyber-Physical Systems“的讲座。
陈齐老师首先介绍了他们团队（Autonomous & Smart Systems Guard Research Group）主要的研究方向，移动/网络物理系统（CPS）/IoT的安全问题，指出他们目前主要研究的重点是在网络物理系统的AI安全问题，并以其中最典型的自动驾驶系统安全为例介绍了他们团队近些年的工作。
陈齐老师团队首先对现有的自动驾驶系统安全研究进行了梳理，他们发现大部分研究都关注在对自动驾驶系统中AI模型的攻击，并总结了这些研究的一些局限性：没有考虑系统级别的影响，许多攻击只是停留在对AI模型的影响上并没有评估这些影响对整车系统安全性的影响；并且与碰撞规避相关这一类问题相比，许多研究所暴露出的问题并非是无人车关键的安全问题。因此陈齐老师团队梳理了目前自动驾驶系统常见功能架构和模块分布，对系统中各个模块的安全问题进行了深入研究发表了多篇有影响力的研究（如下图所示），许多文章都是首次提出对自动驾驶某一特定功能的安全分析。
以感知模块为例，他们对障碍物感知、车道识别以及交通信号等感知模块的主要功能分别提出了一系列攻击手段。并且针对障碍物感知功能，陈齐老师团队在第一个提出针对3D障碍物检测的安全分析后继续深入，在仅针对基于激光雷达感知的欺骗攻击基础上，又提出了基于照相机和激光雷达融合感知的攻击方法，大大提高了传感器欺骗攻击对自动驾驶系统的威胁。
而后陈齐老师也介绍了近些年团队对智能车安全研究社区建设的贡献，在积极负责地对多家自动驾驶系统研究公司进行安全问题披露之余，陈老师团队积极参与了智能车安全会议VehicleSec以及DEFCON AutoDriving CTF安全竞赛的筹办。
在报告结束时，实验室的同学们针对自己感兴趣的研究问题，结合自己的研究方向，与陈齐老师进行了热烈的交流和深入的讨论。
演
讲
者
简
介
Alfred Chen is an Assistant Professor of Computer Science at University of California, Irvine. His research interest broadly lies in the security and privacy of computer technologies of high criticality to daily life and society. His recent focus has been mainly on the security/privacy issues in emerging AI/systems/network technologies, especially those empowering the emerging autonomous vehicle and intelligent transportation systems. His works have high impacts in both academic and industry with 30+ research papers in top-tier venues across security, mobile systems, transportation, software engineering, and machine learning; a nationwide USDHS US-CERT alert, multiple CVEs; 50+ news coverage by major media such as Forbes, Fortune, and BBC; and vulnerability report acknowledgments from USDOT, Apple, Microsoft, etc.
供稿：黄宗安
审稿：张琬琪、洪赓
排版：边顾
复旦白泽战队
一个有情怀的安全团队
还没有关注复旦白泽战队？
公众号、知乎、微博搜索：复旦白泽战队也能找到我们哦~
如有侵权请联系:admin#unsafe.sh