[SecMet]是安全学术圈近期打造的一个线上线下结合的学术研讨模式，研讨会分为全公开和半公开模式，其中半公开模式仅对安全学术圈内部交流群和特殊专题投稿人员参加，每期主题根据领域主席（Primary Area Chair，下文简称AC）来拟定或者学术汇报者内容来拟定（有兴趣组织或者汇报的学者可以发邮件[email protected]，感谢！！！）。

SecMet#3期主要为学术汇报方式进行，详细日程安排如下：

• SecMet期数：#3
• 报告类型：半公开
• 报告嘉宾：吴怡欣 (CISPA)
• 报告题目：提示学习(Prompt Learning)的隐私泄漏风险分析
• 报告时间：2024年3月14日(星期四)早上10:30(北京时间)
• 报告地点：
• 线上：腾讯会议，内部通知
• 线下：四川大学网络空间安全学院大楼805房间

报告人简介

吴怡欣是CISPA亥姆霍兹信息安全中心张阳老师研究组的博士生。她的研究主要集中在机器学习隐私攻击和大模型安全问题。她的相关工作发表在顶级国际会议USENIX Security 会议上。

报告内容

大规模预训练模型越来越多地通过一种新的范式——提示学习来应用到下游任务中。与微调不同，提示学习不更新预训练模型的参数。相反，它只学习一个输入扰动，即被添加到下游任务数据中用于预测的提示，从而降低训练成本。鉴于提示学习的快速发展，一个能够良好泛化的提示不可避免地成为一项宝贵的资产，因为创建它需要投入巨大的努力和专有数据。近期的研究中也发现提示学习存在一定的隐私泄漏风险。本次我的汇报将从属性推理攻击和成员推理攻击两个角度来分析提示学习的隐私泄漏风险。

个人主页

https://yxoh.github.io/

组办者

特别鸣谢本次SecMet主要组织者：

• 主办AC：黄诚 (四川大学)  https://chenghuang.org/

历史SecMet列表

• SecMet#2期 基于提示词工程的大模型安全
• SecMet#1期 理解和度量大模型的安全问题
  

PS：欢迎各位继续投稿-专题笔记征稿 | Security Tasks of LLMs-Driven 2023

安全学术圈招募队友-ing 
有兴趣加入学术圈的请联系 secdr#qq.com