演讲议题巡展 | 安全之眼-大模型时代下的攻与防
2024-7-23 14:29:51 Author: mp.weixin.qq.com(查看原文) 阅读量:9 收藏

    经过精心筹备与多方努力

KCon 2024 黑客大会敲定举办时间

将于8月24日-25日举办

本次大会涵盖了网安领域的不同热点话题

为了展示演讲议题风采

让大家了解更多大会情况

特此开展议题巡展

欢迎围观~

演讲者:

祝荣吉(BlBana)

绿盟科技天元实验室高级安全研究员,主要研究云安全、容器安全、大模型应用安全、Web应用安全、攻防技术武器化、漏洞挖掘与分析等多个技术方向,具备攻防技术研究、漏洞挖掘分析、蓝军武器研发等多项综合技术能力。曾作为M01N战队核心成员,参与多项国内重大网络安全竞赛并取得优异成绩。

绿盟科技天元实验室,专注于新型实战化攻防对抗技术研究。研究目标包括:漏洞利用技术、防御绕过技术、攻击隐匿技术、攻击持久化技术等蓝军技术,以及攻击技战术、攻击框架的研究。涵盖Web安全、终端安全、AD安全、云安全、AI安全等多个技术领域的攻击技术研究,以及工业互联网、车联网等业务场景的攻击技术研究。通过研究攻击对抗技术,从攻击视角提供识别风险的方法和手段,为威胁对抗提供决策支撑。

议题介绍:

安全之眼-大模型时代下的攻与防

随着大模型的兴起,近些年各种业务形态的LLM应用也层出不穷,模型越狱、角色扮演、目标劫持等LLM应用攻击手段逐渐被大家所熟知,而这只是大模型面临攻击风险中的冰山一角。随着LLM应用开始与业务紧密结合,各种Agent组件的接入为应用提供了更多的现实交互能力,在丰富业务功能的同时,也让LLM应用面临的攻击风险更加多样化。除此之外,LLM应用生命周期内各类技术能力组件与工具的开发应用,也为其带来了不同维度的安全风险。

本议题我们将从AI Red Team的视角出发,针对大模型主流应用架构开展深入的分析与拆解,从基座、数据、模型、应用、身份多个攻防层面出发,结合LLM应用实战攻击案例对各种攻击风险以及攻击手段展开介绍,并且基于LLM威胁暴露面与LLM生命周期两个维度,我们研究提出一套AI大模型风险矩阵,以此快速形成对大模型时代下应用场景的攻防认知。

最后,我们将从蓝队防御的视角出发,对未来LLM应用的防御策略进行分析与展望。希望我们的分享能为大家带来在大模型时代下独特的攻防体验。

期待与师傅们在线下相聚,不见不散!

早鸟票优惠将于2024年7月31日23:59分截止,错过此刻,优惠不再。

还在观望的小伙伴请抓紧时间~

KCon 2024 门票

KCon 2024的线上售票通道已开启

购票网址:

https://www.4hou.com/tickets/eERv

长按识别下方二维码

点击文末“阅读原文”

立即购票

● 早鸟票:1638元(需在2024.8.1前购票)

● 学生票:410元(需提供相关证明)

● 团队票:1434元(3张起购)

● 学生团体票:738(2张)984(3张)1435元(5张)(需提供相关证明)

● 普通票:2048元


文章来源: https://mp.weixin.qq.com/s?__biz=MzIzOTAwNzc1OQ==&mid=2651137603&idx=1&sn=f8d52ead0e0d387c599347bd3a4a7e92&chksm=f2c12723c5b6ae35f261c80f8d416a5e28ed60a631075bee908693d1038112a0db6d0c3a9956&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh