计划于 8 月 10-13 日在拉斯维加斯举行的安全会议 DEF CON 将举办大语言模型黑客马拉松，邀请黑客在 Anthropic、Google、Hugging Face、Nvidia、OpenAI 和 Stability 等公司开发的大语言模型中挖掘、寻找 bug 和偏见。组织者将这次活动形容为 AI 模型组至今最大规模的红队演习，预计会有数千人参加。参加者除了寻找传统的程序 bug，还有大模型专有问题如偏见、幻觉（hallucination）和越狱（jailbreak）。

https://www.theregister.com/2023/05/06/ai_hacking_defcon/