斯坦福大学 Internet Observatory 发布的报告显示，AI 生成的儿童色情材料（CSAM）将成为未来的一大难题。AI 让制作 CSAM 比以往任何时候都容易，将让人手不足的非盈利机构 National Center for Missing and Exploited Children 的材料筛选面临挑战，将让执法部门更难识别真正需要营救的儿童。研究人员表示，如果 AI 生成的 CSAM 材料包含真正的儿童或使用真正儿童的照片训练，那么这将是非法的；但如果纯属虚构，那么 CSAM 材料可能会被视为言论自由而获得保护。

https://www.nytimes.com/2024/04/22/technology/ai-csam-cybertipline.html?utm_source=press.coop
https://cyber.fsi.stanford.edu/io/news/cybertipline-report