跳到正文
热点事件观察中

OpenAI发布CSAM图像分类器与ChatGPT警告机制

2 篇报道2 个报道来源3 天前更新

先了解这件事

AI 综述

2026年11月17日,OpenAI发布一款可检测儿童性虐待材料(CSAM)图像的新图像分类器,覆盖AI生成图像,并通过API免费向部分公司开放。据TechCrunch报道,早期合作测试中,该分类器标记的图像减少48%,同时找到的虐待图像数量不变,被标记图像为虐待图像的概率提高一倍。ChatGPT同时新增警告界面:对尝试生成此类内容的用户进行提示、引导其寻求支持,并暂停账号24小时,屡次违规可能永久移除账号。同日The Verge报道,OpenAI在华盛顿发布会上宣布该分类器能更好识别儿童性虐待图像并判断是否为AI生成,向通过审核的机构免费开放,并称这是首个带AI生成标记且广泛可用的CSAM分类器。目前该分类器已向部分合作公司开放,ChatGPT警告机制已上线。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 推出 CSAM 分类器,帮助举报热线筛查 AI 生成内容

    OpenAI 在华盛顿发布会上宣布一款分类器,称能更好识别儿童性虐待图像并判断是否为 AI 生成,同时向通过审核的机构免费开放。OpenAI 称该分类器标记的图像减少 48%,被标记图像中含虐待材料的概率提高一倍,并称这是首个带 AI 生成标记且广泛可用的 CSAM 分类器。

  2. TechCrunch · AI
    OpenAI 发布 CSAM 图像分类器并为 ChatGPT 增加警告机制

    OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新图像分类器,并通过 API 免费向部分公司开放。早期合作测试中,该分类器标记的图像减少 48%,同时找到的虐待图像数量不变,被标记图像为虐待图像的概率提高一倍。ChatGPT 同时新增警告界面,对尝试生成此类内容的用户提示、引导其寻求支持并暂停账号 24 小时,屡次违规可能永久移除账号。

本事件热度走势

当前热度 3·可比范围峰值 19(11月17日 04:00)·近 24 小时可比范围变化 -74%

0510152011月17日02:0011月17日18:0011月18日11:0011月19日03:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。