TechCrunch · AI· Ivan Mehta·· 3 天前AI 评分58
OpenAI 发布 CSAM 图像分类器并为 ChatGPT 增加警告机制
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新图像分类器,并通过 API 免费向部分公司开放。早期合作测试中,该分类器标记的图像减少 48%,同时找到的虐待图像数量不变,被标记图像为虐待图像的概率提高一倍。ChatGPT 同时新增警告界面,对尝试生成此类内容的用户提示、引导其寻求支持并暂停账号 24 小时,屡次违规可能永久移除账号。
来源:TechCrunch · AI · techcrunch.com