OpenAI推出儿童性虐待材料图像分类器,ChatGPT违规账户将临时封禁24小时

OpenAI推出儿童性虐待材料图像分类器,ChatGPT违规账户将临时封禁24小时

2026-11-16 17:02查看原文

据报道,OpenAI推出用于检测儿童性虐待材料(CSAM)的图像分类器,并在ChatGPT中增加警告与临时封禁机制。该分类器可识别包括AI生成内容在内的相关图像,早期测试显示,在识别出相同数量违规图像的情况下,误报图像数量减少48%,被标记图像最终确认为违规内容的概率提高至原来的两倍。OpenAI将通过API向部分企业免费开放该工具,并称其与美国国家失踪与受剥削儿童中心(NCMEC)共同开发,同时与Tech Coalition和ROOST共享访问权限。

ChatGPT已拦截相关内容及请求,用户尝试访问或生成涉及儿童性化内容时将收到警告、被引导至专业支持资源,账户还可能被暂停24小时;重复违规可能导致永久移除。OpenAI同时发布面向开发者的预防、检测和举报指南,并为执法机构提供专用插件、调查工具、数据分析功能及相关培训。

#AI安全攻防#AI监管与安全

免责声明:含第三方意见,不构成财务建议

推荐阅读

Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

10-08
Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

09-28
安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件

09-24
OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件

Docker披露macOS Sandboxes严重漏洞:恶意代码可逃逸读写主机文件

09-17
Docker披露macOS Sandboxes严重漏洞:恶意代码可逃逸读写主机文件

Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

09-15
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

09-12
Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

09-01
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统