据报道,OpenAI推出用于检测儿童性虐待材料(CSAM)的图像分类器,并在ChatGPT中增加警告与临时封禁机制。该分类器可识别包括AI生成内容在内的相关图像,早期测试显示,在识别出相同数量违规图像的情况下,误报图像数量减少48%,被标记图像最终确认为违规内容的概率提高至原来的两倍。OpenAI将通过API向部分企业免费开放该工具,并称其与美国国家失踪与受剥削儿童中心(NCMEC)共同开发,同时与Tech Coalition和ROOST共享访问权限。
ChatGPT已拦截相关内容及请求,用户尝试访问或生成涉及儿童性化内容时将收到警告、被引导至专业支持资源,账户还可能被暂停24小时;重复违规可能导致永久移除。OpenAI同时发布面向开发者的预防、检测和举报指南,并为执法机构提供专用插件、调查工具、数据分析功能及相关培训。
免责声明:含第三方意见,不构成财务建议
Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫
10-08
安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露
09-28
OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件
09-24
Docker披露macOS Sandboxes严重漏洞:恶意代码可逃逸读写主机文件
09-17
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读
09-15
Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发
09-12
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统
09-01






