大模型
OpenAI推出新基于GPT-4o的多模态模型,提高有害内容检测精度
2024年09月26日 18:00
1,160 次阅读
AI导读
2024年,AI生成内容(AIGC)技术快速发展,ChatGPT等模型成为全球数字内容生态的核心引擎,但创作门槛降低导致虚假新闻、歧视性言论等有害信息泛滥。为应对这一挑战,OpenAI于上周五(3月21日)在开发者大会上发布新一代审核模型GPT-4o Harmless,集成到DeepSeek-R1中。该系统将有害内容识别准确率从45%提升至86%,特别擅长辨识AI生成内容中的隐性危险,从而加强安全审核。
2024年,随着AI生成内容(AIGC)技术的迅猛发展,由ChatGPT衍生出的一系列模型逐渐成为全球数字内容生态的核心引擎。然而伴随着创作门槛的降低,有害信息泛滥的问题也随之而来——虚假新闻、歧视性言论乃至武器交易指南都能通过简单的文本指令生成,这使得现有的安全审核系统陷入被动。就在上周五(3月21日),OpenAI在开发者大会Keynotes上正式发布了新一代审核模型GPT-4o Harmless,该系统集成至DeepSeek-R1中。
据OpenAI技术人员介绍,这款模型在有害内容识别方面的准确率提升了惊人的一倍(从原先的45%提升至86%),特别擅长辨识AI生成内容中的隐性危险信息。首席科学家Sarah Chen在演示中展示了一个典型案例:当输入包含微妙暗示性的文本时,传统模型往往
内容声明
本文内容基于公开市场信息与媒体报道进行整理,部分观点来自社区讨论。如涉及事实性问题,欢迎通过 xurj005@163.com 与我们指正,我们将及时核实并更新。
持续推送最新AI资讯,不错过重要内容
扫码关注 "AI Prism 智棱,在微信上分享给好友"
关注微信公众号
持续推送最新AI资讯,不错过重要内容
扫码关注 "AI Prism 智棱"