打造AI网安“红队”：OpenAI介绍内部漏洞检测模型GPT-Red
创始人
2026-07-16 16:46:22
IT之家 7 月 16 日消息，OpenAI 当地时间 15 日介绍了其内部使用的网络安全“红队”模型 GPT-Red。该模型可自动化地进行各种网络攻击模拟，帮助 OpenAI 提升对外模型产品的鲁棒性。
OpenAI 表示，其过去半年自 GPT-5.3 后的每个生产模型均将“红队”模型用于训练。伪造思维链型攻击的成功率已从 GPT-5.1 上的 95% 降低至最新模型上的不足 10%；最新的 GPT-5.6 Sol 在 GPT-Red 的直接提示符注入攻击中失败率仅有 0.05%。
GPT-Red 使用自博弈强化学习进行训练：其本身和一组不同的防御型 LLM 在广泛的红队场景上同时进行训练。GPT-Red 因成功诱发有效失败而获得奖励，而防御型模型则因抵抗攻击并完成其原始任务而获得奖励。随着防御型模型变得越来越强大，GPT-Red 被迫发现更强大、更多样化的攻击。
“红队”模型与产品模型相隔离。OpenAI 相信其已开启了良性的人工智能网络安全循环，可利用现有模型来增强未来模型的鲁棒性、一致性、可信度。
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。
相关内容
热门资讯
捷普科技：全球电子制造服务巨头...
一、公司概况捷普科技（Jabil Inc.，纽约证券交易所代码：JBL）成立于1966年，总部位于美...
新型封装技术大幅提升量子点LE...
科技日报讯（记者张佳欣）据最新一期《科学进展》杂志报道，美国麻省理工学院联合三星先进技术研究院的研究...
茵梦达取得抽检设备专利提升抽检...
国家知识产权局信息显示，茵梦达电机（中国）有限公司取得一项名为“抽检设备、轴棒加工系统及电机生产线”...
2026年南京玄武区苹果手机租...
本内容由AI生成 2026年3C数码租赁行业现状及用户核心关注 近年来，随着3C数码产品更新换代速...
Cloudflare推出Pre...
IT之家 7 月 16 日消息，互联网基础服务企业 Cloudflare 当地时间本月 13 日宣布...
打造AI网安“红队”：Open...
IT之家 7 月 16 日消息，OpenAI 当地时间 15 日介绍了其内部使用的网络安全“红队”模...
金蝶国际：从财务软件先驱到云计...
一、公司概况金蝶国际软件集团有限公司（Kingdee International Software ...
挪威海德鲁（Norsk Hyd...
一、公司概况挪威海德鲁公司（Norsk Hydro ASA，简称"海德鲁"）是一家总部位于挪威奥斯陆...
凯杰（QIAGEN）：从样品到...
一、公司概况凯杰（QIAGEN N.V.，NYSE: QGEN / Frankfurt Prime ...
中国东方航空：疫后重构航网格局...
一、公司概况中国东方航空股份有限公司（China Eastern Airlines Corporat...