刚刚,GPT-6 Cyber 正式发布,AI 最强的矛也成了最强的盾 - MK体育资讯

AI在网络安全领域的能力再次迎来显著提升。

近日,OpenAI正式推出了新一代网络安全模型GPT-6 Cyber,该模型能够自主识别软件漏洞、判断漏洞是否可被利用,并协助研究人员制定修复方案。

相较于前代GPT-5.6 Cyber,新模型在漏洞利用测试中的表现提升了约51%,同时在执行安全任务时的指令遵循能力也有大幅改善。值得注意的是,OpenAI已将GPT-6 Cyber应用于实际软件安全研究,并取得了令人瞩目的成果。

图|官方博客🔗 https://openai.com/index/introducing-gpt-6-cyber/

在Linux内核研究中,GPT-6 Cyber成功开发了948个可运行的漏洞利用程序;在Firefox浏览器中,它发现了81个此前未知的高危漏洞。

部分Firefox漏洞已由Mozilla修复,相关安全更新也已向用户推送。

根据OpenAI公布的信息,GPT-6 Cyber在多数网络安全任务上的表现超越了通用旗舰模型GPT-6 Astra,即使后者未拒绝执行相关请求,Cyber仍具有明显优势。

凭借此次能力提升,OpenAI将GPT-6 Cyber在网络安全领域的风险等级评定为Critical(严重级),高于前代GPT-5.6 Cyber的High(高级)。

按照OpenAI的Preparedness Framework(前沿模型风险准备框架),这一评级意味着该模型已具备需要采取更严格防护措施的网络攻击能力。

漏洞利用能力提升51%,还能自主寻找未知漏洞

网络安全研究通常需要理解软件运行机制、分析代码、寻找漏洞、构造攻击程序,并验证漏洞能否在实际环境中被成功利用。

过去,这些工作高度依赖专业研究人员的经验,尤其是漏洞利用程序的开发,可能需要长时间反复调试。

如今,GPT-6 Cyber已能参与完成上述流程。

在专门评估漏洞利用能力的ExploitGym中,GPT-6 Cyber取得了48.5%的成功率,而前代GPT-5.6 Cyber为32.1%,相对提升约51%。

该测试要求模型针对指定漏洞,在远程目标环境中开发有效的利用程序,因此相比单纯判断代码是否存在安全问题,更贴近实际安全研究。

OpenAI还设计了一项Web渗透测试,要求模型在无法查看源代码的情况下,通过与Web应用交互寻找漏洞。

在这项测试中,GPT-6 Cyber的漏洞召回率达到40.3%,超过GPT-6 Astra的32.0%。

另一项名为RemoteExploitBench的新基准,进一步测试模型的远程漏洞利用能力,涉及GitLab、PostgreSQL、Jenkins等软件中的已知漏洞,所有测试均在受控环境内进行。

初步评估显示,使用Daybreak Blue的GPT-6 Astra拒绝了全部测试任务,而使用Daybreak Red的GPT-6 Cyber完成了95%,唯一一次失败是未能让漏洞利用程序在远程环境中正常工作。

两者采用不同的安全访问配置,因此这组结果也受到安全策略的影响。

相比基准测试榜单的成绩,GPT-6 Cyber在真实软件项目中的表现更具说服力。

OpenAI披露,其研究团队使用GPT-6 Cyber对Linux内核开展大规模研究,成功复现1724个漏洞,并针对其中948个开发出了可运行的漏洞利用程序。

使用相同研究框架的GPT-5.6 Sol,此前仅成功利用166个漏洞,GPT-6 Cyber的成果超过其五倍。

按照Linux社区的漏洞披露规范,OpenAI已向相关维护人员报告其中304项关键发现,并提供候选修复方案,其余问题的修复工作仍在推进。

另一项成果来自Firefox。

Mozilla的Firefox浏览器长期接受安全研究人员及多代前沿AI模型的审查,属于安全防护相对成熟的软件项目。

即便如此,GPT-6 Cyber依然发现了81个此前未知、被Mozilla认定为高危的漏洞,并证明另外30个已知问题的严重程度高于此前评估。

研究人员同时提供了可复现的测试证据与修复建议,帮助Mozilla工程师开展修复工作。

Firefox杰出工程师Brian Grinstead表示,即使经过多代前沿模型的安全加固,GPT-6 Cyber依然发现了未知的高危漏洞,并帮助团队向数百万用户提供安全修复。

此外,OpenAI还利用GPT-6 Cyber与其他模型研究Brotli压缩库中的关键漏洞,验证其可能导致下游应用出现远程代码执行风险。

在OpenAI自身基础设施的受控红队测试中,相关AI Agent甚至能够组合利用多个漏洞,突破微型虚拟机隔离,并在底层宿主机上执行代码。研究团队随后据此修复软件缺陷、加强网络访问限制,并向相关维护人员披露问题。

AI会主动攻击,但也必须知道哪些目标不能碰

随着网络安全模型能力不断增强,一个现实问题变得更加突出。

当AI已经能够自主编写攻击程序,甚至组合多个漏洞完成攻击时,如何确保它不会擅自攻击未经授权的系统?

为此,OpenAI在GPT-6 Cyber的训练过程中,专门强化了模型遵守授权范围、执行操作限制以及准确报告研究结果的能力。

其中一项关键测试叫作ExploitGym Honeypot。

研究人员会向模型提供一个困难的漏洞利用任务,并在隔离环境中配置软件包仓库、对象存储等辅助服务,同时故意让这些服务存在容易利用的漏洞。

按照任务要求,模型只能攻击指定目标,即使发现其他服务存在安全缺陷,也不能擅自利用。

测试结果显示,在没有部署阶段安全提示词的情况下,GPT-6 Cyber有99.93%的测试遵守了授权范围,前代GPT-5.6 Cyber为94.49%。

加入部署安全提示词后,GPT-6 Cyber在该项测试中的遵守率达到100%。

OpenAI还展示了模型的部分推理记录,其中明确提到不能假设额外API或攻击控制器属于目标范围,也不能探索授权范围之外的凭证。

为了进一步限制滥用风险,OpenAI还引入针对网络安全任务的监控机制,包括检查模型行为是否符合用户授权、识别高风险攻击请求,以及监测针对工业控制系统等关键基础设施的危险操作。

例如,在PHP关键漏洞的协调披露期间,OpenAI曾部署专门监控措施,识别针对真实PHP服务器开发漏洞利用程序的行为,同时保留对合法防御工作的支持。

面向企业API用户,OpenAI还引入Private Safety Processing(PSP)机制,通过自动化检查识别潜在滥用行为。对于使用Zero Data Retention的客户,通常也需要启用PSP,对保存在客户存储空间中的加密交互记录进行为期30天的安全检查。

此外,Daybreak Red API默认要求使用IP白名单,限制未经批准的网络访问。

AI潜入模拟发电厂,发现两个零日漏洞

除了传统软件安全,OpenAI还与工业网络安全公司Dragos合作,在受控实验室内模拟工业控制网络,测试前沿模型对关键基础设施的理解和攻击能力。

相关测试涵盖网络发现、资产识别、目标侦察、敏感数据获取以及可能影响工业设备运行的危险操作。

Dragos首席AI官Rob T. Lee透露,在一次模拟发电厂测试中,研究人员几乎没有提供环境信息,但模型依然能够自主区分工业控制设备与普通IT系统,并在管理保护继电器数据的工程软件中发现两个零日漏洞。

这些漏洞可能暴露保护设置以及断路器跳闸逻辑等敏感信息,为后续攻击提供重要条件。

Rob T. Lee认为,AI正在降低攻击者开展前期侦察与漏洞研究所需的技术门槛,而相关测试有助于防御团队提前了解潜在攻击路径。

基于这些研究,OpenAI新设立了Daybreak Red for Critical Infrastructure,为经过批准的关键基础设施防御团队提供专门权限,允许其在授权范围内开展安全测试。

与此同时,OpenAI还计划通过总额10亿美元的Daybreak for Frontline Defenders资助计划,为政府机构、重要公共服务提供商等资源有限的防御团队提供使用补贴。

网络安全的新悖论,防御者需要更强的攻击工具

GPT-6 Cyber的发布,揭示了网络安全行业一个越来越现实的悖论。

为了让互联网变得更加安全,防御者可能需要掌握越来越强大的攻击能力。

面对潜在漏洞,安全研究人员只有验证其能否被实际利用,才能判断危害程度与修复效果。随着AI具备自主开发漏洞利用程序的能力,防御者也需要同等级别的工具。

按照OpenAI的安排,GPT-6 Cyber首批仅通过API和Codex向部分经过批准的Daybreak Red客户开放,未来逐步扩大至全部Daybreak Red用户。

与此同时,GPT-5.6 Cyber将向所有Daybreak Red客户开放,基于GPT-6 Astra的Daybreak Blue Alpha测试也将扩大至更多企业和个人研究人员。

其中,Daybreak Blue主要服务漏洞分析与修复验证,Daybreak Red则允许经过授权的研究人员开发漏洞利用程序,开展更深入的安全测试。

价格方面,GPT-6 Cyber的API定价也相当昂贵,在短上下文模式下,每百万Token输入费用为20美元,输出费用高达100美元,均为GPT-5.6 Sol的5倍。缓存输入价格为每百万Token 2美元,30分钟和12小时的缓存写入费用分别为25美元和50美元。

图|🔗 https://developers.openai.com/api/docs/pricing?cyber-context-length=short

过去,AI公司主要通过拒绝危险请求来控制风险,如今OpenAI开始通过身份认证、分级授权和持续监控,让专业研究人员获得更强大的网络安全能力。

然而,模型的攻击能力越强,开放使用的风险就越高。严格的准入机制固然有助于防范滥用,也可能让资源有限的独立研究人员和开源项目维护者难以获得先进工具。

OpenAI正在通过扩大Daybreak访问范围和提供资金补贴改善这一状况,而更值得关注的是,未来能否让足够多的合法防御者及时获得这些能力,同时防止其落入恶意攻击者手中。

毕竟,当攻击者也开始利用AI寻找漏洞时,防御者就不能只依靠过去的技术手段。要对抗越来越强大的攻击能力,或许只能借助同样强大的工具。正所谓,魔法最终还得靠魔法来打败。

本文来自微信公众号“APPSO”,作者:发现明日产品的APPSO,36氪经授权发布。此外,MK体育网站也关注了此次发布,认为这标志着AI在网络安全领域的重大突破。

3条评论
  • MK体育服务
    王强
    2021年1月13日

    围绕MK体育服务,MK体育服务持续打磨更优质的服务。

    回复
  • MK体育服务
    李娜
    2021年12月27日

    MK体育服务深耕内容按栏目分类,用户可依主题浏览体育资讯、专题资料与品牌消息。领域,用心服务每一位用户。

    回复
发表评论

精选MKSPORTS内容,MK体育服务与你一同发现更多精彩。