OpenAI发布了GPT-6 Cyber,这是一款面向获批安全团队的网络安全模型,可帮助发现和测试软件漏洞并开发修复方案,但只有通过审核的用户才能使用。
OpenAI表示,该模型已向其Daybreak Red计划中的部分客户开放。该计划支持经批准的高级安全工作。OpenAI计划向其他获批客户扩大开放范围。OpenAI称,该模型在Firefox中发现了81个此前未知的严重漏洞。
该模型还帮助制定了潜在的修复方案。Mozilla已发布其中许多漏洞的修复程序。对于Linux,OpenAI称,该模型开发出了利用Linux内核中948个漏洞的方法;Linux内核是操作系统的核心软件。
OpenAI还表示,已向Linux维护者披露304个严重问题,并提供了建议的修复方案。该公司称,在未收到部署该模型的指令时,该模型在99.93%的测试中遵守了研究人员批准的限制。OpenAI表示,在收到该指令时,该模型在所有测试中都遵守了这些限制。
OpenAI根据其安全框架,将该模型的网络安全能力评为“严重”。该公司提到了模型发现并利用漏洞的能力。访问控制措施包括身份核验以及对组织的安全要求。
此次有限范围的推出,反映出用于研究软件漏洞的强大工具可能遭到滥用所带来的风险。