月之暗面于10月24日推出 Kimi K3.1 Pro,用于编程及其他复杂任务,并表示,在计划发布模型权重前,已降低该模型实施网络攻击的能力。
这家总部位于北京的公司表示,已从模型的训练数据以及通过反馈进行学习的环节中移除与网络攻击相关的材料。公司称,模型的一般编程能力得以保留。该公司将 K3.1 Pro 描述为属于三万亿参数级别的模型。
月之暗面计划于11月4日前发布模型权重,届时外部开发者将能够在自己的系统上运行和修改模型。月之暗面内部测试了 K3.1 Pro 发现并利用软件漏洞的能力,得分为81%;作为对比,未采取风险降低措施的类似版本得分为90.5%。该公司并未将这些结果作为独立评估结果公布。
测试得分并不能说明该模型在现实攻击中的表现。此次发布凸显了开放权重 AI 面临的取舍:更广泛的访问权限可能有助于防御者检查软件。但模型文件一旦广泛传播,开发者就更难控制谁会使用这些文件,也更难确保安全防护措施得以保留。
月之暗面表示,其目标是在继续支持实用编程工作的同时,避免发布网络攻击能力处于领先水平的模型权重。