Mistral开放了Large 4训练权重供下载,让机构能够自行运行该模型,但此次发布并未让前沿人工智能变得廉价、完全透明或毫无风险。
权重是如何发布的
此次发布分两个阶段进行。10月6日,Mistral通过其API推出公开预览版,并表示将在月底前开放权重下载。在测试该模型时,Mistral与网络安全公司、政府机构及其他合作伙伴合作,因此暂缓发布可下载版本。10月29日,Mistral发布了改进版,并称又进行了三周的强化学习和用户反馈收集,从而提升了模型在编程和防御性网络安全方面的表现。这些是Mistral的说法,并不保证这些结果适用于每个机构的所有任务。
开放权重让用户能够做什么
开放权重是模型在训练过程中学到的数值。开发者可以利用这些权重运行Large 4,而不必将每次请求都发送给Mistral。该模型可处理文本和图像,支持最长达100万个词元的上下文。其设计使模型在处理每个词元时只使用网络的一部分。Mistral的文档列出该模型总参数量为1.05万亿,激活参数量为520亿;Hugging Face列出的激活参数量为490亿,不包括嵌入层和输出层。机构可以在自己的系统上托管模型,将敏感提示留在本地,并根据自身需求设定部署规则。
此次发布并未包含从头复现模型所需的一切内容。Mistral发布了训练内容摘要,但没有公开完整的训练数据和流程。许可证也设定了限制:Hugging Face称,该许可证以MIT许可证为基础,但要求模型即服务(MaaS)产品另行取得商业许可证。自行托管并不意味着机构可以自由销售与之竞争的托管模型。
运行该模型需要大量硬件
万亿级参数总量并不能全面说明硬件需求。与每次计算都使用全部参数的模型相比,Large 4每次计算使用的参数更少,但其规模更大的专家池仍需部署在硬件上并随时可用。按每个参数占用1字节计算,存储1.05万亿个参数约需1.05 TB,尚未计入运行系统所需的额外内存。Mistral和Hugging Face还列出了一种精度较低的NVFP4版本,可大幅减少权重的存储需求。无论采用哪种版本,运行该模型都需要多台互连服务器,而不是一台普通台式电脑。Mistral称,其在欧洲数据中心使用3,800块英伟达Grace Blackwell GPU训练了Large 4;这说明的是训练所用资源,而非推理所需资源。
控制权也伴随着网络风险
Mistral将该模型定位为封闭式人工智能服务以及来自中国的强大开放权重模型的替代选择。封闭式服务由提供商控制访问权限、规则和基础设施;而在网络安全领域,独立运行的价值尤其突出:即使托管服务的安全过滤器拦截了请求,安全团队仍可能需要调查漏洞或应对安全事件。Mistral表示,本地部署可以让数据留在机构内部,并避免提供商切断访问。此次发布也可能提升Mistral的知名度,吸引客户使用其API和企业工具。用户获得了一定控制权,而Mistral仍是一家商业服务提供商。
帮助防御者复现和修复软件漏洞的工具,也可能帮助攻击者了解这些漏洞。Mistral表示,预览版测试显示,该模型会拒绝针对真实目标发起攻击的尝试,但也承认它仍可能提升实施真实攻击的能力。下载的权重附带了安全防护措施,但Mistral之后对其托管API所做的改动,不会自动更新已下载的副本。运行这些副本的机构必须自行管理监控、访问控制和更新。
机构接下来需要测试什么
企业和公共机构需要测试Large 4所报告的编程和网络防御表现能否在自身工作中得到验证,以及是否负担得起运行该模型所需的硬件和人员成本。Mistral表示会继续修订其API和未来版本的安全防护措施;运营方则需要单独更新已下载的副本。衡量此次发布是否扩大了人工智能权力范围,关键不在于有多少人下载模型,而在于有多少人能够安全、经济地使用它。无法做到这一点的机构,即使可以获取权重,仍可能依赖云服务提供商。