Mistral 发布 Apache 2.0 开源模型 Mistral Small 3
Mistral AI 发布 Mistral Small 3,一个 24B 参数、延迟优化的模型,以 Apache 2.0 许可开源,同时提供预训练和指令微调 checkpoint。
推荐理由:24B 参数以 Apache 2.0 放出,量化后可在单张 RTX 4090 或 32GB MacBook 本地运行,可据此判断本地部署与微调选型。
跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。
Mistral AI 发布 Mistral Small 3,一个 24B 参数、延迟优化的模型,以 Apache 2.0 许可开源,同时提供预训练和指令微调 checkpoint。
推荐理由:24B 参数以 Apache 2.0 放出,量化后可在单张 RTX 4090 或 32GB MacBook 本地运行,可据此判断本地部署与微调选型。