Mistral AI 推出了两款新型号：Ministral 3B 和 Ministral 8B，标志着其早期发布的 Mistral 7B 发布一周年。
这些模型专为设备计算和边缘应用而设计，旨在提高知识推理和函数调用等关键领域的性能。
Ministral 模型可支持高达 128k 的上下文长度，并且还采用独特的滑动窗口注意方法，可确保在资源有限的环境中进行高效推理。这些模型满足了对设备翻译、智能助手、本地分析和机器人等应用日益增长的需求，提供了隐私优先的本地化 AI 推理。此外，它们还充当大型 AI 模型的中介，增强了各种应用程序的任务路由和 API 调用。
Mistral AI在最近的一篇博客文章中强调了客户和合作伙伴对本地、以隐私为中心的推理日益增长的需求。它表示：“我们最具创新精神的客户和合作伙伴越来越多地要求对关键应用进行本地、隐私优先的推理，例如设备翻译、无互联网智能助手、本地分析和自主机器人。Les Ministraux 旨在为这些场景提供计算效率高、延迟低的解决方案。从独立爱好者到全球制造团队，les Ministraux 可满足各种用例的需求。”
Ministral 模型已展现出极具竞争力的基准，超越了 Gemma 2 2B、Llama 3.2 3B 和 Llama 3.1 8B 等竞争对手。这两种模型现在都已投入商业使用，Ministral 3B 的价格为每百万代币 0.04 美元，Ministral 8B 的价格为 0.1 美元。8B Instruct 模型的权重也将用于研究目的。
上个月，Mistral AI 推出了 Pixtral 12B，这是一种集成文本和图像处理的模型。Pixtral 拥有 120 亿个参数，使用视觉编码来分析图像和文本输入，从而形成强大的多模式人工智能解决方案。
在与 Meta 发布的 Llama 3.1 的激烈竞争中，Mistral AI 推出了其旗舰模型的最新版本 Mistral Large 2。该模型改进了代码生成、数学和多语言支持，并引入了高级函数调用功能。它目前在 Mistral 平台上可用。
总部位于巴黎的 Mistral AI 在获得 6.4 亿美元风险投资后，一直在逐步扩大其投资组合。近几个月来，该公司开发了多项服务，包括面向开发人员的免费模型测试平台、用于模型微调的 SDK 以及名为 Codestral 的生成式 AI 代码模型。
Mistral AI 由 Meta 和 DeepMind 的校友共同创立，旨在开发能够与 OpenAI 的 GPT-4 和 Anthropic 的 Claude 等领先 AI 系统竞争的旗舰模型。然而，与许多 AI 初创公司一样，创造可观的收入仍然是一项挑战。尽管如此，Mistral 在今年早些时候报告了其首次收入增长。
人工智能的可持续性和能源效率
人们越来越担心其对环境的影响。由于大型人工智能模型的计算需求，其使用可能会导致能源效率问题，从而导致功耗增加——这在资源受限的环境中并不理想。作为回应，Mistral AI 等公司已开始将重点转向可持续发展和节能模型。
Mistral 的 Ministral 3B 和 8B 型号的设计理念是节能，强调低延迟、计算效率高的推理。这些型号支持在设备上执行复杂的 AI 任务，无需始终在线、耗能的云操作。这种方法在边缘应用中尤其有益，因为在这些应用中，功率和环境问题至关重要。
