Mistral推出新服务和SDK 允许客户对其模型进行微调

2024年06月06日 09:27 次阅读 稿源:cnBeta.COM 条评论

法国人工智能初创公司 Mistral 正在推出新的人工智能模型定制选项,包括付费计划,让开发人员和企业可以针对特定用例对其生成模型进行微调。首先是自助服务。Mistral 发布了一个软件开发工具包 (SDK)--Mistral-Finetune,用于在工作站、服务器和小型数据中心节点上对其模型进行微调。

Mistral在SDK的GitHub仓库的自述文件中指出,SDK针对多GPU设置进行了优化,但也可以扩展到单个NVIDIA A100或H100 GPU,用于微调Mistral 7B等较小的模型。Mistral表示,对UltraChat这样的数据集进行微调需要半个小时左右,UltraChat是使用OpenAI的ChatGPT进行的140万次对话的集合,使用Mistral-Finetune在8个H100上进行微调。

mistral_finetuning.png

对于更喜欢管理型解决方案的开发人员和公司来说,Mistral 新推出的微调服务可通过公司的 API 使用。Mistral 表示,微调服务将在未来几周内支持更多型号。

最后,Mistral 将首次推出定制培训服务,目前只面向部分客户,利用他们的数据为组织的应用程序微调任何 Mistral 模型。"该公司在其官方博客的一篇文章中解释说:"这种方法可以为特定领域创建高度专业化和优化的模型。

我的同事英格丽德-伦登(Ingrid Lunden)最近报道说,Mistral 公司正寻求以 60 亿美元的估值向包括 DST、General Catalyst 和光速创投(Lightspeed Venture Partners)在内的投资者融资约 6 亿美元。

自 2023 年 9 月 Mistral 推出首个生成模型以来,它又发布了多个模型,包括代码生成模型,并推出了付费 API。但它还没有透露有多少用户,收入情况如何。

对文章打分

Mistral推出新服务和SDK 允许客户对其模型进行微调

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan