Opera已允许用户在本地下载和使用大语言模型

2024年04月03日 19:56 次阅读 稿源:cnBeta.COM 条评论

网络浏览器公司 Opera 今天宣布,现在用户可以在电脑上下载和使用大型语言模型 (LLM)。该功能将首先向获得开发者流更新的Opera One用户推出,用户可以从 50 多个系列的 150 多个模型中进行选择。

OperaDeveloperLocalLLMs.jpeg

这些模型包括 Meta 的 Llama、Google 的 Gemma 和 Vicuna。该功能将作为 Opera 人工智能功能发布计划的一部分提供给用户,让用户提前使用部分人工智能功能。

该公司表示,它在浏览器中使用 Ollama 开放源码框架在计算机上运行这些模型。目前,所有可用的模型都是 Ollama 库的子集,但该公司希望将来能加入不同来源的模型。

Downloading-local-models-e1712122228842.jpeg

该公司提到,每个变体都会占用本地系统超过 2GB 的空间。因此应该谨慎使用可用空间,以免存储空间耗尽。值得注意的是,Opera 在下载模型时不会做任何节省存储空间的工作。

"Opera现在首次在浏览器中直接提供了大量第三方本地LLM。"Opera 副总裁 Jan Standal 在一份声明中表示:"随着第三方本地 LLM 越来越专业,预计它们的规模可能会缩小。"

Input-with-prompt.jpeg

如果用户计划在本地测试各种模型,这项功能会很有用,但如果想节省空间,也可以使用Quora's Poe和HuggingChat等大量在线工具来探索不同的模型。

自去年以来,Opera 一直在尝试人工智能功能。去年 5 月,该公司在侧边栏推出了一款名为 Aria 的助手,并于8 月将其引入 iOS 版本。今年 1 月,Opera 表示,由于欧盟数字市场法案(DMA)要求苹果放弃对移动浏览器 WebKit 引擎的强制要求,该公司正在为 iOS 构建一款自带引擎的人工智能浏览器。

对文章打分

Opera已允许用户在本地下载和使用大语言模型

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      招聘

      created by ceallan