xAI将建造一台非常强大的超级计算机来处理下一版Grok

2024年05月26日 16:23 次阅读 稿源:cnBeta.COM 条评论

埃隆-马斯克(Elon Musk)告诉投资者,他的众多公司之一 xAI 希望建造一台超级计算机,为下一版的Grok 提供动力。报道称,xAI 可能会与甲骨文公司合作开发超级计算机,并在 2025 年底前准备就绪。它显然将使用大量英伟达(NVIDIA)的 H100 GPU,集群规模是目前最大集群的四倍。

1716703505_xai_story.jpg

这位亿万富翁今年早些时候表示,Grok 2 需要 2 万个英伟达 H100 GPU 才能完成训练,而即将推出的 Grok 模型将需要超过 10 万个 H100 GPU。通过建造这台被称为"计算机千兆工厂"的超级计算机(以特斯拉千兆工厂命名),xAI或许能够开发出更先进的语言模型。

随着OpenAI 的 ChatGPT在人工智能领域占据主导地位,你很可能还没有尝试过或听说过 Grok。它可以在 x.com 上使用,但需要用户付费订阅。与其他模式相比,Grok 的一大优势是它可以直接访问 X 上的所有帖子,马斯克一直说 X 是新闻媒体的替代品。

马斯克曾经参与过 OpenAI 的工作,直到他与公司负责人山姆-阿尔特曼(Sam Altman)在公司发展方向上产生分歧。与 OpenAI 对 ChatGPT 的细节守口如瓶不同,xAI 最近开源了 Grok-1 的权重和架构。

如果 xAI 真的实施这些计划,那么NVIDIA 将成为主要受益者,因为它对 H100 GPU 的需求将会增加。此举对整个领域也有好处,因为它将迫使其他公司(如 OpenAI 和Google)进一步创新其模式,以保持领先地位。

不幸的是,所有这些额外的计算能力都需要以大量的某种能源供电,因此,希望马斯克能找到一种使用可再生能源的方法,并将用水量控制在最低水平。

对文章打分

xAI将建造一台非常强大的超级计算机来处理下一版Grok

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan