高通公司正在展示其在移动领域的人工智能能力,展示了其声称的人工智能图像生成器Stable Diffusion在智能手机上有史以来最快的部署。在一个演示视频中,高通公司展示了1.5版本的Stable Diffusion系统在15秒内生成512 x 512像素的图像。虽然高通公司没有说这是什么手机,但它表示这是由其旗舰产品骁龙8 Gen2(去年11月推出,有一个以人工智能为中心的Hexagon处理器)驱动的。该公司的工程师还在软件方面做了各种定制优化,以使Stable Diffusion的运行达到最佳状态。
运行像Stable Diffusion这样的程序需要大量的计算能力(它是人工智能图像生成的主力),大多数在移动端提供此类服务的应用程序在云端进行所有处理,而不是本地的智能手机或平板电脑,即使在一台配置较好的笔记本电脑上以这种方式生成图像也需要几分钟,所以在几秒钟内从手机上获得一张512 x 512的图片是令人印象深刻的。
高通公司在测试设备上生成的更多示例图像,提示"超级可爱的穿盔甲的绒毛猫战士,逼真,4K,超详细,vray渲染,虚幻引擎……"
高通公司声称这是一个速度纪录,该公司介绍说这是Stable Diffusion首次在Android系统上本地运行。之前一篇来自开发者Ivon Huang的博文显示了他们是如何让Stable Diffusion系统在由高通骁龙865和8GB内存驱动的索尼Xperia 5 II上运行的。不过,正如Huang在一条推文中指出的,用这种设置生成一张512 x 512的图像需要一个小时。
另一个有用的比较是与iOS的比较。早在12月,苹果发布了让Stable Diffusion在其机器学习框架Core ML上本地运行所需的优化。因此,今天为了测试该系统,我们通过带有Core ML加速的Draw Things应用程序,让Stable Diffusion1.5在iPhone 13上运行。在这种设置下,生成一张512 x 512的图像需要大约一分钟,因此,高通公司再次在速度上获胜,其使用的是较新的硬件和未公开的定制优化包,而iOS的测试是在2021年的手机上使用第三方应用程序完成的。
抛开所有这些限制,高通公司的进步仍然令人印象深刻,即使这只是一个演示。让大型人工智能模型在移动设备上本地运行,比依赖云计算有各种优势,例如便利性(你不需要移动连接)、成本(当服务器账单到期时,开发者不会向用户收费)和隐私(本地运行意味着你不会将数据发送到别人的电脑上)方面。
这是人工智能快速实现产品化的事实,而且它正在快速发生。