可调谐忆阻器的研发进展有助于人工神经网络更高效处理随时间变化的数据

2024年06月02日 09:36 次阅读 稿源:cnBeta.COM 条评论

在大脑中,计时是通过神经元完成的,神经元在接收到信号后会以不同的速率放松;现在,忆阻器--神经元的硬件类似物也能做到这一点。随着可调谐忆阻器的开发,人工神经网络很快就能更高效地处理随时间变化的数据。密歇根大学领导的一项研究详细介绍了这项技术,它可以大大降低人工智能的能耗。

41928_2024_1169_Fig1_HTML.png

人工神经网络也许很快就能更高效地处理随时间变化的信息,如音频和视频数据。密歇根大学领导的一项研究在今天的《自然-电子学》(Nature Electronics)杂志上报告了首个具有可调节"弛豫时间"的忆阻器。

忆阻器是一种将信息存储在电阻中的电子元件,与当今的图形处理单元相比,它可以将人工智能的能源需求降低约 90 倍。预计到 2027 年,人工智能的耗电量将占全球总耗电量的一半左右,而且随着越来越多的公司销售和使用人工智能工具,这一比例还有可能进一步上升。

"现在,人们对人工智能很感兴趣,但要处理更大、更有趣的数据,方法就是扩大网络规模。这效率并不高,"麻省理工大学詹姆斯-R-梅勒工程学教授 Wei Lu 说,他与麻省理工大学材料科学与工程学副教授 John Heron 是这项研究的共同通讯作者。

图形处理器的问题

问题在于,GPU 的运行方式与运行人工智能算法的人工神经网络截然不同--整个网络及其所有互动都必须从外部存储器中顺序加载,这既耗时又耗能。相比之下,忆阻器可以节省能源,因为它们模仿了人工神经网络和生物神经网络在没有外部存储器的情况下运行的主要方式。在某种程度上,忆阻器网络可以体现人工神经网络。

麻省理工学院材料科学与工程系应届博士毕业生 Sieun Chae 与麻省理工学院电气与计算机工程系应届博士毕业生 Sangmin Yoo 是这项研究的共同第一作者。

在生物神经网络中,计时是通过放松来实现的。每个神经元都会接收电信号并将其发送出去,但这并不能保证信号会向前推进。在神经元发送自己的信号之前,必须先达到接收信号的某个阈值,而且必须在一定时间内达到该阈值。如果时间过长,神经元就会随着电能的渗出而松弛。神经网络中具有不同松弛时间的神经元有助于我们理解事件的顺序。

41928_2024_1169_Fig2_HTML.png41928_2024_1169_Fig4_HTML.png

忆阻器如何工作

忆阻器的工作原理略有不同。改变的不是信号的存在与否,而是有多少电信号可以通过。接触到一个信号,忆阻器的电阻就会降低,从而允许更多的下一个信号通过。在忆阻器中,弛豫意味着随着时间的推移,电阻会再次上升。

Lu 的研究小组过去曾探索过在忆阻器中加入弛豫时间,但这并不是可以系统控制的。但现在,Lu 和 Heron 的团队已经证明,基础材料的变化可以提供不同的弛豫时间,从而使忆阻器网络能够模仿这种计时机制。

材料成分和测试

研究小组在超导体 YBCO(由钇、钡、碳和氧制成)的基础上构建了这些材料。YBCO在零下292华氏度的温度下没有电阻,但他们想要它的晶体结构。它引导着镁氧化物、钴氧化物、镍氧化物、铜氧化物和锌氧化物在忆阻器材料中的组织。

赫伦称这种熵稳定氧化物为"原子世界的厨房水槽"--添加的元素越多,它就越稳定。通过改变这些氧化物的比例,研究小组获得了 159 到 278 纳秒(即万亿分之一秒)的时间常数。他们构建的简单忆阻器网络学会了识别 0 到 9 数字的发音。一旦经过训练,它就能在音频输入完成之前识别出每个数字。

未来展望

这些忆阻器是通过能源密集型工艺制造的,因为研究小组需要完美的晶体来精确测量它们的特性,但他们预计,更简单的工艺也适用于大规模制造。

赫伦说:"到目前为止,这只是一个愿景,但我认为有一些途径可以使这些材料具有可扩展性,而且价格合理。这些材料是地球上丰富的资源,无毒、廉价,你几乎可以把它们喷洒在上面。"

编译来源:ScitechDaily

DOI: 10.1038/s41928-024-01169-1

对文章打分

可调谐忆阻器的研发进展有助于人工神经网络更高效处理随时间变化的数据

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan