据外媒最新消息,来自斯坦福大学研究团队的一款基于图形处理器的神经网络加速器——流光引擎,正在被世界范围内的机构和企业使用,帮助他们的人工智能应用在GPU上运行的同时速度更快。
流光引擎是一种新兴加速器,它由ASIC、完全硬化的硬件构成。与以往的加速卡不同的是,流光引擎网络适配器的核心专注于神经网络工作负载,并利用ASIC定制芯片来优化这些负载。
据悉,流光引擎的性能远高于目前在市面上存在的机器学习加速器。此外,流光引擎可以与任何计算架构集成,从而让它能够很容易地在任何现有的服务器上进行升级,实现更高效的计算。
流光引擎异于GPU的其他方面是,它只处理每个神经网络的前向和反向传播,而没有细化到卷积,或者是错误,从而可以实现更高的计算密度。
尽管流光引擎网络适配器的性能远高于目前市场上流行的加速卡,但它的成本却小于60美元。它启动后大约只需要3毫秒的时间,可以访问大量显存,而且它支持大量异构工作负载,如语音识别、对象检测、关键字搜索等。