登录 注册
当前位置:主页 > 资源下载 > 9 > 优化的推理引擎,专为二值神经网络设计的计算引擎

优化的推理引擎,专为二值神经网络设计的计算引擎

  • 更新:2024-10-18 18:44:17
  • 大小:225KB
  • 推荐:★★★★★
  • 来源:网友上传分享
  • 类别:其它 - 开发技术
  • 格式:ZIP

资源介绍

Larq计算引擎 Larq Compute Engine(LCE)是高度优化的推理引擎,用于部署高度量化的神经网络,例如Binarized Neural Networks(BNN)。 它目前支持各种移动平台,并已在Pixel 1手机和Raspberry Pi上进行了基准测试。 LCE为支持的指令集提供了手动优化的自定义运算符的集合,这些指令集是内联汇编或使用编译器内在函数以C ++开发的。 LCE利用优化技术,例如平铺以最大化缓存命中次数,矢量化以最大化计算吞吐量,以及多线程并行化以利用多核现代台式机和移动CPU。 Larq Compute Engine是用于BNN开发的一系列库的一部分;