MDM: Manhattan Distance Mapping of DNN Weights for Parasitic-Resistance-Resilient Memristive Crossbars
Matheus Farias, Wanghley Martins, H. T. Kung
曼哈顿距离映射(MDM)是一种训练后深度神经网络(DNN)重量映射技术,用于记忆位切片计算(CIM)横梁,可减少寄生电阻(PR)非理想性。 PR通过将DNN矩阵映射到小横梁砖中来限制横梁效率,从而降低了基于CIM的加速。 每个横梁执行一个图块,需要在下一层之前进行数字同步。 在这个粒度下,设计人员要么并行部署许多小横梁,要么按顺序重复使用一些增加的模数到数字转换,延迟,I/O压力和芯片区域。 MDM通过优化活动记忆器放置来减轻PR效果。 利用位级结构化的间距,它从更密集的低阶侧进行激活,并根据曼哈顿距离重新排序行,将活动单元转移到受PR影响较小的区域,从而降低非理想因素(NF)。 应用于ImageNet-1k上的DNN模型,MDM将NF降低高达46%,并在ResNets中将模拟失真下的准确性平均提高了3.6%。 总的来说,它提供了一种轻量级的、空间知情的方法,用于缩放CIM DNN加速器。
Manhattan Distance Mapping (MDM) is a post-training deep neural network (DNN) weight mapping technique for memristive bit-sliced compute-in-memory (CIM) crossbars that reduces parasitic resistance (PR) nonidealities. PR limits crossbar efficiency by mapping DNN matrices into small crossbar tiles, reducing CIM-based speedup. Each crossbar executes one tile, requiring digital synchronization before the next layer. At this granularity, designers either deploy many small crossbars in parallel or reu...