基于多面體模型的矩陣乘法自動混合精度優(yōu)化

摘要： 混合精度是計算機中的一種數(shù)值計算技術，通過將計算中的部分數(shù)據(jù)類型從高精度轉(zhuǎn)換成低精度來提高計算效率。矩陣乘法在計算機科學和數(shù)學中有著重要而廣泛的應用，在矩陣乘法中使用混合精度技術來加速計算過程是一項很有挑戰(zhàn)性的工作?，F(xiàn)有的混合精度優(yōu)化存在一些問題，例如存儲開銷大，必須在特定的硬件單元上實現(xiàn)，限制了模型或算法的部署選項并降低了其可移植性。針對上述問題，提出并實現(xiàn)了基于多面體模型的... （共10頁）