天眼查App顯示，近日，華為技術有限公司申請的“人工智能模型的量化方法、處理系統和量化單元”專利公布。
摘要顯示，量化單元可以基于運行AI模型的計算設備的各個計算單元的處理粒度，將量化矩陣分割成多個適用于各個計算單元的處理粒度的分塊量化矩陣。量化單元可以對分塊量化矩陣進行量化處理，以得到量化后的分塊量化矩陣，并存儲在存儲器中，可以減少AI模型占用的內存。量化矩陣可以是權重矩陣，也可以是激活矩陣。量化單元量化過程中，是基于運行AI模型的計算設備的各個計算單元的處理粒度進行量化，并不需要基于張量級別進行離群值的統計，實現AI模型對權重矩陣和激活矩陣都可以進行實時量化。
【免責聲明】本文僅代表作者本人觀點，與和訊網無關。和訊網站對文中陳述、觀點判斷保持中立，不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔全部責任。郵箱：news_center@staff.hexun.com
最新評論