資源受限的大模型高效遷移學(xué)習(xí)算法研究綜述

摘要： 近年來,深度學(xué)習(xí)在自然語言理解、計算機(jī)視覺和數(shù)據(jù)挖掘等重要領(lǐng)域取得了巨大成功,極大地推動了人工智能技術(shù)的發(fā)展.遷移學(xué)習(xí)的誕生和應(yīng)用更是大幅減輕了數(shù)據(jù)的獲取和標(biāo)注成本,成倍提升了深度模型和算法的泛化能力和適用性.然而,隨著模型規(guī)模的不斷增大,傳統(tǒng)的遷移學(xué)習(xí)方法面臨著計算和存儲資源的巨大挑戰(zhàn),難以滿足可穿戴、軍事、醫(yī)療等資源受限場景下的應(yīng)用需求.高效遷移學(xué)習(xí)算法應(yīng)運(yùn)而生,旨在以最小... （共31頁）