局部判别损失无监督域适应方法*王姗姗1,汪梦竹2,骆志刚2(1.安徽大学计算智能与信号处理教育部重点实验室,安徽合肥230039;2.国防科技大学计算机学院并行与分布计算重点实验室,湖南长沙410073)摘要:在无监督域适应任务中,源域和目标域的分布不同,源域数据标签已知,但是目标域的数据标签未知。最大平均差异MMD是一种具有代表性的分布度量方法,广泛应用于源域与目标域之间的分布差异度量。然而,MMD度量及其变种方法通常忽略了样本的类内紧凑性和类间可分离性,降低了特征表达的可判别性。因此,提出局部判别损失无监督域适应方法,从2个方面提升域适应方法的判别能力:(1)重新设计MMD度量方法的权重,解决类别不均衡问题,使难对齐类别在域间分布上保持一致;(2)探索局部对比损失,平衡正样本对和负样本对之间的关系,从而学习到更好的判别性特征。结合域间损失和类间损失,可使同一类样本靠近,不同类样本之间远离。该方法简单有效,即插即用,可扩展至注意力机制的网络结构上。在多个域适应数据集上,该方法的有效性均得到了验证。关键词:无监督域适应;基于类的最大平均差异;局部对比损失;注意力机制中图分类号:TP301文献标志码:Adoi:10.3969/j.issn.1007-130X.2024.01.014AfocallydiscriminativelossforunsuperviseddomainadaptationmethodWANGShan-shan1,WANGMeng-zhu2,LUOZhi-gang2(1.TheKeyLaboratoryofIntelligentComputingandSignalProcessing,MinistryofEducation,AnhuiUniversity,Hefei230039;2.LaboratoryofParallelandDistributedComputing,CollegeofComputerScienceandTechnology,NationalUniversityofDefenseTechnology,Changsha410073,China)Abstract:Themaximummeandiscrepancy(MMD),asarepresentativedistributionmetricbetweensourcedomainandtargetdomain,hasbeenwidelyappliedinunsuperviseddomainadaptation(UDA),wherebothdomainsfollowdifferentdistributions,andthelabelsfromsourcedomainaremerelyavaila-ble.However,MMDanditsclass-wisevariantspossiblyignoretheintra-classcompactnessandinter-classseparability,thusreducingdiscriminabilityoffeaturerepresentation.Thispaperproposesafocallydiscriminativelossforunsuperviseddomainadaptation.Thismethodendeavorstoimprovethediscrimi-nativeabilityofMMDfromtwoaspects:(1)theweightsarere-designedforMMDinordertoalignthedistributionofrelativelyhardclassesacrossdomains;(...
