《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 設(shè)計(jì)應(yīng)用 > 基于因果關(guān)系和特征對(duì)齊的圖像分類(lèi)域泛化模型
基于因果關(guān)系和特征對(duì)齊的圖像分類(lèi)域泛化模型
網(wǎng)絡(luò)安全與數(shù)據(jù)治理 8期
明水根,張洪
(1.中國(guó)科學(xué)技術(shù)大學(xué)大數(shù)據(jù)學(xué)院,安徽合肥230026; 2.中國(guó)科學(xué)技術(shù)大學(xué)管理學(xué)院,安徽合肥230026)
摘要: 針對(duì)現(xiàn)有域泛化方法性能較差或缺乏理論可解釋性的缺點(diǎn),提出了一種基于因果關(guān)系和特征對(duì)齊的圖像分類(lèi)域泛化模型,并證明了該模型的可識(shí)別性。該模型利用域泛化中的因果關(guān)系來(lái)學(xué)習(xí)含有不同信息的特征,將域泛化問(wèn)題轉(zhuǎn)化為特征相關(guān)分布的偏移,再利用特征對(duì)齊消除偏移。為提高模型的性能,采用對(duì)抗訓(xùn)練進(jìn)一步優(yōu)化學(xué)到的特征。在公共數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明,新提出的模型與目前最優(yōu)的方法性能相當(dāng),表明該模型具有理論可解釋性的同時(shí),還有不俗的實(shí)際性能表現(xiàn)。
中圖分類(lèi)號(hào):TP183、
文獻(xiàn)標(biāo)識(shí)碼:A
DOI:10.19358/j.issn.2097-1788.2023.08.010
引用格式:明水根,張洪.基于因果關(guān)系和特征對(duì)齊的圖像分類(lèi)域泛化模型[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2023,42(8):59-65.
Domain generalization model in image classification based on causality and feature alignment
Ming Shuigen1,Zhang Hong2
(1School of Big Data, University of Science and Technology of China, Hefei 230026, China; 2School of Management, University of Science and Technology of China, Hefei 230026, China)
Abstract: Aiming at the shortcomings of poor performance or lack of theoretical interpretability of existing domain generalization methods, a novel domain generalization model for image classification based on causality and feature alignment is proposed, and the model′s identifiability is demonstrated. The model uses causal relationships in domain generalization to learn features containing different information, transforms the domain generalization problem into the biases of featurerelated distributions, and then eliminates the biases by aligning features. To improve the performance of the model, adversarial training is used to further optimize the learned features. Experimental results on public datasets show that the newly proposed model performs comparably with the stateoftheart models, indicating that the model has theoretical interpretability as well as decent practical performance.
Key words : domain generalization; variational autoencoder; causality; feature alignment; adversarial training

0引言


深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理等領(lǐng)域都取得了驚人的成就。傳統(tǒng)的深度學(xué)習(xí)方法基于一個(gè)基本假設(shè):訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)是獨(dú)立且同分布的(Independent and Identically Distribution,IID)。但是,在現(xiàn)實(shí)任務(wù)中,如醫(yī)學(xué)成像和自主駕駛等領(lǐng)域,這種IID假設(shè)通常不成立。當(dāng)訓(xùn)練數(shù)據(jù)的分布(也稱(chēng)為域)與測(cè)試數(shù)據(jù)的分布不同時(shí),由于存在分布差距,訓(xùn)練出的模型通常表現(xiàn)不佳。訓(xùn)練數(shù)據(jù)的域與測(cè)試數(shù)據(jù)的域不同的現(xiàn)象也被稱(chēng)為域偏移。上述觀點(diǎn)促進(jìn)了域適應(yīng)(Domain Adaptation,DA)和域泛化(Domain Generalization,DG)的研究。域泛化的目標(biāo)是從多個(gè)相似分布(也稱(chēng)為源域)中學(xué)習(xí)一種通用表征。一般數(shù)據(jù)都存在某些與輸出(即標(biāo)簽)相關(guān)且在不同域間都保持不變的特征,那么就可以將這種特征遷移到具有未見(jiàn)過(guò)分布(也稱(chēng)為目標(biāo)域)的測(cè)試數(shù)據(jù)上。域泛化任務(wù)的示例如圖1所示。

大多數(shù)域泛化研究集中在學(xué)習(xí)不受域干擾的表征,從而得到所謂的域不變特征。例如,Li等[1]采用了域適應(yīng)研究中的思想,使用對(duì)抗訓(xùn)練來(lái)學(xué)習(xí)域不變特征以解決域泛化問(wèn)題。盡管這些基于學(xué)習(xí)策略的方法在真實(shí)世界的任務(wù)中表現(xiàn)良好,但缺乏理論可解釋性。Ilse等[2]和Peng等[3]采用特征解耦方法來(lái)學(xué)習(xí)標(biāo)簽的特定特征,并希望這些特征是關(guān)于域不變的。這種基于特征解耦的方法在理論上是可解釋的,但在實(shí)際的域泛化任務(wù)中表現(xiàn)不佳。因此,研究既具有理論可解釋性又在真實(shí)的域泛化任務(wù)中表現(xiàn)良好的方法非常重要。

本文提出了一種稱(chēng)為對(duì)抗域不變變分自動(dòng)編碼器(Adversarial Domain Invariant Variational AutoEncoder,ADIVA)的模型來(lái)解決域泛化問(wèn)題。該模型先使用變分自動(dòng)編碼器[4](Variational AutoEncoder,VAE)框架將輸入數(shù)據(jù)解耦成三個(gè)潛在因子:域信息因子、標(biāo)簽信息因子和包含任何殘留信息的因子,然后,將因果關(guān)系引入到域泛化任務(wù)中,將域偏移問(wèn)題拆分為兩個(gè)相關(guān)分布的偏移問(wèn)題。為了修正這些偏移,本文采用特征對(duì)齊方法來(lái)學(xué)習(xí)域不變特征。此外,為了解決VAE中存在的解耦不完全問(wèn)題,本文采用對(duì)抗訓(xùn)練來(lái)消除潛在因子中的混淆信息,以進(jìn)一步提高模型的實(shí)際表現(xiàn)。本文在兩個(gè)域泛化公開(kāi)數(shù)據(jù)集——Rotated MNIST和PACS上,對(duì)ADIVA進(jìn)行了大量實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明,ADIVA在域泛化表現(xiàn)方面具有與目前最優(yōu)方法相當(dāng)?shù)母?jìng)爭(zhēng)力。本文的主要貢獻(xiàn)有:其一,本文基于域泛化中的因果關(guān)系使用特征對(duì)齊來(lái)解決域偏移問(wèn)題;其二,本文采用對(duì)抗訓(xùn)練來(lái)解決VAE特征解耦不完全的問(wèn)題,提升ADIVA在實(shí)際任務(wù)中的性能;其三,本文證明了ADIVA的可識(shí)別性理論。



本文詳細(xì)內(nèi)容請(qǐng)下載:http://m.viuna.cn/resource/share/2000005468




作者信息:

明水根1,張洪2

(1.中國(guó)科學(xué)技術(shù)大學(xué)大數(shù)據(jù)學(xué)院,安徽合肥230026;2.中國(guó)科學(xué)技術(shù)大學(xué)管理學(xué)院,安徽合肥230026)


微信圖片_20210517164139.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。
主站蜘蛛池模板: 国产成人禁片免费观看视频 | 色网站在线观看 | 99re在线精品视频免费 | 午夜无码国产理论在线 | 日韩专区亚洲综合久久 | 日韩欧美一区二区不卡看片 | 最色网址| 国产精品三级一区二区 | 一级做a爰片性色毛片武则天五则 | 一级黄色大片视频 | 老司机亚洲精品影院 | 亚洲一区精品中文字幕 | 久久综合九色综合97_ 久久久 | 日韩成人在线视频 | 免费国产午夜高清在线视频 | 国产一区二区三区播放 | 成人超污免费网站在线看 | 日韩欧美成人免费中文字幕 | 日韩欧美视频在线一区二区 | 日本一区二区三区欧美在线观看 | 色播五月激情五月 | 无码中文字幕日韩专区 | 一区二区视频在线观看免费的 | 日b毛片| 欧美极度极品另类 | 人人爱干| 一级毛毛片毛片毛片毛片在线看 | 黄色三级视屏 | 中文字幕播放 | 欧美xxxxxxxxxx黑人 | 99精品欧美一区二区三区美图 | 国产成人免费高清视频网址 | 天堂亚洲欧美日韩一区二区 | 伊人色婷婷 | 99精品视频看国产啪视频 | 久久久久综合一本久道 | 怡春院欧美杂交a | 欧美中文网 | 中文字幕免费在线观看 | 免费观看一级特黄欧美大片 | 欧美亚洲另类一区中文字幕 |