2024年7月16日，多媒體領(lǐng)域國(guó)際頂級(jí)會(huì)議ACM MM 2024公布了錄用論文結(jié)果。華為云AI系統(tǒng)創(chuàng)新Lab作為第一單位的研究論文《Poisoning for Debiasing: Fair Recognition via Eliminating Bias Uncovered in Data Poisoning》被ACM MM主會(huì)接收。ACM MM是多媒體領(lǐng)域最受關(guān)注的國(guó)際學(xué)術(shù)會(huì)議之一，屬于CCF A類，對(duì)發(fā)表的文章有著嚴(yán)格的評(píng)審標(biāo)準(zhǔn)，以確保所發(fā)表的研究成果具有較高的學(xué)術(shù)價(jià)值、原創(chuàng)性和影響力。ACM MM 2024 將于2024年10月28日至11月1日在澳大利亞墨爾本召開。論文主要內(nèi)容如下：

       近些年來(lái)，深度學(xué)習(xí)已經(jīng)在包括語(yǔ)音識(shí)別、圖像分類和智能對(duì)話等多種應(yīng)用場(chǎng)景下展示出了超越人類的表現(xiàn)。但是一個(gè)挑戰(zhàn)至今未被解決：神經(jīng)網(wǎng)絡(luò)在決策過(guò)程中常常依賴于與目標(biāo)標(biāo)簽具有強(qiáng)烈但虛假的相關(guān)性的偏見特征，從而導(dǎo)致神經(jīng)網(wǎng)絡(luò)的決策規(guī)則偏離人類的建模初衷。早期的去偏見方法嘗試通過(guò)基于偏見特征標(biāo)簽構(gòu)建無(wú)偏優(yōu)化目標(biāo)來(lái)解決這個(gè)問(wèn)題，但這種標(biāo)簽的標(biāo)注過(guò)程既困難又耗時(shí)。針對(duì)這一問(wèn)題，《Poisoning for Debiasing: Fair Recognition via Eliminating Bias Uncovered in Data Poisoning》提出了一種創(chuàng)新的去偏見方法—“poisoner”。這種方法利用數(shù)據(jù)投毒將偏見模型學(xué)習(xí)到的偏見進(jìn)一步以數(shù)據(jù)投毒的形式保存為被投毒的訓(xùn)練數(shù)據(jù)，從而促使模型學(xué)習(xí)更多的偏見。通過(guò)這種方式，模型可以潛在地為偏見特征進(jìn)行自動(dòng)化地標(biāo)注，即識(shí)別出數(shù)據(jù)中與這些虛假相關(guān)性相矛盾的樣本。隨后，在目標(biāo)模型的訓(xùn)練過(guò)程中，放大這些樣本的影響，阻止模型學(xué)習(xí)這種虛假相關(guān)性而只學(xué)習(xí)人類期待模型建模的相關(guān)性。大量實(shí)驗(yàn)結(jié)果表明，該方法在去偏見方面表現(xiàn)出色，顯著優(yōu)于現(xiàn)有方法。