數(shù)據(jù)科學(xué)學(xué)院吳保元教授的四篇論文被三大頂尖會(huì)議收錄
? ? ? ? 近日，香港中文大學(xué)（深圳）吳保元教授的四篇論文分別被國(guó)際頂級(jí)會(huì)議收錄。其中兩篇被計(jì)算機(jī)視覺(jué)領(lǐng)域頂級(jí)會(huì)議ECCV 2020收錄，其余兩篇分別被多媒體領(lǐng)域頂級(jí)會(huì)議ACM Multimedia 2020以及計(jì)算機(jī)圖形學(xué)及應(yīng)用會(huì)議Pacific Graphics 2020收錄。
? ? ? ? 吳保元教授是數(shù)據(jù)科學(xué)學(xué)院副教授、深圳市大數(shù)據(jù)研究院大數(shù)據(jù)安全計(jì)算實(shí)驗(yàn)室主任，他還是人工智能頂級(jí)會(huì)議AAAI 2021、IJCAI 2021高級(jí)程序委員和中國(guó)計(jì)算機(jī)學(xué)會(huì)、中國(guó)自動(dòng)化學(xué)會(huì)多個(gè)專(zhuān)業(yè)委員會(huì)委員。他曾提出多項(xiàng)原創(chuàng)算法，是國(guó)內(nèi)較早從事該研究的資深專(zhuān)家之一。
? ? ? ?此次被ECCV 2020收錄的四篇論文分別是《利用隨機(jī)符號(hào)翻轉(zhuǎn)提升基于決策的黑盒攻擊算法》《SPL-MLL: 選擇可預(yù)測(cè)標(biāo)記的多標(biāo)簽學(xué)習(xí)》《3D點(diǎn)云分類(lèi)基于聯(lián)合梯度對(duì)SOR防御的高效攻擊》《用于圖像修復(fù)的像素級(jí)密集檢測(cè)器》。論文詳細(xì)信息如下：
?
Boosting Decision-based Black-box Adversarial Attacks with Random Sign Flip
利用隨機(jī)符號(hào)翻轉(zhuǎn)提升基于決策的黑盒攻擊算法
【摘要】
? ? ? ? 基于決策的黑盒攻擊算法只需要目標(biāo)模型的預(yù)測(cè)標(biāo)簽就能構(gòu)造對(duì)抗樣本，這給當(dāng)前的深度神經(jīng)網(wǎng)絡(luò)帶來(lái)了極大的威脅。然而，現(xiàn)有基于決策的黑盒攻擊算法在無(wú)窮范數(shù)約束下的性能較差，往往需要大量的查詢(xún)才能取得滿(mǎn)意的攻擊效果，這給實(shí)際使用蒙上了陰影。本文發(fā)現(xiàn)，在攻擊過(guò)程中，隨機(jī)翻轉(zhuǎn)一小部分對(duì)抗噪聲的符號(hào)可以顯著提升攻擊性能，我們將這種簡(jiǎn)單高效的攻擊方法稱(chēng)為符號(hào)翻轉(zhuǎn)攻擊。我們?cè)贑IFAR-10和ImageNet兩個(gè)基準(zhǔn)數(shù)據(jù)集上進(jìn)行了充分的實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明符號(hào)翻轉(zhuǎn)攻擊的性能遠(yuǎn)超其他同類(lèi)方法。我們還成功利用該方法對(duì)實(shí)際系統(tǒng)實(shí)現(xiàn)了黑盒攻擊。
圖1. 如上圖所示，僅需數(shù)百次查詢(xún)，本文提出的方法便可在基于決策的黑盒條件下成功攻擊實(shí)際人臉識(shí)別API。
?
SPL-MLL: Selecting Predictable Landmarks for Multi-Label Learning
SPL-MLL: 選擇可預(yù)測(cè)標(biāo)記的多標(biāo)簽學(xué)習(xí)
【摘要】
? ? ? ? 盡管多標(biāo)簽分類(lèi)研究已經(jīng)取得了很重要的進(jìn)展，但它依然是一個(gè)非常具有挑戰(zhàn)性的問(wèn)題，原因在于不同標(biāo)簽之間的復(fù)雜關(guān)系。另外，對(duì)輸入和部分標(biāo)簽之間關(guān)系的建模則進(jìn)一步增加了準(zhǔn)確預(yù)測(cè)所有標(biāo)簽的難度。本文提出選擇少部分標(biāo)簽作為標(biāo)記，選擇標(biāo)準(zhǔn)是既容易根據(jù)輸入進(jìn)行預(yù)測(cè)（即可預(yù)測(cè)性），又能很好地幫助恢復(fù)其他可能的標(biāo)簽（即具有代表性）。現(xiàn)有一些方法將標(biāo)記選擇和標(biāo)記預(yù)測(cè)分離為兩步。而在本文中，我們提出的SPL-MLL方法將標(biāo)記選擇、標(biāo)記預(yù)測(cè)和標(biāo)簽恢復(fù)三個(gè)任務(wù)進(jìn)行了統(tǒng)一的建模，確保了標(biāo)記同時(shí)具備可預(yù)測(cè)性和代表性。我們利用了交替方向法來(lái)解決這個(gè)聯(lián)合優(yōu)化問(wèn)題。實(shí)驗(yàn)表明：對(duì)比現(xiàn)有主流多標(biāo)記方法，所提算法取得了優(yōu)越的性能。
圖2. 如上圖所示，本文所提方法展現(xiàn)出了優(yōu)異的圖像標(biāo)注能力
?
Efficient Joint Gradient Based Attack Against SOR Defense for 3D Point Cloud Classification
3D點(diǎn)云分類(lèi)基于聯(lián)合梯度對(duì)SOR防御的高效攻擊
【摘要】
? ? ? ? 基于深度學(xué)習(xí)的三維點(diǎn)云分類(lèi)模型容易受到對(duì)抗樣本的攻擊。目前一種去除點(diǎn)云中離群點(diǎn)的防守方法（Statistical Outlier Removal，簡(jiǎn)稱(chēng)SOR）可以有效防守對(duì)抗樣本，并被廣泛使用。本文我們提出一種基于聯(lián)合梯度的白盒攻擊方法（JGBA），可以成功攻破SOR防守。具體地，通過(guò)優(yōu)化一個(gè)同時(shí)包含原始點(diǎn)云和經(jīng)過(guò)SOR方法處理的點(diǎn)云的目標(biāo)函數(shù)，我們將二者同時(shí)推向分類(lèi)模型的決策邊界，從而實(shí)現(xiàn)對(duì)抗攻擊。難點(diǎn)在于SOR的不可導(dǎo)性使得我們無(wú)法直接優(yōu)化目標(biāo)函數(shù)，對(duì)此我們采用矩陣乘法對(duì)SOR防守進(jìn)行線(xiàn)性近似，進(jìn)而成功計(jì)算梯度實(shí)現(xiàn)目標(biāo)函數(shù)優(yōu)化。此外，我們對(duì)點(diǎn)云中每個(gè)點(diǎn)的擾動(dòng)幅度加以限制，從而避免離群點(diǎn)的產(chǎn)生。實(shí)驗(yàn)證明，針對(duì)PointNet, PointNet++和DGCNN三種點(diǎn)云分類(lèi)模型，所提算法取得了SOTA的攻擊成功率。
?
表1. 如上表所示，針對(duì)不同模型和不同防守策略，本文所提方法都展現(xiàn)了取得了優(yōu)越的攻擊性能。
?
Pixel-wise Dense Detector for Image Inpainting
用于圖像修復(fù)的像素級(jí)密集檢測(cè)器
【摘要】
? ? ? ? ?近來(lái)，以GAN為基礎(chǔ)的圖像修復(fù)方法采用了平均策略來(lái)識(shí)別生成圖像并輸出一個(gè)標(biāo)量。這種方法不可避免地會(huì)丟失生成元素的位置信息。除此以外，對(duì)抗損失和重建損失（如l1損失）之間會(huì)更加難以調(diào)節(jié)。本文中，我們提出一種新的以檢測(cè)為基礎(chǔ)的生成模型框架。該框架在對(duì)抗過(guò)程中采用min-max策略并用于圖像修復(fù)。生成器采用編碼器-解碼器結(jié)構(gòu)來(lái)填補(bǔ)缺失區(qū)域；探測(cè)器則在弱監(jiān)督學(xué)習(xí)下用像素級(jí)的方法定位視覺(jué)元素。這種位置信息能讓生成器更好地注意到生成元素并對(duì)其一步強(qiáng)化。更重要的是，我們將檢測(cè)器輸出的加權(quán)結(jié)果帶入重建損失函數(shù)。這種方法能夠自動(dòng)平衡對(duì)抗損失和重建損失的權(quán)重而不依靠人工調(diào)整。此框架在多個(gè)公開(kāi)數(shù)據(jù)集上都有極佳的表現(xiàn)。
源碼見(jiàn)：https://github.com/Evergrow/GDN_Inpainting
圖3. 如上圖所示，本文所提出方法展現(xiàn)出優(yōu)異的圖像修復(fù)效果
會(huì)議簡(jiǎn)介
? ? ? ?ECCV，全稱(chēng)：European Conference on Computer Vision，中文全稱(chēng)：歐洲計(jì)算機(jī)視覺(jué)國(guó)際會(huì)議。ECCV每年的論文接受率為25-30%左右，收錄論文的主要來(lái)源是來(lái)自于美國(guó)、歐洲等頂級(jí)實(shí)驗(yàn)室及研究所。2020歐洲計(jì)算機(jī)視覺(jué)大會(huì)（ECCV 2020）因疫情改為線(xiàn)上會(huì)議，ECCV兩年舉辦一次，與CVPR、ICCV共稱(chēng)為計(jì)算機(jī)視覺(jué)領(lǐng)域三大頂級(jí)學(xué)術(shù)會(huì)議。
? ? ? ?ACM MM（全稱(chēng)：ACM Multimedia）是國(guó)際多媒體領(lǐng)域?qū)W術(shù)和產(chǎn)業(yè)界交流的最頂級(jí)盛會(huì)，也是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的多媒體領(lǐng)域唯一的A類(lèi)國(guó)際學(xué)術(shù)會(huì)議。熱門(mén)方向有大規(guī)?？缑襟w分析、理解與搜索、多模態(tài)人機(jī)交互、多媒體系統(tǒng)與推薦、計(jì)算視覺(jué)、計(jì)算圖像、多媒體藝術(shù)、社會(huì)媒體研究等。ACM Multimedia每年在歐洲、美洲和亞太地區(qū)輪流舉辦。本屆會(huì)議共接收1698篇有效投稿，最終錄用472篇，錄用率為27.8%。
? ? ? ?Pacific Graphics（全稱(chēng)：Pacific Conference on Computer Graphics and Applications環(huán)太平洋計(jì)算機(jī)圖形學(xué)及應(yīng)用會(huì)議）是一年一度的國(guó)際性的圖形學(xué)及其應(yīng)用方面的盛會(huì)，是泛太平洋地區(qū)最重要的計(jì)算機(jī)圖形學(xué)國(guó)際會(huì)議，也是全球三大計(jì)算機(jī)圖形學(xué)國(guó)際會(huì)議之一，此會(huì)議是與國(guó)際重要圖形學(xué)組織Eurographics合辦。
教授簡(jiǎn)介
吳保元
中國(guó)科學(xué)院自動(dòng)化研究所博士
香港中文大學(xué)（深圳）數(shù)據(jù)科學(xué)學(xué)院副教授
深圳市大數(shù)據(jù)研究院大數(shù)據(jù)安全計(jì)算實(shí)驗(yàn)室主任
研究領(lǐng)域：機(jī)器學(xué)習(xí)，計(jì)算機(jī)視覺(jué)與優(yōu)化
? ? ? ?吳保元教授是香港中文大學(xué)（深圳）數(shù)據(jù)科學(xué)學(xué)院副教授，并擔(dān)任深圳市大數(shù)據(jù)研究院大數(shù)據(jù)安全計(jì)算實(shí)驗(yàn)室主任。吳教授于2014年獲得中國(guó)科學(xué)院自動(dòng)化研究所模式識(shí)別國(guó)家重點(diǎn)實(shí)驗(yàn)室模式識(shí)別與智能系統(tǒng)博士學(xué)位。2016年11月至2018年12月?lián)悟v訊AI Lab高級(jí)研究員，并于2019年1月升任T4專(zhuān)家研究員。
? ? ? ?他在機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、優(yōu)化等方向上做出了多項(xiàng)出色工作，在人工智能的頂級(jí)期刊和會(huì)議上發(fā)表論文30多篇，曾入選人工智能頂級(jí)會(huì)議CVPR 2019最佳論文候選名單，并擔(dān)任人工智能頂級(jí)會(huì)議AAAI 2021、IJCAI 2021高級(jí)程序委員和中國(guó)計(jì)算機(jī)學(xué)會(huì)、中國(guó)自動(dòng)化學(xué)會(huì)多個(gè)專(zhuān)業(yè)委員會(huì)委員。他在人工智能安全的研究上有深厚的造詣，提出過(guò)多項(xiàng)原創(chuàng)算法，是國(guó)內(nèi)較早從事該研究的資深專(zhuān)家之一，并與騰訊安全團(tuán)隊(duì)開(kāi)展了深入的合作。在騰訊工作期間，他領(lǐng)銜發(fā)布了業(yè)內(nèi)第一個(gè)AI安全風(fēng)險(xiǎn)矩陣，得到業(yè)內(nèi)和媒體的廣泛關(guān)注。
