武大團隊研發(fā)出能避監(jiān)控的“隱身衣” 將有助于反向提升人工智能安全性
擁有一件隱身衣,是很多小說、電影里的橋段,也是許多孩子的夢想。11月27日,“華為杯”第一屆中國研究生網(wǎng)絡(luò)安全創(chuàng)新大賽落幕,武漢大學獲5項一等獎,獲獎數(shù)居全國高校首位。武大獲獎項目中有一項名為“InvisDefense隱身衣”引起了極目新聞記者的注意。據(jù)介紹,這套“隱身衣”主要是對付機器識別,可在機器視覺下隱身,用以保護人身安全。
用算法來對抗算法
武大官方新聞上是這樣介紹“InvisDefense隱身衣”的:InvisDefense提供全天候的隱身防御。白天場景,特制的迷彩圖案有效地干擾視覺神經(jīng)網(wǎng)絡(luò),使其失明。夜間場景,InvisDefense在衣服內(nèi)部嵌入溫控材料,實現(xiàn)在紅外熱成像下的隱身,可在機器視覺下隱身用以保護人身安全。
一般人可能看不太懂?!耙曈X神經(jīng)網(wǎng)絡(luò)指的是人工智能識別,而不是人類的肉眼識別。比如現(xiàn)在很多視頻監(jiān)控設(shè)備都有行人檢測功能,智能汽車也可以識別行人、道路、障礙?!盜nvisDefense研發(fā)團隊指導教師、武漢大學計算機學院教授王正解釋。
王正說,人們都知道,穿上迷彩服可以讓自己不容易被人看到,但計算機視覺還是可以很容易地識別,因為它是靠算法“看見”。于是,研究計算機視覺的王正想到,通過新的算法來設(shè)計一種迷彩紋路,讓目前常用的行人檢測的方法失效,“通俗地說就是攝像頭可以拍到你,但判斷不出你是人類?!?/p>
對于夜間模式,目前計算機視覺常用的是紅外熱成像來判斷。與之對抗的辦法是在“隱身衣”內(nèi)裝一些溫控裝置,有的是提高溫度,有的是降低溫度,就可使計算機難以通過熱成像圖案判斷出掃瞄對象。
七百次失敗終成功
2020年在海外留學期間,王正就有了初步想法,并一直在做這方面的理論研究。將理論變?yōu)楝F(xiàn)實的,是他帶的研究生團隊:武大計算機學院博士生衛(wèi)慧、國家網(wǎng)絡(luò)安全學院碩士生李柱波、戴書鈺,以及經(jīng)濟與管理學院碩士生菅澤華。
衛(wèi)慧介紹,他從2021年開始跟著導師做“隱身衣”研究,今年8月開始組隊備戰(zhàn)這次比賽。負責核心算法和設(shè)計的他說,想要實現(xiàn)“隱身衣”的理論并不容易,“首先要解決的是一種平衡,比如說,你拿著一個大色塊擋在身前,確實可以騙過攝像頭,但騙不過人眼,反而會特別顯眼。所以,我們要通過算法設(shè)計出最不‘顯眼’卻能讓計算機視覺失效的圖案?!睘榱苏业竭@種平衡,團隊成員不斷通過電腦模擬,3個月內(nèi)經(jīng)歷了近七百次失敗,才取得理想的結(jié)果。
另一個難點是實現(xiàn)晝夜兼容。團隊的目標就是找到成本最經(jīng)濟的方案,因此一開始試驗的是暖寶寶和降溫貼。改變局部溫度后,還要計算出怎樣的排列方式,能成功干擾計算機視覺識別。通過團隊的測試視頻可以看到,最終只需要在上衣內(nèi),安裝4處不規(guī)則形狀的溫控裝置,就可以讓紅外成像識別“失明”。
目前,“InvisDefense隱身衣”項目已有兩項專利申請被受理。該項目實際應用前景如何?王正認為,該技術(shù)將有助于反向促進人工智能模型安全性的提升,也可為我國國防事業(yè)作出貢獻,如研制“隱身軍服”等。據(jù)介紹,“InvisDefense隱身衣”目前一套的成本僅約500元。
版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責任。