隨著人工智能技術(shù)的發(fā)展，虛假新聞特別是深偽（Deepfake）音視頻的制作已進(jìn)入低成本、低技術(shù)知識的階段。有分析認(rèn)為，世界或?qū)⑦M(jìn)入一個(gè)信息真假難辨的階段。
“虛假音視頻帶來的最大問題是信任體系的崩壞，將給政治、經(jīng)濟(jì)和社會造成極大的危害。人工智能技術(shù)雖已能鑒別部分的虛假音視頻，但道高一尺魔高一丈，同虛假音視頻的斗爭必將是一場持久戰(zhàn)。”紐約州立大學(xué)奧爾巴尼分校計(jì)算機(jī)工程系副教授、計(jì)算機(jī)視覺與機(jī)器學(xué)習(xí)實(shí)驗(yàn)室主任呂思偉近日在接受科技日報(bào)記者專訪時(shí)如是說。
人工智能驅(qū)動的虛假新聞催生信任危機(jī)
電子媒體的興起和普及，使人們每日接受的新聞信息量要比10年前增加數(shù)百倍。但泥沙俱下，各種自媒體和社交媒體中也充斥著各種各樣的虛假信息。人工智能技術(shù)的快速發(fā)展，進(jìn)一步讓虛假視頻新聞的制作門檻越來越低，逼真度卻越來越高。人工智能“換臉術(shù)”去年曾將《神奇女俠》女主角蓋爾·加朵的臉嫁接到一個(gè)成人電影女星的身上，引起轟動。
呂教授指出，大部分非專業(yè)制作的虛假視頻新聞其實(shí)都非常粗糙，稍有知識的受眾都可以甄別出來，但由于傳播平臺的指數(shù)級增加，信息如洪水猛獸般涌向受眾，快速分散著受眾的注意力，加之視頻本身的質(zhì)量和分辨率等因素，受眾在很短的時(shí)間內(nèi)根本難辨真假。受眾基于自身興趣，條件反射般地進(jìn)行轉(zhuǎn)發(fā)，也對虛假音視頻的傳播起到推波助瀾的作用。哥倫比亞大學(xué)心理學(xué)研究表明，注意力經(jīng)濟(jì)（眼球經(jīng)濟(jì)）的結(jié)果是人們的注意力被分割得越來越小，對信息的專注時(shí)間甚至已經(jīng)短于金魚。
事后補(bǔ)救雖能起到一定的正本清源作用，但虛假音視頻傳播所造成的巨大負(fù)面影響業(yè)已造成，很難在短時(shí)間內(nèi)消除。而且虛假音視頻的不斷涌現(xiàn)，使政府或當(dāng)事人疲于奔命澄清事實(shí)，久而久之，整個(gè)社會的信任體系就會分崩瓦解，形成公眾對任何新聞事實(shí)都不相信的情形。
今年6月初，美國紐約媒體實(shí)驗(yàn)室召集媒體界、學(xué)術(shù)界的相關(guān)從業(yè)人員舉辦了一場虛假新聞恐怖展，就人工智能等新技術(shù)可能產(chǎn)生的虛假宣傳和錯(cuò)誤信息進(jìn)行研討。實(shí)驗(yàn)室執(zhí)行主任賈斯汀·亨德里克斯說：“只需要幾個(gè)大騙局就能讓公眾相信沒有什么是真實(shí)的。”呂教授也認(rèn)為，虛假新聞造成的最大問題是，當(dāng)新聞可以虛假時(shí)，真實(shí)新聞也會變得“不真實(shí)”，最終造成受眾無法相信任何新聞的窘境，對社會來說，這是一場史無前例的信任危機(jī)。
利用機(jī)器學(xué)習(xí)弱點(diǎn)找到虛假視頻破綻
呂教授表示，“換臉術(shù)”的機(jī)器算法是利用大量的臉部圖像訓(xùn)練出來的，這有點(diǎn)像機(jī)器翻譯，可把一種文字翻譯成另一種文字，而換臉虛假視頻的算法“翻譯”的對象是人臉，把原始人臉的表情特征提取出來，然后用另外一張臉去表達(dá)相同的表情特征。
為了找到鑒別虛假音視頻的技術(shù)解決方案，呂教授團(tuán)隊(duì)對機(jī)器學(xué)習(xí)生成的虛假視頻的算法代碼進(jìn)行分析，建立了數(shù)百個(gè)虛假視頻模型，并嘗試用各種方法進(jìn)行檢測。他們最終發(fā)現(xiàn)，虛假視頻中的人物基本都不眨眼，而正常生理現(xiàn)象是，人類在面對面交流時(shí)眼神會進(jìn)行互動，眨眼是一種不受主觀控制的無意識行為，每隔兩三秒鐘一般會眨一次眼。
呂教授進(jìn)一步解釋說，機(jī)器學(xué)習(xí)學(xué)的并不是真正的“知識”，其得到的全部信息來自訓(xùn)練數(shù)據(jù)。而機(jī)器學(xué)習(xí)并不知道眨眼是人類的正常生理特征，第一代虛假視頻大量使用的是網(wǎng)絡(luò)靜態(tài)人物圖片，這些圖片中的人物都是睜眼的，因?yàn)闆]有人愿意把閉眼的形象展示給公眾。
同虛假視頻人工智能大戰(zhàn)任重道遠(yuǎn)
呂教授團(tuán)隊(duì)正是利用機(jī)器學(xué)習(xí)的這一弱點(diǎn)開發(fā)了一種深度學(xué)習(xí)新算法來檢測虛假視頻，成功率非常高。但呂教授坦言，在機(jī)器學(xué)習(xí)領(lǐng)域可謂道高一尺魔高一丈，虛假視頻的制作者同樣可以專門針對新算法設(shè)計(jì)出具有眨眼特征的更加逼真的視頻。
呂教授說，虛假視頻的制作過程一般來說是見不得光的，不會公之于眾，其背后有巨大的政治或經(jīng)濟(jì)利益驅(qū)動，因此造假技術(shù)往往存在一定優(yōu)勢，領(lǐng)先于檢測技術(shù)的發(fā)展。呂教授指出，其最新研發(fā)的算法目前來說具有一定的優(yōu)勢，這是因?yàn)榭紤]了虛假視頻制作者尚未考慮到的數(shù)據(jù)訓(xùn)練問題。論文公開發(fā)表后，有黑客直接向呂教授發(fā)出挑戰(zhàn)，要求其檢測融合了眨眼的虛假視頻，但這些虛假視頻均未逃過新算法的“法眼”。
為在虛假視頻檢測技術(shù)研發(fā)上先人一步，呂教授團(tuán)隊(duì)目前已開始將深度學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)，從靜態(tài)圖片升級為動態(tài)視頻，并通過建立紅白隊(duì)進(jìn)行對抗訓(xùn)練，來提升高質(zhì)量虛假視頻的檢測水平。呂教授透露，谷歌旗下Jigsaw公司已同開發(fā)團(tuán)隊(duì)接洽進(jìn)行合作。
除了不斷提升技術(shù)手段，呂教授認(rèn)為，同虛假視頻的斗爭最重要的還是需要公眾具有獨(dú)立思考的精神，不隨意轉(zhuǎn)發(fā)，不為虛假視頻的廣泛傳播推波助瀾，無論是主流媒體還是自媒體，都要恪守底線，堅(jiān)持求真。
“虛假音視頻帶來的最大問題是信任體系的崩壞，將給政治、經(jīng)濟(jì)和社會造成極大的危害。人工智能技術(shù)雖已能鑒別部分的虛假音視頻，但道高一尺魔高一丈，同虛假音視頻的斗爭必將是一場持久戰(zhàn)。”紐約州立大學(xué)奧爾巴尼分校計(jì)算機(jī)工程系副教授、計(jì)算機(jī)視覺與機(jī)器學(xué)習(xí)實(shí)驗(yàn)室主任呂思偉近日在接受科技日報(bào)記者專訪時(shí)如是說。
人工智能驅(qū)動的虛假新聞催生信任危機(jī)
電子媒體的興起和普及，使人們每日接受的新聞信息量要比10年前增加數(shù)百倍。但泥沙俱下，各種自媒體和社交媒體中也充斥著各種各樣的虛假信息。人工智能技術(shù)的快速發(fā)展，進(jìn)一步讓虛假視頻新聞的制作門檻越來越低，逼真度卻越來越高。人工智能“換臉術(shù)”去年曾將《神奇女俠》女主角蓋爾·加朵的臉嫁接到一個(gè)成人電影女星的身上，引起轟動。
呂教授指出，大部分非專業(yè)制作的虛假視頻新聞其實(shí)都非常粗糙，稍有知識的受眾都可以甄別出來，但由于傳播平臺的指數(shù)級增加，信息如洪水猛獸般涌向受眾，快速分散著受眾的注意力，加之視頻本身的質(zhì)量和分辨率等因素，受眾在很短的時(shí)間內(nèi)根本難辨真假。受眾基于自身興趣，條件反射般地進(jìn)行轉(zhuǎn)發(fā)，也對虛假音視頻的傳播起到推波助瀾的作用。哥倫比亞大學(xué)心理學(xué)研究表明，注意力經(jīng)濟(jì)（眼球經(jīng)濟(jì)）的結(jié)果是人們的注意力被分割得越來越小，對信息的專注時(shí)間甚至已經(jīng)短于金魚。
事后補(bǔ)救雖能起到一定的正本清源作用，但虛假音視頻傳播所造成的巨大負(fù)面影響業(yè)已造成，很難在短時(shí)間內(nèi)消除。而且虛假音視頻的不斷涌現(xiàn)，使政府或當(dāng)事人疲于奔命澄清事實(shí)，久而久之，整個(gè)社會的信任體系就會分崩瓦解，形成公眾對任何新聞事實(shí)都不相信的情形。
今年6月初，美國紐約媒體實(shí)驗(yàn)室召集媒體界、學(xué)術(shù)界的相關(guān)從業(yè)人員舉辦了一場虛假新聞恐怖展，就人工智能等新技術(shù)可能產(chǎn)生的虛假宣傳和錯(cuò)誤信息進(jìn)行研討。實(shí)驗(yàn)室執(zhí)行主任賈斯汀·亨德里克斯說：“只需要幾個(gè)大騙局就能讓公眾相信沒有什么是真實(shí)的。”呂教授也認(rèn)為，虛假新聞造成的最大問題是，當(dāng)新聞可以虛假時(shí)，真實(shí)新聞也會變得“不真實(shí)”，最終造成受眾無法相信任何新聞的窘境，對社會來說，這是一場史無前例的信任危機(jī)。
利用機(jī)器學(xué)習(xí)弱點(diǎn)找到虛假視頻破綻
呂教授表示，“換臉術(shù)”的機(jī)器算法是利用大量的臉部圖像訓(xùn)練出來的，這有點(diǎn)像機(jī)器翻譯，可把一種文字翻譯成另一種文字，而換臉虛假視頻的算法“翻譯”的對象是人臉，把原始人臉的表情特征提取出來，然后用另外一張臉去表達(dá)相同的表情特征。
為了找到鑒別虛假音視頻的技術(shù)解決方案，呂教授團(tuán)隊(duì)對機(jī)器學(xué)習(xí)生成的虛假視頻的算法代碼進(jìn)行分析，建立了數(shù)百個(gè)虛假視頻模型，并嘗試用各種方法進(jìn)行檢測。他們最終發(fā)現(xiàn)，虛假視頻中的人物基本都不眨眼，而正常生理現(xiàn)象是，人類在面對面交流時(shí)眼神會進(jìn)行互動，眨眼是一種不受主觀控制的無意識行為，每隔兩三秒鐘一般會眨一次眼。
呂教授進(jìn)一步解釋說，機(jī)器學(xué)習(xí)學(xué)的并不是真正的“知識”，其得到的全部信息來自訓(xùn)練數(shù)據(jù)。而機(jī)器學(xué)習(xí)并不知道眨眼是人類的正常生理特征，第一代虛假視頻大量使用的是網(wǎng)絡(luò)靜態(tài)人物圖片，這些圖片中的人物都是睜眼的，因?yàn)闆]有人愿意把閉眼的形象展示給公眾。
同虛假視頻人工智能大戰(zhàn)任重道遠(yuǎn)
呂教授團(tuán)隊(duì)正是利用機(jī)器學(xué)習(xí)的這一弱點(diǎn)開發(fā)了一種深度學(xué)習(xí)新算法來檢測虛假視頻，成功率非常高。但呂教授坦言，在機(jī)器學(xué)習(xí)領(lǐng)域可謂道高一尺魔高一丈，虛假視頻的制作者同樣可以專門針對新算法設(shè)計(jì)出具有眨眼特征的更加逼真的視頻。
呂教授說，虛假視頻的制作過程一般來說是見不得光的，不會公之于眾，其背后有巨大的政治或經(jīng)濟(jì)利益驅(qū)動，因此造假技術(shù)往往存在一定優(yōu)勢，領(lǐng)先于檢測技術(shù)的發(fā)展。呂教授指出，其最新研發(fā)的算法目前來說具有一定的優(yōu)勢，這是因?yàn)榭紤]了虛假視頻制作者尚未考慮到的數(shù)據(jù)訓(xùn)練問題。論文公開發(fā)表后，有黑客直接向呂教授發(fā)出挑戰(zhàn)，要求其檢測融合了眨眼的虛假視頻，但這些虛假視頻均未逃過新算法的“法眼”。
為在虛假視頻檢測技術(shù)研發(fā)上先人一步，呂教授團(tuán)隊(duì)目前已開始將深度學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)，從靜態(tài)圖片升級為動態(tài)視頻，并通過建立紅白隊(duì)進(jìn)行對抗訓(xùn)練，來提升高質(zhì)量虛假視頻的檢測水平。呂教授透露，谷歌旗下Jigsaw公司已同開發(fā)團(tuán)隊(duì)接洽進(jìn)行合作。
除了不斷提升技術(shù)手段，呂教授認(rèn)為，同虛假視頻的斗爭最重要的還是需要公眾具有獨(dú)立思考的精神，不隨意轉(zhuǎn)發(fā)，不為虛假視頻的廣泛傳播推波助瀾，無論是主流媒體還是自媒體，都要恪守底線，堅(jiān)持求真。
