近日，一款根據(jù)人工智能技能的“換臉”APP走紅網(wǎng)絡。運用者只需上傳自己的高清相片，即可將本人面孔與很多影視片段中的明星面孔置換。既可以自己過明星癮，又可與心愛偶像“同框”出演，很多年輕用戶選擇將自己面孔上傳網(wǎng)絡，“換臉”文娛。
新華社記者發(fā)現(xiàn)，如此“換臉”，用戶面部生物特征信息被盜或失控的“丟人”危險不小。該款APP用戶協(xié)議中載明：用戶一旦上傳自己的相片進行視頻“換臉”，將在全球范圍內(nèi)完全免費、不可撤銷地將包括人臉相片在內(nèi)的肖像資料授權給該公司和其關聯(lián)公司。盡管此后相關企業(yè)在輿論壓力下，對其用戶協(xié)議進行了部分修改，但危險仍然存在。
一旦“丟人”，我們將面對哪些危險？漏洞又該怎么堵上？新華社記者就此展開查詢。
危險一：“丟人”能導致“丟錢”
當時，大部分銀行等金融機構開設了人臉辨認登陸APP功用。“刷臉”付出乃至是遠程簽約等場景也越來越多見。假如用戶的“臉”不安全，“錢”也將面對極大危險。
企業(yè)經(jīng)過用戶協(xié)議等手段獲得的用戶面部辨認信息面對被走漏危險。據(jù)記者了解，本年2月，國內(nèi)某面部辨認公司的數(shù)據(jù)庫發(fā)作信息安全事故，數(shù)百萬條個人信息被走漏；8月，歐洲一家公司發(fā)作大規(guī)模信息走漏事情，數(shù)百萬人面部辨認信息被走漏……大眾面部信息被亂用危險增大。
記者在一些聞名網(wǎng)購渠道輸入“人臉面具”“硅膠頭套”等關鍵詞，發(fā)現(xiàn)有不少商戶出售“人臉頭套式面具”，其中一些乃至可以按客戶提供相片定制。記者獲悉，經(jīng)過3D打印等技能，“人臉面具”可以獲得較高仿真度，且面部辨認數(shù)據(jù)越詳實仿真度越高，對以面部辨認信息作為密碼賬戶的打破力就越強。此前已有人運用3D打印面具經(jīng)過某聞名網(wǎng)絡付出渠道面部驗證。
“輕率將自己的明晰正面照上傳并授權他人進行存儲或另作他用，關乎‘錢袋子’安全。”中央財經(jīng)大學金融法研究所所長黃震以為，現(xiàn)在法令對“AI換臉技能”規(guī)范缺乏，因而保護好自己的面部信息在當下非常必要。他建議，有關部門應加速推行相關技能規(guī)范落地應用。
記者從多家已啟用人臉辨認功用的金融機構處了解到：當時金融機構設置的人臉辨認安全等級高于智能手機相關功用，但因為不少交易場景中辨認標準并不統(tǒng)一，因而危險仍在。多名專家建議，用戶將面部辨認設置為產(chǎn)業(yè)賬戶密碼時，應一起設置其他驗證方法，減小危險。
危險二：“丟人”能導致“丟潔白”
當時，“換臉”技能被用在一些涉嫌違法犯罪范疇的狀況已不罕見。記者發(fā)現(xiàn)一些網(wǎng)站用“AI換臉”“換臉視頻”等方式提供用聞名演員“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢，且難辨真假。別的，記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關鍵詞檢索發(fā)現(xiàn)，有不少社交群組打著“技能交流”幌子兜銷此類“明星換臉”視頻。
知情人告知記者，除販賣“換臉”不合法音視頻產(chǎn)品牟利外，一些不法分子還運用手中把握的貸款人人臉信息，以此類技能進行不合法催收活動，直接損害貸款人人格權、聲譽權，乃至滋生出敲詐勒索等其他嚴峻犯罪活動。
北京師范大學網(wǎng)絡法治國際中心履行主任吳沈括以為，AI“換臉”法令危險點多，從現(xiàn)實案例看，聲譽侵權是高發(fā)問題。尤其是歹意拼接制作侮辱性、污蔑性視圖素材或許予以不合法傳播、運用的，將對受害人形成的傷害難以及時發(fā)覺且極難有效救助，需求有關部門高度重視、活躍防備。他建議，因為該范疇技能性強，相關企業(yè)眾多，規(guī)模大小不一，應強化職能部門監(jiān)管力度，杜絕選擇性過后執(zhí)法，樹立全行業(yè)全流程公正監(jiān)管，依法嚴懲違法違規(guī)主體，打造穩(wěn)定、良性的可預期市場環(huán)境。
危險三：“丟人”能導致“被貸款”
有過網(wǎng)貸申請閱歷的人關于“點允許”“搖搖頭”“張張嘴”之類的動作或許并不陌生。借貸者在錄入身份信息后，網(wǎng)貸機構會對申請人進行“活體檢測”，以確保放款對象為本人，把關借貸安全。但記者發(fā)現(xiàn)，一些根據(jù)相關技能的修圖APP能夠“妙手回春”，讓靜態(tài)面部相片模仿生物活體“動”起來。
記者運用一款聞名修圖軟件，載入一張包括人物面孔的相片后運用其“3D塑顏”的功用，圖片中的人物便能按記者需求完成“上下允許”和“左右搖頭”等“動作”。
在另一款宣傳語為“讓你的相片活過來”的APP中，只需載入一張包括人物面孔的相片，就可以一鍵讓相片中的人物“開口說話”。記者發(fā)現(xiàn)，運用者還能運用該APP決定說話內(nèi)容，并可對錄入聲響進行聲線處理，調(diào)整音色音調(diào)，視聽感覺非常傳神。
有業(yè)內(nèi)人士告知記者，現(xiàn)在不少網(wǎng)貸機構進行“活體檢測”時仍運用人工審核或技能含量偏低的機器審核，一旦大眾的面部辨認信息被不法分子把握，用這些黑科技“活”過來的面孔，很可能以假亂真，讓不知情者“被網(wǎng)貸”背上巨額債務。此前“3·15”晚會上就有人演示用“活”相片成功打破某款手機的“刷臉”登陸體系。記者還發(fā)現(xiàn)，在蘋果和安卓手機商店中有不少運用AI“換臉”類APP供人選擇。
中國信息安全研究院副院長左曉棟以為，跟著AI“換臉”運用場景更豐富，行業(yè)和監(jiān)管部門應當研制相應的“反換臉”檢測技能，來篩選相關視頻是否由“換臉術”完成。他建議，要加速樹立人工智能算法的安全評價制度，對不同場景下AI“換臉”技能進行評價，處理相關技能亂用問題。
新華社記者發(fā)現(xiàn)，如此“換臉”，用戶面部生物特征信息被盜或失控的“丟人”危險不小。該款APP用戶協(xié)議中載明：用戶一旦上傳自己的相片進行視頻“換臉”，將在全球范圍內(nèi)完全免費、不可撤銷地將包括人臉相片在內(nèi)的肖像資料授權給該公司和其關聯(lián)公司。盡管此后相關企業(yè)在輿論壓力下，對其用戶協(xié)議進行了部分修改，但危險仍然存在。
一旦“丟人”，我們將面對哪些危險？漏洞又該怎么堵上？新華社記者就此展開查詢。
危險一：“丟人”能導致“丟錢”
當時，大部分銀行等金融機構開設了人臉辨認登陸APP功用。“刷臉”付出乃至是遠程簽約等場景也越來越多見。假如用戶的“臉”不安全，“錢”也將面對極大危險。
企業(yè)經(jīng)過用戶協(xié)議等手段獲得的用戶面部辨認信息面對被走漏危險。據(jù)記者了解，本年2月，國內(nèi)某面部辨認公司的數(shù)據(jù)庫發(fā)作信息安全事故，數(shù)百萬條個人信息被走漏；8月，歐洲一家公司發(fā)作大規(guī)模信息走漏事情，數(shù)百萬人面部辨認信息被走漏……大眾面部信息被亂用危險增大。
記者在一些聞名網(wǎng)購渠道輸入“人臉面具”“硅膠頭套”等關鍵詞，發(fā)現(xiàn)有不少商戶出售“人臉頭套式面具”，其中一些乃至可以按客戶提供相片定制。記者獲悉，經(jīng)過3D打印等技能，“人臉面具”可以獲得較高仿真度，且面部辨認數(shù)據(jù)越詳實仿真度越高，對以面部辨認信息作為密碼賬戶的打破力就越強。此前已有人運用3D打印面具經(jīng)過某聞名網(wǎng)絡付出渠道面部驗證。
“輕率將自己的明晰正面照上傳并授權他人進行存儲或另作他用，關乎‘錢袋子’安全。”中央財經(jīng)大學金融法研究所所長黃震以為，現(xiàn)在法令對“AI換臉技能”規(guī)范缺乏，因而保護好自己的面部信息在當下非常必要。他建議，有關部門應加速推行相關技能規(guī)范落地應用。
記者從多家已啟用人臉辨認功用的金融機構處了解到：當時金融機構設置的人臉辨認安全等級高于智能手機相關功用，但因為不少交易場景中辨認標準并不統(tǒng)一，因而危險仍在。多名專家建議，用戶將面部辨認設置為產(chǎn)業(yè)賬戶密碼時，應一起設置其他驗證方法，減小危險。
危險二：“丟人”能導致“丟潔白”
當時，“換臉”技能被用在一些涉嫌違法犯罪范疇的狀況已不罕見。記者發(fā)現(xiàn)一些網(wǎng)站用“AI換臉”“換臉視頻”等方式提供用聞名演員“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢，且難辨真假。別的，記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關鍵詞檢索發(fā)現(xiàn)，有不少社交群組打著“技能交流”幌子兜銷此類“明星換臉”視頻。
知情人告知記者，除販賣“換臉”不合法音視頻產(chǎn)品牟利外，一些不法分子還運用手中把握的貸款人人臉信息，以此類技能進行不合法催收活動，直接損害貸款人人格權、聲譽權，乃至滋生出敲詐勒索等其他嚴峻犯罪活動。
北京師范大學網(wǎng)絡法治國際中心履行主任吳沈括以為，AI“換臉”法令危險點多，從現(xiàn)實案例看，聲譽侵權是高發(fā)問題。尤其是歹意拼接制作侮辱性、污蔑性視圖素材或許予以不合法傳播、運用的，將對受害人形成的傷害難以及時發(fā)覺且極難有效救助，需求有關部門高度重視、活躍防備。他建議，因為該范疇技能性強，相關企業(yè)眾多，規(guī)模大小不一，應強化職能部門監(jiān)管力度，杜絕選擇性過后執(zhí)法，樹立全行業(yè)全流程公正監(jiān)管，依法嚴懲違法違規(guī)主體，打造穩(wěn)定、良性的可預期市場環(huán)境。
危險三：“丟人”能導致“被貸款”
有過網(wǎng)貸申請閱歷的人關于“點允許”“搖搖頭”“張張嘴”之類的動作或許并不陌生。借貸者在錄入身份信息后，網(wǎng)貸機構會對申請人進行“活體檢測”，以確保放款對象為本人，把關借貸安全。但記者發(fā)現(xiàn)，一些根據(jù)相關技能的修圖APP能夠“妙手回春”，讓靜態(tài)面部相片模仿生物活體“動”起來。
記者運用一款聞名修圖軟件，載入一張包括人物面孔的相片后運用其“3D塑顏”的功用，圖片中的人物便能按記者需求完成“上下允許”和“左右搖頭”等“動作”。
在另一款宣傳語為“讓你的相片活過來”的APP中，只需載入一張包括人物面孔的相片，就可以一鍵讓相片中的人物“開口說話”。記者發(fā)現(xiàn)，運用者還能運用該APP決定說話內(nèi)容，并可對錄入聲響進行聲線處理，調(diào)整音色音調(diào)，視聽感覺非常傳神。
有業(yè)內(nèi)人士告知記者，現(xiàn)在不少網(wǎng)貸機構進行“活體檢測”時仍運用人工審核或技能含量偏低的機器審核，一旦大眾的面部辨認信息被不法分子把握，用這些黑科技“活”過來的面孔，很可能以假亂真，讓不知情者“被網(wǎng)貸”背上巨額債務。此前“3·15”晚會上就有人演示用“活”相片成功打破某款手機的“刷臉”登陸體系。記者還發(fā)現(xiàn)，在蘋果和安卓手機商店中有不少運用AI“換臉”類APP供人選擇。
中國信息安全研究院副院長左曉棟以為，跟著AI“換臉”運用場景更豐富，行業(yè)和監(jiān)管部門應當研制相應的“反換臉”檢測技能，來篩選相關視頻是否由“換臉術”完成。他建議，要加速樹立人工智能算法的安全評價制度，對不同場景下AI“換臉”技能進行評價，處理相關技能亂用問題。
