1.林俊杰把B站和UP主告了，就因?yàn)閁P主用AI換臉技術(shù)制作了大量林俊杰的鬼畜視頻。

2.AI換臉有多簡(jiǎn)單，騙過App人臉識(shí)別系統(tǒng)的成本有多低，才讓這種現(xiàn)象如何猖獗？

3.其實(shí)，不僅明星忌憚，普通人也深受其害。江蘇一小伙因?yàn)楹闷娓_子“過招”，結(jié)果一露臉就被騙子偽造了“裸聊視頻”，只能乖乖交了11萬。

AI換臉有多逼真？最深受其害的明星終于忍受不了了！

就在幾天前，B站（嗶哩嗶哩）和B站上的一個(gè)UP主被林俊杰告了，而且林俊杰勝訴了。目前這位UP主需要向林俊杰賠償27.5萬元，原因是這位UP主用AI換臉技術(shù)制作了大量林俊杰的鬼畜視頻，從而侵犯了林俊杰的肖像權(quán)。

圖源：天眼查

林俊杰不是第一個(gè)因AI起訴的明星，也絕不是最后一個(gè)。

與明星相比，更慘的是普通老百姓。明星可以靠自己身上的光環(huán)，吸引全社會(huì)關(guān)注，而當(dāng)普通人的臉被“偷”走了，他們?cè)撛趺崔k？在千千萬萬普通人的生物信息被利用之后，一條流傳、販賣個(gè)人隱私的鏈條正在暗處肆意生長(zhǎng)。

圖源：網(wǎng)絡(luò)

01 明星頻中招

早在2019年，國(guó)內(nèi)就掀起了一股“換臉”風(fēng)潮。

B站UP主“換臉哥”將94版《射雕英雄傳》影視片段中演員朱茵的臉替換成楊冪，迅速在網(wǎng)上發(fā)酵并引發(fā)爭(zhēng)議，B站視頻截至刪除前點(diǎn)擊量超20萬，微博話題閱讀量1.3億。

這次惡搞林俊杰的視頻也來自于B站，B站的鬼畜區(qū)是“換臉重災(zāi)區(qū)”之一?！禝T時(shí)報(bào)》記者打開B站搜索“換臉”，出現(xiàn)數(shù)千個(gè)相關(guān)視頻，包括“宋小寶換臉彭于晏”“賈玲和沈騰版女兒國(guó)橋段”“復(fù)仇者聯(lián)盟演起武林外傳”等。除了在特寫鏡頭時(shí)，會(huì)出現(xiàn)膚色、光影等細(xì)微瑕疵，這些換臉視頻整體看上去幾乎以假亂真，將偶像的臉換到相應(yīng)角色中成為網(wǎng)友的搞怪“新口味”。

圖源：Bilibili

就在林俊杰狀告B站UP主之前，8月28日，藝人劉昊然的工作室也發(fā)布聲明稱，有人利用AI換臉技術(shù)傳播對(duì)劉昊然帶有侮辱性的視頻、截圖，同時(shí)還含有誹謗言論的聊天記錄。該工作室表示，今年1月就曾被惡意傳播，目前已向警方報(bào)案。

據(jù)外媒報(bào)道，海外明星同樣深受其擾，泰勒·斯威夫特、艾瑪·沃特森等多位女演員也曾被換臉成為不雅影片的女主角。

02 “換”起來很簡(jiǎn)單

為何AI換臉技術(shù)的聲勢(shì)如此浩大？原因在于技術(shù)成本和經(jīng)濟(jì)成本的門檻都不高。

不需要先進(jìn)的裝備，只要一個(gè)軟件就可以。比如陌陌旗下的“ZAO”就因?yàn)槿四樅铣梢曨l火爆一時(shí)，只需要上傳一張自己的照片就可以把自己的臉換到一位明星的頭上，融合效果非常好，但這款軟件沒紅多久就因?yàn)殡[私、倫理等問題備受輿論的詬病。

在B站上，除了有UP主自制的換臉視頻之外，換臉教程也是受到歡迎的熱門內(nèi)容之一，點(diǎn)擊量最高的超過20萬。

《IT時(shí)報(bào)》記者在QQ群里搜索“換臉”，相關(guān)群有數(shù)百個(gè)，熱度最高的一個(gè)群以定制視頻換臉、圖片換臉等為主要業(yè)務(wù)，群成員接近400人，并且開發(fā)了QQ小程序“八零換臉”和微信小程序“換臉變裝秀”。

圖源：QQ

03 騙過肉眼

低成本、低門檻地獲取和運(yùn)用，讓不法分子打起了“AI換臉”詐騙的主意。近來，有不少關(guān)于“人臉識(shí)別”的案例。

南京警方曾接到小李（化名）報(bào)警稱，被詐騙3000元。小李介紹，大學(xué)同學(xué)通過QQ向她借錢，對(duì)方打過來一段四五秒的視頻電話，小李看到確是本人，便放心轉(zhuǎn)賬。但在第二次轉(zhuǎn)賬時(shí)發(fā)現(xiàn)異常，再次撥通對(duì)方電話才得知同學(xué)的賬號(hào)被盜。警方判斷，那段視頻很有可能被人換了臉。

江蘇常州一90后小伙因好奇和騙子“過招”被騙11萬，小伙子明知可能遇到了裸聊騙局，但出于好奇想看看騙子是怎樣實(shí)施詐騙的。結(jié)果只因露了一下臉，就被騙子的AI換臉技術(shù)坑了。騙子給他AI換臉偽造了一段“裸聊視頻”，告知如果不“花錢消災(zāi)”，就讓他抬不起頭。無奈小伙將僅有的11萬元全部轉(zhuǎn)賬后，騙子才罷休。

04 逃過系統(tǒng)

對(duì)普通人來說，大家都是肉眼凡胎，AI換臉后得到的視頻確實(shí)真假難辨，但更吊詭的是，如今一些需要人臉識(shí)別的App也可能被一張會(huì)動(dòng)的“假臉”所蒙蔽，AI換臉可以騙過開卡環(huán)節(jié)中的人臉識(shí)別系統(tǒng)。

據(jù)媒體報(bào)道，近日，上海市虹口區(qū)人民檢察院通報(bào)了一起利用人臉識(shí)別技術(shù)，為他人開具增值稅普通發(fā)票價(jià)稅合計(jì)超過5億元的案例。犯罪分子通過相關(guān)政務(wù)平臺(tái)完成注冊(cè)“皮包公司”，通過平臺(tái)上人臉識(shí)別是注冊(cè)成功的關(guān)鍵環(huán)節(jié)。

應(yīng)用商店里的“活照片App”

據(jù)犯罪團(tuán)伙中專門從事人臉識(shí)別破解的成員表示，一般先從他處以每個(gè)30元的價(jià)格購(gòu)買他人的高清頭像和身份證信息，再利用“活照片”等App對(duì)高清頭像進(jìn)行處理，讓照片“動(dòng)起來”，形成包括點(diǎn)頭、搖頭、眨眼、張嘴等動(dòng)作視頻，騙過平臺(tái)人臉識(shí)別驗(yàn)證系統(tǒng)。據(jù)犯罪分子交代，其破解的App涉及政務(wù)、安防、金融、支付、生活消費(fèi)等，這些App在大多數(shù)應(yīng)用市場(chǎng)都可以下載。最終，涉案人員因犯侵犯公民個(gè)人信息罪被追究刑事責(zé)任。

05 App活體檢測(cè)標(biāo)準(zhǔn)有待提高

互聯(lián)網(wǎng)上充斥著大量的人臉和身份信息，這些信息為犯罪分子提供了“養(yǎng)分”，而一些App對(duì)技術(shù)的把關(guān)不嚴(yán)則又為虎作倀。

極棒實(shí)驗(yàn)室安全研究員宋宇昊曾經(jīng)做過此類實(shí)驗(yàn)，通過破解可以騙過一些App的人臉識(shí)別系統(tǒng)。

“技術(shù)上并不難，先選取一張要偽造的人的照片，提供給特定的avatarify的AI程序，隨后攻擊者用連接著該AI程序的攝像頭對(duì)著自己，自己根據(jù)App人臉識(shí)別的提示進(jìn)行眨眼、張嘴等動(dòng)作，照片就會(huì)跟著攻擊者同步學(xué)習(xí)這些動(dòng)作，從而騙過一些App的人臉識(shí)別系統(tǒng)?！彼斡铌桓嬖V《IT時(shí)報(bào)》記者，現(xiàn)在能被破解的App多數(shù)采用識(shí)別表情動(dòng)作的方式來做活體檢測(cè)，這是比較容易被破解的。

宋宇昊還表示，一些安全做得好的廠商改進(jìn)了活體檢測(cè)技術(shù)，破解就有難度了。“比如像進(jìn)行隨申碼等人臉識(shí)別驗(yàn)證時(shí)，會(huì)有紅綠藍(lán)光在人臉周邊閃爍，這種就比較難破解了?！?/p>

據(jù)了解，有的光主要捕獲摩爾紋、反光、人臉畸變等信息，有的光則捕捉手機(jī)邊界、紙張邊界等明顯攻擊信息，還有的光捕捉相關(guān)背景信息。

圖源：東方IC

技術(shù)的不斷迭代，讓通過“深度偽造”技術(shù)制造出人類用肉眼無法識(shí)別的“假臉”成為可能，數(shù)據(jù)隱私、技術(shù)濫用等引發(fā)的安全問題愈演愈烈將為社會(huì)公共治理帶來嚴(yán)峻挑戰(zhàn)。對(duì)于人臉識(shí)別的發(fā)展，有專家用“泛濫成災(zāi)”來形容。

清華大學(xué)法學(xué)院長(zhǎng)聘教授勞東燕曾對(duì)媒體表示，人臉識(shí)別應(yīng)用的最大獲益者不是普通的用戶或消費(fèi)者，而是給企業(yè)、產(chǎn)業(yè)界、相關(guān)部門帶來便利，企業(yè)獲得盈利，相關(guān)部門在管理上更加方便，但卻把風(fēng)險(xiǎn)主要轉(zhuǎn)嫁給了作為用戶的個(gè)人，這對(duì)普通社會(huì)公眾來講并不公平，推廣人臉識(shí)別技術(shù)應(yīng)當(dāng)持謹(jǐn)慎態(tài)度。

業(yè)內(nèi)人士建議，監(jiān)管方可以推出App活體檢驗(yàn)的技術(shù)標(biāo)準(zhǔn)和門檻，特別在金融等與個(gè)人財(cái)產(chǎn)相關(guān)領(lǐng)域防范偽造假臉帶來的財(cái)產(chǎn)損失。

本文來自微信公眾號(hào)“IT時(shí)報(bào)”（ID：vittimes），作者：潘少穎 江麗雯，編輯：王昕 挨踢妹，36氪經(jīng)授權(quán)發(fā)布。