AI換臉，該抵制嗎？
眼見≠為實(shí)，AI換臉欺騙了不少人。
前兩天，湖北公安破獲了一起用AI換臉技術(shù)解鎖社交賬號(hào)并倒賣獲利的案件。不法分子通過(guò)AI換臉專門幫人解鎖被平臺(tái)凍結(jié)的交友賬號(hào)，每解鎖一個(gè)，收費(fèi)15元-30元不等。該團(tuán)伙共解凍了2107個(gè)賬號(hào)，從中獲利40萬(wàn)元。
有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，深度偽造也就是deepfake，是learning和fake的組合，主要指用AI深度學(xué)習(xí)的技術(shù)，合成某個(gè)人的圖片或視頻、甚至聲音，最常見的便是AI換臉。工信部更是在近期表示，將推出AI換臉詐騙風(fēng)險(xiǎn)提醒功能。
一邊是AI換臉詐騙案件屢屢發(fā)生，另一邊則是AI換臉技術(shù)不斷迭代。
AI圈最近被一款A(yù)I換臉項(xiàng)目——Deep-Live-Cam，炸開了鍋。用戶只需上傳一張照片，便可實(shí)時(shí)換臉成扎克伯格、董宇輝等任何想成為的人。
這一項(xiàng)目免費(fèi)面向所有用戶開放，發(fā)布在GitHub（代碼托管平臺(tái)）上，支持個(gè)人電腦安裝。項(xiàng)目開發(fā)者公布了安裝方法，沒(méi)有技術(shù)經(jīng)驗(yàn)的普通人可以邊學(xué)邊安裝。
由于操作簡(jiǎn)單方便且換臉真實(shí)度高，Deep-Live-Cam出場(chǎng)便登上GitHub熱榜第一，24小時(shí)狂攬1600+星（星星代表項(xiàng)目點(diǎn)贊和關(guān)注指標(biāo)，幾千顆星星是相當(dāng)不錯(cuò)的級(jí)別）。不少網(wǎng)友將自己換臉成馬斯克，體驗(yàn)了一把全球億萬(wàn)富豪的感覺(jué)。
但大家在感慨AI換臉技術(shù)取得突破的同時(shí)，也在擔(dān)憂“詐騙更變得容易了”。AI換臉，該抵制嗎？
1 普通人都能用的AI換臉，成本低至十幾塊
目前國(guó)內(nèi)外出現(xiàn)的AI換臉工具不少，Deep-Live-Cam被熱議的原因主要在于，用戶只用上傳一張圖但替換效果非常逼真，還支持實(shí)時(shí)換臉。
其實(shí)，“實(shí)時(shí)換臉”功能的技術(shù)門檻算不上高。
瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪介紹，想達(dá)到實(shí)時(shí)視頻換臉效果有兩種方式：一種是播放事先做好的換臉視頻，一種是接入實(shí)時(shí)換臉視頻。Deep-Live-Cam屬于后者。
無(wú)論哪種，AI換臉視頻都需兼顧前后幀的連貫性，而基于連續(xù)人臉視頻的處理，可根據(jù)前一幀的很多檢測(cè)資源做微小的調(diào)整，“這也讓基于連續(xù)幀的視頻/直播換臉，相比獨(dú)立幀的單張換臉，效率更高”，一位從事AI技術(shù)的研究員表示。
AI換臉依托的底層技術(shù)是Deepfake，從業(yè)者推測(cè)，Deep-Live-Cam采用的也是這一技術(shù)，所以僅從制作合成花費(fèi)的素材和算力看，成本不會(huì)很高。
蕭子豪表示，如果不考慮其他硬件采購(gòu)成本，大多數(shù)AI換臉成本，一次大概只要十幾塊，主要包含照片和算力，Deep-Live-Cam可能更低。和其他AI換臉工具相比，Deep-Live-Cam用的照片數(shù)量更少，該工具還支持普通電腦使用，照片和算力成本更低。
相比之下，Deep-Live-Cam支持僅用一張圖片換臉，更讓從業(yè)者們震驚。因?yàn)檫^(guò)往的AI換臉產(chǎn)品需要用戶提供多張不同角度的至少十幾張照片。
照片難度的降低讓用戶玩嗨了。AI追隨者小C表示，自己之前沒(méi)接觸過(guò)任何AI換臉工具，他覺(jué)得Deep-Live-Cam操作門檻不高，按照發(fā)布者的說(shuō)明便可完成，尋找換臉?biāo)夭牡碾y度也不是很高。
他將自己換臉成了郭德綱、吳京、雷佳音等一眾名人，且都只用了他們各自的一張圖片。他表示，只要提供的是正臉、額頭無(wú)遮擋、自然光，接近自己膚色、證件照比例的照片，一張便可成功，臉換效果也很自然。
不止一位從業(yè)者認(rèn)為，部分影視劇采用的AI換臉技術(shù)，不僅門檻高、成本高昂，換臉效果也不夠自然，說(shuō)話過(guò)程中經(jīng)常出現(xiàn)變形、失真。“像不像是AI換臉工具最大的難題，Deep-Live-Cam能支持一張圖在直播過(guò)程中達(dá)到，臉邊緣沒(méi)有明顯貼圖痕跡，膚色和原人物差別不大的效果，逼真度領(lǐng)先很多AI換臉工具，”蕭子豪分析，其開發(fā)者應(yīng)該是在圖片渲染模型上實(shí)現(xiàn)了過(guò)往AI換臉工具沒(méi)有的突破。
不過(guò)，目前Deep-Live-Cam還存在一些Bug，比如支持換臉但不涉及換聲。但蕭子豪表示，想要實(shí)現(xiàn)此舉不難，接入實(shí)時(shí)換聲工具即可，稍有編程基礎(chǔ)的人就能完成。
2 AI換臉，躲不掉的詐騙和侵權(quán)
Deep-Live-Cam等工具降低了用戶的使用門檻，但大家也開始恐懼，不法分子只用一張圖就可以換臉行騙，對(duì)普通人而言，風(fēng)險(xiǎn)將會(huì)劇增。
瑞萊智慧數(shù)據(jù)指出，國(guó)內(nèi)AI詐騙案件的涉案金額從2020年的0.2萬(wàn)增長(zhǎng)至2023年的1670萬(wàn)，年復(fù)合增長(zhǎng)率高達(dá)1928.8%。2024年上半年，AI詐騙案超過(guò)1.85億。奇安信發(fā)布的《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%。
AI換聲、AI換臉、AI生成是AI詐騙常用的三種手段，其中AI生成內(nèi)容，秒數(shù)有限，畫質(zhì)和人物瑕疵明顯，因此不法分子最常用的是AI換聲、AI換臉。而大多人相信“眼見為實(shí)”，又讓AI換臉的欺騙性高于AI換聲。
AI換臉不僅騙到了老年人，很多從事科技領(lǐng)域的年輕人也一夜失掉幾百萬(wàn)。
據(jù)媒體公開報(bào)道，去年某科技公司CEO收到朋友轉(zhuǎn)賬求助，不到10分鐘被騙430萬(wàn)元，騙子主要便是利用了AI變臉技術(shù)。還有香港某跨國(guó)公司員工被騙入不法分子設(shè)計(jì)的高管視頻會(huì)議后，將2億港元打到對(duì)方賬戶。
AI換臉達(dá)到了“能以假亂真”的程度，是從業(yè)者的共識(shí)。
李旭反傳防騙團(tuán)隊(duì)負(fù)責(zé)人李旭對(duì)AI換臉技術(shù)的關(guān)注，便來(lái)源于各種詐騙案件。他表示，近兩年AI換臉詐騙案件頻發(fā)，市面上大概有三種AI換臉詐騙手段非常成熟。
第一種，利用AI換臉偽造色情視頻，對(duì)受害人進(jìn)行敲詐。
比如犯罪團(tuán)伙會(huì)從網(wǎng)上等各種渠道收集被害人圖片、視頻信息，然后進(jìn)行一鍵去衣、AI換臉等合成處理，將偽造的不雅視頻或者艷照發(fā)給受害者，用來(lái)敲詐勒索。
第二種，利用AI換臉冒充熟人詐騙。
比如詐騙團(tuán)伙會(huì)用市面上的一些換臉工具偽裝成受害人的親人、朋友、同事、領(lǐng)導(dǎo)等，先虛構(gòu)一個(gè)緊急事由，利用被騙目標(biāo)的急迫心理實(shí)施詐騙行為，受害人在情急之下往往容易放松警惕將錢轉(zhuǎn)出。
現(xiàn)在使用Deep-Live-Cam更只需要采集受害者一兩張照片即可深度仿造技出一段視頻，李旭覺(jué)得，AI換臉詐騙的程度超出了大多數(shù)普通人的認(rèn)知，也直接改變了電信詐騙的劇本，防不勝防，愈演愈烈。
第三，利用AI換臉冒充名人進(jìn)行直播帶貨，騙取用戶下單。
比如主播在直播間利用“AI換臉”給自己“換”了一張名人臉，從而增加直播視頻流量，助力直播帶貨。
此外，未經(jīng)他人允許，通過(guò)AI換臉對(duì)名人/普通人進(jìn)行長(zhǎng)短視頻二創(chuàng)、制作表情包等侵權(quán)問(wèn)題也十分常見。
AI換臉詐騙案件頻發(fā)且手段多樣，與這一技術(shù)的成熟度和廣泛度密切相關(guān)。
瀚皓科技CEO吳杰茜告訴「定焦」，“目前，AI視頻生成、數(shù)字人和AI換臉技術(shù)都很成熟，而AI換臉是其中發(fā)展最早的領(lǐng)域。”
2014年Deepfake（深度偽造）技術(shù)的出現(xiàn)，標(biāo)準(zhǔn)著AI換臉誕生，但一直在小范圍傳播，直到2017年，有用戶利用該技術(shù)發(fā)布不實(shí)色情圖片后，AI換臉才走入大眾視野，但同時(shí)也因?yàn)槠鋷?lái)的大量造假內(nèi)容，該技術(shù)一直備受爭(zhēng)議。
不止一位從業(yè)者表示，這些年，雖然大眾對(duì)AI換臉的討論多集中在拯救影視劇上，但由于不好監(jiān)管，利用AI換臉進(jìn)行造假詐騙的事情也一直沒(méi)斷過(guò)。且AI換臉技術(shù)一直在迭代，入局者也不少，目前除了一些大廠涉及這一業(yè)務(wù)外，國(guó)內(nèi)很多數(shù)字人、AI生成視頻初創(chuàng)公司都有開發(fā)AI換臉業(yè)務(wù)，技術(shù)普及度比較高，該類工具也越來(lái)越多。
技術(shù)成熟、普及度高，監(jiān)管也有一定的難度，導(dǎo)致讓AI換臉技術(shù)這些年一直被濫用。
3 如何辨別越來(lái)越逼真的AI換臉？
近兩年AI換臉導(dǎo)致的各種違法犯罪行為不少，不可控性讓部分人覺(jué)得應(yīng)該抵制AI換臉技術(shù)。
但也有很多從業(yè)者覺(jué)得，科技本身是中性的，其帶來(lái)的好壞影響主要取決于使用者。AI換臉技術(shù)的出現(xiàn)和迭代不應(yīng)該被制止。
吳杰茜表示，目前國(guó)內(nèi)外均沒(méi)有對(duì)AI換臉技術(shù)采取一刀切，更多是進(jìn)行立法管理。
比如美國(guó)針對(duì)深度偽造進(jìn)行了專門立法，歐盟將深度偽造納入《通用數(shù)據(jù)保護(hù)條例》等現(xiàn)有法律框架規(guī)制度，德國(guó)、新加坡、英國(guó)等國(guó)家也將深度偽造相關(guān)犯罪納入刑法體系。中國(guó)也在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中明確了對(duì)這一技術(shù)的規(guī)范。
多位從業(yè)者認(rèn)為，對(duì)AI創(chuàng)作的內(nèi)容進(jìn)行標(biāo)明等管理辦法，以及傳授給大眾一些防AI詐騙方法，是十分必要的。
比如，曾有技術(shù)人員提出，可以在視頻通話時(shí)，要求對(duì)方將手指放在臉部，仔細(xì)觀察人臉是否變形，或者讓對(duì)方張嘴，看牙齒和舌頭是否清晰完整，從而判斷圖像是真人還是AI合成。
去年這一方法還比較奏效，但今年隨著AI換臉技術(shù)的升級(jí)，已經(jīng)讓其失靈。
蕭子豪表示，當(dāng)下AI換臉技術(shù)可以實(shí)現(xiàn)有障礙物出現(xiàn)時(shí)人臉和動(dòng)作不變形，且畫質(zhì)清晰度很高。李旭也發(fā)現(xiàn)，近期發(fā)生的AI換臉詐騙案件都使用了很強(qiáng)的技術(shù)手段，單純靠動(dòng)作幾乎辨別不出。
鑒于AI換臉技術(shù)的快速發(fā)展，李旭認(rèn)為，提高警惕是目前相對(duì)有效的方法。比如接到熟人借錢的視頻來(lái)電時(shí)，可以問(wèn)對(duì)方一些只有彼此才知道的隱私問(wèn)題，并多向身邊人詢問(wèn)核實(shí)。
部分從業(yè)者覺(jué)得，用AI辨別AI或許是個(gè)不錯(cuò)的辦法。
比如先看畫面有沒(méi)有一些明顯違背常識(shí)的元素，重點(diǎn)看臉部邊緣是否有瑕疵，然后再借助一些AI工具。蕭子豪覺(jué)得用AI甄別AI，可識(shí)別出絕大多數(shù)騙局，目前很多公司和政府部門都找他們來(lái)合作AI換臉?lè)烙到y(tǒng)。
但此舉在國(guó)內(nèi)外也引發(fā)了一定爭(zhēng)議。
首先，這種方式具有一定的使用門檻，用戶需要在手機(jī)/電腦端下載相關(guān)應(yīng)用。其次，從本質(zhì)上看，這類防御工具存在一定的滯后性，主要對(duì)當(dāng)下AI換臉工具見招拆招，但AI換臉技術(shù)和合成方法在時(shí)刻變化。
很多人寄希望于相關(guān)法律法規(guī)完善，比如提高對(duì)AI換臉詐騙、銷售AI換臉淫穢視頻、換臉名人進(jìn)行帶貨等違法行為的懲罰力度。
去年，杭州蕭山區(qū)人民法院判決了一起用AI換臉制作淫穢視頻的案例，被告人因提供AI換臉定制服務(wù)，通過(guò)AI換臉制作了大量淫穢視頻，還用建群的方式吸引觀看者付費(fèi)進(jìn)群，涉案金額共6萬(wàn)余元，最終被判處有期徒刑七年三個(gè)月，并處罰金6萬(wàn)元。
不過(guò)也提醒大家一點(diǎn)，并不是所有的AI換臉都會(huì)侵犯肖像權(quán)。
今年6月北京互聯(lián)網(wǎng)法院宣判了兩起AI換臉侵權(quán)案件，兩位國(guó)風(fēng)短視頻模特在社交平臺(tái)上發(fā)現(xiàn)了自己視頻出現(xiàn)在某一換臉APP中，于是將該APP背后的科技公司告上法庭，認(rèn)為其損害了自己的肖像權(quán)和個(gè)人權(quán)益。
法院的宣判是，認(rèn)定被告使用了原告出鏡的視頻，但由于涉案視頻中的原告面部已被替換，并未侵害原告的肖像權(quán)，因此僅認(rèn)定此舉構(gòu)成對(duì)原告?zhèn)€人信息權(quán)益的侵犯。
此刻，AI換臉技術(shù)還在不斷升級(jí)，也尚未被禁止，AI換臉工具還大量在市場(chǎng)上流傳。
「定焦」近期在某電商平臺(tái)上直接搜索“AI換臉”時(shí)，已經(jīng)搜不到任何信息，但只要把關(guān)鍵詞稍加改變，還是能找到相關(guān)換臉工具售賣，并且路徑更為隱秘，會(huì)跳轉(zhuǎn)到某二手網(wǎng)站進(jìn)行交易。在技術(shù)和騙術(shù)都在不斷升級(jí)的當(dāng)下，大家能做的是提高警惕，防止被AI換臉侵害。
本文鏈接：http://m.albanygandhi.com/news-23-1010.htmlAI換臉，該抵制嗎？
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
