某直播間內(nèi)，一名主播正在進(jìn)行“換臉”帶貨。

(資料圖片)

“點(diǎn)進(jìn)直播間一看，‘迪麗熱巴’居然在直播賣貨。”近日，有網(wǎng)友點(diǎn)開直播間，卻發(fā)現(xiàn)正在賣貨的竟是當(dāng)紅女星。然而再定睛一看，這些帶貨“明星”很快露出了馬腳——身穿中式服裝，正在賣力帶貨的“明星”們，其實(shí)只是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播。

AI實(shí)時(shí)換臉，正在直播間悄然出現(xiàn)。

據(jù)中新網(wǎng)

采用AI換臉明星直播帶貨

已能達(dá)到以假亂真的地步

“一開始只是以為長得像，沒想到刷進(jìn)去好幾個(gè)直播間都這樣，才發(fā)現(xiàn)是用了‘換臉’。”路垚(化名)向記者表示，近期她被推送的好幾個(gè)直播間，都采用了AI換臉明星的方式進(jìn)行直播帶貨，而楊冪、迪麗熱巴、angelababy等當(dāng)紅女星，成了AI換臉的重點(diǎn)對(duì)象。

“向平臺(tái)投訴了也沒什么用。”她說。

記者注意到，目前的AI實(shí)時(shí)換臉，在直播中已能達(dá)到以假亂真的地步，不少人點(diǎn)進(jìn)直播間以后以為主播只是長得像明星，不過也有一些直播間出現(xiàn)了人身比例失調(diào)的違和現(xiàn)象。有網(wǎng)友指出了其中一些破綻:“主播低頭整理頭發(fā)的時(shí)候，腦門上全是黑的。”

“現(xiàn)在普通人的臉已經(jīng)不配直播了。”有網(wǎng)友如此感慨。

對(duì)于競爭火熱的直播間來說，“高顏值”是主播的重要資本之一，而使用“明星臉”直播，或許可以更好達(dá)到引流效果，并節(jié)省直播成本。此外，使用統(tǒng)一的“換臉”形象，也使直播間降低了主播走紅后“單飛”帶來的風(fēng)險(xiǎn)。

但不少網(wǎng)友也對(duì)“換臉”表示了反感:“發(fā)現(xiàn)是‘換臉’直播后，就失去了購買的欲望。”

通過智能后臺(tái)的AI換臉技術(shù)

主播可以實(shí)現(xiàn)形象實(shí)時(shí)替換

隨著AI技術(shù)的不斷進(jìn)步，AI實(shí)時(shí)換臉已逐漸成熟。近年來，AI實(shí)時(shí)換臉已從最初的娛樂“整活”，向直播等多個(gè)應(yīng)用場(chǎng)景發(fā)展。通過智能后臺(tái)的AI換臉技術(shù)，主播可以實(shí)現(xiàn)形象的實(shí)時(shí)替換。

有視頻換臉研究者表示，實(shí)時(shí)換臉不存在延遲，也不會(huì)有Bug，而直播畫面?zhèn)鬏數(shù)难舆t則取決于使用者的網(wǎng)絡(luò)配置和進(jìn)行直播的平臺(tái)。

記者以使用者的身份咨詢了一家提供“換臉軟件”的網(wǎng)站。該網(wǎng)站客服表示，使用AI換臉需要進(jìn)行模型訓(xùn)練。“合成效果好不好，關(guān)鍵看模型和素材。”

據(jù)提供“換臉軟件”的網(wǎng)站介紹，使用者自己從零開始訓(xùn)練模型，如果24小時(shí)掛機(jī)不停地訓(xùn)練模型，需要經(jīng)過半個(gè)月到一個(gè)月的時(shí)間，才能達(dá)到可以合成視頻的效果。

而比起自己花費(fèi)大量時(shí)間訓(xùn)練模型，更多人選擇購買現(xiàn)成的模型。“素材充足的話，你只要花費(fèi)半個(gè)小時(shí)到幾個(gè)小時(shí)的時(shí)間就可以直接合成視頻。模型可以替換任意素材使用，不分張三李四。”

該網(wǎng)站客服稱，他們提供的全套模型購買價(jià)格為3.5萬元，AI實(shí)時(shí)換臉可適用于各大直播平臺(tái)。

【鏈接】

換臉直播存在哪些侵權(quán)？

與此前因爭議沖上熱搜的“AI孫燕姿”一樣，AI換臉也存在侵權(quán)問題。

北京云嘉律師事務(wù)所律師趙占領(lǐng)表示，AI換臉主要涉及肖像權(quán)等問題。“如果說未經(jīng)他人同意，用他人的肖像替換某一個(gè)主播的形象，這種情況下涉嫌侵犯肖像權(quán)；如果還使用了他人的姓名，那還涉嫌侵犯姓名權(quán)。”

在AI換臉直播中，平臺(tái)是否負(fù)有責(zé)任？趙占領(lǐng)表示，平臺(tái)對(duì)于平臺(tái)內(nèi)商家的侵權(quán)行為不承擔(dān)直接侵權(quán)的責(zé)任，而是否構(gòu)成幫助侵權(quán)，主要是看平臺(tái)對(duì)于商家的侵權(quán)行為是否屬于明知或應(yīng)知。但對(duì)于如何判定平臺(tái)對(duì)用戶、權(quán)利人的投訴是否明知或應(yīng)知，趙占領(lǐng)也表示，在一般情況下很難認(rèn)定。

日前，某短視頻平臺(tái)發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，提出應(yīng)用生成式人工智能技術(shù)時(shí)，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。“禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。”

【延伸閱讀】

AI詐騙常用手法

第一種:聲音合成

騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對(duì)方。

第二種:AI換臉

人臉效果更易取得對(duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過視頻方式進(jìn)行信息確認(rèn)。騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)，通過AI技術(shù)篩選目標(biāo)人群。在視頻通話中利用AI換臉，騙取信任。

第三種:轉(zhuǎn)發(fā)微信語音

騙子在盜取微信號(hào)后，便向其好友“借錢”，為取得對(duì)方的信任，他們會(huì)轉(zhuǎn)發(fā)之前的語音，進(jìn)而騙取錢款。盡管微信沒有語音轉(zhuǎn)發(fā)功能，但他們通過提取語音文件或安裝非官方版本（插件），實(shí)現(xiàn)語音轉(zhuǎn)發(fā)。

第四種:AI程序篩選受害人

騙子利用AI來分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

例如:實(shí)施情感詐騙時(shí)，可以篩選出經(jīng)常發(fā)布感情類信息的人群；實(shí)施金融詐騙時(shí)，可以篩選出經(jīng)常搜索投資理財(cái)信息的人群。

如何防范？

多重驗(yàn)證確認(rèn)身份

如果有人要求你分享個(gè)人身份信息，如你的地址、出生日期或名字，要小心；

對(duì)突如其來的電話保持警惕，即使是來自你認(rèn)識(shí)的人，因?yàn)閬黼婏@示的號(hào)碼可能是偽造的；

網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話等多種溝通渠道核驗(yàn)對(duì)方身份，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助；

如果有人自稱“熟人”“領(lǐng)導(dǎo)”通過社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過電話、見面等途徑核實(shí)確認(rèn)，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息。

關(guān)鍵詞