近日，一款主打“僅需一張照片，出演天下好戲”的換臉App——“ZAO”大火。該App使用AI技術(shù)，用戶只需要一張正臉照，就可以替換為影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。這讓“戲精”上身的網(wǎng)友一夜之間刷屏朋友圈。

    天眼查信息顯示，ZAO所屬公司為長(zhǎng)沙深度融合網(wǎng)絡(luò)科技有限公司，法定代表人為陌陌聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁雷小亮，由海南貓咖網(wǎng)絡(luò)科技有限公司100%控股。而后者由雷小亮和陌陌董事、總裁及COO王力各持股50%。

    爭(zhēng)議：

    1.“換臉視頻”收集的面部信息，是用戶最核心的個(gè)人信息

    由于換臉后需要進(jìn)行眨眼、抬頭等各種驗(yàn)證，與刷臉支付采集的臉部信息類似，同時(shí)注冊(cè)平臺(tái)需要手機(jī)號(hào)碼，不少用戶擔(dān)心臉部數(shù)據(jù)被泄露會(huì)引發(fā)一系列問(wèn)題。專家指出，此類軟件的確存在隱私泄露風(fēng)險(xiǎn)。

    中國(guó)政法大學(xué)傳播法研究中心副主任朱巍分析，在這個(gè)過(guò)程中，可能存在核心個(gè)人信息泄露的風(fēng)險(xiǎn)，“首先，換臉技術(shù)，包括在搜集信息過(guò)程中轉(zhuǎn)動(dòng)臉部、眨眼，本質(zhì)是搜集了你面部的識(shí)別信息，這個(gè)是用戶最核心的個(gè)人信息。個(gè)人信息一旦被比對(duì)之后，如果落到壞人的手里，有可能涉及財(cái)產(chǎn)安全和人身安全的問(wèn)題。”

    2.“換臉視頻”中，涉及影視劇著作權(quán)、知識(shí)產(chǎn)權(quán)

    在軟件內(nèi)置可供選擇的影視劇片段中，有包括《延禧攻略》《長(zhǎng)安十二時(shí)辰》《還珠格格》在內(nèi)的多部熱門(mén)國(guó)內(nèi)電視劇，也有石原里美、萊昂納多·迪卡普里奧等國(guó)外明星的影視劇片段，還有大量熱門(mén)的綜藝片段。

    對(duì)此，朱巍指出：“換臉技術(shù)要把人臉?lè)诺接耙晞±锩嫒?，影視劇本身涉及著作?quán)、知識(shí)產(chǎn)權(quán)。突然間把臉換了，是不是構(gòu)成合理使用？這個(gè)可能跟知識(shí)產(chǎn)權(quán)法有密切關(guān)系。”

    3.App的用戶協(xié)議太霸道

    這款軟件的用戶協(xié)議寫(xiě)道，使用這款軟件的換臉功能，需要同意授予這款軟件及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對(duì)肖像權(quán)利人的肖像進(jìn)行形式改動(dòng)。

    北京岳成律師事務(wù)所律師岳?山指出：“我授權(quán)給你以后，你不能把我的照片用于其他的非法用途，或者把我的照片進(jìn)行修改、丑化、惡搞，這對(duì)我授權(quán)給你使用肖像權(quán)的目的存在一定偏差。這個(gè)時(shí)候其實(shí)對(duì)于上傳照片的App用戶來(lái)講，可能構(gòu)成的是名譽(yù)上的侵權(quán)，或者導(dǎo)致他的社會(huì)評(píng)價(jià)降低等，這也有可能構(gòu)成侵權(quán)。”

    8月31日晚，該款軟件“用戶協(xié)議”中，“您的必要授權(quán)”這一項(xiàng)內(nèi)容與此前相比進(jìn)行了較大幅度的修改，去掉了關(guān)聯(lián)公司相關(guān)表述等內(nèi)容。

    回應(yīng)：“不管換得多逼真，都無(wú)法突破刷臉支付”

    “目前，網(wǎng)上各類換臉軟件有很多，但不管換得有多逼真，都是無(wú)法突破刷臉支付的。”8月31日中午，螞蟻金服官方回復(fù)21世紀(jì)經(jīng)濟(jì)報(bào)道記者時(shí)說(shuō)。此外，在進(jìn)行人臉識(shí)別后，部分用戶還需要輸入與賬號(hào)綁定的手機(jī)號(hào)進(jìn)行校驗(yàn)，進(jìn)一步提高了安全性。同時(shí)，支付寶還會(huì)通過(guò)各種安全風(fēng)控策略確保賬戶安全。

    一位國(guó)有大行網(wǎng)絡(luò)金融部負(fù)責(zé)人表示，其團(tuán)隊(duì)今年年初找權(quán)威機(jī)構(gòu)做過(guò)人臉識(shí)別相關(guān)的檢測(cè)，“在活體檢測(cè)、視頻攻擊等方面存在一定風(fēng)險(xiǎn)；后臺(tái)算法升級(jí)會(huì)使防控效果有一定提升，但是類似換臉的攻擊威脅會(huì)一直存在。”

    觀點(diǎn)：“科技向善”應(yīng)該成為我們的底線

    在2019世界人工智能大會(huì)上，在以“科技有道，擇善而行”為主題的分論壇上，該App引起了嘉賓們的討論。

    英特爾副總裁陳偉提到，如果一些技術(shù)用得不當(dāng)，可能會(huì)造成不良后果，“技術(shù)能決定你走多高，向善能決定你走多遠(yuǎn)”。

    騰訊董事會(huì)主席兼首席執(zhí)行官馬化騰在2019世界人工智能大會(huì)開(kāi)幕式演講時(shí)說(shuō)，這也再次提醒人們思考如何探索人與AI的正確相處之道。“在AI的治理方面，以科技向善引領(lǐng)全方位治理，確保AI可知、可控、可用、可靠。這個(gè)‘四可’的原則，是我在去年大會(huì)上提出的。觀察這一年來(lái)的情況，我們發(fā)現(xiàn)AI治理的緊迫性越來(lái)越高。”

    騰訊優(yōu)圖實(shí)驗(yàn)室總經(jīng)理吳運(yùn)聲說(shuō)，這個(gè)技術(shù)不僅僅涉及視頻，還有聲音。“科技向善確實(shí)應(yīng)該成為我們的一種底線。我們要不斷地去思考：我們技術(shù)的底線在什么地方？”

    思考：人工智能進(jìn)行“換臉”門(mén)檻逐漸降低，安全隱患增加

    其實(shí)，人工智能進(jìn)行“換臉”的技術(shù)數(shù)年前已經(jīng)出現(xiàn)。2017年，國(guó)外一個(gè)論壇用戶首先將自己制作的“換臉”視頻發(fā)布在網(wǎng)絡(luò)上，利用這一技術(shù)，他將國(guó)外女明星的照片與色情影片合成，幾乎以假亂真，一度引發(fā)巨大爭(zhēng)議。今年年初，有國(guó)內(nèi)用戶在網(wǎng)絡(luò)上發(fā)布一段合成的“換臉”視頻，將一段電影片段中朱茵的臉換成了楊冪，也曾引起爭(zhēng)議。隨著如今這款軟件的爆紅，視頻“換臉”門(mén)檻進(jìn)一步降低。

    AI換臉軟件所引發(fā)的爭(zhēng)議表面上是圍繞隱私保護(hù)，但在本質(zhì)上卻反映了一個(gè)全社會(huì)甚至全人類必須面對(duì)的新課題：人類技術(shù)在飛速進(jìn)步，在不斷進(jìn)入新的領(lǐng)域，它不僅給人類帶來(lái)更高品質(zhì)的生活，同時(shí)也會(huì)引發(fā)大量創(chuàng)造性破壞。這對(duì)人類現(xiàn)有制度體系、運(yùn)行機(jī)制、法律規(guī)則和社會(huì)秩序等都將造成前所未有的挑戰(zhàn)。


作者：吳海舒
編輯：吉倩倩 實(shí)習(xí)編輯 王紅春
來(lái)源：據(jù)央廣網(wǎng)、上游新聞、新京報(bào)、澎湃新聞、第一財(cái)經(jīng)、21世紀(jì)經(jīng)濟(jì)報(bào)道