僅需一張照片和一段逝者錄音，就能在數(shù)字世界中讓逝者“永生”……清明節(jié)前后，此類(lèi)AI“復(fù)活”廣告宣傳在各大電商和社交平臺(tái)上日益活躍，甚至演變成一門(mén)新“生意”。
技術(shù)的發(fā)展為滿(mǎn)足人們的精神與情感需求提供了更多載體，與此同時(shí)，AI“復(fù)活”也引發(fā)強(qiáng)烈爭(zhēng)議。有專(zhuān)家提出，AI“復(fù)活”技術(shù)被濫用，或?qū)?lái)侵害個(gè)人權(quán)益、數(shù)據(jù)隱私安全、傳播虛假信息等問(wèn)題。
□新華社記者
新“生意”背后的技術(shù)難度有多高？
“大家好！其實(shí)我沒(méi)有真正離開(kāi)這個(gè)世界……”不久前，已故藝人與公眾親切“打招呼”的視頻在社交平臺(tái)上引發(fā)網(wǎng)民關(guān)注，也讓AI“復(fù)活”這一話(huà)題進(jìn)入公眾視野。
利用AI技術(shù)將逝者“復(fù)活”，漸已發(fā)展成新“生意”。某電商平臺(tái)的數(shù)據(jù)顯示，在平臺(tái)經(jīng)營(yíng)AI“復(fù)活”相關(guān)業(yè)務(wù)的商家達(dá)1900余個(gè)。
在一家電商平臺(tái)上，某商家稱(chēng)，讓照片中的人物動(dòng)起來(lái)20元，如果要配上“AI人聲”則需收費(fèi)50元。數(shù)據(jù)顯示，該商家已達(dá)成超800次交易。在該電商平臺(tái)上，“復(fù)活”親人的“商品”售價(jià)在幾十元至幾百元不等。
在短視頻平臺(tái)上，一些商家展示多位已故藝人的“復(fù)活”視頻，疑似為其“復(fù)活親人”業(yè)務(wù)引流。視頻中，從表情到說(shuō)話(huà)口型，呈現(xiàn)效果參差不齊。
“有的‘復(fù)活’效果‘一眼假’，其實(shí)是過(guò)去‘照片活化’技術(shù)的延伸。有的‘復(fù)活’效果很逼真，多是采用‘深度合成’技術(shù)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測(cè)評(píng)實(shí)驗(yàn)室副主任何延哲認(rèn)為，當(dāng)前市面上絕大部分的AI“復(fù)活”并非剛出現(xiàn)的“新技術(shù)”。
一些商家已開(kāi)始兜售“AI‘復(fù)活’技術(shù)變現(xiàn)指南”。在某二手交易平臺(tái)上，記者以19.9元的價(jià)格購(gòu)買(mǎi)了一份“AI‘復(fù)活’技術(shù)教程”。除文字說(shuō)明外，還有視頻講授如何制作“照片活化”的短視頻。
記者了解到，當(dāng)前網(wǎng)絡(luò)上的AI“復(fù)活”工具主要分為三種。
一種在手機(jī)應(yīng)用商店中即可下載獲得，只要一張正臉照片就能根據(jù)應(yīng)用中所提供的模板“活化”，可實(shí)現(xiàn)歌唱、“演電影”等場(chǎng)景轉(zhuǎn)化。
第二種是利用線(xiàn)上工具，由用戶(hù)提供正臉照片和相關(guān)音頻文件，經(jīng)過(guò)系統(tǒng)自動(dòng)編輯后，實(shí)現(xiàn)照片中人物“開(kāi)口說(shuō)話(huà)”的效果，該工具需要用戶(hù)支付一定費(fèi)用。
第三種則是在開(kāi)源社區(qū)中，由程序員編寫(xiě)AI測(cè)試程序，在經(jīng)過(guò)相關(guān)語(yǔ)料訓(xùn)練后，將照片轉(zhuǎn)化為能簡(jiǎn)單對(duì)話(huà)互動(dòng)的“數(shù)字人”。此類(lèi)程序門(mén)檻較高，需要一定計(jì)算機(jī)知識(shí)基礎(chǔ)。
引發(fā)法律與倫理多重爭(zhēng)議
AI“復(fù)活”的話(huà)題引發(fā)重重爭(zhēng)議。
有專(zhuān)家認(rèn)為，是否進(jìn)入公共場(chǎng)域，是判斷AI“復(fù)活”是否侵權(quán)的重要分界線(xiàn)。
世輝律師事務(wù)所合伙人王新銳表示，個(gè)人利用AI“復(fù)活”親人、緬懷紀(jì)念，且在必要范圍內(nèi)使用，無(wú)需過(guò)度干預(yù)。而如果在公共平臺(tái)擴(kuò)散傳播，用于市場(chǎng)盈利，是否侵犯他人或社會(huì)公共利益就要特別考量。
今年3月，一些已故藝人的近親屬已就相關(guān)“復(fù)活”視頻提出下架要求，并表示后續(xù)或?qū)⒉扇》墒侄尉S權(quán)。
“在未依法獲得逝者相關(guān)近親屬授權(quán)的情況下，擅自使用逝者面容將其‘復(fù)活’并進(jìn)行商業(yè)推廣，涉嫌侵害逝者的肖像和名譽(yù)等權(quán)利。”北京康達(dá)（廈門(mén)）律師事務(wù)所高級(jí)合伙人張翼騰說(shuō)，根據(jù)民法典相關(guān)規(guī)定，如未經(jīng)許可，擅自使用逝者的姓名和面容用于“復(fù)活”，逝者的近親屬有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任。
一家社交平臺(tái)相關(guān)負(fù)責(zé)人表示，平臺(tái)認(rèn)為，未經(jīng)逝者生前同意或逝者家屬授權(quán)，他人不應(yīng)使用AI或任何技術(shù)手段“復(fù)活”逝者。該負(fù)責(zé)人稱(chēng)，如果家屬投訴或侵權(quán)行為被查實(shí)，平臺(tái)將對(duì)侵權(quán)賬號(hào)作出處罰。
AI“復(fù)活”還涉及“數(shù)字遺產(chǎn)”問(wèn)題。張翼騰說(shuō)，逝者生前的個(gè)人信息、聊天記錄等“數(shù)字遺產(chǎn)”能否繼承，目前沒(méi)有明確法律規(guī)定。對(duì)于誰(shuí)有權(quán)使用、如何避免不當(dāng)獲取、使用時(shí)應(yīng)遵循何種規(guī)范等問(wèn)題，仍需進(jìn)一步明確。
此外，相關(guān)服務(wù)中，AI需要處理大量個(gè)人敏感數(shù)據(jù)，如面部表情、語(yǔ)音語(yǔ)調(diào)等；數(shù)據(jù)一旦被濫用或泄露，會(huì)對(duì)用戶(hù)隱私造成威脅。業(yè)內(nèi)人士建議，開(kāi)發(fā)者和使用者都應(yīng)承擔(dān)責(zé)任，確保技術(shù)不會(huì)誤導(dǎo)用戶(hù)或影響人類(lèi)情感；同時(shí)也要注意隱私保護(hù)和數(shù)據(jù)安全。
值得關(guān)注的是，AI“復(fù)活”技術(shù)使用不當(dāng)，也可能成為犯罪分子實(shí)施詐騙等犯罪活動(dòng)的工具。
“服務(wù)提供者不會(huì)也沒(méi)有能力核實(shí)‘逝者’的身份信息，一些不法分子也可能以‘復(fù)活’之名行‘詐騙’之實(shí)。”中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟說(shuō)，面對(duì)新的電信網(wǎng)絡(luò)違法犯罪活動(dòng)時(shí)，不熟悉網(wǎng)絡(luò)應(yīng)用的中老年群體更易成為受害者。
AI“復(fù)活”也可能衍生新型法律糾紛。“不排除有人會(huì)借AI‘復(fù)活’來(lái)偽造逝者遺囑或做出其他違背逝者意愿的事。”王新銳提出，如有近親屬利用這項(xiàng)技術(shù)偽造音視頻遺囑，或?qū)⒑馁M(fèi)更多時(shí)間和人力成本來(lái)驗(yàn)證真實(shí)性，甚至給司法鑒定帶來(lái)一定挑戰(zhàn)。
亟待完善法規(guī)厘清邊界
業(yè)內(nèi)專(zhuān)家認(rèn)為，技術(shù)創(chuàng)新永無(wú)止境，其應(yīng)用應(yīng)有道德邊界和法律規(guī)范。應(yīng)抓緊完善相關(guān)法律法規(guī)，警惕AI“復(fù)活”技術(shù)可能產(chǎn)生的社會(huì)風(fēng)險(xiǎn)。
首先，AI“復(fù)活”技術(shù)的應(yīng)用，應(yīng)嚴(yán)格遵守知情同意原則，在網(wǎng)絡(luò)傳播過(guò)程中不侵犯他人利益。
2022年，國(guó)家網(wǎng)信辦等三部門(mén)發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)深度偽造等新技術(shù)應(yīng)用進(jìn)行了規(guī)范。規(guī)定明確，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。業(yè)內(nèi)人士認(rèn)為，如果被編輯人是逝者，理應(yīng)取得有義務(wù)保護(hù)逝者肖像權(quán)的親屬的同意。
其次，不少專(zhuān)家提出，AI“復(fù)活”產(chǎn)品應(yīng)恪守技術(shù)管理規(guī)范，加強(qiáng)內(nèi)容“標(biāo)識(shí)”。
左曉棟等專(zhuān)家表示，根據(jù)有關(guān)規(guī)定，相關(guān)技術(shù)服務(wù)提供者必須對(duì)“生成內(nèi)容”進(jìn)行“標(biāo)識(shí)”；在已有原則性要求的背景下，可出臺(tái)相關(guān)行業(yè)標(biāo)準(zhǔn)，要求相關(guān)技術(shù)服務(wù)提供者在生成式內(nèi)容中添加“水印”，防止不法分子借用該技術(shù)實(shí)施違法犯罪活動(dòng)。
另外，業(yè)內(nèi)人士提出，在數(shù)據(jù)處理過(guò)程中，要更注重隱私保護(hù)和數(shù)據(jù)安全。
2023年，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、教育部等七部門(mén)聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，進(jìn)一步明確了生成式人工智能的行業(yè)發(fā)展規(guī)范。辦法規(guī)定，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。
專(zhuān)家還建議，要進(jìn)一步落實(shí)相關(guān)平臺(tái)的主體責(zé)任，處置借AI“復(fù)活”概念不當(dāng)牟利的不法商家。
“不能放任AI‘復(fù)活’變成一門(mén)沒(méi)有規(guī)矩和底線(xiàn)的‘生意’，尤其要保護(hù)對(duì)新技術(shù)不敏感的中老年用戶(hù)群體。”中國(guó)法學(xué)會(huì)消費(fèi)者權(quán)益保護(hù)法研究會(huì)副秘書(shū)長(zhǎng)陳音江建議，有關(guān)平臺(tái)要幫助中老年用戶(hù)群體辨別深度偽造技術(shù)，取締不當(dāng)?shù)美倪`法違規(guī)商家，盡可能減少技術(shù)濫用帶來(lái)的社會(huì)風(fēng)險(xiǎn)。
法律界人士建議，有關(guān)部門(mén)對(duì)AI“復(fù)活”的需求和其衍生的產(chǎn)業(yè)鏈要保持關(guān)注、合理辨析，在現(xiàn)行法律法規(guī)基礎(chǔ)上做好數(shù)據(jù)保護(hù)、涉詐犯罪風(fēng)險(xiǎn)預(yù)防等方面的監(jiān)管。
此外，普通群眾在面對(duì)諸如AI“復(fù)活”等新技術(shù)時(shí)，要提高警惕，一方面要避免掉入不法商家借新技術(shù)之名設(shè)下的虛假宣傳之坑，另一方面也要提防詐騙者運(yùn)用深度偽造技術(shù)喬裝“親友”實(shí)施電詐行為。
?。ㄐ氯A社福州4月7日電）
