眼見未必是真！

一張“人像照片”、一段“人物視頻”，都有可能成為不法分子犯罪的新手段和新工具。

2024年國家網(wǎng)絡(luò)安全宣傳周期間，關(guān)于AI換臉、換聲等對個人隱私侵害的話題再次成為大家關(guān)注的焦點。

實際上，就在網(wǎng)安周前一周舉行的外灘大會期間，也同樣在熱議這一話題。

AI換臉是一種在深度學習（Deep Learning）算法的加持下的計算機篡改人臉圖像的深度偽造（Deepfake）技術(shù)。

隨著AI換臉技術(shù)的不斷迭代，在提高文娛、電商等產(chǎn)業(yè)生產(chǎn)效率的同時，也帶來了層出不窮的風險。

9月初，韓國出現(xiàn)“深度偽造”技術(shù)下的新“N號房”案件，韓國女性陷入“AI換臉恐慌”，甚至在中國社交網(wǎng)絡(luò)上發(fā)帖求助。

同時，新浪科技發(fā)現(xiàn)，如今在小紅書、閑魚、B站等平臺，利用AI美女視頻教程吸引用戶，號稱“流行賽道，5天破萬粉，日入四位數(shù)”的教程，成為行業(yè)灰產(chǎn)的溫床。

近日，有網(wǎng)友在社交平臺反映，自己不但被做成了換臉視頻，還被放在收費論壇獲取非法收入。

而另一方面，依靠“AI美女”的幌子，一些人依靠數(shù)千元高價“課程”賺取利潤，并且即便最終不能實現(xiàn)所謂的月收入5萬也無法退費，一條灰色產(chǎn)業(yè)鏈就此形成。

在另一邊，無論是“AI一鍵換臉”，還是讓照片動起來，在一些陰暗的角落，生成式AI技術(shù)的崛起，也引發(fā)了一系列的行業(yè)亂象。

今年6月，在國內(nèi)，警方也破獲了一起利用AI技術(shù)“一鍵去衣”賺取灰色收入的案件。

涉案人白某在境外網(wǎng)站發(fā)布廣告，只需要一張日常生活照片，就可以完成“一鍵去衣”效果。

而據(jù)此人描述，在被抓獲時，他已經(jīng)在QQ上向351個人販賣過相關(guān)圖片，圖片數(shù)量將近7000張。

此外，2024年中央廣播電視總臺3·15晚會就曝光了使用“AI換臉”進行詐騙的行為。

據(jù)此前媒體調(diào)查，60%的受訪者表示憑借肉眼辨認不出AI換臉視頻。

不過，一些技術(shù)人員也表示，只要稍加留心，AI換臉還是有明顯破綻的。

“馬腳”就在面部輪廓和光線上，可以仔細觀察下是否清晰。

有必要的話，還可以要求對方快速大幅度地做點頭等動作，從而觀察其面部輪廓是否有異常模糊。

此外，近年來殯葬行業(yè)選擇以元宇宙、AI數(shù)字人等方式來進行服務(wù)擴展，這種嘗試除了吸引大眾眼球之外還有什么實際的價值？

這種販賣AI換臉教程的可能會引發(fā)什么問題？

對社會造成什么危害？

“AI復活親人”的相關(guān)服務(wù)會變成行業(yè)流行的趨勢嗎？

對此，新浪科技羅寧和書樂進行了一番交流，本猴以為：

這種AI換臉，就是昔日PS換頭一樣，可以讓人隨意去生成任何人的“虛構(gòu)內(nèi)容”，其行為哪怕出于自娛自樂，也同樣侵犯了被換臉對象的個人權(quán)益。

此外，這樣的換臉術(shù)，可能應(yīng)用的空間很大，包括但不限于惡意捏造、構(gòu)陷的各種傳播，以及通過換臉術(shù)實施各種詐騙和繞開人臉識別系統(tǒng)的行為。

是的，因為每個人的照片或視頻，并不僅限于個人擁有，且在攝像頭林立的大時代，你甚至不知道你的頭像被多少陌生人獲得，其風險完全不可測。

特別是一些公眾人物，甚至未必是人類，都可能成為潛在受害者。

至于AI復活親人，則是另一個范疇，但同樣有風險。

不得不說有需求即市場，AI復活親人，某種意義上是一種基于黑科技的情感滿足和精神慰藉，但這一產(chǎn)業(yè)極為垂直和長尾，且屬于個性化定制，難以標準化生產(chǎn)，市場規(guī)模難以做大。

如果是“復活”親人，本質(zhì)上和老照片修復的性質(zhì)相似，只是加入了更多互動和個性元素，但整體上依然是“緬懷”。

其“復活”的親人，也不會向《流浪地球2》中演繹的那樣進一步學習、成長。

僅僅為了緬懷而復活親人，本質(zhì)上沒有倫理問題，主要在服飾、形象和互動言語上，把握好度即可，前提是親人必須是直系，用途也基于緬懷和陪伴。

其最大的隱患在于內(nèi)容生產(chǎn)方往往缺乏對需求方的資格審核，而讓所謂復活親人不再局限于“復活”，也未必是直系親人，而導致“作品”被濫用。

例如類似充氣娃娃式的虛擬形象、電信詐騙，以及用AI生產(chǎn)真人形象進行各種違法行為等。

無論是在元宇宙還是AI數(shù)字人，其“復活”的成都總歸和親人相去甚遠，只是懷念。

但更多的也只是帶有互動效果的遺像，而且可能還是會走樣，并不會成為流行大趨勢。