國內首個監管“AI換臉術”規定出臺，防得住技術作惡的人嗎？
導語：人人都愛換臉術，人人都怕換臉術
作者 | 園長
編輯 | 石燦
11月底，國家網信辦、文旅部和廣電總局等三部門聯合發布了《網絡音視頻信息服務管理規定》，明確“利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的……應當及時采取相應的辟謠措施”等針對換臉技術的新規定。
這也是國內第一個關于“AI換臉術”的監管措施，目的在于打擊利用AI 技術制作的虛假音視頻，控制此類“新型謠言”的傳播。
此前，國內出現過幾次AI換臉術風靡期。
“如何讓楊冪擁有朱茵的演技？”
年初，一段借助AI換臉技術制作的94版《射雕英雄傳》火了，黃蓉飾演者朱茵的臉被換臉技術“偷天換日”變成了楊冪的，雖然五官大不相同，但換臉后的表情、動作卻很自然流暢。彈幕中不停有人感嘆，“要是大冪冪有這樣的演技就好了。”
（AI換臉視頻“楊冪版黃蓉”）
這段視頻來自B站，Up主名為“換臉哥”。利用換臉技術DeepFake，普通人經過簡單的學習也能制作出真假難辨的換臉視頻。
9月，一款名為“ZAO”的App進一步將換臉技術“白菜化”，只需在手機上安裝這款App，就可以在視頻模版中一鍵“換臉”。
但在爆火的同時，ZAO被曝出不尊重用戶隱私等問題；包括國外盛行的DeepFake換臉技術，自產生之日起就面臨著技術濫用的困擾——公眾擔心有人可能使用幾乎以假亂真的換臉技術，進行詐騙誹謗甚至制作色情視頻。
實際上，后者已經被“廣泛應用”了，包括斯嘉麗·約翰遜、艾瑪·沃森在內的明星都成了這項技術的“受害者”。
面對這些因新技術蝶變而出現的新內容形勢，國外和國內的監管隨之而來。美國弗吉尼亞州先前對DeepFakes采取了行動，擴大了其“復仇色情法”的定義監管范疇。
但在不斷更新的技術手段面前，此類規定能防住別有用心的人利用技術作惡嗎？
人人都愛換臉術
現在，制作發布了楊冪-朱茵換臉視頻的Up主“換臉哥”已經無法在B站搜索到。
但在B站搜索“換臉術”，仍有相當多視頻，有不少是由換臉視頻App“ZAO”直接生成的，也有專門做換臉視頻的Up主上傳的。
（B站的AI換臉視頻 Up主：趨暗物質）
在他的視頻中，有楊超越代替宋慧喬做女主的《浪漫滿屋》，黑寡婦版的佟湘玉，李云龍版的《巴啦啦小魔仙》……這些視頻的播放量都不低，在B站甚至形成了一個獨特的創作者“流派”——鬼畜換臉派。
盡管從出場起就伴隨著質疑，換臉術依然有著人們難以拒絕的獨特魅力。
2017年年底，一位名叫“DeepFakes”的國外網友發布了用于換臉的一套算法，很快就被用于換臉視頻的制作，這套算法也被稱作“DeepFake”。從這時起，普通創作者擁有了一個成本低廉的換臉視頻解決方案。
不久后，有人將DeepFake算法整合打包成一個軟件，無需安裝python等程序就可以直接運行，再次降低了換臉術的學習和使用成本。
7月，新京報曾報道有人利用此類軟件牟利——繳納398元的學費后，學員只要完成“鏈接到云硬盤、提取臉部數據、訓練模型、換臉輸出視頻”四個步驟，就能實現AI換臉視頻的制作。此外，店家還附贈600余部AI換臉制作的淫穢視頻。
（淘寶上仍然有換臉視頻的訂制和教學服務）
8月底，換臉App ZAO上線，直接為用戶省略了下載安裝和學習訓練的環節，使用成本也被降到無限接近于零。
人們可以上傳照片自動替換影視劇“名場面”中角色的臉部，很快就能得到一條AI制作的換臉視頻。
ZAO的爆火沒有持續太久，持續了一個星期就因為玩法過于單一而“失寵”。不過，ZAO還是將換臉技術的使用門檻降低到了手機美顏、P圖的水平。
制作一個換臉視頻，再也不是什么難事。 但換臉技術帶來的不僅僅是搞笑和娛樂性質的視頻，色情和謠言視頻也借此大行其道。
這對人們的認知更是顛覆性的——“眼見為實”的傳統觀念，在高度發達的換臉技術面前也變得不可靠：你看到的東西，也可能是假的。
人們也開始意識到，AI換臉不僅僅是一個有趣的圖像處理技術，對于社會生活的影響之大，是這項技術剛剛出現時人們遠遠想不到的。因此，技術越成熟，遭到平臺和政府的監管也越多。
2019年7月初，弗吉尼亞州通過了一條有關色情禁令的法律修正案，禁止出售包括虛假創作在內的“處于裸體或脫衣狀態的視頻和圖像。”弗吉尼亞也成為美國首批禁止傳播計算機生成的色情內容的地區之一。
11月11日，國際互聯網社交巨頭推特也公布了打擊DeepFake視頻策略。其中包括了在涉嫌DeepFake的視頻中進行特殊標注、添加真實新聞來源鏈接等措施。
此前不久，谷歌、Facebook和亞馬遜等巨頭紛紛贊助了檢測DeepFake視頻的研究項目，希望可以借助技術手段提前布局，在視頻識別上領先一步。
人人都怕換臉術
單純的換臉術并不讓人過于擔心，真正引起公眾擔憂的，是虛假視頻+虛假音頻的融合：目前可以做到AI換臉，也能實現AI合成聲音（各個“AI主播”的出現就是一個例證），兩者一旦更加深度地進行融合，對于目前的音視頻鑒定技術將是一個巨大的考驗。
（主持大會的AI主播 這已經是一個成熟技術圖源：36氪）
同時，也很難保證這種技術不被用于作惡——比如造謠、詐騙、制作色情視頻和虛假新聞等等，人們更加難以分辨一段畫面和聲音都“無比真實”的視頻是真是假，當事人的辟謠成本也將因此陡增。
“傳統意義上‘真實’與‘虛假’的界線將被打破。”中國科學技術法學會李晟教授認為，DeepFake的真正問題正在于此。
有研究統計了超過1.4萬個DeepFake視頻，其中的96%包含色情元素。“大部分都是把女演員的臉，轉移到色情明星的身體上。”
網絡安全公司Deep Trace Lab這樣表示。從這個比例中也不難看出，DeepFake技術在大多數情況下沒有用對地方。
這也是許多圖像處理算法面臨的倫理問題——超前的技術大大降低了潛在的作惡成本。
6月，號稱可以“一鍵脫衣”的圖片處理程序DeepNude（深度裸體）上線，一時間使用者眾多，把服務器擠到無法登陸。
（DeepNude界面 圖源：IT之家）
技術的濫用，給社會帶來的只能是傷害，許多人特別是女性對此深感不安。
“人們濫用它的可能性太高了，我們不想這樣賺錢。”不久后，開發者阿爾貝托只好在一片罵聲中下線了這款程序，但惡果已經造成，那些被制作出來的圖片已經流傳到互聯網的各個角落去了。 更令人感到不安的是虛假音視頻的結合。
3月，犯罪分子成功模仿了一家英國能源公司母公司CEO的聲音，欺騙了多位同事和合作伙伴，一天內詐騙了220000歐元（約173萬元人民幣）。
這個報道來自Deeptech深科技，為人們描述了一個更加“防不勝防”的虛擬合成技術作惡的場景。 在此次公布的《網絡音視頻信息服務管理規定》中，關于AI造假音視頻的規定主要有四條。
在新的規定中，包括“按照國家有關規定開展安全評估”、“以顯著方式予以標識”非真實音頻信息、不得利用AI造假技術發布虛假新聞、部署AI造假音視頻鑒別技術和健全辟謠機制等。
和國外同類管理規定相比，這套措施相對來說比較完善，既有安全評估等源頭管理，又有鑒別技術和辟謠機制配套，對于防止濫用AI技術造假音視頻干擾信息傳播秩序很有幫助。
但對于AI造假技術在信息傳播之外的應用，還需要更多配套的機制建設。
我們還能隨便“換臉”嗎？
5月，我國民法典人格權編草案二審稿提出，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。
“如果正式通過，這意味著即便沒有營利目的和主觀惡意，未經本人同意的AI換臉同樣有可能構成侵權。”北京大學法學院副院長薛軍分析道。 民法等司法體系的完善，也代表著AI生成音視頻技術配套機制的健全。界定“換臉”等AI生成音視頻技術是否侵權，也有了更加明確的成文規定。
它的影響將是多方面的。 可以預見的是，今后創作者對換臉技術的使用必將更加謹慎，需要警惕其中面臨的肖像權風險。
對于希望利用換臉技術牟取利益的人來說，這同樣是一種震懾，特別是色情視頻等黑產從業者。 從創業企業的角度來看，借助AI換臉、變聲等新鮮玩法，可預見回報會十分有限。
當陌陌旗下的ZAO收割完一波流量之后，大大提高了人們對于換臉視頻玩法和技術的門檻，除非在玩法和內容上有較大的突破，否則很難找到一個“爆點”。
主打“換臉”玩法的產品，也將進入一個相對低潮期。 但良好的體制規則應當在限制技術作惡的同時，不去限制技術的進步。
（《速度與激情7》是如何補拍保羅·沃克鏡頭的）
在2015年上映的電影《速度與激情7》中，保羅·沃克的演員不幸車禍喪生。為了補拍他未完成的戲份，劇組收集了他生前拍攝的所有影像資料，由替身演員完成表演動作，一些細微的部分使用合成技術進行嫁接。
這么一折騰，上映的時間錯后了將近一年。 AI換臉技術能夠提高計算機“換臉”時的效率，為影視制作降低時間成本。這是一個空前廣闊的應用場景。
將AI合成技術盡快用到正道上，才是一個“正經事”。 新技術的前景一定是光明的，特別是在日益完善的法規和監管之下。當年PhotoShop等修圖App還沒有普及時，人們也會驚嘆那些經過Ps的照片是“假照片”，同樣會擔心有人借助這種技術作惡。
現在，Ps技術得到了人們的普遍了解和認可——當我們看一些過于離奇的照片時，第一反應是“照片肯定是P的”。
但目前，距離人們意識到“視頻是‘P’的”還有很長一段路要走，保護人們的法律也還在完善的過程中。
當這些“基礎設施”在精神和物質上建立起來，“換臉”等AI合成技術 ，也將由此走向新的起點。
評論
評論
推薦評論
暫無評論哦，快來評論一下吧！
全部評論（0條）