從爆紅到下架"螞蟻呀嘿"只用7天
日期： 2021-03-04
新聞主題： 裸照,寫真,視頻,惡搞,美女,自拍,搞笑
來源: 21世紀經濟報道
導讀：一款名為Avatarify，火爆全網的AI換臉軟件，從2月底沖上蘋果App Store免費榜第一，到3月2日凌晨從App Store中國區悄然“下架”，只用了不到一周的時間。
目前官方未給出具體下架原因，業界猜測該款軟件可能涉及隱私安全等問題。
來 源丨北京日報、東方網、每日經濟新聞、中國商報、央視新聞等
“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”過去一周，在微信朋友圈、微博、抖音等社交媒體平台，相信不少人都被這個魔性的音樂配合著誇張扭動的變臉視頻刷屏了。
然而這款名為Avatarify，火爆全網的AI換臉軟件從2月底沖上蘋果App Store免費榜第一，到3月2日凌晨從App Store中國區悄然“下架”，只用了不到一周的時間。目前官方未給出具體下架原因，業界猜測該款軟件可能涉及隱私安全等問題。
因“螞蟻呀嘿”特效火爆全網
最近，在某短視頻社交平台上，一個叫作“螞蟻呀嘿”的特效火了。許多網友都將自己的照片導入一款名為Avatarify的“變臉”軟件中，照片會被算法驅動，變成一段跟著節奏晃動的視頻。
根據蟬大師數據顯示，制作該類短視頻的Avatarify變臉軟件一夜之間打敗了抖音、拼多多、微信等一眾大佬，並在2月25日強勢登頂App Store總榜。
這款軟件有多火？
據東方網，移動應用數據分析平台七脈數據顯示，2月25日0點，Avatarify在中國區App Store的免費App榜單僅排名第65，而到了當日下午五點，Avatarify躥升至免費榜第一名，並一直持續到3月1日。
直到3月5日，抖音#螞蟻呀嘿#相關話題播放總量已超29億次，特效被 785 萬人使用。
據東方網，Avatarify的名稱來源於“阿凡達”電影，創作者是一位開發工程師，最初只是因為疫情期間過於太無聊，才開發了這款變臉應用並將其開源。其實Avatarify早在去年7月就已經上線，但一直不溫不火，直至”螞蟻呀嘿“特效躥紅後，才帶火了這款軟件。
這款軟件通過AI換臉技術讓圖片動起來，為網友帶來新奇好玩的娛樂體驗，同時，螞蟻呀嘿短視頻的靈魂在於BGM，為人物增加了反差效果，從馬斯克、馬化騰等科技公司大佬，吳京、甄子丹等演藝界明星，到蒙拉麗莎等世界名畫，甚至貓貓狗狗們，都唱起了“螞蟻呀嘿”。
軟件運行的原理是將別人的臉套在自己的表情上進行實時驅動。用戶只需要三步：導入手機裡的人臉圖片，選擇視頻模板，軟件就能自動生成短視頻，再一鍵保存即可。如果想要照片中的多人都動起來，根據抖音中大多數視頻制作教程，則還需要一些剪輯軟件加以輔助。
據中國商報，目前的換臉技術與國外一款開源的AI換臉軟件deepfake極為相似。deepfake的核心技術是一種名為生成式對抗網絡（GAN）的框架，該網絡有兩個模塊，一個負責生成偽圖，另一個負責鑒別生成圖片的質量，通過“對抗博弈”的方式不斷進化，達到以假亂真的水平。
從中國區App Store下架
就在一眾網友玩的興起的時候，3月2日，在火爆了不到一周後，Avatarify卻悄然從App store下架了。
關於下架原因，目前官方並未說明。有網友表示，Avatarify只從中國區App Store下架，其余地區仍可正常下載，下架原因或與此前火爆一時的“ZAO”下架原因類似，涉及隱私安全等問題。但目前在App Store上，還有一批“螞蟻呀嘿同款特效”的App。
實際上，Avatarify遇到的問題早就出現過。
早在2019年，一款名為“ZAO”的換臉社交軟件在朋友圈刷屏，這款App由陌生人社交巨頭陌陌開發，用戶只需要一張正臉照，就可以替換影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。
不過，這項技術在帶來創新體驗的同時，也存在被濫用甚至侵害他人權益等額外風險，這也是Avatarify和ZAO引發質疑的共同原因。
雖然ZAO曾在其官方微博發布聲明稱，沒有采集任何個人生物識別特征、不會存儲個人面部生物識別特征信息、使用ZAO不會產生支付風險等，但依然無法打消用戶的疑慮，並引起了有關部門的關注。ZAO的口碑遭遇“滑鐵盧”。
值得注意的是，由於Avatarify采用的是免費下載+內購的形式，用戶若想在生成的動圖及視頻中去除水印、增加內存，則需要付費。據了解，此前Avatarify一周的使用價格為人民幣18元，包年價格為253元，首周免費。對於這個價格與服務，用戶的接受度並不高。
賺錢的反倒是網店。盡管Avatarify被突然下架，大眾對“螞蟻呀嘿”類視頻需求並沒有因此減弱。據北京日報，目前在淘寶、閒魚等平台上仍有這類視頻的代制作服務。“很多人想用‘螞蟻呀嘿’這樣的視頻上傳抖音，但並不會花錢去買Avatarify，所以會托我們制作。”一位淘寶賣家表示，他們團隊已經達到了10人，可以最快在30分鍾內完成相關視頻的制作，收費為一張9.9元。
AI換臉安全爭議不可回避
據央視新聞，類似”螞蟻呀嘿“這樣的特效，也是存在相應風險的。
在采訪中，演示人員為央視記者演示了如何利用深度合成中的表情操縱方法的安全漏洞攻擊人臉識別系統。
演示人員 張天奕：您現在看到的這段視頻，就是利用深度合成中的表情操縱的方法生成的一段偽造的視頻。就是說我們可以操縱一張圖片，讓它做出和右邊這個視頻一樣的動作來。比如說點頭、搖頭、說話。可以用於攻擊人臉識別系統的這種場景當中。
總台央視記者 杜思源：我們能看一下具體的攻擊過程嗎？
演示人員 張天奕：我們可以生成系統指令的這些，張嘴、點頭、搖頭之類的指定的動作，然後最終我們就可以冒充這個人完成了人臉驗證的環節。
總台央視記者 杜思源：也就是說我們只需要這個人的一張照片，就可以冒充他，然後攻破這個系統。
演示人員 張天奕：是的。
對於Avatarify的下架，有網友表示：“技術是好技術，但是應該有正確的使用規范。在沒有規范的前提下應當謹慎使用。”“AI換臉最怕的就是被不法分子利用。”
人臉識別應用中，還會產生哪些安全問題？
以子之矛，攻子之盾。從事人工智能安全研究的專業人員，用攻擊去暴露風險，再演練出針對性的防御技術，為人臉識別築起安全防線。除了技術本身的風險，人臉識別在應用的過程中，還會產生哪些值得關注的安全問題呢？
清華大學人工智能國際治理研究院副院長 梁正：主要是三個方面的問題，第一是對個人隱私的這方面的擔憂，泄露的問題。第二是安全的問題，不管是在這個金融交易，還有一些像家居生活這樣一些方面。第三個其實是被濫用的方面的這個擔心。
目前，有許多用戶出於人臉信息被泄露的顧慮，對這一技術感到不信任。專家表示，相關立法已經在重點關注人臉數據的采集和管理。
中國人民大學未來法治研究院副院長 丁曉東：正在制定的個人信息保護法草案的一個規定，主要是規制專業的這些信息收集人員他對於個人人臉信息的采集，事先就要獲取對方的同意。你的處理過程的話，你必須也是要賦予當事人如果不同意，可以隨時撤回；而且你這個數據處理的話不得超過必要的限度，要保證這個數據的安全。
清華大學人工智能國際治理研究院副院長 梁正：數據的這個存儲，其實也是一個比較重要的問題。大家可能比較擔心的，就是跟泄露相關的，是數據你到底存在了哪裡，這個存放的話是不是有足夠的安全保障，一些這種數據庫，就是幾乎是放在公網上，屬於裸奔的這種狀態，很容易就攻破。
數據安全問題再次成為焦點
在昨天舉行的全國政協十三屆四次會議首場新聞發布會上，數據安全問題也再次成為媒體關注的焦點。全國政協委員、上海市信息安全行業協會會長談劍鋒也帶來了相關的提案，這已經是談劍鋒委員連續第四年就相關問題提出建議。
談劍鋒委員表示，目前，我國合規應用的審評制度和操作細則不完善，數據壟斷現象在客觀上阻礙了數字經濟的創新與發展。對此，談劍鋒委員建議，加快相關法規制度建設，嚴格規范和落實關鍵數據的采集、存儲和使用。在法律框架下明確國家、集體、個人的數據權益，制定數據資源確權、開放、流通、交易相關制度，完善數據產權保護制度。
“我們要對互聯網企業的信息采集進行嚴格的管理規定。”談劍鋒委員表示，要通過加強數據治理和數據監管，嚴控大數據的使用場景。“不得過度、無序、隨意地采集用戶數據。”
值得一提的是，在昨天舉行的全國政協十三屆四次會議首場新聞發布會上，有記者就刷臉數據安全進行了提問。大會新聞發言人郭衛民向廣大媒體介紹了數據管理方面的“中國經驗”。
郭衛民表示，一直以來，黨和政府對個人信息安全和隱私保護問題十分重視。據了解，有關部門已經采取了一系列措施。
中央網信辦、工信部、公安部、市場監管總局等部門開展了相關的工作，包括制定相關國家標准規范，指導督促企業平台，落實個人信息保護義務，開展了APP違規違法收集使用個人信息的專項治理。對公共安全視頻的監控、人臉識別等手段的使用加強管理。
郭衛民介紹稱，有關部門針對疫情防控過程中的個人信息收集問題，也印發了專門的文件進行規范檢查。目前，《個人信息保護法（草案）》已提請全國人大常委會審議，法律的頒布和實施，也將對保護個人信息安全將發揮重要的作用。
國家曾發布相關管理規定
2019年11月底，國家網信辦、文旅部和廣電總局等三個部門聯合發布了《網絡音視頻信息服務管理規定》，其中明確了“利用基於深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的應當及時采取相應的辟謠措施”等針對換臉技術的新規定。規定同時指出，利用基於深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識。且不得利用該技術“制作、發布、傳播虛假信息”。此外，規定還強調，不得利用相關的音視頻技術“侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益”。
近年來，圍繞人臉識別的爭議不斷。由全國信息安全標准化技術委員會等機構發布的《人臉識別應用公眾調研報告（2020）》顯示，有九成以上的受訪者使用過人臉識別，有六成受訪者認為人臉識別技術有濫用趨勢，還有三成受訪者稱已經因為人臉信息被泄露和濫用而遭受到隱私或財產損失。
任何AI技術的運用
都是人類科技發展進步的體現
但是在使用任何高科技和新手段的時候
一定要守住法律和道德的底線
大家在體驗App的時候
更要多留一份心眼
不能只顧好玩而忽略了信息安全
及個人隱私的泄露問題
|
|