ZAO修改用戶協(xié)議 新版協(xié)議已去除爭議條款(5)

　　AI換臉技術易被黑產(chǎn)利用

　　AI換臉技術被應用其實并不是新鮮事，早在今年年初，一段通過AI技術將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻就在網(wǎng)絡引起熱議。

　　多家外媒曾報道Deepfake和DeepNude在國外引起的熱議。有報道稱，隨著越來越多的人正在利用FakeApp制作名人的色情視頻，F(xiàn)akeApp正在引起恐慌。

　　新京報此前報道，隨著AI技術走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。閑魚上還有賣家提供“定制換臉”服務。

　　在2019世界人工智能大會上，騰訊優(yōu)圖實驗室總經(jīng)理吳運聲表示，“現(xiàn)在網(wǎng)上有換臉的技術，可以通過技術制造聲音、視頻，還可以用技術模擬出攝像頭的錄制，比如你沒有到這里，但技術可以把你做到這里，很容易被黑產(chǎn)、灰產(chǎn)利用。這些讓我一直思考技術的準則在哪里，底線在哪里。”他還表示，“黑產(chǎn)、灰產(chǎn)不斷有對抗(技術)的手段，在解決對抗問題的過程中，我們也在不斷推進技術往前發(fā)展。”

　　著名學者吳伯凡則認為，人在使用技術的時候一定要有初心，讓科技向善。“之前的技術沒有自主性和主動權，比如火、核能都不能自主做事，但人工智能是有自我學習能力的，是非常特殊的，就一定要解決向善的問題。”

　　對于“AI換臉技術”，網(wǎng)絡安全專家張百川曾表示，技術本身沒有問題，是有人利用技術作惡，大眾需要在日常生活中，注重個人隱私保護。那么該如何防范?其表示，“個人很難防范，如果你有照片在互聯(lián)網(wǎng)上，就會有(被利用)的風險”。

　　App Annie數(shù)據(jù)顯示，ZAO于8月31日成為蘋果應用商店中國區(qū)免費下載榜第二位，此后三天登頂蘋果應用商店中國區(qū)免費下載榜榜首。