【儀表網 儀表下游】從在圍棋界戰(zhàn)無不勝的“阿爾法狗”，到鋪天蓋地的“人臉識別”，機器學習給人們的生活帶來了翻天覆地的改變。但隨著AI技術的不斷發(fā)展，以“智能換臉”為主要展現結果的Deepfake技術，卻給大家的生活帶來了更多困擾。
2018年，加蓬總統(tǒng)Ali Bongo因中風在公共視野中消失了數月。政府為了安撫民心，在新年時公開了一段總統(tǒng)錄制的新年致辭。這段新年致辭使用了Deepfake技術進行生成，但這個視頻非但沒有起到安撫民心的作用，反而讓資深大佬發(fā)現異常。在這個事件中，“AI換臉”技術成為干擾政治選舉，降低政府公信力的一大推手。
Deepfake是使用深度機器學習和假照片組合而成的一個詞，可以理解為機器進行深度學習而制造的假照片、假視頻等虛假產物。其中最常見的應用就是“AI換臉”，也就是將一個人的臉部移植到另一個人臉上。
在進行換臉時，機器首先需要識別出人臉的位置。人臉的識別與校準在自動駕駛等領域也有著廣泛的應用，目前的發(fā)展已經非常成熟，識別率在98%以上。
換臉用的素材，與待換臉的視頻中的人臉，他們的面部朝向、面部表情往往不同。因此，識別出人臉位置之后，機器要進一步對人臉進行校準。通過尋找面部具有鮮明特征的區(qū)域，機器可以確定每一幀中人臉的朝向、表情，進而將待換臉視頻中需要插入的人臉與素材匹配起來。匹配完成之后，換臉技術也不是簡單地就把換臉素材貼在了待換臉的人臉上。簡單地貼圖，可以輕松地被肉眼識別，難以達到“以假亂真”的效果。Deepfake技術進一步地學習原理可以用人的行為來類比。
在不斷發(fā)展的過程中，Deepfake的檢測技術仍然會面對不少挑戰(zhàn)。
第一點是有的技術本身需要一定的信息量。例如前述的眼球反射檢測技術，如果視頻里沒有同時存在兩只眼睛，就無法應用。針對虹膜顏色的檢測，在視頻畫質較低時使用起來也較為困難。
第二點是，檢測技術和換臉技術是一個“不斷發(fā)展，彼此競爭”的過程。例如前述的捕捉光照與陰影不協(xié)調的問題，換臉者可以在換臉時使用更多的資源進行光照模擬、渲染，從而保證陰影的生成質量。從這個角度講，檢測和換臉技術就像一場“貓鼠游戲”，二者不斷迭代，你追我趕。今天檢測技術提出了用眼球的反射光進行檢測，明天換臉技術就可以把眼球的反射光模擬也放在學習內容之中。檢測技術必須不斷更新，才能跟上Deepfake技術發(fā)展的步伐。
第三點是，檢測技術距自動化還有一定距離。現有的檢測技術耗費的時間都比較長，難以做到在用戶上傳視頻的同時，短時間內自動完成檢測和審核。距實用的自動Deepfake檢測軟件，還有一段路要走。
雖然Deepfake檢測技術仍有諸多挑戰(zhàn)，但是我們要相信，隨著AI技術的不斷發(fā)展，相關法規(guī)會逐漸完善，針對Deepfake的檢測技術也會變得越來越準確、高效。終有一天，虛假的視頻會在檢測技術的“火眼金睛”下統(tǒng)統(tǒng)現出原形。鉆技術的漏洞，濫用Deepfake技術，遲早會受到懲罰。
資料來源：科普中國-科普融合創(chuàng)作與傳播
所有評論僅代表網友意見，與本站立場無關。