?

10月24日，國(guó)際安全極客大賽GeekPwn 2020在上海完美落幕。本次大賽聚焦云、AI、5G等前沿技術(shù)，發(fā)起首屆CAAD虛假人臉AI識(shí)別大賽，RealAI與清華大學(xué)計(jì)算機(jī)系聯(lián)合戰(zhàn)隊(duì)TSAIL以絕對(duì)的比分優(yōu)勢(shì)拿下該賽目的冠軍。

AI遇上假臉傻傻分不清楚？近年來(lái)，“AI換臉”風(fēng)靡一時(shí)引發(fā)社會(huì)廣泛關(guān)注，從最初的侵犯肖像權(quán)，到近期犯罪分子使用AI假臉實(shí)施犯罪，“AI換臉”正帶來(lái)一系列緊迫現(xiàn)實(shí)問(wèn)題：電信詐騙、財(cái)產(chǎn)盜刷、偽造色情視頻……

雖然人眼難辨真假，但通過(guò)AI技術(shù)卻可以對(duì)虛假人臉進(jìn)行識(shí)別，這也成為了現(xiàn)階段計(jì)算機(jī)視覺(jué)領(lǐng)域競(jìng)相研究的熱點(diǎn)。為此，在今年重磅開(kāi)啟的賽程中，GeekPwn發(fā)起首屆CAAD虛假人臉AI識(shí)別大賽，深入挖掘人臉識(shí)別現(xiàn)實(shí)安全威脅。

比賽中，主辦方為五組選手提供真假混合的視頻、圖片數(shù)據(jù)，要求選手現(xiàn)場(chǎng)開(kāi)發(fā)出?AI檢測(cè)方法，快速識(shí)別出圖像以及視頻中的虛假人臉。

同時(shí)為了增加比賽的對(duì)抗性，主辦方還在決賽中設(shè)計(jì)了攻防環(huán)節(jié)：每隊(duì)選手既要用自家的?AI模型識(shí)別出其他隊(duì)伍的假臉，又要用假臉騙過(guò)其他隊(duì)伍的 AI模型，這樣的設(shè)置同時(shí)考察了選手利用AI技術(shù)識(shí)別和造假的能力。經(jīng)過(guò)激烈的比賽，TSAIL聯(lián)合戰(zhàn)隊(duì)最終以1450分?jǐn)孬@第一名。

作為這次聯(lián)合戰(zhàn)隊(duì)的代表成員，RealAI安全算法負(fù)責(zé)人蕭子豪表示，隨著AI技術(shù)在視聽(tīng)資料領(lǐng)域的快速發(fā)展跟普及，“AI換臉”的門檻變得越來(lái)越低，普通人也可以上手，而且生成的內(nèi)容逼真，偽裝性強(qiáng)、欺騙性高，背后的安全隱患不容忽視。

就如GeekPwn主辦方希望通過(guò)實(shí)戰(zhàn)演練的方式推動(dòng)更加快速、高效的虛假人臉檢測(cè)方法出現(xiàn)，RealAI依托自身積累，深入研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識(shí)、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問(wèn)題，于此前推出DeepReal深度偽造內(nèi)容檢測(cè)平臺(tái)，能夠快速、精準(zhǔn)地對(duì)多種格式與質(zhì)量的圖像與視頻進(jìn)行真?zhèn)舞b別。

在蕭子豪看來(lái)，換臉檢測(cè)本質(zhì)上也是“魔高一尺、道高一丈”攻防不斷升級(jí)的過(guò)程，DeepReal基于大規(guī)模的真實(shí)和偽造的圖像素材進(jìn)行訓(xùn)練，創(chuàng)建大容量神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)單來(lái)看，通過(guò)生成大量更逼真的換臉?biāo)夭膩?lái)訓(xùn)練出更高準(zhǔn)確率的檢測(cè)技術(shù)。整體來(lái)看，DeepReal平臺(tái)目前具備三大優(yōu)勢(shì)：

?訓(xùn)練數(shù)據(jù)量達(dá)到百萬(wàn)級(jí)，覆蓋學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集三大類數(shù)據(jù)形式；

?高準(zhǔn)確率，在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的數(shù)據(jù)集中達(dá)到99以上的準(zhǔn)確率；

?高檢測(cè)效率，每張圖片的檢測(cè)時(shí)間可控制在50ms之內(nèi)，每秒視頻的檢測(cè)時(shí)間在150ms之內(nèi)，一天可支持320小時(shí)的視頻文件或340萬(wàn)張圖片文件的檢測(cè)。

通過(guò)降低虛假內(nèi)容檢測(cè)的技術(shù)門檻，DeepReal平臺(tái)能夠幫助用戶更好的應(yīng)對(duì)深度偽造帶來(lái)的一系列挑戰(zhàn)。除了預(yù)防利用AI換臉實(shí)施詐騙等犯罪行為，DeepReal平臺(tái)還可以協(xié)助公安、司法等執(zhí)法部門鑒別圖片、視頻等物證真?zhèn)?，以及輔助視頻網(wǎng)站、社交媒體等第三方內(nèi)容平臺(tái)實(shí)時(shí)檢測(cè)虛假信息內(nèi)容。

憑借在換臉檢測(cè)領(lǐng)域的創(chuàng)新技術(shù)優(yōu)勢(shì)，RealAI近年來(lái)也頻頻現(xiàn)身國(guó)內(nèi)外多場(chǎng)安全挑戰(zhàn)賽。2019年，F(xiàn)acebook、微軟、亞馬遜、麻省理工等知名企業(yè)、高校曾聯(lián)合發(fā)起一場(chǎng)針對(duì)深度偽造檢測(cè)的挑戰(zhàn)賽Deepfake Detection Challenge，最終RealAI助力清華團(tuán)隊(duì)取得了初賽1、決賽5的優(yōu)異成績(jī)。

包括對(duì)抗樣本攻防也是RealAI長(zhǎng)期以來(lái)深耕的研究方向，在去年GeekPwn大賽中聯(lián)合清華團(tuán)隊(duì)斬獲“CAAD CTF圖像對(duì)抗樣本挑戰(zhàn)賽”以及“CAAD隱身挑戰(zhàn)賽”兩個(gè)賽道的冠軍，并在今年發(fā)起的CAAD-AI變臉口罩挑戰(zhàn)賽中勇奪第四名。

作為安全AI領(lǐng)域的代表企業(yè)，解決AI潛在安全問(wèn)題、提升AI安全性是RealAI長(zhǎng)期奮斗的目標(biāo)。未來(lái)，RealAI將持續(xù)探索前沿安全技術(shù)，加速攻防成果落地，為人工智能產(chǎn)業(yè)發(fā)展提供更加完善的安全防護(hù)體系，助力行業(yè)穩(wěn)健成長(zhǎng)。