【獵云網(wǎng)（微信號(hào)：）】7月18日?qǐng)?bào)道 （編譯：Henry）

當(dāng)您在手機(jī)上注冊(cè)Facebook時(shí)，這款軟件所做的遠(yuǎn)不僅是向您提供來(lái)自您的朋友和家人的最新動(dòng)態(tài)和照片。在后臺(tái)，它正在利用手機(jī)的陀螺儀來(lái)探測(cè)您細(xì)微的動(dòng)作，甚至包括您的呼吸。它會(huì)記錄您點(diǎn)擊屏幕的速度，甚至可以探測(cè)到您手機(jī)的握持角度。

這聽(tīng)起來(lái)的確讓人毛骨悚然。其實(shí)這些只是Facebook驗(yàn)證注冊(cè)者是人類(lèi)而不是每天試圖入侵社交網(wǎng)絡(luò)的數(shù)千萬(wàn)機(jī)器人的一些方式。

Facebook的這些做法凸顯了科技公司與機(jī)器人入侵者之間愈發(fā)激烈的斗爭(zhēng)，這些機(jī)器人入侵者可能導(dǎo)致政治混亂并損害公司的公眾信任。 Facebook并不是唯一的受害者：推特已在周三開(kāi)始刪除數(shù)百萬(wàn)個(gè)屏蔽帳戶，谷歌也正試圖在YouTube上消除惡意釣魚(yú)網(wǎng)站。

他們相信，人工智能將會(huì)是他們公司的救贖之路。 Facebook首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）多次指出人工智能是他在國(guó)會(huì)和公司F8開(kāi)發(fā)者大會(huì)上作證時(shí)對(duì)其社交網(wǎng)絡(luò)缺陷的解決方案。 谷歌希望成為人工智能主導(dǎo)公司，而推特也希望利用這項(xiàng)技術(shù)來(lái)消滅釣魚(yú)網(wǎng)站。

“它已經(jīng)成為日常生活中的一個(gè)基本組成部分，”技術(shù)政策類(lèi)非營(yíng)利組織Open MIC的執(zhí)行董事Michael Connor說(shuō)。 “人工智能已經(jīng)改變了我們聽(tīng)音樂(lè)的方式，改變了我們處理醫(yī)療問(wèn)題的方法，甚至改變了我們的駕車(chē)方式?！?/p>

AI已經(jīng)被視為可以解決關(guān)于互聯(lián)網(wǎng)所有麻煩問(wèn)題的萬(wàn)靈藥。畢竟，沒(méi)有任何一個(gè)人或一個(gè)團(tuán)隊(duì)可以處理來(lái)自數(shù)十億用戶的大量數(shù)據(jù)。但它是如何做到的？ CNET將深入了解Google，推特和Facebook如何使用AI來(lái)控制如此大規(guī)模的濫用行為。

人工智能最適合用來(lái)處理大量數(shù)據(jù) ——Facebook，谷歌和推特在這方面沒(méi)有任何不足。例如，如果您正在訓(xùn)練機(jī)器人查找假新聞，那么您將需要會(huì)收集大量假新聞帖子，并提供算法來(lái)查找類(lèi)似的帖子。

這臺(tái)機(jī)器的學(xué)習(xí)過(guò)程其實(shí)就像教新生嬰兒對(duì)與錯(cuò)的區(qū)別的過(guò)程，Sift Science的信托和安全建筑師Kevin Lee說(shuō)。

但是過(guò)于隱蔽的濫用行為很難被算法判斷出來(lái)，或者有時(shí)候，算法會(huì)將用戶的正常行為判斷為濫用行為，所以人工智能有時(shí)也會(huì)出錯(cuò)。當(dāng)審核過(guò)程透明度很低時(shí)，人們會(huì)對(duì)此持懷疑態(tài)度。

但是對(duì)付機(jī)器學(xué)習(xí)造成的失誤，我們也有一套處理方法。

Facebook

網(wǎng)絡(luò)犯罪分子越來(lái)越精明。 當(dāng)他們?cè)贔acebook上創(chuàng)建賬戶時(shí)，他們使用的機(jī)器人就像蜂巢里的蜜蜂一樣多。這些機(jī)器人會(huì)使用多種技巧來(lái)入侵龐大的社交網(wǎng)絡(luò)。他們會(huì)使用虛假的IP地址，放慢處理速度使之與人類(lèi)操作速度相近，并使用數(shù)字掩碼入侵注冊(cè)。

但幸運(yùn)的是他們?nèi)匀粺o(wú)法偽造人類(lèi)用戶進(jìn)行注冊(cè)。

龐大的社交網(wǎng)絡(luò)一直依賴(lài)外部AI資源以及自己的團(tuán)隊(duì)來(lái)幫助它拒入侵機(jī)器人于門(mén)外。 其中一個(gè)AI外部資源來(lái)自以色列創(chuàng)業(yè)公司Unbotify，兩位Unbotify的知情人員證實(shí)，該公司正在與Facebook就檢測(cè)機(jī)器人項(xiàng)目進(jìn)行合作。

初創(chuàng)公司產(chǎn)品和運(yùn)營(yíng)副總裁Eran Magril表示，Unbotify是依據(jù)設(shè)備上的行為數(shù)據(jù)而運(yùn)行的，例如您注冊(cè)帳戶時(shí)手機(jī)的移動(dòng)速度。該算法之所以能夠識(shí)別出這些特點(diǎn)，是因?yàn)檫@是根據(jù)成千上萬(wàn)的工作人員不斷點(diǎn)擊搖擺手機(jī)測(cè)試而設(shè)計(jì)出來(lái)的。機(jī)器人雖然可以偽造IP地址，但是它們不能偽造一個(gè)真實(shí)的人類(lèi)用戶與設(shè)備進(jìn)行的物理交互。

Magril拒絕透露Unbotify與Facebook的關(guān)系，只表示該公司與主要的社交網(wǎng)絡(luò)正在進(jìn)行合作。而Facebook也拒絕對(duì)Unbotify發(fā)表任何評(píng)論。

Facebook試圖通過(guò)將其內(nèi)容審核團(tuán)隊(duì)拓展至20,000名員工來(lái)抵御機(jī)器人這一禍害。 盡管如此，機(jī)器人用戶還是巨大的：5月份，F(xiàn)acebook宣布在2018年的前三個(gè)月刪掉了5.83億個(gè)假賬戶。此數(shù)據(jù)闡述了人類(lèi)在人工智能中只能扮演配角的原因。

“每天都有數(shù)以萬(wàn)計(jì)的賬戶被刪除，” Lee說(shuō)。 “絕大多數(shù)刪除工作是由AI而不是人類(lèi)完成的，真是謝天謝地，我們有AI這么方便的工具。”

Unbotify能夠通過(guò)在客戶應(yīng)用程序中寫(xiě)入的代碼來(lái)檢測(cè)這些類(lèi)型的動(dòng)作。 Magril強(qiáng)調(diào)，該公司不收集私人信息，只收集不包括姓名和個(gè)人識(shí)別信息的行為數(shù)據(jù)。但社交網(wǎng)絡(luò)的前團(tuán)隊(duì)負(fù)責(zé)人Lee表示，利用行為數(shù)據(jù)不是Facebook阻止機(jī)器人的唯一途徑。

該公司還依靠AI根據(jù)一臺(tái)設(shè)備上的帳戶數(shù)量以及創(chuàng)建后的賬戶活動(dòng)來(lái)自動(dòng)判斷帳戶是否是機(jī)器人賬戶。他表示，如果一個(gè)賬戶注冊(cè)后，并在一分鐘內(nèi)發(fā)送超過(guò)100個(gè)朋友請(qǐng)求，那么Facebook的人工智標(biāo)記該帳戶為機(jī)器人賬戶。

它也知道一臺(tái)設(shè)備上有多少個(gè)不同的帳戶。Lee說(shuō)，大部分時(shí)間，欺詐者都會(huì)在一臺(tái)設(shè)備上擁有多個(gè)僵尸賬戶。而通常情況下，正常用戶一般會(huì)在多個(gè)設(shè)備上擁有一個(gè)Facebook帳戶。

Facebook也依靠AI來(lái)阻止假新聞。此功能是將一些經(jīng)常引起算法的關(guān)鍵內(nèi)容列為問(wèn)題內(nèi)容來(lái)實(shí)現(xiàn)的。

今年3月，該社交網(wǎng)絡(luò)表示，他們正在擴(kuò)大其事實(shí)核查計(jì)劃，在核查一系列的模因宣傳之后，審核內(nèi)容將包括圖像和視頻，而不是惡作劇文章。其檢查員將與法新社（Agence France-Presse）和美聯(lián)社等新聞機(jī)構(gòu)合作。

根據(jù)創(chuàng)始人Or Levi的說(shuō)法，這些事實(shí)檢查正在使用AdVerif.ai的AI工具。它會(huì)查找已標(biāo)記的圖像并執(zhí)行反向圖像搜索，以查看該圖像發(fā)布的其他位置，以及該圖像顯示的內(nèi)容是否被修改過(guò)。例如，以前Facebook已經(jīng)抓住了一張NFL（美式橄欖球聯(lián)盟）運(yùn)動(dòng)員燒毀美國(guó)國(guó)旗的假圖片。 AdVerif.ai記錄了該圖像，并反向搜索它的起源，同時(shí)能夠告訴檢查員這是張被修改出來(lái)的圖片。

Levi說(shuō)：“我們每天都在審核數(shù)百到數(shù)千張照片。我們到原始圖像，然后發(fā)現(xiàn)其中的大部分都能確定該圖像是被修改過(guò)的。”

Facebook News Feed產(chǎn)品專(zhuān)家Sara Su在周三的新聞發(fā)布會(huì)上表示，F(xiàn)acebook依靠第三方事實(shí)檢查員來(lái)幫助其篩選惡作劇內(nèi)容和虛假信息。

Su 說(shuō)“當(dāng)你構(gòu)建機(jī)器學(xué)習(xí)分類(lèi)器來(lái)識(shí)別某些特別虛假惡劣的內(nèi)容時(shí)，你會(huì)需要大量的訓(xùn)練數(shù)據(jù)。在這種情況下，來(lái)自我們第三方事實(shí)檢查者的評(píng)級(jí)是這些分類(lèi)器真正重要的基礎(chǔ)事實(shí)來(lái)源?！?/p>

Twitter

與Facebook不同，Twitter更傾向于人類(lèi)與AI一起扮演重要的角色。這是因?yàn)樗麄冋J(rèn)為在言論自由和健康對(duì)話之間必須保持微妙的平衡。

然而，騷擾是困擾推特的最大問(wèn)題之一，首席執(zhí)行官Jack Dorsey對(duì)該問(wèn)題的解決做出了一次又一次的承諾，但實(shí)際上仍未解決。推特上流行的釣魚(yú)行為非常猖獗，據(jù)報(bào)道，它甚至在2016年阻礙了推特與迪士尼之間的交易。

雖然推特也使用AI來(lái)阻止機(jī)器人注冊(cè)入侵，但它試圖保留開(kāi)放平臺(tái)，這意味著它不能完全依賴(lài)AI來(lái)處理釣魚(yú)行為。推特的健康產(chǎn)品經(jīng)理David Gasca在接受采訪時(shí)說(shuō)，雖然垃圾郵件對(duì)推特的AI來(lái)說(shuō)很容易就能追蹤和刪除，但騷擾卻不同。

在采取任何行動(dòng)之前，每個(gè)問(wèn)題帖子總會(huì)被用戶看到。

Gasca表示：“自動(dòng)規(guī)則在某些情況下發(fā)揮作用，但在其他情況下，會(huì)產(chǎn)生很多細(xì)微差別，特別是在推特上，各種形式的對(duì)話都有各種背景內(nèi)容?！?/p>

通常，數(shù)百萬(wàn)的推特用戶可以幫助培訓(xùn)其人工智能的能力。推特公司收集有關(guān)帳戶靜音、屏蔽、報(bào)告、轉(zhuǎn)發(fā)、喜歡或回復(fù)的頻率的信息。

自動(dòng)規(guī)則在某些情況下發(fā)揮作用，但在其他情況下，會(huì)產(chǎn)生很多細(xì)微差別

例如，AI可以識(shí)別被其他50個(gè)人屏蔽的帳戶，并將其標(biāo)記提交給推特的版主以獲得更快的處理。

這意味著推特的AI檢查對(duì)每個(gè)人都不同——取決于你進(jìn)行交流的用戶以及你忽略的用戶。 AI能夠區(qū)分正面和負(fù)面的交互，并且特別有助于改進(jìn)推特的用戶體驗(yàn)。

Gasca 表示：“你屏蔽的用戶和我屏蔽的用戶肯定不同，這樣子就可以為每個(gè)用戶的閾值和容差創(chuàng)建模型?！?/p>

如果你不斷屏蔽其他用戶，推特的算法之后就會(huì)開(kāi)始過(guò)濾掉之后推送中的類(lèi)似內(nèi)容。這樣子你就再遇到你不喜歡的內(nèi)容了。

Gasca表示，自推特實(shí)施這一新方法以來(lái)，新互動(dòng)的屏蔽率下降了40％。

“這是一項(xiàng)龐大的人工智能項(xiàng)目，此項(xiàng)目能夠在簡(jiǎn)單的提示之后預(yù)測(cè)特定用戶是否會(huì)屏蔽某個(gè)陌生人?！奔铀箍ㄕf(shuō)。

Google

人們很容易忘記，以其視頻內(nèi)容而聞名的YouTube也是一種獨(dú)創(chuàng)的社交網(wǎng)絡(luò)形式，在其評(píng)論部分釣魚(yú)內(nèi)容也同樣泛濫。 這就是為什么YouTube使用由Alphabet's Jigsaw開(kāi)發(fā)的Perspective AI管理檢查工具，也同時(shí)提供給用戶使用。

Perspective旨在篩選惡意評(píng)論，以對(duì)付網(wǎng)上大量的騷擾信息。AI會(huì)自動(dòng)標(biāo)記它判定會(huì)危害對(duì)話內(nèi)容的評(píng)論，并提交給版主選擇是否要?jiǎng)h除這些評(píng)論。

Jigsaw產(chǎn)品經(jīng)理CJ Adams表示，AI需要檢查數(shù)百萬(wàn)條評(píng)論并將其提供給成千上萬(wàn)幫助標(biāo)記它們的人。團(tuán)隊(duì)們對(duì)每一條評(píng)論進(jìn)行判定，告訴AI該評(píng)論是垃圾信息、騷擾信息或者是淫穢內(nèi)容。

該算法從標(biāo)簽標(biāo)記中得到學(xué)習(xí)改進(jìn)，并在實(shí)際操作中進(jìn)行類(lèi)似的應(yīng)用。Adams說(shuō)，Perspective不會(huì)自動(dòng)刪除，而是讓人們做最后的決定。

Adams表示：“它也會(huì)犯錯(cuò)誤，所以AI不適合自主決策，但它帶來(lái)的幫助就像是把大海撈針的范圍縮小到手中一把干草這么小一樣?！?/p>

Perspective通過(guò)在合作網(wǎng)站上的評(píng)論中獲得其訓(xùn)練數(shù)據(jù)，比如紐約時(shí)報(bào)和維基百科。這與2017年的首次亮相時(shí)的能力相去甚遠(yuǎn)，當(dāng)時(shí)AI還無(wú)法區(qū)分垃圾信息和體育網(wǎng)站上的騷擾信息。之所以能夠取得這一進(jìn)展，是因?yàn)閷?duì)系統(tǒng)提出的許多意見(jiàn)，使其進(jìn)行了進(jìn)一步的學(xué)習(xí)改進(jìn)。Adams表示，它現(xiàn)在知道“大都會(huì)隊(duì)（一支紐約橄欖球隊(duì)）差勁”并不總是意味著有人受到攻擊。

Perspective依賴(lài)于不斷地接受培訓(xùn)學(xué)習(xí)，以并保護(hù)自己免受釣魚(yú)內(nèi)容的侵害。當(dāng)人工智能首次啟動(dòng)時(shí)，Adams說(shuō)“大量的濫用行為”都來(lái)自4Chan（類(lèi)似論壇的一個(gè)討論區(qū)），這些內(nèi)容一直在試圖欺騙AI算法。

“他們會(huì)輸入可怕的東西并說(shuō)它沒(méi)有問(wèn)題，企圖重新訓(xùn)練我們的AI并欺騙它，”他說(shuō)。但是Perspective的團(tuán)隊(duì)已經(jīng)在采取行動(dòng)了，團(tuán)隊(duì)判定認(rèn)為這些評(píng)論是不符合規(guī)范的。

所以它終還是幫助了谷歌AI發(fā)展，使它能夠利用這些數(shù)據(jù)來(lái)阻止以后的釣魚(yú)內(nèi)容。

“我們得到的是這樣大量的濫用內(nèi)容，這些對(duì)于我們來(lái)說(shuō)反而是很好的訓(xùn)練材料，” Adams說(shuō)?！八晕覀冏詈筮€是應(yīng)該對(duì)你們4Chan表示‘感謝’?！?/p>

Machine tuning

科技公司可能對(duì)AI有很高的評(píng)價(jià)，但這并不意味著AI沒(méi)有風(fēng)險(xiǎn)。在7月4日，根據(jù)Facebook的AI算法判斷《獨(dú)立宣言》的部分內(nèi)容存在仇恨言論，而錯(cuò)誤地刪除了一個(gè)帖子。雖然這篇文章因強(qiáng)烈反對(duì)而被迅速恢復(fù)，但其他許多被誤刪帖子的人就沒(méi)有那么幸運(yùn)了。

無(wú)論對(duì)一個(gè)多么強(qiáng)大的AI來(lái)說(shuō)，誤刪帖子都是一個(gè)嚴(yán)肅的挑戰(zhàn)。哪怕只有1％的出錯(cuò)概率，想想Facebook上有20億用戶，YouTube上有10億用戶，這結(jié)果是仍有數(shù)以千萬(wàn)計(jì)的有害內(nèi)容或機(jī)器人賬戶在逍遙法外。

數(shù)字公民聯(lián)盟關(guān)于恐怖主義內(nèi)容和社交媒體的報(bào)告的首席研究員Eric Feinberg說(shuō)：“即使AI劫持了99％，也有1％的有害內(nèi)容被人們所接觸，其后果將是來(lái)自現(xiàn)實(shí)世界的攻擊?！?/p>

他的團(tuán)隊(duì)在12月和1月發(fā)現(xiàn)了55個(gè)ISIS賬戶并向Facebook報(bào)告。Feinberg表示，F(xiàn)acebook并沒(méi)有刪除其中的24個(gè)賬戶，聲稱(chēng)它并沒(méi)有違反Facebook的服務(wù)條款，即使這些賬戶是在發(fā)布支持恐怖主義的內(nèi)容。

科技公司了解這些問(wèn)題，但也認(rèn)識(shí)到他們的審核工具已經(jīng)不能應(yīng)付平臺(tái)上的問(wèn)題了。 一旦你接觸到了這么多用戶，濫用的可能性就會(huì)隨之上升。

在這么大的規(guī)模下，盡管會(huì)出現(xiàn)失誤，AI是處理問(wèn)題的唯一方法?？萍脊鞠Ｍ惴軌驈闹羞M(jìn)一步學(xué)習(xí)并改進(jìn)。

“Facebook實(shí)際上無(wú)法聘請(qǐng)足夠的人來(lái)做這件事，”Lee說(shuō)。他將人工智能與工業(yè)革命的轉(zhuǎn)變進(jìn)行了類(lèi)比?！澳惚仨氁蕾?lài)機(jī)器。并不是所有東西都是要親手完成的，雖然那也沒(méi)關(guān)系。”