2019年10月29日，閃馬智能正式入駐華為好望(HoloSens Store)，成為首批算法合作伙伴之一。截止目前，雙方已經在產品共研、市場應用拓展等方面取得了令人滿意的成果。

　　在近半年的共同研發(fā)的過程中，閃馬智能的「算法研發(fā)核心驅動力」ATOM深度學習平臺發(fā)揮了至關重要的作用。3月25日，閃馬智能創(chuàng)始人兼CEO彭垚受邀來到2020年度華為HDC DevRun Live開發(fā)者沙龍，并作了《ATOM 深度學習平臺聯(lián)合華為Holo Sens 打造云邊端一體化交通城市治理異常行為分析》主題演講，獲得了萬余名在線觀眾的高度好評。

　　　　以下是現(xiàn)場錄像及文字實錄

　　分享內容主要結構如下：

　　1. ATOM深度學習平臺簡介

　　2. ATOM數(shù)據(jù)處理系統(tǒng)架構

　　3. ATOM數(shù)據(jù)標注系統(tǒng)的創(chuàng)新

　　4. ATOM深度學習平臺在閃馬AI業(yè)務生產平臺中的作用

　　　ATOM深度學習平臺簡介

　　　　ATOM的歷史

　　大家知道我們閃馬智能前身是七牛的人工智能實驗室。在16年的時候，ATOM前身是AVA深度學習平臺，這是我跟另一位閃馬創(chuàng)始人林亦寧博士兩個人在七牛云內部人工智能實驗室的一個項目。當時我們就開始構建AVA的深度學習平臺，那個時候主要是面向每天超過20億的視頻、圖像數(shù)據(jù)，我們要去進行數(shù)據(jù)的、視頻的、圖像的訓練，那么多數(shù)據(jù)怎么做?肯定要想辦法去提升效率。

　　我們當時也訓練了很多的算法，包括參加全球的一些大型視頻分類比賽。這個過程中都會耗費很多GPU資源。所以從16年開始，我就徒手開始去打造這么一個深度學習平臺，那個時候還叫AVA。19年我創(chuàng)立了閃馬智能，我們就把原先的AVA平臺重新升級成ATOM整體的深度學習平臺。這里面其實它跟業(yè)務環(huán)節(jié)，整個的一個生產端到端的能力就實現(xiàn)了完整的閉環(huán)，這是ATOM深度學習平臺的起源。

　　　　ATOM的能力全貌

　　ATOM深度學習平臺現(xiàn)有功能里面主要包括幾大塊，訓練是整個ATOM平臺的一個核心組件。除了訓練以外，它有很多基礎設施的支撐，包括存儲能力、資源管理能力、監(jiān)控能力，還有對深度學習框架的支持、資源Interface框架的支持。最后還有一些管理上的作用。比方說可以設置管理員、用戶這樣的整套平臺的框架。

　　發(fā)展了那么多年以后，ATOM平臺形成了目前的整體架構。從最底層開始介紹，最底層的實際上是IaaS的一些硬件服務，包括GPU服務器，以及一些網絡這樣的設備。第2層是虛擬化層，我們主要是去用容器的方式對整個計算實體，包括GPU的計算實體進行了一些編排系統(tǒng)，應用的是Kubernetes的一套系統(tǒng)。再之上我們又有一套專門針對數(shù)據(jù)、資源的管理，包括塊存儲和對象存儲的管理。

　　如何提高整個訓練性能呢?我們采用的是一套分布式的緩存系統(tǒng)。

　　因為沒有分布式緩存系統(tǒng)，使用者就需要從對象存儲和塊儲存里去讀取視頻圖像數(shù)據(jù)，這就會造成更多的延遲，導致整個訓練過程相當耗時。因此，整體的訓練調度過程就成為ATOM很核心的一些組件。在此之上，我們在19年又完成了比較重要的兩個模塊，就是對分布式的云存儲和云平臺的一個融合。這是什么意思?就是說我們原來可能只能在一個機房，或者說一個云，比如華為云或者是阿里云中的一家云平臺的基礎上去做。今年我們實現(xiàn)了跨云平臺，其中有包括有華為云、阿里云、滴滴云、七牛云這樣一個跨多平臺的融合系統(tǒng)。

　　最后，再上層我們有4個應用系統(tǒng)，標注系統(tǒng)、數(shù)據(jù)集管理系統(tǒng)、訓練管理系統(tǒng)，以及模型管理系統(tǒng)。

　　　　使用ATOM深度學習平臺的訓練流程

　　ATOM平臺的整個訓練流程如圖所示。首先算法工程師先到ATOM平臺上開始編寫程序，開發(fā)整套的模型。有了模型以后，我們就會去調整模型的一些參數(shù)偏差。加載完參數(shù)以后，我們就會分配到一些GPU資源，這些資源會掛載一些算法鏡像，就可以開始自動訓練。

　　到了一定條件以后，任務完成。ATOM平臺會自動化地完成模型驗證，之后，就可以自動發(fā)布。根據(jù)效果的反饋和新的數(shù)據(jù)來源，我們在發(fā)布后可以對這個模型進行再次的研發(fā)。所以這是一個閉環(huán)的學習、開發(fā)、調整的過程。

　　　　ATOM數(shù)據(jù)處理系統(tǒng)架構

　　數(shù)據(jù)處理系統(tǒng)是ATOM里面整個計算系統(tǒng)的一個基礎設施和核心，包含了幾大塊功能，一是整個數(shù)據(jù)處理系統(tǒng)可以兼容一些云平臺基礎設施的管理，包括一些基礎的數(shù)據(jù)處理的管理、上傳下載數(shù)據(jù)、數(shù)據(jù)同步等。另外數(shù)據(jù)在跨計算中心的存儲中，我們可以實現(xiàn)數(shù)據(jù)的預處理和數(shù)據(jù)集的管理，這些是我們對數(shù)據(jù)處理的基礎能力。

　　在數(shù)據(jù)處理能力之上，我們有整套的作業(yè)系統(tǒng)。這些作業(yè)系統(tǒng)可以幫助我們去完成一個個任務，包括像圖片的過濾，及對圖片進行標注。

　　再上層是一些業(yè)務系統(tǒng)在閃馬的作業(yè)棧當中，其中包括了深度訓練的作業(yè)。因為每個深度訓練的作業(yè)都有自己的一些退出條件，當觸發(fā)這些條件后，就會自動從計算設計中退出。當然我們也會面臨各種各樣的業(yè)務場景，比方對海量數(shù)據(jù)進行認知識別，都是通過整個ATOM的數(shù)據(jù)處理系統(tǒng)去進行支撐的?，F(xiàn)在我們整體的數(shù)據(jù)處理系統(tǒng)全部都是部署在云端，可以看到我們跟華為云的對象存儲有深度的應用合作。

　　　　ATOM數(shù)據(jù)標注系統(tǒng)的創(chuàng)新

　　數(shù)據(jù)處理、訓練系統(tǒng)之外，標注系統(tǒng)也是非常核心的一個模塊，因為標注是一個比較復雜的過程，需要完成很多的任務。

　　比如對新員工的培訓、上崗認證，需要要去做一些考試系統(tǒng)。比如做機動車類別的識別，有哪些種類的車，然后我讓標注人員進行標注，標注完成以后系統(tǒng)會自動給他打分。達到一定標準后才可以上崗。還可以有師徒的關系，師父角色可以每天去檢查徒弟的作業(yè)情況，可以及時向徒弟反饋作業(yè)做得好或者不好，就可以看到他標注能力的成長。另外就是質量管理，標注得如果特別好，我們就可以從系統(tǒng)上反映出來，并提供相應的獎勵。我們系統(tǒng)支持很多種的質量管理，包括一些Cross review，然后再加領導review的這種機制，保證質量最高標準。此外，我們的平臺也支持外部標注機構和人員一同參與。

　　標注系統(tǒng)在整個ATOM平臺流程中位于數(shù)據(jù)處理和清洗之后。標注完成后我們就開始進行審核和發(fā)布，再進行訓練一體化的過程。我們整個標注系統(tǒng)也全是在云端，包括公有云私有云，結合閃馬的業(yè)務生產平臺后，就形成了整個閃馬的云邊端生產的完整閉環(huán)。

　　　　ATOM深度學習平臺在閃馬AI業(yè)務生產平臺中的作用

　　ATOM平臺實際上就是我們像工廠的生產線一樣，也是一個完整的閉環(huán)。主要分為以下幾步：

　　1.源數(shù)據(jù)的管理

　　2.標注系統(tǒng)

　　3.數(shù)據(jù)集的維護、管理、清洗

　　4.模型訓練

　　5.模型評估與優(yōu)化

　　6.模型上線

　　7.效果反饋

　　8.持續(xù)迭代

　　9.數(shù)字列表

　　ATOM的最大優(yōu)勢主要有三點。

　　首先從數(shù)據(jù)標注來看，支持多種數(shù)據(jù)采集的能力，包括國標攝像頭、VR、或者是一些標準的協(xié)議。第二可以支持公有云上的多云部署、更可以一鍵部署、擴容或縮容。第三能夠支持多平臺多型號的GPU芯片計算實體。

　　ATOM的訓練評估也可以做各種各樣的Interface，整個模型管理是統(tǒng)一化的。在我們平臺上其實有超過幾百種的模型，天天在ATOM平臺上進行再次的訓練、評估這么一個過程。模型Transfer模塊實際上是我們一個核心的技術模塊，我們叫Tron平臺。它能夠提升整個推理過程中的性能讓硬件可以去適配，像邊緣計算盒子、華為軟件定義攝像頭等。

　　在去年安博會上，閃馬就成了華為Holosens Store的首批合作伙伴。然后我們跟華為實際上是有很多方面的一些合作，主要是圍繞ATOM整個平臺的訓練。訓練完成后，就可以生成各行各業(yè)的一些模型，例如交通、物流、環(huán)保，金融生產等方面。后續(xù)這些模型都將會陸續(xù)上線到華為的Holosens Store 上，再部署到華為SDC攝像頭或者是IVS的整個視頻的智能計算平臺上，服務各行各業(yè)。

　　如果有對ATOM平臺感興趣的同學，歡迎上知乎找我多多交流。