7月2日，2019可信云大會在北京國際會議中心隆重開幕。2019可信云大會以“智能云網(wǎng)邊，可信創(chuàng)未來”為主題，由中國信息通信研究院主辦。

下午13:30大會特設(shè)的智能云論壇活動正式開始，騰訊云AI平臺專家產(chǎn)品經(jīng)理余祖坤做了《AI建模平臺的設(shè)計實踐》的精彩演講。

騰訊云AI平臺專家產(chǎn)品經(jīng)理余祖坤

謝謝大家！很榮幸跟大家一起分享一下騰訊AI建模平臺的設(shè)計實踐。

AI建模平臺有很多，想分享一下騰訊在這個領(lǐng)域是如何思考的和整個產(chǎn)品的思路。

當(dāng)數(shù)據(jù)量越來越大時，單機跑不到，需要分布式算力或一個工具，我們理解建模有點像電飯煲，把數(shù)據(jù)塞進去，怎么做成你想要的菜，最終輸出的是模型，AI建模吃的是數(shù)據(jù)，輸出的是模型。

建模這件事情一定離不開兩件事情：算法工程師，現(xiàn)在市場上傳言很多，一般說薪資很高，沒有頭發(fā)等等。也有人會說算法工程師主要工作其實有點像煉丹師，因為沒有辦法保證煉丹師一定能煉出想要的東西，客戶說這個能達(dá)到多少性能指標(biāo)嗎？算法工程師沒有辦法說一定達(dá)到。   

一般一個算法工程師首先會從數(shù)據(jù)開始，要輸入一定數(shù)據(jù)，對數(shù)據(jù)進行預(yù)處理，比如異常值處理，另外要找一些特征，對原始數(shù)據(jù)和數(shù)據(jù)列的信息進行加工，取得一些特征之后，塞到他想要的模型里去，然后進行訓(xùn)練，訓(xùn)練時涉及到需要很大的計算集群，需要一些算力。得到一些模型之后，他要做這個模型的評估。評估好了之后才會把這個模型上線發(fā)布服務(wù)，在線預(yù)測，或者發(fā)布成這個服務(wù)之后，怎么樣把這個模型發(fā)布成服務(wù)？原來可能會想把這個模型跑完了之后出一個圖，但在模型應(yīng)用的時代，非常關(guān)心怎么把這個模型發(fā)布成一個服務(wù)。

觀察了煉丹師一般工作之后，我們認(rèn)為有這些核心的環(huán)節(jié)，提煉之后，有數(shù)據(jù)、算法、算力、模型評估、模型怎么樣部署服務(wù)、進行在線預(yù)測等。有了這些訴求之后，怎樣去設(shè)計一個產(chǎn)品？究竟現(xiàn)在要不要這個東西？市場上有那么多框架，就要比較一下為什么我們需要一個一站式建模的平臺。建模這件事情有一系列從下往上可關(guān)注的點，比如需要有計算資源，CPU、GPU，現(xiàn)在計算機體系結(jié)構(gòu)迎來了第二春，從x86時代以來，云主機，計算機體系結(jié)構(gòu)很長一段時間沒有變化，現(xiàn)在這個時候底層計算機架構(gòu)越來越多，計算資源越來越多，數(shù)據(jù)量越來越大時要選哪種，如果要自己解決成本很高。

現(xiàn)在計算框架非常多，沒有達(dá)到統(tǒng)一階段，在當(dāng)下來看，框架維護還是很煩瑣的，這也是一個痛點。算法，傳統(tǒng)機器學(xué)習(xí)分很多算法，要去處理需要很多手工活。如果更多時間去處理工程性的活，經(jīng)常會出現(xiàn)招人時用飛機大炮，進來時用小米加步槍。怎么解決企業(yè)這些困難呢？這里就存在平臺可以做的一些價值。

模型怎么樣調(diào)優(yōu)是很需要水平和時間的，如果自己用一些框架去調(diào)，每種模型也可以調(diào)特點，每次都用手工去調(diào)，如果你的同事用另外一個框架，可能沒有辦法跟你交流。

模型如何發(fā)布？以前比較土的辦法是把模型服務(wù)打包成一個任務(wù)，當(dāng)量上去時，有很多痛點和不穩(wěn)定性，沒有辦法達(dá)到企業(yè)級應(yīng)用的需求，核心點是希望跟當(dāng)下最流行的結(jié)構(gòu)集群應(yīng)用技術(shù)結(jié)合起來，是一個解決的方法。所以在此基礎(chǔ)上，希望能做一些什么樣的平臺，能解決剛才我們談到的折價問題，底層資源有一些管理、有一些優(yōu)化，有些客戶有跨地區(qū)的機房，跨地區(qū)機房怎么樣搭建，是我們要考慮的問題，這是產(chǎn)品要解決的問題。

要集成這些主流的框架，不同框架在變化，怎么樣吸收進來，它升級了，我們怎么樣把它升級，集成到我們上面做的這些應(yīng)用業(yè)務(wù)中來，這是工具型產(chǎn)品需要解決的問題。

算法，這個產(chǎn)品要解決什么樣的東西？更多要解決的是沉淀。有些算子，比較大的模型提前做了預(yù)訓(xùn)練，預(yù)訓(xùn)練的算力對你來說是省了。

發(fā)布不同的模型可能會更新，它的更新要怎么樣考量，后面會說一下這個產(chǎn)品我們關(guān)心的一些點。

所有框架是我們天然的競品，我們得出這幾個價值主張。

AI建模平臺用戶分析。

建模平臺如果僅僅是為很專業(yè)的算法提供服務(wù)的話，這個平臺用戶會很少，而且現(xiàn)在我們也觀察到了整個AI算法的應(yīng)用不再是少數(shù)人的游戲，是整個行業(yè)都有訴求的點，我們把用戶定義為三類，有可能是很資深的算法，以前就是一直在調(diào)參的專家，也有可能是剛開始入手，想了解清楚怎么樣去建模。還有不是算法人員，但大家多在說，他也想去用一用。這三類用戶有不同的訴求。