2019年7月3日,“Baidu Create 2019”百度 AI開發者大會在京召開。百度創始人、董事長兼首席執行官李彥宏與百度各業務板塊的領軍人物一起,為來自全球各地的開發者與行業合作伙伴展示百度AI最前沿的人工智能技術、產品,并與現場數千名開發者、企業代表共同探討AI技術落地各行各業及全球產業智能化大趨勢。

在今年大會的公開課環節,百度效率云團隊聯合百度視覺技術部貢獻了一堂名為“DevOps for AI: Deploy ML Application via DevOps Pipelines”的公開課。公開課以開發一個著名品牌面包店識別商品、自動生成訂單服務為場景,結合現場實操向學員及來賓展示了通過百度效率云及AIFlow開發AI服務的全流程。公開課吸引了眾多對AI開發及DevOps感興趣的工程師以及技術人員的參與。

公開課上提到的AI服務到底是什么?開發一個AI服務和開發其它服務有哪些異同呢?

一、AI服務及開發挑戰

01. AI服務是什么,他的開發過程是怎樣的?

以AI視覺能力為例,一個完整的AI服務包括了基于AI模型的AI基礎能力,也包括了對外提供服務的工程代碼,最終用戶通過不同的客戶端對服務進行訪問。

AI服務的示例

一個完整的AI服務開發包括了工程代碼開發、模型訓練以及最終的集成階段。

在工程代碼開發階段,工程師像開發普通服務一樣通過coding, build, test等活動,最終產出發布物

在模型訓練部分,工程師經過數據收集與標注、數據處理、模型訓練與調優等活動最終產出一個AI模型

接下來,工程師需要將工程部分的發布物和AI模型打包在一起形成最終的產出物,并將最終產出物發布到線上

AI服務開發的過程

02. AI產品研發面臨的挑戰有哪些?

相對于傳統軟件開發而言,AI產品的研發面臨著諸多挑戰:

1、項目協作難:項目涉及開發、測試、運維等多角色,而AI項目往往額外涉及多個AI算法團隊,溝通、協調成本高,工作效率低

2、技術要求高:AI研發流程更長且專業性要求更高

3、環境周邊成本高:AI數據、模型、服務、工具維護使用成本高、安全風險大

4、技術復用難:業務閉環迭代慢,且無法快速規模化遷移應用已有能力

二、AI服務開發全生命周期解決方案

針對以上問題,百度內部通過多年的探索和實踐,最終形成了一套針對AI服務的DevOps解決方案。該方案涵蓋了模型訓練的部分,以及服務代碼開發的DevOps部分,并已經實現了全部的產品化,被百度內部多個AI開發團隊所使用。整套方案貫徹了DevOps理念中自動化一切的部分, 包括:

1、服務代碼--模型組裝--服務部署自動化

2、訓練工具源碼--訓練工具集成自動化

3、訓練數據管理--模型訓練--模型評估自動化

AI服務全周期解決方案

整個方案包括兩大重要工具以及支撐機器學習訓練的GPU服務器,他們分別是:

01. 重要工具:百度效率云

百度效率云(以下簡稱效率云)是百度自主研發的一站式DevOps解決方案,凝聚了百度多年來在軟件工程領域的探索和實踐經驗。效率云在百度內部服務10000+工程師的日常產品管理、開發、測試、發布等研發工作,每天支持百度內部30000+次的云端編譯、70000+次的構建、700+次的服務發布。

效率云已經加入百度智能云產品序列,于2019年5月正式對外提供服務。百度效率云目前同時服務外部2000+企業及個人客戶的項目管理,研發,測試等研發工作。

效率云的核心理念是: 用先進的軟件工程技術使復雜的開發工作更簡單!

效率云產品架構

整個效率云包括三大平臺類工具和四大主要功能模塊,分別是產品和項目管理工具iCafe、代碼托管和協同開發平臺iCode、持續交付平臺iPipe;

四大主要功能模塊包括靜態代碼掃描工具iScan、容器化構建工具iBuild、構建產物管理工具iRepo和由aiXcoder提供的智能開發助手iXcoder。

效率云主要功能模塊

和其他研發平臺相比,效率云具備以下幾個獨特的差異化功能:

基于用戶故事地圖的產品規劃

代碼入庫前的云端流水線: