隨著我們進(jìn)入2017年下半年,是時候看看那些使用數(shù)據(jù)科學(xué)和機器學(xué)習(xí)的公司面臨的共同挑戰(zhàn)。假設(shè)你的公司已經(jīng)在大規(guī)模收集數(shù)據(jù),需要用到分析工具,而且你已經(jīng)認(rèn)識到數(shù)據(jù)科學(xué)可以發(fā)揮重大作用(包括改善決策或企業(yè)經(jīng)營、增加收入等等),并進(jìn)行了優(yōu)先排序。收集數(shù)據(jù)和識別感興趣的問題并非小事,但假設(shè)你已經(jīng)在這些方面起了個好頭,那么還剩下哪些挑戰(zhàn)呢?
數(shù)據(jù)科學(xué)是一個寬泛的話題,所以我要說明一下:本文主要探討的是督導(dǎo)式機器學(xué)習(xí)的使用現(xiàn)狀。
一切從(訓(xùn)練)數(shù)據(jù)開始
假設(shè)你有一支處理數(shù)據(jù)攝取和整合的團(tuán)隊,以及一支維護(hù)數(shù)據(jù)平臺(“真相來源”)的團(tuán)隊,新的數(shù)據(jù)來源不斷出現(xiàn),由領(lǐng)域?qū)<邑?fù)責(zé)找出這些數(shù)據(jù)來源。而且,由于我們主要探討督導(dǎo)式學(xué)習(xí),因此,訓(xùn)練數(shù)據(jù)的缺乏依然是機器學(xué)習(xí)項目的首要瓶頸,這一點毫不意外。
在迅速創(chuàng)建龐大的訓(xùn)練數(shù)據(jù)集(或者加強現(xiàn)有的訓(xùn)練數(shù)據(jù)集)方面,有一些很好的研究項目和工具。斯坦福大學(xué)的研究人員已經(jīng)證明,弱監(jiān)督和數(shù)據(jù)編程可以用來訓(xùn)練模型,不必使用大量手工標(biāo)記的訓(xùn)練數(shù)據(jù)。深度學(xué)習(xí)研究人員對生成式模型的初步研究,已經(jīng)在無督導(dǎo)式學(xué)習(xí)的計算機視覺和其他領(lǐng)域取得了可喜的成果。
“思考特性而不是算法”,這是在機器學(xué)習(xí)背景下評估數(shù)據(jù)的另一個有用方法。友情提示:數(shù)據(jù)擴充可能改善你的現(xiàn)有模型,在某些情況下,甚至有助于緩解冷啟動問題。大部分數(shù)據(jù)科學(xué)家可能已經(jīng)利用開源數(shù)據(jù)或者通過第三方數(shù)據(jù)提供商,香港網(wǎng)存空間 北京主機,來擴充他們的現(xiàn)有數(shù)據(jù)集,但我發(fā)現(xiàn),數(shù)據(jù)擴充有時會遭到忽視。人們覺得,獲取外部數(shù)據(jù)、使之規(guī)范化、并利用這些數(shù)據(jù)進(jìn)行實驗,這不像開發(fā)模型和算法那么具有吸引力。
從原型到產(chǎn)品
讓數(shù)據(jù)科學(xué)項目實現(xiàn)產(chǎn)品化,這是許多用例的目標(biāo)。為了使這一過程更有效率,近來出現(xiàn)了一個新的工作角色——機器學(xué)習(xí)工程師。還有一套新的工具用于推進(jìn)從原型到產(chǎn)品的轉(zhuǎn)變,幫助追蹤與分析產(chǎn)品有關(guān)的背景和元數(shù)據(jù)。
機器學(xué)習(xí)在產(chǎn)品中的應(yīng)用還處于早期階段,最佳實踐才剛剛開始出現(xiàn)。隨著高級分析模型的普及,有幾點需要考慮,包括:
· 部署環(huán)境:你可能需要與已有的日志或A/B測試基礎(chǔ)設(shè)施進(jìn)行整合。除了把穩(wěn)定、高性能的模型部署到服務(wù)器以外,部署環(huán)境還越來越多地包括,如何以及何時把模型部署到邊緣側(cè)(移動設(shè)備是常見的例子)。把模型部署到邊緣設(shè)備的新工具和策略已經(jīng)出現(xiàn)。
· 規(guī)模,延遲,新鮮度:需要用多少數(shù)據(jù)來訓(xùn)練模型 模型推導(dǎo)的響應(yīng)時間應(yīng)該是多少 重新訓(xùn)練模型和更新數(shù)據(jù)集的頻率應(yīng)該是多少 后者說明你擁有可重復(fù)的數(shù)據(jù)管道。
· 偏差:如果你的訓(xùn)練數(shù)據(jù)不具有代表性,那么你將得到不理想(甚至不公正)的結(jié)果。在某些情況下,你也許可以利用傾向得分或其他方法,相應(yīng)地調(diào)整數(shù)據(jù)集。
· 監(jiān)控模型:我認(rèn)為人們低估了監(jiān)控模型的重要性。在這個方面,學(xué)過統(tǒng)計學(xué)的人擁有競爭優(yōu)勢。想知道模型何時退化以及退化了多少,這可能很棘手。概念漂移也許是一個因素。就分類器而言,一個策略是把模型預(yù)測的類別分布與預(yù)測類別的觀測分布進(jìn)行比較。你也可以設(shè)立不同于機器學(xué)習(xí)模型評估指標(biāo)的商業(yè)目標(biāo)。比如,一個推薦系統(tǒng)的任務(wù)可能是幫助發(fā)現(xiàn)“隱藏或長尾”內(nèi)容。
· 關(guān)鍵應(yīng)用程序:與普通的消費者應(yīng)用程序相比,在關(guān)鍵環(huán)境中部署的模型必須更加穩(wěn)定。另外,這類環(huán)境中的機器學(xué)習(xí)應(yīng)用程序必須能夠數(shù)月“連續(xù)”運行(不會發(fā)生內(nèi)存泄漏等故障)。
· 隱私和安全:通常來說,如果你能讓用戶和企業(yè)相信他們的數(shù)據(jù)是安全的,那么他們可能更愿意共享數(shù)據(jù)。如上文所述,用額外特征進(jìn)行擴充的數(shù)據(jù)往往會帶來更好的結(jié)果。對于在歐盟經(jīng)商的企業(yè)而言,一個迫在眉睫的問題是,《一般數(shù)據(jù)保護(hù)條例》(GDPR)將于2018年5月生效。在其他領(lǐng)域,對抗性機器學(xué)習(xí)和安全性機器學(xué)習(xí)(包括能夠處理加密數(shù)據(jù))的實踐研究開始出現(xiàn)。
模型開發(fā)
媒體對模型和算法開發(fā)的報道越來越多,但如果你同數(shù)據(jù)科學(xué)家交談,他們中的大多數(shù)人都會告訴你,訓(xùn)練數(shù)據(jù)的匱乏以及數(shù)據(jù)科學(xué)的產(chǎn)品化是更加緊迫的問題。通常來說,市面上已有足夠多的簡單明了的用例,讓你可以開發(fā)你喜歡的(基本或高級的)算法,并在以后進(jìn)行調(diào)整或替換。