邊緣的AI允許通過本地化處理進(jìn)行實(shí)時(shí)機(jī)器學(xué)習(xí)，從而實(shí)現(xiàn)即時(shí)數(shù)據(jù)處理，詳細(xì)的安全性和增強(qiáng)的客戶體驗(yàn)。同時(shí)，許多企業(yè)正在尋求將AI推入云端，這可以減少實(shí)施障礙，改善知識共享并支持更大的模型。前進(jìn)的道路在于找到一種利用云和邊緣優(yōu)勢的平衡。

集中式云資源通常用于訓(xùn)練深度學(xué)習(xí)推理模型，因?yàn)殚_發(fā)精確模型需要大量數(shù)據(jù)和計(jì)算。生成的模型可以部署在中央云位置，也可以分發(fā)到邊緣的設(shè)備。

邊緣AI和云AI相得益彰，并且云資源幾乎總是與邊緣AI用例有關(guān)。在一個(gè)完美的世界中，為了簡化和擴(kuò)展，我們將所有工作負(fù)載集中在云中，但是，諸如延遲，帶寬，自治性，安全性和隱私之類的因素使得必須在靠近數(shù)據(jù)的邊緣部署更多的AI模型。消息來源。一些培訓(xùn)正在邊緣進(jìn)行，并且越來越多地關(guān)注聯(lián)合學(xué)習(xí)的概念，該概念將處理集中在數(shù)據(jù)區(qū)域，同時(shí)集中結(jié)果以消除區(qū)域偏見。

邊緣AI的崛起

更好的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)和新的邊緣計(jì)算架構(gòu)的興起，正在打破集中式云AI與分布式邊緣AI工作負(fù)載之間的障礙。

其優(yōu)勢是基礎(chǔ)架構(gòu)的巨大新興變化，它通過增加分布在世界每個(gè)角落的信息技術(shù)層來補(bǔ)充云。我們相信邊緣AI會引發(fā)一場革命，就像云技術(shù)獲得牽引力一樣大。

如果設(shè)計(jì)得當(dāng)，Edge AI將為自動縮放帶來新的機(jī)會，因?yàn)槊總€(gè)新用戶都會為集體工作負(fù)載帶來全新的機(jī)器。邊緣還可以更好地訪問更多未處理的原始輸入數(shù)據(jù)，而云AI解決方案必須與預(yù)處理的數(shù)據(jù)一起使用以提高性能或龐大的數(shù)據(jù)集，這時(shí)帶寬可能會成為一個(gè)嚴(yán)重問題。

將事物移到邊緣的原因是為了獲得更好的響應(yīng)時(shí)間。速度和延遲對于諸如計(jì)算機(jī)視覺和用于5G的虛擬無線電接入網(wǎng)絡(luò)等應(yīng)用至關(guān)重要。另一個(gè)重大好處在于，通過限制將哪些數(shù)據(jù)上傳到云來改善隱私。

Edge AI的部署也充滿了限制，包括網(wǎng)絡(luò)延遲，內(nèi)存壓力，電池消耗以及進(jìn)程可能被用戶或操作系統(tǒng)作為后臺的可能性。從事邊緣AI的開發(fā)人員需要計(jì)劃各種限制，尤其是在探索手機(jī)等常見用例時(shí)。

互補(bǔ)方法

大多數(shù)專家將邊緣和云方法視為更大戰(zhàn)略的補(bǔ)充部分。云AI更適合批量學(xué)習(xí)技術(shù)，該技術(shù)可以處理大數(shù)據(jù)集以構(gòu)建更智能的算法，從而快速，大規(guī)模地獲得最大的準(zhǔn)確性。Edge AI可以執(zhí)行這些模型，而云服務(wù)可以從這些模型的性能中學(xué)習(xí)并應(yīng)用于基礎(chǔ)數(shù)據(jù)以創(chuàng)建一個(gè)連續(xù)的學(xué)習(xí)循環(huán)。

保持適當(dāng)?shù)钠胶?如果您完全致力于邊緣AI，那么您將失去持續(xù)改進(jìn)模型的能力。沒有新的數(shù)據(jù)流，您將無處利用。但是，如果您完全致力于云AI，則可能會危及數(shù)據(jù)質(zhì)量-由于需要進(jìn)行權(quán)衡才能使其可上傳，并且缺乏反饋來指導(dǎo)用戶捕獲更好的數(shù)據(jù)-或數(shù)據(jù)量。

邊緣AI補(bǔ)充了云AI，可在需要時(shí)提供對即時(shí)決策的訪問，并利用云獲得更深入的見解或需要更廣泛或更縱向的數(shù)據(jù)集來推動解決方案的見解。

例如，在連接的汽車中，汽車上的傳感器會提供實(shí)時(shí)數(shù)據(jù)流，該數(shù)據(jù)流會不斷進(jìn)行處理并做出決策，例如施加制動器或調(diào)整方向盤。可以將相同的傳感器數(shù)據(jù)流式傳輸?shù)皆浦幸赃M(jìn)行長期的模式分析，從而可以警告所有者急需的維修，從而可以防止將來發(fā)生事故。另一方面，云AI對邊緣AI進(jìn)行了補(bǔ)充，以推動更深入的見解，調(diào)整模型并繼續(xù)增強(qiáng)他們的見解。

云計(jì)算和邊緣AI協(xié)同工作，以更深入的洞察力為驅(qū)動力，制定即時(shí)的需求決策，而這些洞察力不斷被新的邊緣數(shù)據(jù)所告知。

培訓(xùn)工作流程

使邊緣AI和云AI協(xié)同工作的主要挑戰(zhàn)是程序和體系結(jié)構(gòu)。需要對應(yīng)用程序進(jìn)行設(shè)計(jì)，以便有目的地拆分和協(xié)調(diào)它們之間的工作量。

例如，美國服務(wù)器，啟用邊緣的攝像頭可以處理源自傳感器的所有信息，而不會因無關(guān)數(shù)據(jù)而使網(wǎng)絡(luò)過載。但是，當(dāng)最終在邊緣檢測到感興趣的對象時(shí)，可以將相關(guān)幀廣播到更大的云應(yīng)用程序，該應(yīng)用程序可以存儲，進(jìn)一步分析（例如，幀中對象的子類型是什么以及其屬性是什么），以及與人類主管共享分析結(jié)果。

一種策略在于創(chuàng)建一種在模型和數(shù)據(jù)的大小與數(shù)據(jù)傳輸成本之間取得平衡的體系結(jié)構(gòu)。對于大型模型，留在云中更有意義。有多種方法可以減小模型大小以幫助解決問題，但是，如果要處理非常大的模型，則可能需要在云中運(yùn)行它。

在其他情況下，當(dāng)在邊緣生成大量數(shù)據(jù)時(shí)，在本地更新模型，然后將其子集反饋到云中以進(jìn)行進(jìn)一步優(yōu)化可能更有意義。在對敏感數(shù)據(jù)進(jìn)行推理時(shí)，開發(fā)人員還需要考慮一些隱私問題。例如，如果開發(fā)人員希望通過手機(jī)攝像頭檢測中風(fēng)的證據(jù)，則應(yīng)用程序可能需要在本地處理數(shù)據(jù)以確保符合HIPAA。