2019年12月8日至12月14日，微眾銀行首席人工智能官楊強教授受邀參加于加拿大溫哥華舉辦的人工智能和機器學習領域的國際頂級會議：神經信息處理系統大會（Conference and Workshop on Neural Information Processing Systems，簡稱NeurIPS）。在微眾銀行聯合谷歌、卡內基梅隆大學舉辦的聯邦學習國際研討會上，楊強教授以《Federated Recommendation》為主題，分享了微眾銀行首創的聯邦推薦技術的最新研究成果和應用落地。
推薦系統應用廣泛，已經滲透到人們生活各個方面，例如新聞推薦、視頻推薦、商品推薦等。為了實現精準的推薦效果，推薦系統會收集海量用戶和所推薦內容的數據，一般而言，收集的數據越多，對用戶和推薦內容的了解就越全面和深入，推薦效果越精準。在現實場景中，隨著用戶數據安全和隱私保護相關政策相繼出臺和日益完善，這些數據通常為保護用戶數據隱私而以“數據孤島”的形式分散在不同的機構。因此在“數據孤島”與“隱私保護”的現實問題中，在合理合法的前提下使用數據持續優化效果提供優質服務，是當前推薦系統所面的巨大挑戰和首要任務。
微眾銀行在“數據孤島”和“隱私保護”問題上，是業界的引領者，它提出的聯邦學習解決方案能夠讓多個機構同時協作，通過交換加密的模型參數進行綜合訓練持續優化模型，以合理合法的方式跨越數據鴻溝，解決“數據孤島”的問題。微眾銀行開發的工業級的聯邦學習開源框架--FATE（Federated AI Technology Enabler，https://www.fedai.org），作為聯邦學習全球首個工業級開源框架，支持聯邦學習架構體系，為機器學習、深度學習、遷移學習提供了高性能聯邦學習機制，FATE本身還支持多種多方安全計算協議，如同態加密、秘密共享、哈希散列等，具有友好的跨域交互信息管理方案。
推薦系統中算法的目標是挖掘用戶和內容、商品之間的聯系，根據問題的特點，微眾銀行將聯邦推薦算法總結成三類，如下圖所示，包括橫向聯邦推薦算法（也可稱為基于商品的聯邦推薦）、縱向聯邦推薦算法（也可稱為基于用戶的聯邦推薦）和遷移聯邦推薦。
圖：聯邦推薦算法分類
縱向聯邦推薦（即基于用戶的聯邦推薦）主要解決參與方（機構）擁有大量相同的用戶但是不同的商品或用戶特征時如何協作構建推薦系統的問題，例如新聞推薦服務商和視頻推薦服務商的聯邦，或者推薦服務商和用戶數據提供商的聯邦。橫向聯邦推薦（即基于商品的聯邦推薦）主要解決在參與方擁有大量相同的商品但是不同用戶群體時如何協作構建推薦系統的問題，例如不同地區相同推薦服務之間的聯邦。遷移聯邦推薦主要解決參與方在相同用戶和商品都不多的情況，如何協作分享經驗構建推薦系統的問題。
針對不同的分類，基于當前推薦系統最常用的矩陣分解（matrix factorization）和因子分解機（factorization machine）算法，微眾銀行提出聯邦矩陣分解、聯邦因子分解機等算法。這些聯邦推薦算法基于FATE框架開發，使用統一的優化流程。以縱向聯邦推薦的兩個場景為例子，給大家介紹縱向聯邦矩陣分解和縱向聯邦因子分解機的思路和優化方法。
聯邦推薦場景一：參與機構為大量相同用戶分別提供書籍和電影推薦服務
具有相同觀影興趣的用戶很可能有相同的閱讀興趣。因此雙方的聯邦是非常有必要的，結合雙方數據構建的推薦系統在性能上會優于僅僅使用一方數據構建的系統。
圖：縱向聯邦推薦場景一，多個參與機構為大量相同用戶提供不同推薦服務
在這個場景下，directadmin漢化，以常用的矩陣分解為例子，給出縱向聯邦推薦的一個解決方案，我們讓兩個參與方在機構內部分別進行矩陣分解，將用戶在商品上的評分矩陣分解成user profile和item profit的乘積，如下圖中的公式所示：
圖：縱向聯邦矩陣分解示意圖
