1. 程式人生 > >feed流推薦系統設計

feed流推薦系統設計

本文主要分享個人經歷中關於推薦系統的應用理解,包括整體推薦系統架構設計、推薦後臺服務設計。

推薦系統架構設計 1.0

推薦系統根據資料使用劃分為線上和離線兩部分。APP服務日誌通過flume採集,然後傳給離線和線上業務使用。離線資料主要用來離線訓練模型,如gbdt、lr、xgboost等,線上資料特徵用來讓模型進行線上預測。如下圖所示:

在這裡插入圖片描述

  • 線上部分

實時資料從kafka獲取到後直接進入spark streaming(這裡也可以用其他實時計算技術,如storm,flink)進行處理,計算出實時特徵存入redis,供線上模型預測服務使用。

  • 離線部分

離線部分資料主要分為兩部分,一部分是mysql定時拉取過去,另一部分是從flume實時拉資料到hive資料倉庫。mysql主要儲存使用者相關變動頻率小的屬性特徵,flume採集計算的主要是帖子(feed)相關變化頻率大的特徵。

推薦系統後臺設計 1.0

推薦主要方法分為召回和排序過程,召回過程是粗步選取資料,排序過程是對篩選後的資料精確排序,結果返回給使用者。

推薦後臺架構圖

在這裡插入圖片描述

過程如下:
  1. 使用者請求介面,傳入uid作為引數。
  2. 先看使用者uid對應在快取中有沒有推薦結果,如果有則直接獲取返回,如果沒有則重新獲取。
  3. 根據使用者uid,去不同召回源獲取對應候選帖子。
  4. 選取的帖子需要進行去重,過濾狀態異常帖子。
  5. 對不同召回源獲取的帖子先合併,然後隨機取1000條。
  6. 排序環節,對1000條帖子進行打分排序,取top 200條。
  7. 根據使用者歷史推薦資訊,對獲取到的200條資料進行過濾,保證推薦結果不重複。
  8. 對過濾結果取25條返回使用者,剩下帖子放在快取,等待下次請求使用。

備註: 上面的帖子取的條數都是根據實際經驗選擇,具體可以調整。

相關推薦

feed推薦系統設計

本文主要分享個人經歷中關於推薦系統的應用理解,包括整體推薦系統架構設計、推薦後臺服務設計。 推薦系統架構設計 1.0 推薦系統根據資料使用劃分為線上和離線兩部分。APP服務日誌通過flume採集,然後傳給離線和線上業務使用。離線資料主要用來離線訓練模型,如gbd

商品搜索引擎---推薦系統設計

oop 不同的 開始 是否 單獨 形式 歷史 頁面 嵌入 版權聲明:本文為博主原創文章,轉載註明出處 https://blog.csdn.net/u013142781/article/details/51119242 一、前言 結合目前已存在的商品推薦設計(如淘寶、京東等)

58同城推薦系統設計與實現

58同城智慧推薦系統大約誕生於2014年(C++實現),該套系統先後經歷了招聘、房產、二手車、黃頁和二手物品等產品線的推薦業務迭代,但該系統耦合性高,難以適應推薦策略的快速迭代。58同城APP猜你喜歡推薦和推送專案在2016年快速迭代,產出了一套基於微服務架構的推薦系統(Ja

網際網路個性化推薦系統設計精髓

通過對多個大型網際網路電商平臺的跟蹤研究,個性化智慧推薦系統設計建設由三步構成:第一建立平臺使用者行為的召回模型,維度基於使用者歷史行為資料召回、使用者偏好召回和使用者地域召回來實現,使用者歷史行為資料召回基於使用者歷史瀏覽、點選、購買、評論、分享、收藏、關注等觸點,分類推薦

電影推薦系統設計思路(簡單易懂的演算法理解)

以下是我在澳洲留學期間設計的一個電影推薦系統的設計思路,因為我覺得比較有趣,所以放出來也算是一個懷念 本文理論主要參考 Networked Life: 20 Questions and Answers  以及 UNSW COMP9318課程 http://www.handb

Feed系統設計-總綱

簡介 差不多十年前,隨著功能機的淘汰和智慧機的普及,網際網路開始進入移動網際網路時代,最具代表性的產品就是微博、微信,以及後來

基於墨刀設計的精美視頻推薦系統

抖音 進一步 nbsp 基礎 一個 操作 基於 app center 基於墨刀設計的精美視頻推薦系統 設計思路:   收到短視頻APP抖音、快手的啟發,做一個小視頻推薦系統,與抖音的不同點在於,此軟件每天只向用戶推薦5個視頻,並且視頻來源豐富多樣。原型化設計采取了MVP原則

9、生鮮電商平臺-推薦系統模組的設計與架構

業務需求:          對於一個B2B的生鮮電商平臺,對於買家而言,他需要更加快速的購買到自己的產品,跟自己的餐飲店不相關的東西,他是不關心的,而且過多無用的東西摻雜在一起,反而不便 於買家下單,使用者體驗也很差,嚴重的會因此丟了客戶。(客戶覺得太難

9、生鮮電商平臺-推薦系統模塊的設計與架構

key cnblogs strong his 功能 tin 很多 status 清單 業務需求: 對於一個B2B的生鮮電商平臺,對於買家而言,他需要更加快速的購買到自己的產品,跟自己的餐飲店不相關的東西,他是不關心的,而且過多無用的東西摻雜在一起,反而不便

web工作管理系統開發之三 視覺化流程設計

      在工作流管理系統中,引擎的所有的活動,驅動,和流轉,都是以流程定義為基礎而展開的。流程定義檔案是流程能執行的先決條件,同時流程定義檔案又是工作流引擎的設計基礎,引擎必須要能生成,解釋和獲取到任意流程定義節點的資訊。業務流程建模就是將一個具體的業務流程系統用流程定義檔案來描述。而生成這個流程定

如何利用DeepFM演算法設計推薦系統

經過了十幾年的發展,推薦系統在網際網路行業已經變得越來越流行。從早年沒有一個合適的產品形態,到如今在今日頭條和抖音等商業產品中發揮重要作用,推薦系統已經越來越受到網際網路公司和研究界學者的重視。 早年的推薦演算法主要是各種單模型,例如邏輯迴歸、協同過濾、矩陣分解等等。後來推

淺談實時平臺Kafka的訊息系統設計

文章目錄 Kafka解決什麼問題? Kafka的流處理 Kafka如何實現負載均衡Load balancing Kafka的資料單位是什麼?怎麼傳輸? 消費者如何解析生產者的訊息? 如何保證一個pa

網際網路+藥店推薦系統設計與實現

目錄 中文摘要 3 1  緒論 6

基於JSP的小說推薦系統,java畢業設計

**基於JSP的小說推薦系統,java畢業設計** 基於JSP的小說推薦系統mysql資料庫建立語句 基於JSP的小說推薦系統oracle資料庫建立語句 基於JSP的小說推薦系統sqlserver資料庫建立語句 基於JSP的小說推薦系統spring springMV

推薦系統】搜狐個性化視訊推薦架構設計和實踐

為什麼要做推薦系統?視訊的覆蓋率問題,好的視訊無法難以被人發現,隨著使用者的量的增加,大部分使用

一個完整推薦系統設計實現

工業界完整推薦系統的設計。結論是: 沒有某種演算法能夠完全解決問題, 多重演算法+互動設計, 才能解決特定場景的需求。下文也對之前的一些博文進行梳理,構成一個完整工業界推薦系統所具有的方方面面(主要以百度關鍵詞搜尋推薦系統為例) 完整的推薦系統肯定不會只用一種推薦演算法

基於Spark機器學習和實時計算的智慧推薦系統

原文連結:http://blog.csdn.net/qq1010885678/article/details/46675501 概要: 隨著電子商務的高速發展和普及應用,個性化推薦的推薦系統已成為一個重要研究領域。  個性化推薦演算法是推薦系統中最核心的技術,在很大程

如何打造千萬級Feed系統?阿里資料庫技術解讀

2017年的雙十一又一次重新整理了記錄,交易建立峰值32.5萬筆/秒、支付峰值25.6萬筆/秒。而這樣的交易和支付等記錄,都會形成實時訂單Feed資料流,匯入資料運營平臺的主動服務系統中去。資料運營

電商產品設計:商品推薦系統

在電商網站裡進行商品推薦,可以提高整個網站商品銷售的有效轉化率,增加商品銷量。通過使用者已經瀏覽、收藏、購買的記錄,更精準的理解使用者需求,對使用者進行聚類、打標籤,推薦使用者感興趣的商品,幫助使用者快速找到需要的商品,適時放大需求,售賣更加多樣化的商品。甚至在站外推廣時,能

如何設計一個實時計算系統

實時流計算的場景歸納起來多半是: 業務系統根據實時的操作,不斷生成事件(訊息/呼叫),然後引起一系列的處理分析,這個過程是分散在多臺計算機上並行完成的,看上去就像事件連續不斷的流經多個計算節點處理,形成一個實時流計算系統。市場上流計算產品有很多,主要是通過訊息中樞結合工人模式實現,大致過程如下: 1、開