一、背景

        現在到處是攝像頭的時代，隨著頻寬的不斷提速和智慧手機的普及催生出火熱的網路直播行業，新冠病毒的大流行又使網路視訊會議系統成為商務會議的必然選擇，因此RTSP實時視訊流播放及處理不再侷限於安防行業。在如道路、工廠、樓宇、學校、港口、農場、景區等場景實施的資訊化系統中，已基本全採用B/S架構，迫切需要在瀏覽器中嵌入多路攝像頭RTSP流的超低延遲(小於500毫秒)播放功能，而在IE及Chrome 49以下版本等瀏覽器中，採用ActiveX控制元件或NPAPI外掛即可實現。然而美好總是短暫的，從2015年開始Chrome及Firefox等瀏覽器紛紛取消了NPAPI外掛的支援，而IE又在與Chrome及Firefox等瀏覽器競爭的過程中不斷被使用者拋棄，到現在市場份額已降到可憐的個位數。微軟在幾經折騰後，索性也擁抱Chromium核心推出Edge新版來殺死自己的IE，以挽救自己在瀏覽器這塊岌岌可危的江湖地位。

        在Chrome、Edge、Firefox等當前主流的高版本瀏覽器中，即使是HTML5標準的Video也並未對RTSP流播放提供原生支援，從而導致如何在當前主流的瀏覽器中實現低延遲、低成本並可同時播放多路RTSP成為了一個重大技術難題。這幾年國內外的技術專家經過不斷研究總結，形成一些閉源或開源、收費或免費的方案，但多數時候無法完全滿足客戶的實際需求。

二、現有方案

在瀏覽器中實現播放RTSP實時視訊流，大體上有如下幾個方案：

• 瀏覽器外掛方案

        此方案主要適用於在IE及Chrome 49以下版本的瀏覽器，在2015年前是絕對主流的選擇。使用ActiveX播放控制元件或NPAPI播放外掛實際呼叫的是本地原生程式進行直接播放，從而可充分利用本機的硬體加速能力，可實現滿意的多路低成本、低延遲播放效果。一般使用VLC這個免費開源的跨平臺多媒體播放器，IE、Chrome、Firefox等瀏覽器分別有對應的播放外掛，對移動端支援也非常好。此方案非常靈活，可以方便的對接各品牌的視訊流，也可以很容易實現截圖和錄影功能。缺點是需要額外安裝VLC軟體，對個別明確規定不能用外掛的場景不太適用。攝像頭廠家一般也會提供適配的播放外掛，比如海康威視提供的播放控制元件，是和自己的DSS系統捆綁使用的。

• 先轉碼再轉流方案

        此方案需要架設一個或多個視訊流轉碼伺服器，先在伺服器上對RTSP流用ffmpeg進行轉碼串流成RTMP，然後前端使用VideoJS再呼叫Adobe Flash Player進行播放，然而2020年底開始基於Chromium核心的所有瀏覽器就徹底取消對Adobe Flash Player的支援，VideoJS失效。不過幸好還有開源的替代播放方案flv.js(https://github.com/bilibili/flv.js)工作原理是要求在服務端先把RTSP視訊流轉換為flv後用Web Socket或WebRTC推送到前端，前端收到後再轉換為Video所支援的MP4後播放，這就導致RTSP視訊流，需要經過2次轉碼才播放，畫面延遲時間大幅度增加，保守估計延遲至少也是2-3秒級別了。況且如果有多路視訊流時，伺服器端轉碼和轉流對CPU、記憶體、網路頻寬的壓力大幅度增加，長期使用成本很高。此方案要求瀏覽器支援流媒體擴充套件特性(MSE)，且無法利用本機硬體加速實現解碼和渲染。優點是可相容移動端網頁播放。

        此方案在國內有TSINGSEE的免外掛EasyPlayer RTSP播放器，專案地址是https://github.com/tsingsee/EasyPlayer和linkingvision的免外掛播放器H5stream，專案地址是https://github.com/linkingvision/h5stream等。

• 先轉流再轉碼方案

        此方案的典型代表是Streamedian公司的免外掛播放器Html5 RTSP Player，專案地址https://github.com/Streamedian/html5_rtsp_player。此方案需要架設一個Web Socket的視訊流轉發伺服器，前端連線到此伺服器後，服務端不斷把RTSP視訊流通過Web Socket不斷轉發給前端的JS處理庫，JS處理庫再把視訊流轉換為Video所支援的MP4後播放。此方案不支援IE瀏覽器，最大的問題是畫面延遲達數秒，首屏內容顯示慢，而且無法利用本機硬體加速實現解碼和渲染，CPU佔用高，播放時有卡頓現象，體驗比較差。另外無法實現本地自動截圖、錄影等操作。此方案同樣要求瀏覽器支援流媒體擴充套件特性(MSE)，對延遲不敏感的單源播放尚可，多路播放就只能洗洗睡了，另外根據一些使用者的反饋，對各品牌攝像頭的相容性也不太友好，作為商業用途使用是不可行的。

• 擴充套件程式方案

        此方案典型代表是基於Chrome瀏覽器的Native Client（NaCl）和Portable Native Client（PNaCl）技術實現開源播放器VXG RTSP Player，專案地址是https://git.code.sf.net/p/rtsp-player-chrome/code rtsp-player-chrome-code。此方案很顯然不適用於IE和Firefox等瀏覽器，也不適用於49版以前的Chrome 瀏覽器。VXG RTSP Player是Chrome瀏覽器的擴充套件程式，對國內客戶來說，由於谷歌伺服器在牆外，想要大規模自主可控部署是不現實的。另外最關鍵的是谷歌已官方宣佈，2021年6月終止對NaCl，PNaCl和PPAPI API的支援，因而此方案也無繼續探討的必要。

• 雙核心方案

        此方案典型實現是採用Chrome瀏覽器上的擴充套件程式IETab來實現，官方網站是https://www.ietab.net，通過在Chrome標籤頁介面覆蓋載入顯示一個IE核心渲染的網頁，此網頁再呼叫比如VLC的開源ActiveX多媒體播放控制元件實現。此方案和方案4一樣，存在大規模自主可控部署難問題。另外和上面的瀏覽器外掛方案類似，需要在播放終端電腦中下載執行IEHelpTab.exe客戶端程式，對一些高安全要求無外掛播放的場景來說不適用。最大的問題是在Chrome網頁中對播放控制元件的控制很難實現，只有網頁和播放控制元件都是在IE核心環境下才可以，而IE對當前一些新技術和前端主流框架的相容已經不行了，況且IE對執行和下載安裝ActiveX控制元件經常彈出警告，使用者體驗很差。

• Wasm方案

        此方案採用的是高版本瀏覽器所支援的一種方便把更復雜的原生應用直接搬進 Web 的標準技術，然而對瀏覽器的相容存在很大問題，IE肯定是不支援的，低版本的Chrome及Firefox等瀏覽器也不支援Wasm，具體相容性可看這裡https://caniuse.com/wasm。實現的基本思路就是把RTSP視訊流通過ffmpeg的Wasm版軟解碼成Video所支援的MP4後播放，由於Wasm不支援硬體解碼，對多路同時播放來說，CPU和記憶體佔用會比較高，效能有很大瓶頸。此方案有時應用在需要支援H265編碼的場景，同樣要求瀏覽器支援流媒體擴充套件特性(MSE)。由於存在諸多相容性問題，此方案實際應用的案例較少。

三、改進方案

        通過上述總結的現有技術方案可以看出，想要在瀏覽器中實現低延遲、低成本的多路RTSP同時播放，只有做到不轉碼直接播放和充分利用終端的硬體加速這兩個核心要求才能辦到，這就只能採用外掛方案。核心就在於如何在瀏覽器中實現一個統一的不依賴瀏覽器本身擴充套件技術的外掛系統，同時必須讓改進方案對各品牌及各版本瀏覽器有比較好的相容能力才具有較大的實用價值。所以改進方案基本思路就是要在瀏覽器網頁中指定位置和大小，實現一個內嵌到網頁中顯示的播放視窗，這個內嵌播放視窗前端還必須可對其進行控制，而且播放視窗必須跟隨瀏覽器視窗的移動和縮放、網頁滾動、標籤頁切換、關閉等操作進行自動聯動。這就要求播放視窗必須是本地程式，最好用高效能的C++語言來實現，這樣還可充分利用終端的硬體加速能力。這個播放視窗同時提供Web Socket的服務端和JSON打包的命令解析執行模組，前端就可以通過Web Socket連線後傳送JSON打包的控制命令實現控制播放視窗。

        目前本公司經過攻城獅的艱苦技術攻關，成功研發出採用此思路實現的VLC網頁播放小程式軟體併成功在一些客戶現場實施，此小程式基於PluginOK中介軟體(https://github.com/wangzuohuai/WebRunLocal)，提供了一個統一的不依賴瀏覽器本身擴充套件技術的外掛系統，能實現當前主流瀏覽器的全相容，包括低版本的Chrome和IE瀏覽器；而且對外掛的下載和安裝提供了類似ActiveX控制元件的機制，去掉了一些影響使用者體驗的告警並附加了呼叫方安全驗證機制。而這個播放視窗程式也提供了比較好的範例實現，其具體呼叫方法可以參考這裡的說明：VLC網頁小程式開發介面，難能可貴的是在這個播放視窗還直接實現了多路RTSP的同時播放支援，可點選切換播放視窗焦點和全屏播放。據瞭解，此方案已經成功在多個客戶現場完成實施並取得了良好的效果，獲得了客戶的一致好評，畢竟能實現低延遲、低成本的同時播放是硬道理。下面是播放效果視訊展示：

VLC網頁播放小程式效果演示

某視訊監控大廠最近也釋出了此思路實現的版本，不過經過測試發現，不支援Firefox高版本瀏覽器不說，其播放視窗程式框架採用的是臃腫的QT來實現的，看上去播放視窗只是模擬顯示的效果而不是真正內嵌到瀏覽器視窗中的，導致和瀏覽器的聯動效果比較差，外掛包也很大，為提供前端自動升級和安全呼叫機制。另外想用此播放外掛還必須購買其DSS系統，而這套DSS系統的售價不菲，對非安防行業客戶來說價效比很低。

對於個別客戶要求免外掛的要求，主要還是因為安全原因。其實那些所謂免外掛的實現方案中，也是需要瀏覽器從伺服器下載JS版播放器的，而外掛版下載的是本地程式播放器，只需要保證下載到本地的播放器程式是安全的即可，必要的話可開放原始碼來打消客戶對安全的顧慮。另外原因就是需要額外下載外掛程式導致部署和升級麻煩，為了超低延遲的播放效果，這個是必要的代價，況且前文提到的PluginOK中介軟體提供了播放外掛的自動安裝和升級機制，這樣就大大降低了部署和升級的壓力，效果比IE中的ActiveX控制元件更好。

四、總結

        一個好的技術實施方案，首先是要滿足客戶的需求，其次是儘量降低開發、實施及運營的總成本，再次是是良好的相容性和可靠性，最後需儘量確保技術方案不能因為瀏覽器的升級而失效。本文基於當前最新的技術資訊和實踐經驗，提供了這樣一個穩定可靠、相容性好、低延遲又可同時播放多路RTSP的低成本技術方案，以供大家參考。如還有疑問，歡迎加微信諮詢：Zorro