這一章很重要！！！！！！！ 一、率失真優化的目標就是： 1、在一定的位元速率（位元速率也表現為資料壓縮的程度，位元速率越低，資料壓縮的越厲害）限制下，減少視訊的失真（減少失真就會提高視訊的主觀質量，看的人就會喜歡o(*≧▽≦)ツ）！ 2、在允許一定的失真下，把視訊壓縮到最小！ 二、編碼器的率失真優化的工作主要是按照某種策略選取最優的編碼引數，以實現最優的編碼效能 三、率失真函式RD 是在假定信源在給定的情況下，在使用者可以容忍的失真度內再現資料訊息所必需獲得的最小平均互信資訊，直白一點說，就是在允許的失真內，資料可以壓縮的極限！我們對資料的壓縮不能超過這個極限，否則，資料在解碼端就不能再現了！因此我們的工作就是，在不超過這個極限的前提下，儘量使資料壓縮得更小！ 四、在多種候選編碼引數中選擇最優的編碼引數！ 1、視訊失真的度量：ssd、sad、mse、psnr都可以度量失真度！ 2、使用一組特定的編碼引數對視訊進行編碼的時候，我們可以獲得該編碼引數的條件下的位元速率和失真，即率失真效能（R，D） 3、遍歷所有可行的編碼引數組合就可以得到所有的（R,D），在滿足一定的位元速率限制（R）的情況下，找到是的失真（D）最小的一組引數！即最優的引數 4、拉格朗日方法就是率失真優化中最常用的優化工具 5、根據目標位元速率，先確定量化引數QP，然後根據QP確定出拉格朗日引數λ！然後根據λ和一組編碼引數計算失真 五、率失真優化在編碼器中不同層次（CTU級、CU級、PU級、TU級等）的運用。附：CTU可以劃分成為CU、CU在預測的時候被劃分成為PU、CU在變換量化的時候被劃分成為TU 1、在CTU級的應用。在總位元數R受限的情況下選擇一個CU（CU從8x8到64x64）的劃分模式，使得一個CTU的總失真D最小。 2、在CU級的應用。在總位元數R受限的情況下，適當的選擇選擇PU劃分模式和TU（TU從4x4到32x32）劃分模式，使得一個CU的總失真D最小。 3、在PU級的應用。對於幀內預測，就是從35中幀內模式中選出最優的一種，使得PU的失真D最小；對於幀間預測，選出最優的運動模式（包括運動向量、參考影象、預測權值等）使得PU的失真D最小 4、在TU級的應用。在最優的PU的模式下，選取最優的TU模式。 六、HM實際的優化方式 1、對於CTU。      （1）遍歷所有的CU劃分模式，確定最優的CU劃分模式      （2）對於確定的CU，遍歷所有的PU模式和TU模式的組合，確定最優的PU模式和TU模式      （3）對於其中的每一個PU，遍歷所有的預測模式，選取最優的預測模式 2、對於變換。採用Hadamard變換代替實際的DCT/SDT變換。 3、其他快速的策略      （1）提前終止策略（Early_CU）                如果當前CU的最優編碼模式是MODE_SKIP模式，那麼終止該CU後續四叉樹劃分和模式判決      （2）早期跳出模式（Early_Skip）                如果CU的PU劃分模式是PART_2Nx2N，預測模式是MODE_INTER，運動向量差MVD是（0,0），且預測殘差不包含非零變換系數（就是變換系數全是0），就判定當前模式是最優模式，跳過剩餘的模式，直接進行下一步的四叉樹分割及子CU模式判決。      （3）快速CBF策略（CBF_Fast）                如果CU的預測模式是MODE_INTER，其對應的預測殘差不包含非零的變換系數，就跳過該CU的其餘候選模式，當前模式為最優模式，且直接進行下一步的四叉樹分割      （4）縮減AMP模式                依據兩個引數來判斷是否縮減當前AMP模式。具體是利用在進行AMP模式判決當前的最優分割模式，以及父親節點CU內採用的分割模式和預測模式，來確定候選編碼中可使用的AMP模式。 七、率失真優化全流程 1、分層遞迴遍歷所有的CU劃分模式，選取最優的CU劃分模式，這個過程稱為CU劃分模式判別 2、對於其中的每一個CU，遍歷所有的PU模式，選取最優的PU模式，並在此基礎上選擇最優的TU模式 3、對於其中的每一個PU，遍歷所有的預測模式，選取最優的預測模式，這個過程稱為預測模式判別      （1）幀內預測模式。           ①遍歷所有的預測模式，得到每種模式下的殘差訊號，再對殘差訊號進行Hadamard變換計算SATD值           ②利用SATD值計算每種預測模式的率失真代價，選取率失真代價最小的幾種模式（與PU大小相關）為預測模式集           ③將已編碼相鄰塊的預測模式補充到預測模式集中           ④遍歷模式集合中的所有模式，並對殘差訊號進行正常編碼（熵編碼），計算率失真代價           ⑤選取最優的預測模式作為該PU的最優模式           ⑥當亮度塊的模式確定之後，把該模式以及DC、planar、水平方向模式、垂直方向模式作為色度塊的候選模式，選取最優的模式即可      （2）幀間預測模式。           HEVC採用了Merge和AMVP技術，更加高效地表示幀間預測引數，但是這兩種方式有比較大的區別，因此幀間預測可以分成Merge幀間預測模式和非Merge幀間預測模式（採用AMVP技術），分別選取最優的Merge幀間預測模式和非Merge幀間預測模式，然後從中選取最優的模式。           對於Merge幀間預測模式，遍歷所有的候選模式，計算率失真代價，選擇率失真代價最小的模式為最優模式。當採用merge幀間預測模式I按摩，且預測殘差訊號的編碼位元數為零時，只需要編碼skip標識和merge索引兩個語法元素，此時該模式稱為MODE_SKIP模式           對於非Merge幀間預測模式（採用AMVP技術）           ①根據AMVP技術確定MVP列表，計算每個MVP的率失真代價，得到最優的MVP           ②以最優MVP為起始點，進行整畫素運動預測，得到最優的整畫素運動向量           ③以整畫素運動向量為中心，進行半畫素搜尋，從周圍的8個點確定最優的半畫素精度運動向量           ④以半畫素精度向量為中心，進行1/4畫素精度的運動搜尋，確定最優的1/4畫素精度運動向量      （3）PU模式判別           ①計算2Nx2N模式的率失真代價，將其作為最優代價，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將2Nx2N作為最優的PU模式           ②如果CU的深度已經取得最大值，且inter_4x4_enabled_flag是1，那麼執行③，否則執行④            ③計算NxN模式的率失真，更新最優代價和模式，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將NxN作為最優的PU模式           ④計算Nx2N模式的率失真代價，更新最優代價和模式，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將Nx2N作為最優的PU模式           ⑤計算2NxN模式的率失真代價，更新最優代價和模式，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將2NxN作為最優的PU模式           ⑥如果TestAMP_Hor為1，當前CU執行水平方向上的AMP模式，否則執行本步驟。計算2NxnU模式的率失真代價，更新最優代價和模式，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將2NxnU作為最優的PU模式；否則計算2NxnD模式的率失真代價，更新最優的代價和模式，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將2NnD作為最優的PU模式           ⑦如果TestAMP_Ver為1，當前CU執行垂直方向上的AMP模式，否則執行本步驟。計算nLx2N模式的率失真代價，更新最優模式和代價，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將nLx2N作為最優的PU模式；否則計算nRx2N模式的率失真代價，更新最優模式和代價，如果預測殘差的編碼位元數為零，那麼滿足CBF_Fast，直接跳至⑪，並將nRx2N作為最優的PU模式           ⑧注意上面的都是幀間的模式，現在需要計算幀內2Nx2N模式的率失真代價，更新最優模式和代價           ⑨如果當前CU深度為最大值，計算幀內NxN模式的率失真代價，更新最優模式和代價           ⑩如果當前CU大於或等於PCM模式所允許的最小單元，並且代價大於PCM模式，那麼更新最優模式和代價           ⑪結束搜尋，得到最優的PU模式。注意對於每一種PU模式，都要夯實不同的TU劃分，選取最優的TU模式，因此最優的PU模式包含了最優的TU模式      （4）CU劃分模式判決           ①把CTU作為CU，計算率失真代價（最優PU模式時），此時應包含CU分割標誌（split_flag）的編碼位元數           ②對CU進行四叉樹劃分，計算每個子CU的最小率失真代價，並對所有子CU的率失真代價求和，得到該CU的率失真代價           ③為每個子CU作為CU重複②           ④重複③直到編碼的最大深度           ⑤從最大的編碼深度，比較4個子CU與CU的率失真代價，一次選出最優的劃分方式。           ⑥碎語每個CU，如果其幀間2Nx2N模式為MODE_SKIP，則滿足Early_SKIP條件，直接結束該CU的進一步劃分 4、結束！