亚洲成年人黄色一级片,日本香港三级亚洲三级,黄色成人小视频,国产青草视频,国产一区二区久久精品,91在线免费公开视频,成年轻人网站色直接看

一種面向SATD的拉格朗日因子計(jì)算方法與流程

文檔序號:12136256閱讀:來源:國知局

技術(shù)特征:

1.一種面向SATD的拉格朗日因子計(jì)算方法,其特征在于,具體包括如下步驟:

步驟1,根據(jù)高碼率條件下熵受限標(biāo)量量化的編碼器的率失真模型R(D):

<mrow> <mi>R</mi> <mrow> <mo>(</mo> <mi>D</mi> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mi>l</mi> <mi>o</mi> <mi>g</mi> <mrow> <mo>(</mo> <mfrac> <msup> <mi>&delta;</mi> <mn>2</mn> </msup> <mi>D</mi> </mfrac> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>5</mn> <mo>)</mo> </mrow> </mrow>

推導(dǎo)出基于SSE的拉格朗日因子λmode

<mrow> <msub> <mi>&lambda;</mi> <mrow> <mi>mod</mi> <mi>e</mi> </mrow> </msub> <mo>=</mo> <mo>-</mo> <mfrac> <mrow> <mi>d</mi> <mi>D</mi> </mrow> <mrow> <mi>d</mi> <mi>R</mi> </mrow> </mfrac> <mo>=</mo> <mn>2</mn> <mi>l</mi> <mi>n</mi> <mn>10</mn> <mo>&CenterDot;</mo> <msup> <mi>&delta;</mi> <mn>2</mn> </msup> <msup> <mn>10</mn> <mrow> <mo>-</mo> <mn>2</mn> <mi>R</mi> </mrow> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>6</mn> <mo>)</mo> </mrow> </mrow>

其中R表示碼率,D表示失真,δ2表示DCT域殘差的方差;

步驟2,哈達(dá)瑪變換具有能量集中的特性,主要將能量集中在二維矩陣的左上角,由于哈達(dá)瑪變換與DCT具有類似的特性,因此哈達(dá)瑪變換殘差也被描述為高斯分布:

<mrow> <mi>f</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>=</mo> <msup> <mrow> <mo>(</mo> <mn>2</mn> <msubsup> <mi>&pi;&delta;</mi> <mi>h</mi> <mn>2</mn> </msubsup> <mo>)</mo> </mrow> <mrow> <mn>1</mn> <mo>/</mo> <mn>2</mn> </mrow> </msup> <msup> <mi>e</mi> <mrow> <mo>-</mo> <mfrac> <msup> <mi>x</mi> <mn>2</mn> </msup> <mrow> <mn>2</mn> <msubsup> <mi>&delta;</mi> <mi>h</mi> <mn>2</mn> </msubsup> </mrow> </mfrac> </mrow> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>7</mn> <mo>)</mo> </mrow> </mrow>

其中x表示哈達(dá)瑪變換后的殘差,δh為哈達(dá)瑪變換后殘差的標(biāo)準(zhǔn)差;

在失真測度為SATD的情況下,得率失真模型:

<mrow> <mi>R</mi> <mrow> <mo>(</mo> <mi>D</mi> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mi>l</mi> <mi>o</mi> <mi>g</mi> <mrow> <mo>(</mo> <mfrac> <mrow> <msubsup> <mi>&pi;&delta;</mi> <mi>h</mi> <mn>2</mn> </msubsup> </mrow> <mrow> <mn>2</mn> <mi>e</mi> <mi>D</mi> </mrow> </mfrac> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>8</mn> <mo>)</mo> </mrow> </mrow>

則得面向SATD的拉格朗日因子λpre

<mrow> <mtable> <mtr> <mtd> <mrow> <msub> <mi>&lambda;</mi> <mrow> <mi>p</mi> <mi>r</mi> <mi>e</mi> </mrow> </msub> <mo>=</mo> <mo>-</mo> <mfrac> <mrow> <mi>d</mi> <mi>D</mi> </mrow> <mrow> <mi>d</mi> <mi>R</mi> </mrow> </mfrac> <mo>=</mo> <msqrt> <mfrac> <mi>&pi;</mi> <mrow> <mn>2</mn> <mi>e</mi> </mrow> </mfrac> </msqrt> <mi>l</mi> <mi>n</mi> <mn>10</mn> <mo>&CenterDot;</mo> <msub> <mi>&delta;</mi> <mi>h</mi> </msub> <msup> <mn>10</mn> <mrow> <mo>-</mo> <mi>R</mi> </mrow> </msup> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mo>=</mo> <msqrt> <mfrac> <mi>&pi;</mi> <mrow> <mn>4</mn> <mi>e</mi> <mi>l</mi> <mi>n</mi> <mn>10</mn> </mrow> </mfrac> </msqrt> <mi>l</mi> <mi>n</mi> <mn>10.</mn> <mfrac> <msub> <mi>&delta;</mi> <mi>h</mi> </msub> <mi>&delta;</mi> </mfrac> <msqrt> <msub> <mi>&lambda;</mi> <mrow> <mi>mod</mi> <mi>e</mi> </mrow> </msub> </msqrt> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mo>=</mo> <msup> <mi>c</mi> <mo>&prime;</mo> </msup> <mo>.</mo> <mfrac> <msub> <mi>&delta;</mi> <mi>h</mi> </msub> <mi>&delta;</mi> </mfrac> <msqrt> <msub> <mi>&lambda;</mi> <mrow> <mi>mod</mi> <mi>e</mi> </mrow> </msub> </msqrt> </mrow> </mtd> </mtr> </mtable> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>9</mn> <mo>)</mo> </mrow> <mo>.</mo> </mrow>

2.根據(jù)權(quán)利要求1所述的面向SATD的拉格朗日因子計(jì)算方法,其特征在于,步驟2中公式(9)中參數(shù)δ的計(jì)算方法如下:

對于M×M大小的殘差塊系數(shù)r,經(jīng)DCT變換后得變換矩陣T:

<mrow> <mi>T</mi> <mrow> <mo>(</mo> <mi>u</mi> <mo>,</mo> <mi>v</mi> <mo>)</mo> </mrow> <mo>=</mo> <munderover> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&Sigma;</mo> <mrow> <mi>y</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <mi>r</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>&CenterDot;</mo> <mi>A</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>u</mi> <mo>)</mo> </mrow> <mo>&CenterDot;</mo> <mi>A</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>,</mo> <mi>v</mi> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>10</mn> <mo>)</mo> </mrow> </mrow>

其中A為DCT矩陣,則:

<mrow> <mtable> <mtr> <mtd> <mrow> <mi>&delta;</mi> <mo>&ap;</mo> <msqrt> <mrow> <mfrac> <mn>1</mn> <mrow> <mi>M</mi> <mo>&times;</mo> <mi>M</mi> </mrow> </mfrac> <munderover> <mo>&Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <msup> <mi>&delta;</mi> <mn>2</mn> </msup> <mrow> <mo>(</mo> <mi>u</mi> <mo>,</mo> <mi>v</mi> <mo>)</mo> </mrow> </mrow> </msqrt> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mo>=</mo> <msqrt> <mrow> <mfrac> <mn>1</mn> <mrow> <mi>M</mi> <mo>&times;</mo> <mi>M</mi> </mrow> </mfrac> <munderover> <mo>&Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <msubsup> <mi>&delta;</mi> <mi>p</mi> <mn>2</mn> </msubsup> <mo>&CenterDot;</mo> <msub> <mrow> <mo>&lsqb;</mo> <msup> <mi>AR</mi> <mo>&prime;</mo> </msup> <msup> <mi>A</mi> <mi>T</mi> </msup> <mo>&rsqb;</mo> </mrow> <mrow> <mi>u</mi> <mo>,</mo> <mi>u</mi> </mrow> </msub> <msub> <mrow> <mo>&lsqb;</mo> <msup> <mi>AR</mi> <mo>&prime;</mo> </msup> <msup> <mi>A</mi> <mi>T</mi> </msup> <mo>&rsqb;</mo> </mrow> <mrow> <mi>v</mi> <mo>,</mo> <mi>v</mi> </mrow> </msub> </mrow> </msqrt> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mo>=</mo> <msqrt> <mrow> <mfrac> <msubsup> <mi>&delta;</mi> <mi>p</mi> <mn>2</mn> </msubsup> <mrow> <mi>M</mi> <mo>&times;</mo> <mi>M</mi> </mrow> </mfrac> <munderover> <mo>&Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>M</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <msub> <mrow> <mo>&lsqb;</mo> <msup> <mi>AR</mi> <mo>&prime;</mo> </msup> <msup> <mi>A</mi> <mi>T</mi> </msup> <mo>&rsqb;</mo> </mrow> <mrow> <mi>u</mi> <mo>,</mo> <mi>u</mi> </mrow> </msub> <msub> <mrow> <mo>&lsqb;</mo> <msup> <mi>AR</mi> <mo>&prime;</mo> </msup> <msup> <mi>A</mi> <mi>T</mi> </msup> <mo>&rsqb;</mo> </mrow> <mrow> <mi>v</mi> <mo>,</mo> <mi>v</mi> </mrow> </msub> </mrow> </msqrt> </mrow> </mtd> </mtr> </mtable> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>11</mn> <mo>)</mo> </mrow> </mrow>

其中[·]u,u表示矩陣中位于(u,u)位置出的系數(shù)值,符號R'定義為:

參數(shù)ρ用于度量水平方向和垂直方向上像素值之間的相關(guān)性,其值設(shè)置為0.6;參數(shù)δp用于表示殘差塊內(nèi)像素的標(biāo)準(zhǔn)差,該值可通過平均絕對差值MAD近似:

<mrow> <msub> <mi>&delta;</mi> <mi>p</mi> </msub> <mo>&ap;</mo> <msqrt> <mn>2</mn> </msqrt> <mi>M</mi> <mi>A</mi> <mi>D</mi> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>13</mn> <mo>)</mo> </mrow> <mo>.</mo> </mrow>

3.根據(jù)權(quán)利要求1或2所述的面向SATD的拉格朗日因子計(jì)算方法,其特征在于,步驟2中公式(9)中參數(shù)δh的計(jì)算方法如下:

哈達(dá)瑪變換域的預(yù)測殘差服從均值為零方差為δh2的高斯分布,則根據(jù)期望值E的定義,得:

<mrow> <mi>E</mi> <mo>&lsqb;</mo> <mo>|</mo> <mi>x</mi> <mo>|</mo> <mo>&rsqb;</mo> <mo>=</mo> <munderover> <mo>&Integral;</mo> <mrow> <mo>-</mo> <mi>&infin;</mi> </mrow> <mrow> <mo>+</mo> <mi>&infin;</mi> </mrow> </munderover> <mo>|</mo> <mi>x</mi> <mo>|</mo> <mo>&CenterDot;</mo> <msup> <mrow> <mo>(</mo> <mn>2</mn> <msubsup> <mi>&pi;&delta;</mi> <mi>h</mi> <mn>2</mn> </msubsup> <mo>)</mo> </mrow> <mrow> <mn>1</mn> <mo>/</mo> <mn>2</mn> </mrow> </msup> <msup> <mi>e</mi> <mrow> <mo>-</mo> <mfrac> <msup> <mi>x</mi> <mn>2</mn> </msup> <mrow> <mn>2</mn> <msubsup> <mi>&delta;</mi> <mi>h</mi> <mn>2</mn> </msubsup> </mrow> </mfrac> </mrow> </msup> <mi>d</mi> <mi>x</mi> <mo>=</mo> <msqrt> <mfrac> <mn>2</mn> <mi>&pi;</mi> </mfrac> </msqrt> <msub> <mi>&delta;</mi> <mi>h</mi> </msub> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>14</mn> <mo>)</mo> </mrow> </mrow>

同時得到:

<mrow> <mi>E</mi> <mo>&lsqb;</mo> <mo>|</mo> <mi>x</mi> <mo>|</mo> <mo>&rsqb;</mo> <mo>=</mo> <mfrac> <mrow> <mi>S</mi> <mi>A</mi> <mi>T</mi> <mi>D</mi> </mrow> <mrow> <mi>M</mi> <mo>&times;</mo> <mi>M</mi> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>15</mn> <mo>)</mo> </mrow> </mrow>

則哈達(dá)瑪變換域的標(biāo)準(zhǔn)差δh

<mrow> <msub> <mi>&delta;</mi> <mi>h</mi> </msub> <mo>=</mo> <msqrt> <mfrac> <mi>&pi;</mi> <mn>2</mn> </mfrac> </msqrt> <mo>&CenterDot;</mo> <mfrac> <mrow> <mi>S</mi> <mi>A</mi> <mi>T</mi> <mi>D</mi> </mrow> <mrow> <mi>M</mi> <mo>&times;</mo> <mi>M</mi> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>16</mn> <mo>)</mo> </mrow> <mo>.</mo> </mrow>

當(dāng)前第2頁1 2 3 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點(diǎn)贊!
1