本發(fā)明涉及云端流媒體服務(wù)系統(tǒng)、使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法和相關(guān)設(shè)備。更具體地,本發(fā)明涉及用于通過只向前一幀和當(dāng)前幀之間的改變的區(qū)域應(yīng)用靜止圖像壓縮技術(shù)來提高服務(wù)速度、用于通過利用圖像特征信息確定編碼技術(shù)來節(jié)省用于圖像處理的系統(tǒng)資源、用于通過根據(jù)圖像特征選擇編碼處理單元來有效使用服務(wù)器資源、以及用于通過根據(jù)編碼處理單元分別執(zhí)行編碼處理來節(jié)省服務(wù)器資源的云端流媒體服務(wù)系統(tǒng)、方法和設(shè)備。
本申請(qǐng)要求于2014年7月30日提交的韓國專利申請(qǐng)No.10-2014-0097322、于2014年10月2日提交的韓國專利申請(qǐng)No.10-2014-0133176、于2014年10月6日提交的韓國專利申請(qǐng)No.10-2014-0134512、于2014年10月13日提交的韓國專利申請(qǐng)No.10-2014-0137733、于2014年10月20日提交的韓國專利申請(qǐng)No.10-2014-0141983的優(yōu)先權(quán)和權(quán)益,這些韓國專利申請(qǐng)通過引用方式完整地并入到本文中。
背景技術(shù):
云端流媒體服務(wù)基本上應(yīng)用基于視頻編解碼器的云端流媒體技術(shù)。因此,在菜單顯示等情況下,云端流媒體服務(wù)因不必要地捕獲整個(gè)畫面并且用編解碼器進(jìn)行編碼而是效率低的。
即,至于靜態(tài)圖像響應(yīng)于用戶輸入而略微改變的畫面,基于圖像的云端流媒體服務(wù)可以比使用視頻編解碼器的云端流媒體服務(wù)更高效。
換句話講,當(dāng)執(zhí)行基于靜止圖像的云端流媒體服務(wù)時(shí),更高效的是檢測幀之間發(fā)生改變的區(qū)域并且隨后僅發(fā)送此最小區(qū)域。
然而,在應(yīng)用靜止圖像編解碼器的情況下,數(shù)據(jù)量可以根據(jù)待壓縮的圖像的類型而顯著改變。另外,云端流媒體服務(wù)的效率可以根據(jù)用于壓縮的靜止圖像壓縮技術(shù)而顯著改變。因此,需要用于快速且精確地識(shí)別圖像類型并且隨后適應(yīng)性地應(yīng)用圖像云的新技術(shù)。
另外,為了執(zhí)行基于靜止圖像的云端流媒體服務(wù),精確地檢測幀之間發(fā)生改變的區(qū)域是非常重要的。因此,還需要用于更簡單且更有效地檢測這種改變后的區(qū)域的技術(shù)。
此外,有線和IPTV供應(yīng)商已經(jīng)供應(yīng)了各種機(jī)頂盒。另外,隨著有線和IPTV供應(yīng)商長久以來供應(yīng)了各種類型的機(jī)頂盒,這些機(jī)頂盒之間的性能差異大。事實(shí)上,近10年來已經(jīng)引入了不止15種類型的機(jī)頂盒。好的機(jī)頂盒和差的機(jī)頂盒之間的性能差異大,以致內(nèi)容供應(yīng)商可能不能夠以期望的方式向用戶提供內(nèi)容。
此外,在基于靜止圖像的云端流媒體服務(wù)的情況下,為網(wǎng)絡(luò)應(yīng)用編寫代碼的網(wǎng)絡(luò)應(yīng)用開發(fā)人員想要用他們習(xí)慣用的相同的方式來編寫代碼,而云端流媒體服務(wù)器想要沒有應(yīng)用動(dòng)畫的代碼,該代碼只包含關(guān)于需要捕獲的圖像的信息和與動(dòng)畫的屬性對(duì)應(yīng)的信息。即,為了提供CS服務(wù)器所期望的代碼,網(wǎng)絡(luò)應(yīng)用開發(fā)人員需要用新的方式而非他們習(xí)慣用的方式來編寫代碼。
于2014年3月6日公開的韓國專利公開No.10-2014-0027040(名稱:Adaptive predictive image compression system and method thereof(自適應(yīng)預(yù)測圖像壓縮系統(tǒng)及其方法))、2014年4月16日公開的韓國專利公開No.10-2014-0045013(名稱:Method and apparatus for encoding a cloud display screen by using API information(用于利用API信息對(duì)云顯示畫面進(jìn)行編碼的方法和設(shè)備))、2012年9月26日公開的韓國專利公開No.10-2012-0105688(名稱:System and method for virtualization service between server/client terminal of heterogeneous computing types(用于將異構(gòu)計(jì)算類型的服務(wù)器/客戶端終端之間的服務(wù)虛擬化的系統(tǒng)和方法))以及于2014年2月20日公開的韓國專利公開No.10-2014-0021388(名稱:Apparatus and method for JPEG2000 encoding/decoding based on GPU(用于基于GPU進(jìn)行JPEG2000編碼/解碼的設(shè)備和方法))中公開了相關(guān)技術(shù)。
技術(shù)實(shí)現(xiàn)要素:
技術(shù)問題
本發(fā)明的一個(gè)目的是針對(duì)提供基于靜止圖像的云端流媒體服務(wù)時(shí)的環(huán)境,通過使用合適的靜止圖像壓縮技術(shù)來提高云端流媒體服務(wù)的壓縮效率和服務(wù)速度。
另外,本發(fā)明的一個(gè)目的是針對(duì)提供基于靜止圖像的云端流媒體服務(wù)時(shí)的圖像類型,通過使用合適的靜止圖像壓縮技術(shù)來提高云端流媒體服務(wù)的壓縮效率和服務(wù)速度。
另外,本發(fā)明的一個(gè)目的是通過利用基于靜止圖像的云端流媒體服務(wù)將流媒體壓縮的效率最大化來在同一頻帶內(nèi)向更多用戶提供更快速的云端流媒體服務(wù)。
另外,本發(fā)明的一個(gè)目的是通過當(dāng)提供使用靜止圖像壓縮技術(shù)進(jìn)行的云端流媒體服務(wù)時(shí)向當(dāng)前幀和前一幀之間的改變的區(qū)域應(yīng)用靜止圖像壓縮技術(shù)來在同一頻帶內(nèi)向更多用戶提供更快速的云端流媒體服務(wù)。
另外,本發(fā)明的一個(gè)目的是當(dāng)提供使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)時(shí),通過對(duì)當(dāng)前幀和前一幀之間的差別幀(differential frame)進(jìn)行掃描而確定改變后的區(qū)域來快速地檢測靜止圖像壓縮的目標(biāo)。
另外,本發(fā)明的一個(gè)目的是通過基于使用應(yīng)用源代碼和MEPG紋理描述子(descriptor)而創(chuàng)建的圖像特性信息確定編碼技術(shù),來構(gòu)造能夠節(jié)省進(jìn)行圖像處理通常需要的服務(wù)器資源的高效云端流媒體服務(wù)器。
另外,本發(fā)明的一個(gè)目的是通過利用基于圖像特征信息的靜止圖像編碼而減少進(jìn)行圖像處理所需的服務(wù)時(shí)間來向用戶更快速地提供云端流媒體服務(wù)。
另外,本發(fā)明的一個(gè)目的是通過提高云端流媒體服務(wù)的效率來降低云端流媒體服務(wù)的處理成本。
另外,本發(fā)明的一個(gè)目的是通過當(dāng)提供云端流媒體服務(wù)時(shí)通過不同的編碼處理單元分別執(zhí)行編碼處理來減少云端流媒體服務(wù)器處的資源使用。
另外,本發(fā)明的一個(gè)目的是通過當(dāng)提供云端流媒體服務(wù)時(shí)使用圖形處理單元連同中央處理單元一起來減少可能由于服務(wù)器負(fù)載而造成的延遲情形。
技術(shù)解決方案
為了實(shí)現(xiàn)以上目的,根據(jù)本發(fā)明的實(shí)施方式的一種云端流媒體服務(wù)器,該云端流媒體服務(wù)器包括:改變區(qū)域確定單元,該改變區(qū)域確定單元被配置為通過將當(dāng)前幀與前一幀進(jìn)行比較來確定相對(duì)于所述前一幀發(fā)生改變的所述當(dāng)前幀的改變后的區(qū)域;捕獲單元,該捕獲單元被配置為捕獲所述改變后的區(qū)域;編碼單元,該編碼單元被配置為通過使用靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及發(fā)送單元,該發(fā)送單元被配置為通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為計(jì)算所述前一幀和所述當(dāng)前幀之間的差別幀,并且通過使用所述差別幀來確定所述改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為通過經(jīng)由對(duì)所述差別幀的掃描而檢測相對(duì)于所述前一幀發(fā)生改變的所述當(dāng)前幀的改變后的像素來確定所述改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為確定確定包含通過對(duì)所述差別幀的水平掃描和垂直掃描而檢測到的改變后的像素的所述改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為從通過從上到下以逐行為基礎(chǔ)對(duì)所述差別幀的水平掃描而首先檢測到的改變后的像素中獲得第一垂直坐標(biāo)元素,從通過從下到上以逐行為基礎(chǔ)對(duì)所述差別幀的水平掃描而首先檢測到的改變后的像素中獲得第二垂直坐標(biāo)元素,從通過從左到右以逐列為基礎(chǔ)對(duì)所述差別幀的垂直掃描而首先檢測到的改變后的像素中獲得第一水平坐標(biāo)元素,從通過從右到左以逐列為基礎(chǔ)對(duì)所述差別幀的垂直掃描而首先檢測到的改變后的像素中獲得第二水平坐標(biāo)元素,并且將包含與由所述水平坐標(biāo)元素中的一個(gè)和所述垂直坐標(biāo)元素中的一個(gè)配成的一對(duì)而形成的坐標(biāo)對(duì)應(yīng)的改變后的像素的矩形區(qū)域確定為所述改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為將包含改變后的像素并且具有最小面積的矩形區(qū)域確定為所述改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述改變區(qū)域確定單元還可以被配置為將用各自通過所述水平坐標(biāo)元素中的一個(gè)和所述垂直坐標(biāo)元素中的一個(gè)配成的一對(duì)而形成的四個(gè)坐標(biāo)作為頂點(diǎn)的矩形區(qū)域確定為所述改變后的區(qū)域。
另外,根據(jù)本發(fā)明的實(shí)施方式的一種使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法包括以下步驟:通過將當(dāng)前幀與前一幀進(jìn)行比較來確定相對(duì)于所述前一幀發(fā)生改變的當(dāng)前幀的改變后的區(qū)域;通過使用靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:計(jì)算所述前一幀和所述當(dāng)前幀之間的差別幀,并且通過使用所述差別幀來確定所述改變后的區(qū)域。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:通過經(jīng)由對(duì)所述差別幀的掃描而檢測相對(duì)于所述前一幀發(fā)生改變的所述當(dāng)前幀的改變后的像素來確定所述改變后的區(qū)域。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:確定包含通過對(duì)所述差別幀的水平掃描和垂直掃描而檢測到的改變后的像素的所述改變后的區(qū)域。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:從通過從上到下以逐行為基礎(chǔ)對(duì)所述差別幀的水平掃描而首先檢測到的改變后的像素中獲得第一垂直坐標(biāo)元素,從通過從下到上以逐行為基礎(chǔ)對(duì)所述差別幀的水平掃描而首先檢測到的改變后的像素中獲得第二垂直坐標(biāo)元素,從通過從左到右以逐列為基礎(chǔ)對(duì)所述差別幀的垂直掃描而首先檢測到的改變后的像素中獲得第一水平坐標(biāo)元素,從通過從右到左以逐列為基礎(chǔ)對(duì)所述差別幀的垂直掃描而首先檢測到的改變后的像素中獲得第二水平坐標(biāo)元素,并且將包含與由所述水平坐標(biāo)元素中的一個(gè)和所述垂直坐標(biāo)元素中的一個(gè)配成的一對(duì)而形成的坐標(biāo)對(duì)應(yīng)的改變后的像素的矩形區(qū)域確定為所述改變后的區(qū)域。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:將包含改變后的像素并且具有最小面積的矩形區(qū)域確定為所述改變后的區(qū)域。
在所述方法中,確定所述改變后的區(qū)域的步驟可以包括以下步驟:將用各自通過所述水平坐標(biāo)元素中的一個(gè)和所述垂直坐標(biāo)元素中的一個(gè)配成的一對(duì)而形成的四個(gè)坐標(biāo)作為頂點(diǎn)的矩形區(qū)域確定為所述改變后的區(qū)域。
另外,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的一種云端流媒體服務(wù)器包括:捕獲單元,該捕獲單元被配置為捕獲改變后的幀中包含的改變后的區(qū)域;編碼單元,該編碼單元被配置為通過考慮是否存在與所述改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),并且通過使用所述編碼技術(shù)來對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及發(fā)送單元,該發(fā)送單元被配置為通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在云端流媒體服務(wù)器中,所述圖像特征信息可以是基于應(yīng)用源代碼來創(chuàng)建的或者是使用MPEG紋理描述子來創(chuàng)建的。
在云端流媒體服務(wù)器中,所述編碼單元還可以被配置為:如果存在所述圖像特征信息,則基于所述圖像特征信息來確定所述編碼技術(shù),并且如果不存在圖像特征信息,則通過對(duì)與所述改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來確定所述編碼技術(shù)。
在云端流媒體服務(wù)器中,所述編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。
在云端流媒體服務(wù)器中,所述編碼單元還可以被配置為通過對(duì)與所述改變后的區(qū)域?qū)?yīng)的所述圖像進(jìn)行分析來將所述改變后的區(qū)域識(shí)別為正常區(qū)域和圖片區(qū)域中的一個(gè),并且通過考慮所述正常區(qū)域的圖像處理結(jié)果和所述圖片區(qū)域的圖像類型中的至少一個(gè)來確定所述編碼技術(shù)。
在云端流媒體服務(wù)器中,所述圖像類型可以與自然圖像和合成圖像中的一個(gè)對(duì)應(yīng)。
在云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為捕獲相比于與前一幀對(duì)應(yīng)的畫面區(qū)域的與改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的一種使用源信息的云端流媒體服務(wù)方法包括以下步驟:捕獲改變后的幀中包含的改變后的區(qū)域;通過考慮是否存在與所述改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),并且通過使用所述編碼技術(shù)來對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述方法中,所述圖像特征信息可以是基于應(yīng)用源代碼來創(chuàng)建的或者是使用MPEG紋理描述子來創(chuàng)建的。
在所述方法中,編碼步驟可以包括以下步驟:如果存在所述圖像特征信息,則基于所述圖像特征信息來確定所述編碼技術(shù),并且如果不存在圖像特征信息,則通過對(duì)與所述改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來確定所述編碼技術(shù)。
在所述方法中,所述編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。
在所述方法中,編碼步驟可以包括以下步驟:通過對(duì)與所述改變后的區(qū)域?qū)?yīng)的所述圖像進(jìn)行分析來將所述改變后的區(qū)域識(shí)別為正常區(qū)域和圖片區(qū)域中的一個(gè),并且通過考慮所述正常區(qū)域的圖像處理結(jié)果和所述圖片區(qū)域的圖像類型中的至少一個(gè)來確定所述編碼技術(shù)。
在所述方法中,所述圖像類型可以與自然圖像和合成圖像中的一種對(duì)應(yīng)。
在所述方法中,捕獲步驟可以包括以下步驟:捕獲相比于與所述前一幀對(duì)應(yīng)的畫面區(qū)域的與所述改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在所述方法中,捕獲步驟可以包括以下步驟:在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在所述方法中,捕獲步驟可以包括以下步驟:通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的實(shí)施方式的一種云端流媒體服務(wù)系統(tǒng)包括:云端流媒體服務(wù)器,該云端流媒體服務(wù)器被配置為捕獲改變后的幀中包含的改變后的區(qū)域,通過考慮是否存在與所述改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),通過使用所述編碼技術(shù)來對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域執(zhí)行基于靜止圖像的云端流媒體服務(wù);以及終端,該終端被配置為從所述云端流媒體服務(wù)器接收與所述云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面。
另外,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的一種云端流媒體服務(wù)器包括:捕獲單元,該捕獲單元被配置為捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域;編碼單元,該編碼單元被配置為通過考慮與所述改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,并且通過使用所述編碼處理單元來與一幀對(duì)應(yīng)地對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及發(fā)送單元,該發(fā)送單元被配置為通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述云端流媒體服務(wù)器中,所述編碼處理單元可以與中央處理單元(CPU)和圖形處理單元(GPU)中的一個(gè)對(duì)應(yīng)。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為通過考慮所述圖像特征和所述圖像分辨率中的一個(gè)或更多個(gè)來預(yù)測所述CPU和所述GPU中的每一個(gè)的編碼處理成本,并且通過從所述CPU和所述GPU當(dāng)中選擇預(yù)測編碼處理成本較低的編碼處理單元來對(duì)所述改變后的區(qū)域執(zhí)行所述靜止圖像編碼。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為當(dāng)與所述改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值時(shí),通過使用所述GPU來對(duì)所述改變后的區(qū)域執(zhí)行所述靜止圖像編碼。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為當(dāng)與所述改變后的區(qū)域?qū)?yīng)的圖像分辨率小于所述預(yù)定參考值時(shí),通過根據(jù)所述圖像特征考慮靜止圖像壓縮技術(shù)來選擇所述編碼處理單元。
在所述云端流媒體服務(wù)器中,所述靜止圖像壓縮技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為當(dāng)所述圖像比率小于所述預(yù)定參考值時(shí)并且當(dāng)所述靜止圖像壓縮技術(shù)是所述調(diào)色板PNG時(shí),通過使用所述GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為捕獲相比于與所述前一幀對(duì)應(yīng)的畫面區(qū)域的與改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的一種使用選擇性編碼處理單元的云端流媒體服務(wù)方法包括以下步驟:捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域;通過考慮與所述改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,并且通過使用所述編碼處理單元來與一幀對(duì)應(yīng)地對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼;以及通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述方法中,所述編碼處理單元可以與中央處理單元(CPU)和圖形處理單元(GPU)中的一個(gè)對(duì)應(yīng)。
在所述方法中,編碼步驟可以包括以下步驟:通過考慮所述圖像特征和所述圖像分辨率中的一個(gè)或更多個(gè)來預(yù)測所述CPU和所述GPU中的每一個(gè)的編碼處理成本,并且通過從所述CPU和所述GPU當(dāng)中選擇預(yù)測編碼處理成本較低的編碼處理單元來對(duì)所述改變后的區(qū)域執(zhí)行所述靜止圖像編碼。
在所述方法中,編碼步驟可以包括以下步驟:當(dāng)與所述改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值時(shí),通過使用所述GPU來對(duì)所述改變后的區(qū)域執(zhí)行所述靜止圖像編碼。
在所述方法中,編碼步驟可以包括以下步驟:當(dāng)與所述改變后的區(qū)域?qū)?yīng)的圖像分辨率小于所述預(yù)定參考值時(shí),通過根據(jù)所述圖像特征考慮靜止圖像壓縮技術(shù)來選擇所述編碼處理單元。
在所述方法中,所述靜止圖像壓縮技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。
在所述方法中,編碼步驟可以包括以下步驟:當(dāng)所述圖像比率小于所述預(yù)定參考值時(shí)并且當(dāng)所述靜止圖像壓縮技術(shù)是所述調(diào)色板PNG時(shí),通過使用所述GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
在所述方法中,捕獲步驟可以包括以下步驟:捕獲相比于與所述前一幀對(duì)應(yīng)的畫面區(qū)域的與改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在所述方法中,捕獲步驟可以包括以下步驟:在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在所述方法中,捕獲步驟可以包括以下步驟:通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的一種云端流媒體服務(wù)系統(tǒng)包括:云端流媒體服務(wù)器,該云端流媒體服務(wù)器被配置為捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域,通過考慮與所述改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,通過使用所述編碼處理單元來與一幀對(duì)應(yīng)地對(duì)所述改變后的區(qū)域執(zhí)行靜止圖像編碼,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域執(zhí)行基于靜止圖像的云端流媒體服務(wù);以及終端,該終端被配置為從所述云端流媒體服務(wù)器接收與所述云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面。
另外,根據(jù)本發(fā)明的另一個(gè)實(shí)施例的一種云端流媒體服務(wù)器包括:捕獲單元,該捕獲單元被配置為捕獲改變后的幀中包含的改變后的區(qū)域;編碼單元,該編碼單元被配置為將針對(duì)所述改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)所述改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行所述編碼處理;以及發(fā)送單元,該發(fā)送單元被配置為通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述云端流媒體服務(wù)器中,所述單元處理中的每一個(gè)可以與圖像分析、靜止圖像壓縮技術(shù)確定、靜止圖像壓縮和壓縮數(shù)據(jù)收集中的一個(gè)對(duì)應(yīng)。
在所述云端流媒體服務(wù)器中,所述編碼單元還可以被配置為基于與所述圖像分析和所述靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果來將與所述靜止圖像壓縮對(duì)應(yīng)的單元處理分配給所述GPU。
在所述云端流媒體服務(wù)器中,所述靜止圖像壓縮可以包括針對(duì)與所述改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行的顏色直方圖構(gòu)造、調(diào)色板創(chuàng)建、基于調(diào)色板的原始顏色量化和基于調(diào)色板的編碼中的至少一種。
在所述云端流媒體服務(wù)器中,所述GPU向所述CPU遞送與所述靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果。
在所述云端流媒體服務(wù)器中,所述CPU可以通過使用與所述靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與所述壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理。
在所述云端流媒體服務(wù)器中,所述CPU可以當(dāng)與所述靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給所述GPU時(shí)向所述GPU遞送與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)。
在所述云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為捕獲相比于與前一幀對(duì)應(yīng)的畫面區(qū)域的與改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在所述云端流媒體服務(wù)器中,所述捕獲單元還可以被配置為通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的一種通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體方法包括以下步驟:捕獲改變后的幀中包含的改變后的區(qū)域;將針對(duì)所述改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)所述改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行所述編碼處理;以及通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
在所述方法中,所述單元處理中的每一個(gè)可以與圖像分析、靜止圖像壓縮技術(shù)確定、靜止圖像壓縮和壓縮數(shù)據(jù)收集中的一個(gè)對(duì)應(yīng)。
在所述方法中,編碼步驟可以包括以下步驟:基于與所述圖像分析和所述靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果來將與所述靜止圖像壓縮對(duì)應(yīng)的單元處理分配給所述GPU。
在所述方法中,所述靜止圖像壓縮可以包括針對(duì)與所述改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行的顏色直方圖構(gòu)造、調(diào)色板創(chuàng)建、基于調(diào)色板的原始顏色量化和基于調(diào)色板的編碼中的至少一種。
在所述方法中,所述GPU可以向所述CPU遞送與所述靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果。
在所述方法中,所述CPU可以通過使用與所述靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與所述壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理。
在所述方法中,所述CPU可以當(dāng)與所述靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給所述GPU時(shí)向所述GPU遞送與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)。
在所述方法中,捕獲步驟可以包括以下步驟:捕獲相比于與所述前一幀對(duì)應(yīng)的畫面區(qū)域的與改變后的幀對(duì)應(yīng)的畫面區(qū)域中發(fā)生改變的特定區(qū)域作為改變后的區(qū)域。
在所述方法中,捕獲步驟可以包括以下步驟:在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且捕獲所檢測到的片段中的改變后的區(qū)域。
在所述方法中,所述捕獲單元可以包括通過感測在用戶的終端裝置處發(fā)生的應(yīng)用的事件類型來檢測具有較小的幀改變的片段。
另外,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的一種云端流媒體服務(wù)系統(tǒng)包括:云端流媒體服務(wù)器,該云端流媒體服務(wù)器被配置為捕獲改變后的幀中包含的改變后的區(qū)域,將針對(duì)所述改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),為了對(duì)所述改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行所述編碼處理,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域執(zhí)行基于靜止圖像的云端流媒體服務(wù);以及終端,該終端被配置為從所述云端流媒體服務(wù)器接收與所述云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面。
另外,為了解決以上目的,本發(fā)明提供了記錄在介質(zhì)上的用于執(zhí)行以上討論的方法的計(jì)算機(jī)程序。
有益效果
根據(jù)本發(fā)明,能夠針對(duì)提供基于靜止圖像的云端流媒體服務(wù)時(shí)的環(huán)境,通過使用合適的靜止圖像壓縮技術(shù)來提高云端流媒體服務(wù)的壓縮效率和服務(wù)速度。
另外,本發(fā)明可以針對(duì)提供基于靜止圖像的云端流媒體服務(wù)時(shí)的圖像類型,通過使用合適的靜止圖像壓縮技術(shù)來提高云端流媒體服務(wù)的壓縮效率和服務(wù)速度。
另外,本發(fā)明可以通過利用基于靜止圖像的云端流媒體服務(wù)將流媒體壓縮的效率最大化來在同一頻帶內(nèi)向更多用戶提供更快速的云端流媒體服務(wù)。
另外,本發(fā)明可以通過當(dāng)提供使用靜止圖像壓縮技術(shù)進(jìn)行的云端流媒體服務(wù)時(shí)向當(dāng)前幀和前一幀之間的改變的區(qū)域應(yīng)用靜止圖像壓縮技術(shù)來在同一頻帶內(nèi)向更多用戶提供更快速的云端流媒體服務(wù)。
另外,本發(fā)明可以當(dāng)提供使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)時(shí),通過對(duì)當(dāng)前幀和前一幀之間的差別幀進(jìn)行掃描而確定改變后的區(qū)域來快速地檢測靜止圖像壓縮的目標(biāo)。
另外,本發(fā)明可以通過基于使用應(yīng)用源代碼和MEPG紋理描述子而創(chuàng)建的圖像特性信息確定編碼技術(shù),來構(gòu)造能夠節(jié)省進(jìn)行圖像處理通常需要的服務(wù)器資源的高效云端流媒體服務(wù)器。
另外,本發(fā)明可以通過利用基于圖像特征信息的靜止圖像編碼而減少進(jìn)行圖像處理所需的服務(wù)時(shí)間來向用戶更快速地提供云端流媒體服務(wù)。
另外,本發(fā)明可以通過提高云端流媒體服務(wù)的效率來降低云端流媒體服務(wù)的處理成本。
另外,本發(fā)明可以通過當(dāng)提供云端流媒體服務(wù)時(shí)通過不同的編碼處理單元分別執(zhí)行編碼處理來減少云端流媒體服務(wù)器處的資源使用。
另外,本發(fā)明可以通過當(dāng)提供云端流媒體服務(wù)時(shí)使用圖形處理單元連同中央處理單元一起來減少可能由于服務(wù)器負(fù)載而造成的延遲情形。
附圖說明
圖1是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)系統(tǒng)的框圖。
圖2是例示圖1中示出的云端流媒體服務(wù)器的示例的框圖。
圖3是例示云端流媒體系統(tǒng)的示例的示圖。
圖4是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
圖5是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)中的確定改變后的區(qū)域的處理的示圖。
圖6是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法的流程圖。
圖7是例示根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
圖8是例示圖7中示出的云端流媒體服務(wù)器的示例的框圖。
圖9是例示基于靜止圖像的云端流媒體系統(tǒng)的示例的示圖。
圖10是例示根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
圖11是例示根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法的流程圖。
圖12是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法的流程圖。
圖13是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
圖14是例示圖13中示出的云端流媒體服務(wù)器的示例的框圖。
圖15是例示基于靜止圖像的云端流媒體系統(tǒng)的另一個(gè)示例的示圖。
圖16是例示根據(jù)本發(fā)明的實(shí)施方式的編碼處理單元的示圖。
圖17是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
圖18是例示根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法的流程圖。
圖19是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法的流程圖。
圖20是例示根據(jù)本發(fā)明的又一個(gè)實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
圖21是例示圖20中示出的云端流媒體服務(wù)器的示例的框圖。
圖22是例示基于靜止圖像的云端流媒體系統(tǒng)的又一個(gè)示例的示圖。
圖23是例示根據(jù)本發(fā)明的又一個(gè)實(shí)施方式的編碼處理單元的示圖。
圖24是例示根據(jù)本發(fā)明的又一個(gè)實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
圖25是例示根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法的流程圖。
圖26是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法的流程圖。
具體實(shí)施方式
下文中,將參照附圖描述本發(fā)明的各種實(shí)施方式。然而,可以不詳細(xì)描述公知的功能和元件以避免使本發(fā)明的主題不清楚。在所有附圖中,相同或相似的附圖標(biāo)記始終表示對(duì)應(yīng)的特征。
在本說明書和權(quán)利要求中使用的術(shù)語和詞語應(yīng)該不被理解為限于普通或字典上的含義。另外,本發(fā)明的各種實(shí)施方式中使用的術(shù)語和詞語僅僅用于描述特定實(shí)施方式并且不旨在限制這些實(shí)施方式。因此,雖然參照本發(fā)明的示例性實(shí)施方式具體示出和描述了以下描述,但下面對(duì)示例性實(shí)施方式的描述只是出于例示目的提供的,而非出于限制隨附的權(quán)利要求及其等同物限定的本發(fā)明的目的提供的。另外,包括措詞“第一”、“第二”等的術(shù)語僅僅用于將一個(gè)元件與其它元件區(qū)分開,但不限制對(duì)應(yīng)的元件。
下文中,根據(jù)本發(fā)明的實(shí)施方式的終端將被描述為移動(dòng)通信裝置,該移動(dòng)通信裝置與通信網(wǎng)絡(luò)連接并且能夠基于云計(jì)算系統(tǒng)來上傳或下載內(nèi)容。然而,這僅僅是示例性的,而不被理解為限制本發(fā)明。另選地,可以使用諸如信息通信裝置、多媒體終端、有線終端、固定終端和網(wǎng)際協(xié)議(IP)終端這樣的各種裝置。另外,終端可以是諸如移動(dòng)電話、便攜式多媒體播放器(PMP)、移動(dòng)互聯(lián)網(wǎng)裝置(MID)、智能電話、臺(tái)式機(jī)、平板PC、筆記本、上網(wǎng)本和信息通信裝置這樣的具有各種移動(dòng)通信規(guī)范的移動(dòng)裝置。
下文中,將描述根據(jù)本發(fā)明的實(shí)施方式的基于云計(jì)算的數(shù)據(jù)管理系統(tǒng)。下文中,內(nèi)容共享可以是包括內(nèi)容發(fā)送的構(gòu)思,并且數(shù)據(jù)管理可以是包括數(shù)據(jù)發(fā)送的構(gòu)思。
圖1是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)系統(tǒng)的框圖。
參照?qǐng)D1,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)系統(tǒng)包括云端流媒體服務(wù)器110、終端裝置120-1至120-N和網(wǎng)絡(luò)130。
云端流媒體服務(wù)器110響應(yīng)于終端裝置120-1至120-N對(duì)云端流媒體服務(wù)的請(qǐng)求而執(zhí)行應(yīng)用,并且向終端裝置120-1至120-N提供與執(zhí)行該應(yīng)用的結(jié)果對(duì)應(yīng)的執(zhí)行結(jié)果畫面。
云端流媒體服務(wù)基本上應(yīng)用基于視頻編解碼器的云端流媒體技術(shù)。因此,即使當(dāng)向諸如菜單顯示這樣的靜態(tài)畫面應(yīng)用云端流媒體技術(shù)時(shí),也是按照不必要地捕獲整個(gè)畫面并且用視頻編解碼器進(jìn)行編碼的低效方式來執(zhí)行云端流媒體服務(wù)。為了解決這個(gè)問題,本發(fā)明提供了一種云端流媒體服務(wù)系統(tǒng),在該云端流媒體系統(tǒng)中,云端流媒體服務(wù)器在諸如菜單顯示畫面這樣的幀之間有較小的改變的情況下檢測幀之間的改變的區(qū)域,并且只通過靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
云端流媒體服務(wù)器110通過將當(dāng)前幀與前一幀進(jìn)行比較來確定相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的區(qū)域,然后捕獲該改變后的區(qū)域。在這種情況下,服務(wù)器可以檢測待發(fā)送到終端裝置120-1至120-N的所有幀中有較小幀改變的片段,然后捕獲所檢測到的片段中的改變后的區(qū)域。此時(shí),通過識(shí)別在終端裝置120-1至120-N處發(fā)生的應(yīng)用的事件類型,可以檢測具有較小幀改變的此片段。
另外,云端流媒體服務(wù)器110按照通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的多種顏色中的一種或更多種以及該圖像的像素值的標(biāo)準(zhǔn)偏差而確定的圖像類型來選擇靜止圖像壓縮技術(shù),并且通過使用所選擇的靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。在這種情況下,服務(wù)器可以根據(jù)諸如自然圖像和合成圖像這樣的圖像類型中的一種來選擇靜止圖像壓縮技術(shù)。如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目大于預(yù)定參考數(shù)目,則服務(wù)器可以確定圖像類型為自然圖像。如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,則服務(wù)器可以通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差來確定圖像類型。如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,并且如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差等于或小于預(yù)定參考值,則服務(wù)器可以確定圖像類型為合成圖像。如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則服務(wù)器可以確定圖像類型為自然圖像。在這種情況下,服務(wù)器可以通過使用按照?qǐng)D像類型從PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中選擇的靜止圖像壓縮技術(shù)來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
另外,云端流媒體服務(wù)器110向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域,因此執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
終端裝置120-1至120-N從云端流媒體服務(wù)器110接收與云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面,然后將其提供給用戶。
終端裝置120-1至120-N與通信網(wǎng)絡(luò)連接,并且基于云計(jì)算系統(tǒng),可以執(zhí)行應(yīng)用。終端裝置可以是但不限于移動(dòng)通信終端、諸如信息通信裝置、多媒體裝置、有線裝置、固定裝置和網(wǎng)際協(xié)議(IP)裝置這樣的各種裝置。另外,終端裝置120-1至120-N中的每一個(gè)可以是諸如移動(dòng)電話、便攜式多媒體播放器(PMP)、移動(dòng)互聯(lián)網(wǎng)裝置(MID)、智能電話、臺(tái)式機(jī)、平板PC、筆記本、上網(wǎng)本、個(gè)人數(shù)字助理(PDA)、智能電話和信息通信裝置這樣的具有各種移動(dòng)通信規(guī)范的移動(dòng)裝置。
網(wǎng)絡(luò)130供應(yīng)在云端流媒體服務(wù)器110和終端裝置120-1至120-N之間遞送數(shù)據(jù)的路線,包括通常使用的網(wǎng)絡(luò)和任何今后可開發(fā)的網(wǎng)絡(luò)。例如,網(wǎng)絡(luò)130可以是用于在有限區(qū)域內(nèi)提供各種信息裝置的通信的有線/無線短距離通信網(wǎng)絡(luò)、用于提供移動(dòng)實(shí)體之間以及移動(dòng)實(shí)體和該移動(dòng)實(shí)體之外的任何其它實(shí)體之間的通信的移動(dòng)通信網(wǎng)絡(luò)、用于使用衛(wèi)星來提供地面站之間的通信的衛(wèi)星通信網(wǎng)絡(luò)、有線/無線通信網(wǎng)絡(luò)中的一種或者其任何組合。此外,用于網(wǎng)絡(luò)130的發(fā)送方案標(biāo)準(zhǔn)不限于現(xiàn)有的發(fā)送方案標(biāo)準(zhǔn),并且可以包括今后將開發(fā)的所有發(fā)送方案標(biāo)準(zhǔn)。另外,圖1中的云端流媒體服務(wù)器110和終端裝置120-1至120-N之間使用的網(wǎng)絡(luò)可以具有與終端裝置120-1至120-N之間的網(wǎng)絡(luò)不同或相同的形式。
圖2是例示圖1中示出的云端流媒體服務(wù)器的示例的框圖。
參照?qǐng)D2,圖1中示出的云端流媒體服務(wù)器110包括改變區(qū)域確定單元205、捕獲單元210、編碼單元220、發(fā)送單元230和存儲(chǔ)單元240。
云端流媒體服務(wù)基本上應(yīng)用基于視頻編解碼器的云端流媒體技術(shù)。因此,即使當(dāng)向諸如菜單顯示這樣的靜態(tài)畫面應(yīng)用云端流媒體技術(shù)時(shí),也是按照不必要地捕獲整個(gè)畫面并且用視頻編解碼器進(jìn)行編碼的低效方式來執(zhí)行云端流媒體服務(wù)。為了解決這個(gè)問題,本發(fā)明提供了云端流媒體服務(wù)系統(tǒng)110,該云端流媒體服務(wù)器110用于在諸如菜單顯示畫面這樣的幀之間有較小改變的情況下檢測幀之間的改變的區(qū)域,并且只通過靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
改變區(qū)域確定單元205將當(dāng)前幀與前一幀進(jìn)行比較,并且確定相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的區(qū)域。
基于視頻編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則能夠通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置能夠固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,改變區(qū)域確定單元可以計(jì)算前一幀和當(dāng)前幀之間的差別幀,并且通過使用該差別幀來確定改變后的區(qū)域。此時(shí),改變區(qū)域確定單元可以通過經(jīng)由對(duì)差別幀的掃描而檢測相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的像素,來確定改變后的區(qū)域。另外,改變區(qū)域確定單元可以確定包含通過對(duì)差別幀的水平掃描和垂直掃描而檢測到的改變后的像素的改變后的區(qū)域。例如,當(dāng)通過從上到下以逐行為基礎(chǔ)對(duì)差別幀進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y0元素。另外,當(dāng)從下到上地以逐行為基礎(chǔ)對(duì)差別幀進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y1元素。另外,當(dāng)從左到右地以逐列為基礎(chǔ)對(duì)差別幀進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x0。并且另外,當(dāng)從右到左地以逐列為基礎(chǔ)對(duì)差別幀進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x1元素。然后,改變區(qū)域確定單元可以將以四個(gè)像素(x0,y0)、(x1,y0)、(x1,y1)和(x0,y1)作為頂點(diǎn)的矩形區(qū)域確定為改變后的區(qū)域。
捕獲單元210捕獲改變后的區(qū)域。此時(shí),可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
編碼單元220按照通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的多種顏色中的一種或更多種以及該圖像的像素值的標(biāo)準(zhǔn)偏差而確定的圖像類型來選擇靜止圖像壓縮技術(shù),并且使用所選擇的靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,因?yàn)樗东@的改變后的區(qū)域的圖像類型可以是諸如一張照片或一幅圖片這樣的單個(gè)圖像或者許多圖像的混合圖像,所以編碼單元可以確定圖像類型,選擇適于每種圖像類型的靜止圖像壓縮技術(shù),并且執(zhí)行靜止圖像編碼,以提高改變后的區(qū)域的壓縮效率。
在這種情況下,編碼單元可以根據(jù)諸如自然圖像和合成圖像這樣的圖像類型中的一種來選擇靜止圖像壓縮技術(shù)。自然圖像可以是指自然出現(xiàn)的物體的圖像。例如,自然圖像可以是指諸如一張照片或一幅圖片這樣的光學(xué)圖像或者具有諸如x射線和紅外線這樣的其它波長的圖像。與自然圖像相反,合成圖像可以是指通過計(jì)算機(jī)或任何其它人工手段而創(chuàng)建或混合的圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目大于預(yù)定參考數(shù)目,則編碼單元可以確定圖像類型為自然圖像。因?yàn)樽匀粓D像可以是自然出現(xiàn)的物體的圖像,所以相比于合成圖像,應(yīng)用于呈現(xiàn)圖像的顏色的亮度和飽和度的改變會(huì)變得復(fù)雜。因此,因?yàn)橄啾扔诤铣蓤D像可以改變構(gòu)成自然圖像的像素所表現(xiàn)的顏色的數(shù)目,所以可以通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目來確定與改變后的區(qū)域?qū)?yīng)的圖像類型。例如,如果預(yù)定參考數(shù)目是100,000,則當(dāng)構(gòu)成與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目大于100,000時(shí),可以確定圖像類型為自然圖像,并且當(dāng)顏色的數(shù)目等于或小于100,000時(shí),可以確定圖像類型為合成圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,則編碼單元可以通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差來確定圖像類型。像素值的標(biāo)準(zhǔn)偏差可以是指與改變后的區(qū)域?qū)?yīng)的圖像的像素所表現(xiàn)的顏色值的分布變化。如果該變化指示0,則這可以意味著所有顏色具有同一值。即,像素值的較小標(biāo)準(zhǔn)偏差可以意指圖像由較小數(shù)目的顏色形成。因此,通過考慮圖像的像素值的標(biāo)準(zhǔn)偏差,可以確定與改變后的區(qū)域?qū)?yīng)的圖像的圖像類型。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,并且如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差等于或小于預(yù)定參考值,則編碼單元可以確定圖像類型為合成圖像。例如,假定與圖像顏色的數(shù)目有關(guān)的預(yù)定參考數(shù)目是100,000而且與圖像像素值的標(biāo)準(zhǔn)偏差有關(guān)的預(yù)定參考值是N。在這種情況下,如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于100,000并且如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色值的標(biāo)準(zhǔn)偏差等于或小于N,則可以確定圖像類型為合成圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則編碼單元可以確定圖像類型為自然圖像。例如,如果圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則這可以意指圖像由較大數(shù)目的顏色形成。因此,如果圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則編碼單元可以確定與改變后的區(qū)域?qū)?yīng)的圖像是由許多顏色形成的自然圖像。
在這種情況下,編碼單元可以按照?qǐng)D像類型使用從PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中選擇的靜止圖像壓縮技術(shù)來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。JPEG靜止圖像壓縮技術(shù)具有良好的壓縮效率,并因此能夠顯著減少編碼時(shí)傳輸數(shù)據(jù)的量,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使系統(tǒng)負(fù)載大。另外,JPEG靜止圖像壓縮技術(shù)可以對(duì)相似顏色聚集在一個(gè)像素周圍的自然圖像進(jìn)行更有效的壓縮。因此,如果與改變后的區(qū)域?qū)?yīng)的圖像類型是自然圖像,則編碼單元可以通過JPEG靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
另外,如果改變后的區(qū)域是合成圖像,則JPEG靜止圖像壓縮技術(shù)不能達(dá)到與自然圖像差不多的壓縮效率的預(yù)期。因此,在合成圖像的情況下,編碼單元可以通過選擇能夠增強(qiáng)圖像質(zhì)量的PNG靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
另外,如果改變后的區(qū)域是合成圖像并且具有導(dǎo)致大數(shù)據(jù)的較大大小,則編碼單元可以通過使用能夠減小數(shù)據(jù)大小的調(diào)色板PNG靜止圖像壓縮技術(shù)來對(duì)改變后的區(qū)域進(jìn)行編碼。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)因?yàn)榫幋a時(shí)圖像的數(shù)據(jù)大小減小而保證傳輸速度,但是會(huì)因?yàn)轭伾怯?位來表示的而致使圖像質(zhì)量劣化。
發(fā)送單元230通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。即,通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
根據(jù)本發(fā)明的實(shí)施方式,存儲(chǔ)單元240存儲(chǔ)在云端流媒體服務(wù)處理中創(chuàng)建的以上討論的各種類型的信息。
根據(jù)實(shí)施方式,存儲(chǔ)單元240可以獨(dú)立于云端流媒體服務(wù)器110形成,并且支持云端流媒體服務(wù)的功能。在這種情況下,存儲(chǔ)單元240可以如同單獨(dú)的高容量存儲(chǔ)器一樣操作并且包括針對(duì)該操作的控制功能。
另外,以上討論的云端流媒體服務(wù)器110還可以通過一個(gè)或更多個(gè)服務(wù)器來實(shí)現(xiàn)。
此外,云端流媒體服務(wù)器110具有可以存儲(chǔ)信息的存儲(chǔ)器。在實(shí)施方式中,存儲(chǔ)器是計(jì)算機(jī)可讀介質(zhì)。存儲(chǔ)器可以在一個(gè)實(shí)施方式中是易失性存儲(chǔ)器單元而在另一個(gè)實(shí)施方式中是非易失性存儲(chǔ)器單元。在實(shí)施方式中,存儲(chǔ)單元是計(jì)算機(jī)可讀介質(zhì)。在各種不同的實(shí)施方式中,存儲(chǔ)單元可以包括硬盤裝置、光盤裝置、或任何其它高容量的存儲(chǔ)裝置。
圖3是例示云端流媒體系統(tǒng)的示例的示圖。
參照?qǐng)D3,服務(wù)器300可以響應(yīng)于從用戶的終端裝置接收到的用戶輸入而執(zhí)行程序畫面310,并且執(zhí)行畫面捕獲。在這種情況下,服務(wù)器300可以是云端流媒體服務(wù)器或網(wǎng)絡(luò)應(yīng)用服務(wù)器。執(zhí)行程序畫面310和執(zhí)行畫面捕獲的處理可以與圖2中示出的捕獲單元210的操作流程對(duì)應(yīng)。
服務(wù)器300可以通過靜止圖像壓縮技術(shù)對(duì)捕獲的程序畫面310執(zhí)行圖像編碼320。在這種情況下,執(zhí)行圖像編碼320的處理可以與圖2中示出的編碼單元220的操作流程對(duì)應(yīng)。
此時(shí),服務(wù)器可以將當(dāng)前幀與前一幀進(jìn)行比較,然后只捕獲相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的區(qū)域。另外,服務(wù)器可以通過考慮改變后的區(qū)域的圖像類型來選擇諸如PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)這樣的靜止圖像壓縮技術(shù)中的一種,然后通過所選擇的靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
此后,服務(wù)器300可以執(zhí)行將經(jīng)靜止圖像編碼的改變后的區(qū)域流傳送330至用戶的終端裝置,因此提供基于靜止圖像的云端流媒體服務(wù)。在這種情況下,執(zhí)行流傳送330的處理可以與圖2中示出的發(fā)送單元230的操作流程對(duì)應(yīng)。
此后,用戶的終端裝置對(duì)接收到的數(shù)據(jù)執(zhí)行渲染340,并因此向用戶顯示程序畫面310,好像響應(yīng)于用戶輸入而在應(yīng)用中執(zhí)行的程序畫面是在用戶的終端裝置處執(zhí)行一樣。
圖4是根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
參照?qǐng)D4,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)可以將第一幀410與第二幀420進(jìn)行比較,然后只捕獲改變后的區(qū)域430并且對(duì)其進(jìn)行編碼。
例如,假定第一幀410和第二幀420中的區(qū)域B、C、D和E是菜單顯示。在第一幀410中,光標(biāo)位于區(qū)域C處,使得區(qū)域C可以被高亮,以與其它區(qū)域B、D和E區(qū)分開。在第二幀420中,光標(biāo)從區(qū)域C移至區(qū)域E,使得區(qū)域E可以被高亮,以與其它區(qū)域B、C和D區(qū)分開。
在這種情況下,作為第一幀410和第二幀420之間的比較結(jié)果,可以捕獲包含區(qū)域C和E的矩形區(qū)域(C、D和E)作為改變后的區(qū)域430。服務(wù)器還可以通過考慮改變后的區(qū)域430的大小和改變后的區(qū)域430的圖像類型來選擇靜止圖像壓縮技術(shù),然后通過使用所選擇的靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域430進(jìn)行編碼。
典型的云端流媒體服務(wù)可以通過與幀速率對(duì)應(yīng)地捕獲包括與必定發(fā)生改變的第一幀410和第二幀420的所有幀來執(zhí)行編碼。然而,基于靜止圖像的云端流媒體服務(wù)只捕獲改變后的區(qū)域430并且通過靜止圖像壓縮技術(shù)對(duì)其進(jìn)行編碼,因此與不必要地捕獲許多幀和此幀的整個(gè)畫面的典型云端流媒體服務(wù)相比,提高了服務(wù)效率。
圖5是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)中的確定改變后的區(qū)域的處理的示圖。
參照?qǐng)D5,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)通過使用第一幀410和第二幀420之間的差別幀510來確定包含改變后的像素并且具有最小面積的矩形區(qū)域是改變后的區(qū)域430。
例如,當(dāng)通過從上到下以逐行為基礎(chǔ)對(duì)差別幀510進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y0元素。另外,當(dāng)從下到上地以逐行為基礎(chǔ)對(duì)差別幀510進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y1元素。另外,當(dāng)從左到右地以逐列為基礎(chǔ)對(duì)差別幀510進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x0。并且另外,當(dāng)從右到左地以逐列為基礎(chǔ)對(duì)差別幀510進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x1元素。然后,可以將以四個(gè)像素(x0,y0)、(x1,y0)、(x1,y1)和(x0,y1)作為頂點(diǎn)的矩形區(qū)域確定為改變后的區(qū)域430。
圖6是例示根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D6,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法將當(dāng)前幀與前一幀進(jìn)行比較并且確定相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的區(qū)域(S605)。
基于視頻編解碼器的云端流媒體技術(shù)可以通過捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀來執(zhí)行編碼。然而,當(dāng)在應(yīng)用正在運(yùn)行的畫面上幀之間的改變小時(shí),能夠通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼,使得用戶的終端裝置能夠固定地顯示未改變的區(qū)域并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,服務(wù)器可以計(jì)算前一幀和當(dāng)前幀之間的差別幀,并且通過使用該差別幀來確定改變后的區(qū)域。此時(shí),服務(wù)器可以通過經(jīng)由對(duì)差別幀的掃描而檢測相對(duì)于前一幀發(fā)生改變的當(dāng)前幀的改變后的像素,來確定改變后的區(qū)域。另外,服務(wù)器可以確定包含通過對(duì)差別幀的水平掃描和垂直掃描而檢測到的改變后的像素的改變后的區(qū)域。例如,當(dāng)通過從上到下以逐行為基礎(chǔ)對(duì)差別幀進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y0元素。另外,當(dāng)從下到上地以逐行為基礎(chǔ)對(duì)差別幀進(jìn)行水平掃描來檢測改變后的像素時(shí),可以得到與相關(guān)行對(duì)應(yīng)的y1元素。另外,當(dāng)從左到右地以逐列為基礎(chǔ)對(duì)差別幀進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x0。并且另外,當(dāng)從右到左地以逐列為基礎(chǔ)對(duì)差別幀進(jìn)行垂直掃描來檢測改變后的像素時(shí),可以得到與相關(guān)列對(duì)應(yīng)的x1元素。然后,服務(wù)器可以將以四個(gè)像素(x0,y0)、(x1,y0)、(x1,y1)和(x0,y1)作為頂點(diǎn)的矩形區(qū)域確定為改變后的區(qū)域。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法捕獲改變后的區(qū)域(S610)。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法按照通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的多種顏色中的一種或更多種以及該圖像的像素值的標(biāo)準(zhǔn)偏差而確定的圖像類型來選擇靜止圖像壓縮技術(shù),并且使用所選擇的靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼(S620)。例如,因?yàn)樗东@的改變后的區(qū)域的圖像類型可以是諸如一張照片或一幅圖片這樣的單個(gè)圖像或者許多圖像的混合圖像,所以服務(wù)器可以確定圖像類型,選擇適于每種圖像類型的靜止圖像壓縮技術(shù),并且執(zhí)行靜止圖像編碼,以提高改變后的區(qū)域的壓縮效率。
在這種情況下,服務(wù)器可以根據(jù)諸如自然圖像和合成圖像這樣的圖像類型中的一種來選擇靜止圖像壓縮技術(shù)。自然圖像可以是指自然出現(xiàn)的物體的圖像。例如,自然圖像可以是指諸如一張照片或一幅圖片這樣的光學(xué)圖像或者具有諸如x射線和紅外線這樣的其它波長的圖像。與自然圖像相反,合成圖像可以是指通過計(jì)算機(jī)或任何其它人工手段而創(chuàng)建或混合的圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目大于預(yù)定參考數(shù)目,則服務(wù)器可以確定圖像類型為自然圖像。因?yàn)樽匀粓D像可以是自然出現(xiàn)的物體的圖像,所以相比于合成圖像,應(yīng)用于呈現(xiàn)圖像的顏色的亮度和飽和度的改變會(huì)變得復(fù)雜。因此,因?yàn)橄啾扔诤铣蓤D像可以改變構(gòu)成自然圖像的像素所表現(xiàn)的顏色的數(shù)目,所以可以通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目來確定與改變后的區(qū)域?qū)?yīng)的圖像類型。例如,如果預(yù)定參考數(shù)目是100,000,則當(dāng)構(gòu)成與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目大于100,000時(shí),可以確定圖像類型為自然圖像,并且當(dāng)顏色的數(shù)目等于或小于100,000時(shí),可以確定圖像類型為合成圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,則服務(wù)器可以通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差來確定圖像類型。像素值的標(biāo)準(zhǔn)偏差可以是指與改變后的區(qū)域?qū)?yīng)的圖像的像素所表現(xiàn)的顏色值的分布變化。如果該變化指示0,則這可以意味著所有顏色具有同一值。即,像素值的較小標(biāo)準(zhǔn)偏差可以意指圖像由較小數(shù)目的顏色形成。因此,通過考慮圖像的像素值的標(biāo)準(zhǔn)偏差,可以確定與改變后的區(qū)域?qū)?yīng)的圖像的圖像類型。
如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于預(yù)定參考數(shù)目,并且如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差等于或小于預(yù)定參考值,則服務(wù)器可以確定圖像類型為合成圖像。例如,假定與圖像顏色的數(shù)目有關(guān)的預(yù)定參考數(shù)目是100,000而且與圖像像素值的標(biāo)準(zhǔn)偏差有關(guān)的預(yù)定參考值是N。在這種情況下,如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色的數(shù)目等于或小于100,000并且如果與改變后的區(qū)域?qū)?yīng)的圖像的顏色值的標(biāo)準(zhǔn)偏差等于或小于N,則可以確定圖像類型為合成圖像。
如果與改變后的區(qū)域?qū)?yīng)的圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則服務(wù)器可以確定圖像類型為自然圖像。例如,如果圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則這可以意指圖像由較大數(shù)目的顏色形成。因此,如果圖像的像素值的標(biāo)準(zhǔn)偏差大于預(yù)定參考值,則服務(wù)器可以確定與改變后的區(qū)域?qū)?yīng)的圖像是由許多顏色形成的自然圖像。
在這種情況下,服務(wù)器可以按照?qǐng)D像類型使用從PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中選擇的靜止圖像壓縮技術(shù)來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。JPEG靜止圖像壓縮技術(shù)具有良好的壓縮效率,并因此能夠顯著減少編碼時(shí)傳輸數(shù)據(jù)的量,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使系統(tǒng)負(fù)載大。另外,JPEG靜止圖像壓縮技術(shù)可以對(duì)相似顏色聚集在一個(gè)像素周圍的自然圖像進(jìn)行更有效的壓縮。因此,如果與改變后的區(qū)域?qū)?yīng)的圖像類型是自然圖像,則服務(wù)器可以通過JPEG靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
另外,如果改變后的區(qū)域是合成圖像,則JPEG靜止圖像壓縮技術(shù)不能達(dá)到與自然圖像差不多的壓縮效率的預(yù)期。因此,在合成圖像的情況下,服務(wù)器可以通過選擇能夠增強(qiáng)圖像質(zhì)量的PNG靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
另外,如果改變后的區(qū)域是合成圖像并且具有導(dǎo)致大數(shù)據(jù)的較大大小,則服務(wù)器可以通過使用能夠減小數(shù)據(jù)大小的調(diào)色板PNG靜止圖像壓縮技術(shù)來對(duì)改變后的區(qū)域進(jìn)行編碼。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)因?yàn)榫幋a時(shí)圖像的數(shù)據(jù)大小減小而保證傳輸速度,但是會(huì)因?yàn)轭伾怯?位來表示的而致使圖像質(zhì)量劣化。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S630)。通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
此外,雖然圖5中未示出,但是根據(jù)本發(fā)明的實(shí)施方式的使用靜止圖像壓縮技術(shù)的云端流媒體服務(wù)方法存儲(chǔ)在根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)處理中創(chuàng)建的各種類型的信息。
圖7是例示根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
參照?qǐng)D7,根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)系統(tǒng)包括云端流媒體服務(wù)器710、終端裝置720-1至720-N和網(wǎng)絡(luò)730。
云端流媒體服務(wù)器710響應(yīng)于終端裝置720-1至720-N對(duì)云端流媒體服務(wù)的請(qǐng)求而執(zhí)行應(yīng)用,并且向終端裝置720-1至720-N提供與執(zhí)行應(yīng)用的結(jié)果對(duì)應(yīng)的執(zhí)行結(jié)果畫面。
云端流媒體服務(wù)基本上應(yīng)用基于視頻編解碼器的云端流媒體技術(shù)。因此,即使當(dāng)向諸如菜單顯示這樣的靜態(tài)畫面應(yīng)用云端流媒體技術(shù)時(shí),也是按照不必要地捕獲整個(gè)畫面并且用視頻編解碼器進(jìn)行編碼的低效方式來執(zhí)行云端流媒體服務(wù)。另外,當(dāng)對(duì)圖像執(zhí)行編碼時(shí),云端流媒體服務(wù)可以通過執(zhí)行利用服務(wù)器資源的圖像處理過程來確定編碼技術(shù)。這樣會(huì)造成服務(wù)器的負(fù)載增大。為了解決這些問題,本發(fā)明提供了一種云端流媒體服務(wù)系統(tǒng),在該云端流媒體系統(tǒng)中,云端流媒體服務(wù)器在諸如菜單顯示畫面這樣的幀之間有較小改變的情況下檢測幀之間的改變的區(qū)域,并且只通過靜止圖像壓縮技術(shù)對(duì)改變后的區(qū)域進(jìn)行編碼。
云端流媒體服務(wù)器710捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域。即,相比于與前一幀對(duì)應(yīng)的畫面,可以捕獲與改變后的幀對(duì)應(yīng)的畫面中的不同區(qū)域作為改變后的區(qū)域。在這種情況下,服務(wù)器可以檢測待發(fā)送到終端裝置720-1至720-N的所有幀中有較小幀改變的片段,然后捕獲所檢測到的片段中的改變后的區(qū)域。此時(shí),通過識(shí)別在終端裝置720-1至720-N處發(fā)生的應(yīng)用的事件類型,可以檢測具有較小幀改變的此片段。
另外,云端流媒體服務(wù)器710通過考慮是否存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),并且通過使用編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。在這種情況下,可以基于應(yīng)用源代碼來創(chuàng)建圖像特征細(xì)信息或者使用MPEG紋理描述子來創(chuàng)建圖像特征細(xì)信息。如果存在圖像特征信息,則服務(wù)器可以基于圖像特征信息來確定編碼技術(shù),而如果不存在圖像特征信息,則服務(wù)器還可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來確定編碼技術(shù)。編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。服務(wù)器可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來將改變后的區(qū)域識(shí)別為正常區(qū)域和圖片區(qū)域中的一個(gè),并且還可以通過考慮正常區(qū)域的圖像處理結(jié)果和圖片區(qū)域的圖像類型中的至少一種來確定編碼技術(shù)。圖像類型可以與自然圖像和合成圖像中的一種對(duì)應(yīng)。
另外,云端流媒體服務(wù)器710向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域,因此執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
終端裝置720-1至720-N從云端流媒體服務(wù)器710接收與云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面,然后將其提供給用戶。
終端裝置720-1至720-N與通信網(wǎng)絡(luò)連接,并且基于云計(jì)算系統(tǒng),可以執(zhí)行應(yīng)用。終端裝置可以是但不限于移動(dòng)通信終端、諸如信息通信裝置、多媒體裝置、有線裝置、固定裝置和網(wǎng)際協(xié)議(IP)裝置這樣的各種裝置。另外,終端裝置720-1至720-N中的每一個(gè)可以是諸如移動(dòng)電話、便攜式多媒體播放器(PMP)、移動(dòng)互聯(lián)網(wǎng)裝置(MID)、智能電話、臺(tái)式機(jī)、平板PC、筆記本、上網(wǎng)本、個(gè)人數(shù)字助理(PDA)、智能電話和信息通信裝置這樣的具有各種移動(dòng)通信規(guī)范的移動(dòng)裝置。
網(wǎng)絡(luò)730供應(yīng)在云端流媒體服務(wù)器710和終端裝置720-1至720-N之間遞送數(shù)據(jù)的路線,包括通常使用的網(wǎng)絡(luò)和任何今后可開發(fā)的網(wǎng)絡(luò)。例如,網(wǎng)絡(luò)730可以是用于在有限區(qū)域內(nèi)提供各種信息裝置的通信的有線/無線短距離通信網(wǎng)絡(luò)、用于提供移動(dòng)實(shí)體之間以及移動(dòng)實(shí)體和該移動(dòng)實(shí)體之外的任何其它實(shí)體之間的通信的移動(dòng)通信網(wǎng)絡(luò)、用于使用衛(wèi)星來提供地面站之間的通信的衛(wèi)星通信網(wǎng)絡(luò)、有線/無線通信網(wǎng)絡(luò)中的一種或者其任何組合。此外,用于網(wǎng)絡(luò)730的發(fā)送方案標(biāo)準(zhǔn)不限于現(xiàn)有的發(fā)送方案標(biāo)準(zhǔn),并且可以包括今后將開發(fā)的所有發(fā)送方案標(biāo)準(zhǔn)。另外,圖7中的云端流媒體服務(wù)器710和終端裝置720-1至720-N之間使用的網(wǎng)絡(luò)可以具有與終端裝置720-1至720-N之間的網(wǎng)絡(luò)不同或相同的形式。
圖8是例示圖7中示出的云端流媒體服務(wù)器的示例的框圖。
參照?qǐng)D8,圖7中示出的云端流媒體服務(wù)器710包括捕獲單元810、編碼單元820、發(fā)送單元830和存儲(chǔ)單元840。
捕獲單元810捕獲改變后的幀中包含的改變后的區(qū)域?;谝曨l編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則捕獲單元可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
編碼單元820通過考慮是否存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),并且使用該編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,可以根據(jù)與改變后的區(qū)域?qū)?yīng)的圖像的特征來確定編碼技術(shù),并且可以基于通過圖像處理進(jìn)行的分析的結(jié)果來提取這些圖像特征。然而,圖像處理需要使用云端流媒體服務(wù)器710的資源,并且這樣會(huì)造成系統(tǒng)負(fù)載增大。因此,如果存在包括關(guān)于與改變后的區(qū)域?qū)?yīng)的圖像的特征的信息的圖像特征信息,則云端流媒體服務(wù)器710可以通過使用該信息來確定編碼技術(shù),并因此能夠節(jié)省其資源。
在這種情況下,可以基于應(yīng)用源代碼來創(chuàng)建圖像特征信息或者使用MPEG紋理描述子來創(chuàng)建圖像特征信息。
應(yīng)用源代碼或MPEG紋理描述子可以包括關(guān)于響應(yīng)于用戶的請(qǐng)求而輸出的應(yīng)用結(jié)果畫面的配置信息或者用于指示關(guān)于構(gòu)成應(yīng)用結(jié)果畫面的組件的特征的描述子。例如,在應(yīng)用源代碼的情況下,可以提取諸如JPG、GIF和PNG這樣的與改變后的區(qū)域?qū)?yīng)的圖像文件的擴(kuò)展或者與使用諸如高度和寬度這樣的命令的圖像的大小對(duì)應(yīng)的特征。另外,在MPEG紋理描述子的情況下,可以使用紋理描述子連同顏色、輪廓、對(duì)象或相機(jī)的運(yùn)動(dòng)等一起來創(chuàng)建圖像特征信息,該圖像特征信息涉及MPEG-7標(biāo)準(zhǔn)視野中的重要視覺特征。
另外,圖像特征信息可以指示關(guān)于對(duì)應(yīng)幀的整個(gè)區(qū)域的、關(guān)于幀中的改變后的區(qū)域的、或者關(guān)于改變后的區(qū)域中的部分區(qū)域的(即,關(guān)于正常區(qū)域或圖片區(qū)域的)特征和配置信息。
因此,如果能夠使用此圖像特征信息,則可以在不對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析的情況下容易地提取包括圖像大小、圖像分辨率和圖像類型的各種特征。
如果存在圖像特征信息,則編碼單元可以基于圖像特征信息來確定編碼技術(shù)。如果不存在圖像特征信息,則編碼單元可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來確定編碼技術(shù)。例如,如果存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息,則編碼單元可以通過使用圖像特征信息來提取與改變后的區(qū)域?qū)?yīng)的諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征。然后,編碼單元可以通過所提取的圖像特征來確定編碼技術(shù)。如果不存在圖像特征信息,則編碼單元可以執(zhí)行圖像處理過程,并因此提取關(guān)于與改變后的區(qū)域?qū)?yīng)的圖像的諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征。
除了圖像大小、圖像分辨率和圖像類型之外,還可以從圖像特征信息中提取其它各種類型的圖像特征或者通過圖像處理來提取其它各種類型的圖像特征。
編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)因?yàn)榫幋a時(shí)圖像的數(shù)據(jù)大小減小而保證傳輸速度,但是會(huì)因?yàn)轭伾怯?位來表示的而致使圖像質(zhì)量劣化。JPEG靜止圖像壓縮技術(shù)具有良好的壓縮效率,并因此能夠顯著減少編碼時(shí)傳輸數(shù)據(jù)的量,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使系統(tǒng)負(fù)載大。
編碼單元可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來將改變后的區(qū)域識(shí)別為正常區(qū)域和圖片區(qū)域中的一個(gè),然后通過考慮正常區(qū)域的圖像處理結(jié)果和圖片區(qū)域的圖像類型中的至少一個(gè)來確定編碼技術(shù)。例如,圖片區(qū)域可以是由與諸如JPEG、PNG和GIF這樣的圖像格式對(duì)應(yīng)的文件形成的區(qū)域,并且正常區(qū)域可以是改變后的區(qū)域中的除了圖片區(qū)域以外的區(qū)域。因此,在圖片區(qū)域的情況下,基于圖像格式給出特征。在正常區(qū)域的情況下,能夠在確定正常區(qū)域是所捕獲的圖像時(shí)通過圖像處理來確定特征。
圖像類型可以與自然圖像和合成圖像中的一種對(duì)應(yīng)。自然圖像可以是指諸如照片或圖片這樣的圖像,并且合成圖像可以是通過許多圖像的混合而形成的圖像。
如果圖像類型是自然圖像,則從執(zhí)行編碼時(shí)的壓縮效率來看,JPEG編碼技術(shù)可以更有效。如果圖像類型是合成圖像,則能夠減小數(shù)據(jù)大小的調(diào)色板PNG編碼技術(shù)可以在編碼方面是有效的。
發(fā)送單元830通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。即,通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
存儲(chǔ)單元840存儲(chǔ)在根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)處理中創(chuàng)建的以上討論的各種類型的信息。
根據(jù)實(shí)施方式,存儲(chǔ)單元840可以獨(dú)立于云端流媒體服務(wù)器710形成,并且支持云端流媒體服務(wù)的功能。在這種情況下,存儲(chǔ)單元840可以如同單獨(dú)的高容量存儲(chǔ)器一樣操作并且包括針對(duì)該操作的控制功能。
另外,以上討論的云端流媒體服務(wù)器710還可以通過一個(gè)或更多個(gè)服務(wù)器來實(shí)現(xiàn)。
此外,云端流媒體服務(wù)器710具有可以存儲(chǔ)信息的存儲(chǔ)器。在實(shí)施方式中,存儲(chǔ)器是計(jì)算機(jī)可讀介質(zhì)。存儲(chǔ)器可以在一個(gè)實(shí)施方式中是易失性存儲(chǔ)器單元而在另一個(gè)實(shí)施方式中是非易失性存儲(chǔ)器單元。在實(shí)施方式中,存儲(chǔ)單元是計(jì)算機(jī)可讀介質(zhì)。在各種不同的實(shí)施方式中,存儲(chǔ)單元可以包括硬盤裝置、光盤裝置、或任何其它高容量的存儲(chǔ)裝置。
圖9是例示基于靜止圖像的云端流媒體系統(tǒng)的示例的示圖。
參照?qǐng)D9,服務(wù)器900可以響應(yīng)于從用戶的終端裝置接收到的用戶輸入而執(zhí)行程序畫面910并且執(zhí)行畫面捕獲。在這種情況下,服務(wù)器900可以是云端流媒體服務(wù)器或網(wǎng)絡(luò)應(yīng)用服務(wù)器。執(zhí)行程序畫面910和執(zhí)行畫面捕獲的處理可以與圖8中示出的捕獲單元810的操作流程對(duì)應(yīng)。
服務(wù)器900可以通過靜止圖像壓縮技術(shù)對(duì)捕獲的程序畫面910執(zhí)行圖像編碼920。在這種情況下,執(zhí)行圖像編碼920的處理可以與圖8中示出的編碼單元820的操作流程對(duì)應(yīng)。
此時(shí),服務(wù)器可以通過將當(dāng)前幀與前一幀進(jìn)行比較來只捕獲改變后的區(qū)域。另外,服務(wù)器可以通過考慮改變后的區(qū)域中是否存在圖像特征信息來選擇諸如PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)這樣的編碼技術(shù)中的一種,然后通過所選擇的編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
此后,服務(wù)器900可以執(zhí)行將經(jīng)靜止圖像編碼的改變后的區(qū)域流傳送930至用戶的終端裝置,因此提供基于靜止圖像的云端流媒體服務(wù)。在這種情況下,執(zhí)行流傳送930的處理可以與圖8中示出的發(fā)送單元830的操作流程對(duì)應(yīng)。
此后,用戶的終端裝置對(duì)接收到的數(shù)據(jù)執(zhí)行渲染940,并因此向用戶顯示程序畫面910,好像響應(yīng)于用戶輸入而在應(yīng)用中執(zhí)行的程序畫面是在用戶的終端裝置處執(zhí)行一樣。
圖10是根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
參照?qǐng)D10,根據(jù)本發(fā)明的實(shí)施方式的基于靜止圖像的云端流媒體服務(wù)可以將第一幀1010與第二幀1020進(jìn)行比較,然后只捕獲改變后的區(qū)域1030并且對(duì)其進(jìn)行編碼。
例如,假定第一幀1010和第二幀1020中的區(qū)域B、C、D和E是菜單顯示。在第一幀1010中,光標(biāo)位于區(qū)域C處,使得區(qū)域C可以被高亮,以與其它區(qū)域B、D和E區(qū)分開。在第二幀1020中,光標(biāo)從區(qū)域C移至區(qū)域E,使得區(qū)域E可以被高亮,以與其它區(qū)域B、C和D區(qū)分開。
在這種情況下,作為第一幀1010和第二幀1020之間的比較結(jié)果,可以僅捕獲區(qū)域C和D作為改變后的區(qū)域1030。另外,服務(wù)器可以通過考慮是否存在與改變后的區(qū)域1030對(duì)應(yīng)的圖像特征信息來選擇編碼技術(shù),然后通過使用所選擇的編碼技術(shù)對(duì)改變后的區(qū)域1030執(zhí)行靜止圖像編碼。
典型的云端流媒體服務(wù)可以通過與幀速率對(duì)應(yīng)地捕獲包括與必定發(fā)生改變的第一幀1010和第二幀1020的所有幀來執(zhí)行編碼。然而,基于靜止圖像的云端流媒體服務(wù)只捕獲改變后的區(qū)域1030并且通過靜止圖像壓縮技術(shù)對(duì)其進(jìn)行編碼,因此與不必要地捕獲許多幀和此幀的整個(gè)畫面的典型云端流媒體服務(wù)相比,提高了服務(wù)效率。
圖11是例示根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D11,根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法捕獲改變后的幀中包含的改變后的區(qū)域(S1110)?;谝曨l編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則服務(wù)器可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法通過考慮是否存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),并且使用該編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼(S1120)。例如,可以根據(jù)與改變后的區(qū)域?qū)?yīng)的圖像的特征來確定編碼技術(shù),并且可以基于通過圖像處理進(jìn)行的分析的結(jié)果來提取這些圖像特征。然而,圖像處理需要使用云端流媒體服務(wù)器的資源,并且這樣會(huì)造成系統(tǒng)負(fù)載增大。因此,如果存在包括關(guān)于與改變后的區(qū)域?qū)?yīng)的圖像的特征的信息的圖像特征信息,則云端流媒體服務(wù)器可以通過使用該信息來確定編碼技術(shù),并因此能夠節(jié)省其資源。
在這種情況下,可以基于應(yīng)用源代碼來創(chuàng)建圖像特征信息或者使用MPEG紋理描述子來創(chuàng)建圖像特征信息。
應(yīng)用源代碼或MPEG紋理描述子可以包括關(guān)于響應(yīng)于用戶的請(qǐng)求而輸出的應(yīng)用結(jié)果畫面的配置信息或者用于指示關(guān)于構(gòu)成應(yīng)用結(jié)果畫面的組件的特征的描述子。
例如,在應(yīng)用源代碼的情況下,可以提取諸如JPG、GIF和PNG這樣的與改變后的區(qū)域?qū)?yīng)的圖像文件的擴(kuò)展或者與使用諸如高度和寬度這樣的命令的圖像的大小對(duì)應(yīng)的特征。另外,在MPEG紋理描述子的情況下,可以使用紋理描述子連同顏色、輪廓、對(duì)象或相機(jī)的運(yùn)動(dòng)等一起來創(chuàng)建圖像特征信息,該圖像特征信息涉及MPEG-7標(biāo)準(zhǔn)視野中的重要視覺特征。
另外,圖像特征信息可以指示關(guān)于對(duì)應(yīng)幀的整個(gè)區(qū)域的、關(guān)于幀中的改變后的區(qū)域的、或者關(guān)于改變后的區(qū)域中的部分區(qū)域的(即,關(guān)于正常區(qū)域或圖片區(qū)域的)特征和配置信息。
因此,如果能夠使用此圖像特征信息,則可以在不對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析的情況下容易地提取包括圖像大小、圖像分辨率和圖像類型的各種特征。
如果存在圖像特征信息,則服務(wù)器可以基于圖像特征信息來確定編碼技術(shù)。如果不存在圖像特征信息,則服務(wù)器可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來確定編碼技術(shù)。例如,如果存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息,則服務(wù)器可以通過使用圖像特征信息來提取與改變后的區(qū)域?qū)?yīng)的諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征。然后,服務(wù)器可以通過所提取的圖像特征來確定編碼技術(shù)。如果不存在圖像特征信息,則服務(wù)器可以執(zhí)行圖像處理過程,并因此提取關(guān)于與改變后的區(qū)域?qū)?yīng)的圖像的諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征。
除了圖像大小、圖像分辨率和圖像類型之外,還可以從圖像特征信息中提取其它各種類型的圖像特征或者通過圖像處理來提取其它各種類型的圖像特征。
編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)因?yàn)榫幋a時(shí)圖像的數(shù)據(jù)大小減小而保證傳輸速度,但是會(huì)因?yàn)轭伾怯?位來表示的而致使圖像質(zhì)量劣化。JPEG靜止圖像壓縮技術(shù)具有良好的壓縮效率,并因此能夠顯著減少編碼時(shí)傳輸數(shù)據(jù)的量,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使系統(tǒng)負(fù)載大。
服務(wù)器可以通過對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析來將改變后的區(qū)域識(shí)別為正常區(qū)域和圖片區(qū)域中的一個(gè),然后通過考慮正常區(qū)域的圖像處理結(jié)果和圖片區(qū)域的圖像類型中的至少一個(gè)來確定編碼技術(shù)。例如,圖片區(qū)域可以是由與諸如JPEG、PNG和GIF這樣的圖像格式對(duì)應(yīng)的文件形成的區(qū)域,并且正常區(qū)域可以是改變后的區(qū)域中的除了圖片區(qū)域以外的區(qū)域。因此,在圖片區(qū)域的情況下,基于圖像格式給出特征。在正常區(qū)域的情況下,能夠在確定正常區(qū)域是所捕獲的圖像時(shí)通過圖像處理來確定特征。
圖像類型可以與自然圖像和合成圖像中的一種對(duì)應(yīng)。自然圖像可以是指諸如照片或圖片這樣的圖像,并且合成圖像可以是通過許多圖像的混合而形成的圖像。
如果圖像類型是自然圖像,則從執(zhí)行編碼時(shí)的壓縮效率來看,JPEG編碼技術(shù)可以更有效。如果圖像類型是合成圖像,則能夠減小數(shù)據(jù)大小的調(diào)色板PNG編碼技術(shù)可以在編碼方面是有效的。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S1130)。通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
圖12是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D12,在根據(jù)本發(fā)明的實(shí)施方式的使用源信息的云端流媒體服務(wù)方法中,云端流媒體服務(wù)器捕獲改變后的幀中包含的改變后的區(qū)域(S1210)。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。
此后,服務(wù)器確定是否存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息(S1215)。
在這種情況下,可以基于應(yīng)用源代碼來創(chuàng)建圖像特征信息或者使用MPEG紋理描述子來創(chuàng)建圖像特征信息。
如果在步驟S1215中確定存在圖像特征信息,則服務(wù)器基于圖像特征信息來確定編碼技術(shù)(S1220)。
如果在步驟S1215中確定不存在圖像特征信息,則服務(wù)器對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析(S1230),并且通過考慮分析的結(jié)果來確定編碼技術(shù)(S1240)。
編碼技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。
此后,服務(wù)器通過使用所確定的編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼(S1250)。
此后,服務(wù)器通過向用戶遞送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S1260)。
圖13是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
參照?qǐng)D13,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)系統(tǒng)包括云端流媒體服務(wù)器1310、終端裝置1320-1至1320-N和網(wǎng)絡(luò)1330。
云端流媒體服務(wù)器1310響應(yīng)于終端裝置1320-1至1320-N對(duì)云端流媒體服務(wù)的請(qǐng)求而執(zhí)行應(yīng)用,并且向終端裝置1320-1至1320-N提供與執(zhí)行應(yīng)用的結(jié)果對(duì)應(yīng)的執(zhí)行結(jié)果畫面。
云端流媒體服務(wù)器1310捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域。即,相比于與前一幀對(duì)應(yīng)的畫面,可以捕獲與改變后的幀對(duì)應(yīng)的畫面中的不同區(qū)域作為改變后的區(qū)域。在這種情況下,服務(wù)器可以檢測待發(fā)送到終端裝置1320-1至1320-N的所有幀中有較小幀改變的片段,然后捕獲所檢測到的片段中的改變后的區(qū)域。此時(shí),通過識(shí)別在終端裝置1320-1至1320-N處發(fā)生的應(yīng)用的事件類型,可以檢測具有較小幀改變的此片段。
另外,云端流媒體服務(wù)器1310通過考慮與改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,并且通過使用該編碼處理單元來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。在這種情況下,編碼處理單元可以是中央處理單元(CPU)和圖形處理單元(GPU)中的一個(gè)。在這種情況下,服務(wù)器可以通過考慮圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來預(yù)測CPU和GPU中的每一個(gè)的編碼處理成本,并且通過從CPU和GPU當(dāng)中選擇預(yù)測編碼處理成本較低的編碼處理單元來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率小于預(yù)定參考值,則服務(wù)器可以通過根據(jù)圖像特征考慮靜止圖像壓縮技術(shù)來選擇編碼處理單元。如果圖像分辨率小于預(yù)定參考值并且如果靜止圖像壓縮技術(shù)是調(diào)色板PNG,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
另外,云端流媒體服務(wù)器1310向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域,因此執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
終端裝置1320-1至1320-N從云端流媒體服務(wù)器1310接收與云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面,然后將其提供給用戶。
終端裝置1320-1至1320-N與通信網(wǎng)絡(luò)連接,并且基于云計(jì)算系統(tǒng),可以執(zhí)行應(yīng)用。終端裝置可以是但不限于移動(dòng)通信終端、諸如信息通信裝置的各種裝置、多媒體裝置、有線裝置、固定裝置和網(wǎng)際協(xié)議(IP)裝置。另外,終端裝置1320-1至1320-N中的每一個(gè)可以是諸如移動(dòng)電話、便攜式多媒體播放器(PMP)、移動(dòng)互聯(lián)網(wǎng)裝置(MID)、智能電話、臺(tái)式機(jī)、平板PC、筆記本、上網(wǎng)本、個(gè)人數(shù)字助理(PDA)、智能電話和信息通信裝置這樣的具有各種移動(dòng)通信規(guī)范的移動(dòng)裝置。
網(wǎng)絡(luò)1330供應(yīng)將數(shù)據(jù)在云端流媒體服務(wù)器1310和終端裝置1320-1至1320-N之間遞送的路線,包括通常使用的網(wǎng)絡(luò)和任何今后可開發(fā)的網(wǎng)絡(luò)。例如,網(wǎng)絡(luò)1330可以是用于在有限區(qū)域內(nèi)提供各種信息裝置的通信的有線/無線短距離通信網(wǎng)絡(luò)、用于提供移動(dòng)實(shí)體之間以及移動(dòng)實(shí)體和該移動(dòng)實(shí)體外的任何其它實(shí)體之間的通信的移動(dòng)通信網(wǎng)絡(luò)、使用衛(wèi)星來提供地面站之間的通信的衛(wèi)星通信網(wǎng)絡(luò)、有線/無線通信網(wǎng)絡(luò)中的一種或其任何組合。此外,用于網(wǎng)絡(luò)1330的發(fā)送方案標(biāo)準(zhǔn)不限于現(xiàn)有的發(fā)送方案標(biāo)準(zhǔn),并且可以包括今后待開發(fā)的所有發(fā)送方案標(biāo)準(zhǔn)。另外,圖13中的云端流媒體服務(wù)器1310和終端裝置1320-1至1320-N之間使用的網(wǎng)絡(luò)可以與終端裝置1320-1至1320-N之間的網(wǎng)絡(luò)不同或相同。
圖14是例示圖13中示出的云端流媒體服務(wù)器的示例的框圖。
參照?qǐng)D14,圖13中示出的云端流媒體服務(wù)器1310包括捕獲單元1410、編碼單元1420、發(fā)送單元1430和存儲(chǔ)單元1440。
在通過只檢測改變后的區(qū)域而執(zhí)行的圖像云端流媒體服務(wù)中,可以使用中央處理單元(CPU)或圖形處理單元(GPU)來執(zhí)行圖像編碼。雖然需要CPU和GPU的合適組合來提供最佳的圖像云端流媒體服務(wù),但是典型的云端流媒體服務(wù)僅僅使用單個(gè)單元進(jìn)行編碼。因此,本發(fā)明提出了能夠基于與改變后的區(qū)域相關(guān)的特征來選擇性地使用適于情形的編碼處理單元的更高效的圖像云端流媒體服務(wù)。
捕獲單元1410捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域。基于視頻編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則捕獲單元可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種分辨率,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種圖像類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
編碼單元1420通過考慮與改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,然后通過使用所選擇的編碼處理單元來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
編碼處理單元可以是中央處理單元(CPU)和圖形處理單元(GPU)中的一個(gè)。
作為計(jì)算機(jī)的基本部件的CPU可以對(duì)指令進(jìn)行解碼,并且執(zhí)行算術(shù)邏輯運(yùn)算或數(shù)據(jù)處理。因此,計(jì)算速度、將要一次性處理的數(shù)據(jù)量、主存儲(chǔ)區(qū)的大小等可以很大程度上取決于CPU的性能。在通過CPU對(duì)改變后的區(qū)域進(jìn)行編碼的情況下,能夠直接執(zhí)行編碼而不將待編碼的數(shù)據(jù)遞送到任何其它單元,因此沒有導(dǎo)致與數(shù)據(jù)遞送關(guān)聯(lián)的成本。然而,如果與改變后的區(qū)域?qū)?yīng)的圖像具有較高的分辨率,則執(zhí)行編碼會(huì)花費(fèi)長的時(shí)間。具體地,在諸如用調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行顏色量化處理這樣的重復(fù)簡單計(jì)算的情況下,編碼時(shí)間會(huì)增加。
CPU是專用于3D圖形操作的處理器,該處理器已經(jīng)被開發(fā)成處理各種光源效果和紋理呈現(xiàn)技術(shù),以在引入3D圖形之后使顯示畫面更逼真。GPU可以有效進(jìn)行重復(fù)簡單計(jì)算或者對(duì)具有較大分辨率的圖像進(jìn)行編碼。然而,通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼需要從CPU接收待編碼的數(shù)據(jù),然后將編碼后的數(shù)據(jù)返回至CPU。這樣會(huì)導(dǎo)致額外的成本。
在這種情況下,服務(wù)器可以通過考慮圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來預(yù)測針對(duì)CPU和GPU中的每一個(gè)的編碼處理成本,并且通過從CPU和GPU當(dāng)中選擇預(yù)測編碼處理成本較低的編碼處理單元來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,為了對(duì)改變后的區(qū)域A執(zhí)行編碼,服務(wù)器可以確定與改變后的區(qū)域A對(duì)應(yīng)的圖像特征和圖像分辨率。然后,基于針對(duì)改變后的區(qū)域A確定的圖像特征和圖像分辨率,服務(wù)器可以預(yù)測當(dāng)將通過CPU和GPU中的每一個(gè)執(zhí)行編碼時(shí)將導(dǎo)致的編碼處理成本。在這二者之中,可以選擇預(yù)測編碼處理成本較低的編碼處理單元對(duì)改變后的區(qū)域A執(zhí)行編碼。
另外,服務(wù)器可以在執(zhí)行編碼之后創(chuàng)建編碼處理成本的統(tǒng)計(jì)。例如,服務(wù)器可以定義云端流媒體服務(wù)中的特定單元時(shí)間段,并且通過使用所存儲(chǔ)的關(guān)于針對(duì)各單元時(shí)間段的編碼處理成本的信息來更新編碼處理成本的統(tǒng)計(jì)。編碼處理成本的統(tǒng)計(jì)可以被創(chuàng)建作為圖像特征、圖像分辨率和編碼處理單元中的每一個(gè)的詳細(xì)統(tǒng)計(jì)信息?;谒鶆?chuàng)建的統(tǒng)計(jì)信息,能夠使用選擇性編碼處理單元來確保云端流媒體服務(wù)方法的可靠性。
如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
分辨率可以指示使用多少像素或點(diǎn)來呈現(xiàn)圖像。通常,分辨率的單位是指示每英寸使用多少像素的ppi(每英寸的像素)和指示每英寸使用多少點(diǎn)的dpi(每英寸的點(diǎn))。隨著像素或點(diǎn)的數(shù)目越大,可以呈現(xiàn)分辨率越高的精確圖像。即,分辨率越高,圖像越清楚且越清晰。然而,這因?yàn)槊坑⒋绲狞c(diǎn)增加而需要用于處理圖像的高容量存儲(chǔ)器,因此導(dǎo)致計(jì)算機(jī)處理速度較慢。例如,當(dāng)通過CPU對(duì)具有高分辨率的圖像進(jìn)行編碼時(shí),編碼處理時(shí)間會(huì)增加,這樣導(dǎo)致編碼處理成本高。
因此,當(dāng)與改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值時(shí),相比于通過CPU進(jìn)行編碼,服務(wù)器可以通過利用GPU進(jìn)行編碼來節(jié)省編碼處理成本。
如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率小于預(yù)定參考值,則服務(wù)器可以通過根據(jù)與改變后的區(qū)域?qū)?yīng)的圖像特征考慮靜止圖像壓縮技術(shù)來選擇編碼處理單元。如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率小于預(yù)定參考值,則CPU可以在不需要向GPU遞送待編碼數(shù)據(jù)的情況下執(zhí)行編碼。然而,即使圖像分辨率低,也可以根據(jù)按照與改變后的區(qū)域?qū)?yīng)的圖像特征而選擇的靜止圖像壓縮技術(shù)來重復(fù)簡單計(jì)算。因此,服務(wù)器可以通過進(jìn)一步考慮改變后的區(qū)域的圖像類型來選擇編碼處理單元。
另外,可以根據(jù)與改變后的區(qū)域?qū)?yīng)的諸如圖像大小或圖像類型這樣的圖像特征來確定靜止圖像壓縮技術(shù)。
在這種情況下,靜止圖像壓縮技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)減小數(shù)據(jù)大小,但是會(huì)致使圖像質(zhì)量降低。具體地,因?yàn)橛糜跍p小數(shù)據(jù)大小的顏色量化處理,可能涉及重復(fù)簡單計(jì)算的處理。JPEG靜止圖像壓縮技術(shù)可以根據(jù)圖像類型而具有良好的壓縮效率,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使負(fù)載大。
如果圖像分辨率小于預(yù)定參考值并且如果靜止圖像壓縮技術(shù)是調(diào)色板PNG,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,如果考慮到改變后的區(qū)域的圖像特征而使用調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行編碼,則編碼處理時(shí)間會(huì)因?yàn)橹T如顏色量化這樣的簡單計(jì)算的重復(fù)而增加。因此,在這種情況下,相比于使用CPU進(jìn)行編碼,可以通過使用GPU進(jìn)行編碼來用較少的編碼處理成本執(zhí)行云端流媒體服務(wù)。
發(fā)送單元1430通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。即,通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
根據(jù)本發(fā)明的實(shí)施方式,存儲(chǔ)單元1440存儲(chǔ)在云端流媒體服務(wù)處理中創(chuàng)建的以上討論的各種類型的信息。
根據(jù)實(shí)施方式,存儲(chǔ)單元1440可以獨(dú)立于云端流媒體服務(wù)器1310形成,并且支持云端流媒體服務(wù)的功能。在這種情況下,存儲(chǔ)單元1440可以如同單獨(dú)的高容量存儲(chǔ)器一樣操作并且包括針對(duì)該操作的控制功能。
另外,以上討論的云端流媒體服務(wù)器1310還可以通過一個(gè)或更多個(gè)服務(wù)器來實(shí)現(xiàn)。
此外,云端流媒體服務(wù)器1310具有可以存儲(chǔ)信息的存儲(chǔ)器。在實(shí)施方式中,存儲(chǔ)器是計(jì)算機(jī)可讀介質(zhì)。存儲(chǔ)器可以在一個(gè)實(shí)施方式中是易失性存儲(chǔ)器單元而在另一個(gè)實(shí)施方式中是非易失性存儲(chǔ)器單元。在實(shí)施方式中,存儲(chǔ)單元是計(jì)算機(jī)可讀介質(zhì)。在各種不同的實(shí)施方式中,存儲(chǔ)單元可以包括硬盤裝置、光盤裝置、或任何其它高容量的存儲(chǔ)裝置。
圖15是例示基于靜止圖像的云端流媒體系統(tǒng)的另一個(gè)示例的示圖。
參照?qǐng)D15,服務(wù)器1500可以響應(yīng)于從用戶的終端裝置接收到的用戶輸入而執(zhí)行程序畫面1510并且執(zhí)行畫面捕獲。在這種情況下,服務(wù)器1500可以是云端流媒體服務(wù)器或網(wǎng)絡(luò)應(yīng)用服務(wù)器。執(zhí)行程序畫面1510和執(zhí)行畫面捕獲的處理可以與圖14中示出的捕獲單元1410的操作流程對(duì)應(yīng)。
服務(wù)器1500可以通過靜止圖像壓縮技術(shù)對(duì)捕獲的程序畫面1510執(zhí)行圖像編碼1520。在這種情況下,執(zhí)行圖像編碼1520的處理可以與圖14中示出的編碼單元1420的操作流程對(duì)應(yīng)。
在這種情況下,服務(wù)器可以通過將改變后的幀與前一幀進(jìn)行比較來只捕獲改變后的區(qū)域。另外,服務(wù)器可以通過考慮改變后的區(qū)域的圖像特征和與改變后的區(qū)域?qū)?yīng)的圖像分辨率來選擇CPU和GPU中的一個(gè),然后通過使用所選擇的編碼處理單元對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
此后,服務(wù)器1500可以執(zhí)行將經(jīng)靜止圖像編碼的改變后的區(qū)域流傳送1530至用戶的終端裝置,因此提供基于靜止圖像的云端流媒體服務(wù)。在這種情況下,執(zhí)行流傳送1530的處理可以與圖14中示出的發(fā)送單元1430的操作流程對(duì)應(yīng)。
此后,用戶的終端裝置對(duì)接收到的數(shù)據(jù)執(zhí)行渲染1540,并因此向用戶顯示程序畫面1510,好像響應(yīng)于用戶輸入而在應(yīng)用中執(zhí)行的程序畫面是在用戶的終端裝置處執(zhí)行一樣。
圖16是例示根據(jù)本發(fā)明的實(shí)施方式的編碼處理單元的示圖。
參照?qǐng)D16,根據(jù)本發(fā)明的實(shí)施方式的編碼處理單元可以被分類為中央處理單元(CPU)1610和圖形處理單元(GPU)1620。
作為計(jì)算機(jī)的基本部件的CPU 1610可以對(duì)指令進(jìn)行解碼,并且執(zhí)行算術(shù)邏輯運(yùn)算或數(shù)據(jù)處理。因此,計(jì)算速度、將要一次性處理的數(shù)據(jù)量、主存儲(chǔ)區(qū)的大小等可以很大程度上取決于CPU的性能。在通過CPU對(duì)改變后的區(qū)域進(jìn)行編碼的情況下,能夠直接執(zhí)行編碼而不將待編碼的數(shù)據(jù)遞送到任何其它單元,因此沒有導(dǎo)致與數(shù)據(jù)遞送關(guān)聯(lián)的成本。然而,如果與改變后的區(qū)域?qū)?yīng)的圖像具有較高的分辨率,則執(zhí)行編碼會(huì)花費(fèi)長的時(shí)間。具體地,在諸如用調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行顏色量化處理這樣的重復(fù)簡單計(jì)算的情況下,編碼時(shí)間會(huì)增加。
CPU 1620是專用于3D圖形操作的處理器,該處理器已經(jīng)被開發(fā)成處理各種光源效果和紋理呈現(xiàn)技術(shù),以在引入3D圖形之后使顯示畫面更逼真。GPU可以有效進(jìn)行重復(fù)簡單計(jì)算或者對(duì)具有較大分辨率的圖像進(jìn)行編碼。然而,通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼需要從CPU接收待編碼的數(shù)據(jù),然后將編碼后的數(shù)據(jù)返回至CPU。這樣會(huì)導(dǎo)致額外的成本。
如圖16中所示,CPU 1610和CPU 1620可以獨(dú)立地存在于服務(wù)器1600中。與圖16相反,CPU 1610和CPU 1620可以被聯(lián)合成單個(gè)設(shè)備,或者GPU 1620可以被包含在GPU 1610中。任何其它配置可以是可能的。
另外,CPU 1610和CPU 1620可以彼此連接,以發(fā)送和接收數(shù)據(jù)。
圖17是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
參照?qǐng)D17,根據(jù)本發(fā)明的實(shí)施方式的基于靜止圖像的云端流媒體服務(wù)可以將第一幀1710與第二幀1720進(jìn)行比較,然后只捕獲改變后的區(qū)域1730并且對(duì)其進(jìn)行編碼。
例如,假定第一幀1710和第二幀1720中的區(qū)域B、C、D和E是菜單顯示。在第一幀1710中,光標(biāo)位于區(qū)域C處,使得區(qū)域C可以被高亮,以與其它區(qū)域B、D和E區(qū)分開。在第二幀1720中,光標(biāo)從區(qū)域C移至區(qū)域D,使得區(qū)域D可以被高亮,以與其它區(qū)域B、C和E區(qū)分開。
在這種情況下,作為第一幀1710和第二幀1720之間的比較結(jié)果,可以僅捕獲區(qū)域C和D作為改變后的區(qū)域1730。另外,服務(wù)器可以通過考慮改變后的區(qū)域1730的圖像分辨率和與改變后的區(qū)域1730對(duì)應(yīng)的圖像類型來選擇編碼處理單元,然后通過使用所選擇的編碼處理單元對(duì)改變后的區(qū)域1730執(zhí)行靜止圖像編碼。
典型的云端流媒體服務(wù)可以通過與幀速率對(duì)應(yīng)地捕獲包括與必定發(fā)生改變的第一幀1710和第二幀1720的所有幀來執(zhí)行編碼。然而,基于靜止圖像的云端流媒體服務(wù)只捕獲改變后的區(qū)域1730并且通過靜止圖像壓縮技術(shù)對(duì)其進(jìn)行編碼,因此與不必要地捕獲許多幀和此幀的整個(gè)畫面的典型云端流媒體服務(wù)相比,提高了服務(wù)效率。
圖18是例示根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D18,根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域(S1810)?;谝曨l編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則服務(wù)器可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法通過考慮與改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,然后通過使用所選擇的編碼處理單元來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼(S1820)。
編碼處理單元可以是中央處理單元(CPU)和圖形處理單元(GPU)中的一個(gè)。
作為計(jì)算機(jī)的基本部件的CPU可以對(duì)指令進(jìn)行解碼,并且執(zhí)行算術(shù)邏輯運(yùn)算或數(shù)據(jù)處理。因此,計(jì)算速度、將要一次性處理的數(shù)據(jù)量、主存儲(chǔ)區(qū)的大小等可以很大程度上取決于CPU的性能。在通過CPU對(duì)改變后的區(qū)域進(jìn)行編碼的情況下,能夠直接執(zhí)行編碼而不將待編碼的數(shù)據(jù)遞送到任何其它單元,因此沒有導(dǎo)致與數(shù)據(jù)遞送關(guān)聯(lián)的成本。然而,如果與改變后的區(qū)域?qū)?yīng)的圖像具有較高的分辨率,則執(zhí)行編碼會(huì)花費(fèi)長的時(shí)間。具體地,在諸如用調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行顏色量化處理這樣的重復(fù)簡單計(jì)算的情況下,編碼時(shí)間會(huì)增加。
CPU是專用于3D圖形操作的處理器,該處理器已經(jīng)被開發(fā)成處理各種光源效果和紋理呈現(xiàn)技術(shù),以在引入3D圖形之后使顯示畫面更逼真。GPU可以有效進(jìn)行重復(fù)簡單計(jì)算或者對(duì)具有較大分辨率的圖像進(jìn)行編碼。然而,通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼需要從CPU接收待編碼的數(shù)據(jù),然后將編碼后的數(shù)據(jù)返回至CPU。這樣會(huì)導(dǎo)致額外的成本。
在這種情況下,服務(wù)器可以通過考慮圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來預(yù)測針對(duì)CPU和GPU中的每一個(gè)的編碼處理成本,并且通過從CPU和GPU當(dāng)中選擇預(yù)測編碼處理成本較低的編碼處理單元來對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,為了對(duì)改變后的區(qū)域A執(zhí)行編碼,服務(wù)器可以確定與改變后的區(qū)域A對(duì)應(yīng)的圖像特征和圖像分辨率。然后,基于針對(duì)改變后的區(qū)域A確定的圖像特征和圖像分辨率,服務(wù)器可以預(yù)測當(dāng)將通過CPU和GPU中的每一個(gè)執(zhí)行編碼時(shí)將導(dǎo)致的編碼處理成本。在這二者之中,可以選擇預(yù)測編碼處理成本較低的編碼處理單元對(duì)改變后的區(qū)域A執(zhí)行編碼。
另外,服務(wù)器可以在執(zhí)行編碼之后創(chuàng)建編碼處理成本的統(tǒng)計(jì)。例如,服務(wù)器可以定義云端流媒體服務(wù)中的特定單元時(shí)間段,并且通過使用所存儲(chǔ)的關(guān)于針對(duì)各單元時(shí)間段的編碼處理成本的信息來更新編碼處理成本的統(tǒng)計(jì)。編碼處理成本的統(tǒng)計(jì)可以被創(chuàng)建作為圖像特征、圖像分辨率和編碼處理單元中的每一個(gè)的詳細(xì)統(tǒng)計(jì)信息。基于所創(chuàng)建的統(tǒng)計(jì)信息,能夠使用選擇性編碼處理單元來確保云端流媒體服務(wù)方法的可靠性。
如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。
分辨率可以指示使用多少像素或點(diǎn)來呈現(xiàn)圖像。通常,分辨率的單位是指示每英寸使用多少像素的ppi(每英寸的像素)和指示每英寸使用多少點(diǎn)的dpi(每英寸的點(diǎn))。隨著像素或點(diǎn)的數(shù)目越大,可以呈現(xiàn)分辨率越高的精確圖像。即,分辨率越高,圖像越清楚且越清晰。然而,這因?yàn)槊坑⒋绲狞c(diǎn)增加而需要用于處理圖像的高容量存儲(chǔ)器,因此導(dǎo)致計(jì)算機(jī)處理速度較慢。例如,當(dāng)通過CPU對(duì)具有高分辨率的圖像進(jìn)行編碼時(shí),編碼處理時(shí)間會(huì)增加,這樣導(dǎo)致編碼處理成本高。
因此,當(dāng)與改變后的區(qū)域?qū)?yīng)的圖像分辨率等于或大于預(yù)定參考值時(shí),相比于通過CPU進(jìn)行編碼,服務(wù)器可以通過利用GPU執(zhí)行編碼來節(jié)省編碼處理成本。
如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率小于預(yù)定參考值,則服務(wù)器可以通過根據(jù)與改變后的區(qū)域?qū)?yīng)的圖像特征考慮靜止圖像壓縮技術(shù)來選擇編碼處理單元。如果與改變后的區(qū)域?qū)?yīng)的圖像分辨率小于預(yù)定參考值,則CPU可以在不需要向GPU遞送待編碼數(shù)據(jù)的情況下執(zhí)行編碼。然而,即使圖像分辨率低,也可以根據(jù)按照與改變后的區(qū)域?qū)?yīng)的圖像特征而選擇的靜止圖像壓縮技術(shù)來重復(fù)簡單計(jì)算。因此,服務(wù)器可以通過進(jìn)一步考慮改變后的區(qū)域的圖像類型來選擇編碼處理單元。
另外,可以根據(jù)與改變后的區(qū)域?qū)?yīng)的諸如圖像大小或圖像類型這樣的圖像特征來確定靜止圖像壓縮技術(shù)。
在這種情況下,靜止圖像壓縮技術(shù)可以與PNG(便攜式網(wǎng)絡(luò)圖形)、調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)和JPEG(聯(lián)合圖像專家組)中的一種對(duì)應(yīng)。PNG靜止圖像壓縮技術(shù)可以得到質(zhì)量良好的圖像,但是會(huì)致使編碼時(shí)數(shù)據(jù)大小增加。因此,如果傳輸網(wǎng)絡(luò)的帶寬小,則傳輸速度會(huì)降低。調(diào)色板PNG靜止圖像壓縮技術(shù)會(huì)減小數(shù)據(jù)大小,但是會(huì)致使圖像質(zhì)量降低。具體地,因?yàn)橛糜跍p小數(shù)據(jù)大小的顏色量化處理,可能涉及重復(fù)簡單計(jì)算的處理。JPEG靜止圖像壓縮技術(shù)可以根據(jù)圖像類型而具有良好的壓縮效率,但是會(huì)因?yàn)榫幋a和解碼時(shí)的高壓縮效率而致使負(fù)載大。
如果圖像分辨率小于預(yù)定參考值并且如果靜止圖像壓縮技術(shù)是調(diào)色板PNG,則服務(wù)器可以通過使用GPU對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼。例如,如果考慮到改變后的區(qū)域的圖像特征而使用調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行編碼,則編碼處理時(shí)間會(huì)因?yàn)橹T如顏色量化這樣的簡單計(jì)算的重復(fù)而增加。因此,在這種情況下,相比于使用CPU進(jìn)行編碼,可以通過使用GPU進(jìn)行編碼來用較少的編碼處理成本執(zhí)行云端流媒體服務(wù)。
另外,根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S1830)。通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
此外,雖然在圖18中未示出,但是根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法可以存儲(chǔ)在云端流媒體服務(wù)處理中創(chuàng)建的各種類型的信息。
圖19是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的使用選擇性編碼處理單元的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D19,在根據(jù)本發(fā)明的實(shí)施方式的使用編碼處理單元的云端流媒體服務(wù)方法中,云端流媒體服務(wù)器捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域(S1910)。
此后,服務(wù)器確定與改變后的區(qū)域?qū)?yīng)的圖像的分辨率是否等于或大于預(yù)定參考值(S1915)。
如果在步驟S1915中確定圖像分辨率等于或大于參考值,則服務(wù)器通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼(S1920)。
如果在步驟S1915中確定圖像分辨率小于參考值,則服務(wù)器確定用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)是否是調(diào)色板PNG靜止圖像壓縮技術(shù)(S1925)。
如果在步驟S1925中確定用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)是調(diào)色板PNG靜止圖像壓縮技術(shù),則服務(wù)器通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼(S1920)。
如果在步驟S1925中確定用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)不是調(diào)色板PNG靜止圖像壓縮技術(shù),則服務(wù)器通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼(S1930)。此時(shí),用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)可以與PNG靜止圖像壓縮技術(shù)和JPEG靜止圖像壓縮技術(shù)中的一種對(duì)應(yīng)。
此后,服務(wù)器通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S1940)。
圖20是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)系統(tǒng)的框圖。
參照?qǐng)D20,根據(jù)本發(fā)明的實(shí)施方式的云端流媒體服務(wù)系統(tǒng)包括云端流媒體服務(wù)器2010、終端裝置2020-1至2020-N和網(wǎng)絡(luò)2030。
云端流媒體服務(wù)器2010響應(yīng)于終端裝置2020-1至2020-N對(duì)云端流媒體服務(wù)的請(qǐng)求而執(zhí)行應(yīng)用,并且向終端裝置2020-1至2020-N提供與執(zhí)行應(yīng)用的結(jié)果對(duì)應(yīng)的執(zhí)行結(jié)果畫面。
云端流媒體服務(wù)器2010捕獲改變后的幀中包含的改變后的區(qū)域。即,相比于與前一幀對(duì)應(yīng)的畫面,可以捕獲與改變后的幀對(duì)應(yīng)的畫面中的不同區(qū)域作為改變后的區(qū)域。在這種情況下,服務(wù)器可以檢測待發(fā)送到終端裝置2020-1至2020-N的所有幀中有較小幀改變的片段,然后捕獲所檢測到的片段中的改變后的區(qū)域。此時(shí),通過識(shí)別在終端裝置2020-1至2020-N處發(fā)生的應(yīng)用的事件類型,可以檢測具有較小幀改變的此片段。
另外,云端流媒體服務(wù)器2010將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行編碼處理。在這種情況下,單元處理中的每一個(gè)可以與圖像分析、靜止圖像壓縮技術(shù)確定、靜止圖像壓縮和壓縮數(shù)據(jù)收集中的一個(gè)對(duì)應(yīng)。服務(wù)器可以基于與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果來將與靜止圖像壓縮對(duì)應(yīng)的單元處理分配給GPU。靜止圖像壓縮可以包括針對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行的顏色直方圖構(gòu)造、調(diào)色板創(chuàng)建、基于調(diào)色板的原始顏色量化和基于調(diào)色板的編碼中的至少一種。GPU可以向CPU遞送與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果。CPU可以通過使用與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理。當(dāng)與靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給GPU時(shí),CPU可以向GPU遞送與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)。
另外,云端流媒體服務(wù)器2010向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域,因此執(zhí)行基于靜止圖像的云端流媒體服務(wù)。
終端裝置2020-1至2020-N從云端流媒體服務(wù)器2010接收與云端流媒體服務(wù)對(duì)應(yīng)的應(yīng)用執(zhí)行結(jié)果畫面,然后將其提供給用戶。
終端裝置2020-1至2020-N與通信網(wǎng)絡(luò)連接,并且基于云計(jì)算系統(tǒng),可以執(zhí)行應(yīng)用。終端裝置可以是但不限于移動(dòng)通信終端、諸如信息通信裝置的各種裝置、多媒體裝置、有線裝置、固定裝置和網(wǎng)際協(xié)議(IP)裝置。另外,終端裝置2020-1至2020-N中的每一個(gè)可以是諸如移動(dòng)電話、便攜式多媒體播放器(PMP)、移動(dòng)互聯(lián)網(wǎng)裝置(MID)、智能電話、臺(tái)式機(jī)、平板PC、筆記本、上網(wǎng)本、個(gè)人數(shù)字助理(PDA)、智能電話和信息通信裝置這樣的具有各種移動(dòng)通信規(guī)范的移動(dòng)裝置。
網(wǎng)絡(luò)2030供應(yīng)將數(shù)據(jù)在云端流媒體服務(wù)器2010和終端裝置2020-1至2020-N之間遞送的路線,包括通常使用的網(wǎng)絡(luò)和任何今后可開發(fā)的網(wǎng)絡(luò)。例如,網(wǎng)絡(luò)2030可以是用于在有限區(qū)域內(nèi)提供各種信息裝置的通信的有線/無線短距離通信網(wǎng)絡(luò)、用于提供移動(dòng)實(shí)體之間以及移動(dòng)實(shí)體和該移動(dòng)實(shí)體外的任何其它實(shí)體之間的通信的移動(dòng)通信網(wǎng)絡(luò)、使用衛(wèi)星來提供地面站之間的通信的衛(wèi)星通信網(wǎng)絡(luò)、有線/無線通信網(wǎng)絡(luò)中的一種或其任何組合。此外,用于網(wǎng)絡(luò)2030的發(fā)送方案標(biāo)準(zhǔn)不限于現(xiàn)有的發(fā)送方案標(biāo)準(zhǔn),并且可以包括今后待開發(fā)的所有發(fā)送方案標(biāo)準(zhǔn)。另外,圖20中的云端流媒體服務(wù)器2010和終端裝置2020-1至2020-N之間使用的網(wǎng)絡(luò)可以與終端裝置2020-1至2020-N之間的網(wǎng)絡(luò)不同或相同。
圖21是例示圖20中示出的云端流媒體服務(wù)器的示例的框圖。
參照?qǐng)D21,圖20中示出的云端流媒體服務(wù)器2010包括捕獲單元2110、編碼單元2120、發(fā)送單元2130和存儲(chǔ)單元2140。
在通過只檢測改變后的區(qū)域而執(zhí)行的圖像云端流媒體服務(wù)中,可以使用中央處理單元(CPU)或圖形處理單元(GPU)來執(zhí)行圖像編碼。雖然需要CPU和GPU的合適組合與所劃分的編碼處理一起來提供最佳的圖像云端流媒體服務(wù),但是典型的云端流媒體服務(wù)僅僅使用單個(gè)單元進(jìn)行編碼。因此,本發(fā)明提出了能夠?qū)⒕幋a處理劃分成各自被分配給CPU或GPU的單元處理的更高效的圖像云端流媒體服務(wù)。
捕獲單元2110捕獲改變后的幀中包含的改變后的區(qū)域?;谝曨l編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則捕獲單元可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種分辨率,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種圖像類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
編碼單元2120將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行編碼處理。
當(dāng)云端流媒體服務(wù)器對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行編碼時(shí),僅使用CPU的典型服務(wù)方法無法使用云端流媒體服務(wù)器的全部可用資源,并因此由于圖像編碼的時(shí)間延遲而會(huì)造成服務(wù)質(zhì)量劣化。因此,為了解決典型服務(wù)方法的這種問題,本發(fā)明將編碼處理劃分成多個(gè)單元處理并且將相應(yīng)的單元處理適當(dāng)?shù)胤峙浣oCPU和GPU。
在這種情況下,單元處理中的每一個(gè)可以與圖像分析、靜止圖像壓縮技術(shù)確定、靜止圖像壓縮和壓縮數(shù)據(jù)收集中的一個(gè)對(duì)應(yīng)。圖像分析可以是對(duì)與改變后的圖像對(duì)應(yīng)的圖像的特征進(jìn)行分析的處理。例如,編碼單元可以對(duì)諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征進(jìn)行分析,然后使用它們作為用于執(zhí)行高效編碼的數(shù)據(jù)。
另外,通過執(zhí)行與靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理,編碼單元可以在對(duì)改變后的區(qū)域執(zhí)行壓縮時(shí)更高效地使用云端流媒體服務(wù)器的資源。此后,編碼單元可以通過使用與改變后的區(qū)域?qū)?yīng)的至少一個(gè)圖像的靜止圖像壓縮的結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的處理。
在這種情況下,編碼單元可以基于與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果來將與靜止圖像壓縮對(duì)應(yīng)的單元處理分配給GPU。例如,作為與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果,可以將調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)靜止圖像壓縮技術(shù)確定為用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)。在這種情況下,通過調(diào)色板PNG靜止圖像壓縮技術(shù)執(zhí)行靜止圖像編碼的處理可以包括簡單計(jì)算的重復(fù)或者將并行處理的計(jì)算處理。因此,在這種情況下,通過將這些單元處理當(dāng)中的用于執(zhí)行靜止圖像壓縮的單元處理分配給GPU,編碼單元可以節(jié)省編碼時(shí)間,并因此高效地使用云端流媒體服務(wù)器的資源。
另外,不管與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果如何,編碼單元都可以根據(jù)系統(tǒng)設(shè)置通過GPU來執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理。如果云端流媒體系統(tǒng)只由CPU形成,則應(yīng)該使用CPU來執(zhí)行所有處理。這樣會(huì)造成當(dāng)向用戶終端提供云端流媒體服務(wù)時(shí)發(fā)生延遲的概率高。因此,通過具有一個(gè)或更多個(gè)CPU、通過GPU執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理以及向CPU遞送處理結(jié)果,編碼單元可以降低云端流媒體系統(tǒng)的管理成本而且減少延遲。
在這種情況下,對(duì)于與改變后的區(qū)域?qū)?yīng)的圖像,靜止圖像壓縮可以包括顏色直方圖構(gòu)造、調(diào)色板創(chuàng)建、基于調(diào)色板的原始顏色量化和基于調(diào)色板的編碼中的一個(gè)或更多個(gè)處理??梢詧?zhí)行顏色直方圖構(gòu)造,以針對(duì)與改變后的區(qū)域?qū)?yīng)的圖像創(chuàng)建調(diào)色板。調(diào)色板創(chuàng)建可以是通過使用顏色直方圖在使相對(duì)于原始圖像(即,與改變后的區(qū)域?qū)?yīng)的圖像)的損失最小的情況下創(chuàng)建調(diào)色板的處理。基于所創(chuàng)建的調(diào)色板,編碼單元可以通過用與調(diào)色板對(duì)應(yīng)的顏色替換與改變后的區(qū)域?qū)?yīng)的圖像的顏色來執(zhí)行原始顏色量化,然后執(zhí)行基于調(diào)色板的編碼。
GPU可以向CPU遞送與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果。例如,GPU可以針對(duì)多個(gè)改變后的幀中包含的改變后的區(qū)域來執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理,并且將各處理結(jié)果遞送到用于執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理的CPU。如此,當(dāng)編碼處理被劃分成各自由CPU和GPU中的一個(gè)執(zhí)行的單元處理時(shí),會(huì)附加地出現(xiàn)用于遞送處理結(jié)果的任何資源消耗成本。然而,因?yàn)閺乃鶆澐值木幋a處理獲得的資源效率益處大于可能附加導(dǎo)致的資源消耗成本,所以上述編碼方法可以是更高效的。
在這種情況下,CPU可以通過使用與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理。例如,如果存在與通過GPU創(chuàng)建的靜止圖像壓縮對(duì)應(yīng)的多個(gè)處理結(jié)果,則編碼單元可以收集相應(yīng)的處理結(jié)果,即,壓縮數(shù)據(jù)。因?yàn)楸景l(fā)明的目的是通過執(zhí)行編碼處理向用戶的終端裝置提供基于靜止圖像的云端流媒體服務(wù),所以編碼單元可以收集多個(gè)壓縮數(shù)據(jù)并且執(zhí)行編碼處理,以向用戶的終端裝置提供服務(wù)。
如果與靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給GPU,則CPU可以向GPU遞送與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)。根據(jù)與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理的處理結(jié)果,可以確定與靜止圖像壓縮對(duì)應(yīng)的單元處理是否被分配給GPU。例如,在通過調(diào)色板PNG靜止圖像壓縮技術(shù)將與改變后的區(qū)域?qū)?yīng)的圖像壓縮為與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理的處理結(jié)果的情況下,通過GPU執(zhí)行靜止圖像壓縮可以比通過CPU執(zhí)行靜止圖像壓縮高效,因?yàn)榇嬖诤唵斡?jì)算的重復(fù)或者將并行處理的計(jì)算。因此,如果與靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給GPU,則待壓縮的圖像數(shù)據(jù)(即,與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù))可以被遞送到GPU。
發(fā)送單元2130通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。即,通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
根據(jù)本發(fā)明的實(shí)施方式,存儲(chǔ)單元2140存儲(chǔ)在云端流媒體服務(wù)處理中創(chuàng)建的以上討論的各種類型的信息。
根據(jù)實(shí)施方式,存儲(chǔ)單元2140可以獨(dú)立于云端流媒體服務(wù)器2010形成,并且支持云端流媒體服務(wù)的功能。在這種情況下,存儲(chǔ)單元2140可以如同單獨(dú)的高容量存儲(chǔ)器一樣操作并且包括針對(duì)該操作的控制功能。
另外,以上討論的云端流媒體服務(wù)器2010還可以通過一個(gè)或更多個(gè)服務(wù)器來實(shí)現(xiàn)。
此外,云端流媒體服務(wù)器2010具有可以存儲(chǔ)信息的存儲(chǔ)器。在實(shí)施方式中,存儲(chǔ)器是計(jì)算機(jī)可讀介質(zhì)。存儲(chǔ)器可以在一個(gè)實(shí)施方式中是易失性存儲(chǔ)器單元而在另一個(gè)實(shí)施方式中是非易失性存儲(chǔ)器單元。在實(shí)施方式中,存儲(chǔ)單元是計(jì)算機(jī)可讀介質(zhì)。在各種不同的實(shí)施方式中,存儲(chǔ)單元可以包括硬盤裝置、光盤裝置、或任何其它高容量的存儲(chǔ)裝置。
圖22是例示基于靜止圖像的云端流媒體系統(tǒng)的另一個(gè)示例的示圖。
參照?qǐng)D22,服務(wù)器2200可以響應(yīng)于從用戶的終端裝置接收到的用戶輸入而執(zhí)行程序畫面2210并且執(zhí)行畫面捕獲。在這種情況下,服務(wù)器2200可以是云端流媒體服務(wù)器或網(wǎng)絡(luò)應(yīng)用服務(wù)器。執(zhí)行程序畫面2210和執(zhí)行畫面捕獲的處理可以與圖21中示出的捕獲單元2110的操作流程對(duì)應(yīng)。
服務(wù)器2200可以通過靜止圖像壓縮技術(shù)對(duì)捕獲的程序畫面2210執(zhí)行圖像編碼2220。在這種情況下,執(zhí)行圖像編碼2220的處理可以與圖21中示出的編碼單元2120的操作流程對(duì)應(yīng)。
在這種情況下,服務(wù)器可以通過將改變后的幀與前一幀進(jìn)行比較來只捕獲改變后的區(qū)域。另外,服務(wù)器可以將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行編碼處理。
此后,服務(wù)器2200可以執(zhí)行將經(jīng)靜止圖像編碼的改變后的區(qū)域流傳送2230至用戶的終端裝置,因此提供基于靜止圖像的云端流媒體服務(wù)。在這種情況下,執(zhí)行流傳送2230的處理可以與圖21中示出的發(fā)送單元2130的操作流程對(duì)應(yīng)。
此后,用戶的終端裝置對(duì)接收到的數(shù)據(jù)執(zhí)行渲染2240,并因此向用戶顯示程序畫面2210,好像響應(yīng)于用戶輸入而在應(yīng)用中執(zhí)行的程序畫面是在用戶的終端裝置處執(zhí)行一樣。
圖23是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的編碼處理單元的示圖。
參照?qǐng)D23,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的編碼處理單元可以被分類為中央處理單元(CPU)2310和圖形處理單元(GPU)2320。
作為計(jì)算機(jī)的基本部件的CPU 2310可以對(duì)指令進(jìn)行解碼并且執(zhí)行算術(shù)邏輯運(yùn)算或數(shù)據(jù)處理。因此,計(jì)算速度、將要一次性處理的數(shù)據(jù)量、主存儲(chǔ)區(qū)的大小等可以很大程度上取決于CPU的性能。在通過CPU對(duì)改變后的區(qū)域進(jìn)行編碼的情況下,能夠直接執(zhí)行編碼而不將待編碼的數(shù)據(jù)遞送到任何其它單元,因此沒有導(dǎo)致與數(shù)據(jù)遞送關(guān)聯(lián)的成本。然而,如果在對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行編碼的處理中包含簡單計(jì)算的重復(fù)和適于并行處理的計(jì)算處理中的一個(gè)或更多個(gè),則通過CPU 2310來執(zhí)行編碼會(huì)花費(fèi)長時(shí)間。具體地,在通過調(diào)色板PNG靜止圖像壓縮技術(shù)來執(zhí)行編碼的情況下,因?yàn)樾枰槍?duì)各幀圖像來構(gòu)造顏色直方圖,基于顏色直方圖來創(chuàng)建調(diào)色板,并且執(zhí)行顏色量化,所以編碼時(shí)間會(huì)低效地增加。
CPU 2320是專用于3D圖形操作的處理器,該處理器已經(jīng)被開發(fā)成處理各種光源效果和紋理呈現(xiàn)技術(shù),以在引入3D圖形之后使顯示畫面更逼真。即使存在簡單計(jì)算的重復(fù)和適于并行處理的計(jì)算處理,服務(wù)器也可以通過GPU的處理能力高效地對(duì)改變后的區(qū)域進(jìn)行編碼。然而,通過GPU對(duì)改變后的區(qū)域進(jìn)行編碼需要從CPU接收待編碼的數(shù)據(jù),然后將編碼后的數(shù)據(jù)返回至CPU。這樣會(huì)導(dǎo)致額外的成本。
如圖23中所示,CPU 2310和CPU 2320可以獨(dú)立地存在于服務(wù)器2300中。與圖23相反,CPU 2310和CPU 2320可以被聯(lián)合為單個(gè)設(shè)備,或者GPU 2320可以被包含在GPU 2310中。任何其它配置可以是可能的。
另外,CPU 2310和CPU 2320可以彼此連接,以發(fā)送和接收數(shù)據(jù)。
圖24是例示根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的云端流媒體服務(wù)中的捕獲改變后的區(qū)域的處理的示圖。
參照?qǐng)D24,根據(jù)本發(fā)明的另一個(gè)實(shí)施方式的基于靜止圖像的云端流媒體服務(wù)可以將第一幀2410與第二幀2420進(jìn)行比較,然后只捕獲改變后的區(qū)域2430并且對(duì)其進(jìn)行編碼。
例如,假定第一幀2410和第二幀2420中的區(qū)域B、C、D和E是菜單顯示。在第一幀2410中,光標(biāo)位于區(qū)域C處,使得區(qū)域C可以被高亮,以與其它區(qū)域B、D和E區(qū)分開。在第二幀2420中,光標(biāo)從區(qū)域C移至區(qū)域D,使得區(qū)域D可以被高亮,以與其它區(qū)域B、C和E區(qū)分開。
在這種情況下,作為第一幀2410和第二幀2420之間的比較結(jié)果,可以僅捕獲區(qū)域C和D作為改變后的區(qū)域2430。另外,服務(wù)器可以將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)改變后的區(qū)域2430進(jìn)行靜止圖像編碼而執(zhí)行編碼處理。
典型的云端流媒體服務(wù)可以通過與幀速率對(duì)應(yīng)地捕獲包括與必定發(fā)生改變的第一幀2410和第二幀2420的所有幀來執(zhí)行編碼。然而,基于靜止圖像的云端流媒體服務(wù)只捕獲改變后的區(qū)域2430并且通過靜止圖像壓縮技術(shù)對(duì)其進(jìn)行編碼,因此與不必要地捕獲許多幀和此幀的整個(gè)畫面的典型云端流媒體服務(wù)相比,提高了服務(wù)效率。
圖25是例示根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D25,根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法捕獲改變后的幀中包含的改變后的區(qū)域(S2510)?;谝曨l編解碼器的云端流媒體技術(shù)可以捕獲與應(yīng)用正在其上運(yùn)行的畫面對(duì)應(yīng)的所有幀并且對(duì)其進(jìn)行編碼。然而,如果畫面上的幀之間存在較小的改變,則服務(wù)器可以通過只捕獲與前一幀相比改變后的幀的改變后的區(qū)域來執(zhí)行靜止圖像編碼。因此,用戶的終端裝置可以固定地顯示未改變的區(qū)域,并且只動(dòng)態(tài)地顯示改變后的區(qū)域。
在這種情況下,可以捕獲和與前一幀對(duì)應(yīng)的畫面區(qū)域不同的與改變后的幀對(duì)應(yīng)的畫面區(qū)域的特定區(qū)域作為改變后的區(qū)域。例如,如果相對(duì)于前一幀的對(duì)應(yīng)區(qū)域發(fā)生改變的改變后的幀的區(qū)域是區(qū)域A,則可以只捕獲改變后的幀的畫面區(qū)域中的區(qū)域A作為改變后的區(qū)域。根據(jù)在用戶的終端裝置處輸入的輸入信號(hào),此改變后的區(qū)域可以具有各種大小,并且與改變后的區(qū)域?qū)?yīng)的圖像可以具有各種類型。
在這種情況下,可以在待發(fā)送到用戶的終端裝置的所有幀中檢測具有較小幀改變的片段,并且可以在檢測到的片段中捕獲改變后的區(qū)域。
此時(shí),通過識(shí)別從用戶的終端裝置發(fā)生的應(yīng)用的事件類型,可以檢測到具有較小幀改變的此片段。例如,根據(jù)用戶的終端裝置的輸入信號(hào),可以確定應(yīng)用的事件類型。根據(jù)輸入信號(hào),可能出現(xiàn)當(dāng)執(zhí)行應(yīng)用時(shí)具有較小幀改變的諸如菜單、選項(xiàng)或通知窗口這樣的靜態(tài)事件或者具有經(jīng)常改變的幀的諸如視頻回放或玩游戲這樣的動(dòng)態(tài)事件。因此,能夠從用戶的終端裝置的輸入信號(hào)來識(shí)別事件類型,并且如果事件類型是靜態(tài)事件,則能夠從與事件對(duì)應(yīng)的所有幀中檢測具有較小幀改變的片段。
另外,根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法可以將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給圖形處理單元(GPU),將剩余的單元處理分配給中央處理單元(CPU),并且為了對(duì)改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行編碼處理(S2520)。
當(dāng)云端流媒體服務(wù)器對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行編碼時(shí),僅使用CPU的典型服務(wù)方法無法使用云端流媒體服務(wù)器的全部可用資源,并因此由于圖像編碼的時(shí)間延遲而會(huì)造成服務(wù)質(zhì)量劣化。因此,為了解決典型服務(wù)方法的這種問題,本發(fā)明將編碼處理劃分成多個(gè)單元處理并且將相應(yīng)的單元處理適當(dāng)?shù)胤峙浣oCPU和GPU。
在這種情況下,單元處理中的每一個(gè)可以與圖像分析、靜止圖像壓縮技術(shù)確定、靜止圖像壓縮和壓縮數(shù)據(jù)收集中的一個(gè)對(duì)應(yīng)。圖像分析可以是對(duì)與改變后的圖像對(duì)應(yīng)的圖像的特征進(jìn)行分析的處理。例如,編碼單元可以對(duì)諸如圖像大小、圖像分辨率和圖像類型這樣的圖像特征進(jìn)行分析,然后使用它們作為用于執(zhí)行高效編碼的數(shù)據(jù)。
另外,通過執(zhí)行與靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理,編碼單元可以在對(duì)改變后的區(qū)域執(zhí)行壓縮時(shí)更高效地使用云端流媒體服務(wù)器的資源。此后,編碼單元可以通過使用與改變后的區(qū)域?qū)?yīng)的至少一個(gè)圖像的靜止圖像壓縮的結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的處理。
在這種情況下,編碼單元可以基于與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果來將與靜止圖像壓縮對(duì)應(yīng)的單元處理分配給GPU。例如,作為與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果,可以將調(diào)色板PNG(便攜式網(wǎng)絡(luò)圖形)靜止圖像壓縮技術(shù)確定為用于對(duì)改變后的區(qū)域進(jìn)行編碼的靜止圖像壓縮技術(shù)。在這種情況下,通過調(diào)色板PNG靜止圖像壓縮技術(shù)執(zhí)行靜止圖像編碼的處理可以包括簡單計(jì)算的重復(fù)或者將并行處理的計(jì)算處理。因此,在這種情況下,通過將這些單元處理當(dāng)中的用于執(zhí)行靜止圖像壓縮的單元處理分配給GPU,編碼單元可以節(jié)省編碼時(shí)間,并因此高效地使用云端流媒體服務(wù)器的資源。
另外,不管與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的處理結(jié)果如何,編碼單元都可以根據(jù)系統(tǒng)設(shè)置通過GPU來執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理。如果云端流媒體系統(tǒng)只由CPU形成,則應(yīng)該使用CPU來執(zhí)行所有處理。這樣會(huì)造成當(dāng)向用戶終端提供云端流媒體服務(wù)時(shí)發(fā)生延遲的概率高。因此,通過具有一個(gè)或更多個(gè)CPU、通過GPU執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理以及向CPU遞送處理結(jié)果,編碼單元可以降低云端流媒體系統(tǒng)的管理成本而且減少延遲。
在這種情況下,對(duì)于與改變后的區(qū)域?qū)?yīng)的圖像,靜止圖像壓縮可以包括顏色直方圖構(gòu)造、調(diào)色板創(chuàng)建、基于調(diào)色板的原始顏色量化和基于調(diào)色板的編碼中的一個(gè)或更多個(gè)處理??梢詧?zhí)行顏色直方圖構(gòu)造,以針對(duì)與改變后的區(qū)域?qū)?yīng)的圖像創(chuàng)建調(diào)色板。調(diào)色板創(chuàng)建可以是通過使用顏色直方圖在使相對(duì)于原始圖像(即,與改變后的區(qū)域?qū)?yīng)的圖像)的損失最小的情況下創(chuàng)建調(diào)色板的處理?;谒鶆?chuàng)建的調(diào)色板,編碼單元可以通過用與調(diào)色板對(duì)應(yīng)的顏色替換與改變后的區(qū)域?qū)?yīng)的圖像的顏色來執(zhí)行原始顏色量化,然后執(zhí)行基于調(diào)色板的編碼。
GPU可以向CPU遞送與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果。例如,GPU可以針對(duì)多個(gè)改變后的幀中包含的改變后的區(qū)域來執(zhí)行與靜止圖像壓縮對(duì)應(yīng)的單元處理,并且將各處理結(jié)果遞送到用于執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理的CPU。如此,當(dāng)編碼處理被劃分成各自由CPU和GPU中的一個(gè)執(zhí)行的單元處理時(shí),會(huì)附加地出現(xiàn)用于遞送處理結(jié)果的任何資源消耗成本。然而,因?yàn)閺乃鶆澐值木幋a處理獲得的資源效率益處大于可能附加導(dǎo)致的資源消耗成本,所以上述編碼方法可以是更高效的。
在這種情況下,CPU可以通過使用與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理。例如,如果存在與通過GPU創(chuàng)建的靜止圖像壓縮對(duì)應(yīng)的多個(gè)處理結(jié)果,則編碼單元可以收集相應(yīng)的處理結(jié)果,即,壓縮數(shù)據(jù)。因?yàn)楸景l(fā)明的目的是通過執(zhí)行編碼處理向用戶的終端裝置提供基于靜止圖像的云端流媒體服務(wù),所以編碼單元可以收集多個(gè)壓縮數(shù)據(jù)并且執(zhí)行編碼處理,以向用戶的終端裝置提供服務(wù)。
如果與靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給GPU,則CPU可以向GPU遞送與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)。根據(jù)與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理的處理結(jié)果,可以確定與靜止圖像壓縮對(duì)應(yīng)的單元處理是否被分配給GPU。例如,在通過調(diào)色板PNG靜止圖像壓縮技術(shù)將與改變后的區(qū)域?qū)?yīng)的圖像壓縮為與圖像分析和靜止圖像壓縮技術(shù)確定對(duì)應(yīng)的單元處理的處理結(jié)果的情況下,通過GPU執(zhí)行靜止圖像壓縮可以比通過CPU執(zhí)行靜止圖像壓縮高效,因?yàn)榇嬖诤唵斡?jì)算的重復(fù)或者將并行處理的計(jì)算。因此,如果與靜止圖像壓縮對(duì)應(yīng)的單元處理被分配給GPU,則待壓縮的圖像數(shù)據(jù)(即,與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù))可以被遞送到GPU。
另外,根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)(S2530)。通過向用戶的終端裝置發(fā)送通過編碼被壓縮的改變后的區(qū)域,用戶能夠體驗(yàn)到好像應(yīng)用正在用戶的終端裝置處執(zhí)行一樣。
此外,雖然在圖25中未示出,但是根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法可以存儲(chǔ)在云端流媒體服務(wù)處理中創(chuàng)建的各種類型的信息。
圖26是詳細(xì)例示根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法的流程圖。
參照?qǐng)D26,在根據(jù)本發(fā)明的實(shí)施方式的通過編碼處理單元的任務(wù)分離進(jìn)行的云端流媒體服務(wù)方法中,云端流媒體服務(wù)器捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域(S2610)。
此后,服務(wù)器將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理(S2620)。
此后,服務(wù)器通過使用CPU來對(duì)與改變后的區(qū)域?qū)?yīng)的圖像進(jìn)行分析(S2630)。
此后,服務(wù)器通過使用CPU來確定與改變后的區(qū)域?qū)?yīng)的靜止圖像壓縮技術(shù)(S2640)。
此后,根據(jù)所確定的靜止圖像壓縮技術(shù),服務(wù)器將與靜止圖像壓縮對(duì)應(yīng)的單元處理分配給GPU(S2650)。
此后,使用CPU,服務(wù)器將與改變后的區(qū)域?qū)?yīng)的圖像數(shù)據(jù)遞送到GPU(S2660)。
此后,服務(wù)器通過使用GPU來執(zhí)行靜止圖像壓縮并且將與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果遞送到CPU(S2670)。
此后,使用CPU,服務(wù)器通過使用與靜止圖像壓縮對(duì)應(yīng)的處理結(jié)果來執(zhí)行與壓縮數(shù)據(jù)收集對(duì)應(yīng)的單元處理(S2680)。
此后,服務(wù)器將經(jīng)靜止圖像編碼的改變后的區(qū)域遞送到用戶(S2690)。
上面記錄有并適于存儲(chǔ)計(jì)算機(jī)程序命令語言和數(shù)據(jù)的計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)包括諸如硬盤、軟盤和磁帶這樣的磁性介質(zhì)、諸如光盤只讀存儲(chǔ)器(CD-ROM)和數(shù)字通用盤(DVD)這樣的光學(xué)介質(zhì)、諸如光軟盤這樣的磁-光介質(zhì)以及諸如只讀存儲(chǔ)器(ROM)、隨機(jī)存取存儲(chǔ)器(RAM)、閃速存儲(chǔ)器、可擦除可編程ROM(EPROM)和電EPROM(EEPROM)這樣的半導(dǎo)體存儲(chǔ)器。處理器和存儲(chǔ)器可以由專用邏輯電路來實(shí)現(xiàn)或者與專用邏輯電路集成。程序命令可以包括能夠通過使用翻譯器在計(jì)算機(jī)中執(zhí)行的高級(jí)語言代碼以及由編譯器形成的機(jī)器代碼。以上提到的硬件器件可以被配置為如同一個(gè)或更多個(gè)軟件模塊進(jìn)行操作,以執(zhí)行本發(fā)明的操作,并且反之亦然。
雖然本公開包含了許多特定實(shí)現(xiàn)細(xì)節(jié),但是這些不應(yīng)該被理解為對(duì)本發(fā)明的范圍或可以要求保護(hù)的范圍的限制,而是被理解為是對(duì)可以特定用于特定發(fā)明的特定實(shí)施方式的特征的描述。本公開中在單獨(dú)實(shí)施方式的上下文下描述的某些特征也能夠以組合方式在單個(gè)實(shí)施方式中實(shí)現(xiàn)。相反地,在單個(gè)實(shí)施方式的上下文下描述的各個(gè)特征還能夠單獨(dú)地或者以任何合適的子組合形式在多個(gè)實(shí)施方式中實(shí)現(xiàn)。此外,雖然特征可以在以上被描述為在某些組合中發(fā)揮作用并且甚至初始地如此聲明,但是所聲明的組合中的一個(gè)或更多個(gè)特征能夠在某些情況下從該組合中刪除,并且所聲明的組合可以涉及子組合或子組合的變型。
雖然操作在圖中被例示為以預(yù)定順序執(zhí)行,但是不應(yīng)該理解,需要順序地或者按照被例示為得到優(yōu)選結(jié)果的預(yù)定順序來執(zhí)行這些操作,或者需要執(zhí)行所有例示的操作。在一些情況下,多任務(wù)處理和并行處理可以是有利的。另外,應(yīng)該理解,在所有類型的實(shí)現(xiàn)方式中需要各種系統(tǒng)組件的劃分。應(yīng)該理解,所描述的程序組件和系統(tǒng)總體上被集成為單個(gè)軟件產(chǎn)品或者被封裝到多軟件產(chǎn)品中。
雖然已經(jīng)參照本發(fā)明的示例性實(shí)施方式具體示出和描述了本發(fā)明,但是本領(lǐng)域技術(shù)人員應(yīng)該理解,可以在不脫離所附的權(quán)利要求所限定的本發(fā)明的精神和范圍的情況下對(duì)本發(fā)明的形式和細(xì)節(jié)做出各種改變。
工業(yè)實(shí)用性
本發(fā)明可以通過使用前一幀和當(dāng)前幀之間的差別幀來確定包含改變后的像素并且具有最小面積的矩形區(qū)域作為改變后的區(qū)域并且捕獲所述改變后的區(qū)域,按照通過考慮與改變后的區(qū)域?qū)?yīng)的圖像的多種顏色中的一種或更多種以及該圖像的像素值的標(biāo)準(zhǔn)偏差而確定的圖像類型來選擇靜止圖像壓縮技術(shù),通過使用所選擇的靜止圖像壓縮技術(shù)來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。另外,本發(fā)明可以使用靜止圖像壓縮技術(shù)通過云端流媒體服務(wù)使流媒體壓縮效率最大化,并且還通過在同一頻帶上向更多的用戶提供更快速的云端流媒體服務(wù)。因此,云端流媒體服務(wù)供應(yīng)商能夠在節(jié)省頻帶擴(kuò)展所需的資源的同時(shí)向用戶提供高效的服務(wù)。
另外,本發(fā)明可以捕獲改變后的幀中包含的改變后的區(qū)域,通過考慮是否存在與改變后的區(qū)域?qū)?yīng)的圖像特征信息來確定編碼技術(shù),通過使用編碼技術(shù)對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。另外,通過當(dāng)執(zhí)行針對(duì)云端流媒體服務(wù)器的編碼時(shí)通過圖像特征信息來確定編碼技術(shù),本發(fā)明可以節(jié)省云端流媒體服務(wù)器的進(jìn)行圖像處理通常所需的資源,并因此提供更高效的云端流媒體服務(wù)。
另外,本發(fā)明可以捕獲與前一幀相比改變后的幀中包含的改變后的區(qū)域,通過考慮與改變后的區(qū)域?qū)?yīng)的圖像特征和圖像分辨率中的一個(gè)或更多個(gè)來選擇編碼處理單元,通過使用編碼處理單元來與一幀對(duì)應(yīng)地對(duì)改變后的區(qū)域執(zhí)行靜止圖像編碼,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。另外,本發(fā)明可以通過使用選擇性編碼處理單元來提高通過云端流媒體服務(wù)利用云端流媒體服務(wù)器的資源的效率,并因此降低了提供云端流媒體服務(wù)的處理成本。
另外,本發(fā)明可以捕獲改變后的幀中包含的改變后的區(qū)域,通過使用圖形處理單元(GPU)對(duì)改變后的區(qū)域進(jìn)行壓縮,將針對(duì)改變后的區(qū)域的編碼處理劃分成多個(gè)單元處理,將所述單元處理中的至少一個(gè)分配給GPU,將剩余的單元處理分配給中央處理單元(CPU),為了對(duì)改變后的區(qū)域進(jìn)行靜止圖像編碼而執(zhí)行編碼處理,并且通過向用戶發(fā)送經(jīng)靜止圖像編碼的改變后的區(qū)域來執(zhí)行基于靜止圖像的云端流媒體服務(wù)。另外,本發(fā)明可以通過基于編碼處理單元的處理分離的云端流媒體服務(wù)來節(jié)省云端流媒體服務(wù)器的資源,并因此降低了提供云端流媒體服務(wù)的整體成本。