本發(fā)明涉及圖像處理技術(shù),尤其涉及一種基于圖像處理的控制方法、控制裝置及電子裝置。
背景技術(shù):
現(xiàn)有的一種圖像傳感器包括像素單元陣列和設(shè)置在像素單元陣列上的濾光片單元陣列,每個濾光片單元陣列覆蓋對應(yīng)一個感光像素單元,每個感光像素單元包括多個感光像素。工作時,可以控制圖像傳感器曝光輸出合并圖像,合并圖像包括合并像素陣列,同一像素單元的多個感光像素合并輸出作為一個合并像素。如此,可以提高合并圖像的信噪比,然而,合并圖像的解析度降低。當(dāng)然,也可以控制圖像傳感器曝光輸出高像素的色塊圖像,色塊圖像包括原始像素陣列,每個感光像素對應(yīng)一個原始像素。然而,由于同一濾光片單元對應(yīng)的多個原始像素顏色相同,同樣無法提高色塊圖像的解析度。因此,需要通過插值計算的方式將高像素的色塊圖像轉(zhuǎn)換成高像素的仿原圖像,仿原圖像可以包括呈拜耳陣列排布的仿原像素。仿原圖像可以通過控制方法轉(zhuǎn)換成真彩圖像并保存下來。插值計算可以提高真彩圖像的清晰度,然而耗費資源且耗時,導(dǎo)致拍攝時間加長,此外,在實際應(yīng)用中,對真彩圖像的某些部分,如人臉等進(jìn)行高清晰度處理反而會降低用戶體驗。
技術(shù)實現(xiàn)要素:
本發(fā)明旨在至少解決現(xiàn)有技術(shù)中存在的技術(shù)問題之一。為此,本發(fā)明提供一種控制方法、控制裝置及電子裝置。
本發(fā)明實施方式的控制方法,用于控制電子裝置,所述電子裝置包括成像裝置和觸摸屏,所述成像裝置包括圖像傳感器,所述圖像傳感器包括感光像素單元陣列和設(shè)置在所述感光像素單元陣列上的濾光片單元陣列,每個所述濾光片單元陣列覆蓋對應(yīng)一個所述感光像素單元,每個所述感光像素單元陣列包括多個感光像素,所述控制方法包括以下步驟:
控制所述圖像傳感器輸出同一場景的合并圖像和色塊圖像,所述合并圖像包括合并像素陣列,同一所述感光像素單元的多個感光像素合并輸出作為一個所述合并像素,所述色塊圖像包括預(yù)定陣列排布的圖像像素單元,所述圖像像素單元包括多個原始像素,每個所述感光像素對應(yīng)一個所述原始像素,每個所述感光像素對應(yīng)一個所述原始像素;
根據(jù)所述合并圖像識別人臉區(qū)域;
利用第一插值算法將所述色塊圖像轉(zhuǎn)換成仿原圖像,所述仿原圖像包括陣列排布的仿原像素,所述仿原像素包括當(dāng)前像素,所述原始像素包括與所述當(dāng)前像素對應(yīng)的關(guān)聯(lián)像素,所述利用第一插值算法將所述色塊圖像轉(zhuǎn)換成仿原圖像的步驟包括以下步驟:
判斷所述關(guān)聯(lián)像素是否位于所述人臉區(qū)域外;
在所述關(guān)聯(lián)像素位于所述人臉區(qū)域外時判斷所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色是否相同;
在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色相同時,將所述關(guān)聯(lián)像素的像素值作為所述當(dāng)前像素的像素值;和
在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色不同時,根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值,所述圖像像素單元包括所述關(guān)聯(lián)像素單元,所述關(guān)聯(lián)像素單元的顏色與所述當(dāng)前像素相同且與所述當(dāng)前像素相鄰;和
將所述合并圖像通過第二插值算法轉(zhuǎn)換成與所述仿原圖像對應(yīng)的還原圖像,所述第二插值算法的復(fù)雜度小于所述第一插值算法;和
合并所述仿原圖像及所述還原圖像以得到所述合并仿原圖像。
在某些實施方式中,所述預(yù)定陣列包括拜耳陣列。
在某些實施方式中,所述圖像像素單元包括2*2陣列的所述原始像素。
在某些實施方式中,所述根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟包括以下步驟:
計算所述關(guān)聯(lián)像素各個方向上的漸變量;
計算所述關(guān)聯(lián)像素各個方向上的權(quán)重;和
根據(jù)所述漸變量及所述權(quán)重計算所述當(dāng)前像素的像素值。
在某些實施方式中,所述控制方法在所述根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟前包括以下步驟:
對所述色塊圖像做白平衡補(bǔ)償;
所述控制方法在所述根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟后包括以下步驟:
對所述仿原圖像做白平衡補(bǔ)償還原。
在某些實施方式中,所述控制方法在所述根據(jù)所述關(guān)聯(lián)像素的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟前包括以下步驟:
對所述色塊圖像做壞點補(bǔ)償。
在某些實施方式中,所述控制方法在所述根據(jù)關(guān)聯(lián)像素的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟前包括如下步驟:
對所述色塊圖像做串?dāng)_補(bǔ)償。
在某些實施方式中,所述控制方法在所述根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值的步驟包括如下步驟:
對所述仿原圖像進(jìn)行鏡片形狀校正、去馬賽克、降噪和邊緣銳化處理。
本發(fā)明實施方式的控制裝置,用于控制電子裝置,所述電子裝置包括成像裝置和觸摸屏,所述成像裝置包括圖像傳感器,所述圖像傳感器包括感光像素單元陣列和設(shè)置在所述感光像素單元陣列上的濾光片單元陣列,每個所述濾光片單元陣列覆蓋對應(yīng)一個所述感光像素單元,每個所述感光像素單元陣列包括多個感光像素,所述控制裝置包括:輸出模塊、識別模塊、轉(zhuǎn)換模塊、合并模塊。所述輸出模塊用于控制所述圖像傳感器輸出同一場景的合并圖像和色塊圖像,所述合并圖像包括合并像素陣列,同一所述感光像素單元的多個感光像素合并輸出作為一個所述合并像素,所述色塊圖像包括預(yù)定陣列排布的圖像像素單元,所述圖像像素單元包括多個原始像素,每個所述感光像素對應(yīng)一個所述原始像素;所述識別模塊用于根據(jù)所述合并圖像識別人臉區(qū)域;所述轉(zhuǎn)換模塊用于利用第一插值算法將所述色塊圖像轉(zhuǎn)換成仿原圖像,所述仿原圖像包括陣列排布的仿原像素,所述仿原像素包括當(dāng)前像素,所述原始像素包括與所述當(dāng)前像素對應(yīng)的關(guān)聯(lián)像素,所述轉(zhuǎn)換模塊包括:第一判斷單元、第二判斷單元、第一計算單元、第二計算單元、第三計算單元,所述第一判斷單元用于判斷所述關(guān)聯(lián)像素是否位于所述人臉區(qū)域外;所述第二判斷單元用于在所述關(guān)聯(lián)像素位于所述人臉區(qū)域外時判斷所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色是否相同;所述第一計算單元用于在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色相同時,將所述關(guān)聯(lián)像素的像素值作為所述當(dāng)前像素的像素值;所述第二計算單元用于在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色不同時,根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值,所述圖像像素單元包括所述關(guān)聯(lián)像素單元,所述關(guān)聯(lián)像素單元的顏色與所述當(dāng)前像素相同且與所述當(dāng)前像素相鄰;所述第三計算單元用于將所述合并圖像通過第二插值算法轉(zhuǎn)換成與所述仿原圖像對應(yīng)的還原圖像,所述第二插值算法的復(fù)雜度小于所述第一插值算法;所述合并模塊用于合并所述仿原圖像及所述還原圖像以得到所述合并仿原圖像。
在某些實施方式中,所述預(yù)定陣列包括拜耳陣列。
在某些實施方式中,所述圖像像素單元包括2*2陣列的所述原始像素。
在某些實施方式中,所述第二計算模塊包括:
第一計算子元,所述第一計算子單元用于計算所述關(guān)聯(lián)像素各個方向上的漸變量;
第二計算子單元,所述第二計算子單元用于計算所述關(guān)聯(lián)像素各個方向上的權(quán)重;和
第三計算子單元,所述第三計算自單元用于根據(jù)所述漸變量及所述權(quán)重計算所述當(dāng)前像素的像素值。
在某些實施方式中,所述轉(zhuǎn)換模塊包括白平衡補(bǔ)償單元和白平衡補(bǔ)償還原單元。所述白平衡補(bǔ)償單元用于對所述色塊圖像做白平衡補(bǔ)償;所述白平衡補(bǔ)償還原單元用于對所述仿原圖像做白平衡補(bǔ)償還原。
所述轉(zhuǎn)換模塊包括壞點補(bǔ)償單元,所述壞點補(bǔ)償單元用于對所述色塊圖像做壞點補(bǔ)償。
在某些實施方式中,所述轉(zhuǎn)換模塊包括,所述串?dāng)_補(bǔ)償單元用于對所述色塊圖像做串?dāng)_補(bǔ)償。
在某些實施方式中,所述轉(zhuǎn)換模塊包括處理單元,所述處理單元用于對所述仿原圖像進(jìn)行鏡片形狀校正、去馬賽克、降噪和邊緣銳化處理。
本發(fā)明實施方式的電子裝置,所述電子裝置包括成像裝置、觸摸屏和上述的控制裝置。
所述電子裝置包括手機(jī)或平板電腦。
在某些實施方式中,所述成像裝置包括前置相機(jī)或后置相機(jī)。
本發(fā)明實施方式的控制方法、控制裝置及電子裝置,對色塊圖像中人臉區(qū)域外的圖像采用第一插值算法進(jìn)行處理,以提高人臉區(qū)域外的圖像的分辨率及解析度,且對合并圖像采用復(fù)雜度小于第一插值算法的第二插值算法進(jìn)行處理,在提高圖像信噪比、分辨率和解析度的同時,減少所需處理的數(shù)據(jù)和處理時間,提升用戶體驗。
本發(fā)明的附加方面和優(yōu)點將在下面的描述中部分給出,部分將從下面的描述中變得明顯,或通過本發(fā)明的實踐了解到。
附圖說明
本發(fā)明的上述和/或附加的方面和優(yōu)點從結(jié)合下面附圖對實施方式的描述中將變得明顯和容易理解,其中:
圖1是本發(fā)明實施方式的控制方法的流程示意圖;
圖2是本發(fā)明實施方式的控制方法的另一流程示意圖;
圖3是本發(fā)明實施方式的控制裝置的功能模塊示意圖;
圖4是本發(fā)明實施方式的圖像傳感器的模塊示意圖;
圖5是本發(fā)明實施方式的圖像傳感器的電路示意圖;
圖6是本發(fā)明實施方式的濾光片單元的示意圖;
圖7是本發(fā)明實施方式的圖像傳感器的結(jié)構(gòu)示意圖;
圖8是本發(fā)明實施方式的合并圖像狀態(tài)示意圖;
圖9是本發(fā)明實施方式的色塊圖像的狀態(tài)示意圖;
圖10是本發(fā)明實施方式的控制方法的狀態(tài)示意圖;
圖11是本發(fā)明某些實施方式的控制方法的流程示意圖;
圖12是本發(fā)明某些實施方式的第二計算單元的功能模塊示意圖;
圖13是本發(fā)明某些實施方式的控制方法的流程示意圖;
圖14是本發(fā)明某些實施方式的控制裝置的功能模塊示意圖;
圖15是本發(fā)明某些實施方式的控制方法的圖像合并的狀態(tài)示意圖;
圖16是本發(fā)明實施方式的電子裝置的功能模塊示意圖。
具體實施方式
下面詳細(xì)描述本發(fā)明的實施方式,所述實施方式的示例在附圖中示出,其中自始至終相同或類似的標(biāo)號表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附圖描述的實施方式是示例性的,僅用于解釋本發(fā)明,而不能理解為對本發(fā)明的限制。
請參閱圖1至2,本發(fā)明實施方式的控制方法,用于控制電子裝置,所述電子裝置包括成像裝置和觸摸屏,所述成像裝置包括圖像傳感器,所述圖像傳感器包括感光像素單元陣列和設(shè)置在所述感光像素單元陣列上的濾光片單元陣列,每個所述濾光片單元陣列覆蓋對應(yīng)一個所述感光像素單元,每個所述感光像素單元陣列包括多個感光像素,所述控制方法包括以下步驟:
S11:控制所述圖像傳感器輸出同一場景的合并圖像和色塊圖像,所述合并圖像包括合并像素陣列,同一所述感光像素單元的多個感光像素合并輸出作為一個所述合并像素,所述色塊圖像包括預(yù)定陣列排布的圖像像素單元,所述圖像像素單元包括多個原始像素,每個所述感光像素對應(yīng)一個所述原始像素,每個所述感光像素對應(yīng)一個所述原始像素;
S12:根據(jù)所述合并圖像識別人臉區(qū)域;
S13:利用第一插值算法將所述色塊圖像轉(zhuǎn)換成仿原圖像,所述仿原圖像包括陣列排布的仿原像素,所述仿原像素包括當(dāng)前像素,所述原始像素包括與所述當(dāng)前像素對應(yīng)的關(guān)聯(lián)像素,所述利用第一插值算法將所述色塊圖像轉(zhuǎn)換成仿原圖像的步驟包括以下步驟:
S131:判斷所述關(guān)聯(lián)像素是否位于所述人臉區(qū)域外;
S133:在所述關(guān)聯(lián)像素位于所述人臉區(qū)域外時判斷所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色是否相同;
S135:在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色相同時,將所述關(guān)聯(lián)像素的像素值作為所述當(dāng)前像素的像素值;和
S137:在所述當(dāng)前像素的顏色與所述關(guān)聯(lián)像素的顏色不同時,根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算所述當(dāng)前像素的像素值,所述圖像像素單元包括所述關(guān)聯(lián)像素單元,所述關(guān)聯(lián)像素單元的顏色與所述當(dāng)前像素相同且與所述當(dāng)前像素相鄰;和
S139:將所述合并圖像通過第二插值算法轉(zhuǎn)換成與所述仿原圖像對應(yīng)的還原圖像,所述第二插值算法的復(fù)雜度小于所述第一插值算法;和
S14:合并所述仿原圖像及所述還原圖像以得到所述合并仿原圖像。
請參閱圖3,本發(fā)明實施方式的控制方法可以由本發(fā)明實施方式的控制裝置10實現(xiàn)。
控制裝置10用于控制電子裝置100,電子裝置100包括成像裝置20和觸摸屏30,成像裝置20包括圖像傳感器21,圖像傳感器21包括感光像素單元陣列212和設(shè)置在感光像素單元陣列上的濾光片單元陣列211,每個濾光片單元陣列211覆蓋對應(yīng)一個感光像素單元212a,每個感光像素單元陣列包括多個感光像素2121,控制裝置10包括輸出模塊11、識別模塊12、轉(zhuǎn)換模塊13和合并模塊14。輸出模塊11用于控制圖像傳感器21輸出同一場景的合并圖像和色塊圖像,合并圖像包括合并像素陣列,同一感光像素單元212a的多個感光像素2121合并輸出作為一個合并像素,色塊圖像包括預(yù)定陣列排布的圖像像素單元,圖像像素單元包括多個原始像素,每個感光像素2121對應(yīng)一個原始像素;識別模塊12用于根據(jù)合并圖像識別人臉區(qū)域;轉(zhuǎn)換模塊13用于利用第一插值算法將色塊圖像轉(zhuǎn)換成房源圖形,仿原圖像包括陣列排布的仿原像素,仿原像素包括當(dāng)前像素,原始像素包括與當(dāng)前像素對應(yīng)的關(guān)聯(lián)像素,轉(zhuǎn)換模塊13包括第一判斷單元131、第二判斷單元133、第一計算單元135、第二計算單元137和第三計算單元139,第一判斷單元131用于判斷關(guān)聯(lián)像素是否位于人臉區(qū)域外;第二判斷單元133用于在關(guān)聯(lián)像素位于人臉區(qū)域外時判斷當(dāng)前像素的顏色與關(guān)聯(lián)像素的顏色是否相同;第一計算單元135用于在當(dāng)前像素的顏色與關(guān)聯(lián)像素顏色相同時,將關(guān)聯(lián)像素的像素值作為當(dāng)前像素的像素值;第二計算單元137用于在當(dāng)前像素的顏色與關(guān)聯(lián)像素的顏色不同時,根據(jù)關(guān)聯(lián)像素單元的像素值通過第一插值算法計算當(dāng)前像素的像素值,圖像像素單元包括關(guān)聯(lián)像素單元,關(guān)聯(lián)像素單元的顏色與當(dāng)前像素相同且與當(dāng)前像素相鄰;第三計算單元139用于將合并圖像通過第二插值算法轉(zhuǎn)換成與仿原圖像對應(yīng)的還原圖像,第二插值算法的復(fù)雜度小于第一插值算法;合并模塊14用于合并仿原圖像和還原圖像以得到合并仿原圖像。
也即是說,步驟S11可以由輸出模塊11實現(xiàn),步驟S12可以由識別模塊12實現(xiàn),步驟S13可以由轉(zhuǎn)換模塊13實現(xiàn),步驟S131可以由第一判斷單元131實現(xiàn),步驟S133可以由第二判斷單元133實現(xiàn),步驟S135可以由第一計算單元135實現(xiàn),步驟S137可以由第二計算單元137實現(xiàn),步驟S139可以由第三計算單元139實現(xiàn),步驟S14可以由合并模塊14實現(xiàn)。
可以理解,本發(fā)明實施方式的控制方法采用第一插值算法處理色塊圖像的人臉區(qū)域外的圖像,用第二插值算法處理合并圖像。第二插值算法的復(fù)雜度包括時間復(fù)雜度和空間復(fù)雜度,相較于第一插值算法,第二插值算法的時間復(fù)雜度和空間復(fù)雜度均小于第一插值算法。如此,僅對部分的圖像進(jìn)行復(fù)雜度較大的第一插值算法進(jìn)行處理,減少了所需處理的數(shù)據(jù)和處理所需的時間,提升了部分圖像的質(zhì)量,同時,人臉區(qū)域的圖像清晰度相較于人臉區(qū)域外的圖像的清晰度低,可以使用戶有更好的拍攝體驗。
請一并參閱圖4至7,本發(fā)明實施方式的圖像傳感器21包括感光像素單元陣列212和設(shè)置在感光像素單元陣列212上的濾光片單元陣列211。
進(jìn)一步地,感光像素單元陣列212包括多個感光像素單元212a,每個感光像素單元212a包括多個相鄰的感光像素2121。每個感光像素2121包括一個感光器件21211和一個傳輸管21212,其中,感光器件21211可以是光電二極管,傳輸管21212可以是MOS晶體管。
濾光片單元陣列211包括多個濾光片單元211a,每個濾光片單元211a覆蓋對應(yīng)一個感光像素單元212a。
具體地,在某些示例中,濾光片單元陣列211包括拜耳陣列,也即是說,相鄰的四個濾光片單元211a分別為一個紅色濾光片單元、一個藍(lán)色濾光片單元和兩個綠色濾光片單元。
每一個感光像素單元212a對應(yīng)同一顏色的濾光片211a,若一個感光像素單元212a中一共包括n個相鄰的感光器件21211,那么一個濾光片單元211a覆蓋一個感光像素單元212a中的n個感光器件21211,該濾光片單元211a可以使一體構(gòu)造,也可以由n個獨立的子濾光片組裝連接在一起。
在某些實施方式中,每個感光像素單元212a包括四個相鄰的感光像素2121,相鄰兩個感光像素2121共同構(gòu)成一個感光像素子單元2120,感光像素子單元2120還包括一個源極跟隨器21213和一個模數(shù)轉(zhuǎn)換器21214。感光像素單元212a還包括一個加法器2122。其中,一個感光像素子單元2120中的每個傳輸管21212的一端電極被連接到對應(yīng)感光器件21211的陰極電極,每個傳輸管21212的另一端被共同連接至源極跟隨器21213的閘極電極,并通過源極跟隨器21213源極電極連接至一個模數(shù)轉(zhuǎn)換器21214。其中,源極跟隨器21213可以是MOS晶體管。兩個感光像素子單元2120通過各自的源極跟隨器21213及模數(shù)轉(zhuǎn)換器21214連接至加法器2122。
也即是說,本發(fā)明實施方式的圖像傳感器21的一個感光像素單元212a中相鄰的四個感光器件21211共用一個同顏色的濾光片單元211a,每個感光器件21211對應(yīng)連接一個傳輸管21212,相鄰兩個感光器件21211共用一個源極跟隨器21213和一個模數(shù)轉(zhuǎn)換器21214,相鄰四個感光器件21211共用一個加法器2122。
進(jìn)一步地,相鄰四個感光器件21211呈2*2陣列排布。其中,一個感光像素子單元2120中的兩個感光器件21211可以處于同一列。
在成像時,當(dāng)同一濾光片單元211a下覆蓋的兩個感光像素子單元2120或者說四個感光器件21211同時曝光時,可以對像素進(jìn)行合并進(jìn)而可輸出合并圖像。
具體地,感光器件21211用于將光照轉(zhuǎn)換為電荷,且產(chǎn)生的電荷與光照強(qiáng)度成比例關(guān)系,傳輸管21212用于根據(jù)控制信號來控制電路的導(dǎo)通或斷開。當(dāng)電路導(dǎo)通時,源極跟隨器21213用于將感光器件21211經(jīng)光照產(chǎn)生的電荷信號轉(zhuǎn)換為電壓信號。模數(shù)轉(zhuǎn)換器21214用于電壓信號轉(zhuǎn)換為數(shù)字信號。加法器2122用于將兩路數(shù)字信號相加共同輸出,以供與圖像傳感器21相連的圖像處理模塊處理。
請參閱圖8,以16M的圖像傳感器21舉例來說,本發(fā)明實施方式的圖像傳感器21可以將16M的感光像素合并成4M,或者說,輸出合并圖像,合并后,感光像素的大小相當(dāng)于變成了原來大小的4倍,從而提升了感光像素的感光度。此外,由于圖像傳感器21中的噪聲大部分都是隨機(jī)噪聲,對于合并之前的感光像素來說,有可能其中一個或兩個像素中存在噪點,而在將四個感光像素合并成一個大的感光像素后,減小了噪點對該大像素的影響,也即是減弱了噪聲,提高了信噪比。
但在感光像素大小變大的同時,由于像素值降低,合并圖像的解析度也將降低。
在成像時,當(dāng)同一濾光片單元211a覆蓋的四個感光器件21211依次曝光時,經(jīng)過圖像處理可以輸出色塊圖像。
具體地,感光器件21211用于將光照轉(zhuǎn)換為電荷,且產(chǎn)生的電荷與光照的強(qiáng)度成比例關(guān)系,傳輸管21212用于根據(jù)控制信號來控制電路的導(dǎo)通或斷開。當(dāng)電路導(dǎo)通時,源極跟隨器21213用于將感光器件21211經(jīng)光照產(chǎn)生的電荷信號轉(zhuǎn)換為電壓信號。模數(shù)轉(zhuǎn)換器21214用于將電壓信號轉(zhuǎn)換為數(shù)字信號以供與圖像傳感器21相連的圖像處理模塊處理。
請參閱圖9,以16M的圖像傳感器21舉例來說,本發(fā)明實施方式的圖像傳感器21還可以保持16M的感光像素輸出,或者說輸出色塊圖像,色塊圖像包括圖像像素單元,圖像像素單元包括2*2陣列排布的原始像素,該原始像素的大小與感光像素大小相同,然而由于覆蓋相鄰四個感光器件21211的濾光片單元211a為同一顏色,也即是說,雖然四個感光器件21211分別曝光,但其覆蓋的濾光片單元211a顏色相同,因此,輸出的每個圖像像素單元的相鄰四個原始像素顏色相同,仍然無法提高圖像的解析度。
本發(fā)明實施方式的控制方法,用于對輸出的色塊圖像進(jìn)行處理,以得到仿原圖像。
可以理解,合并圖像在輸出時,四個相鄰的同色的感光像素以合并像素輸出,如此,合并圖像中的四個相鄰的合并像素仍可看作是典型的拜耳陣列,可以直接被圖像處理模塊接收進(jìn)行處理以輸出真彩圖像。而色塊圖像在輸出時每個感光像素分別輸出,由于相鄰四個感光像素顏色相同,因此,一個圖像像素單元的四個相鄰原始像素的顏色相同,是非典型的拜耳陣列。而圖像處理模塊無法對非典型拜耳陣列直接進(jìn)行處理,也即是說,在圖像傳感器21采用統(tǒng)一圖像處理模式時,為兼容兩種模式的真彩圖像輸出即合并模式下的真彩圖像輸出及色塊模式下的真彩圖像輸出,需將色塊圖像轉(zhuǎn)換為仿原圖像,或者說將非典型拜耳陣列的圖像像素單元轉(zhuǎn)換為典型的拜耳陣列的像素排布。
仿原圖像包括呈拜耳陣列排布的仿原像素。仿原像素包括當(dāng)前像素,原始像素包括與當(dāng)前像素對應(yīng)的關(guān)聯(lián)像素。
本發(fā)明實施方式的控制方法分別輸出色塊圖像和合并圖像,并在合并圖像上識別出人臉區(qū)域。
基于合并圖像與色塊圖像間的對應(yīng)關(guān)系,對于一幀色塊圖像的人臉區(qū)域外的圖像,先將該色塊圖像的人臉區(qū)域外的圖像轉(zhuǎn)換成拜耳圖像陣列,再利用第一插值算法進(jìn)行圖像處理。具體地,請參閱圖10,以圖10為例,當(dāng)前像素為R3’3’和R5’5’,對應(yīng)的關(guān)聯(lián)像素分別為R33和R55。
在獲取當(dāng)前像素R3’3’時,由于R3’3’與對應(yīng)的關(guān)聯(lián)像素R33的顏色相同,因此在轉(zhuǎn)換時直接將R33的像素值作為R3’3’的像素值。
在獲取當(dāng)前像素R5’5’時,由于R5’5’與對應(yīng)的關(guān)聯(lián)像素B55的顏色不相同,顯然不能直接將B55的像素值作為R5’5’的像素值,需要根據(jù)R5’5’的關(guān)聯(lián)像素單元通過插值的方式計算得到。
需要說明的是,以上及下文中的像素值應(yīng)當(dāng)廣義理解為該像素的顏色屬性數(shù)值,例如色彩值。
關(guān)聯(lián)像素單元包括多個,例如4個,顏色與當(dāng)前像素相同且與當(dāng)前像素相鄰的圖像像素單元中的原始像素。
需要說明的是,此處相鄰應(yīng)做廣義理解,以圖10為例,R5’5’對應(yīng)的關(guān)聯(lián)像素為B55,與B55所在的圖像像素單元相鄰的且與R5’5’顏色相同的關(guān)聯(lián)像素單元所在的圖像像素單元分別為R44、R74、R47、R77所在的圖像像素單元,而并非在空間上距離B55所在的圖像像素單元更遠(yuǎn)的其他的紅色圖像像素單元。其中,與B55在空間上距離最近的紅色原始像素分別為R44、R74、R47和R77,也即是說,R5’5’的關(guān)聯(lián)像素單元由R44、R74、R47和R77組成,R5’5’與R44、R74、R47和R77的顏色相同且相鄰。
如此,針對不同情況的當(dāng)前像素,采用不同方式的將原始像素轉(zhuǎn)換為仿原像素,從而將色塊圖像轉(zhuǎn)換為仿原圖像,由于拍攝圖像時,采用了特殊的拜耳陣列結(jié)構(gòu)的濾光片,提高了圖像信噪比,并且在圖像處理過程中,通過第一插值算法對色塊圖像進(jìn)行插值處理,提高了圖像的分辨率及解析度。
請參閱圖11,在某些實施方式中,步驟S137包括以下步驟:
S1371:計算所述關(guān)聯(lián)像素各個方向上的漸變量;
S1372:計算所述關(guān)聯(lián)像素各個方向上的權(quán)重;和
S1373:根據(jù)所述漸變量及所述權(quán)重計算所述當(dāng)前像素的像素值。
請參閱圖12,在某些實施方式中,第二計算單元137包括第一計算子單元1371、第二計算子單元1372和第三計算子單元1373。第一計算子單元1371用于計算所述關(guān)聯(lián)像素各個方向上的漸變量;第二計算子單元1372用于計算所述關(guān)聯(lián)像素各個方向上的權(quán)重;第三計算子單元1373用于根據(jù)所述漸變量及所述權(quán)重計算所述當(dāng)前像素的像素值。
也即是說,步驟S1371可以由第一計算子單元1371實現(xiàn),步驟S1372可以由第二計算子單元1372實現(xiàn),步驟S1373可以由第三計算子單元1373實現(xiàn)。
具體地,第一插值算法是參考圖像在不同方向上的能量漸變,將與當(dāng)前像素對應(yīng)的顏色相同且相鄰的關(guān)聯(lián)像素單元依據(jù)在不同方向上的漸變權(quán)重大小,通過線性插值的方式計算得到當(dāng)前像素的像素值。其中,在能量變化量較小的方向上,參考比重較大,因此,在插值計算時的權(quán)重較大。
在某些示例中,為方便計算,僅考慮水平和垂直方向。
R5’5’由R44、R74、R47和R77插值得到,而在水平和垂直方向上并不存在顏色相同的原始像素,因此需根據(jù)關(guān)聯(lián)像素單元計算在水平和垂直方向上該顏色的分量。其中,水平方向上的分量為R45和R75、垂直方向的分量為R54和R57可以分別通過R44、R74、R47和R77計算得到。
具體地,R45=R44*2/3+R47*1/3,R75=2/3*R74+1/3*R77,R54=2/3*R44+1/3*R74,R57=2/3*R47+1/3*R77。
然后,分別計算在水平和垂直方向的漸變量及權(quán)重,也即是說,根據(jù)該顏色在不同方向的漸變量,以確定在插值時不同方向的參考權(quán)重,在漸變量小的方向,權(quán)重較大,而在漸變量較大的方向,權(quán)重較小。其中,在水平方向的漸變量X1=|R45-R75|,在垂直方向上的漸變量X2=|R54-R57|,W1=X1/(X1+X2),W2=X2/(X1+X2)。
如此,根據(jù)上述可計算得到,R5’5’=(2/3*R45+1/3*R75)*W2+(2/3*R54+1/3*R57)*W1??梢岳斫?,若X1大于X2,則W1大于W2,因此計算時水平方向的權(quán)重為W2,而垂直方向的權(quán)重為W1,反之亦反。
如此,可根據(jù)第一插值算法計算得到當(dāng)前像素的像素值。依據(jù)上述對關(guān)聯(lián)像素的處理方式,可將原始像素轉(zhuǎn)換為呈典型拜耳陣列排布的仿原像素,也即是說,相鄰的四個2*2陣列的仿原像素包括一個紅色仿原像素,兩個綠色仿原像素和一個藍(lán)色仿原像素。
需要說明的是,第一差值算法包括但不限于本實施例中公開的在計算時僅考慮垂直和水平兩個方向相同顏色的像素值的方式,例如還可以參考其他顏色的像素值。
請參閱圖13,在某些實施方式中,在步驟S137前包括步驟:
S136a,對所述色塊圖像做白平衡補(bǔ)償;
步驟S137后包括步驟:
S138a:對所述仿原圖像做白平衡補(bǔ)償還原。
請參閱圖14,在某些實施方式中,轉(zhuǎn)換模塊13包括白平衡補(bǔ)償單元136a和白平衡補(bǔ)償還原單元138a。白平衡補(bǔ)償單元136a用于對所述色塊圖像做白平衡補(bǔ)償,白平衡補(bǔ)償還原單元138a用于對所述仿原圖像做白平衡補(bǔ)償還原。
也即是說,步驟S136a可以由白平衡補(bǔ)償單元136a實現(xiàn),步驟S138a可以由白平衡補(bǔ)償還原單元138a實現(xiàn)。
具體地,在一些示例中,在將色塊圖像轉(zhuǎn)換為仿原圖像的過程中,在插值時,紅色和藍(lán)色仿原像素往往不僅參考與其顏色相同的通道的原始像素的顏色,還會參考綠色通道的原始像素的顏色權(quán)重,因此,在插值前需要進(jìn)行白平衡補(bǔ)償,以在插值計算中排除白平衡的影響。為了不破壞色塊圖像的白平衡,因此,在插值之后需要將仿原圖像進(jìn)行白平衡補(bǔ)償還原,還原時根據(jù)在補(bǔ)償中紅色、綠色及藍(lán)色的增益值進(jìn)行還原。
如此,可排除在插值過程中白平衡的影響,并且能夠使得插值后得到的仿原圖像保持色塊圖像的白平衡。
請再參閱圖13,在某些實施方式中,步驟S137前包括步驟:
S136b:對色塊圖像做壞點補(bǔ)償。
請再參閱圖14,在某些實施方式中,轉(zhuǎn)換模塊13包括壞點補(bǔ)償單元136b。
也即是說,步驟S136b可以由壞點補(bǔ)償單元136b實現(xiàn)。
可以理解,受限于制造工藝,圖像傳感器21可能會存在壞點,壞點通常不隨感光度變化而始終呈現(xiàn)同一顏色,壞點的存在將影響圖像質(zhì)量,因此,為保證插值的準(zhǔn)確,不受壞點的影響,需要在插值前進(jìn)行壞點補(bǔ)償。
具體地,壞點補(bǔ)償過程中,可以對原始像素進(jìn)行檢測,當(dāng)檢測到某一原始像素為壞點時,可根據(jù)其所在的圖像像素單元的其他原始像的像素值進(jìn)行壞點補(bǔ)償。
如此,可排除壞點對插值處理的影響,提高圖像質(zhì)量。
請再參閱圖13,在某些實施方式中,步驟S137前包括步驟:
S136c:對色塊圖像做串?dāng)_補(bǔ)償。
請再參閱圖14,在某些實施方式中,轉(zhuǎn)換模塊13包括串?dāng)_補(bǔ)償單元136c。
也即是說,步驟S136c可以由壞點串?dāng)_單元136c實現(xiàn)。
具體的,一個感光像素單元中的四個感光像素覆蓋同一顏色的濾光片,而感光像素之間可能存在感光度的差異,以至于以仿原圖像轉(zhuǎn)換輸出的真彩圖像中的純色區(qū)域會出現(xiàn)固定型譜噪聲,影響圖像的質(zhì)量。因此,需要對色塊圖像進(jìn)行串?dāng)_補(bǔ)償。
請再參閱圖13,在某些實施方式中,步驟S137后包括步驟:
S138b:對仿原圖像進(jìn)行鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理。
請再參閱圖14,在某些實施方式中,轉(zhuǎn)換模塊13還包括處理單元138b。
也即是說,步驟S138b可以由處理單元138b實現(xiàn)。
可以理解,將色塊圖像轉(zhuǎn)換為仿原圖像后,仿原像素排布為典型的拜耳陣列,可采用處理單元138b進(jìn)行處理,處理過程中包括鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理,如此,處理后即可得到真彩圖像輸出給用戶。
對于合并圖像,請參閱圖8,以圖8為例,由于合并圖像為非典型的拜耳陣列,圖像傳感器21將16M的感光像素合并成4M直接輸出,因此,為便于后續(xù)的色塊圖像與合并圖像的合成,需要先利用第二插值算法將合并圖像進(jìn)行拉伸放大以轉(zhuǎn)換成大小與色塊圖像相同的還原圖像。
請參閱圖15,對色塊圖像人臉區(qū)域外的圖像利用第一插值算法處理成為仿原圖像,對合并圖像利用第二插值算法處理成為還原圖像后,將兩幅圖像進(jìn)行合成以得到合并仿原圖像。合并仿原圖像中人臉區(qū)域外的圖像具有較高的解析度。
請參閱圖16,在某些實施方式中,本發(fā)明實施方式的電子裝置100包括控制裝置10、成像裝置20和觸摸屏30。
在某些實施方式中,電子裝置100包括手機(jī)和平板電腦。
手機(jī)和平板電腦均帶有攝像頭即成像裝置20,用戶使用手機(jī)或平板電腦進(jìn)行拍攝時,可以采用本發(fā)明實施方式的控制方法,以得到高解析度的圖片。
需要說明的是,電子裝置100也包括其他具有拍攝功能的電子設(shè)備。本發(fā)明實施方式的控制方法是電子裝置100進(jìn)行圖像處理的指定處理模式之一。也即是說,用戶利用電子裝置100進(jìn)行拍攝時,需要對電子裝置100中包含的各種指定處理模式進(jìn)行選擇,當(dāng)用戶選擇本發(fā)明實施方式的指定處理模式時,用戶可以自主選擇預(yù)定區(qū)域,電子裝置100采用本發(fā)明實施方式的控制方法進(jìn)行圖像處理。
在某些實施方式中,所述成像裝置20包括前置相機(jī)和后置相機(jī)。
可以理解,許多電子裝置100包括前置相機(jī)和后置相機(jī),前置相機(jī)和后置相機(jī)均可采用本發(fā)明實施方式的控制方法實現(xiàn)圖像處理,以提升用戶體驗。
在本發(fā)明的實施方式的描述中,需要理解的是,術(shù)語“中心”、“縱向”、“橫向”、“長度”、“寬度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“豎直”、“水平”、“頂”、“底”、“內(nèi)”、“外”、“順時針”、“逆時針”等指示的方位或位置關(guān)系為基于附圖所示的方位或位置關(guān)系,僅是為了便于描述本發(fā)明的實施方式和簡化描述,而不是指示或暗示所指的裝置或元件必須具有特定的方位、以特定的方位構(gòu)造和操作,因此不能理解為對本發(fā)明的實施方式的限制。
此外,術(shù)語“第一”、“第二”僅用于描述目的,而不能理解為指示或暗示相對重要性或者隱含指明所指示的技術(shù)特征的數(shù)量。由此,限定有“第一”、“第二”的特征可以明示或者隱含地包括一個或者更多個所述特征。在本發(fā)明的實施方式的描述中,“多個”的含義是兩個或兩個以上,除非另有明確具體的限定。
在本發(fā)明的實施方式的描述中,需要說明的是,除非另有明確的規(guī)定和限定,術(shù)語“安裝”、“相連”、“連接”應(yīng)做廣義理解,例如,可以是固定連接,也可以是可拆卸連接,或一體地連接;可以是機(jī)械連接,也可以是電連接或可以相互通訊;可以是直接相連,也可以通過中間媒介間接相連,可以是兩個元件內(nèi)部的連通或兩個元件的相互作用關(guān)系。對于本領(lǐng)域的普通技術(shù)人員而言,可以根據(jù)具體情況理解上述術(shù)語在本發(fā)明的實施方式中的具體含義。
在本發(fā)明的實施方式中,除非另有明確的規(guī)定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接觸,也可以包括第一和第二特征不是直接接觸而是通過它們之間的另外的特征接觸。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或僅僅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或僅僅表示第一特征水平高度小于第二特征。
上文的公開提供了許多不同的實施方式或例子用來實現(xiàn)本發(fā)明的實施方式的不同結(jié)構(gòu)。為了簡化本發(fā)明的實施方式的公開,上文中對特定例子的部件和設(shè)置進(jìn)行描述。當(dāng)然,它們僅僅為示例,并且目的不在于限制本發(fā)明。此外,本發(fā)明的實施方式可以在不同例子中重復(fù)參考數(shù)字和/或參考字母,這種重復(fù)是為了簡化和清楚的目的,其本身不指示所討論各種實施方式和/或設(shè)置之間的關(guān)系。此外,本發(fā)明的實施方式提供了的各種特定的工藝和材料的例子,但是本領(lǐng)域普通技術(shù)人員可以意識到其他工藝的應(yīng)用和/或其他材料的使用。
在本說明書的描述中,參考術(shù)語“一個實施方式”、“一些實施方式”、“示意性實施方式”、“示例”、“具體示例”或“一些示例”等的描述意指結(jié)合所述實施方式或示例描述的具體特征、結(jié)構(gòu)、材料或者特點包含于本發(fā)明的至少一個實施方式或示例中。在本說明書中,對上述術(shù)語的示意性表述不一定指的是相同的實施方式或示例。而且,描述的具體特征、結(jié)構(gòu)、材料或者特點可以在任何的一個或多個實施方式或示例中以合適的方式結(jié)合。
流程圖中或在此以其他方式描述的任何過程或方法描述可以被理解為,表示包括一個或更多個用于實現(xiàn)特定邏輯功能或過程的步驟的可執(zhí)行指令的代碼的模塊、片段或部分,并且本發(fā)明的優(yōu)選實施方式的范圍包括另外的實現(xiàn),其中可以不按所示出或討論的順序,包括根據(jù)所涉及的功能按基本同時的方式或按相反的順序,來執(zhí)行功能,這應(yīng)被本發(fā)明的實施例所屬技術(shù)領(lǐng)域的技術(shù)人員所理解。
盡管上面已經(jīng)示出和描述了本發(fā)明的實施例,可以理解的是,上述實施例是示例性的,不能理解為對本發(fā)明的限制,本領(lǐng)域的普通技術(shù)人員在本發(fā)明的范圍內(nèi)可以對上述實施例進(jìn)行變化、修改、替換和變型。