本申請涉及計算機技術領域,具體涉及障礙物識別領域,尤其涉及一種用于車輛的障礙物識別方法和裝置。
背景技術:
障礙物的正確識別對無人駕駛車輛以及車輛的自動駕駛模式具有重要意義。在實現(xiàn)對障礙物的自動識別時,通常在車輛上安裝激光雷達傳感器、毫米波雷達傳感器或圖像采集裝置來采集車輛周圍的障礙物信息,得到三維點云數(shù)據(jù)或二維圖像數(shù)據(jù)。然后利用訓練后的機器學習算法識別上述三維點云數(shù)據(jù)或二維圖像數(shù)據(jù)中的障礙物。在訓練上述機器學習算法時,通常利用已標注出障礙物的三維點云數(shù)據(jù)或二維圖像數(shù)據(jù)來訓練機器學習算法。
現(xiàn)有的標注方法主要利用人工標注的方式,這種方式不僅耗費人力、財力,也降低了標注效率。
技術實現(xiàn)要素:
本申請的目的在于提出一種用于車輛的障礙物識別方法和裝置,來解決以上背景技術部分提到的技術問題。
第一方面,本申請?zhí)峁┝艘环N用于車輛的障礙物識別方法,所述車輛包括校準后的激光雷達傳感器和圖像采集裝置,所述方法包括:利用所述激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用所述圖像采集裝置獲取所述目標區(qū)域的圖像數(shù)據(jù);利用預設的點云識別模型識別所述點云數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第一標注結果;利用預設的圖像識別模型識別所述圖像數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第二標注結果;對比所述第一標注結果與所述第二標注結果,檢測二者是否相同;響應于二者不同,確定所述第一標注結果與所述第二標注結果中正確的標注結果,并輸出所述正確的標注結果。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:確定所述第一標注結果與所述第二標注結果的不同之處;確定同一所述不同之處在所述第一標注結果中指示的第一障礙物和在所述第二標注結果中指示的第二障礙物;確定所述第一標注結果中,所述第一障礙物的三維坐標集合確定的標注體積以及所述第一障礙物與所述激光雷達傳感器之間的第一距離;根據(jù)所述第一標注結果、所述第一距離,確定所述第一障礙物在所述點云數(shù)據(jù)中的期望體積范圍;響應于所述標注體積位于所述期望體積范圍之外,確定所述第一標注結果錯誤。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:確定所述第二障礙物在所述第二標注結果中所覆蓋的標注像素面積;根據(jù)所述第一距離、所述激光雷達傳感器與所述圖像采集裝置之間的校準參數(shù),確定所述第二障礙物與所述圖像采集裝置之間的第二距離;根據(jù)所述第二標注結果、所述第二距離,確定所述第二障礙物在所述圖像數(shù)據(jù)中的期望像素面積范圍;響應于所述標注像素面積位于所述期望像素面積范圍之外,確定所述第二標注結果錯誤。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:響應于所述標注體積位于所述期望體積范圍之內并且所述標注像素面積位于所述期望像素面積范圍之內,則執(zhí)行以下步驟:確定所述點云數(shù)據(jù)中,所述第一障礙物的三維坐標集合確定的實際體積;將所述實際體積投影到所述圖像數(shù)據(jù)中,得到與所述實際體積對應的期望像素面積;檢測所述標注像素面積是否等于所述期望像素面積;如果檢測到所述標注像素面積不等于所述期望像素面積,認定所述第一標注結果正確。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:如果檢測到所述第二像素面積等于所述期望像素面積,認定所述第二標注結果正確。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:檢測所述標注體積是否等于所述實際體積;如果檢測到所述標注體積等于所述實際體積,認定所述第一標注結果正確。
在一些實施例中,所述確定所述第一標注結果與所述第二標注結果中正確的標注結果,包括:如果檢測到所述標注體積不等于所述實際體積,認定所述第二標注結果正確。
在一些實施例中,所述方法還包括以下至少一項:響應于所述第一標注結果正確,基于所述第一標注結果修正所述第二標注結果,并利用修正后的第二標注結果重新訓練所述圖像識別模型;響應于所述第二標注結果正確,基于所述第二標注結果修正所述第一標注結果,并利用修正后的第一標注結果重新訓練所述點云識別模型。
第二方面,本申請?zhí)峁┝艘环N用于車輛的障礙物識別裝置,所述車輛包括校準后的激光雷達傳感器和圖像采集裝置,所述裝置包括:獲取單元,用于利用所述激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用所述圖像采集裝置獲取所述目標區(qū)域的圖像數(shù)據(jù);第一標注單元,用于利用預設的點云識別模型識別所述點云數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第一標注結果;第二標注單元,用于利用預設的圖像識別模型識別所述圖像數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第二標注結果;檢測單元,用于對比所述第一標注結果與所述第二標注結果,檢測二者是否相同;輸出單元,用于響應于二者不同,確定所述第一標注結果與所述第二標注結果中正確的標注結果,并輸出所述正確的標注結果。
在一些實施例中,所述輸出單元包括:第一確定模塊,用于確定所述第一標注結果與所述第二標注結果的不同之處;障礙物確定模塊,用于確定同一所述不同之處在所述第一標注結果中指示的第一障礙物和在所述第二標注結果中指示的第二障礙物;標注體積確定模塊,用于確定所述第一標注結果中,所述第一障礙物的三維坐標集合確定的標注體積以及所述第一障礙物與所述激光雷達傳感器之間的第一距離;期望體積范圍確定模塊,用于根據(jù)所述第一標注結果、所述第一距離,確定所述第一障礙物在所述點云數(shù)據(jù)中的期望體積范圍;第一結果確定模塊,用于響應于所述標注體積位于所述期望體積范圍之外,確定所述第一標注結果錯誤。
在一些實施例中,所述輸出單元包括:標注像素面積確定模塊,用于確定所述第二障礙物在所述第二標注結果中所覆蓋的標注像素面積;第二距離確定模塊,用于根據(jù)所述第一距離、所述激光雷達傳感器與所述圖像采集裝置之間的校準參數(shù),確定所述第二障礙物與所述圖像采集裝置之間的第二距離;期望像素面積范圍確定模塊,用于根據(jù)所述第二標注結果、所述第二距離,確定所述第二障礙物在所述圖像數(shù)據(jù)中的期望像素面積范圍;第二結果確定模塊,用于響應于所述標注像素面積位于所述期望像素面積范圍之外,確定所述第二標注結果錯誤。
在一些實施例中,所述輸出單元包括:第二確定模塊,用于響應于所述標注體積位于所述期望體積范圍之內并且所述標注像素面積位于所述期望像素面積范圍之內,則執(zhí)行以下步驟:確定所述點云數(shù)據(jù)中,所述第一障礙物的三維坐標集合確定的實際體積;將所述實際體積投影到所述圖像數(shù)據(jù)中,得到與所述實際體積對應的期望像素面積;檢測所述標注像素面積是否等于所述期望像素面積;如果檢測到所述標注像素面積不等于所述期望像素面積,認定所述第一標注結果正確。
在一些實施例中,所述第二確定模塊進一步用于:如果檢測到所述第二像素面積等于所述期望像素面積,認定所述第二標注結果正確。
在一些實施例中,所述第二確定模塊進一步用于:檢測所述標注體積是否等于所述實際體積;如果檢測到所述標注體積等于所述實際體積,認定所述第一標注結果正確。
在一些實施例中,所述第二確定模塊進一步用于:如果檢測到所述標注體積不等于所述實際體積,認定所述第二標注結果正確。
在一些實施例中,所述裝置還包括以下至少一項:第一修正單元,用于響應于所述第一標注結果正確,基于所述第一標注結果修正所述第二標注結果,并利用修正后的第二標注結果重新訓練所述圖像識別模型;第二修正單元,用于響應于所述第二標注結果正確,基于所述第二標注結果修正所述第一標注結果,并利用修正后的第一標注結果重新訓練所述點云識別模型。
本申請?zhí)峁┑挠糜谲囕v的障礙物識別方法和裝置,利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)、利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù),然后分別利用預設的點云識別模型識別點云數(shù)據(jù)中的障礙物,利用預設的圖像識別模型識別圖像數(shù)據(jù)中的障礙物,并分別把識別出的障礙物標注出來,得到第一標注結果和第二標注結果,然后對比第一標注結果和第二標注結果,在二者不同時,確定二者中正確的一個,然后將正確的標注結果輸出,本申請的上述方法不僅實現(xiàn)了快速準確的識別正確的標注結果,并且全程無需人工標注,有效地提高了標注效率。
附圖說明
通過閱讀參照以下附圖所作的對非限制性實施例所作的詳細描述,本申請的其它特征、目的和優(yōu)點將會變得更明顯:
圖1是根據(jù)本申請的用于車輛的障礙物識別方法的一個實施例的流程圖;
圖2是根據(jù)本申請的用于車輛的障礙物識別方法的一個應用場景的示意圖;
圖3是根據(jù)本申請的用于車輛的障礙物識別方法的確定第一標注結果和第二標注結果中正確的標注結果的方法的一個實施例的流程圖;
圖4是根據(jù)本申請的用于車輛的障礙物識別方法的確定第一標注結果和第二標注結果中正確的標注結果的方法的另一個實施例的流程圖;
圖5是根據(jù)本申請的用于車輛的障礙物識別裝置的一個實施例的結構示意圖;
圖6是適于用來實現(xiàn)本申請實施例的終端設備或服務器的計算機系統(tǒng)的結構示意圖。
具體實施方式
下面結合附圖和實施例對本申請作進一步的詳細說明??梢岳斫獾氖?,此處所描述的具體實施例僅僅用于解釋相關發(fā)明,而非對該發(fā)明的限定。另外還需要說明的是,為了便于描述,附圖中僅示出了與有關發(fā)明相關的部分。
需要說明的是,在不沖突的情況下,本申請中的實施例及實施例中的特征可以相互組合。下面將參考附圖并結合實施例來詳細說明本申請。
參考圖1,其示出了根據(jù)本申請的用于車輛的障礙物識別方法的一個實施例的流程100。本實施例的車輛包括激光雷達傳感器和圖像采集裝置,其中,激光雷達傳感器用于獲取點云數(shù)據(jù),圖像采集裝置用于獲取圖像數(shù)據(jù),且激光雷達傳感器和圖像采集裝置已校準。在校準上述激光雷達傳感器和圖像采集裝置時,可以在激光雷達傳感器和圖像采集裝置的共同視野內放置一個參照物,例如圓柱體,獲取上述參照物在不同位置處的點云數(shù)據(jù)和圖像數(shù)據(jù),通過調整激光雷達傳感器和圖像采集裝置的內外參數(shù)實現(xiàn)校準。可以理解的是,本實施例的車輛中可以包括多個激光雷達傳感器和多個圖像采集裝置,本實施例對激光雷達傳感器和圖像采集裝置的數(shù)量不做限定,本領域技術人員可以根據(jù)實際應用情況設置激光雷達傳感器和圖像采集裝置的數(shù)量。
本實施例的用于車輛的障礙物識別方法,包括以下步驟:
步驟101,利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù)。
在本實施例中,用于車輛的障礙物識別方法運行于其上的電子設備(例如車輛的行車電腦或車載終端)可以通過有線連接方式或者無線連接方式控制激光雷達傳感器和圖像采集裝置。具體地,行車電腦或車載終端可以控制激光雷達傳感器以某一頻率采集某一區(qū)域的點云數(shù)據(jù),可以控制圖像采集裝置以同樣的頻率采集同一區(qū)域的圖像數(shù)據(jù)。上述目標區(qū)域可以是待檢測障礙物的區(qū)域,可以理解的是,上述目標區(qū)域應位于上述激光雷達傳感器和圖像采集裝置的共同視野內。
需要指出的是,上述無線連接方式可以包括但不限于3G/4G連接、WiFi連接、藍牙連接、WiMAX連接、Zigbee連接、UWB(ultra wideband)連接、以及其他現(xiàn)在已知或將來開發(fā)的無線連接方式。
步驟102,利用預設的點云識別模型識別點云數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第一標注結果。
本實施例中,上述預設的點云識別模型可以是各種預先訓練的能夠識別點云數(shù)據(jù)中障礙物的算法,例如可以是ICP算法(Iterative Closest Point,就近點搜索法)、隨機森林算法等。在利用上述點云識別模型識別點云數(shù)據(jù)中的障礙物后,對識別出的障礙物進行標注,得到第一標注結果。在對識別出的障礙物進行標注時,標注出的形狀可以為與各障礙物外切的最小長方體,也可以是與各障礙物的外表面貼近的不規(guī)則曲面。可以理解的是,上述第一標注結果中包括對各障礙物的識別結果,例如點云數(shù)據(jù)中包括車輛、行人以及樹木,則第一標注結果中也包括表示不同障礙物的標號或文字,如1代表車輛、2代表行人、3代表樹木等。
步驟103,利用預設的圖像識別模型識別圖像數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第二標注結果。
本實施例中,上述預設的圖像識別模型可以是各種預先訓練的能夠識別圖像數(shù)據(jù)中的障礙物的算法,例如可以是卷積神經網(wǎng)絡。在利用上述圖像識別模型識別圖像數(shù)據(jù)中的障礙物后,可以利用障礙物的最小外切矩形或障礙物的邊界來標注上述障礙物,得到第二標注結果??梢岳斫獾氖?,上述第二標注結果中包括對各障礙物的識別結果,例如圖像數(shù)據(jù)中包括車輛、行人以及樹木,則第二標注結果中也包括表示不同障礙物的標號或文字,如1代表車輛、2代表行人、3代表樹木等。
步驟104,對比第一標注結果與第二標注結果,檢測二者是否相同。
在利用上述點云識別模型識別并標注出點云數(shù)據(jù)中的障礙物以及利用上述圖像識別模型識別并標注出圖像數(shù)據(jù)中的障礙物后,可以將兩個標注結果進行對比,以檢測上述兩個標注結果是否相同。
步驟105,響應于二者不同,確定第一標注結果與第二標注結果中正確的標注結果,并輸出正確的標注結果。
本實施例中,行車電腦或車載終端可以利用各種方法確定出第一標注結果與第二標注結果中正確的標注結果。例如,行車電腦或車載終端可以將獲取到的點云數(shù)據(jù)或圖像數(shù)據(jù)發(fā)送給多個人工標注的終端,并把人工標注結果作為標準,然后將人工標注結果分別與上述第一標注結果和第二標注結果比較,從而可以確定第一標注結果與第二標注結果中正確的標注結果;或者,行車電腦或車載終端利用其他的算法識別點云數(shù)據(jù)中的障礙物和圖像數(shù)據(jù)中的障礙物,然后分別與第一標注結果和第二標注結果對比,從而可以確定第一標注結果與第二標注結果中正確的標注結果。在確定出正確的標注結果后,行車電腦或車載終端可以將上述正確的標注結果輸出。
繼續(xù)參見圖2,圖2是根據(jù)本實施例的用于車輛的障礙物識別方法的應用場景的一個示意圖。在圖2的應用場景中,車輛201上安裝有攝像機202、激光雷達傳感器203以及車載終端204。攝像機202采集車輛201前方的圖像數(shù)據(jù),激光雷達傳感器203采集車輛201前方的點云數(shù)據(jù)。點云數(shù)據(jù)經點云識別模型識別并標注后得到第一標注結果,圖像數(shù)據(jù)經圖像識別模型識別并標注后得到第二標注結果。車載終端204確定第一標注結果和第二標注結果中正確的標注結果,并輸出正確的標注結果。
本申請的上述實施例提供的用于車輛的障礙物識別方法,利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)、利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù),然后分別利用預設的點云識別模型識別點云數(shù)據(jù)中的障礙物,利用預設的圖像識別模型識別圖像數(shù)據(jù)中的障礙物,并分別把識別出的障礙物標注出來,得到第一標注結果和第二標注結果,然后對比第一標注結果和第二標注結果,在二者不同時,確定二者中正確的一個,然后將正確的標注結果輸出,本申請的上述方法不僅實現(xiàn)了快速準確的識別正確的標注結果,并且全程無需人工標注,有效地提高了標注效率。
在本實施例的一些可選的實現(xiàn)方式中,上述用于車輛的障礙物識別方法還可以包括圖1中未示出的以下至少一項:
響應于第一標注結果正確,基于第一標注結果修正第二標注結果,并利用修正后的第二標注結果重新訓練圖像識別模型。
響應于第二標注結果正確,基于第二標注結果修正第一標注結果,并利用修正后的第一標注結果重新訓練點云識別模型。
本實現(xiàn)方式中,在檢測出正確的標注結果后,可以基于正確的標注結果修正錯誤的標注結果,然后利用修正后的標注結果重新訓練得到錯誤的標注結果的模型,這樣可以不斷增大圖像識別模型或點云識別模型的標注結果的正確率,實現(xiàn)了對圖像識別模型或點云識別模型的升級。
圖3示出了根據(jù)本申請的用于車輛的障礙物識別方法的確定第一標注結果和第二標注結果中正確的標注結果的方法的一個實施例的流程圖300。本實施例的確定第一標注結果和第二標注結果中正確的標注結果的方法包括以下步驟:
步驟301,確定第一標注結果與第二標注結果的不同之處。
在行車電腦或車載終端對比第一標注結果與第二標注結果,檢測到二者存在不同之處時,首先確定二者的不同之處。上述不同之處可以包括:標注出的障礙物的數(shù)量不同、同一障礙物的標注結果不同。具體的,標注出的障礙物的數(shù)量不同可以表現(xiàn)為點云識別模型或圖像識別模型未識別出某一障礙物;同一障礙物的標注結果不同可以表現(xiàn)為點云識別模型對某一障礙物的標注結果為車輛,圖像識別模型對此障礙物的標注結果為行人。
步驟302,確定同一不同之處在第一標注結果中指示的第一障礙物。
根據(jù)上述不同之處,確定在第一標注結果中指示的第一障礙物。以同一障礙物的標注結果不同為例,上述不同之處在第一標注結果中指示的第一障礙物為車輛,在第二標注結果中指示的第二障礙物為行人。
步驟303,確定第一標注結果中,第一障礙物的三維坐標集合確定的標注體積。
由于點云數(shù)據(jù)中可以確定各障礙物的三維坐標,因此可以根據(jù)各障礙物的三維坐標確定各障礙物的體積。在第一標注結果中,可以確定各障礙物的標注體積。
步驟304,確定第一標注結果中,第一障礙物與激光雷達傳感器之間的第一距離。
由于點云數(shù)據(jù)中包含了各障礙物的三維坐標,則根據(jù)各障礙物的三維坐標以及激光雷達傳感器的安裝位置,可以確定第一障礙物與激光雷達傳感器之間的第一距離??梢岳斫獾氖?,在確定上述第一距離時,可以先計算出第一障礙物的各個三維坐標與激光雷達傳感器之間的距離,然后計算各距離的平均值,并將此平均值作為第一障礙物與激光雷達傳感器之間的第一距離;還可以選取計算得到的各距離中最小的距離作為第一距離。
步驟305,根據(jù)第一標注結果、第一距離,確定第一障礙物在點云數(shù)據(jù)中的期望體積范圍。
行車電腦或車載終端可以根據(jù)第一標注結果中對第一障礙物的標注,結合第一障礙物與激光雷達傳感器之間的第一距離,計算出第一障礙物的合適的體積范圍。以第一障礙物為小型汽車為例,假設車輛距離雷達傳感器的距離為l1米,考慮到不同車型的小型汽車的大小不同,行車電腦或車載終端可以計算出小型汽車的體積應在V1~V2立方米之間,則期望體積范圍為V1~V2立方米。
步驟306,響應于標注體積位于期望體積范圍之外,確定第一標注結果錯誤。
當?shù)谝徽系K物的標注體積位于上述期望體積范圍之外時,則認定對第一障礙物的標注結果不合理,認定第一標注結果錯誤。
同時,在步驟301之后,行車電腦或車載終端還可以同時執(zhí)行步驟312。
步驟312,確定同一不同之處在第二標注結果中指示的第二障礙物。
以同一障礙物的標注結果不同為例,上述不同之處在第一標注結果中指示的第一障礙物為車輛,在第二標注結果中指示的第二障礙物為行人。
步驟313,確定第二障礙物在第二標注結果中所覆蓋的標注像素面積。
圖像數(shù)據(jù)中的各障礙物應覆蓋一定的像素面積,本實施例中,確定在對各障礙物的標注框包括的范圍所覆蓋的標注像素面積。上述標注像素面積可以以一個數(shù)值來表示,也可以以長與寬乘積的形式來表示。例如,當標注框為矩形框時,上述標注像素面積可以為900,也可以為30×30。
步驟314,根據(jù)第一距離、激光雷達傳感器與圖像采集裝置之間的校準參數(shù),確定第二障礙物與圖像采集裝置之間的第二距離。
由于激光雷達傳感器與圖像采集裝置已校準,因此可以根據(jù)校準參數(shù)確定二者之間的相對位置,如距離、角度等。又已知同一障礙物與激光雷達傳感器之間的第一距離,則根據(jù)第一距離和上述校準參數(shù)可以確定上述第二障礙物與圖像采集裝置之間的第二距離。
步驟315,根據(jù)第二標注結果、第二距離,確定第二障礙物在圖像數(shù)據(jù)中的期望像素面積范圍。
行車電腦或車載終端可以根據(jù)第二標注結果對第二障礙物的標注,結合第二障礙物與圖像采集裝置之間的第二距離,計算出第二障礙物的合適的像素面積范圍。以第二障礙物為行人為例,假設行人與圖像采集裝置的距離為l1米,考慮到不同的行人的高矮胖瘦不同,行車電腦或車載終端可以計算出行人的像素面積應在S1~S2之間,則期望像素面積范圍為S1~S2。
步驟316,響應于標注像素面積位于期望像素面積范圍之外,確定第二標注結果錯誤。
當?shù)诙系K物的標注像素面積位于期望像素面積范圍之外時,則認定對第二障礙物的標注結果不合理,認定第二標注結果錯誤。
本申請的上述實施例提供的用于車輛的障礙物識別方法,通過確定同一不同之處在第一標注結果中指示的第一障礙物和在第二標注結果中指示的第二障礙物,然后確定第一障礙物與激光雷達傳感器之間的第一距離、第二障礙物與圖像采集裝置之間的第二距離,基于上述距離和標注結果分別確定期望體積范圍和期望像素面積范圍,然后確定第一標注結果、第二標注結果是否錯誤??梢灾苯痈鶕?jù)標注結果判斷兩個標注結果的合理性,使用的資源較少,處理速度較快。
圖4示出了根據(jù)本申請的用于車輛的障礙物識別方法的確定第一標注結果和第二標注結果中正確的標注結果的方法的另一個實施例的流程圖400。本實施例的確定第一標注結果和第二標注結果中正確的標注結果的方法包括步驟401~410。其中,步驟401~405與圖3所示實施例的步驟301~305完全相同,步驟402’~405’與圖3所示實施例的步驟311~315完全相同,此處不再贅述。
步驟406,檢測標注體積是否位于期望體積范圍之內并且標注像素面積是否位于期望像素面積范圍之內。
如果二者均滿足,則執(zhí)行步驟407。
步驟407,確定點云數(shù)據(jù)中,第一障礙物的三維坐標集合確定的實際體積。
本實施例中,行車電腦或車載終端可以直接根據(jù)激光雷達傳感器獲取到的點云數(shù)據(jù),確定上述第一障礙物的實際三維數(shù)據(jù),因而可以確定第一障礙物的實際體積。
步驟408,將實際體積投影到圖像數(shù)據(jù)中,得到與實際體積對應的期望像素面積。
本實施例中,行車電腦或車載終端可以對點云數(shù)據(jù)中的第一障礙物所占的三維體積即上述實際體積進行降維或向圖像數(shù)據(jù)投影處理,得到與實際體積對應的期望像素面積??梢岳斫獾氖?,在進行降維或向圖像數(shù)據(jù)投影處理時,需要依據(jù)激光雷達傳感器和圖像采集裝置之間的校準參數(shù)。
步驟409,檢測標注像素面積是否等于期望像素面積。
如果是,則執(zhí)行步驟410,否則執(zhí)行步驟410’。
步驟410,認定第二標注結果正確。
如果標注像素面積等于期望像素面積,則說明圖像識別模型的標注結果與其所覆蓋的像素面積處于合理的范圍內,同時,激光雷達傳感器采集到的原始點云數(shù)據(jù)中的障礙物的實際體積向圖像數(shù)據(jù)的投影與標注像素面積相等,則圖像識別模型得到的第二標注結果是正確的。
步驟410’,認定第一標注結果正確。
相反的,如果標注像素面積不期望像素面積,則說明圖像識別模型的標注結果與其所覆蓋的像素面積雖然處于合理的范圍內,但與激光雷達傳感器采集到的原始點云數(shù)據(jù)中的障礙物的實際體積向圖像數(shù)據(jù)的投影與標注像素面積不同,這種情況認定點云識別模型得到的第一標注結果是正確的。
舉例來說,點云數(shù)據(jù)中包含一輛小型汽車,圖像數(shù)據(jù)中也包括這輛小型汽車,但圖像識別模型在識別時發(fā)生錯誤,未能識別出此小型汽車,而是將此小型汽車識別成行人,且其標注時只標注了此小型汽車的擋風玻璃,得到的標注框覆蓋的標注像素面積處于期望像素面積范圍內。
行車電腦或車載終端在執(zhí)行完成上述步驟407和步驟408后,得到的期望像素面積是整個小型汽車在圖像數(shù)據(jù)中覆蓋的像素面積,大于上述標注像素面積,此時判定圖像識別模型得到的第二標注結果是錯誤的。
同時,本實施例中,還可以在步驟407之后執(zhí)行步驟408’,實現(xiàn)對第一標注結果和第二標注結果的判定。
步驟408’,檢測標注體積是否等于實際體積。
在得到點云數(shù)據(jù)中第一障礙物的實際體積后,還可以將上述實際體積與標注體積直接進行對比,檢測二者是否相等。在相等時,執(zhí)行步驟410’,否則執(zhí)行步驟410。
在本實施例的一些可選的實現(xiàn)方式中,當?shù)谝粯俗⒔Y果與第二標注結果的不同之處在于對于某一障礙物,點云識別模型或圖像識別模型中的一個標注出此障礙物,另一個未標注出此障礙物時,可以通過以下步驟確定第一標注結果與第二標注結果中正確的標注結果:
對比第一標注結果與第二標注結果,確定第一標注結果或第二標注結果中漏標的各障礙物;對于漏標的每個障礙物,檢測上述點云數(shù)據(jù)中是否存在上述漏標的障礙物的點云數(shù)據(jù),如果存在,則確定漏標此障礙物的標注結果錯誤。
本實現(xiàn)方式,可以快速的檢測出第一標注結果與第二標注結果中漏標的各障礙物,從而提高了確定正確的標注結果的效率。
在本實施例的一些可選的實現(xiàn)方式中,當檢測到第一標注結果與第二標注結果均相同時,說明二者都正確或者出現(xiàn)了相同的標注錯誤,此時,行車電腦或車載終端可以從第一標注結果或第二標注結果中隨機選取幾個障礙物進行驗證檢測;根據(jù)驗證檢測結果,確定第一標注結果與第二標注結果的正確性。
本實現(xiàn)方式中,在進行驗證檢測時,可以執(zhí)行步驟403~步驟410來確定對所選取的障礙物的標注是否正確。
在本實施例的一些可選的實現(xiàn)方式中,當檢測到第一標注結果與第二標注結果均正確時,可以為第一標注結果與第二標注結果設置“可信”標簽,然后將第一標注結果與第二標注結果存儲,以備后續(xù)利用兩個標注結果訓練其它識別模型。
本申請的上述實施例提供的用于車輛的障礙物識別方法,相比于圖3所示的實施例,有效地提高了對兩個標注結果檢測的準確性。
進一步參考圖5,作為對上述各圖所示方法的實現(xiàn),本申請?zhí)峁┝艘环N用于車輛的障礙物識別裝置的一個實施例,該裝置實施例與圖1所示的方法實施例相對應,該裝置具體可以應用于各種電子設備中。本實施例的車輛包括校準后的激光雷達傳感器和圖像采集裝置。
如圖5所示,本實施例的用于車輛的障礙物識別裝置500包括:獲取單元501、第一標注單元502、第二標注單元503、檢測單元504及輸出單元505。
獲取單元501,用于利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù)。
第一標注單元502,用于利用預設的點云識別模型識別獲取單元501獲取的點云數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第一標注結果。
第二標注單元503,用于利用預設的圖像識別模型識別獲取單元501獲取的圖像數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第二標注結果。
檢測單元504,用于對比第一標注單元502得到的第一標注結果與第二標注單元503得到的第二標注結果,檢測二者是否相同。
輸出單元505,用于響應于二者不同,確定第一標注結果與第二標注結果中正確的標注結果,并輸出正確的標注結果。
本申請的上述實施例提供的用于車輛的障礙物識別裝置,獲取單元利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)、利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù),然后第一標注單元利用預設的點云識別模型識別點云數(shù)據(jù)中的障礙物,第二標注單元利用預設的圖像識別模型識別圖像數(shù)據(jù)中的障礙物,并分別把識別出的障礙物標注出來,得到第一標注結果和第二標注結果,然后檢測單元對比第一標注結果和第二標注結果,在二者不同時,輸出單元確定二者中正確的一個,然后將正確的標注結果輸出,不僅實現(xiàn)了快速準確的識別正確的標注結果,并且全程無需人工標注,有效地提高了標注效率。
在本實施例的一些可選的實現(xiàn)方式中,上述輸出單元505還可以包括圖5中未示出的第一確定模塊、障礙物確定模塊、標注體積確定模塊、期望體積范圍確定模塊以及第一結果確定模塊。
其中,第一確定模塊,用于確定第一標注單元502得到的第一標注結果與第二標注單元503得到的第二標注結果的不同之處。
障礙物確定模塊,用于確定同一不同之處在第一標注結果中指示的第一障礙物和在第二標注結果中指示的第二障礙物。
標注體積確定模塊,用于確定第一標注結果中,第一障礙物的三維坐標集合確定的標注體積以及第一障礙物與激光雷達傳感器之間的第一距離。
期望體積范圍確定模塊,用于根據(jù)第一標注結果、第一距離,確定第一障礙物在點云數(shù)據(jù)中的期望體積范圍。
第一結果確定模塊,用于響應于標注體積位于期望體積范圍之外,確定第一標注結果錯誤。
在本實施例的一些可選的實現(xiàn)方式中,上述輸出單元505還可以包括圖5中未示出的標注像素面積確定模塊、第二距離確定模塊、期望像素面積范圍確定模塊以及第二結果確定模塊。
標注像素面積確定模塊,用于確定第二障礙物在第二標注結果中所覆蓋的標注像素面積。
第二距離確定模塊,用于根據(jù)第一距離、激光雷達傳感器與圖像采集裝置之間的校準參數(shù),確定第二障礙物與圖像采集裝置之間的第二距離。
期望像素面積范圍確定模塊,用于根據(jù)第二標注結果、第二距離,確定第二障礙物在圖像數(shù)據(jù)中的期望像素面積范圍。
第二結果確定模塊,用于響應于標注像素面積位于期望像素面積范圍之外,確定第二標注結果錯誤。
在本實施例的一些可選的實現(xiàn)方式中,上述輸出單元505還可以包括圖5中未示出的第二確定模塊,用于響應于標注體積位于期望體積范圍之內并且標注像素面積位于期望像素面積范圍之內,則執(zhí)行以下步驟:確定點云數(shù)據(jù)中,第一障礙物的三維坐標集合確定的實際體積;將實際體積投影到圖像數(shù)據(jù)中,得到與實際體積對應的期望像素面積;檢測標注像素面積是否等于期望像素面積;如果檢測到標注像素面積不等于期望像素面積,認定第一標注結果正確。
在本實施例的一些可選的實現(xiàn)方式中,上述第二確定模塊還可以進一步用于:如果檢測到第二像素面積等于期望像素面積,認定第二標注結果正確。
在本實施例的一些可選的實現(xiàn)方式中,上述第二確定模塊還可以進一步用于:檢測標注體積是否等于實際體積;如果檢測到標注體積等于實際體積,認定第一標注結果正確。
在本實施例的一些可選的實現(xiàn)方式中,上述第二確定模塊還可以進一步用于:如果檢測到標注體積不等于實際體積,認定第二標注結果正確。
在本實施例的一些可選的實現(xiàn)方式中,用于車輛的障礙物識別裝置500還可以包括圖5中未示出的第一修正單元和第二修正單元。
第一修正單元,用于響應于第一標注結果正確,基于第一標注結果修正第二標注結果,并利用修正后的第二標注結果重新訓練圖像識別模型。
第二修正單元,用于響應于第二標注結果正確,基于第二標注結果修正第一標注結果,并利用修正后的第一標注結果重新訓練點云識別模型。
應當理解,用于車輛的障礙物識別裝置500中記載的單元501至單元505分別與參考圖1中描述的方法中的各個步驟相對應。由此,上文針對用于車輛的障礙物識別方法描述的操作和特征同樣適用于裝置500及其中包含的單元,在此不再贅述。裝置500的相應單元可以與服務器中的單元相互配合以實現(xiàn)本申請實施例的方案。
下面參考圖6,其示出了適于用來實現(xiàn)本申請實施例的終端設備或服務器的計算機系統(tǒng)600的結構示意圖。
如圖6所示,計算機系統(tǒng)600包括中央處理單元(CPU)601,其可以根據(jù)存儲在只讀存儲器(ROM)602中的程序或者從存儲部分608加載到隨機訪問存儲器(RAM)603中的程序而執(zhí)行各種適當?shù)膭幼骱吞幚?。在RAM 603中,還存儲有系統(tǒng)600操作所需的各種程序和數(shù)據(jù)。CPU 601、ROM 602以及RAM 603通過總線604彼此相連。輸入/輸出(I/O)接口605也連接至總線604。
以下部件連接至I/O接口605:包括鍵盤、鼠標等的輸入部分606;包括諸如陰極射線管(CRT)、液晶顯示器(LCD)等以及揚聲器等的輸出部分607;包括硬盤等的存儲部分608;以及包括諸如LAN卡、調制解調器等的網(wǎng)絡接口卡的通信部分609。通信部分609經由諸如因特網(wǎng)的網(wǎng)絡執(zhí)行通信處理。驅動器610也根據(jù)需要連接至I/O接口605??刹鹦督橘|611,諸如磁盤、光盤、磁光盤、半導體存儲器等等,根據(jù)需要安裝在驅動器610上,以便于從其上讀出的計算機程序根據(jù)需要被安裝入存儲部分608。
特別地,根據(jù)本公開的實施例,上文參考流程圖描述的過程可以被實現(xiàn)為計算機軟件程序。例如,本公開的實施例包括一種計算機程序產品,其包括有形地包含在機器可讀介質上的計算機程序,所述計算機程序包含用于執(zhí)行流程圖所示的方法的程序代碼。在這樣的實施例中,該計算機程序可以通過通信部分609從網(wǎng)絡上被下載和安裝,和/或從可拆卸介質611被安裝。在該計算機程序被中央處理單元(CPU)601執(zhí)行時,執(zhí)行本申請的方法中限定的上述功能。
附圖中的流程圖和框圖,圖示了按照本申請各種實施例的系統(tǒng)、方法和計算機程序產品的可能實現(xiàn)的體系架構、功能和操作。在這點上,流程圖或框圖中的每個方框可以代表一個模塊、程序段、或代碼的一部分,所述模塊、程序段、或代碼的一部分包含一個或多個用于實現(xiàn)規(guī)定的邏輯功能的可執(zhí)行指令。也應當注意,在有些作為替換的實現(xiàn)中,方框中所標注的功能也可以以不同于附圖中所標注的順序發(fā)生。例如,兩個接連地表示的方框實際上可以基本并行地執(zhí)行,它們有時也可以按相反的順序執(zhí)行,這依所涉及的功能而定。也要注意的是,框圖和/或流程圖中的每個方框、以及框圖和/或流程圖中的方框的組合,可以用執(zhí)行規(guī)定的功能或操作的專用的基于硬件的系統(tǒng)來實現(xiàn),或者可以用專用硬件與計算機指令的組合來實現(xiàn)。
描述于本申請實施例中所涉及到的單元可以通過軟件的方式實現(xiàn),也可以通過硬件的方式來實現(xiàn)。所描述的單元也可以設置在處理器中,例如,可以描述為:一種處理器包括獲取單元、第一標注單元、第二標注單元、檢測單元及輸出單元。其中,這些單元的名稱在某種情況下并不構成對該單元本身的限定,例如,接收單元還可以被描述為“利用激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用圖像采集裝置獲取目標區(qū)域的圖像數(shù)據(jù)的單元”。
作為另一方面,本申請還提供了一種非易失性計算機存儲介質,該非易失性計算機存儲介質可以是上述實施例中所述裝置中所包含的非易失性計算機存儲介質;也可以是單獨存在,未裝配入終端中的非易失性計算機存儲介質。上述非易失性計算機存儲介質存儲有一個或者多個程序,當所述一個或者多個程序被一個設備執(zhí)行時,使得所述設備:利用所述激光雷達傳感器獲取目標區(qū)域的點云數(shù)據(jù)以及利用所述圖像采集裝置獲取所述目標區(qū)域的圖像數(shù)據(jù);利用預設的點云識別模型識別所述點云數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第一標注結果;利用預設的圖像識別模型識別所述圖像數(shù)據(jù)中的障礙物信息,并對識別結果進行標注,得到第二標注結果;對比所述第一標注結果與所述第二標注結果,檢測二者是否相同;響應于二者不同,確定所述第一標注結果與所述第二標注結果中正確的標注結果,并輸出所述正確的標注結果。
以上描述僅為本申請的較佳實施例以及對所運用技術原理的說明。本領域技術人員應當理解,本申請中所涉及的發(fā)明范圍,并不限于上述技術特征的特定組合而成的技術方案,同時也應涵蓋在不脫離所述發(fā)明構思的情況下,由上述技術特征或其等同特征進行任意組合而形成的其它技術方案。例如上述特征與本申請中公開的(但不限于)具有類似功能的技術特征進行互相替換而形成的技術方案。