背景技術(shù):
飛行器,如無人飛行器(uav),可以用于執(zhí)行監(jiān)控、偵察、軍事和民用的探索任務(wù)。飛行器可以搭載負(fù)載用以執(zhí)行特殊的功能,如捕獲周圍環(huán)境的影像。
在某些情況下,可能需要飛行器追蹤特殊的目標(biāo)。對于小型飛行器,這樣的追蹤,傳統(tǒng)上可以通過用戶操作的遠(yuǎn)程控制終端或者設(shè)備發(fā)出的控制指令所實(shí)現(xiàn)。這樣的人工追蹤控制在某些情況下可能會遇到困難,如可移動物體或者目標(biāo)物運(yùn)動的速度過快,或者從用戶的角度觀察,可移動物體的至少一部分被遮擋。此外,這樣的人工追蹤需要專門人員的持續(xù)專注力,以控制飛行器上的相機(jī),而該相機(jī)是與控制飛行器飛行的用戶相分離的,因此,增加了飛行器的空中攝影及其它應(yīng)用的成本。
技術(shù)實(shí)現(xiàn)要素:
有些情況下,需要飛行器追蹤特定目標(biāo)物。因此,需要一種改進(jìn)的無人飛行器的追蹤方法及系統(tǒng),能夠提供自動或者半自動的目標(biāo)物追蹤,從而解放利用飛行器人工追蹤目標(biāo)物的操作者。本發(fā)明提供利用無人飛行器追蹤目標(biāo)物的系統(tǒng)、方法及設(shè)備。所述無人飛行器用于從控制終端接收目標(biāo)物信息,該目標(biāo)物信息與無人飛行器上的影像設(shè)備所要追蹤的目標(biāo)物相關(guān)。所述無人飛行器利用所述目標(biāo)物信息自動地追蹤該目標(biāo)物,以維持該目標(biāo)物在所述影像設(shè)備所捕獲的一個或者多個影像中的預(yù)設(shè)位置及/或尺寸。關(guān)于追蹤的任何描述都包括影像設(shè)備的可視化追蹤。所述控制終端可以顯示影像設(shè)備捕獲的影像,并允許用戶輸入相關(guān)的目標(biāo)物信息。
根據(jù)本發(fā)明的一方面,提供一種無人飛行器(unmannedaerialvehicle,uav)的控制方法。所述方法包括:從遠(yuǎn)程終端接收一個或者多個飛行指令,以控制無人飛行器沿著飛行線路運(yùn)行;從所述遠(yuǎn)程終端接收目標(biāo)物信息,該目標(biāo)物信息與所述無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物相關(guān);當(dāng)所述無人飛行器根據(jù)遠(yuǎn)程終端發(fā)送的一個或者多個飛行指令沿著所述飛行線路運(yùn)動時,自動調(diào)整所述無人飛行器或者影像設(shè)備中的至少一個,以根據(jù)所述目標(biāo)物信息追蹤該目標(biāo)物。
根據(jù)本發(fā)明的另一方面,提供一種具有追蹤功能的無人飛行器。所述無人飛行器包括:一個或者多個接收器,用于單獨(dú)地或者共同地從遠(yuǎn)程終端接收(1)一個或者多個飛行指令,以控制無人飛行器沿著飛行線路移動,及(2)無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物的目標(biāo)物信息;一個或者多個處理器,用于當(dāng)所述無人飛行器根據(jù)遠(yuǎn)程終端發(fā)送的一個或者多個飛行指令沿著所述飛行線路運(yùn)動時,單獨(dú)地或者共同地,自動調(diào)整所述無人飛行器或者影像設(shè)備,以根據(jù)所述目標(biāo)物信息追蹤該目標(biāo)物。
根據(jù)本發(fā)明的另一方面,提供一個控制無人飛行器的系統(tǒng)。所述系統(tǒng)包括:一個或者多個接收器,用于單獨(dú)地或者共同地,從遠(yuǎn)程終端接收(1)一個或者多個飛行指令,以控制無人飛行器沿著飛行線路移動,及(2)無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物的目標(biāo)物信息;一個或者多個處理器,用于當(dāng)所述無人飛行器根據(jù)遠(yuǎn)程終端發(fā)送的一個或者多個飛行指令沿著所述飛行線路運(yùn)動時,單獨(dú)地或者共同地,自動調(diào)整所述無人飛行器或者影像設(shè)備,以根據(jù)所述目標(biāo)物信息追蹤該目標(biāo)物。
某些實(shí)施例中,所述影像設(shè)備包括相機(jī)或者攝錄機(jī)。
某些實(shí)施例中,所述一個或者多個飛行指令用于控制所述無人飛行器的速度、位置或者姿態(tài)。
在某些實(shí)施例中,所述目標(biāo)物相對于參考物體大體上是靜止的。
在某些實(shí)施例中,所述目標(biāo)物相對于參考物體是運(yùn)動的。
在某些實(shí)施例中,所述目標(biāo)物信息包括初始目標(biāo)物信息。
在某些實(shí)施例中,所述初始目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的初始位置或者初始尺寸。
在某些實(shí)施例中,所述目標(biāo)物信息包括目標(biāo)物的類型信息。
在某些實(shí)施例中,所述根據(jù)目標(biāo)物信息追蹤目標(biāo)物進(jìn)一步包括基于目標(biāo)物的類型信息,利用影像識別算法,識別所述影像設(shè)備所捕獲的一個或者多個影像中的目標(biāo)物。
在某些實(shí)施例中,所述目標(biāo)物的類型信息包括顏色、紋理、或者樣式信息。
在某些實(shí)施例中,所述目標(biāo)物信息包括預(yù)期目標(biāo)物信息。
在某些實(shí)施例中,所述預(yù)期目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的預(yù)期位置和尺寸。
在某些實(shí)施例中,所述目標(biāo)物的預(yù)期尺寸與初始尺寸相同。
在某些實(shí)施例中,所述目標(biāo)物的預(yù)期位置與初始位置相同。
在某些實(shí)施例中,根據(jù)目標(biāo)物信息追蹤目標(biāo)物包括在影像設(shè)備捕獲的一個或者多個影像中,在預(yù)設(shè)公差范圍內(nèi)維持目標(biāo)物的預(yù)期位置或者預(yù)期尺寸。
在某些實(shí)施例中,所述影像設(shè)備通過承載體搭載在所述無人飛行器上,以允許影像設(shè)備相對于無人飛行器運(yùn)動。
在某些實(shí)施例中,所述承載體用于使得影像設(shè)備相對于所述無人飛行器繞著至少兩個軸旋轉(zhuǎn)。
在某些實(shí)施例中,根據(jù)目標(biāo)物信息追蹤目標(biāo)物包括當(dāng)無人飛行器根據(jù)遠(yuǎn)程終端的一個或者多個飛行指令沿著飛行線路運(yùn)動時,自動調(diào)整所述無人飛行器、所述承載體、或者所述影像設(shè)備中的至少一個。
在某些實(shí)施例中,所述目標(biāo)物信息包括預(yù)期目標(biāo)物信息,以及根據(jù)目標(biāo)物信息追蹤目標(biāo)物包括:基于影像設(shè)備捕獲的一個或者多個影像確定當(dāng)前的目標(biāo)物信息;偵測當(dāng)前的目標(biāo)物信息與預(yù)期的目標(biāo)物信息之間的偏差;計(jì)算無人飛行器、承載體或者影像設(shè)備的調(diào)整量,以糾正所述偏差。
在某些實(shí)施例中,所述偏差是與目標(biāo)物位置的改變有關(guān),所述計(jì)算的調(diào)整量與無人飛行器的角速度有關(guān)。
在某些實(shí)施例中,所述角速度是相對于無人飛行器的航向軸。
在某些實(shí)施例中,所述角速度是相對于無人飛行器的俯仰軸。
在某些實(shí)施例中,所述偏差與目標(biāo)物位置的改變有關(guān),以及所述計(jì)算的調(diào)整量與影像設(shè)備相對于無人飛行器的角速度有關(guān)。
在某些實(shí)施例中,所述計(jì)算的調(diào)整量用于產(chǎn)生承載體的控制指令,以使影像設(shè)備相對于無人飛行器運(yùn)動。
在某些實(shí)施例中,所述偏差與目標(biāo)物尺寸的改變有關(guān),所述計(jì)算的調(diào)整量與無人飛行器的線速度有關(guān)。
在某些實(shí)施例中,所述偏差與目標(biāo)物尺寸的改變有關(guān),所述計(jì)算的調(diào)整量與影像設(shè)備的一個或者多個參數(shù)有關(guān)。
在某些實(shí)施例中,所述影像設(shè)備的一個或者多個參數(shù)包括焦距、變焦、或者焦點(diǎn)。
在某些實(shí)施例中,所述計(jì)算的調(diào)整量被限制為預(yù)設(shè)范圍。
在某些實(shí)施例中,所述預(yù)設(shè)范圍對應(yīng)控制系統(tǒng)的操縱量的預(yù)設(shè)范圍。
在某些實(shí)施例中,所述控制系統(tǒng)包括所述無人飛行器的飛行控制系統(tǒng)或者所述承載體的控制系統(tǒng)。
在某些實(shí)施例中,如果所計(jì)算的調(diào)整量落到所述預(yù)設(shè)范圍之外,則提供警告信號。
在某些實(shí)施例中,追蹤所述目標(biāo)物包括將所述計(jì)算的調(diào)整量與預(yù)設(shè)的最大閾值相比較,并且當(dāng)所述計(jì)算的調(diào)整量超過所述預(yù)設(shè)的最大閾值時,提供該預(yù)設(shè)的最大閾值。
在某些實(shí)施例中,所述預(yù)設(shè)的最大閾值包括所述無人飛行器或者影像設(shè)備的最大角速度或者最大線速度。
在某些實(shí)施例中,追蹤所述目標(biāo)物包括將所述計(jì)算的調(diào)整量與預(yù)設(shè)的最小閾值相比較,并且當(dāng)所述計(jì)算的調(diào)整量小于所述預(yù)設(shè)的最小閾值時,提供該預(yù)設(shè)的最小閾值。
在某些實(shí)施例中,所述預(yù)設(shè)的最小閾值包括所述無人飛行器或者影像設(shè)備的最小角速度或者最小線速度。
在某些實(shí)施例中,所述目標(biāo)物信息是從遠(yuǎn)程用戶可訪問的遠(yuǎn)程控制設(shè)備處接收。
在某些實(shí)施例中,所述一個或者多個飛行指令從相同的遠(yuǎn)程控制設(shè)備處接收。
在某些實(shí)施例中,所述一個或者多個飛行指令從不同的遠(yuǎn)程控制設(shè)備處接收。
在某些實(shí)施例中,所述遠(yuǎn)程控制設(shè)備用于接收用戶通過觸摸屏、操縱桿、鍵盤、鼠標(biāo)或者觸控筆的輸入。
在某些實(shí)施例中,所述遠(yuǎn)程控制設(shè)備用于接收用戶通過可穿戴設(shè)備的輸入。
在某些實(shí)施例中,所述遠(yuǎn)程控制設(shè)備用于:從無人飛行器接收影像設(shè)備捕獲的一個或者多個影像;顯示所述一個或者多個影像;接收用戶從所顯示的影像中選擇的目標(biāo)物;基于用戶選擇的目標(biāo)物,產(chǎn)生目標(biāo)物的目標(biāo)物信息;將所述目標(biāo)物信息傳送給無人飛行器。
在某些實(shí)施例中,所述遠(yuǎn)程控制設(shè)備進(jìn)一步用于基于用戶的輸入產(chǎn)生一個或者多個飛行指令,以及將該飛行指令傳送給所述無人飛行器。
在某些實(shí)施例中,所述遠(yuǎn)程控制設(shè)備進(jìn)一步用于接收關(guān)于目標(biāo)物的追蹤信息,以及顯示具有所述追蹤信息的一個或者多個影像。
根據(jù)本發(fā)明的其它方面,提供一種具備追蹤能力的無人飛行器。所述無人飛行器包括:一個或者多個接收器,單獨(dú)地或者共同地,從遠(yuǎn)程終端接收用戶指定的目標(biāo)物的目標(biāo)物信息,其中,所述目標(biāo)物為無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物,所述用戶指定的目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的預(yù)設(shè)位置或者預(yù)設(shè)尺寸,所述影像設(shè)備通過承載體搭載在無人飛行器上,以允許所述影像設(shè)備相對于所述無人飛行器運(yùn)動;一個或者多個處理器,單獨(dú)地或者共同地,基于影像設(shè)備捕獲的一個或者多個影像,偵測目標(biāo)物的預(yù)設(shè)位置與預(yù)設(shè)尺寸的偏差;產(chǎn)生指令以自動調(diào)整所述無人飛行器、所述承載體、或者影像設(shè)備,以校正所述偏差。
根據(jù)本發(fā)明的其它方面,提供一種控制無人飛行器的系統(tǒng)。所述系統(tǒng)包括:一個或者多個接收器,單獨(dú)地或者共同地,從遠(yuǎn)程終端接收用戶指定的目標(biāo)物的目標(biāo)物信息,所述目標(biāo)物為無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物,所述用戶指定的目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的預(yù)設(shè)位置或者預(yù)設(shè)尺寸,所述影像設(shè)備通過承載體搭載在無人飛行器上,以允許所述影像設(shè)備相對于所述無人飛行器運(yùn)動;一個或者多個處理器,單獨(dú)地或者共同地,基于影像設(shè)備捕獲的一個或者多個影像,偵測目標(biāo)物的預(yù)設(shè)位置與預(yù)設(shè)尺寸的偏差;產(chǎn)生指令以自動調(diào)整所述無人飛行器、所述承載體、或者影像設(shè)備,以校正所述偏差。
根據(jù)本發(fā)明的其它方面,提供一種控制無人飛行器的方法。所述方法包括:從遠(yuǎn)程終端接收用戶指定的目標(biāo)物的目標(biāo)物信息,所述目標(biāo)物為無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物,所述用戶指定的目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的預(yù)設(shè)位置或者預(yù)設(shè)尺寸,所述影像設(shè)備通過承載體搭載在無人飛行器上,以允許所述影像設(shè)備相對于所述無人飛行器運(yùn)動;所述無人飛行器的處理器基于影像設(shè)備捕獲的一個或者多個影像,偵測目標(biāo)物的預(yù)設(shè)位置與預(yù)設(shè)尺寸的偏差;自動調(diào)整所述無人飛行器、所述承載體、或者影像設(shè)備,以校正所述偏差。
某些實(shí)施例中,所述影像設(shè)備包括相機(jī)或者攝錄機(jī)。
在某些實(shí)施例中,所述方法進(jìn)一步包括從所述遠(yuǎn)程終端接收一個或者多個用于控制所述無人飛行器的速度、位置、方向或者姿態(tài)的指令。
在某些實(shí)施例中,所述方法進(jìn)一步包括從所述遠(yuǎn)程終端接收一個或者多個用于控制所述承載體的速度、位置、方向或者姿態(tài)的指令。
在某些實(shí)施例中,所述方法進(jìn)一步包括從所述遠(yuǎn)程終端接收一個或者多個用于控制所述影像設(shè)備的一個或者多個操作參數(shù)的指令。
在某些實(shí)施例中,所述影像設(shè)備的一個或者多個操作參數(shù)包括焦距、變焦水平、成像模式、影像分辨率、焦點(diǎn)、景深、曝光、鏡頭速度、或者視場。
在某些事實(shí)例中,所述承載體用于允許影像設(shè)備相對于所述無人飛行器繞著至少一個軸旋轉(zhuǎn)。
在某些事實(shí)例中,所述承載體用于允許影像設(shè)備相對于所述無人飛行器繞著至少兩個軸旋轉(zhuǎn)。
在某些實(shí)施例中,所述目標(biāo)物的目標(biāo)物信息進(jìn)一步包括目標(biāo)物類型信息。
在某些實(shí)施例中,所述目標(biāo)物類型信息包括目標(biāo)物的顏色或者紋理。
在某些實(shí)施例中,所述目標(biāo)物的預(yù)設(shè)位置包括目標(biāo)物的初始位置或者預(yù)期位置。
在某些實(shí)施例中,所述目標(biāo)物的預(yù)設(shè)尺寸包括目標(biāo)物的初始尺寸或者預(yù)期尺寸。
在某些實(shí)施例中,所述偵測目標(biāo)物的預(yù)設(shè)位置或者預(yù)設(shè)尺寸的偏差包括將影像設(shè)備所捕獲的影像中的目標(biāo)物位置或者尺寸分別與所述目標(biāo)物的預(yù)設(shè)位置或者預(yù)設(shè)尺寸相比較。
在某些實(shí)施例中,調(diào)整所述無人飛行器、所述承載體、或者影像設(shè)備包括計(jì)算所述無人飛行器、承載體、或者影像設(shè)備的調(diào)整量,以校正所述偏差。
在某些實(shí)施例中,所述偏差與目標(biāo)物位置的改變相關(guān),所述調(diào)整量與無人飛行器的角速度相關(guān)。
在某些實(shí)施例中,所述角速度與無人飛行器的航向軸相關(guān)。
在某些實(shí)施例中,所述角速度與無人飛行器的俯仰軸相關(guān)。
在某些實(shí)施例中,所述偏差是與目標(biāo)物位置的改變相關(guān),以及所述調(diào)整量是與影像設(shè)備相對于無人飛行器的角速度相關(guān)。
在某些實(shí)施例中,所述計(jì)算的調(diào)整量用于產(chǎn)生承載體的控制指令,以使影像設(shè)備相對于無人飛行器運(yùn)動。
在某些實(shí)施例中,所述角速度是與影像設(shè)備的航向軸相關(guān)。
在某些實(shí)施例中,所述角速度是與影像設(shè)備的俯仰軸相關(guān)。
在某些實(shí)施例中,所述偏差是與目標(biāo)物尺寸的改變相關(guān),及所述調(diào)整量是與無人飛行器的線速度相關(guān)。
在某些實(shí)施例中,所述偏差是與目標(biāo)物尺寸的改變相關(guān),及所述調(diào)整量與影像設(shè)備的一個或者多個參數(shù)相關(guān)。
在某些實(shí)施例中,所述影像設(shè)備的一個或者多個參數(shù)包括焦距、變焦水平、成像模式、影像分辨率、焦點(diǎn)、景深、曝光、鏡頭速度、或者視場。
在某些實(shí)施例中,所述計(jì)算的調(diào)整量被限制為預(yù)設(shè)范圍。
在某些實(shí)施例中,所述預(yù)設(shè)范圍對應(yīng)控制系統(tǒng)的操縱量的范圍。
在某些實(shí)施例中,所述控制系統(tǒng)包括所述無人飛行器的飛行控制系統(tǒng)或者所述承載體的控制系統(tǒng)。
在某些實(shí)施例中,如果所述調(diào)整量落到所述預(yù)設(shè)范圍之外,則提供警告信號。
在某些實(shí)施例中,所述警告信號用于提供音頻或者視覺信號。
在某些實(shí)施例中,所述警告信號用于提供動力信號。
在某些實(shí)施例中,所述方法進(jìn)一步包括實(shí)時地傳送影像設(shè)備捕獲的影像給遠(yuǎn)程用戶能夠訪問的遠(yuǎn)程終端。
在某些實(shí)施例中,所述遠(yuǎn)程終端包括用于顯示影像設(shè)備捕獲的影像的顯示設(shè)備。
在某些實(shí)施例中,所述遠(yuǎn)程終端包括用于提供所述目標(biāo)物信息的輸入設(shè)備。
在某些實(shí)施例中,所述輸入設(shè)備包括觸摸屏、操縱桿、鍵盤、鼠標(biāo)、或者觸控筆。
在某些實(shí)施例中,所述輸入設(shè)備包括可穿戴式設(shè)備。
在某些實(shí)施例中,所述目標(biāo)物信息是根據(jù)傳送的影像所提供。
在某些實(shí)施例中,所述方法進(jìn)一步包括,大致實(shí)時地提供目標(biāo)物的追蹤信息給遠(yuǎn)程終端。
在某些實(shí)施例中,所述遠(yuǎn)程終端用于:接收用戶從顯示在遠(yuǎn)程終端的一個或者多個影像中選擇的目標(biāo)物;及基于用戶選擇的目標(biāo)物產(chǎn)生目標(biāo)物信息。
根據(jù)本發(fā)明的另一個方面,提供一種控制無人飛行器的方法。所述方法包括:通過顯示設(shè)備大致實(shí)時地顯示無人飛行器所搭載的影像設(shè)備所捕獲的一個或者多個影像;通過輸入設(shè)備接收用戶從大致實(shí)時被顯示的所述一個或者多個影像中選擇的目標(biāo)物;基于用戶選擇的目標(biāo)物產(chǎn)生目標(biāo)物信息;提供所述目標(biāo)物信息給無人飛行器,以允許所述無人飛行器根據(jù)所述目標(biāo)物信息自主追蹤所述目標(biāo)物。
根據(jù)本發(fā)明的另一個方面,提供一種控制無人飛行器的系統(tǒng)。所述系統(tǒng)包括:顯示設(shè)備,用于顯示無人飛行器所搭載的影像設(shè)備捕獲的一個或者多個影像;輸入設(shè)備,用于接收用戶從顯示設(shè)備顯示的一個或者多個影像中選擇的目標(biāo)物;一個或者多個處理器,用于單獨(dú)地或者共同地,基于用戶選擇的目標(biāo)物產(chǎn)生目標(biāo)物信息;以及傳送器,用于提供所述目標(biāo)物信息給無人飛行器,以使所述無人飛行器根據(jù)所述目標(biāo)物信息自主追蹤所述目標(biāo)物。
根據(jù)本發(fā)明的另一個方面,提供一種控制無人飛行器的裝置。所述裝置包括:顯示設(shè)備,用于顯示無人飛行器所搭載的影像設(shè)備所捕獲的一個或者多個影像;輸入設(shè)備,用于接收用戶從顯示設(shè)備顯示的一個或者多個影像中選擇的目標(biāo)物;一個或者多個處理器,用于單獨(dú)地或者共同地,基于用戶選擇的目標(biāo)物產(chǎn)生目標(biāo)物信息;以及傳送器,用于提供所述目標(biāo)物信息給無人飛行器,以使所述無人飛行器根據(jù)所述目標(biāo)物信息自主追蹤所述目標(biāo)物。
在某些實(shí)施例中,所述目標(biāo)物信息包括初始目標(biāo)物信息。
在某些實(shí)施例中,所述初始目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的初始位置和初始尺寸。
在某些實(shí)施例中,所述初始目標(biāo)物信息是基于用戶選擇的目標(biāo)物產(chǎn)生的。
在某些實(shí)施例中,所述目標(biāo)物信息包括目標(biāo)物的類型信息。
在某些實(shí)施例中,所述目標(biāo)物的類型信息包括顏色、紋理、或樣式信息。
在某些實(shí)施例中,所述目標(biāo)物的類型信息是基于用戶選擇的目標(biāo)物產(chǎn)生的。
在某些實(shí)施例中,所述目標(biāo)物信息包括預(yù)期目標(biāo)物信息。
在某些實(shí)施例中,所述預(yù)期目標(biāo)物信息是基于用戶選擇的目標(biāo)物產(chǎn)生的。
在某些實(shí)施例中,所述預(yù)期目標(biāo)物信息包括目標(biāo)物在所述影像設(shè)備所捕獲的影像中的預(yù)期位置和尺寸。
在某些實(shí)施例中,所述目標(biāo)物信息不包括預(yù)期目標(biāo)物信息。
在某些實(shí)施例中,所述輸入設(shè)備包括觸摸屏、操縱桿、鍵盤、鼠標(biāo)觸控筆,或者可穿戴式設(shè)備。
在某些實(shí)施例中,用戶選擇目標(biāo)物是通過用戶在顯示設(shè)備所顯示的一個或者多個影像中選擇至少一個區(qū)域來實(shí)現(xiàn),該選擇區(qū)域?qū)?yīng)所述目標(biāo)物。
在某些實(shí)施例中,用戶選擇目標(biāo)物是通過用戶在顯示設(shè)備所顯示的一個或者多個影像中直接觸碰至少一個區(qū)域來實(shí)現(xiàn),該觸碰的區(qū)域?qū)?yīng)所述目標(biāo)物。
在某些實(shí)施例中,用戶通過觸控筆、鼠標(biāo)、鍵盤或者可穿戴式設(shè)備選擇所述區(qū)域。
在某些實(shí)施例中,選擇所述區(qū)域包括在該區(qū)域觸碰、滑動、畫圖、或點(diǎn)擊操作。
在某些實(shí)施例中,所述一個或者多個處理器,單獨(dú)地或者共同地,進(jìn)一步用于響應(yīng)用戶對選擇的目標(biāo)物,在顯示設(shè)備上顯示具有選擇指示標(biāo)識的被選擇的目標(biāo)物,所述選擇指示標(biāo)識表示所述目標(biāo)物已經(jīng)被用戶選擇。
在某些實(shí)施例中,所述一個或者多個處理器,單獨(dú)地或者共同地,進(jìn)一步用于接收有關(guān)目標(biāo)物的追蹤信息,基于該追蹤信息,在影像設(shè)備隨后捕獲的影像中顯示具有追蹤指示標(biāo)識的被選擇的目標(biāo)物,所述追蹤指示標(biāo)識表示無人飛行器根據(jù)目標(biāo)物信息大致實(shí)時地所追蹤的目標(biāo)物。
根據(jù)本發(fā)明的其它方面,提供一種控制無人飛行器的方法。所述方法包括:大致實(shí)時地接收所述無人飛行器所搭載的影像設(shè)備捕獲的一個或者多個影像;接收用戶指定的目標(biāo)物的目標(biāo)物信息,該目標(biāo)物信息包括目標(biāo)物在所述一個或者多個影像中的預(yù)設(shè)位置和尺寸;將所述用戶指定的目標(biāo)物信息發(fā)送給無人飛行器;顯示所述一個或者多個影像,與該一個或者多個影像中顯示的目標(biāo)物相關(guān)聯(lián)的追蹤指示標(biāo)識,及根據(jù)用戶指定的目標(biāo)物信息大致實(shí)時地指示所述無人飛行器所追蹤的目標(biāo)物的追蹤指示標(biāo)識標(biāo)識。
根據(jù)本發(fā)明的其它方面,提供一種控制無人飛行器的裝置。所述裝置包括:接收器,用于大致實(shí)時地接收所述無人飛行器所搭載的影像設(shè)備捕獲的一個或者多個影像;輸入設(shè)備,用于接收用戶指定的目標(biāo)物的目標(biāo)物信息,該目標(biāo)物信息包括目標(biāo)物在所述一個或者多個影像中的預(yù)設(shè)位置和尺寸;傳送器,用于將所述用戶指定的目標(biāo)物信息發(fā)送給無人飛行器;顯示設(shè)備,用于顯示所述一個或者多個影像以及與該一個或者多個影像中顯示的目標(biāo)物相關(guān)聯(lián)的追蹤指示標(biāo)識,所述追蹤指示標(biāo)識,根據(jù)用戶指定的目標(biāo)物信息大致實(shí)時地指示所述無人飛行器所追蹤的目標(biāo)物。
根據(jù)本發(fā)明的其它方面,提供一種控制無人飛行器的系統(tǒng)。所述系統(tǒng)包括:接收器,用于大致實(shí)時地接收所述無人飛行器所搭載的影像設(shè)備捕獲的一個或者多個影像;輸入設(shè)備,用于接收用戶指定的目標(biāo)物的目標(biāo)物信息,該目標(biāo)物信息包括目標(biāo)物在所述一個或者多個影像中的預(yù)設(shè)位置和尺寸;傳送器,用于將所述用戶指定的目標(biāo)物信息發(fā)送給無人飛行器;顯示設(shè)備,用于顯示所述一個或者多個影像以及與該一個或者多個影像中顯示的目標(biāo)物相關(guān)聯(lián)的追蹤指示標(biāo)識,所述追蹤指示標(biāo)識標(biāo)識根據(jù)用戶指定的目標(biāo)物信息大致實(shí)時地指示所述無人飛行器所追蹤的目標(biāo)物。
在某些實(shí)施例中,所述輸入設(shè)備進(jìn)一步用于接收一個或者多個指令,所述指令用于控制所述無人飛行器的速度、位置、方向、或者姿態(tài),或者控制影像設(shè)備的操作參數(shù)。
在某些實(shí)施例中,所述影像設(shè)備通過承載體搭載在所述無人飛行器上,以允許所述影像設(shè)備相對于所述無人飛行器沿著至少一個軸旋轉(zhuǎn),以及所述輸入設(shè)備進(jìn)一步用于接收一個或者多個指令,所述指令用于控制所述負(fù)載的速度、位置、方向、或者姿態(tài)。
在某些實(shí)施例中,所述承載體用于允許所述影像設(shè)備相對于所述無人飛行器繞著至少兩個軸旋轉(zhuǎn)。
在某些實(shí)施例中,所述影像設(shè)備根據(jù)所述目標(biāo)物信息,通過自動地調(diào)整所述無人飛行器、所述承載體或者所述影像設(shè)備實(shí)現(xiàn)對目標(biāo)物的追蹤。
在某些實(shí)施例中,包括第二輸入設(shè)備,用于接收一個或者多個指令,所述指令用于控制所述無人飛行器的速度、位置、方向、或者姿態(tài),或者控制影像設(shè)備的操作參數(shù)。
在某些實(shí)施例中,所述影像設(shè)備通過承載體搭載在所述無人飛行器上,以允許所述影像設(shè)備相對于所述無人飛行器繞著至少一個軸旋轉(zhuǎn),所述系統(tǒng)進(jìn)一步包括第二輸入設(shè)備,用于接收一個或者多個指令,所述指令用于控制所述承載體的速度、位置、方向、或者姿態(tài)。
在某些實(shí)施例中,所述一個或者多個操作參數(shù)包括焦距、變焦水平、成像模式、影像分辨率、焦點(diǎn)、景深、曝光、鏡頭速度、或者視場。
在某些實(shí)施例中,所述影像設(shè)備根據(jù)所述目標(biāo)物信息,通過自動地調(diào)整所述無人飛行器、所述承載體或者所述影像設(shè)備實(shí)現(xiàn)對目標(biāo)物的追蹤。
在某些實(shí)施例中,所述預(yù)設(shè)位置包括目標(biāo)物的初始位置。
在某些實(shí)施例中,所述預(yù)設(shè)尺寸包括目標(biāo)物的初始尺寸。
在某些實(shí)施例中,所述預(yù)設(shè)位置包括目標(biāo)物的預(yù)期位置。
在某些實(shí)施例中,所述預(yù)設(shè)尺寸包括目標(biāo)物的預(yù)期尺寸。
在某些實(shí)施例中,所述目標(biāo)物信息進(jìn)一步包括目標(biāo)物類型信息。
在某些實(shí)施例中,所述目標(biāo)物信息是基于用戶選擇的目標(biāo)物產(chǎn)生的。
在某些實(shí)施例中,所述追蹤指示標(biāo)識包括幾何形狀、鉤形符號或者箭頭。
在某些實(shí)施例中,所述幾何形狀包括圓形、矩形或者三角形。
在某些實(shí)施例中,所述影像設(shè)備對目標(biāo)物的追蹤是根據(jù)所述目標(biāo)物信息通過自動調(diào)整所述無人飛行器或者影像設(shè)備實(shí)現(xiàn)的。
應(yīng)該了解,本發(fā)明的不同實(shí)施例可以單獨(dú)執(zhí)行也可以彼此結(jié)合。本發(fā)明所描述的不同實(shí)施例可以應(yīng)用在下述描述的應(yīng)用中,也可以應(yīng)用在任何類型的可移動物體。關(guān)于飛行器,如無人飛行器的任何描述,都可以應(yīng)用在任何的可移動物體上,例如,車輛。此外,所描述的系統(tǒng)、設(shè)備以及方法中,任何關(guān)于空中運(yùn)動,如飛行的描述都可以應(yīng)用在其它類型的運(yùn)動,如地面或者水面上的運(yùn)動,水下運(yùn)動或者空間運(yùn)動。
本領(lǐng)域技術(shù)人員根據(jù)下述詳細(xì)描述的實(shí)施例,可以了解到本揭露其它的方面及優(yōu)點(diǎn),然而,本揭露的實(shí)施例僅僅是示意性的,簡單的描述了本發(fā)明的較佳實(shí)施方式。本發(fā)明還可以有很多其它的實(shí)施例,并且實(shí)施例的很多細(xì)節(jié)能夠有多種形式的修改,都不脫離本發(fā)明的精神。以下,結(jié)合附圖對本發(fā)明的實(shí)施例進(jìn)行描述,該描述并非限制性的。
援引加入
本案說明書所提到的任何出版物、專利、專利申請都以引用方式并入本文,如同每一個單獨(dú)的出版物、專利或?qū)@暾埦幻鞔_且分別地指明通過引用并入本文。
附圖說明
本發(fā)明的新穎性特征已闡明于隨附的權(quán)利要求中。下面將參考以下應(yīng)用本發(fā)明原理的示例性實(shí)施方式的詳細(xì)描述以及以下附圖獲得對本發(fā)明特征以及有益效果的更佳的理解。其中,所述附圖中:
圖1是本發(fā)明實(shí)施例中目標(biāo)物追蹤系統(tǒng)示意圖。
圖2是本發(fā)明實(shí)施例中追蹤系統(tǒng)各部件之間的影像相關(guān)的數(shù)據(jù)的流程示意圖。
圖3是本發(fā)明實(shí)施例中追蹤系統(tǒng)各部件之間的控制數(shù)據(jù)的流程示意圖。
圖4是本發(fā)明實(shí)施例中執(zhí)行目標(biāo)物追蹤的方法流程圖。
圖5是本發(fā)明實(shí)施例中可移動物體、承載體、及負(fù)載的配置圖。
圖6是本發(fā)明實(shí)施例中追蹤方法中的維持目標(biāo)物的預(yù)期位置的示意圖。
圖7是本發(fā)明實(shí)施例中追蹤方法中的維持目標(biāo)物的預(yù)期尺寸的示意圖。
圖8是本發(fā)明實(shí)施例中執(zhí)行目標(biāo)物追蹤的另一方法的流程圖。
圖9是本發(fā)明實(shí)施例中控制可移動物體執(zhí)行飛行以及追蹤的流程圖。
圖10是本發(fā)明實(shí)施例中選擇目標(biāo)物的方法流程圖。
圖11是本發(fā)明實(shí)施例中觀察追蹤的目標(biāo)物的方法流程圖。
圖12是本發(fā)明實(shí)施例中控制可移動物體的控制終端的示意圖。
圖13a-c是本發(fā)明實(shí)施例中利用用戶界面選擇目標(biāo)物的示意圖。
圖14是本發(fā)明實(shí)施例中無人飛行器的示意圖。
圖15是本發(fā)明實(shí)施例中包括承載體及負(fù)載的可移動物體的示意圖。
圖16是本發(fā)明實(shí)施例中追蹤可移動物體的系統(tǒng)的示意圖。
圖17是本發(fā)明實(shí)施例中控制可移動物體的系統(tǒng)的示意圖。
圖18是本發(fā)明的應(yīng)用實(shí)例。
具體實(shí)施方式
本發(fā)明提供了通過無人飛行器進(jìn)行目標(biāo)物追蹤的系統(tǒng)、方法及設(shè)備。所述無人飛行器用于從控制終端接收目標(biāo)物信息,所述目標(biāo)物信息是搭載在無人飛行器上的影像設(shè)備所追蹤的目標(biāo)物的信息。所述目標(biāo)物信息可以被所述無人飛行器所利用,以自動地控制影像設(shè)備追蹤所述目標(biāo)物,以使目標(biāo)物在影像設(shè)備所捕獲的影像中維持預(yù)設(shè)位置及/或尺寸。當(dāng)控制無人飛行器根據(jù)用戶指令及/或者預(yù)設(shè)飛行線路飛行時,執(zhí)行所述目標(biāo)物的追蹤。所述控制終端可以用于顯示影像設(shè)備捕獲的影像以及允許用戶輸入相關(guān)的目標(biāo)物信息。
利用本發(fā)明提供的追蹤系統(tǒng)及方法,單個用戶可以同時控制無人飛行器的飛行以及目標(biāo)物的追蹤,而不需要其它人員的幫助。該用戶利用控制終端的用戶界面指定需要追蹤的目標(biāo)物及/或者需要追蹤的目標(biāo)物的類型。用戶指定的目標(biāo)物信息可以傳送給無人飛行器,該無人飛行器可以自主地追蹤所述目標(biāo)物,例如,通過利用無人飛行器所搭載的影像設(shè)備。影像設(shè)備捕獲的影像(例如,圖片或者視頻),可以實(shí)時傳送給控制終端以顯示、播放、存儲或者其它目的。用戶利用該控制終端也可以實(shí)時改變或者調(diào)整所要追蹤的目標(biāo)物。優(yōu)選地,當(dāng)用戶從事其它活動,如控制無人飛行器的飛行或者其它活動時,可以執(zhí)行無人飛行器的自主追蹤。
例如,當(dāng)用戶從事各種活動,如遠(yuǎn)足或者騎車時,用戶可以設(shè)置所述無人飛行器監(jiān)控用戶自己。用戶可以利用控制終端提供的用戶界面指定自己作為無人飛行器追蹤的目標(biāo)物。例如,用戶可以在控制終端的用戶界面上所顯示的影像中,例如,使用觸摸屏,選擇自己作為目標(biāo)物。一旦目標(biāo)物信息傳送給無人飛行器,用戶可以從低水平的操作中,如手動調(diào)整無人飛行器、承載體或者影像設(shè)備追蹤目標(biāo)物的操作中解放出來。隨之而來的,當(dāng)無人飛行器利用本發(fā)明提供的方法,根據(jù)提供的目標(biāo)物信息,實(shí)時地、自動地追蹤自己時,用戶可以專注于其它活動,如騎車。例如,無人飛行器或者影像設(shè)備的姿態(tài)、位置、速率、變焦、或者其它方面的參數(shù)可以自動調(diào)整,以使得用戶在影像設(shè)備所捕獲的影像中始終維持在指定的位置或者尺寸。追蹤過程中捕獲的影像(如圖片或者視頻)可以以數(shù)據(jù)流的方式實(shí)時地傳送給控制終端以顯示、播放、存儲或者其它目的。上述所有的操作都可以一個人以相對輕松的方式實(shí)現(xiàn),使得用戶能夠輕易地實(shí)現(xiàn)以前很難實(shí)現(xiàn)的任務(wù)。
本發(fā)明所描述的追蹤方法及系統(tǒng)可以有效地促進(jìn)追蹤過程中低水平控制部分的自動化,以減少人工追蹤所需要做的工作以及所導(dǎo)致的錯誤。同時,本發(fā)明描述的追蹤系統(tǒng)及方法,如果需要的話,可以允許用戶維持高水平的追蹤過程(例如,通過指定所追蹤的目標(biāo)物的類型)。
圖1是本發(fā)明目標(biāo)物追蹤系統(tǒng)100較佳實(shí)施例的示意圖。目標(biāo)物追蹤系統(tǒng)100包括可移動物體101以及控制終端112。所述目標(biāo)物追蹤系統(tǒng)100可以用于追蹤一個或者多個目標(biāo)物116。盡管本發(fā)明將可移動物體101描述為無人飛行器,但這并不是限制,其它任何類型的可移動物體都適用于本發(fā)明。本領(lǐng)域技術(shù)人員應(yīng)該了解,本案各實(shí)施例所描述的飛行系統(tǒng)中的內(nèi)容可以應(yīng)用于任何的可移動物體。
在某些實(shí)施例中,所述可移動物體101可以包括承載體102以及負(fù)載104。所述承載體102可以允許負(fù)載104繞著一個、兩個、三個或者更多的軸旋轉(zhuǎn)??蛇x地或者額外地,所述承載體102可以允許負(fù)載104沿著一個、兩個、三個或者更多的軸線性運(yùn)動。用于旋轉(zhuǎn)或者平移運(yùn)動的軸可以彼此正交也可以不是正交。
在某些實(shí)施例中,所述負(fù)載104可以剛性地搭載或者連接于可移動物體101上,以使得負(fù)載104相對于可移動物體101維持相對靜止的狀態(tài)。例如,連接到可移動物體101及負(fù)載104的承載體102可以不允許負(fù)載104相對于可移動物體101移動??蛇x地,所述負(fù)載104可直接搭載在可移動物體101上而不需要承載體。
在某些實(shí)施例中,所述負(fù)載104可以包括一個或者多個傳感器,用于監(jiān)控或者追蹤一個或者多個目標(biāo)物116。所述負(fù)載可以包括影像捕獲設(shè)備或者影像設(shè)備(如相機(jī)、攝錄機(jī)、紅外線影像設(shè)備、紫外線影像設(shè)備或者類似的設(shè)備),音頻捕獲裝置(例如,拋物面反射傳聲器),紅外線影像設(shè)備等。任何適合的傳感器都可以集成到所述負(fù)載104上,以捕獲可視信號、音頻信號、電磁信號、或則任何其它期望的信號。所述傳感器可以提供靜態(tài)感應(yīng)數(shù)據(jù)(如圖片)或者動態(tài)感應(yīng)數(shù)據(jù)(如視頻)。所述傳感器可以實(shí)時地或者高頻率地持續(xù)捕獲感應(yīng)數(shù)據(jù)。
在各種實(shí)施例中,所述被可移動物體101追蹤的目標(biāo)物體116可以包括任何自然的或者人工制造的物體或者紋理,例如,地理景觀(如山川、植被、山谷、湖泊、河流等),建筑物,運(yùn)輸工具(如飛機(jī)、輪船、小轎車、卡車、公交車、貨車或者摩托車)。所述目標(biāo)物體116可以包括生物體,如人或者動物。所述目標(biāo)物體116相對任何合適的參照物可以是運(yùn)動的或者靜止的。所述參照物可以是相對固定的參照物(如周圍環(huán)境或者地球)。可選地,所述參照物可以是運(yùn)動的參照物(如移動的運(yùn)輸工具)。在各種實(shí)施例中,所述目標(biāo)物體116可以包括被動目標(biāo)物或者主動目標(biāo)物。所述主動目標(biāo)物可以傳送該目標(biāo)物的信息,如該目標(biāo)物的gps位置,給可移動物體。所述信息可以通過無線傳輸方式從主動目標(biāo)物中的通訊單元傳送給可移動物體的通訊單元。主動目標(biāo)物可以是環(huán)保的運(yùn)輸工具、建筑物、軍隊(duì)等。被動目標(biāo)物不能傳送目標(biāo)物的信息。被動目標(biāo)物可以包括中立的或者敵對的運(yùn)輸工具、建筑物、軍隊(duì)等。
所述可移動物體101可以用于接收控制數(shù)據(jù),以及所述控制終端112可以用于提供控制數(shù)據(jù)。所述控制數(shù)據(jù)用于直接或者間接地控制可移動物體101的各方面。在某些實(shí)施例中,所述控制數(shù)據(jù)可以包括控制可移動物體飛行參數(shù)的飛行指令,所述飛行參數(shù)如可移動物體101的位置、速度、方向、或者姿態(tài)。所述控制數(shù)據(jù)可以用于控制無人飛行器的飛行。所述控制數(shù)據(jù)可以實(shí)現(xiàn)一個或者多個動力單元106的操作,以實(shí)現(xiàn)無人飛行器的飛行。在其它實(shí)施例中,所述控制數(shù)據(jù)可以包括控制可移動物體101的個別部件的指令。例如,所述控制數(shù)據(jù)包括控制承載體102操作的信息。例如,所述控制數(shù)據(jù)可以用于控制承載體102的致動機(jī)構(gòu),以使負(fù)載104相對于可移動物體101產(chǎn)生角運(yùn)動或者線運(yùn)動。其它實(shí)施例中,所述控制數(shù)據(jù)用于控制不承載負(fù)載的承載體102的運(yùn)動。其它實(shí)施例中,所述控制數(shù)據(jù)用于調(diào)整負(fù)載104的一個或者多個操作參數(shù),如捕獲靜止的或者運(yùn)動的圖像、鏡頭的變焦、開啟/關(guān)閉、切換成像模式、改變影像分辨率、改變焦點(diǎn)、改變景深、改變曝光時間、改變鏡頭速度、改變可視角度或者視場等。在其它實(shí)施例中,所述控制數(shù)據(jù)可用于控制可移動物體101的傳感系統(tǒng)(未圖示)、通訊系統(tǒng)(未圖示)等。
在某些實(shí)施例中,所述控制終端112的控制數(shù)據(jù)可以包括目標(biāo)物信息。在某些情況下,所述目標(biāo)物信息包括指定的目標(biāo)物的特征,如初始位置(如坐標(biāo))及/或者目標(biāo)物在可移動物體101所搭載的影像設(shè)備所捕獲一個或者多個影像中的尺寸。額外地或者可選地,所述目標(biāo)物信息可以包括目標(biāo)物的類型信息,如目標(biāo)物的類型或者分類的特征,包括顏色、紋理、樣式、尺寸、形狀、維度等。目標(biāo)物信息可以包括代表目標(biāo)物的影像的數(shù)據(jù),包括目標(biāo)物在視場內(nèi)的影像。視場可以由影像設(shè)備所能捕獲到的影像所定義或者組成。
目標(biāo)物信息可以包括預(yù)期目標(biāo)物信息。所述預(yù)期目標(biāo)物信息指定所追蹤的目標(biāo)物在影像設(shè)備所捕獲的影像中所預(yù)期需滿足的特征。所述預(yù)期目標(biāo)物信息用于調(diào)整可移動物體、承載體及/或影像設(shè)備,以依據(jù)該預(yù)期目標(biāo)物信息使所追蹤的目標(biāo)物在一個或者多個影像中維持一個樣態(tài)。例如,可以追蹤所述目標(biāo)物,使得目標(biāo)物在影像設(shè)備所捕獲的一個或者多個影像中維持一個預(yù)期位置或者尺寸。例如,所追蹤的目標(biāo)物的預(yù)期位置可以是接近影像的中心或者偏離中心。所追蹤的目標(biāo)物的預(yù)期尺寸可以指包含大概某一數(shù)量的像素。所述預(yù)期目標(biāo)物信息與初始目標(biāo)物信息可以相同也可以不相同。在各種實(shí)施例中,所述預(yù)期目標(biāo)物信息可以由所述控制終端提供,也可以不是由所述控制終端提供。例如,預(yù)期目標(biāo)物信息可以以硬編碼的形式記錄在可移動物體的處理單元所執(zhí)行的邏輯電路中,存儲在可移動物體本地及/或者遠(yuǎn)程的數(shù)據(jù)存儲單元中,或者從其它合適的來源獲取。
在某些實(shí)施例中,所述目標(biāo)物信息(包括指定的目標(biāo)物信息及目標(biāo)物的類型信息)中的至少一部分可以通過控制終端112的用戶輸入產(chǎn)生。額外地或者可選地,所述目標(biāo)物信息可以通過其它的來源產(chǎn)生。例如,所述目標(biāo)物類型信息可以來自于本地或者遠(yuǎn)程的數(shù)據(jù)存儲單元中以前的影像或者數(shù)據(jù)。所述影像可以是可移動物體101或者其它設(shè)備所搭載的影像設(shè)備以前所捕獲的影像。所述影像可以是計(jì)算機(jī)產(chǎn)生的。所述目標(biāo)物的類型信息可以是用戶選擇的,也可以是可移動物體所默認(rèn)提供的。
可移動物體101可以利用所述目標(biāo)物信息以追蹤一個或者多個目標(biāo)物體116。所述追蹤或者其它相關(guān)的數(shù)據(jù)處理可以至少一部分是通過可移動物體101的一個或者多個處理器所執(zhí)行。在某些實(shí)施例中,所述目標(biāo)物信息可以用于可移動物體101識別要追蹤的目標(biāo)物116。所述目標(biāo)物的識別可以基于初始目標(biāo)物信息而執(zhí)行,所述初始目標(biāo)物信息包括特殊目標(biāo)物的指定特征(例如目標(biāo)物在可移動物體所捕獲的影像中的初始坐標(biāo)),或者一類目標(biāo)物的通用特征(例如所要追蹤的目標(biāo)物的顏色或者紋理)。在某些實(shí)施例中,所述目標(biāo)物的識別可以包括任何合適的影像識別及/或匹配算法。在某些實(shí)施例中,所述目標(biāo)物的識別包括比較兩個或者更多的影像,以確定、提取或者匹配影像中的特征。
一旦識別到目標(biāo)物,預(yù)期目標(biāo)物信息可以用于偵測該目標(biāo)物與預(yù)期特征的偏離,如預(yù)期位置及/或尺寸的偏離。在某些實(shí)施例中,當(dāng)前的目標(biāo)物特征或者信息可以通過可移動物體所捕獲的一個或者多個影像所獲知。當(dāng)前的目標(biāo)物信息與控制終端所提供的預(yù)期目標(biāo)物信息相比較,以確定兩者的偏差。目標(biāo)物位置的改變可以通過將目標(biāo)物在影像中的坐標(biāo)(如目標(biāo)物的中心點(diǎn)坐標(biāo))與預(yù)期目標(biāo)物位置的坐標(biāo)進(jìn)行比較得出。目標(biāo)物尺寸的改變可以將目標(biāo)物所覆蓋的面積(如像素)的尺寸與預(yù)設(shè)目標(biāo)物尺寸進(jìn)行比較得出。在某些實(shí)施例中,尺寸的改變可以通過偵測目標(biāo)物的方向、邊界或者其它特征得出。
可以基于所述偏差中至少一部分而產(chǎn)生控制信號(例如通過可移動物體的一個或者多個處理器),根據(jù)該控制信號執(zhí)行大致地校正所述偏差的調(diào)整。所述調(diào)整可以用于在可移動物體所捕獲的影像中,大致的維持一個或者多個預(yù)期的目標(biāo)物特征(如目標(biāo)物位置或者尺寸)。在某些實(shí)施例中,當(dāng)可移動物體執(zhí)行用戶提供的飛行指令(盤旋或者移動)或者預(yù)設(shè)的飛行線路時,所述調(diào)整可以實(shí)時進(jìn)行。當(dāng)所述影像設(shè)備捕獲一個或者多個影像時,所述調(diào)整也可以實(shí)時進(jìn)行。在某些實(shí)施例中,也可以根據(jù)其它數(shù)據(jù),如可移動物體上的一個或者多個傳感器(例如近程傳感器或者gps傳感器)獲取的感測數(shù)據(jù)執(zhí)行調(diào)整。例如,所追蹤的目標(biāo)物的位置信息可以通過近程傳感器獲得,及/或者由目標(biāo)物本身所提供(如gps位置)。所述位置信息除了用于偵測偏差,還可以用于執(zhí)行所述調(diào)整。
所述調(diào)整可以是關(guān)于所述可移動物體、承載體、及/或者負(fù)載(例如影像設(shè)備)的。例如,所述調(diào)整可以導(dǎo)致所述可移動物體及/或者負(fù)載(如影像設(shè)備)改變位置、姿態(tài)、方向、角速度或者線速度等。所述調(diào)整可以導(dǎo)致承載體相對于可移動物體繞著或者沿著一個、兩個、三個或者更多的軸移動所述負(fù)載(如影像設(shè)備)。進(jìn)一步地,所述調(diào)整可以包括調(diào)整負(fù)載(如影像設(shè)備)本身的變焦、焦點(diǎn)或者其它操作參數(shù)。
在某些實(shí)施例中,所述調(diào)整可以至少一部分基于所述偏差的類型所產(chǎn)生。例如,與預(yù)期目標(biāo)物位置的偏差可能需要繞著一個、兩個、或者三個旋轉(zhuǎn)軸旋轉(zhuǎn)所述可移動物體及/或者負(fù)載(如通過承載體)。又如,與預(yù)期目標(biāo)物尺寸的偏差可能需要可移動物體沿著合適的軸做平移運(yùn)動,及/或者改變影像設(shè)備的焦距(如鏡頭的拉近或者拉遠(yuǎn))。例如,如果當(dāng)前的或者實(shí)際的目標(biāo)物尺寸小于預(yù)期目標(biāo)物尺寸,可移動物體可能需要靠近目標(biāo)物,及/或者影像設(shè)備可能需要放大目標(biāo)物。另一方面,如果當(dāng)前的或者實(shí)際的目標(biāo)物尺寸大于預(yù)期目標(biāo)物尺寸,可移動物體可能需要遠(yuǎn)離目標(biāo)物,及/或者影像設(shè)備可能需要縮小目標(biāo)物。
在各種實(shí)施例中,所述校正與預(yù)期目標(biāo)物信息的偏差的調(diào)整可以通過利用控制信號控制一個或者多個可控制物體實(shí)現(xiàn),所述可控制物體如所述可移動設(shè)備、承載體、影像設(shè)備或者其中的任意結(jié)合。在某些實(shí)施例中,可以選擇所述可控制物體執(zhí)行所述調(diào)整,以及所述控制信號可以至少一部分基于對所述可控制物體的配置與設(shè)置而產(chǎn)生。例如,若影像設(shè)備穩(wěn)固地搭載在可移動物體上而不能夠相對于可移動物體運(yùn)動,則僅僅通過將可移動物體繞著兩個軸旋轉(zhuǎn)就能夠?qū)崿F(xiàn)包括繞著對應(yīng)兩個軸旋轉(zhuǎn)的調(diào)整。此時,影像設(shè)備可以直接搭載在可移動物體上,或者影像設(shè)備通過承載體搭載在可移動物體上,所述承載體不允許影像設(shè)備與可移動物體之間的相對運(yùn)動。如果所述承載體允許影像設(shè)備相對于可移動物體繞著至少一個軸旋轉(zhuǎn),對上述兩個軸的調(diào)整也可以通過結(jié)合對可移動物體和承載體的調(diào)整來實(shí)現(xiàn)。這種情況下,可以控制所述承載體以執(zhí)行繞著需要調(diào)整的兩個軸中的一個或者兩個軸旋轉(zhuǎn),以及可以控制所述可移動物體以執(zhí)行繞著需要調(diào)整的兩個軸中的一個或者兩個軸旋轉(zhuǎn)。例如,所述承載體可以包括一軸云臺,以允許影像設(shè)備繞著需要調(diào)整的兩個軸中的一個軸旋轉(zhuǎn),而可移動物體執(zhí)行繞著需要調(diào)整的兩個軸中的另一個軸旋轉(zhuǎn)??蛇x地,如果承載體允許影像設(shè)備相對于可移動物體繞著兩個或者更多的軸旋轉(zhuǎn),則對上述兩個軸的調(diào)整也可以單獨(dú)地通過承載體完成。例如,所述承載體包括兩軸或者三軸云臺。
在其它實(shí)施例中,調(diào)整以校正目標(biāo)物的尺寸可以通過控制影像設(shè)備的變焦操作(如果影像設(shè)備能夠達(dá)到需要的變焦水平),或者通過控制可移動物體的運(yùn)動(以靠近或者遠(yuǎn)離目標(biāo)物),或者該兩種方式的結(jié)合來實(shí)現(xiàn)。在執(zhí)行調(diào)整時,可移動物體的處理器可以確定選擇哪一種方式或者選擇該兩種方式的結(jié)合。例如,如果影像設(shè)備不具備達(dá)到目標(biāo)物在影像中維持需要的尺寸所需要的變焦水平,則可以控制可移動物體的移動而取代或者附加在對影像設(shè)備的變焦操作。
在某些實(shí)施例中,所述調(diào)整可以考慮到其它的約束條件。例如,在可移動物體的飛行線路是預(yù)設(shè)的情況下,所述調(diào)整可以通過承載體及/或者影像設(shè)備來執(zhí)行,而不影響到可移動物體的運(yùn)動。例如,如果遠(yuǎn)程終端正通過控制終端自主地控制可移動物體的飛行,或者如果可移動物體正根據(jù)預(yù)先存儲的飛行線路在飛行(自主地或者半自主地),所述可移動物體的飛行線路可以是預(yù)設(shè)的。
其它的約束條件可能包括可移動物體、承載體及/或者負(fù)載(如影像設(shè)備)的旋轉(zhuǎn)角度、角速度及/或者線速度的最大及/或者最小的閾值,操作參數(shù),或其它。所述最大及/或者最小的閾值可以用于顯示調(diào)整的范圍。例如,可移動物體及/或影像設(shè)備繞著一特定軸的角速度可能被可移動物體、承載體及/或負(fù)載(如影像設(shè)備)的最大角速度所限制。又如,可移動物體及/或承載體的線速度可能被可移動物體、承載體及/或負(fù)載(如影像設(shè)備)的最大線速度所限制。再如,影像設(shè)備焦距的調(diào)整可能受到特定影像設(shè)備的最大及/或最小焦距所限制。在某些實(shí)施例中,這樣的限制可以是預(yù)設(shè),也可以依賴于可移動物體、承載體、及/或負(fù)載(如影像設(shè)備)的特殊配置。在某些情況下,該配置是可調(diào)的(例如通過制造商、管理員或者用戶)。
在某些實(shí)施例中,所述可移動物體101可以用于提供數(shù)據(jù),控制終端112可以用于接收數(shù)據(jù),如可移動物體101的傳感器獲取的感測數(shù)據(jù),以及用于指示可移動物體101追蹤的一個或者多個目標(biāo)物的特征的追蹤數(shù)據(jù)或信息。所述感測數(shù)據(jù)可以包括可移動物體101所搭載的影像設(shè)備所捕獲的影像數(shù)據(jù),或者其它傳感器所感測的數(shù)據(jù)。例如,來自于可移動物體101及/或者負(fù)載101(如影像設(shè)備)的實(shí)時或者接近實(shí)時的視頻流可以傳送給控制終端112。所述感測數(shù)據(jù)也可以包括全球定位系統(tǒng)(gps)傳感器、運(yùn)動傳感器、慣性傳感器、近程傳感器或者其它傳感器獲得的數(shù)據(jù)。所述追蹤數(shù)據(jù)包括目標(biāo)物在可移動物體接收的影像幀中的相對的或者絕對的坐標(biāo)或者尺寸,目標(biāo)物在連續(xù)的影像幀中的變化,gps坐標(biāo),或者目標(biāo)物的其它位置信息。在某些實(shí)施例中,所述控制終端112可以利用所述追蹤數(shù)據(jù)顯示所追蹤的目標(biāo)物(例如,通過一個圖形化的追蹤指示標(biāo)識,如用一個圍繞目標(biāo)物周圍的方框)。在各種實(shí)施例中,控制終端接收的數(shù)據(jù)可以是未處理的數(shù)據(jù)(各傳感器獲取的未處理的感測數(shù)據(jù))及/或者處理后的數(shù)據(jù)(例如可移動物體的一個或者多個處理器所處理得到的追蹤數(shù)據(jù))。
在某些實(shí)施例中,所述控制終端112所處的位置可以遠(yuǎn)離所述可移動物體101、承載體102及/或者負(fù)載104。所述控制終端112可以放置或者粘貼在一個支撐平臺上?;蛘撸隹刂平K端112可以是手持式的或者穿戴式設(shè)備。例如,所述控制終端112可以包括智能手機(jī)、平板電腦、筆記本電腦、計(jì)算機(jī)、眼鏡、手套、頭盔、麥克風(fēng)或者任何適合的結(jié)合。
所述控制終端112用于通過顯示設(shè)備顯示從可移動物體101接收的顯示數(shù)據(jù)。所述顯示數(shù)據(jù)包括感測數(shù)據(jù),例如可移動物體101所搭載的影像設(shè)備所獲取的影像。所述顯示數(shù)據(jù)還包括追蹤信息,所述追蹤信息與影像數(shù)據(jù)分開顯示或者疊加在影像數(shù)據(jù)的頂部。例如,所述顯示設(shè)備可以用于顯示影像,在該影像中的目標(biāo)物被追蹤指示標(biāo)識所指示或者突出顯示。其中,所述追蹤指示標(biāo)識可以是利用方框、圓圈、或者其它幾何圖形包圍所追蹤的目標(biāo)物。在某些實(shí)施例中,當(dāng)影像和追蹤數(shù)據(jù)從所述可移動物體接收,及/或者當(dāng)影像數(shù)據(jù)獲取的時候,所述影像和追蹤指示標(biāo)識就可以實(shí)時地顯示出來。在某些實(shí)施例中,所述顯示可以是有延遲的。
所述控制終端112可以用于接收用戶通過輸入設(shè)備的輸入。所述輸入設(shè)備可以包括操縱桿、鍵盤、鼠標(biāo)、觸控筆、麥克風(fēng)、影像或者運(yùn)動傳感器,慣性傳感器等。任何合適的用戶輸入都可以與終端交互,例如人工輸入指令,聲音控制、手勢控制或者位置控制(如通過終端的運(yùn)動、位置或者傾斜)。例如,控制終端112可以用于允許用戶通過操作操縱桿、改變控制終端的方向或者姿態(tài)、利用鍵盤、鼠標(biāo)、手指或者觸控筆與圖形用戶界面交互,或者利用其它方法,控制可移動物體、承載體、負(fù)載或者其中任何結(jié)合的狀態(tài)。
所述控制終端112也可以用于允許用戶利用任何合適的方法輸入目標(biāo)物信息。在某些實(shí)施例中,所述控制終端112能夠使用戶從所顯示的一個或者多個影像(如視頻或者快照)中直接選擇目標(biāo)物。例如,用戶可以用手指直接觸摸屏幕選擇目標(biāo)物,或者利用鼠標(biāo)或操縱桿選擇。用戶可以劃線包圍所述目標(biāo)物、在影像上觸摸該目標(biāo)物或者選擇該目標(biāo)物。計(jì)算機(jī)視覺或者其它技術(shù)可用于識別目標(biāo)物的邊界。一次可以選擇一個或者多個目標(biāo)物。在某些實(shí)施例中,所選擇的目標(biāo)物可以用選擇指示標(biāo)識顯示,以指示用戶已經(jīng)選擇了所要追蹤的目標(biāo)物。在某些其它的實(shí)施例中,控制終端可以允許用戶選擇或者輸入目標(biāo)物信息,如顏色、紋理、形狀、維度、或者所希望的目標(biāo)物的其它特征。例如,用戶可以輸入目標(biāo)物類型信息,通過圖形用戶界面選擇這樣的信息,或者使用其它的方法。在某些其它的實(shí)施例中,所述目標(biāo)物信息可以從一些數(shù)據(jù)源獲取而非從用戶獲取,所述數(shù)據(jù)源如遠(yuǎn)程的或者本地的數(shù)據(jù)存儲單元、與控制終端連接或者通信的其它計(jì)算設(shè)備等。
在某些實(shí)施例中,所述控制終端可以允許用戶在人工追蹤模式和自動追蹤模式之間進(jìn)行選擇。當(dāng)選擇了人工追蹤模式,用戶需要指定需要追蹤的特定目標(biāo)物。例如,用戶可以從控制終端所顯示的影像中手動的選擇目標(biāo)物。將所選擇的目標(biāo)物的特定目標(biāo)物信息(坐標(biāo)或者尺寸)提供給可移動物體作為目標(biāo)物的初始目標(biāo)物信息。另一方面,當(dāng)選擇了自動追蹤模式,用戶不需要指定需要追蹤的特定目標(biāo)物。用戶可以,例如,通過控制終端提供的用戶界面,指定關(guān)于所要追蹤的目標(biāo)物類型的描述性信息。可移動物體利用所述特定目標(biāo)物的初始目標(biāo)物信息或者目標(biāo)物類型的描述性信息自動識別所要追蹤的影像,隨后追蹤該識別的影像。
一般來說,提供特定的目標(biāo)物信息(如初始目標(biāo)物信息)需要更多目標(biāo)物追蹤的用戶控制以及較少自動處理或者計(jì)算(影像或者目標(biāo)物識別),所述自動處理或者計(jì)算通過設(shè)置在可移動物體上的處理系統(tǒng)執(zhí)行。另一方面,提供目標(biāo)物類型的描述性信息需要較少的目標(biāo)物追蹤的用戶控制,但是需要較多設(shè)置在可移動物體上的處理系統(tǒng)所執(zhí)行的計(jì)算。在追蹤過程中用戶控制以及處理系統(tǒng)控制的合理分配可以根據(jù)各種因素調(diào)整,例如可移動物體的環(huán)境、可移動物體的速度或者姿態(tài)、用戶偏好、或者可移動物體之內(nèi)或者外圍的計(jì)算能力(如cpu或者存儲器)等。例如,當(dāng)可移動物體在相對復(fù)雜的環(huán)境中(如有很多的建筑物、障礙物或者在室內(nèi))飛行時,會比可移動物體在相對簡單的環(huán)境(開放的空間或者戶外)飛行分配相對多的用戶控制。在另一個實(shí)施例中,當(dāng)可移動物體在海拔較低的位置飛行時會比在海拔較高的位置飛行時分配相對多的用戶控制。另一個實(shí)施例中,當(dāng)可移動物體配備了高速處理器以能夠更快地執(zhí)行復(fù)雜計(jì)算時,會分配可移動物體更多的自控。在某些實(shí)施例中,在追蹤過程中,用戶控制以及可移動物體的自控的分配可以根據(jù)上述描述的因素而動態(tài)調(diào)整。
至少一部分的用戶輸入可以產(chǎn)生控制數(shù)據(jù)。所述控制數(shù)據(jù)可以由控制終端、可移動物體、第三設(shè)備或者其中任意的結(jié)合所產(chǎn)生。例如,用戶操作一個操縱桿或控制終端,或者與圖形用戶界面的交互都可以轉(zhuǎn)換為預(yù)設(shè)的控制指令,以改變可移動物體、承載體或者負(fù)載的狀態(tài)或者參數(shù)。在另一個實(shí)施例中,用戶在終端所顯示的影像中執(zhí)行的目標(biāo)物選擇可以產(chǎn)生所需追蹤的初始及/或者預(yù)期目標(biāo)物信息,例如目標(biāo)物的初始及/或者預(yù)期位置及/或者尺寸。可選地或者額外的,所述控制數(shù)據(jù)可以根據(jù)非用戶操作的信息所產(chǎn)生,例如,遠(yuǎn)程的或者本地的數(shù)據(jù)存儲單元,或者與控制終端連接的其它的計(jì)算設(shè)備等。
圖2是本發(fā)明較佳實(shí)施例中追蹤系統(tǒng)的各部件之間影像相關(guān)的流程200。在某些實(shí)施例中,影像相關(guān)的數(shù)據(jù)包括未處理或者經(jīng)過處理的影像數(shù)據(jù),以及從影像數(shù)據(jù)中提取或者衍生的數(shù)據(jù),如目標(biāo)物的追蹤信息。如圖所示,未處理的影像數(shù)據(jù)是由影像傳感器204所獲得。所述影像傳感器204可以將光信號轉(zhuǎn)換為電信號。所述影像傳感器204包括半導(dǎo)體電耦合器件(charge-coupleddevices,ccd),使用互補(bǔ)型金屬氧化物半導(dǎo)體(complementarymetal-oxide-semiconductor,cmos),或者n型金屬-氧化物-半導(dǎo)體(n-typemetal-oxide-semiconductor,nmos,livemos),或者其它類型的傳感器。所述影像傳感器可以連接在可移動物體,如無人飛行器上。例如,所述影像傳感器可以是無人飛行器所搭載的影像設(shè)備(如相機(jī))的一部分,所述影像設(shè)備可以通過承載體搭載在無人飛行器上,所述影像設(shè)備也可以不通過承載體搭載在無人飛行器上。所述影像傳感器及/或者影像設(shè)備可以用于捕獲影像、視頻、或者其它具有某些參數(shù)的影像數(shù)據(jù),所述參數(shù)包括寬度、高度、長寬比、百萬像素、分辨率或者品質(zhì)等。例如,所述影像設(shè)備可以用于捕獲高清或者超高清的視頻(例如,720p,1080i,1080p,1440p,2000p,2160p,2540p,4320p等)。
影像傳感器204捕獲的影像數(shù)據(jù)可以存儲到數(shù)據(jù)存儲設(shè)備202中。所述數(shù)據(jù)存儲設(shè)備202可以基于半導(dǎo)體、磁、光學(xué)或者任何適合的技術(shù),及所述影像存儲設(shè)備202可以包括閃存、usb驅(qū)動、存儲卡、固態(tài)驅(qū)動、硬盤驅(qū)動、軟盤、光盤、磁盤等。例如,所述數(shù)據(jù)存儲設(shè)備202包括可移動存儲設(shè)備,該可移動存儲設(shè)備能夠可拆卸的連接在影像設(shè)備上,如任何適合格式的存儲卡,如個人計(jì)算機(jī)卡、微型快擦寫存儲卡、sm卡、memorystick記憶棒、memorystickduo記憶棒、memorystickproduo記憶棒、迷你記憶卡、多媒體記憶卡、微型多媒體記憶卡、mmcmicro卡、ps2卡、sd卡、sxs記憶卡、ufs卡、微型sd卡、microsd卡、xd卡、istick卡、串行閃存模塊、nt卡、xqd卡等。所述數(shù)據(jù)存儲設(shè)備202也可以包括外置的硬盤驅(qū)動、光盤驅(qū)動、磁盤驅(qū)動、軟盤驅(qū)動或者其它任何與影像設(shè)備連接的適合的存儲設(shè)備。
所述影像傳感器204捕獲的影像可以通過影像傳送模塊206傳送給控制終端212。在某些實(shí)施例中,該影像數(shù)據(jù)在影像傳送模塊206傳送之前可以被壓縮或者經(jīng)過其它處理。在其它實(shí)施例中,影像數(shù)據(jù)在傳送之前也可以不經(jīng)過壓縮或者其它處理。所傳送的影像數(shù)據(jù)可以顯示在控制終端212上,以便操作用戶終端的用戶可以看到該影像數(shù)據(jù)及/或基于該影像數(shù)據(jù)與控制終端212交互。
所述影像傳感器204捕獲的影像數(shù)據(jù)可以由預(yù)處理單元208進(jìn)行預(yù)處理。所述預(yù)處理單元208可以包括硬件、軟件或者兩者的結(jié)合。所述預(yù)處理單元208可以包括現(xiàn)場可編程門陣列(field-programmablegatearray,fpga)。所述預(yù)處理單元208可以連接在影像傳感器204上,以在影像數(shù)據(jù)執(zhí)行處理之前對未處理的影像數(shù)據(jù)執(zhí)行預(yù)處理,以提取出特定的信息。所述預(yù)處理單元208執(zhí)行的任務(wù)包括重新采樣以確保坐標(biāo)系統(tǒng)的正確性,雜點(diǎn)去除、增強(qiáng)對比度、尺度空間表示等。
所述預(yù)處理單元208處理的影像數(shù)據(jù)可以由與預(yù)處理單元208連接(如通過通用存儲器控制器連接)的處理單元210進(jìn)一步處理。所述處理單元210可以包括一個或者多個arm處理器。所述處理單元210用于執(zhí)行本案描述的各實(shí)施例。所述處理單元210執(zhí)行的任務(wù)包括任何復(fù)雜程度的特征提取、影像分割、數(shù)據(jù)驗(yàn)證、影像識別、影像寄存、影像匹配等。在某些實(shí)施例中,所述處理單元210可以產(chǎn)生可移動物體所追蹤的目標(biāo)物的追蹤信息。所述追蹤信息可以通過可移動物體的處理單元執(zhí)行影像處理所產(chǎn)生,及/或者基于控制終端提供的目標(biāo)物信息所產(chǎn)生。所述追蹤信息包括,例如,影像中目標(biāo)物的位置、尺寸、或其它特征。
所述處理單元210確定的追蹤信息可以通過通訊模塊傳送給控制終端212。在某些實(shí)施例中,所述通訊模塊可以與上述的影像傳送模塊206彼此分開。其它實(shí)施例中,所述通訊模塊也可以包括所述影像傳送模塊206,或者所述影像傳送模塊206包括所述通訊模塊。通訊模塊及影像傳送模塊206可以采用任何適合的通訊手段,如,無線通訊或者有線通訊。例如,所述通訊模塊及/或者影像傳送模塊206可以通過局域網(wǎng)絡(luò)、廣域網(wǎng)絡(luò)、紅外、無線電波、wifi、p2p網(wǎng)絡(luò)、電信網(wǎng)絡(luò)、云通訊等的一種或者多種進(jìn)行通訊。可選地,通訊也可以利用中繼站,如信號塔、衛(wèi)星或者移動基站。無線通訊可以是近程通訊也可以是非近程通訊。在某些實(shí)施例中,通訊時可以要求視線距離(line-of-sight)也可以不要求視線距離。除了追蹤信息,通訊模塊也可以用于傳送或者接收可移動物體上其它傳感器的感應(yīng)數(shù)據(jù),根據(jù)感應(yīng)數(shù)據(jù)得到的位置及/或者運(yùn)動數(shù)據(jù),預(yù)設(shè)的控制數(shù)據(jù),遠(yuǎn)程終端的指令等。
在某些實(shí)施例中,所述影像傳送模塊206提供的影像數(shù)據(jù)可以增強(qiáng)或者與處理單元210產(chǎn)生的追蹤信息相結(jié)合,以利用追蹤指示標(biāo)識(例如包圍目標(biāo)物一個圓或者方框)顯示所述目標(biāo)物。用戶可以通過該影像數(shù)據(jù)看到影像設(shè)備所追蹤的目標(biāo)物。用戶也可以基于該影像數(shù)據(jù)與控制終端交互。用戶可以從該影像數(shù)據(jù)中選擇所要追蹤的不同的目標(biāo)物(通過觸摸觸摸屏上該不同目標(biāo)物中對應(yīng)的位置)。
在某些實(shí)施例中,根據(jù)控制終端212的要求,所述追蹤信息可以提供給控制終端212。例如,只有當(dāng)用戶選擇了一個特定的查看模式(如預(yù)先查看模式),在該模式下所追蹤的目標(biāo)物會加強(qiáng)顯示或者以其它的指示方法顯示,則控制終端212可能要求這樣的追蹤信息??蛇x地或者附加地,不需要控制終端212的要求,所述追蹤信息也會提供給控制終端212。例如,所述追蹤信息可以以預(yù)設(shè)周期(每0.1秒,0.2秒,0.5秒,1秒或者2秒)推送給控制終端212。
圖3是本發(fā)明追蹤系統(tǒng)較佳實(shí)施例中各部件之間的控制數(shù)據(jù)的流程300的示意圖。如上所述,所述控制數(shù)據(jù)包括可移動物體(如無人飛行器)所追蹤的目標(biāo)物的目標(biāo)物信息,以及控制可移動物體或者其它部件的各個方面的其它數(shù)據(jù)。所述控制數(shù)據(jù)可以通過用戶302與一個控制終端304的交互產(chǎn)生。所產(chǎn)生的控制數(shù)據(jù)可以包括特定的目標(biāo)物信息(如初始目標(biāo)物信息)306以及目標(biāo)物的類型信息308。
所述特定的目標(biāo)物信息306可以包括特定目標(biāo)物的特征,如坐標(biāo)(像素坐標(biāo))、尺寸等。在某些實(shí)施例中,當(dāng)用戶通過控制終端304提供的用戶界面選擇或者指定了要追蹤的特定的目標(biāo)物時,所述特定的目標(biāo)物信息隨之產(chǎn)生。例如,所述控制終端可以允許用戶選擇人工追蹤模式以及自動追蹤模式。當(dāng)選擇了人工追蹤模式,用戶可以指定要追蹤的特定的目標(biāo)物(例如,從所顯示的一個或者多個影像中選擇目標(biāo)物)。特定的目標(biāo)物信息可以基于用戶的該選擇而產(chǎn)生。
所述目標(biāo)物的類型信息308可以包括描述所追蹤的一類目標(biāo)物類型的信息,而不是特定目標(biāo)物的信息。所述目標(biāo)物類型信息可以包括目標(biāo)物的各方面的特征,如顏色、紋理、樣式、尺寸、形狀、維度等。在某些實(shí)施例中,所述目標(biāo)物信息(包括特定的目標(biāo)物信息以及目標(biāo)物的類型信息)可以至少一部分是基于用戶在控制終端304的輸入所產(chǎn)生。例如,所述控制終端可以允許用戶在人工追蹤模式和自動追蹤模式之間進(jìn)行選擇。當(dāng)選擇了自動追蹤模式,用戶可以輸入或者選擇目標(biāo)物的類型信息??蛇x地或者附加地,所述目標(biāo)物信息可以通過從其它來源得到的數(shù)據(jù)而產(chǎn)生。例如,目標(biāo)物的類型信息可以來自于本地或者遠(yuǎn)程數(shù)據(jù)儲存設(shè)備中存儲的數(shù)據(jù)或者來自于以前的影像。在某些實(shí)施例中,預(yù)定義的目標(biāo)物類型或者樣式可以代表用戶的選擇。在某些其它實(shí)施例中,所述預(yù)定義的目標(biāo)物類型或者樣式可以以默認(rèn)的方式自動提供給可移動物體而不需用戶參與。
可選地,目標(biāo)物信息包括預(yù)期目標(biāo)物信息。所述預(yù)期目標(biāo)物信息可以與所述初始目標(biāo)物信息有所重疊也可以沒有重疊。
所述目標(biāo)物信息(包括特定的目標(biāo)物信息306以及目標(biāo)物的類型信息308)可以提供給處理系統(tǒng)310,例如,通過傳送模塊(未圖示)。所述處理系統(tǒng)310可以裝載在可移動物體上(如無人飛行器)。所述處理系統(tǒng)310包括數(shù)據(jù)處理單元312以及指令控制單元314。所述數(shù)據(jù)處理單元312可以用于執(zhí)行本案描述的任何操作。例如,所述數(shù)據(jù)處理單元312可以用于基于目標(biāo)物信息(包括特定的目標(biāo)物信息306及/或目標(biāo)物的類型信息308)識別目標(biāo)物,確定目標(biāo)物信息的偏差等。所述數(shù)據(jù)處理單元312可以包括預(yù)處理單元及/或者處理單元,如圖2中描述的預(yù)處理單元208及處理單元210。例如,所述數(shù)據(jù)處理單元312可以包括現(xiàn)場可編程門陣列(epga)處理器或者一個或多個arm處理器。
所述數(shù)據(jù)處理單元312可以連接至用于控制可移動物體狀態(tài)的指令控制單元314。所述指令控制單元314可以用于執(zhí)行本案所描述的任何操作。例如,所述指令控制單元314可以用于產(chǎn)生控制指令或者信號316,以控制可移動物體的部件,以基于數(shù)據(jù)處理單元312的處理結(jié)果追蹤目標(biāo)物。
所述控制指令316可以包括用于控制所述可移動物體的動力機(jī)構(gòu)的指令,以調(diào)整可移動物體相對多達(dá)六個自由度的空間配置(spatialdisposition)、速度及/或加速度,以校正目標(biāo)物在一個或者多個影像中的位置或者尺寸的偏差,所述控制指令316也可以包括用于調(diào)整承載體狀態(tài)的指令,以調(diào)整可移動物體上由該承載體所搭載的負(fù)載(如影像設(shè)備)的空間配置、速度及/或加速度。
所述控制指令316也可以包括用于調(diào)整承載體狀態(tài)的指令,以調(diào)整可移動物體上由該承載體所搭載的負(fù)載(如影像設(shè)備)的空間配置、速度及/或加速度。
所述控制指令316也可以包括調(diào)整負(fù)載的一個或者多個操作參數(shù),所述操作參數(shù)如捕獲靜止或者動態(tài)的圖片,變焦,開啟或關(guān)閉,切換成像模式,改變影像分辨率,變焦,改變景深,改變曝光時間,改變鏡頭速度,改變可視角度等。
可選地或者附加地,上述任何的控制指令都可以直接由控制終端304提供給處理系統(tǒng)310。例如,用戶可以利用控制終端304控制影像設(shè)備的變焦操作,而處理單元310產(chǎn)生控制指令給可移動物體及/或者承載體。又如,用戶可以直接控制可移動物體,而處理單元310產(chǎn)生控制指令給可移動物體及/或者承載體。這樣使得用戶可以專注于控制可移動物體的飛行,而不用擔(dān)心目標(biāo)物體的追蹤。目標(biāo)物體的追蹤由處理系統(tǒng)310自動執(zhí)行。
在各種實(shí)施例中,在追蹤控制時,用戶控制以及自動追蹤系統(tǒng)的分配可以根據(jù)各種因素調(diào)整,例如可移動物體的環(huán)境、可移動物體的速度或者姿態(tài)、用戶偏好、或者可移動物體之內(nèi)或者外圍的計(jì)算能力(如cpu或者存儲器)等。例如,當(dāng)可移動物體在相對復(fù)雜的環(huán)境中(如有很多的建筑物、障礙物或者在室內(nèi))飛行時,會比可移動物體在相對簡單的環(huán)境(開放的空間或者戶外)飛行會分配相對多的用戶控制。在另一個實(shí)施例中,當(dāng)可移動物體在海拔較低的位置飛行時會比在海拔較高的位置飛行時分配相對多的用戶控制。另一個實(shí)施例中,當(dāng)可移動物體配備了高速處理器以能夠更快地執(zhí)行復(fù)雜計(jì)算時,會分配可移動物體更多的自控。在某些實(shí)施例中,在追蹤過程中,用戶控制以及可移動物體的自控的分配可以根據(jù)上述描述的因素而動態(tài)調(diào)整。
本發(fā)明提供利用連接在可移動物體上的影像設(shè)備追蹤目標(biāo)物的系統(tǒng)及方法,以維持目標(biāo)物在影像設(shè)備所捕獲的一個或者多個影像中的位置及/或者尺寸。
圖4是本發(fā)明執(zhí)行目標(biāo)物追蹤的較佳實(shí)施例的方法400的流程圖。所述方法400的各步驟通過可移動物體,如無人飛行器搭載的或者外圍的一個或者多個處理器所執(zhí)行。所述方法400的一些或者全部步驟是在一個或者多個配置有可執(zhí)行指令的計(jì)算機(jī)/控制系統(tǒng)的控制下所執(zhí)行,并且以代碼(如可執(zhí)行指令,一個或者多個程序或者應(yīng)用)的形式,由一個或者多個處理器所執(zhí)行。所述代碼,以能夠被一個或者多個處理器所執(zhí)行的計(jì)算機(jī)程序的形式存儲在計(jì)算機(jī)可讀的存儲介質(zhì)中。所述計(jì)算機(jī)可讀的存儲介質(zhì)可以是非易失性的。下述描述的步驟的順序并不是限制性的,所描述的各步驟可以以任何順序或者平行執(zhí)行。
所述方法400包括獲取步驟402,獲取一個或者多個目標(biāo)物的目標(biāo)物信息。所述目標(biāo)物信息可以從控制終端接收。附加地或者可選地,所述目標(biāo)物信息可以從可移動物體(如無人飛行器)的部件,或者可移動物體的遠(yuǎn)程設(shè)備,如另一個可移動物體,服務(wù)器等處獲取。在某些實(shí)施例中,所述目標(biāo)物信息也可以由目標(biāo)物本身所提供。
在某些實(shí)施例中,所述目標(biāo)物信息可以包括特殊的、已知的指定目標(biāo)物的初始目標(biāo)物信息,或者潛在的、未知的一類目標(biāo)物的目標(biāo)物類型信息。所述指定的目標(biāo)物信息包括一個或者多個影像中的目標(biāo)物的坐標(biāo)(如像素坐標(biāo))、尺寸、位置、其它信息。所述指定目標(biāo)物信息可以通過用戶與現(xiàn)存的影像數(shù)據(jù)的交互所產(chǎn)生。例如,當(dāng)用戶在顯示給用戶的一個或者多個影像中選擇特殊的物體作為目標(biāo)物時,就會產(chǎn)生所述指定目標(biāo)物信息。所述指定目標(biāo)物信息可以包括當(dāng)遠(yuǎn)程終端從一個或者多個影像中選擇所述目標(biāo)物時,該目標(biāo)物的初始位置及/或尺寸。
所述目標(biāo)物信息也可以包括目標(biāo)物的類型信息,如一組或者一類潛在的、未知的目標(biāo)物的顏色、紋理、維度、尺寸、位置及/或其它特征。目標(biāo)物類型信息可以是由用戶輸入的??蛇x地,所述用戶可以選擇以前存在的目標(biāo)物樣式或者類型(如黑色的物體,或者半徑大于、小于或者等于某個值的圓形物體)。在某些實(shí)施例中,用戶可以通過在一個或者多個影像中選擇一個或者多個目標(biāo)物以提供所述目標(biāo)物類型信息。所選擇的目標(biāo)物的特征可以被提取以產(chǎn)生所述目標(biāo)物類型信息,以識別具有相似特征的其它目標(biāo)物。在各個實(shí)施例中,所述特征提取可以由控制終端所執(zhí)行,或者由可移動物體或者第三設(shè)備的處理單元所執(zhí)行。
可選地,目標(biāo)物信息(包括特定的目標(biāo)物信息以及目標(biāo)物的類型信息)包括所識別的目標(biāo)物在被追蹤時應(yīng)該維持的預(yù)期特征。例如,所述目標(biāo)物信息包括目標(biāo)物在影像中的預(yù)期位置,該位置由絕對或者相對坐標(biāo)所表示。所述追蹤系統(tǒng)用于追蹤該目標(biāo)物,以使該目標(biāo)物,在預(yù)設(shè)誤差內(nèi),一段時間內(nèi)維持在相同的位置??蛇x地或者附加地,所述目標(biāo)物信息包括目標(biāo)物在影像中的預(yù)期尺寸,該尺寸由目標(biāo)物所占的像素?cái)?shù)表示。所述追蹤系統(tǒng)用于追蹤該目標(biāo)物,以使該目標(biāo)物,在預(yù)設(shè)誤差內(nèi),一段時間內(nèi)保持具有相同的尺寸。對于指定的目標(biāo)物,所述預(yù)期目標(biāo)物信息可以與初始目標(biāo)物信息相同也可以不同。所述初始目標(biāo)物信息用于識別目標(biāo)物。一旦目標(biāo)物被識別,預(yù)期目標(biāo)物信息用于偵測目標(biāo)物與預(yù)期目標(biāo)物信息的偏差,以使該偏差能夠被校正。在某些實(shí)施例中,所述目標(biāo)物信息也可以包括其它值,如時間值或者期限值,以指示所識別的目標(biāo)物需要追蹤的時間段。所述目標(biāo)物信息還可以包括標(biāo)識,以表示所述目標(biāo)物信息是否包括指定的目標(biāo)物信息或者目標(biāo)物類型信息等。
在某些實(shí)施例中,所述目標(biāo)物需要維持的預(yù)期的目標(biāo)物信息可以由控制終端所提供。例如,所述預(yù)期的目標(biāo)物信息可以基于用戶在控制終端的輸入,或者基于配置文件或者控制終端的本地或遠(yuǎn)程數(shù)據(jù)存儲單元所產(chǎn)生。在某些實(shí)施例中,所述預(yù)期的目標(biāo)物信息可以是由可移動物體所提供。例如,可移動物體可以被配置或者默認(rèn)地,使目標(biāo)物維持在影像大致中心的位置,或者在影像中特定坐標(biāo)處的周圍。又如,可移動物體可以被配置或者默認(rèn)地,使目標(biāo)物在影像設(shè)備所捕獲的影像中維持特定的尺寸。在其它實(shí)施例中,所述預(yù)期的目標(biāo)物信息可以由可移動物體外圍的其它物體或者設(shè)備所提供。
一旦接收了目標(biāo)物信息,方法400包括識別步驟404,以根據(jù)該目標(biāo)物信息,如基于目標(biāo)物類型信息,識別目標(biāo)物。所述識別可以采用任何合適的影像識別技術(shù),包括基于cad模型(cad-like)的物體識別方法(邊緣偵測(edgedetection),基本要素(primalsketch),marr、mohan-nevatia、lowe、及olivierfaugeras識別),基于外表(apprearance-based)的識別方法(如邊緣匹配(edgematching),divide-conquer搜索算法,灰度值匹配(greyscalematching),傾斜度匹配(gradientmatching),感受域直方圖(historgramsofreceptivefieldresponse)、或者大模型(largemodelbases)等),基于特征(feature-based)的識別方法(如解釋樹(interpretationtree),假定及測試(hypothesizing-testing),姿勢一致(poseconsistency),姿勢聚類(poseclustering),恒常性(invariance),幾何散列法(geometrichashing),尺度不變特征轉(zhuǎn)換(scale-invariantfeaturetransform,sift),基于快速魯棒性特征(speededuprobustfeature,surf),基因演算法(geneticalgorithms)等。
一旦目標(biāo)物識別之后,影像設(shè)備捕獲的影像可以用于監(jiān)視以執(zhí)行偵測步驟406,偵測目標(biāo)物需要維持的某種預(yù)期屬性的偏差,所述預(yù)期屬性包括預(yù)期位置及/或者尺寸。如上所描述的,所述預(yù)期目標(biāo)物信息可以由控制終端(如基于用戶的輸入)所提供。所述預(yù)期目標(biāo)物信息也可以由與可移動物體關(guān)聯(lián)的配置文件或者儲存設(shè)備,或者其它的資源所提供。所述預(yù)期目標(biāo)物信息與初始目標(biāo)物信息可以相同也可以不相同。所述目標(biāo)物的偏離可以通過將目標(biāo)物在影像中的當(dāng)前位置、尺寸及/或者其它屬性與預(yù)期屬性相比較得到。這里可以用到任何適用的影像識別技術(shù)。
在某些實(shí)施例中,當(dāng)偵測到的偏差在預(yù)設(shè)的允許范圍內(nèi)時,可以認(rèn)為大致維持了所述預(yù)期目標(biāo)物信息。在這種情況下,所述偏差是可以忽略的,因此,不需要任何的校正調(diào)整。只有當(dāng)偏差超過了所述預(yù)設(shè)的允許范圍時,才需要校正調(diào)整。例如,目標(biāo)物當(dāng)前的位置與預(yù)期坐標(biāo)處只相差幾個像素,該偏差可以忽略,因此不需要調(diào)整校正。相似地,當(dāng)目標(biāo)物當(dāng)前的尺寸與預(yù)期尺寸只相差幾個像素,則該偏差可以忽略。所述預(yù)設(shè)的允許偏差可以根據(jù)系統(tǒng)參數(shù)所設(shè)置,也可以通過用戶操作控制終端所設(shè)置,或者采用其它的方法設(shè)置。
為了校正偏差,維持目標(biāo)物的預(yù)期屬性,執(zhí)行控制指令或者信號產(chǎn)生步驟408,以調(diào)整可移動物體、承載體及/或者影像設(shè)備。在某些實(shí)施例中,目標(biāo)物的位置偏差可以通過改變可移動物體及/或者影像設(shè)備(通過承載體)的姿態(tài)來調(diào)整,詳細(xì)方案將在圖6中介紹。例如,該調(diào)整包括改變可移動物體及/或影像設(shè)備繞著一個或者多個旋轉(zhuǎn)軸的角速度。目標(biāo)物的尺寸偏差可以通過改變可移動物體的位置及/或影像設(shè)備的操作參數(shù)來調(diào)整,詳細(xì)方案將在圖7中介紹。例如,該調(diào)整包括改變可移動物體沿著一個軸的線速度??蛇x地或者附加地,該調(diào)整可以包括改變影像設(shè)備的焦點(diǎn)、焦距或者其它屬性。
在某些實(shí)施例中,所述調(diào)整可以受到系統(tǒng)配置的約束條件、用戶對控制終端的操作或者其它事項(xiàng)所限制。所述約束條件可以包括可移動物體(如其致動系統(tǒng))、承載體(如其致動部件)、影像設(shè)備等的旋轉(zhuǎn)角度、線速度及/或角速度等的最大值/最小值的限制。可以用閾值來限制調(diào)整的范圍。如,可移動物體及/或者影像設(shè)備相對于可移動物體(通過承載體)繞著特定軸的角速度可能受到可移動物體及/或者承載體允許的最大角速度值的限制。又如,可移動物體及/或者影像設(shè)備相對于可移動物體(通過承載體)的線速度可能受到可移動物體及/或者承載體允許的最大線速度值的限制。在某些實(shí)施例中,這樣的限制條件可以是預(yù)設(shè)的并且依賴于可移動物體、承載體及/或影像設(shè)備的特殊配置。在某些實(shí)施例中,所述限制條件是可以修改的(如通過制造商,管理員或者用戶)。
在某些實(shí)施例中,當(dāng)根據(jù)上述描述的限制條件(如移動物體及/或者影像設(shè)備相對于可移動物體(通過承載體)繞著特定軸的角速度可能受到可移動物體及/或者承載體允許的最大角速度值的限制)對所述調(diào)整進(jìn)行修改時,可以提供警告指示。所述警告指示可以是文本的、語音的(警報(bào)器或者蜂鳴聲)、可視的(如某種顏色的燈或者閃爍的燈)、動力的(震動或者運(yùn)動)、或者其它任何適合類型的信號。所述警告指示可以由可移動物體或者其部件所提供??蛇x地或者附加的,所述警告指示可以控制終端(如通過顯示設(shè)備)所提供。在其它實(shí)施例中,所述控制終端可以根據(jù)可移動物體發(fā)送的信號發(fā)出警告指示。
在某些實(shí)施例中,當(dāng)可移動物體在執(zhí)行用戶提供的飛行指令或者在預(yù)設(shè)飛行路線上飛行,及/或者影像設(shè)備捕獲一個或者多個影像時,所述調(diào)整可以幾乎實(shí)時地執(zhí)行。在某些實(shí)施例中,所述調(diào)整可以是基于其它信息所執(zhí)行,如可移動物體所搭載的一個或者多個傳感器(近程傳感器或者gps傳感器)獲取的感應(yīng)數(shù)據(jù)。例如。所追蹤的目標(biāo)物的位置信息可以由一個近程傳感器或者目標(biāo)物本身(gps位置)所提供。除了偵測偏差,該位置信息還用于產(chǎn)生調(diào)整控制信號以追蹤目標(biāo)物。
在各種實(shí)施例中,執(zhí)行偵測步驟406以偵測與預(yù)期目標(biāo)物信息的偏差,及/或者執(zhí)行生成步驟408以生成控制指令,從而校正所偵測到的偏差。該偵測步驟406及/或生成步驟408可以在預(yù)設(shè)的或者不確定的時間段之后重復(fù)執(zhí)行。某些實(shí)施例中,所述偵測步驟406及/或生成步驟408可以每隔一個時間間隔(每0.0.秒、0.1秒、0.2秒、0.5秒或者1秒)重復(fù)執(zhí)行。
圖5是本發(fā)明實(shí)施例中可移動物體、承載體、及負(fù)載的配置500。所述配置500的示例演示了對追蹤目標(biāo)物的可移動物體502及/或負(fù)載506進(jìn)行的調(diào)整。所述可移動物體502及負(fù)載506可以包括上述描述的各實(shí)施例中的任何部件。例如,所述可移動物體502可以包括無人飛行器,及所述負(fù)載506可以包括影像設(shè)備。
所述可移動物體205能夠繞著多達(dá)三個正交軸旋轉(zhuǎn),例如x1(俯仰)軸510、y1(航向)508軸及z1(滾轉(zhuǎn))軸512。所述繞著三個軸旋轉(zhuǎn)可以指的是俯仰旋轉(zhuǎn)522、航向旋轉(zhuǎn)520及滾轉(zhuǎn)旋轉(zhuǎn)524??梢苿游矬w502繞著x1軸、y1軸、z1軸的角速度可以表示為ωx1、ωy1、ωz1。可移動物體502能夠沿著x1軸、y1軸、z1軸平移執(zhí)行運(yùn)動528、526及530??梢苿游矬w502沿著x1軸、y1軸、z1軸的線速度可以分別表示為vx1、vy1、vz1。
在所示例的配置中,負(fù)載506通過承載體504搭載在可移動物體502上。所述承載體504能夠使負(fù)載506相對于可移動物體502繞著及/或者沿著多達(dá)三個正交軸,如x2(俯仰)軸516、y2(航向)軸514及z2(滾轉(zhuǎn))軸518運(yùn)動。所述x2軸、y2軸及z2軸可以分別平行于x1軸、y1軸及z1軸。在某些實(shí)施例中,負(fù)載是包括光學(xué)模塊507的影像設(shè)備,滾轉(zhuǎn)軸z2軸518可以大致平行于光學(xué)模塊507的光路徑及光學(xué)軸。所述光學(xué)模塊507可以與影像傳感器連接,以捕獲影像。承載體504可以根據(jù)與承載體相連接的致動器,如電機(jī)發(fā)出控制信號,使承載體504繞著多達(dá)三個正交軸,如x2(俯仰)軸516、y2(航向)軸514及z2(滾轉(zhuǎn))軸518旋轉(zhuǎn)。繞著三個軸的旋轉(zhuǎn)可以分別指俯仰旋轉(zhuǎn)534,航向旋轉(zhuǎn)532及滾轉(zhuǎn)旋轉(zhuǎn)536。負(fù)載506繞著x2軸、y2軸及z2軸的角速度可以分別表示為為ωx2、ωy2、ωz2。承載體504可以使負(fù)載506相對于可移動物體502沿著x2軸、y2軸及z2軸做平移運(yùn)動540、538及542。負(fù)載506沿著x2軸、y2軸、z2軸的線速度可以分別表示為vx2、vy2、vz2。
在某些實(shí)施例中,所述承載體504可以只允許負(fù)載506相對于可移動物體502繞著及/或者沿著三個軸x2軸、y2軸、z2軸的子集運(yùn)動。例如,承載體504可以只允許負(fù)載506繞著x2軸、y2軸、z2軸或者其中任意軸的結(jié)合旋轉(zhuǎn)運(yùn)動,而不允許負(fù)載506沿著任何軸平移運(yùn)動。例如,承載體504可以允許負(fù)載506只繞著x2軸、y2軸及z2軸中的其中一個軸旋轉(zhuǎn)。承載體504可以允許負(fù)載506只繞著x2軸、y2軸及z2軸中的其中兩個軸旋轉(zhuǎn)。承載體504可以允許負(fù)載506繞著x2軸、y2軸及z2軸中的其中三個軸旋轉(zhuǎn)。
在某些實(shí)施例中,所述承載體504可以只允許負(fù)載506沿著x2軸、y2軸及z2軸或者其中任意軸的結(jié)合平移運(yùn)動,而不允許負(fù)載506繞著任何軸旋轉(zhuǎn)運(yùn)動。例如,承載體504可以允許負(fù)載506只沿著x2軸、y2軸及z2軸中的其中一個軸運(yùn)動。承載體504可以允許負(fù)載506只沿著x2軸、y2軸及z2軸中的其中兩個軸運(yùn)動。承載體504可以允許負(fù)載506沿著x2軸、y2軸及z2軸中的其中三個軸運(yùn)動。
在某些實(shí)施例中,所述承載體504可以允許負(fù)載506相對于可移動物體執(zhí)行旋轉(zhuǎn)運(yùn)動及平移運(yùn)動。例如,承載體504可以允許負(fù)載506沿著及/或者繞著x2軸、y2軸及z2軸中的其中一個軸、兩個軸或者三個軸運(yùn)動。
在某些實(shí)施例中,所述負(fù)載506可以直接搭載在可移動物體502上而不需要承載體504,或者承載體504不允許負(fù)載506相對于可移動物體運(yùn)動。在這種情況下,負(fù)載506的姿態(tài)、位置及/或者方向相對于可移動物體502是固定的。
在各個實(shí)施例中,負(fù)載506的姿態(tài)、方向及/或位置的調(diào)整可以,單獨(dú)地或者共同地,通過對可移動物體502、承載體504及/或負(fù)載506的適度調(diào)整實(shí)現(xiàn)。例如,負(fù)載506繞著指定軸(如航向軸)旋轉(zhuǎn)60度可以通過如下方法實(shí)現(xiàn):可移動物體單獨(dú)旋轉(zhuǎn)60度、通過承載體致動使負(fù)載相對于可移動物體旋轉(zhuǎn)60度、可移動物體旋轉(zhuǎn)40度同時負(fù)載相對于可移動物體旋轉(zhuǎn)20度。
相似地,負(fù)載的平移運(yùn)動可以,單獨(dú)地或者結(jié)合的,通過對可移動物體502及承載體504的適度調(diào)整實(shí)現(xiàn)。附加地或者可選地,所述調(diào)整可以通過對負(fù)載的操作參數(shù)的調(diào)整來完成。所述負(fù)載的操作參數(shù)可以包括,如影像設(shè)備的變焦程度或者焦距。
圖6是本發(fā)明實(shí)施例中維持目標(biāo)物的預(yù)期位置的追蹤方法的示意圖。圖6顯示了影像600,該影像可以是可移動物體所搭載的影像設(shè)備所捕獲。假設(shè)影像600的寬度是w像素,高是h像素(其中w和h都是正整數(shù))。影像中的任一位置可以由水平軸601(沿著影像的寬度方向)以及豎直軸603(沿著影像的高度方向)的一對坐標(biāo)所指示,其中,影像左上角的坐標(biāo)為(0,0)以及右下角的坐標(biāo)為(w,h)。
假設(shè)影像600所捕獲到的目標(biāo)物位于位置p(u,v)602,而目標(biāo)物的預(yù)期位置是p0(u0,v0)604,其與位置p602不同。在某些實(shí)施例中,所述目標(biāo)物的預(yù)期位置p0(u0,v0)可能是靠近影像中心的位置,于是u0=w/2,及/或v0=h/2。在其它實(shí)施例中,目標(biāo)物預(yù)期位置可以是影像中的任何位置(如偏離中心的位置)。在各種實(shí)施例中,目標(biāo)物預(yù)期位置與目標(biāo)物初始位置(如控制終端所提供的)可以相同也可以不相同。假設(shè)當(dāng)前的位置p與預(yù)期的位置p0有一個偏差,且該偏差超過了預(yù)設(shè)閾值(與u0的偏差可以表示為δx,與v0的偏差可以表示為δy),因此需要調(diào)整,以使目標(biāo)物的位置從p點(diǎn)移動到接近預(yù)期位置p0處。
在某些實(shí)施例中,與預(yù)期目標(biāo)物位置的偏差可以用于計(jì)算一個或者多個角速度,以繞著一個或者多個軸旋轉(zhuǎn)影像設(shè)備的視場。例如,沿著影像中水平軸601的偏差(例如,位于u與u0之間),用于計(jì)算一個角速度ωy610,以繞著y軸(航向軸)606旋轉(zhuǎn)所述影像設(shè)備的視場。所述ωy可以通過如下公式計(jì)算:
ωy=α*(u-u0),其中,α∈r(實(shí)數(shù))(1)。
所述影像設(shè)備的視場繞著y軸的旋轉(zhuǎn)可以通過可移動物體的旋轉(zhuǎn)、負(fù)載相對于可移動物體的旋轉(zhuǎn)(通過承載體)、或者兩者的結(jié)合所實(shí)現(xiàn)。在某些實(shí)施例中,當(dāng)對可移動物體的調(diào)整是不可行的,或者是不希望的,如可移動物體的飛行線路是預(yù)設(shè),此時,需要選擇調(diào)整負(fù)載。在公式(1)中,α是常數(shù),可以預(yù)設(shè)及/或者可以是校準(zhǔn)值,所述校準(zhǔn)是基于可移動物體的配置(如旋轉(zhuǎn)操作是由可移動物體所執(zhí)行)、承載體的配置(如旋轉(zhuǎn)操作是由承載體所執(zhí)行)、或者兩者的結(jié)合(如旋轉(zhuǎn)操作是由可移動物體及承載體共同執(zhí)行)。在某些實(shí)施例中,α大于0(α>0),在其它實(shí)施例中,α可能不大于0(α≤0)。在某些實(shí)施例中,α可以用于將計(jì)算得到的像素值映射到對應(yīng)的操縱量以及靈敏度,以控制繞著特定軸(如航向軸)的角速度。一般來說,操縱桿可以用于控制可控制物體(如無人飛行器或者承載體)的角運(yùn)動及線運(yùn)行。較多的操縱量對應(yīng)較高的靈敏度及較快的速度(如線運(yùn)動或者角運(yùn)動)。在某些實(shí)施例中,操縱量或者范圍可以根據(jù)無人飛行器的飛行控制系統(tǒng)的配置文件或者承載體的控制系統(tǒng)的配置參數(shù)所確定。操縱量范圍的最大值及最小值可以是任意的值,例如對于一個飛行控制系統(tǒng),其操縱量范圍可以是(1000,-1000),對于另一個飛行控制系統(tǒng),其操縱量范圍可以是(-1000,1000)。
例如,假設(shè)影像的寬度為w=1024個像素,高度為h=768個像素值。因此,該影像的尺寸為1024*768。進(jìn)一步假設(shè),目標(biāo)物的預(yù)期位置中u0=512。因此,(u-u0)∈(-512,512)。假設(shè)繞航向軸的操縱量范圍是(1000,-1000),則最大的操縱量值或者最大的靈敏度為1000,及α=1000/512。因此,α的值可以受到影像分辨率、影像的尺寸、操縱桿的數(shù)量范圍(繞著某一特定的旋轉(zhuǎn)軸)、最大的操縱量值或者最大的靈敏度、及/或其它因素的影響。
例如,當(dāng)所述旋轉(zhuǎn)是由可移動物體的旋轉(zhuǎn)所實(shí)現(xiàn)時,圖6中的y軸606對應(yīng)圖5中演示的可移動物體的y1軸508,以及視場的總角速度ωy可以表示為可移動物體的角速度ωy1:
ωy=ωy1=α1*(u-u0),其中,α1∈r(2)。
在公式(2)中,α1是基于可移動物體的配置所定義的常數(shù)。在某些實(shí)施例中,α1大于0(α1>0)。α1可以與上述討論的α相似。例如,α1的值可以基于影像分辨率或尺寸及/或可移動物體的操縱量范圍(如繞著航向軸)所定義。
相似地,當(dāng)所述旋轉(zhuǎn)是通過負(fù)載相對于可移動物體(如通過負(fù)載)實(shí)現(xiàn)的,則圖6中的y軸606對應(yīng)圖5中演示的負(fù)載的y2軸514,以及視場的總角速度ωy可以表示為負(fù)載相對于可移動物體的角速度ωy2:
ωy=ωy2=α2*(u-u0),其中,α2∈r(3)。
在公式(3)中,α2是基于承載體及/或負(fù)載的配置所定義的常數(shù)。在某些實(shí)施例中,α2大于0(α2>0)。α2可以與上述討論的α相似。例如,α2的值可以基于影像分辨率或尺寸及/或承載體的操縱量范圍(如繞著航向軸)所定義。
一般,視場繞y(航向)軸的角速度可以表示為可移動物體的角速度ωy1與負(fù)載相對于可移動物體的角速度ωy2的結(jié)合,如下所述:
ωy=ωy1+ωy2(4)。
在公式(4)中,ωy1或者ωy2可以是0。
如所演示的,繞著y(航向)軸旋轉(zhuǎn)的方向可以依賴于符號u-u0。例如,如果所預(yù)期的方向在實(shí)際方向的右側(cè)(如圖6中所演示的),則u-u0<0,所述視場需要繞著航向軸606逆時針旋轉(zhuǎn)(如向左轉(zhuǎn)),以使可移動物體到預(yù)期位置。相反地,如果所預(yù)期方向在實(shí)際方向的左側(cè),則u-u0>0,所述視場需要繞著航向軸606順時針旋轉(zhuǎn)(如向右轉(zhuǎn)),以使可移動物體到預(yù)期位置。
如所演示的,繞著指定軸(如y(航向)軸)的旋轉(zhuǎn)速度(角速度的絕對值)可以依賴于目標(biāo)物沿著該軸的預(yù)期位置與實(shí)際位置之間的距離(如|u-u0|)。所述距離越遠(yuǎn),旋轉(zhuǎn)速度值越大。相同地,所述距離越近,旋轉(zhuǎn)速度值越小。當(dāng)目標(biāo)物沿著該軸的預(yù)期位置與實(shí)際位置相同時(如u=u0),則繞著該軸的旋轉(zhuǎn)速度為零,停止旋轉(zhuǎn)。
如上所述調(diào)整實(shí)際目標(biāo)物位置與預(yù)期目標(biāo)物位置沿著水平軸601的偏差的方法同樣適用于校正目標(biāo)物沿著不同的軸603的偏差。例如,沿著影像中豎直軸603的偏差(例如,位于v與v0之間),用于計(jì)算角速度ωx612,以繞著x軸(俯仰軸)608旋轉(zhuǎn)所述影像設(shè)備的視場。所述ωx可以通過如下公式計(jì)算:
ωx=β*(v-v0),其中,β∈r(5)。
所述影像設(shè)備的視場繞著x軸的旋轉(zhuǎn)可以通過可移動物體的旋轉(zhuǎn)、負(fù)載相對于可移動物體的旋轉(zhuǎn)(通過承載體)、或者兩者的結(jié)合所實(shí)現(xiàn)。因此,在公式(5)中,β是常數(shù),可以預(yù)設(shè)及/或者可以被校準(zhǔn),所述校準(zhǔn)基于可移動物體的配置(如旋轉(zhuǎn)操作是由可移動物體所執(zhí)行)、承載體的配置(如旋轉(zhuǎn)操作是由承載體所執(zhí)行)、或者兩者的結(jié)合(如旋轉(zhuǎn)操作是由可移動物體及承載體共同執(zhí)行)。在某些實(shí)施例中,β大于0(β>0),在其它實(shí)施例中,β可能不大于0(β≤0)。在某些實(shí)施例中,β可以用于將計(jì)算得到的像素值映射到對應(yīng)的操縱量,以控制繞特定軸(如俯仰軸)的角速度。一般來說,操縱桿可以用于控制可控制物體(如無人飛行器或者承載體)的角運(yùn)動及線運(yùn)動。較多的操縱量對應(yīng)較高的靈敏度及較快的速度(如線運(yùn)動或者角運(yùn)動)。在某些實(shí)施例中,操縱量或者范圍可以根據(jù)無人飛行器的飛行控制系統(tǒng)的配置文件或者承載體的控制系統(tǒng)的配置參數(shù)所確定。操縱量范圍的最大值及最小值可以是任意值,例如對于一個飛行控制系統(tǒng),其操縱量范圍可以是(1000,-1000),對于另一個飛行控制系統(tǒng),其操縱量范圍可以是(-1000,1000)。
例如,假設(shè)影像的寬度為w=1024個像素,高度為h=768個像素值。因此,該影像的尺寸為1024*768。進(jìn)一步假設(shè),目標(biāo)物的預(yù)期位置中v0=384。因此,(v-v0)∈(-384,384)。假設(shè)繞俯仰軸的操縱量范圍是(-1000,1000),則最大的操縱量值或者最大的靈敏度為1000,及β=1000/384。因此,β的值可以受到影像分辨率、影像的尺寸、操縱桿的數(shù)量范圍(繞著某一特定的旋轉(zhuǎn)軸)、最大的操縱量值或者最大的靈敏度、及/或其它因素影響。
例如,當(dāng)所述旋轉(zhuǎn)是由可移動物體的旋轉(zhuǎn)所實(shí)現(xiàn)時,圖6中的x軸608對應(yīng)圖5中演示的可移動物體的x1軸510,以及視場的總角速度ωx可以表示為可移動物體的角速度ωx1:
ωx=ωx1=β1*(v-v0),其中,β1∈r(6)。
在公式(6)中,β1是基于可移動物體的配置所定義的常數(shù)。在某些實(shí)施例中,β1大于0(p1>0)。p1可以與上述討論的α相似。例如,β1的值可以基于影像分辨率或尺寸及/或可移動物體的操縱量范圍(如繞著俯仰軸)所定義。
相似地,當(dāng)所述旋轉(zhuǎn)是通過負(fù)載相對于可移動物體(如通過負(fù)載)實(shí)現(xiàn)的,則圖6中的x軸608對應(yīng)圖5中演示的負(fù)載的x2軸516,以及視場的角速度ωx可以表示為負(fù)載相對于可移動物體的角速度ωx2:
ωx=ωx2=β2*(v-v0),其中,β2∈r(6)。
在公式(6)中,β2是基于承載體及/或負(fù)載的配置所定義的常數(shù)。在某些實(shí)施例中,β2大于0(β2>0)。β2可以與上述討論的β相似。例如,β2的值可以基于影像分辨率或尺寸及/或承載體的操縱量范圍(如繞著俯仰軸)所定義。
一般,視場繞x(俯仰)軸608的角速度可以表示為可移動物體的角速度ωx1與負(fù)載相對于可移動物體的角速度ωx2的結(jié)合,如下所述,
ωx=ωx1+ωx2(7)。
在公式(7)中,ωx1或者ωx2可以是0。
如所演示的,繞著x(俯仰)軸旋轉(zhuǎn)的方向可以依賴于符號v-v0。例如,如果預(yù)期方向在實(shí)際方向的上側(cè)(如圖6中所演示的),則u-u0>0,所述視場需要繞著俯仰軸608順時針旋轉(zhuǎn)(如向下俯看),以使可移動物體到預(yù)期位置。相反地,如果預(yù)期方向在實(shí)際方向的下側(cè),則u-u0<0,所述視場需要繞著俯仰軸608逆時針旋轉(zhuǎn)(如向上仰),以使可移動物體到預(yù)期位置。
如所演示的,旋轉(zhuǎn)速度(角速度的絕對值)可以依賴于目標(biāo)物沿著指定軸(如x(俯仰)軸)的預(yù)期位置與實(shí)際的位置之間的距離(如|v-v0|)。所述距離越遠(yuǎn),旋轉(zhuǎn)速度值越大。所述距離越近,旋轉(zhuǎn)速度值越小。當(dāng)目標(biāo)物沿著該軸的預(yù)期位置與實(shí)際位置相同時(如v=v0),則繞著該軸的旋轉(zhuǎn)速度為零,停止旋轉(zhuǎn)。
在某些實(shí)施例中,計(jì)算出來的角速度的值可能會受到限制或者根據(jù)本案的各種限制而需要修改。所述限制包括可移動物體及/或影像設(shè)備所能達(dá)到的最大及/或者最小的速度、可移動物體及/或承載體等的控制系統(tǒng)的操縱量的范圍或者最大的操縱量或者最大的靈敏度。例如,旋轉(zhuǎn)速度可能是計(jì)算出來的旋轉(zhuǎn)速度與所允許的最大速度兩者中的較小值。
在某些實(shí)施例中,當(dāng)所計(jì)算出來的角速度根據(jù)上述的限制需要修改時,可以提供警告指示。所述警告指示可以是文本的、語音的(警報(bào)器或者蜂鳴聲)、可視的(如某種顏色的燈或者閃爍的燈)、機(jī)械的或者其它任何適合類型的信號。所述警告指示可以由可移動物體、承載體、載荷或者其中的結(jié)合所直接提供??蛇x地或者附加的,所述警告指示可以由控制終端(如通過顯示設(shè)備)所提供。在后續(xù)的實(shí)施例中,所述控制終端可以根據(jù)可移動物體發(fā)送的信號發(fā)出警告指示。
圖7是本發(fā)明實(shí)施例中維持目標(biāo)物的預(yù)期尺寸的追蹤方法的示意圖。圖7中顯示了影像700,該影像700可以是可移動物體所搭載的影像設(shè)備所捕獲。假設(shè)影像700中捕獲到了目標(biāo)物702。目標(biāo)物在影像中的實(shí)際尺寸可以是s個像素(例如,根據(jù)目標(biāo)物的寬度和高度所計(jì)算)。目標(biāo)物的預(yù)期尺寸s可能小于(預(yù)期尺寸可以表示為704,且s=s0)或者大于(預(yù)期尺寸可以表示為705,且s=s1)所述實(shí)際尺寸s。目標(biāo)物的預(yù)期尺寸與目標(biāo)物的初始尺寸(由控制終端所提供)可以相同也可以不相同。假設(shè)當(dāng)前的尺寸s與預(yù)期尺寸s0或者s1有偏差,且偏差值大于預(yù)設(shè)閾值(如預(yù)設(shè)δs個像素),則需要執(zhí)行調(diào)整以使目標(biāo)物的尺寸接近預(yù)期尺寸s0或者s1。
盡管影像的顯示區(qū)域以及目標(biāo)物顯示為矩形,這只是演示的目的而非限制。在各種實(shí)施例中,所述影像的顯示區(qū)域及/或者目標(biāo)物可以是任何適用的形狀,如圓形、橢圓形、多邊形等。相似地,盡管這里描述的面積表示為像素,這也僅僅是演示的目的而非限制。在其它實(shí)施例中,所述面積也可以表示為任何合適的單元,如百萬像素、mm2、cm2、inch2等。
在某些實(shí)施例中,所述目標(biāo)物的預(yù)期尺寸的偏差可以用于計(jì)算可移動物體及/或影像設(shè)備沿著一個或者多個軸的線速度。例如目標(biāo)物的實(shí)際尺寸s與預(yù)期尺寸s(如s=s0或者s1)之間的偏差可以用于計(jì)算可移動物體沿著z(滾轉(zhuǎn))軸的線速度v,如下:
v=δ*(1-s/s),其中,δ∈r(8)。
在公式(8)中,δ是基于可移動物體或者任何適合的可控制的物體(如承載體)的配置所定義的常數(shù),以使影像設(shè)備的視場朝向目標(biāo)物或者或者遠(yuǎn)離目標(biāo)物的方向運(yùn)動。在某些實(shí)施例中,δ大于0(δ>0),在其它實(shí)施例中,δ可能不大于0(δ≤0)。在某些實(shí)施例中,δ可以用于將計(jì)算得到的像素值映射為對應(yīng)的操縱量以及靈敏度以控制線性速度。
通常,v代表可移動物體朝向或者遠(yuǎn)離目標(biāo)物的速度。所述速度的矢量是從無人飛行器指向目標(biāo)物。如果目標(biāo)物的實(shí)際尺寸s小于預(yù)期尺寸s,則v>0,可移動物體朝向目標(biāo)物運(yùn)動,以增加影像中所捕獲的目標(biāo)物的尺寸。相反,如果目標(biāo)物的實(shí)際尺寸s大于預(yù)期尺寸s,則v<0,可移動物體遠(yuǎn)離目標(biāo)物運(yùn)動,以減小影像中所捕獲的目標(biāo)物的尺寸。
例如,假設(shè)影像的寬度為w=1024個像素,高度為h=768個像素值。因此,該影像的尺寸為1024*768。進(jìn)一步,假設(shè)控制線速度的操縱量范圍是(-1000,1000)。在一個實(shí)施例中,當(dāng)s/s=3時,δ=-1000,當(dāng)s/s=1/3時,δ=1000。
在某些實(shí)施例中,計(jì)算出來的線速度的值可能會受到限制或者根據(jù)本案的各種限制而需要修改。所述限制包括可移動物體及/或影像設(shè)備所能達(dá)到的最大及/或者最小的速度、可移動物體及/或承載體等的控制系統(tǒng)的最大的靈敏度等。例如,可移動物體的速度可能是計(jì)算出來的速度與所允許的最大速度兩者中的較小值。
可選地或者附加地,所述目標(biāo)物的實(shí)際尺寸與預(yù)期尺寸的偏差可以用于調(diào)整影像設(shè)備的操作參數(shù)。所述操作參數(shù)如變焦水平、焦距等,用以校正該偏差。當(dāng)調(diào)整可移動物體是不可行的或者不希望的,如當(dāng)可移動物體的飛行線路是預(yù)定的,則可能需要對影像設(shè)備進(jìn)行調(diào)整。對所述焦點(diǎn)f的調(diào)整可以用如下公式表示:
f=γ*(1-s/s),其中,γ∈r(9)。
在公式(9)中,γ是基于影像設(shè)備的配置所定義的常數(shù)。在某些實(shí)施例中,γ大于0(γ>0),在其它實(shí)施例中,γ可能不大于0(γ≤0)。γ的值可以根據(jù)鏡像設(shè)備或者鏡頭的類型所確定。
如果目標(biāo)物的實(shí)際尺寸s小于預(yù)期尺寸s,則f>0。焦距增加|f|,使得影像中所捕獲的目標(biāo)物的尺寸變大。另一方面,如果目標(biāo)物的實(shí)際尺寸s大于預(yù)期尺寸s,則f<0。焦距減少|(zhì)f|,使得影像中所捕獲的目標(biāo)物的尺寸變小。例如,在一個實(shí)施例中,γ=10,這意味著,例如,當(dāng)目標(biāo)物的實(shí)際尺寸是預(yù)期尺寸的2倍時,焦距應(yīng)該對應(yīng)減少10mm,(如f=10*(1-2/1)=-10),反之亦然。
在某些實(shí)施例中,所述影像設(shè)備操作參數(shù)的調(diào)整可以受到限制或者根據(jù)本案的各種限制而需要修改。所述限制包括,例如,影像設(shè)備所能達(dá)到的最大及/或最小的焦距。例如,假設(shè)所述焦距范圍為(20mm,58mm),進(jìn)一步假設(shè),初始焦距為40mm。則當(dāng)s>s時,所述焦距應(yīng)該根據(jù)公式(9)減少。則當(dāng)s<s時,所述焦距應(yīng)該根據(jù)公式(9)增加。然而,焦距的調(diào)整會受到焦距范圍的最大值與最小值(如從20mm到58mm)的限制。換句話說,調(diào)整的焦距應(yīng)該不小于焦距的最小值(如20mm),不大于焦距的最大值(如58mm)。
如上述圖6中所討論的,當(dāng)所計(jì)算的調(diào)整(如可移動物體的線速度或者焦距)根據(jù)上述的限制修改時,會提供警告指示。所述警告指示可以是文本的、語音的(警報(bào)器或者蜂鳴聲)、可視的(如某種顏色的燈或者閃爍的燈)、機(jī)械的或者其它任何適合類型的信號。所述警告指示可以由可移動物體、承載體、負(fù)載或者其中的結(jié)合所直接提供。可選地或者附加的,所述警告指示可以由控制終端(如通過顯示設(shè)備)所提供。在后續(xù)的實(shí)施例中,所述控制終端可以根據(jù)可移動物體發(fā)送的信號發(fā)出警告指示。
根據(jù)本發(fā)明的其它方面,本發(fā)明提供利用搭載在可移動物體上的影像設(shè)備追蹤目標(biāo)物的方法及系統(tǒng),所述可移動物體可以通過飛行指令控制其飛行。
圖8是本發(fā)明執(zhí)行目標(biāo)物追蹤的實(shí)施例中另一方法800的流程圖。所述方法800可以由所描述的可移動物體的一個或者多個處理器所執(zhí)行。所述可移動物體如無人飛行器。
所述方法800包括接收步驟802,接收用戶的飛行指令以及目標(biāo)物信息,所述飛行指令以及目標(biāo)物信息可以是,例如,從遠(yuǎn)程控制終端所接收。所述飛行指令用于控制可移動物體的飛行參數(shù),如可移動物體的位置、速度、方向、或者姿態(tài)。在某些實(shí)施例中,所述飛行指令可以包括用于使可移動物體執(zhí)行預(yù)存的關(guān)于預(yù)設(shè)飛行線路的飛行指令。所述方法800進(jìn)一步包括控制步驟804,控制可移動物體根據(jù)用戶指定或者預(yù)先存儲的飛行線路飛行。
所述目標(biāo)物信息包括特定目標(biāo)物的初始目標(biāo)物信息(如位置及/或尺寸),所述特定目標(biāo)物可以是用戶通過操作控制終端所選擇的,也可以是根據(jù)目標(biāo)物類型信息所選擇的,所述目標(biāo)物類型信息如顏色、紋理、樣式、尺寸、形狀、維度等。
所述目標(biāo)物信息也可以包括預(yù)期目標(biāo)物信息(如位置及/或尺寸)。所述預(yù)期目標(biāo)物信息指定所追蹤的目標(biāo)物在影像設(shè)備所捕獲的影像中所需滿足的一些特征。例如,所追蹤的目標(biāo)物在影像設(shè)備所捕獲的影像中維持預(yù)期位置及/或者尺寸。例如,所追蹤的目標(biāo)物的預(yù)期位置是在影像中心位置或者偏離影像的中心位置。所追蹤的目標(biāo)物的預(yù)期尺寸可以是大概包括一定數(shù)量的像素(如初始目標(biāo)物尺寸)。在各種實(shí)施例中,預(yù)期目標(biāo)物信息可以由控制終端提供,也可以不是由控制終端提供。例如,預(yù)期目標(biāo)物信息可以以硬編碼的形式記錄在可移動物體的處理單元所執(zhí)行的邏輯電路中,存儲在可移動物體本地及/或者遠(yuǎn)程的數(shù)據(jù)存儲單元中,或者從其它合適的來源獲取。
在某些實(shí)施例中,所述目標(biāo)物信息(包括指定的目標(biāo)物信息及目標(biāo)物的類型信息)中的至少一部分可以通過控制終端112的用戶輸入產(chǎn)生。附加地或者可選地,所述目標(biāo)物信息可以通過其它的來源產(chǎn)生。例如,所述目標(biāo)物的類型信息可以來自于本地或者遠(yuǎn)程的數(shù)據(jù)存儲單元中以前的影像或者數(shù)據(jù)。所述目標(biāo)物的類型信息可以是用戶選擇的,也可以是可移動物體所默認(rèn)提供的。
所述方法800包括調(diào)整步驟806,根據(jù)所述目標(biāo)物信息調(diào)整可移動物體,承載體及/或影像設(shè)備,以根據(jù)目標(biāo)物信息追蹤目標(biāo)物。所述追蹤以及其它任何相關(guān)的數(shù)據(jù)處理可以由可移動物體內(nèi)部的、遠(yuǎn)程的或者其結(jié)合的一個或者多個處理器所執(zhí)行。在某些實(shí)施例中,所述目標(biāo)物信息可以用于可移動物體識別所需追蹤的目標(biāo)物。目標(biāo)物的識別可以是基于初始目標(biāo)物信息,包括特定目標(biāo)物的明確特征(基于目標(biāo)物在可移動物體捕獲的影像中的坐標(biāo))或者包括在目標(biāo)物信息中的一類目標(biāo)物的類型信息。
一旦識別到目標(biāo)物,預(yù)期目標(biāo)物信息(目標(biāo)物信息的一部分)可以用來偵測目標(biāo)物預(yù)期特征的偏差,所述預(yù)期特征如預(yù)期位置及/或尺寸。所述偏差可以通過如下方法偵測:比較目標(biāo)物在可移動物體所捕獲的一系列影像中的特征(如位置及/或者尺寸),以確定該特征在某個影像中是否有變化。所述一系列的影像可以是可移動物體在不同時間點(diǎn)捕獲的。通過將影像中目標(biāo)物的中心點(diǎn)坐標(biāo)與預(yù)期目標(biāo)物位置的坐標(biāo)相比較,可以偵測到目標(biāo)物位置的變化。通過將目標(biāo)物在影像中所占的面積的尺寸與目標(biāo)物的預(yù)期尺寸相比較,可以偵測到目標(biāo)物尺寸的變化。
基于偵測到的偏差中的至少一部分,自動產(chǎn)生控制信號(如通過可移動物體的一個或者多個處理器),該控制信號與可移動物體、承載體、影像設(shè)備及/或者其中任何合適部件相關(guān)。所述控制信號可以用于大致校正所偵測到的偏差。在某些實(shí)施例中,所述調(diào)整用于當(dāng)可移動物體根據(jù)用戶提供的飛行指令飛行時,大致地維持目標(biāo)物在可移動物體所捕獲的影像中的一種或者多種預(yù)期特征(如目標(biāo)物位置及/或尺寸)。當(dāng)可移動物體執(zhí)行用戶提供的飛行指令或者預(yù)存儲的飛行線路時,及/或影像設(shè)備在捕獲一個或者多個影像時,所述調(diào)整大致實(shí)時的執(zhí)行。在某些實(shí)施例中,所述調(diào)整是基于其它信息所產(chǎn)生,如可移動物體上的一個或者多個傳感器(如近程傳感器或者gps傳感器)獲取的感測數(shù)據(jù)。例如,所追蹤的目標(biāo)物的位置信息可以由近程傳感器所獲得或者由目標(biāo)物本身所提供(如gps位置)。除了偵測偏差,所述位置信息還用于產(chǎn)生調(diào)整控制信號以追蹤所述目標(biāo)物。
在某些實(shí)施例中,當(dāng)可移動物體根據(jù)用戶提供的飛行指令或者預(yù)設(shè)飛行路線飛行時,對于目標(biāo)物追蹤的調(diào)整只限于承載體及/或影像設(shè)備,而不影響可移動物體本身的狀態(tài)(如姿態(tài)、位置、方向或者速度)。這是因?yàn)楫?dāng)可移動物體執(zhí)行用戶提供的飛行指令或者預(yù)存儲的飛行線路時,不能或者不想調(diào)整可移動物體。例如,這樣的調(diào)整可以是承載體相對于可移動物體繞著或者沿著一個、兩個或者更多的軸移動所述影像設(shè)備,以補(bǔ)償目標(biāo)物與預(yù)期的位置的偏差。附加地或者可選地,所述調(diào)整可以是影像設(shè)備的焦距、變焦、焦點(diǎn)或者其它操作參數(shù)的調(diào)整,以補(bǔ)償目標(biāo)物與預(yù)期尺寸的偏差。這樣的調(diào)整方法在圖6至7的描述中有討論。在其它實(shí)施例中,所述調(diào)整也包括對可移動物體的調(diào)整。
根據(jù)本發(fā)明的另一方面,提供控制可移動物體的系統(tǒng)及方法,以在追蹤一個目標(biāo)物時,控制可移動物體根據(jù)一個或者多個飛行指令飛行。圖9是本發(fā)明實(shí)施例中控制可移動物體執(zhí)行飛行以及追蹤的方法900的流程圖。方法900可以由控制終端所執(zhí)行。例如,所述控制終端可以是手持式的或者可穿戴式的。例如,控制終端可以包括智能手機(jī)、平板電腦、筆記本電腦、計(jì)算機(jī)、眼鏡、手套、頭盔、麥克、或者任何的結(jié)合。
方法900包括接收步驟902,以接收用戶關(guān)于飛行的輸入。所述關(guān)于飛行的輸入用于產(chǎn)生飛行指令以控制可移動物體或者其部件的結(jié)合,如圖8中的描述。所述關(guān)于飛行的輸入可以是通過控制終端提供的用戶界面所提供,所述用戶界面如鍵盤、鼠標(biāo)、操縱桿、觸摸屏、按鍵、麥克風(fēng)、網(wǎng)絡(luò)攝像頭等。任何適合的用戶輸入可以用于與控制終端交互,如手工輸入指令、聲音控制、手勢控制、或者位置控制(如控制終端的運(yùn)動、方位或者姿態(tài))。
所述方法900進(jìn)一步包括接收步驟904,以接收用戶關(guān)于追蹤的輸入。所述關(guān)于追蹤的輸入用于產(chǎn)生可移動物體所追蹤的目標(biāo)物的目標(biāo)物信息或者目標(biāo)物的類型信息。所述關(guān)于追蹤的輸入可以使用如上所述關(guān)于飛行的輸入相同或者不同的手段。在一個例子中,關(guān)于追蹤的輸入可以是通過觸摸屏所提供,而關(guān)于飛行的輸入是由操縱桿或者偵測控制終端的姿態(tài)變化(如繞著一個旋轉(zhuǎn)軸旋轉(zhuǎn)控制終端)的慣性傳感器所提供。在另一個例子中,關(guān)于飛行的輸入以及關(guān)于追蹤的輸入都是通過相同的用戶界面,如通過觸摸屏、鍵盤、鼠標(biāo)或者操縱桿所提供。
在某些實(shí)施例中,關(guān)于飛行的輸入以及關(guān)于追蹤的輸入可以通過兩個或者更多的用戶界面所提供。例如,關(guān)于飛行的輸入是通過操縱桿及觸摸屏所提供。以及關(guān)于追蹤的輸入是通過觸摸屏、操縱桿及鍵盤所提供。
所述方法900包括飛行指令產(chǎn)生步驟906,以根據(jù)關(guān)于飛行的輸入產(chǎn)生可移動物體的飛行指令。例如,用戶沿著或者繞著一個或者多個預(yù)定的軸運(yùn)動,操縱桿產(chǎn)生的機(jī)械信號會轉(zhuǎn)換成可移動物體沿著對應(yīng)軸(俯仰軸、航向軸、滾轉(zhuǎn)軸)運(yùn)動的飛行指令。又如,用戶與用戶界面的交互(如移動代表可移動物體方向或者位置的圖標(biāo))可以轉(zhuǎn)換為對應(yīng)的飛行指令。又如,用戶沿著或者繞著一個或者多個預(yù)定的軸運(yùn)動,控制終端的動作可以通過一個或者多個慣性傳感器所偵測,并產(chǎn)生可移動物體沿著對應(yīng)軸(俯仰軸、航向軸、滾轉(zhuǎn)軸)運(yùn)動的飛行指令。除了關(guān)于飛行的輸入,所述飛行指令也可以基于其它的數(shù)據(jù)所產(chǎn)生,如可移動物體感測到的感測數(shù)據(jù)。
所述方法900包括目標(biāo)物信息產(chǎn)生步驟908,以根據(jù)關(guān)于追蹤的輸入產(chǎn)生目標(biāo)物信息,用于可移動物體追蹤一個或者多個目標(biāo)物。所述目標(biāo)物信息包括初始目標(biāo)物信息及/或者預(yù)期目標(biāo)物信息。所述初始目標(biāo)物信息包括特殊的目標(biāo)物的指定特征(例如目標(biāo)物在可移動物體所捕獲的影像中的初始坐標(biāo)),或者一類目標(biāo)物的通用特征(例如所要追蹤的目標(biāo)物的顏色或者紋理)。初始目標(biāo)物信息可以用于,例如,從一個或者多個影像中,識別所要追蹤的目標(biāo)物。預(yù)期目標(biāo)物信息可以用于偵測該目標(biāo)物與預(yù)期特征的偏離,所述預(yù)期特征如預(yù)期位置及/或者尺寸。在某些實(shí)施例中,預(yù)期目標(biāo)物信息可以是可選的,部分或者全部的初始目標(biāo)物信息可以用作預(yù)期目標(biāo)物信息。
方法900可以進(jìn)一步包括接收用戶輸入及產(chǎn)生的指令,用以控制承載體及/或影像設(shè)備。所述控制包括通過承載體改變影像設(shè)備的方向或者姿態(tài)、調(diào)整影像設(shè)備的一個或者多個操作信號(如變焦)等。
在某些實(shí)施例中,如下述圖10中詳細(xì)描述,用戶可以在圖形用戶界面選擇目標(biāo)物的坐標(biāo)、尺寸或者其它特征,并且用該選擇的特征產(chǎn)生初始或者預(yù)期目標(biāo)物信息。
在某些實(shí)施例中,方法900可以進(jìn)一步包括提供步驟910,以將產(chǎn)生的飛行指令及/或目標(biāo)物信息,如通過控制終端的通訊系統(tǒng),提供給可移動物體。所述指令及信息可以是當(dāng)可移動物體在使用中(如在預(yù)期環(huán)境中運(yùn)動或者操作)時提供給該可移動物體。在某些實(shí)施例中,所述指令及信息可以由控制終端直接提供給可移動物體。在其它實(shí)施例中,所述指令及信息可以先提供給一個或者是多個中介實(shí)體(如中繼站或者其它的可移動物體),再傳輸給可移動物體。
在某些實(shí)施例中,方法900的所有步驟都是由相同的實(shí)體所完成,如單一的控制終端。在其它實(shí)施例中,方法900的各步驟是由兩個或者多個分離的實(shí)體所執(zhí)行。該分離的實(shí)體可以彼此通訊,例如,通過有線或者無線連接。例如,關(guān)于飛行的輸入的接收步驟902及飛行指令產(chǎn)生步驟906由第一設(shè)備所執(zhí)行,而關(guān)于追蹤的輸入的接收步驟904及目標(biāo)物信息產(chǎn)生步驟908是由第二設(shè)備所執(zhí)行。所述第二設(shè)備可以傳送目標(biāo)物信息給第一設(shè)備,第一設(shè)備傳送飛行指令及目標(biāo)物信息給可移動物體。在另一個實(shí)施例中,關(guān)于飛行的輸入的接收步驟902及關(guān)于追蹤的輸入的接收步驟904是由一個設(shè)備所執(zhí)行,而飛行指令產(chǎn)生步驟906及目標(biāo)物信息產(chǎn)生步驟908是由另一個設(shè)備所執(zhí)行。
根據(jù)本發(fā)明的其它方面,提供一個交互式的用戶界面,該用戶界面可以幾乎實(shí)時地選擇及觀看可移動物體所追蹤的目標(biāo)物,可移動物體可以為無人飛行器??梢杂梢粋€控制終端提供此用戶界面。圖10是本發(fā)明實(shí)施例中選擇目標(biāo)物的方法1000的流程圖。方法1000的各個步驟可以由控制終端所執(zhí)行。
方法1000包括顯示步驟1002,顯示可移動物體所捕獲的一個或者多個影像。所述影像是可移動物體通過承載體所搭載的影像設(shè)備所捕獲的。所述承載體可以允許影像設(shè)備相對于可移動物體運(yùn)動,也可以不允許影像設(shè)備相對于可移動物體運(yùn)動。可選地,影像設(shè)備可以直接搭載在可移動物體上而不需要所述承載體??梢苿游矬w將所述影像傳送給控制終端,或者由所述影像設(shè)備直接將所述影像傳送給控制終端。控制終端接收的影像可以經(jīng)過壓縮或者其它處理之后顯示在與控制終端相關(guān)聯(lián)的用戶界面上。所述用戶界面提供顯示設(shè)備,該顯示設(shè)備可以集成到所述控制終端??蛇x地,所述顯示設(shè)備可以與控制終端是相互分離的,但是與控制終端相連接。顯示的影像可以是靜態(tài)的(如靜止的影像),也可以是動態(tài)的(如視頻)。
在某些實(shí)施例中,當(dāng)從可移動物體及/或者影像設(shè)備獲取影像時,影像可以幾乎實(shí)時地顯示或者輸出(stream)。在某些實(shí)施例中,當(dāng)影像設(shè)備捕獲到影像后,可移動物體及/或影像設(shè)備幾乎實(shí)時地傳送該影像。在其它實(shí)施例中,在影像捕獲及/或傳送與影像的顯示之間會有些延遲。
在某些實(shí)施例中,方法1000包括接收步驟1004,接收用戶從所顯示的至少一個影像中選擇的目標(biāo)物。用戶可以通過與顯示所述影像相同的用戶界面中選擇所述目標(biāo)物。例如,在某些實(shí)施例中,用戶可以通過在一個或者多個影像中選擇其中一個區(qū)域來實(shí)現(xiàn)選擇目標(biāo)物,所選擇的區(qū)域?qū)?yīng)著所述目標(biāo)物。例如,用戶可以利用手指或者觸控筆直接在觸摸屏上以觸控的方式選擇目標(biāo)物。或者,用戶可以通過鼠標(biāo)、操縱桿、手勢或者聲音控制的方式選擇目標(biāo)物?;蛘?,用戶可以通過穿戴式設(shè)備,如頭盔、虛擬現(xiàn)實(shí)護(hù)目鏡等選擇目標(biāo)物。目標(biāo)物區(qū)域的選擇可以包括任何合適的動作,如觸摸、輕拍、重拍、畫圖、點(diǎn)擊等任何合適的輸入方式。
在某些實(shí)施例中,影像中包括選擇指示標(biāo)識以指示用戶選擇的目標(biāo)物。所述選擇指示標(biāo)識可以表示為圓圈、選擇標(biāo)志、箭頭、多邊形、或者其它任何合適形狀的任何顏色或者樣式的物體。
方法1000進(jìn)一步包括目標(biāo)物信息產(chǎn)生步驟1006,根據(jù)用戶選擇的目標(biāo)物產(chǎn)生目標(biāo)物信息。例如,目標(biāo)物在影像中的坐標(biāo)及像素尺寸可以用作或者用于產(chǎn)生初始目標(biāo)物信息。二選一或者附加地,所選擇的目標(biāo)物的相關(guān)特征可以用于產(chǎn)生一些目標(biāo)物類型信息。在某些實(shí)施例中,其余的目標(biāo)物類型信息可以是基于用戶的其它輸入產(chǎn)生。例如,所述目標(biāo)物類型信息可以包括所追蹤的目標(biāo)物的顏色或者紋理。目標(biāo)物類型信息中的顏色信息可以從用戶選擇的特殊的目標(biāo)物中所提取,其中,目標(biāo)物類型信息中的紋理信息是用戶手工輸入或者眾多預(yù)設(shè)樣式中所選擇的。
在某些實(shí)施例中,用戶允許在人工追蹤模式和自動追蹤模式兩者之間進(jìn)行選擇。當(dāng)選擇了人工追蹤模式,用戶可以從,如控制終端所顯示的影像中指定所要追蹤的特殊的目標(biāo)物。另一方面,當(dāng)選擇了自動追蹤模式,用戶可以指定目標(biāo)物類型信息,而不用指定需要追蹤的特殊的目標(biāo)物??梢苿游矬w可以利用該目標(biāo)物類型信息自動識別所要追蹤的目標(biāo)物,隨后,開始追蹤所識別的目標(biāo)物。
可選地,所選擇的目標(biāo)物的信息可以用于產(chǎn)生預(yù)期目標(biāo)物信息。例如,所述初始目標(biāo)物信息可以與所述預(yù)期目標(biāo)物信息相同。另外一個例子中,所述預(yù)期目標(biāo)物信息可以表示為參考初始目標(biāo)物信息。例如,預(yù)期目標(biāo)物位置可以表示為初始目標(biāo)物位置的偏移量。相似地,預(yù)期目標(biāo)物尺寸可以表示為預(yù)期目標(biāo)物尺寸與初始目標(biāo)物尺寸的比率(如預(yù)期目標(biāo)物尺寸是初始目標(biāo)物尺寸的兩倍)。在各種實(shí)施例中,目標(biāo)物信息可以基于如下手段產(chǎn)生:用戶選擇的目標(biāo)物、從其它用戶輸入方法中(如利用鍵盤輸入的數(shù)據(jù))獲取的數(shù)據(jù)、及/或者其它非用戶資源(本地或者遠(yuǎn)程的數(shù)據(jù)存儲單元或者其它任何適合的計(jì)算系統(tǒng))中的數(shù)據(jù)。
方法1000進(jìn)一步包括目標(biāo)物信息提供步驟1008,提供目標(biāo)物信息給可移動物體,以實(shí)現(xiàn)追蹤目的。例如,可移動物體的一個或者多個處理器利用初始目標(biāo)物信息及/或目標(biāo)物類型信息識別所要追蹤的目標(biāo)物??梢苿游矬w可以利用預(yù)期目標(biāo)物信息大致地維持目標(biāo)物在追蹤過程中的預(yù)設(shè)位置、尺寸、或者其它特征。
在各種實(shí)施例中,用于控制追蹤過程的一部分目標(biāo)物信息可以由用戶提供,其余的部分可以由系統(tǒng)設(shè)置。例如,在一個實(shí)施例中,用戶通過用戶選擇的具體的目標(biāo)物提供初始目標(biāo)物信息,而預(yù)期目標(biāo)物信息是系統(tǒng)默認(rèn)的。在另一個例子中,用戶可以提供目標(biāo)物類型信息,而系統(tǒng)根據(jù)目標(biāo)物類型信息自動確定目標(biāo)物,并根據(jù)用戶預(yù)設(shè)或者系統(tǒng)提供的預(yù)期目標(biāo)物信息追蹤該目標(biāo)物。在其它例子中,用戶可以提供所有的目標(biāo)物信息包括初始及預(yù)期目標(biāo)物信息,系統(tǒng)只需要簡單地執(zhí)行對特定目標(biāo)物的追蹤。
在追蹤過程中的用戶控制以及處理系統(tǒng)控制的特定分配可以根據(jù)各種因素調(diào)整,例如可移動物體的環(huán)境、可移動物體的速度或者姿態(tài)、用戶偏好、或者可移動物體之內(nèi)的或者外圍的計(jì)算能力(如cpu或者存儲器)等。例如,當(dāng)可移動物體在相對復(fù)雜的環(huán)境中(如有很多的建筑物、障礙物或者在室內(nèi))飛行時,會比可移動物體在相對簡單的環(huán)境(開放的空間或者戶外)飛行分配相對多的用戶控制。在另一個實(shí)施例中,當(dāng)可移動物體在海拔較低的位置飛行時會比在海拔較高的位置飛行時分配相對多的用戶控制。另一個實(shí)施例中,當(dāng)可移動物體配備了高速處理器以能夠更快地執(zhí)行復(fù)雜計(jì)算時,會分配可移動物體更多的自控。在某些實(shí)施例中,在追蹤過程中,用戶控制以及可移動物體的自控的分配可以根據(jù)上述描述的因素而動態(tài)調(diào)整。
圖11是本發(fā)明實(shí)施例中觀察追蹤的目標(biāo)物的方法1100的流程圖。方法1100的各個步驟可以是由相同或者不同的控制終端所完成。
方法1100包括接收步驟1102,接收可移動物體捕獲的影像,所述可移動物體如所描述的無人飛行器。所述影像可以由可移動物體所搭載的(如通過承載體)影像設(shè)備所捕獲。在某些實(shí)施例中,所述影像可以直接從捕獲該影像的影像設(shè)備獲取。所述影像可以由控制終端所接收。在某些實(shí)施例中,可以在提供給控制終端所述目標(biāo)物信息之后,控制終端再接收所述影像。所述提供控制終端目標(biāo)物信息的方法可以與上述圖9或者圖10討論的方法900或者方法1000相似??梢苿游矬w可以用于根據(jù)目標(biāo)物信息追蹤目標(biāo)物。所述目標(biāo)物的識別或者指定可以與上述圖4所討論的方法400相似。這樣,至少所接收的一些影像中包含所追蹤的目標(biāo)物。
方法1100還包括另一個接收步驟1104,接收追蹤信息或者數(shù)據(jù),用于指示可移動物體所追蹤的一個或者多個目標(biāo)物的特征。所述追蹤信息包括,如目標(biāo)物在從可移動物體所接收的一個或者多個影像中的相對或者絕對的坐標(biāo)及/或尺寸、目標(biāo)物在連續(xù)的影像幀中的變化或者偏差、gps坐標(biāo)、或者目標(biāo)物的其它位置信息。
方法1100還包括顯示步驟1106,以顯示帶有追蹤數(shù)據(jù)的影像,以顯示可移動物體所追蹤的影像。例如,所述追蹤數(shù)據(jù)用于確定所追蹤的影像在一些或者全部影像中的位置及/或者尺寸?;谶@些位置及/或者尺寸的信息,產(chǎn)生并顯示與上述圖10中討論過的選擇指示標(biāo)識相似的追蹤指示標(biāo)識。例如,在給定的影像中給定目標(biāo)物位置,所述影像中可以在接近所述目標(biāo)物位置的地方顯示追蹤指示標(biāo)識,并且追蹤指示標(biāo)識的尺寸可以足夠大以覆蓋目標(biāo)物或者目標(biāo)物的一部分。追蹤指示標(biāo)識可以包括盒狀,圓圈,橢圓,或者任何合適形狀、顏色或者尺寸的圖形物件。
有益地,用這樣的追蹤指示標(biāo)識顯示追蹤的目標(biāo)物能夠幫助用戶在查看可移動物體幾乎實(shí)時傳送或者捕獲的影像中,視覺上識別所追蹤的目標(biāo)物。換句話說,用戶可以在可移動物體追蹤目標(biāo)物的同時看到該目標(biāo)物。在其它實(shí)施例中,目標(biāo)物的顯示可以有些延遲。
在某些實(shí)施例中,當(dāng)觀看可移動物體所追蹤的影像時,用戶可以選擇所追蹤的目標(biāo)物(如通過追蹤指示標(biāo)識的指示),以查看目標(biāo)物的更多詳細(xì)信息。用戶可以通過與顯示影像的用戶界面進(jìn)行交互,以執(zhí)行有關(guān)目標(biāo)物或者所顯示的其它物體的相關(guān)操作。例如,用戶可以通過手指在觸摸屏上的操作執(zhí)行變焦操作。
用戶的一部分操作可以轉(zhuǎn)化為追蹤指令,并傳送給可移動物體。例如,用戶上述描述的變焦操作可以轉(zhuǎn)化影像設(shè)備的變焦指令,及/或者控制指令,以移動可移動物體,使其靠近或者遠(yuǎn)離目標(biāo)物??蛇x地或者附加地,用戶可以選擇切換追蹤不同的目標(biāo)物。這樣的切換可以是當(dāng)用戶選擇了不同的目標(biāo)物時自動執(zhí)行。關(guān)于不同目標(biāo)物的目標(biāo)物信息可以自動提供給可移動物體,例如,與圖10中描述的方法相似。作為響應(yīng)的,可移動物體自動切換到利用上述描述的方法,如實(shí)時地,追蹤該不同的目標(biāo)物。
圖12是本發(fā)明較佳實(shí)施例中控制可移動物體的控制終端1200的示意圖。控制終端1200包括顯示區(qū)域1202,用以顯示搭載在可移動物體上的影像設(shè)備或者影像傳感器捕獲的感測數(shù)據(jù),如影像數(shù)據(jù)。所述可移動物體如無人飛行器。所述影像數(shù)據(jù)包括可移動物體上的影像設(shè)備或者影像傳感器所捕獲到的一個或者多個物體1210及1206的影像。所述一個或者多個物體可以包括可移動物體所追蹤的目標(biāo)物1206。所述目標(biāo)物顯示時可以帶有指示標(biāo)識1208。指示標(biāo)識1208可以包括如上圖10所描述的選擇指示標(biāo)識,用于指示用戶選擇的可移動物體所追蹤的目標(biāo)物,及/或者如上圖11所描述的追蹤指示標(biāo)識,用于指示可移動物體所追蹤的目標(biāo)物。當(dāng)目標(biāo)物的位置在不同影像中有所變化時,指示標(biāo)識1208可以跟隨目標(biāo)物進(jìn)行移動。
控制終端1200也可以包括一個或者多個輸入設(shè)備1204及1205,用于接收用戶的輸入。這樣的輸入設(shè)備包括操縱桿1204、按鈕或者開關(guān)1205、鍵盤、鼠標(biāo)、觸摸屏或者其它的結(jié)構(gòu)。例如,一個或者多個按鈕或者開關(guān)1205可以用于在不同的輸入模式之間進(jìn)行切換,所述輸入模式,如,飛行輸入模式、目標(biāo)物輸入模式等。開關(guān)1205也可以用于在如上描述的人工追蹤模式及自動追蹤模式之間進(jìn)行選擇。所述部分輸入單元,如操縱桿的功能根據(jù)選擇的輸入模式可以改變。例如,當(dāng)選擇了飛行輸入模式時,這樣的輸入設(shè)備可以用于提供飛行輸入,當(dāng)選擇了目標(biāo)物輸入模式時,這樣的輸入設(shè)備用于提供目標(biāo)物信息。另一個例子中,當(dāng)選擇了人工追蹤模式時,這樣的輸入設(shè)備可以用于選擇目標(biāo)物,及當(dāng)選擇了自動追蹤模式時,這樣的輸入設(shè)備可以用于提供目標(biāo)物類型信息。
圖13a-c是本發(fā)明的實(shí)施例中利用用戶界面選擇目標(biāo)物的示意圖。在一個實(shí)施例中,如圖13a所演示的,用戶界面能夠使用戶用手1302,通過在觸摸屏上觸摸一個區(qū)域的方式,選擇目標(biāo)物1304,所述區(qū)域?qū)?yīng)所選擇的目標(biāo)物。所選擇的目標(biāo)物1304可以由選擇指示標(biāo)識1306所指示,所述選擇指示標(biāo)識可以是如包圍所選擇的目標(biāo)物1304的圓圈。在另一個實(shí)施例中,如圖13b所演示的,用戶界面能夠使用戶利用鼠標(biāo)1308,例如,通過點(diǎn)擊屏幕上的區(qū)域,選擇目標(biāo)物1310,該區(qū)域?qū)?yīng)所述目標(biāo)物。所選擇的目標(biāo)物1310可以由選擇指示標(biāo)識1312所指示。在另一個實(shí)施例中,如圖13c所演示的,用戶界面能夠使用戶利用觸控筆1314,例如,通過在觸摸屏上輕擊一個區(qū)域的方式,選擇目標(biāo)物1316,所述區(qū)域?qū)?yīng)所選擇的目標(biāo)物。所選擇的目標(biāo)物1316可以由選擇指示標(biāo)識1318所指示。在各種實(shí)施例中,所述選擇指示標(biāo)識可以是任意形狀,如圓圈1306、矩形1312或者菱形1318。
上述描述的系統(tǒng)及方法可以由任何類型的可移動物體所執(zhí)行。所述系統(tǒng)、方法、設(shè)備可以應(yīng)用在任何類型的可移動物體。如前所述關(guān)于飛行器的各種描述同樣適用任何其它的可移動物體。本發(fā)明所述可移動物體可以在任何適合的環(huán)境中運(yùn)動,如空氣中(例如,固定翼飛行器,旋翼飛行器,或者既不包括固定翼也不包括旋翼的飛行器),在水中(例如,船或者潛艇),在地面上(例如,機(jī)動車,包括小汽車、卡車、公共汽車、運(yùn)貨車、摩托車,可移動的結(jié)構(gòu),如桿子、魚竿;或者火車),在地下的(如地鐵),在太空中的(如,衛(wèi)星、空間站、宇宙飛船),或者這些環(huán)境中的任意結(jié)合。所述可移動物體可以是運(yùn)輸工具,例如上述描述的任何運(yùn)輸工具。在某些實(shí)施例中,所述可移動物體可以綁定在生物體上,如人類或者動物。適合的動物可以包括靈長類動物、鳥類、犬類、貓科動物、馬、牛、綿羊、豬、海豚、嚙齒類動物、或者昆蟲。
可移動物體可以在上述環(huán)境中在六個自由度自由運(yùn)動(在三個自由度旋轉(zhuǎn)以及在三個自由度的平移)??蛇x地,可移動物體的運(yùn)動可以限制在一到兩個自由度,如在預(yù)設(shè)線路、軌道或者方向上運(yùn)動。所述運(yùn)動可以是由任何的致動機(jī)構(gòu)所致動,如引擎或者電機(jī)??梢苿游矬w的致動機(jī)構(gòu)可以是由任何合適的能源所實(shí)現(xiàn),如電能、磁力、太陽能、風(fēng)能、重力能、化學(xué)能、核能、或者其中任何適合的結(jié)合??梢苿游矬w可以是通過動力系統(tǒng)自我驅(qū)動??蛇x的,所述動力系統(tǒng)可以利用能源運(yùn)轉(zhuǎn),所述能源如電能、磁力、太陽能、風(fēng)能、重力能、化學(xué)能、核能、或者其中任何適合的結(jié)合??蛇x地,所述可移動物體可以由生物體所承載。
在某些實(shí)施例中,所述可移動物體可以是運(yùn)輸工具。合適的運(yùn)輸工具包括水中的運(yùn)輸工具、空中的運(yùn)輸工具、空間的運(yùn)輸工具、或者地面上的運(yùn)輸工具。例如,空中的運(yùn)輸工具可以是固定翼飛行器(如飛機(jī)、滑翔機(jī)),旋翼飛行器(如直升機(jī)、旋翼機(jī)),既有固定翼又有旋翼的飛行器,及既沒有固定翼又沒有旋翼的飛行器(如軟式飛艇、熱氣球)。運(yùn)輸工具可以自我驅(qū)動,如通過空氣、在水面或者水中、在空間、或者在地面或者地下自我驅(qū)動。自我推進(jìn)的運(yùn)輸工具可以利用一個動力系統(tǒng),如包括一個或者多個引擎、電機(jī)、輪子、軸承、磁鐵、旋轉(zhuǎn)體、螺旋槳、槳葉、噴嘴或者包括其中任何結(jié)合的動力系統(tǒng)。在某些情況下,動力系統(tǒng)可以使可移動物體脫離一個表面、降落在一個表面、維持當(dāng)前的位置及/或方向、改變方向、及/或改變位置。
可移動物體可以由用戶遙控控制或者由可移動物體之內(nèi)或者之上的部件所控制。在某些實(shí)施例中,可移動物體是無人操作的可移動物體,如無人飛行器。無人操作的可移動物體,如無人飛行器,可以沒有搭載任何乘坐者??梢苿游矬w可以由人類或者自動控制系統(tǒng)(如計(jì)算機(jī)控制系統(tǒng)),或者其結(jié)合所控制??梢苿游矬w可以是自動或者半自動的機(jī)器人,如具有人工智能的機(jī)器人。
可移動物體可以有任何的尺寸及/或者維度。在某些實(shí)施例中,所述可移動物體的尺寸及/或者維度是可以容納人乘坐者在里面。可選地,所述可移動物體的尺寸及/或者維度可以小于人乘坐者能夠容納在里面的尺寸及/或者維度。所述可移動物體的尺寸及/或者維度可以是適合人提起或者攜帶的。或者,所述可移動物體的尺寸及/或者維度可以大于人能夠提起或者攜帶的尺寸及/或者維度。在某些例子中,所述可移動物體的最大的維度(例如,長、寬、高、直徑、對角線)小于或者等于大約:2cm,5cm,10cm,50cm,1m,2m,5m,或者10m。所述最大的維度也可以大于或者等于大約:2cm,5cm,10cm,50cm,1m,2m,5m,或者10m。例如,飛行器(可移動物體的一個例子)相反轉(zhuǎn)子的軸的距離可以小于或者等于大約:2cm,5cm,10cm,50cm,1m,2m,5m,或者10m??蛇x地,飛行器相反轉(zhuǎn)子的軸的距離可以大于或者等于大約:2cm,5cm,10cm,50cm,1m,2m,5m,或者10m。
在某些例子中,所述可移動物體的體積可以小于100cm×100cm×100cm,小于50cm×50cm×30cm,或者小于5cm×5cm×3cm。所述可移動物體的整個體積可以小于或者等于1cm3,2cm3,5cm3,10cm3,20cm3,30cm3,40cm3,50cm3,60cm3,70cm3,80cm3,90cm3,100cm3,150cm3,200cm3,300cm3,500cm3,750cm3,1000cm3,5000cm3,10,000cm3,100,000cm3,1m3,或者10m3。相反的,所述可移動物體的整個體積可以大于或者等于1cm3,2cm3,5cm3,10cm3,20cm3,30cm3,40cm3,50cm3,60cm3,70cm3,80cm3,90cm3,100cm3,150cm3,200cm3,300cm3,500cm3,750cm3,1000cm3,5000cm3,10,000cm3,100,000cm3,1m3,或者10m3。
在某些實(shí)施例中,所述可移動物體的占地面積(可移動物體的橫斷面的面積)可以小于或者等于大約:32,000cm2,20,000cm2,10,000cm2,1,000cm2,500cm2,100cm2,50cm2,10cm2,或者5cm2。相反的,所述可移動物體的占地面積(可移動物體的橫斷面的面積)可以大于或者等于大約:32,000cm2,20,000cm2,10,000cm2,1,000cm2,500cm2,100cm2,50cm2,10cm2,或者5cm2。
在某些例子中,所述可移動物體的重量可以小于1000kg。所述可移動物體的重量可以小于或者等于1000kg,750kg,500kg,200kg,150kg,100kg,1000kg,80kg,70kg,60kg,50kg,45kg,40kg,35kg,30kg,25kg,20kg,15kg,12kg,10kg,9kg,8kg,7kg,6kg,5kg,4kg,3kg,2kg,1kg,0.5kg,0.1kg,0.05kg,或者0.01kg。相反的,所述可移動物體的重量可以大于或者等于1000kg,750kg,500kg,200kg,150kg,100kg,1000kg,80kg,70kg,60kg,50kg,45kg,40kg,35kg,30kg,25kg,20kg,15kg,12kg,10kg,9kg,8kg,7kg,6kg,5kg,4kg,3kg,2kg,1kg,0.5kg,0.1kg,0.05kg,或者0.01kg,
在某些實(shí)施例中,可移動物體可以比其載荷要小。所述載荷包括負(fù)載及/或者承載體,下面會詳細(xì)描述。在某些例子中,可移動物體的重量與其載荷的重量的比值可以大于、小于或者等于大概1∶1。可選地,所述承載體的重量與所述載荷的重量的比值可以小于或者等于1∶2,1∶3,1∶4,1∶5,1∶10,甚至更小。相反的,所述承載體的重量與所述載荷的重量的比值可以大于或者等于:2∶1,3∶1,4∶1,5∶1,10∶1,甚至更大。
在某些實(shí)施例中,所述可移動物體可以有較低的能量消耗。例如,所述可移動物體可能使用的能量消耗小于大約:5w/h,4w/h,3w/h,2w/h,1w/h,甚至更少。在某些實(shí)施例中,所述飛行器的承載體可以有較低的能量消耗。例如,所述承載體可能使用的能量消耗小于大約:5w/h,4w/h,3w/h,2w/h,1w/h,甚至更少??蛇x地,所述飛行器的負(fù)載可以有較低的能量消耗。例如,所述可移動物體的負(fù)載可能使用的較低的能量消耗,例如小于大約:5w/h,4w/h,3w/h,2w/h,1w/h,甚至更少。
圖14是本發(fā)明無人飛行器1400較佳實(shí)施例的示意圖。所述無人飛行器是可移動物體的一個例子。所述無人飛行器1400包括動力系統(tǒng),該動力系統(tǒng)有四個旋轉(zhuǎn)體1402、1404、1406、1408。動力系統(tǒng)可以有任何數(shù)量的旋轉(zhuǎn)體(如一個、兩個、三個、四個、五個、六個或者更多)。所述旋轉(zhuǎn)體可以是自緊固旋轉(zhuǎn)體。無人飛行器的旋轉(zhuǎn)體,旋轉(zhuǎn)體組件,或者其它的動力系統(tǒng)能夠使無人飛行器盤旋/維持原來的位置,改變方向,及/或改變位置。相反的旋轉(zhuǎn)體的槳葉之間的距離可以有任何合適的長度1410。例如,該長度1410可以小于或者等于2m,小于等于5m。在某些實(shí)施例中,所述長度1410可以在一個范圍內(nèi),該范圍可以是從40cm到1m,從10cm到2m,或者從5cm到5m。對無人飛行器的任何描述同樣適用任何一個可移動物體,如不同類型的可移動物體,反之亦然。
在某些實(shí)施例中,可移動物體可以用于承載載荷。所述載荷可以包括一個或者多個乘客、貨物、設(shè)備、裝置等。所述載荷可以在殼體(housing)內(nèi)。所述殼體可以與可移動物體的殼體分離,也可以是可移動物體的殼體的一部分。可選地,所述載荷可以在殼體內(nèi),而可移動物體沒有任何的殼體??蛇x地,所述載荷的部分或者全部都不需要在殼體內(nèi)。所述載荷可以穩(wěn)固在可移動物體上??蛇x的,所述載荷可以相對于可移動物體移動(例如,相對于可移動物體平移或者旋轉(zhuǎn))。
在某些實(shí)施例中,所述載荷包括負(fù)載1412。負(fù)載可以不用于執(zhí)行任何的功能。可選地,所述負(fù)載可以是用來執(zhí)行一種操作或者功能的負(fù)載,也稱為功能性負(fù)載。例如,負(fù)載可以包括一個或者多個傳感器,用以視察一個或者多個目標(biāo)物。負(fù)載可以集成任何合適的傳感器,如影像捕獲設(shè)備(如相機(jī)),音頻捕獲設(shè)備(如拋物線耳機(jī)),紅外影像設(shè)備,或者紫外線影像設(shè)備。所述傳感器可以提供靜態(tài)的感測數(shù)據(jù)(如照片)或者動態(tài)的感測數(shù)據(jù)(如視頻)。在某些實(shí)施例中,所述傳感器提供負(fù)載目標(biāo)物的感測數(shù)據(jù)??蛇x地或者相共同地,所述負(fù)載可以包括一個或者多個發(fā)射體,用于向一個或者多個目標(biāo)物提供信號。所述發(fā)射體可以是任何合適的發(fā)射體,如照射源或者聲源。在某些實(shí)施例中,負(fù)載包括一個或者多個無線電收發(fā)器,如與可移動物體的遠(yuǎn)程模塊進(jìn)行通信??蛇x地,所述負(fù)載可以包括工具、設(shè)備或者機(jī)構(gòu)以能夠操作物體,如機(jī)械手臂。
可選地,載荷可以包括承載體1414。所述承載體可以提供給負(fù)載,負(fù)載可以通過所述承載體,直接(直接接觸可移動物體)或者非直接(不接觸可移動物體)地,搭載在可移動物體上。相反地,負(fù)載可以不需要所述承載體而直接安裝在可移動物體上。負(fù)載可以集成在承載體上。可選地,負(fù)載可以是可移除的搭載在承載體上。在某些實(shí)施例中,負(fù)載包括一個或者多個元件,該一個或者多個元件可以,如上所描述的,相對可移動物體及/或承載體移動。
承載體可以集成在可移動物體上??蛇x地,所述承載體可以是可移除的搭載在可移動物體上。承載體可以直接或非直接地搭載在可移動物體上。承載體可以支撐負(fù)載(如承載負(fù)載的一部分重量)。承載體可以包括合適的裝載結(jié)構(gòu)(如云臺),能夠穩(wěn)定及/或指導(dǎo)負(fù)載的運(yùn)動。在某些實(shí)施例中,承載體可以用于控制負(fù)載相對于可移動物體的狀態(tài)(如位置及/或方向)。例如,承載體可以用于相對可移動物體移動(如相對于一個、兩個或者三個軸旋轉(zhuǎn)或者平移),以維持負(fù)載相對于合適的參照物的位置及/或方向,而不管可移動物體如何運(yùn)動。所述參照物可以是一個固定的參照物(如外圍環(huán)境)。可選地,所述參照物是一個運(yùn)動的參照物(如可移動物體或者負(fù)載的目標(biāo)物)。
在某些實(shí)施例中,所述承載體可能允許負(fù)載相對于承載體及/或可移動物體運(yùn)動。所述運(yùn)動可以是相對多達(dá)三個自由度的平移運(yùn)動(如沿著一個、兩個或者三個軸),也可以是相對多達(dá)三個自由度的旋轉(zhuǎn)運(yùn)動(如繞著一個、兩個或者三個軸),或者其中的任何合適的結(jié)合。
在某些實(shí)施例中,所述承載體包括一個承載體結(jié)構(gòu)組件(frameassembly)以及一個承載體致動組件(actuationassembly)。所述承載體結(jié)構(gòu)組件可以提供對負(fù)載的結(jié)構(gòu)性支撐。所述承載體的結(jié)構(gòu)組件可以包括多個單獨(dú)的承載體結(jié)構(gòu)部件,其中的一些結(jié)構(gòu)部件之間可以相對運(yùn)動。所述承載體致動組件可以包括一個或者多個致動器(如電機(jī)),可以驅(qū)動所述單獨(dú)的承載體結(jié)構(gòu)部件。所述致動器允許多個承載體結(jié)構(gòu)部件同時運(yùn)動,或者可以一次只允許一個承載體結(jié)構(gòu)部件運(yùn)動。承載體結(jié)構(gòu)部件的運(yùn)動能夠?qū)е鲁休d體產(chǎn)生對應(yīng)的運(yùn)動。例如,承載體致動組件可以驅(qū)動一個或者多個承載體結(jié)構(gòu)部件繞著一個或者多個旋轉(zhuǎn)軸(如滾轉(zhuǎn)軸、俯仰軸或者航向軸)旋轉(zhuǎn)。一個或者多個承載體結(jié)構(gòu)部件的旋轉(zhuǎn)可以導(dǎo)致負(fù)載相對于可移動物體繞著一個或者多個旋轉(zhuǎn)軸旋轉(zhuǎn)??蛇x地或者相共同地,承載體致動組件可以致動一個或者多個承載體結(jié)構(gòu)部件沿著一個或者多個軸平移,因此,可以導(dǎo)致負(fù)載相對于可移動物體繞著對應(yīng)的一個或者多個軸平移。
在某些實(shí)施例中,可移動物體的運(yùn)動、承載體的運(yùn)動及負(fù)載相對固定參照物(如外部環(huán)境)的運(yùn)動,及/或者彼此間的運(yùn)動,都可以由終端所控制。所述終端可以是遠(yuǎn)程控制終端,位于遠(yuǎn)離可移動物體、承載體及/或負(fù)載的地方。終端可以位于或者粘貼于支撐平臺上。可選地,所述終端可以是手持的或者穿戴式的。例如,所述終端可以包括智能手機(jī)、平板電腦、桌上型電腦、計(jì)算機(jī)、眼鏡、手套、頭盔、麥克風(fēng)或者其中任意的結(jié)合。所述終端可以包括用戶界面,如鍵盤、鼠標(biāo)、操縱桿、觸摸屏或者顯示器。任何適合的用戶輸入可以與終端交互,如手動輸入指令、聲音控制、手勢控制或者位置控制(如通過終端的運(yùn)動、位置或者傾斜)。
所述終端可以用于控制可移動物體、承載體及/或負(fù)載的任何狀態(tài)。例如,該終端可以用于控制可移動物體、承載體、及/或負(fù)載相對于固定的參照物的位置及/或方向,以及彼此間的位置及/或方向。在某些實(shí)施例中,終端可以用于控制可移動物體、承載體及/或負(fù)載的單獨(dú)的部件,如負(fù)載的致動組件、負(fù)載的傳感器、或者負(fù)載的發(fā)射器等。所述終端可以包括無線通訊設(shè)備用于與可移動物體、承載體或者負(fù)載通訊。
終端可以包括合適的顯示設(shè)備用于顯示可移動物體、承載體及/或負(fù)載的信息。例如,終端可以用于顯示可移動物體、承載體及/或負(fù)載的信息,如位置、平移速度、平移加速度、方位、角速度、角加速度、或者其中任意結(jié)合。在某些實(shí)施例中,終端可以顯示負(fù)載提供的信息,如功能性負(fù)載提供的數(shù)據(jù)(如相機(jī)或者其它影像捕獲設(shè)備記錄的影像)。
可選地,同一個終端既可以控制可移動物體、承載體及/或負(fù)載,如運(yùn)動或者控制狀態(tài),也可以接收及/或顯示來可移動物體、承載體及/或負(fù)載的信息。例如,終端可以控制負(fù)載相對于環(huán)境的位置,同時顯示負(fù)載捕獲的影像數(shù)據(jù),或者關(guān)于負(fù)載位置的信息??蛇x地,不同的終端用于控制不同的功能。如,第一終端用于控制可移動物體、承載體及/或負(fù)載的運(yùn)動或者狀態(tài),而第二終端用于接收及/或顯示可移動物體、承載體及/或負(fù)載的信息。例如,第一終端可以用于控制負(fù)載相對于環(huán)境的位置,而第二終端用于顯示負(fù)載捕獲的影像。可移動物體與既能控制可移動物體又能接收數(shù)據(jù)的集成終端之間,或者可移動物體與控制可移動物體與接收數(shù)據(jù)的多個終端之間可以采用各種通訊模式。例如,可移動物體與控制可移動物體及接收數(shù)據(jù)的終端之間可以有至少兩種不同的通訊模式。
圖15是本發(fā)明可移動物體1500的較佳實(shí)施例的示意圖。該可移動物體1500包括承載體1502及負(fù)載1504。盡管可移動物體1500被描述為飛行器,然而這樣的描述并不是限制,前述描述的任何類型的可移動物體都適用。本領(lǐng)域技術(shù)人員應(yīng)該了解,本文所描述的任何關(guān)于飛行器系統(tǒng)的實(shí)施例適用于任何可移動物體(如無人飛行器)。在某些實(shí)施例中,負(fù)載1504可以直接位于可移動物體1500上,而不需要承載體1502??梢苿游矬w1500可以包括動力機(jī)構(gòu)1506,傳感系統(tǒng)1508以及通訊系統(tǒng)1510。
如前所述,所述動力機(jī)構(gòu)1506可以包括一個或者多個旋轉(zhuǎn)體、螺旋槳、槳葉、引擎、電機(jī)、輪子、軸承、磁鐵、噴嘴。例如,所述動力機(jī)構(gòu)的旋轉(zhuǎn)體可以是自緊固(self-tightening)旋轉(zhuǎn)體、旋轉(zhuǎn)體組件、或者其它的旋轉(zhuǎn)體動力單元。可移動物體可以有一個或者兩個、兩個或者多個、三個或者多個、或者四個或者多個動力機(jī)構(gòu)。所有的動力機(jī)構(gòu)可以是相同的類型??蛇x地,一個或者多個動力機(jī)構(gòu)可以是不同的類型。動力機(jī)構(gòu)1506可以通過合適的手段安裝在可移動物體上,如通過支撐元件(如驅(qū)動軸)。動力機(jī)構(gòu)1506可以安裝在可移動物體1500任何合適的位置,如頂端、下端、前端、后端、側(cè)面或者其中的任意結(jié)合。
在某些實(shí)施例中,動力機(jī)構(gòu)1506能夠使可移動物體垂直地從表面起飛,或者垂直地降落在表面上,而不需要可移動物體1500任何水平運(yùn)動(如不需要在跑道上滑行)??蛇x地,動力機(jī)構(gòu)1506可以允許可移動物體1500在空中預(yù)設(shè)位置及/或者方向盤旋。一個或者多個動力機(jī)構(gòu)1500在受到控制時可以獨(dú)立于其它的動力機(jī)構(gòu)??蛇x地,一個或者多個動力機(jī)構(gòu)1500可以同時受到控制。例如,可移動物體1500可以有多個水平方向的旋轉(zhuǎn)體,以控制可移動物體的提升及/或推動。水平方向的旋轉(zhuǎn)體可以被致動以提供可移動物體1500垂直起飛、垂直降落、盤旋的能力。在某些實(shí)施例中,水平方向的旋轉(zhuǎn)體中的一個或者多個可以順時針方向旋轉(zhuǎn),而水平方向的旋轉(zhuǎn)體中的其它一個或者多個可以逆時針方向旋轉(zhuǎn)。例如,順時針旋轉(zhuǎn)的旋轉(zhuǎn)體與逆時針旋轉(zhuǎn)的旋轉(zhuǎn)體的數(shù)量一樣。每一個水平方向的旋轉(zhuǎn)體的旋轉(zhuǎn)速率可以獨(dú)立變化,以實(shí)現(xiàn)每個旋轉(zhuǎn)體導(dǎo)致的提升及/或推動操作,從而調(diào)整可移動物體1500的空間方位、速度及/或加速度(如相對于多達(dá)三個自由度的旋轉(zhuǎn)及平移)。
傳感系統(tǒng)1508可以包括一個或者多個傳感器,以感測可移動物體1500的空間方位、速度及/或加速度(如相對于多達(dá)三個自由度的旋轉(zhuǎn)及平移)。所述一個或者多個傳感器包括前述描述的任何傳感器,包括gps傳感器、運(yùn)動傳感器、慣性傳感器、近程傳感器或者影像傳感器。傳感系統(tǒng)1508提供的感測數(shù)據(jù)可以用于控制可移動物體1500的空間方位、速度及/或加速度(如下所述,利用適合的處理單元及/或控制單元)。可選地,傳感系統(tǒng)1508可以用于可移動物體的的環(huán)境的數(shù)據(jù),如氣候條件、要接近的潛在的障礙、地理特征的位置、人造結(jié)構(gòu)的位置等。
通訊系統(tǒng)1510能夠?qū)崿F(xiàn)與具有通訊系統(tǒng)1514的終端1512通過無線信號1516進(jìn)行通訊。通訊系統(tǒng)1510、1514可以包括任何數(shù)量的用于無線通訊的發(fā)送器、接收器、及/或收發(fā)器。所述通訊可以是單向通訊,這樣數(shù)據(jù)可以從一個方向發(fā)送。例如,單向通訊可以包括,只有可移動物體1500傳送數(shù)據(jù)給終端1512,或者反之亦然。通訊系統(tǒng)1510的一個或者多個發(fā)送器可以發(fā)送數(shù)據(jù)給通訊系統(tǒng)1512的一個或者多個接收器,反之亦然??蛇x地,所述通訊可以是雙向通訊,這樣,數(shù)據(jù)可以在可移動物體1500與終端1512之間在兩個方向傳輸。雙向通訊包括通訊系統(tǒng)1510的一個或者多個發(fā)送器可以發(fā)送數(shù)據(jù)給通訊系統(tǒng)1514的一個或者多個接收器,及反之亦然。
在某些實(shí)施例中,終端1512可以向可移動物體1500、承載體1502及負(fù)載1504中的一個或者多個提供控制數(shù)據(jù),并且從可移動物體1500、承載體1502及負(fù)載1504中的一個或者多個中接收信息(如可移動物體、承載體或者負(fù)載的位置及/或運(yùn)動信息,負(fù)載感測的數(shù)據(jù),如相機(jī)捕獲的影像數(shù)據(jù))。在某些實(shí)施例中,終端的控制數(shù)據(jù)可以包括關(guān)于位置、運(yùn)動、致動的指令,或者對可移動物體、承載體及/或負(fù)載的控制。例如,控制數(shù)據(jù)可以導(dǎo)致可移動物體位置及/或方向的改變(如通過控制動力機(jī)構(gòu)1506),或者導(dǎo)致承載體相對于可移動物體的運(yùn)動(如通過對承載體1502的控制)。終端的控制數(shù)據(jù)可以導(dǎo)致負(fù)載控制,如控制相機(jī)或者其它影像捕獲設(shè)備的操作(捕獲靜止或者運(yùn)動的影像、變焦、開啟或關(guān)閉、切換成像模式、改變影像分辨率、改變焦距、改變景深、改變曝光時間、改變可視角度或者視場)。在某些實(shí)施例中,可移動物體、承載體及/或負(fù)載的通訊可以包括一個或者多個傳感器(如傳感系統(tǒng)1508或者負(fù)載1504)發(fā)出的信息。所述通訊可以包括從一個或者多個不同類型的傳感器(如gps傳感器、運(yùn)動傳感器、慣性傳感器、近程傳感器或者影像傳感器)傳送的感應(yīng)信息。所述感應(yīng)信息是關(guān)于可移動物體、承載體及/或負(fù)載的位置(如方向、位置)、運(yùn)動、或者加速度。從負(fù)載傳送的感應(yīng)信息包括負(fù)載捕獲的數(shù)據(jù)或者負(fù)載的狀態(tài)。終端1512傳送提供的控制數(shù)據(jù)可以用于控制可移動物體1500、承載體1502或者負(fù)載1504中一個或者多個的狀態(tài)??蛇x地或者相共同地,承載體1502及負(fù)載1504每一個都可以包括通訊模塊,用于與終端1512通訊,以便終端可以單獨(dú)地通訊或者控制可移動物體1500、承載體1502及負(fù)載1504。
在某些實(shí)施例中,可移動物體1500可以與除了終端1512之外的其它遠(yuǎn)程設(shè)備,或者非終端1512的遠(yuǎn)程設(shè)備通訊。終端1512也可以與另外一個遠(yuǎn)程設(shè)備及可移動物體1500進(jìn)行通訊。例如,可移動物體及/或終端1512可以與另一個可移動物體或者另一個可移動物體的承載體或負(fù)載通訊。當(dāng)有需要的時候,所述另外的遠(yuǎn)程設(shè)備可以是第二終端或者其它計(jì)算設(shè)備(如計(jì)算機(jī)、桌上型電腦、平板電腦、智能手機(jī)、或者其它移動設(shè)備)。該遠(yuǎn)程設(shè)備可以向可移動物體1500傳送數(shù)據(jù),從可移動物體1500接收數(shù)據(jù),傳送數(shù)據(jù)給終端1512,及/或從終端1512接收數(shù)據(jù)??蛇x地,該遠(yuǎn)程設(shè)備可以連接到因特網(wǎng)或者其它電信網(wǎng)絡(luò),以使從可移動物體1500及/或終端1512接收的數(shù)據(jù)上傳到網(wǎng)站或者服務(wù)器上。
圖16是本發(fā)明實(shí)施例中追蹤可移動物體的系統(tǒng)1600的示意圖。所述系統(tǒng)1600可以結(jié)合本案前述描述的系統(tǒng)、設(shè)備或者方法的任何適合的實(shí)施例。例如,系統(tǒng)1600可以由可移動物體執(zhí)行或者承載。系統(tǒng)1600可以包括感測模塊1602,處理單元1604,非易失性計(jì)算機(jī)可讀介質(zhì)1606,控制模塊1608及通訊模塊1610。
所述感測模塊1602用于利用不同類型的傳感器,采用不同方法,收集可移動物體的相關(guān)信息。不同類型的傳感器可以感測不同種類的信號或者感測不同來源的信號。例如,所述傳感器包括慣性傳感器、gps傳感器、近程傳感器(如激光雷達(dá))、或者視覺/影像傳感器(如相機(jī))。所述感測模塊1602可以與包括多個處理器的處理單元1604連接。在某些實(shí)施例中,所述感測模塊1602可以與傳送模塊1612(如wi-fi影像傳送模塊)連接,用于直接傳送感測數(shù)據(jù)給合適的外部設(shè)備或者系統(tǒng)。例如,傳送模塊1612可以用于傳送感測模塊1602的相機(jī)捕獲的影像給遠(yuǎn)程終端。
所述處理單元1604可以有一個或者多個處理器,如可編程的處理器(如中央處理器)。例如,處理單元1604可以包括現(xiàn)場可編程門陣列(field-programmablegatearray,fpga)或者一個或者多個arm處理器。處理單元1604可以與非易失性計(jì)算機(jī)可讀介質(zhì)1606連接。所述與非易失性計(jì)算機(jī)可讀介質(zhì)1606可以存儲由處理單元1604所執(zhí)行的邏輯、代碼及/或者計(jì)算機(jī)指令,用于執(zhí)行一個或者多個步驟。非易失性計(jì)算機(jī)可讀介質(zhì)1606可以包括一個或者多個存儲單元(可去除的介質(zhì)或者外部存儲器,如sd卡或者ram)。在某些實(shí)施例中,感測模塊1602感測的數(shù)據(jù)可以直接傳送并存儲到非易失性計(jì)算機(jī)可讀介質(zhì)1606的存儲單元中。非易失性計(jì)算機(jī)可讀介質(zhì)1606的存儲單元可以存儲由處理單元1604所執(zhí)行的邏輯、代碼及/或者計(jì)算機(jī)指令,以執(zhí)行本案描述的各種方法的各個實(shí)施例。例如,處理單元1604可以用于執(zhí)行指令,以導(dǎo)致處理單元1604的一個或者多個處理器執(zhí)行上述描述的追蹤功能。所述存儲單元可以存儲感測模塊感測數(shù)據(jù),該數(shù)據(jù)感測由處理單元1604所處理。在某些實(shí)施例中,非易失性計(jì)算機(jī)可讀介質(zhì)1606的存儲單元可以存儲處理單元1604產(chǎn)生的處理結(jié)果。
在某些實(shí)施例中,所述處理單元1604可以與控制模塊1608連接,用以控制可移動物體的狀態(tài)。例如,控制模塊1608可以用于控制可移動物體的動力機(jī)構(gòu),以調(diào)整可移動物體相對于六個自由度的空間方位、速度及/或加速度??蛇x地或者相結(jié)合的,所述控制模塊1608可以控制承載體,負(fù)載或者感測模塊中的一個或者多個。
所述處理單元1604可以與通訊模塊1610連接,用以與一個或者多個外圍設(shè)備(如終端、顯示設(shè)備、或者其它遠(yuǎn)程控制設(shè)備)傳送及/或者接收數(shù)據(jù)。這里可以利用任何合適的通訊方法,如有線通訊或者無線通訊。例如,通訊模塊1610可以利用到一個或者多個局域網(wǎng)、廣域網(wǎng)、紅外線、無線電、wi-fi、點(diǎn)對點(diǎn)(p2p)網(wǎng)絡(luò)、電信網(wǎng)絡(luò)、云網(wǎng)絡(luò)等??蛇x地,可以用到中繼站,如信號塔、衛(wèi)星、或者移動基站等。無線通訊可以是基于近距離的,也可以不是近距離的。在某些實(shí)施例中,通訊時可以要求視線距離也可以不要求視線距離。通訊模塊1610可以與感測模塊1602之間傳送及/或者接收一種或者多種感測數(shù)據(jù),接收處理單元1604產(chǎn)生的處理結(jié)果,接收終端或者遠(yuǎn)程控制器等發(fā)送的預(yù)設(shè)控制數(shù)據(jù)或者用戶指令。
系統(tǒng)1600的各個部件之間可以是任何適合的排配。例如,系統(tǒng)1600的一個或者多個部件位于可移動物體、承載體、負(fù)載、終端、感測系統(tǒng)、或者與前述各設(shè)備通訊的額外的外部設(shè)備上。此外,盡管圖16描述了一個處理單元1604以及一個非易失性計(jì)算機(jī)可讀介質(zhì)1606,本領(lǐng)域技術(shù)人員應(yīng)該知道,這樣的描述不是限制,系統(tǒng)1600可以包括多個處理單元及/或多個非易失性計(jì)算機(jī)可讀介質(zhì)。在某些實(shí)施例中,處理單元及/或非易失性計(jì)算機(jī)可讀介質(zhì)中的一個或者多個可以位于不同的位置,如在可移動物體、承載體、負(fù)載、終端、感測系統(tǒng)、或者與前述各設(shè)備通訊的額外的外部設(shè)備以及前述的各種結(jié)合上,這樣,系統(tǒng)1600執(zhí)行的各種處理或者存儲功能都可以發(fā)生在不同的位置。
圖17是本發(fā)明實(shí)施例中控制可移動物體的系統(tǒng)1700的示意圖。系統(tǒng)1700可以用于控制可移動物體,如無人飛行器。系統(tǒng)1700可以結(jié)合本案前述描述的系統(tǒng)、設(shè)備或者方法的任何適合的實(shí)施例。例如,系統(tǒng)1700可以由終端所執(zhí)行。系統(tǒng)1700可以包括輸入模塊1702、處理單元1704、存儲器1706、顯示模塊1708、以及通訊模塊1710,所有這樣的部件都是通過總線或者相似的網(wǎng)絡(luò)相連接。
所述輸入模塊1702包括一個或者多個輸入機(jī)制,以接收用戶通過操作該輸入模塊產(chǎn)生的輸入。所述輸入機(jī)制包括一個或者多個操縱桿、開關(guān)、旋鈕、滑動開關(guān)、按鈕、撥號盤、觸摸屏、小鍵盤、鍵盤、鼠標(biāo)、聲音控制、手勢控制、慣性模塊等。所述輸入模塊1702可以用于接收用戶的輸入,該輸入用于控制可移動物體、承載體、負(fù)載、或者其中部件的任何方面。所述任何方面包括姿態(tài)、位置、方向、飛行、追蹤等。例如,所述輸入機(jī)制可以是用戶手動設(shè)置一個或者多個位置,每個位置對應(yīng)一個預(yù)設(shè)輸入,以控制無人飛行器。
在某些實(shí)施例中,所述輸入機(jī)制可以由用戶操作,以輸入控制指令,控制可移動物體的飛行。例如,用戶可以利用旋鈕、開關(guān)或者相似的輸入機(jī)制,輸入可移動物體的飛行模式,如自動飛行或者根據(jù)預(yù)設(shè)飛行路徑飛行。又如,用戶可以通過用某種方法傾斜控制終端,以控制可移動物體的位置、姿態(tài)、方向、或者其它方面。所述控制終端的傾斜可以由一個或者多個慣性傳感器所偵測,并產(chǎn)生對應(yīng)的飛行指令。再如,用戶可以利用上述輸入機(jī)制調(diào)整負(fù)載的操作參數(shù)(如變焦)、負(fù)載的姿態(tài)(通過承載體),或者可移動物體上的任何物體的其它方面。
在某些實(shí)施例中,所述輸入機(jī)制可以由用戶操作,以輸入前述描述目標(biāo)物信息。例如,用戶可以利用旋鈕、開關(guān)或者相似的輸入機(jī)制,選擇合適的追蹤模式,如人工追蹤模式或者自動追蹤模式。用戶也可以利用該輸入機(jī)制選擇所要追蹤的特定目標(biāo)物、執(zhí)行的目標(biāo)物類型信息、或者其它相似的信息。在各種實(shí)施例中,所述輸入模塊可以由不止一個設(shè)備所執(zhí)行。例如,所述輸入模塊可以由帶有操縱桿的標(biāo)準(zhǔn)遠(yuǎn)程控制器所執(zhí)行。所述帶有操縱桿的標(biāo)準(zhǔn)遠(yuǎn)程控制器連接到運(yùn)行適合應(yīng)用程序(“app”)的移動設(shè)備(如智能手機(jī))中,以產(chǎn)生可移動物體的控制指令。所述app可以用于獲取用戶的輸入。
所述處理單元1704有一個或者多個處理器,如可編程的處理器(如中央處理器或者微控制器)。所述處理單元1704可以與存儲器1706連接。所述存儲器1706包括易失性或者非易失性存儲介質(zhì),用于存儲數(shù)據(jù),及/或處理單元1704可執(zhí)行的邏輯、代碼、及/或程序指令,用于執(zhí)行一個或者多個規(guī)則或者功能。所述存儲器1706可以包括一個或者多個存儲單元(可去除的介質(zhì)或者外部存儲器,如sd卡或者ram)。在某些實(shí)施例中,輸入模塊1702的數(shù)據(jù)可以直接傳送并存儲在存儲器1706的存儲單元中。存儲器1706的存儲單元可以存儲由處理單元1704所執(zhí)行的邏輯、代碼及/或者計(jì)算機(jī)指令,以執(zhí)行本案描述的各種方法的各個實(shí)施例。例如,處理單元1704可以用于執(zhí)行指令,以導(dǎo)致處理單元1704的一個或者多個處理器處理及顯示從可移動物體接收的感應(yīng)數(shù)據(jù)(如影像),基于用戶輸入產(chǎn)生的控制指令,包括飛行指令及目標(biāo)物信息,并導(dǎo)致通訊模塊1710傳送及/或者接收數(shù)據(jù)等。存儲單元可以存儲感測數(shù)據(jù)或者從外部設(shè)備(如可移動物體)接收的其它數(shù)據(jù)。在某些實(shí)施例中,存儲器1706的存儲單元可以存儲處理單元1704生成的處理結(jié)果。盡管圖17中描述了一個處理單元1704以及一個存儲器1706,本領(lǐng)域技術(shù)人員應(yīng)該了解,這并不是限制,系統(tǒng)1700可以包括多個處理單元及存儲器。
在某些實(shí)施例中,顯示模塊1708可以用于顯示可移動物體、承載體及/或負(fù)載關(guān)于位置、平移速度、平移加速度、方向、角速度、角加速度、或者其結(jié)合等的信息。所述顯示模塊1708可以用于接收可移動物體及/或者負(fù)載發(fā)送的信息,如感測數(shù)據(jù)(相機(jī)或者其它影像捕獲設(shè)備記錄的影像)、所描述的追蹤數(shù)據(jù)、控制反饋數(shù)據(jù)等。在某些實(shí)施例中,所述顯示模塊1708可以與所述輸入模塊1702由相同的設(shè)備所執(zhí)行。在其它實(shí)施例中,所述顯示模塊1708與所述輸入模塊1702可以由不相同的設(shè)備所執(zhí)行。
所述通訊模塊1710可以用于從一個或者多個遠(yuǎn)程設(shè)備(如可移動物體、承載體、基站等)傳送及/或者接收數(shù)據(jù)。例如,通訊模塊1710可以傳送控制信號(如飛行信號、目標(biāo)物信息、追蹤控制指令)給外圍系統(tǒng)或者設(shè)備,如可移動物體、承載體及/或負(fù)載。所述通訊模塊1710可以包括傳送器1712及接收器1714,分別用于從遠(yuǎn)程設(shè)備接收數(shù)據(jù)以及傳送數(shù)據(jù)給遠(yuǎn)程設(shè)備。在某些實(shí)施例中,所述通訊模塊可以包括收發(fā)器,其結(jié)合了傳送器與接收器的功能。在某些實(shí)施例中,傳送器與接收器之間以及與處理單元1704之間可以彼此通訊。所述通訊可以利用任何合適的通訊手段,如有線通訊或者無線通訊。
本案描述的追蹤系統(tǒng)及方法可以有很多應(yīng)用。如圖18,演示了本發(fā)明的一個應(yīng)用情況,其中,用戶1802可以配置無人飛行器1804,在用戶從事各種活動時,追蹤用戶自己。如圖18所演示的,用戶可以利用控制終端1806提供目標(biāo)物信息給無人飛行器1804。所述控制終端1806可以提供用戶界面,以接收用戶輸入并據(jù)此產(chǎn)生輸入信息。例如,用戶界面可以用于顯示一個或者多個影像(如圖片或者視頻),該一個或者多個影像是由位于無人飛行器或者其它地方的影像設(shè)備1805所捕獲。影像設(shè)備1805可以通過承載體1803搭載在無人飛行器上。無人飛行器可以實(shí)時或者接近實(shí)時地傳動影像給控制終端。可選地,所述影像也可以是以前存儲在控制終端及/或由其它來源產(chǎn)生或者提供。其中的一些影像可以顯示所述用戶。用戶可以從這些影像中的任何一個影像中選擇自己,例如,通過觸摸或者其它方式選擇對應(yīng)該用戶的一個區(qū)域。在某些實(shí)施例中,用戶可以指定目標(biāo)物類型信息,而不是選擇執(zhí)行的目標(biāo)物信息。所述目標(biāo)物類型信息可以用于描述應(yīng)該追蹤的目標(biāo)物的類型,如“帶紅色帽子的人”。用戶指定的目標(biāo)物信息可以傳送給無人飛行器。所述傳送可以是通過有線的或者無線的連接。在各種實(shí)施例中,可以在操作無人飛行器之前或者同時,傳送所述目標(biāo)物信息給無人飛行器。例如,可以當(dāng)無人飛行器起飛后或者著陸后傳送目標(biāo)物信息給無人飛行器。在某些實(shí)施例中,用戶也可以指定起始時間、結(jié)束時間、及/或者追蹤時間段。這樣的時間信息可以用于控制追蹤過程的時間。
無人飛行器1804上的處理器利用所述目標(biāo)物信息自動地追蹤用戶1802,例如,當(dāng)用戶在鍛煉(如騎行或者跑步)時。當(dāng)被追蹤及當(dāng)無人飛行器上的影像設(shè)備1805捕獲用戶的影像時,用戶可以維持大致靜止的,以使用戶在捕獲到的影像中維持預(yù)設(shè)尺寸或者位置。例如,無人飛行器1804、承載體1803及/或影像設(shè)備1805的位置、姿態(tài)、方向、速度、焦距、或者其它特征可以被調(diào)整,以實(shí)時追蹤用戶。這樣的調(diào)整可以是由無人飛行器上的處理器所自動產(chǎn)生,而不需要用戶介入。可選地或者附加地,所述追蹤可以有用戶的介入(如對影像設(shè)備變焦)。用戶預(yù)設(shè)尺寸或者位置可以由用戶指定或者是系統(tǒng)的默認(rèn)值。在某些實(shí)施例中,用戶可以穿戴或者拿著一個物體,以便于對用戶的追蹤。這樣的物體包括亮的有顏色的帽子或者衣服。
在某些實(shí)施例中,在追蹤過程中捕獲的影像可以從無人飛行器或者影像設(shè)備傳回給控制終端或者其它適合的設(shè)備,以顯示、播放、存儲、編輯或者其它目的。這樣的傳送可以是當(dāng)影像設(shè)備捕獲影像時,實(shí)時的或者將近實(shí)時的發(fā)生。可選地,影像的捕獲及傳送之間可以有延遲。在某些實(shí)施例中,影像可以存儲在無人飛行器的存儲器中,而不用傳送到任何其它地方。用戶可以實(shí)時看到這些影像,如果需要,調(diào)整目標(biāo)物信息或者調(diào)整無人飛行器或者其部件的其它方面。調(diào)整的目標(biāo)物信息可以提供給無人飛行器,重復(fù)的過程可能繼續(xù)直到獲得可想要的影像。在某些實(shí)施例中,所述影像可以從無人飛行器、影像設(shè)備及/或控制終端傳送給遠(yuǎn)程服務(wù)器。例如,影像可以在一些社交網(wǎng)絡(luò)平臺,如facebook或者twitter上,分享。
以上所述僅為本發(fā)明的較佳實(shí)施例,并非因此限制本發(fā)明的專利范圍,本領(lǐng)域的普通技術(shù)人員在不脫離本發(fā)明精神的情況下,可以做出變化、改變、等效結(jié)構(gòu)或等效流程變換。這些變換均同理包括在本發(fā)明的專利保護(hù)范圍內(nèi),本發(fā)明的范圍僅局限于后附的權(quán)利要求書。