一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)的制作方法
【專利摘要】一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)，包括多臺(tái)計(jì)算節(jié)點(diǎn)、InfiniBand交換機(jī)和存儲(chǔ)陣列；所述的計(jì)算節(jié)點(diǎn)包括一個(gè)Master節(jié)點(diǎn)和多個(gè)slave節(jié)點(diǎn)，各個(gè)計(jì)算節(jié)點(diǎn)硬件配置相同且slave節(jié)點(diǎn)數(shù)可以自由擴(kuò)展，每臺(tái)計(jì)算節(jié)點(diǎn)上載有多核CPU和多個(gè)GPU板卡，且保證CPU核數(shù)為GPU板卡數(shù)量的2倍以上；所述的存儲(chǔ)陣列中預(yù)先存放參數(shù)配置文件、待處理的條帶數(shù)據(jù)；所述的InfiniBand交換機(jī)將計(jì)算節(jié)點(diǎn)和存儲(chǔ)陣列連接在一起形成一個(gè)高速互聯(lián)網(wǎng)絡(luò)，構(gòu)成快速處理的基礎(chǔ)硬件設(shè)施。
【專利說明】一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及衛(wèi)星遙感數(shù)據(jù)處理領(lǐng)域，特別是一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)。
【背景技術(shù)】
[0002]傳感器技術(shù)的發(fā)展使得我國(guó)衛(wèi)星對(duì)地觀測(cè)能力得到了長(zhǎng)足的提升，目前對(duì)地觀測(cè)衛(wèi)星的主要特點(diǎn)主要表現(xiàn)在高空間分辨率、高光譜分辨率、回訪周期短、影像條帶寬、立體成像能力、多種成像模式等方面，越來越多的不同平臺(tái)搭載的觀測(cè)傳感器使得我們獲得的對(duì)地觀測(cè)數(shù)據(jù)每天在以TB級(jí)甚至PB級(jí)的速度飛快增長(zhǎng)，這種采集信息的爆炸式增長(zhǎng)為處理帶來了巨大挑戰(zhàn)。另外，應(yīng)急響應(yīng)、災(zāi)害評(píng)估和環(huán)境監(jiān)測(cè)等遙感應(yīng)用對(duì)數(shù)據(jù)處理有時(shí)效要求，需要在短時(shí)間內(nèi)完成大量的高精度遙感數(shù)據(jù)處理運(yùn)算，否則將無法發(fā)揮遙感技術(shù)所具有的宏觀、快速和綜合的優(yōu)勢(shì)。所以在衛(wèi)星遙感數(shù)據(jù)地面處理中必須采用先進(jìn)的高性能處理技術(shù)，實(shí)現(xiàn)遙感數(shù)據(jù)的實(shí)時(shí)或近實(shí)時(shí)處理，才能應(yīng)對(duì)越來越突出的海量數(shù)據(jù)和應(yīng)急響應(yīng)問題。
[0003]在并行計(jì)算領(lǐng)域，MPI是一種消息傳遞模式的標(biāo)準(zhǔn)，是目前分布式計(jì)算體系上的主流編程模型。OpenMP是共享存儲(chǔ)編程的實(shí)際工業(yè)標(biāo)準(zhǔn)，目前也被廣泛應(yīng)用。而GPU是新一代性價(jià)比高的高性能計(jì)算技術(shù)，且在近年來發(fā)展迅速。圖形處理器在并行數(shù)據(jù)運(yùn)算上具有強(qiáng)大的運(yùn)算功能以及相對(duì)較高的并行運(yùn)算速度，具有單指令流多線程(single instructionmultiple thread, SIMT)的并行處理特性，在解決計(jì)算密集型問題具有很高的性價(jià)比。在遙感數(shù)據(jù)處理加速研究方面，Balz利用GPU進(jìn)行合成孔徑雷達(dá)數(shù)據(jù)的模擬，Govett利用GPU實(shí)現(xiàn)了氣象模型的動(dòng)力學(xué)部分，獲得了 34倍的加速，GPU也被用于高光譜數(shù)據(jù)端元純度的形態(tài)學(xué)算法實(shí)現(xiàn)，在端元豐度指數(shù)提取和分割上獲取了 15倍的加速，在“嫦娥II娥探月衛(wèi)星工程中，GPU用于通道下傳數(shù)據(jù)的解碼，并具有87倍的速度提升，另外，GPU還被用于一些星上實(shí)時(shí)目標(biāo)識(shí)別和跟蹤。
[0004]從目前公開發(fā)表的研究文獻(xiàn)成果來看，都是利用MPI或OpenMP或CUDA模型對(duì)某個(gè)處理算法進(jìn)行并行優(yōu)化，但缺少對(duì)整個(gè)衛(wèi)星遙感數(shù)據(jù)預(yù)處理流程的并行化設(shè)計(jì)和研究，沒有系統(tǒng)的、有效的解決方案。

【發(fā)明內(nèi)容】

[0005]本發(fā)明的技術(shù)解決問題是:基于多級(jí)并行加速技術(shù)，通過對(duì)衛(wèi)星遙感數(shù)據(jù)預(yù)處理流程的數(shù)據(jù)和任務(wù)并行分解，提供一種快速的衛(wèi)星遙感數(shù)據(jù)處理系統(tǒng)。
[0006]本發(fā)明的技術(shù)解決方案是:一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)，包括多臺(tái)計(jì)算節(jié)點(diǎn)、InfiniBand交換機(jī)和存儲(chǔ)陣列；所述的計(jì)算節(jié)點(diǎn)包括一個(gè)Master節(jié)點(diǎn)和多個(gè)slave節(jié)點(diǎn)，各個(gè)計(jì)算節(jié)點(diǎn)硬件配置相同且slave節(jié)點(diǎn)數(shù)可以自由擴(kuò)展，每臺(tái)計(jì)算節(jié)點(diǎn)上載有多核CPU和多個(gè)GPU板卡，且保證CPU核數(shù)為GPU板卡數(shù)量的2倍以上；所述的存儲(chǔ)陣列中預(yù)先存放參數(shù)配置文件、待處理的條帶數(shù)據(jù)；所述的InfiniBand交換機(jī)將計(jì)算節(jié)點(diǎn)和存儲(chǔ)陣列連接在一起形成一個(gè)高速互聯(lián)網(wǎng)絡(luò)，構(gòu)成快速處理的基礎(chǔ)硬件設(shè)施；[0007]Master節(jié)點(diǎn)從存儲(chǔ)陣列中讀取參數(shù)配置文件，根據(jù)文件中的內(nèi)容配置參與計(jì)算的節(jié)點(diǎn)、節(jié)點(diǎn)參與的進(jìn)程數(shù)以及每個(gè)進(jìn)程解析的數(shù)據(jù)行數(shù)，利用MPI協(xié)議調(diào)用配置的節(jié)點(diǎn)在CPU中進(jìn)行并行條帶數(shù)據(jù)解析，并將每個(gè)進(jìn)程解析結(jié)果進(jìn)行拼接，形成整軌輔助數(shù)據(jù)并存儲(chǔ)在存儲(chǔ)陣列中；
[0008]Master節(jié)點(diǎn)利用上述整軌輔助數(shù)據(jù)進(jìn)行WRS分景，形成分景文件存入存儲(chǔ)陣列中；根據(jù)參數(shù)配置文件中的節(jié)點(diǎn)數(shù)和GPU板卡數(shù)，利用MPI協(xié)議調(diào)用各配置節(jié)點(diǎn)并行對(duì)每景數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)景生產(chǎn)處理，保證每個(gè)GPU板卡分配到一景數(shù)據(jù)；
[0009]所述的標(biāo)準(zhǔn)景生產(chǎn)包括一級(jí)產(chǎn)品生成和系統(tǒng)幾何校正；所述的一級(jí)產(chǎn)品生成包括圖像輻射處理流程和RPC參數(shù)求解，利用OpenMP實(shí)現(xiàn)圖像輻射處理流程和RPC參數(shù)求解的線程并行處理；圖像輻射處理流程按照處理順序依次包括輻射校正、去噪處理、MTFC處理三個(gè)處理單元，均采用CUDA架構(gòu)實(shí)現(xiàn)；RPC參數(shù)求解在CPU端進(jìn)行，生成的RPC參數(shù)文件與圖像輻射處理流程生成的圖像文件構(gòu)成一級(jí)產(chǎn)品，存儲(chǔ)在存儲(chǔ)陣列中；在一級(jí)產(chǎn)品生產(chǎn)完成后，采用CUDA架構(gòu)在GPU中對(duì)圖像輻射處理結(jié)果進(jìn)行系統(tǒng)幾何校正，得到最終的圖像產(chǎn)品。
[0010]對(duì)每景數(shù)據(jù)進(jìn)行圖像輻射處理流程時(shí)采用流水線循環(huán)方式進(jìn)行，減少流程內(nèi)各處理單元間之間的文件10操作，具體如下:
[0011](1)將每景數(shù)據(jù)按參數(shù)配置文件中的每次處理影像的內(nèi)存限制進(jìn)行分塊，按照分塊順序?qū)⒌谝粔K數(shù)據(jù)讀入內(nèi)存，并開辟相同大小的一塊輸出內(nèi)存；
[0012](2)對(duì)內(nèi)存里的數(shù)據(jù)進(jìn)行基于CUDA架構(gòu)的輻射校正處理，結(jié)果輸出到輸出內(nèi)存，拷貝輸出內(nèi)存到輸入內(nèi)存，并將輸出內(nèi)存初始化，再依次進(jìn)行基于CUDA架構(gòu)的去噪處理、MTFC處理，MTFC處理后將結(jié)果數(shù)據(jù)從輸出內(nèi)存中寫入輸出文件中；
[0013](3)按照分塊順序?qū)⒌诙K數(shù)據(jù)讀入內(nèi)存，重復(fù)步驟(2)，直至最后一塊數(shù)據(jù)處理完成。
[0014]本發(fā)明與現(xiàn)有技術(shù)相比有益效果為:
[0015]本發(fā)明在硬件結(jié)構(gòu)上采用InfiniBand網(wǎng)絡(luò)和CPU-GPU混合計(jì)算架構(gòu)形成高性能處理平臺(tái)，在軟件架構(gòu)上基于MPI+OpenMP+CUDA的三級(jí)混合編程模型，能夠充分利用節(jié)點(diǎn)間粗粒度和節(jié)點(diǎn)內(nèi)細(xì)粒度的數(shù)據(jù)并行化、處理功能線程并行化和圖像數(shù)據(jù)GPU并行化的性能優(yōu)勢(shì)，提高處理效能。在處理流程中，在數(shù)據(jù)并行分解的基礎(chǔ)上，把順序進(jìn)行的處理功能構(gòu)造成流水線依次處理，減少文件10操作。采用本發(fā)明的衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)可以達(dá)到近實(shí)時(shí)的處理效率。
【專利附圖】

【附圖說明】
[0016]圖1為本發(fā)明硬件結(jié)構(gòu)示意圖；
[0017]圖2為條帶數(shù)據(jù)結(jié)構(gòu)示意圖；
[0018]圖3為本發(fā)明循環(huán)流水線流程圖；
[0019]圖4為本發(fā)明系統(tǒng)處理流程示意圖。
【具體實(shí)施方式】
[0020]本發(fā)明的衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)硬件結(jié)構(gòu)如圖1所示，包括多臺(tái)計(jì)算節(jié)點(diǎn)、交換機(jī)和存儲(chǔ)陣列。
[0021]計(jì)算節(jié)點(diǎn)包括一個(gè)Master節(jié)點(diǎn)和多個(gè)slave節(jié)點(diǎn)，slave節(jié)點(diǎn)可以自由添加。每臺(tái)計(jì)算節(jié)點(diǎn)配置相同，都載有多核高性能CPU和多個(gè)GPU板卡，且CPU核數(shù)板卡數(shù)量的2倍以上。這些GPU板卡和CPU處理器共同組成了 GPU+CPU混合計(jì)算架構(gòu)，負(fù)責(zé)進(jìn)行高強(qiáng)度的并行計(jì)算。
[0022]交換機(jī)采用高速InfiniBand交換機(jī),將計(jì)算節(jié)點(diǎn)和存儲(chǔ)陣列連接在一起形成一個(gè)高速互聯(lián)網(wǎng)絡(luò)，實(shí)現(xiàn)服務(wù)器之間各類命令、信號(hào)和數(shù)據(jù)的高速通信。網(wǎng)絡(luò)性能是并行計(jì)算、數(shù)據(jù)傳輸與共享存儲(chǔ)訪問重要影響因素。InfiniBand網(wǎng)絡(luò)是當(dāng)今性能最高的商用網(wǎng)絡(luò)，支持多種上層協(xié)議。
[0023]存儲(chǔ)陣列負(fù)責(zé)存儲(chǔ)參數(shù)配置文件、衛(wèi)星下傳條帶數(shù)據(jù)及處理產(chǎn)出數(shù)據(jù)，參數(shù)置文件中參數(shù)包括:(1)硬件資源參數(shù):計(jì)算節(jié)點(diǎn)數(shù)量，計(jì)算節(jié)點(diǎn)IP，每個(gè)計(jì)算節(jié)點(diǎn)上的CPU核數(shù)和GPU板卡數(shù)；(2)條帶解析參數(shù):參與解析的進(jìn)程數(shù)，每個(gè)進(jìn)程解析的條帶行數(shù)；(3)處理參數(shù):每次處理的內(nèi)存限制。處理產(chǎn)出數(shù)據(jù)包括條帶輔助數(shù)據(jù)、分景文件、一級(jí)產(chǎn)品數(shù)據(jù)和二級(jí)產(chǎn)品數(shù)據(jù)。
[0024]本發(fā)明的衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)基于MPI+OpenMP+CUDA的三級(jí)混合編程模型構(gòu)建，Master節(jié)點(diǎn)負(fù)責(zé)整個(gè)處理流程的流程控制，包括流程的開始、各個(gè)模塊的執(zhí)行、流程的結(jié)束。具體處理流程(如圖4所示，)如下:
[0025]1、條帶解析
[0026]衛(wèi)星下傳條帶數(shù)據(jù)是一種結(jié)構(gòu)化的二進(jìn)制文件，如圖2所示，其中的信號(hào)數(shù)據(jù)區(qū)每行結(jié)構(gòu)相同，適合進(jìn)行并行化解析?？梢宰屆總€(gè)節(jié)點(diǎn)的每個(gè)進(jìn)程處理一段數(shù)據(jù)，各個(gè)處理的結(jié)果按順序拼接起來構(gòu)成整軌的輔助數(shù)據(jù)。
[0027]Master節(jié)點(diǎn)首先從存儲(chǔ)陣列中讀取參數(shù)配置文件，根據(jù)文件中的內(nèi)容配置參與計(jì)算的節(jié)點(diǎn)、節(jié)點(diǎn)參與的進(jìn)程數(shù)以及每個(gè)進(jìn)程解析的數(shù)據(jù)行數(shù)，利用MPI協(xié)議調(diào)用配置的節(jié)點(diǎn)在CPU中進(jìn)行條帶數(shù)據(jù)解析，每個(gè)進(jìn)程解析的衛(wèi)星星歷、姿態(tài)、成像時(shí)間及衛(wèi)星成像狀態(tài)等輔助數(shù)據(jù)以文件方式輸出，并以該段第一行的成像時(shí)間命名，各個(gè)進(jìn)程解析完成后，由Master節(jié)點(diǎn)按照各文件命名中的成像時(shí)間進(jìn)行排序拼接，形成整軌輔助數(shù)據(jù)并存儲(chǔ)在存儲(chǔ)陣列中。
[0028]2、邏輯分景
[0029]邏輯分景利用上述整軌輔助數(shù)據(jù)采用WRS分景方法進(jìn)行標(biāo)準(zhǔn)分景，計(jì)算簡(jiǎn)單，不進(jìn)行并行處理，僅在Master節(jié)點(diǎn)單進(jìn)程進(jìn)行，生成分景文件存放在存儲(chǔ)陣列中。
[0030]3、標(biāo)準(zhǔn)景生產(chǎn)
[0031]Master節(jié)點(diǎn)根據(jù)參數(shù)配置文件里的配置節(jié)點(diǎn)和節(jié)點(diǎn)數(shù)、每個(gè)節(jié)點(diǎn)GPU板卡數(shù)，利用MPI協(xié)議調(diào)用配置節(jié)點(diǎn)并行對(duì)每景數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)景生產(chǎn)處理；例如根據(jù)存儲(chǔ)陣列中參數(shù)配置文件中的內(nèi)容表明，參與計(jì)算的節(jié)點(diǎn)數(shù)為a，各個(gè)計(jì)算節(jié)點(diǎn)上裝載的GPU板卡數(shù)為m，為保證一個(gè)GPU板卡處理一景影像，每個(gè)節(jié)點(diǎn)有m個(gè)進(jìn)程對(duì)應(yīng)進(jìn)行m景的生產(chǎn)，則同時(shí)進(jìn)行m*a景影像的生產(chǎn)。每個(gè)生產(chǎn)進(jìn)程通過MPI通信分配的景號(hào)，在分景文件里找到該景號(hào)在條帶數(shù)據(jù)里對(duì)應(yīng)的起止行信息后，進(jìn)行標(biāo)準(zhǔn)景生產(chǎn)處理。標(biāo)準(zhǔn)景生產(chǎn)包括一級(jí)產(chǎn)品生產(chǎn)和系統(tǒng)幾何校正。
[0032]1) 一級(jí)產(chǎn)品生產(chǎn)[0033]一級(jí)產(chǎn)品生產(chǎn)包括圖像輻射處理流程和RPC參數(shù)求解。其中圖像輻射處理包括相對(duì)輻射校正、去噪處理和MTFC處理三個(gè)單元，都是針對(duì)圖像數(shù)據(jù)的操作，RPC參數(shù)求解是利用輔助數(shù)據(jù)進(jìn)行幾何參數(shù)處理，兩者不存在數(shù)據(jù)的交集，且RPC參數(shù)求解在CPU中進(jìn)行不占用GPU資源，因此，采用OpenMP進(jìn)行線程并行。
[0034]傳統(tǒng)的處理流程中各個(gè)處理(相對(duì)輻射校正、去噪處理、MTFC處理)操作是獨(dú)立的，上一個(gè)處理操作的輸出文件是下一個(gè)操作處理的輸入，由于整景圖像數(shù)據(jù)量大，各個(gè)處理操作都采用分塊處理方式，所以存在很多的10操作。本發(fā)明中圖像輻射處理中采用流水線方式，相對(duì)輻射校正、去噪處理、MTFC處理構(gòu)成一條生產(chǎn)流水線。首先對(duì)整景數(shù)據(jù)進(jìn)行分塊，每塊為根據(jù)預(yù)先配置的內(nèi)存限制計(jì)算的固定行，由于對(duì)應(yīng)的GPU設(shè)備數(shù)限制，各塊間不并行，采用循環(huán)方式。如圖3所示，具體如下:
[0035](1)將每景數(shù)據(jù)按參數(shù)配置文件中的每次處理影像的內(nèi)存限制進(jìn)行分塊，按照分塊順序?qū)⒌谝粔K數(shù)據(jù)讀入內(nèi)存，并開辟相同大小的一塊輸出內(nèi)存；
[0036](2)對(duì)內(nèi)存里的數(shù)據(jù)進(jìn)行基于CUDA架構(gòu)的輻射校正處理，結(jié)果輸出到輸出內(nèi)存，拷貝輸出內(nèi)存到輸入內(nèi)存，并將輸出內(nèi)存初始化，再依此進(jìn)行基于CUDA架構(gòu)的去噪處理、MTFC處理，MTFC處理后將結(jié)果數(shù)據(jù)從輸出內(nèi)存中寫入輸出文件中；
[0037](3)按照分塊順序?qū)⒌诙K數(shù)據(jù)讀入內(nèi)存，重復(fù)步驟(2)，直至最后一塊數(shù)據(jù)處理完成。
[0038]相對(duì)輻射校正、去噪處理、MTFC處理分別采用CUDA架構(gòu)進(jìn)行實(shí)現(xiàn)，對(duì)于相對(duì)輻射校正，利用實(shí)驗(yàn)室積分球測(cè)得的相對(duì)輻射校正系數(shù)進(jìn)行均一化相對(duì)輻射校正，將所有相機(jī)探元的增益和偏置系數(shù)拷入GPU的共享內(nèi)存中，每個(gè)像元對(duì)應(yīng)一個(gè)GPU線程進(jìn)行均一化計(jì)算。對(duì)于去噪處理，采用中值濾波法，將每個(gè)像元對(duì)應(yīng)一個(gè)GPU線程進(jìn)行處理。對(duì)于MTFC處理，采用維納濾波法進(jìn)行圖像復(fù)原，將二維MTF矩陣拷入GPU的共享內(nèi)存中，將對(duì)應(yīng)于MTF矩陣大小的頻率域圖像塊與MTF矩陣進(jìn)行維納濾波，并變換到空間域輸出，具體參考專利《一種基于GPU加速實(shí)現(xiàn)圖像復(fù)原處理方法》，申請(qǐng)?zhí)枮?201310308418.4。
[0039]2)系統(tǒng)幾何校正
[0040]系統(tǒng)幾何校正根據(jù)圖像數(shù)據(jù)各個(gè)像元的行列號(hào)與地面經(jīng)緯度的對(duì)應(yīng)關(guān)系對(duì)圖像進(jìn)行重采樣的操作。本發(fā)明中采用基于RPC參數(shù)的校正方法，并在CUDA架構(gòu)下實(shí)現(xiàn)，將一級(jí)產(chǎn)品生產(chǎn)中生成的景文件的RPC參數(shù)拷入GPU共享內(nèi)存中，并在GPU設(shè)備端對(duì)每個(gè)像元進(jìn)行基于RPC參數(shù)的從影像坐標(biāo)到地面坐標(biāo)的重采樣操作，重采樣方法采用三次卷積方法。
[0041]本發(fā)明已應(yīng)用于XX衛(wèi)星數(shù)據(jù)處理系統(tǒng)中，形成了一個(gè)有3個(gè)計(jì)算節(jié)點(diǎn)的小型的高性能處理系統(tǒng)。節(jié)點(diǎn)配置:INTEL ΧΕΟΝ Ε5_2670χ86_64位處理器，2路8核，主頻2.6GHz，內(nèi)存1333MHz、48GB，每個(gè)節(jié)點(diǎn)安裝了 3個(gè)Tesla2090GPU圖形卡，InfiniBand交換機(jī)標(biāo)稱帶寬 40Gb/s (單向)，80Gb/s (雙向)。
[0042]在此硬件環(huán)境下，對(duì)XX衛(wèi)星光學(xué)遙感數(shù)據(jù)進(jìn)行了生產(chǎn)試驗(yàn)。表1列出了選取的2組條帶的處理時(shí)間，其中，每組條帶包括1個(gè)多光譜數(shù)據(jù)條帶和1個(gè)全色數(shù)據(jù)。從表中可以看到，采用本發(fā)明高性能處理系統(tǒng)在處理第2組條帶時(shí)，吞吐量可以達(dá)到130MB/S以上，已經(jīng)接近該網(wǎng)絡(luò)環(huán)境下文件10速率，本發(fā)明高性能處理系統(tǒng)可以達(dá)到近實(shí)時(shí)地處理，處理性能非常高效。
[0043]表1條帶數(shù)據(jù)處理時(shí)間
【權(quán)利要求】
1.一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)，其特征在于:包括多臺(tái)計(jì)算節(jié)點(diǎn)、InfiniBand交換機(jī)和存儲(chǔ)陣列；所述的計(jì)算節(jié)點(diǎn)包括一個(gè)Master節(jié)點(diǎn)和多個(gè)slave節(jié)點(diǎn),各個(gè)計(jì)算節(jié)點(diǎn)硬件配置相同且slave節(jié)點(diǎn)數(shù)可以自由擴(kuò)展，每臺(tái)計(jì)算節(jié)點(diǎn)上載有多核CPU和多個(gè)GPU板卡，且保證CPU核數(shù)為GPU板卡數(shù)量的2倍以上；所述的存儲(chǔ)陣列中預(yù)先存放參數(shù)配置文件、待處理的條帶數(shù)據(jù)；所述的InfiniBand交換機(jī)將計(jì)算節(jié)點(diǎn)和存儲(chǔ)陣列連接在一起形成一個(gè)高速互聯(lián)網(wǎng)絡(luò)，構(gòu)成快速處理的基礎(chǔ)硬件設(shè)施； Master節(jié)點(diǎn)從存儲(chǔ)陣列中讀取參數(shù)配置文件，根據(jù)文件中的內(nèi)容配置參與計(jì)算的節(jié)點(diǎn)、節(jié)點(diǎn)參與的進(jìn)程數(shù)以及每個(gè)進(jìn)程解析的數(shù)據(jù)行數(shù)，利用MPI協(xié)議調(diào)用配置的節(jié)點(diǎn)在CPU中進(jìn)行并行條帶數(shù)據(jù)解析，并將每個(gè)進(jìn)程解析結(jié)果進(jìn)行拼接，形成整軌輔助數(shù)據(jù)并存儲(chǔ)在存儲(chǔ)陣列中； Master節(jié)點(diǎn)利用上述整軌輔助數(shù)據(jù)進(jìn)行WRS分景，形成分景文件存入存儲(chǔ)陣列中；根據(jù)參數(shù)配置文件中的節(jié)點(diǎn)數(shù)和GPU板卡數(shù)，利用MPI協(xié)議調(diào)用各配置節(jié)點(diǎn)并行對(duì)每景數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)景生產(chǎn)處理，保證每個(gè)GPU板卡分配到一景數(shù)據(jù)； 所述的標(biāo)準(zhǔn)景生產(chǎn)包括一級(jí)產(chǎn)品生成和系統(tǒng)幾何校正；所述的一級(jí)產(chǎn)品生成包括圖像輻射處理流程和RPC參數(shù)求解，利用OpenMP實(shí)現(xiàn)圖像輻射處理流程和RPC參數(shù)求解的線程并行處理；圖像輻射處理流程按照處理順序依次包括輻射校正、去噪處理、MTFC處理三個(gè)處理單元，均采用CUDA架構(gòu)實(shí)現(xiàn)；RPC參數(shù)求解在CPU端進(jìn)行，生成的RPC參數(shù)文件與圖像輻射處理流程生成的圖像文件構(gòu)成一級(jí)產(chǎn)品，存儲(chǔ)在存儲(chǔ)陣列中；在一級(jí)產(chǎn)品生產(chǎn)完成后，采用CUDA架構(gòu)在GPU中對(duì)圖像輻射處理結(jié)果進(jìn)行系統(tǒng)幾何校正，得到最終的圖像產(chǎn)品。
2.根據(jù)權(quán)利要求1所述的一種衛(wèi)星遙感數(shù)據(jù)快速處理系統(tǒng)，其特征在于:對(duì)每景數(shù)據(jù)進(jìn)行圖像輻射處理流程時(shí)采用流水線循環(huán)方式進(jìn)行，減少流程內(nèi)各處理單元間之間的文件IO操作，具體如下: (1)將每景數(shù)據(jù)按參數(shù)配置文件中的每次處理影像的內(nèi)存限制進(jìn)行分塊，按照分塊順序?qū)⒌谝粔K數(shù)據(jù)讀入內(nèi)存，并開辟相同大小的一塊輸出內(nèi)存； (2)對(duì)內(nèi)存里的數(shù)據(jù)進(jìn)行基于CUDA架構(gòu)的輻射校正處理，結(jié)果輸出到輸出內(nèi)存，拷貝輸出內(nèi)存到輸入內(nèi)存，并將輸出內(nèi)存初始化，再依次進(jìn)行基于CUDA架構(gòu)的去噪處理、MTFC處理，MTFC處理后將結(jié)果數(shù)據(jù)從輸出內(nèi)存中寫入輸出文件中； (3)按照分塊順序?qū)⒌诙K數(shù)據(jù)讀入內(nèi)存，重復(fù)步驟(2)，直至最后一塊數(shù)據(jù)處理完成。
【文檔編號(hào)】G06F9/38GK103677761SQ201310676298
【公開日】2014年3月26日 申請(qǐng)日期:2013年12月11日 優(yōu)先權(quán)日:2013年12月11日
【發(fā)明者】孫業(yè)超, 王峰, 徐文, 閔祥軍, 朱曉波, 祝令亞 申請(qǐng)人:中國(guó)資源衛(wèi)星應(yīng)用中心