基于生成型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及基于生成型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法，屬于短期交通 流量預(yù)測(cè)技術(shù)領(lǐng)域。
【背景技術(shù)】
[0002] 隨著城鎮(zhèn)化水平的提高和經(jīng)濟(jì)的快速發(fā)展，交通需求迅速增加，交通擁堵問(wèn)題在 全球范圍內(nèi)日趨嚴(yán)重。交通擁堵直接影響出行者的出行時(shí)間和成本，更為嚴(yán)重的是，因延誤 帶來(lái)的旅行時(shí)間增加導(dǎo)致經(jīng)濟(jì)損失和環(huán)境污染影響增大，造成城市活力下降。交通擁堵直 接造成能源的額外消耗和經(jīng)濟(jì)損失，汽車(chē)出行時(shí)間的延長(zhǎng)導(dǎo)致了額外燃料的消耗，從而增 加了汽車(chē)尾氣的排放。因此，交通擁堵也是導(dǎo)致環(huán)境污染日益加劇的因素之一，也是近年來(lái) 霧霾天氣頻繁出現(xiàn)的原因之一。此外，交通擁堵也是導(dǎo)致交通事故發(fā)生的重要原因之一。解 決交通擁堵，提高交通系統(tǒng)活力已成為全球密切關(guān)注，急需解決的難題。
[0003] 然而由于經(jīng)濟(jì)、環(huán)境、社會(huì)以及資金等因素的限制，處理城市交通問(wèn)題只靠擴(kuò)建城 市道路和在城市中央地區(qū)大批拆迀后再拓建、新建設(shè)施是非常困難和不現(xiàn)實(shí)的。需要進(jìn)行 有效規(guī)劃并充分發(fā)揮現(xiàn)有道路設(shè)施的效率才能充分利用新建和已有的道路設(shè)施和資源。因 此，為了緩解交通阻塞，提高路網(wǎng)通過(guò)能力，減少交通事故，降低能源消耗，減輕環(huán)境污染， 實(shí)現(xiàn)人，車(chē)，路的和諧，以現(xiàn)代化，智能化技術(shù)管理和控制交通系統(tǒng)的智能交通系統(tǒng)ITS應(yīng) 運(yùn)而生。交通流預(yù)測(cè)是一項(xiàng)非常重要的基礎(chǔ)理論，對(duì)交通信息進(jìn)行準(zhǔn)確的預(yù)測(cè)，制定出更加 完善的交通信息預(yù)報(bào)系統(tǒng)來(lái)解決交通不暢問(wèn)題的意義深遠(yuǎn)。然而，目前大部分研究都集中 在對(duì)一些主干道的交通流量預(yù)測(cè)方面，這些路口的交通流量數(shù)據(jù)積累比較豐富，主要是為 了提高交通流預(yù)測(cè)模型的準(zhǔn)確度和可靠度。神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用比較廣泛的一種典型常用 模型，淺層網(wǎng)絡(luò)其隱含層單元的個(gè)數(shù)隨著輸入的大小成指數(shù)增長(zhǎng)；而對(duì)于多層神經(jīng)網(wǎng)絡(luò)，神 經(jīng)元個(gè)數(shù)只需要多項(xiàng)式級(jí)別的增長(zhǎng)。同時(shí)，對(duì)于復(fù)雜的非線(xiàn)性映射問(wèn)題，淺層神經(jīng)網(wǎng)絡(luò)很難 學(xué)到這種關(guān)系，而深信度網(wǎng)絡(luò)具有更加強(qiáng)大的學(xué)習(xí)能力，但是多層神經(jīng)網(wǎng)絡(luò)存在一定的應(yīng) 用局限性。經(jīng)典的誤差反向傳播算法，是將訓(xùn)練問(wèn)題看做一個(gè)優(yōu)化問(wèn)題，通過(guò)提出一個(gè)有監(jiān) 督的損失函數(shù)，通過(guò)梯度下降法與誤差反向傳播，調(diào)整參數(shù)和偏置，使得網(wǎng)絡(luò)在訓(xùn)練集上損 失函數(shù)最小。不幸的是，使用這種方法訓(xùn)練的深信度網(wǎng)絡(luò)通常表現(xiàn)很差，比淺層網(wǎng)絡(luò)的表現(xiàn) 還要差。這在神經(jīng)網(wǎng)絡(luò)多年的發(fā)展中一直是一個(gè)制約性的問(wèn)題。所以，目前將基于上述方 法進(jìn)行交通流量預(yù)測(cè)存在預(yù)測(cè)效果差的問(wèn)題。

【發(fā)明內(nèi)容】

[0004] 本發(fā)明目的是為了解決目前針對(duì)新建路口進(jìn)行交通流量預(yù)測(cè)存在的數(shù)據(jù)少，預(yù)測(cè) 精度低的問(wèn)題，提供了一種基于生成型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法。
[0005] 本發(fā)明所述基于生成型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法，它包括以下步 驟：
[0006] 步驟一：基于深度學(xué)習(xí)理論和受限的玻爾茲曼機(jī)，建立一個(gè)具有144輸入與144輸 出結(jié)構(gòu)的生成型深信度網(wǎng)絡(luò)回歸模型；
[0007] 步驟二：利用所述新建路口所屬城市的成熟路口數(shù)據(jù)對(duì)深信度網(wǎng)絡(luò)回歸模型進(jìn) 行預(yù)訓(xùn)練，獲得深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型；所述成熟路口為交通流量數(shù)據(jù)積累成形的路 P ；
[0008] 步驟三：再利用新建路口的預(yù)存實(shí)際交通流量數(shù)據(jù)對(duì)深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型 繼續(xù)進(jìn)行精調(diào)，通過(guò)預(yù)訓(xùn)練模型的非線(xiàn)性映射能力，學(xué)習(xí)得到預(yù)訓(xùn)練模型的序列之間的映 射關(guān)系，獲得最終深?目度網(wǎng)絡(luò)回歸模型；
[0009] 步驟四：采集新建路口的當(dāng)前實(shí)際交通流量數(shù)據(jù)，采用最終深信度網(wǎng)絡(luò)回歸模型 對(duì)新建路口的交通流量進(jìn)行在線(xiàn)預(yù)測(cè)。
[0010] 步驟一中生成型深信度網(wǎng)絡(luò)回歸模型的建立方法為：
[0011] 通過(guò)受限的玻爾茲曼機(jī)的疊置構(gòu)建具有144輸入與144輸出結(jié)構(gòu)的深信度網(wǎng)絡(luò)回 歸模型；該深信度網(wǎng)絡(luò)回歸模型為1層神經(jīng)網(wǎng)絡(luò)，以向量X = h°表示原始輸入，以h \……， h1 1表不相應(yīng)隱含層的輸入，h 1表不輸出層的輸入；
[0012] 其中，第1-1隱含層使用sigmoid函數(shù)并由受限的玻爾茲曼機(jī)構(gòu)成，頂層激活函數(shù) 使用純線(xiàn)性函數(shù)；
[0013] 對(duì)于原始輸入X，1-1層隱含層和輸出層的聯(lián)合概率分布p (X，h1，......，h1)為：
[0014]
[0015] 其中，1為正整數(shù)；P(h1 U1)為h11和h1的聯(lián)合概率分布，PQ1 11Ih1)為h11的后 驗(yàn)概率。
[0016] 步驟二中獲得最終深?目度網(wǎng)絡(luò)回歸模型的具體方法為：
[0017] 步驟三一：采用逐層貪心方法，將步驟二中獲得的深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型分 層，由下至上，再利用新建路口的預(yù)存實(shí)際交通流量數(shù)據(jù)對(duì)輸入X的那一層進(jìn)行無(wú)監(jiān)督的 訓(xùn)練；
[0018] 步驟三二：所述無(wú)監(jiān)督的訓(xùn)練結(jié)束后，使用有監(jiān)督的學(xué)習(xí)對(duì)所述深信度網(wǎng)絡(luò)回歸 預(yù)訓(xùn)練模型進(jìn)行精調(diào)；
[0019] 步驟三三：除了原始輸入X的隱含層，以深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型的輸出作為 監(jiān)督信號(hào)，構(gòu)造損失函數(shù)，采用梯度下降法對(duì)所述深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型的其他隱含 層進(jìn)行有監(jiān)督的訓(xùn)練，得到預(yù)訓(xùn)練模型的序列之間的映射關(guān)系，獲得最終深信度網(wǎng)絡(luò)回歸 模型。
[0020] 步驟二中成熟路口數(shù)據(jù)為所屬城市的相應(yīng)路口近一年內(nèi)的交通流量數(shù)據(jù)，其數(shù)據(jù) 采集時(shí)間間隔為IOmin。
[0021] 步驟三中預(yù)存實(shí)際交通流量數(shù)據(jù)為所述新建路口近1個(gè)月內(nèi)的實(shí)際交通流量數(shù) 據(jù)，其數(shù)據(jù)采集時(shí)間間隔為lOmin。
[0022] 本發(fā)明的優(yōu)點(diǎn)：本發(fā)明方法解決了城市新建路口交通流量數(shù)據(jù)少、預(yù)測(cè)不可靠的 問(wèn)題：它結(jié)合深信度網(wǎng)絡(luò)逐層訓(xùn)練的特點(diǎn)，首先利用其它路口數(shù)據(jù)對(duì)整個(gè)模型進(jìn)行預(yù)訓(xùn)練， 然后再利用新建路口的少量數(shù)據(jù)對(duì)模型進(jìn)行精調(diào)；相對(duì)于現(xiàn)有方法中只用新建路口少量數(shù) 據(jù)進(jìn)行預(yù)訓(xùn)練和精調(diào)，本發(fā)明方法中模型精度顯著提高，實(shí)現(xiàn)了新建路口交通流量預(yù)測(cè)的 可靠性。
【附圖說(shuō)明】
[0023] 圖1是本發(fā)明所述基于生成型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法的流程 圖；
[0024] 圖2是具有五個(gè)隱含層深信度網(wǎng)絡(luò)的結(jié)構(gòu)示意圖；
[0025] 圖3是本發(fā)明所述的受限的玻爾茲曼機(jī)的典型拓?fù)浣Y(jié)構(gòu)圖。
【具體實(shí)施方式】
【具體實(shí)施方式】 [0026] 一：下面結(jié)合圖1至圖3說(shuō)明本實(shí)施方式，本實(shí)施方式所述基于生成 型深信度網(wǎng)絡(luò)的新建路口交通流量預(yù)測(cè)方法，它包括以下步驟：
[0027] 步驟一：基于深度學(xué)習(xí)理論和受限的玻爾茲曼機(jī)，建立一個(gè)具有144輸入與144輸 出結(jié)構(gòu)的生成型深信度網(wǎng)絡(luò)回歸模型；
[0028] 步驟二：利用所述新建路口所屬城市的成熟路口數(shù)據(jù)對(duì)深信度網(wǎng)絡(luò)回歸模型進(jìn) 行預(yù)訓(xùn)練，獲得深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型；所述成熟路口為交通流量數(shù)據(jù)積累成形的路 P ;
[0029] 步驟三：再利用新建路口的預(yù)存實(shí)際交通流量數(shù)據(jù)對(duì)深信度網(wǎng)絡(luò)回歸預(yù)訓(xùn)練模型 繼續(xù)進(jìn)行精調(diào)，通過(guò)預(yù)訓(xùn)練模型的非線(xiàn)性映射能力，學(xué)習(xí)得到預(yù)訓(xùn)練模型的序列之間的映 射關(guān)系，獲得最終深?目度網(wǎng)絡(luò)回歸模型；
[0030] 步驟四：采集新建路口的當(dāng)前實(shí)際交通流量數(shù)據(jù)，采用最終深信度網(wǎng)絡(luò)回歸模型 對(duì)新建路口的交通流量進(jìn)行在線(xiàn)預(yù)測(cè)。
[0031 ] 本實(shí)施方式中，步驟二所述的成熟路口數(shù)據(jù)包括所屬城市其它路口的大量實(shí)際交 通流量數(shù)據(jù)；步驟三中預(yù)存實(shí)際交通流量數(shù)據(jù)是指新建路口的少量實(shí)際交通流量數(shù)據(jù)。
【具體實(shí)施方式】 [0032] 二：下面結(jié)合圖1至圖3說(shuō)明本實(shí)施方式，本實(shí)施方式對(duì)實(shí)施方式一 作進(jìn)一步說(shuō)明，步驟一中生成型深信度網(wǎng)絡(luò)回歸模型的建立方法為：
[0033] 通過(guò)受限的玻爾茲曼機(jī)的疊置構(gòu)建具有144輸入與144輸出結(jié)構(gòu)的深信度網(wǎng)絡(luò)回 歸模型；該深信度網(wǎng)絡(luò)回歸模型為1層神經(jīng)網(wǎng)絡(luò)，以向量X = h°表示原始輸入，以h \……， h1 1表不相應(yīng)隱含層的輸入，h 1表不輸出層的輸入；
[0034] 其中，第1-1隱含層使用sigmoid函數(shù)并由受限的玻爾茲曼機(jī)構(gòu)成，頂層激活函數(shù) 使用純線(xiàn)性函數(shù)；
[0035] 對(duì)于原始輸入X，1-1層隱含層和輸出層的聯(lián)合概率分布P (X，h1，......，h1)為：
[0036]
[0037] 其中，1為正整數(shù)；POi1U1)為h11和h 1的聯(lián)合概率分布，PQ1llIh1)為h11的后 驗(yàn)概率。
[0038] 圖2所示，為基于受限的玻爾茲曼機(jī)RBM所建的五個(gè)隱含層深信度網(wǎng)絡(luò)的結(jié)構(gòu)示 意圖。
[0039] 受限的玻爾茲曼機(jī)是一個(gè)基于能量的生成型模型。其由一個(gè)輸入層和一個(gè)隱含層 構(gòu)成，層內(nèi)之間無(wú)連接，層間全連接。
[0040] 受限的玻爾茲曼機(jī)可以表示成一個(gè)無(wú)向圖的形式，如圖3所示。其中，V為輸入層， 又稱(chēng)為可見(jiàn)層，h為隱含層，又稱(chēng)為重新表達(dá)層。
[0041] 對(duì)于全體的可見(jiàn)層單元和隱含層單元，給定一個(gè)能量函數(shù)energy(v, h),其聯(lián)合 概率分布可以表示為：
[0042
[0043] 其中Z是一個(gè)歸一化因子，其計(jì)算次數(shù)隨著隱含層數(shù)目和輸入層數(shù)目成指數(shù)次增 長(zhǎng)，因子在實(shí)際計(jì)算中很難計(jì)算出其真實(shí)分布。
[0044] 受限的玻爾茲曼機(jī)的能量函數(shù)為：
[0045] >
[0046] 其中，Vk表示第k個(gè)可見(jiàn)層單元，h j表示第j個(gè)隱含層單元，w jk表示二者的連接 權(quán)值，Ck表示第k個(gè)可見(jiàn)層單元的閾值，b j表示第j個(gè)隱含層單元的閾值。RBM的一個(gè)重要 特性是：當(dāng)給定其中一個(gè)層時(shí)另一個(gè)層的后驗(yàn)概率的計(jì)算是易于得到的。當(dāng)給定可見(jiàn)層狀 態(tài)時(shí)，隱含層的激活概率為條件獨(dú)立，其中第j個(gè)隱含層節(jié)點(diǎn)的概率為：
[0047]
[0048]
[0049]
[0050] 同理，給定隱含層狀態(tài)時(shí)，可見(jiàn)層第k個(gè)點(diǎn)的激活概率為：
[0051]
[0052]
[0053] '' O
[0054] 為了訓(xùn)練一個(gè)RBM，需要計(jì)算相對(duì)于RBM參數(shù)的對(duì)數(shù)似然的負(fù)梯度。給定一個(gè)輸入 Λ對(duì)于參數(shù)Θ的梯度表示為：
[0055] U
-I- - ：，
[0056] 其中，等式右邊第一項(xiàng)表示在概率分布p (h I v°) T
的期望，第二項(xiàng)表 示在概率分