立體攝影術(shù)使用具有兩個或更多個鏡頭的相機(jī)(或在圖像捕捉之間移動的單個相機(jī))來模擬人類雙目視覺以捕捉仿真3D圖像。所得的立體圖像可以與3D眼鏡等一起使用以向用戶呈現(xiàn)圖像的3D視圖。在相關(guān)網(wǎng)絡(luò)中,體積顯示器使用專用裝備來向用戶提供3D對象或模型的3D視覺表示。
相反,全景攝像術(shù)使用專用裝備或軟件來以覆蓋高達(dá)360度的延長視野捕捉圖像。這樣的全景可被投影在覆蓋房間或空間的內(nèi)部或墻壁的彎曲屏幕上或者多個屏幕或顯示器上,以允許該房間或空間內(nèi)部的用戶如同他們在全景的場景內(nèi)一樣查看該全景。
概述
提供本概述以便以簡化的形式介紹以下在詳細(xì)描述中進(jìn)一步描述的一些概念。本概述并非旨在標(biāo)識所要求保護(hù)的主題的關(guān)鍵特征或必要特征,亦非旨在用作輔助確定所要求保護(hù)的主題的范圍。進(jìn)而,盡管本文中可能指出并討論了現(xiàn)有技術(shù)的某些缺點,然而所要求保護(hù)的主題不旨在限于可解決或針對那些現(xiàn)有技術(shù)中的任何或全部缺點的實現(xiàn)。
一般而言,如本文所描述的“PiMovs系統(tǒng)”提供用于實現(xiàn)體積空間的物理交互式顯像(即,“PiMovs”)的各種技術(shù)。這一交互式體積投影允許多個用戶查看在覆蓋或包括幾何框架的毗鄰顯示表面上渲染的2D和/或3D內(nèi)容并與其交互。
更具體而言,Pimovs系統(tǒng)提供一種交互式體積顯示器,包括置于圍繞幾何框架的外周的毗鄰布置中的多個顯示表面。此外,一個或多個附加顯示表面可任選地被放置以覆蓋該幾何框架的頂表面和/或底表面。換言之,至少該幾何框架的外周以及可任選地頂表面和/或底表面覆蓋有毗鄰的顯示表面。PiMovs系統(tǒng)使用在對幾何框架的外部的用戶可見的顯示表面上一起生成毗鄰體積投影的一個或多個計算設(shè)備。這一體積投影表示毗鄰體積投影的持續(xù)跨越每一相鄰顯示表面的每一邊緣的無縫包裝。
還要注意,在各實現(xiàn)中,這一體積投影表示毗鄰體積投影跨覆蓋(或形成)幾何框架的周界的單個彎曲或柔性360度顯示器的表面的無縫包裝。因此,出于解釋的目的,以下討論將有時使用短語“毗鄰顯示表面”,它被定義為指的是兩種情形,包括:覆蓋或構(gòu)成幾何框架的多個相鄰顯示器以及覆蓋或構(gòu)成幾何框架的周界的單個彎曲或柔性360度顯示器。
為啟用各種交互場景和能力,PiMovs系統(tǒng)使用一個或多個相機(jī)或其他位置感測設(shè)備或技術(shù)來跟蹤幾何框架的外部周圍的預(yù)定半徑內(nèi)的一個或多個人的位置。PiMovs系統(tǒng)隨后將毗鄰體積投影自動實時地適應(yīng)到幾何框架的外部周圍的人的所跟蹤的位置。。這使得毗鄰體積投影內(nèi)的對象相對于那些人而言在他們繞幾何框架的外部移動時看起來占據(jù)幾何框架內(nèi)的空間的恒定位置。還要注意,在事物或?qū)ο蟮膱D像或視頻繞毗鄰顯示表面移動或平移時,包括在跨任何相鄰屏幕邊緣或顯示表面平移時,該平移也是無縫的。
鑒于以上概述,清楚的是本文描述的PiMovs系統(tǒng)提供了用于使用覆蓋幾何框架的外部的毗鄰顯示表面來實現(xiàn)體積空間的物理交互式顯像的各種技術(shù)。除了剛才所描述的好處之外,當(dāng)結(jié)合附圖所考慮時,根據(jù)以下詳細(xì)描述,PiMovs系統(tǒng)的其它優(yōu)點將是顯而易見的。
附圖簡述
參考以下描述、所附權(quán)利要求書以及附圖,將更好地理解所要求保護(hù)的主題的具體特征、方面和優(yōu)點,附圖中:
圖1提供了如本文所描述的示出多個用戶查看覆蓋布置在“PiMovs系統(tǒng)”的幾何框架上的顯示表面的毗鄰體積投影的示例性解說。
圖2解說了如本文所描述的用于使用覆蓋幾何框架的外部的毗鄰顯示表面來實現(xiàn)體積空間的物理交互式顯像的“PiMovs系統(tǒng)”的示例性體系結(jié)構(gòu)流程圖。
圖3提供了如本文所描述的解說PiMovs系統(tǒng)的示例性硬件布局的示例性體系結(jié)構(gòu)流程圖,示出了計算、顯示以及自然用戶界面(NUI)硬件。
圖4提供了如本文所描述的單個示例性立方體形狀的PiMovs單元的部分內(nèi)視圖,其中計算設(shè)備和跟蹤及NUI傳感器已出于簡明的目的而省略。
圖5提供了如本文所描述的具有無定形周界形狀的單個示例性PiMovs單元的頂視圖,示出了示例性計算、投影以及NUI硬件。
圖6提供了如本文所描述的單個PiMovs單元的頂視圖,示出在PiMovs單元的周界周圍某最小距離處的固定或可調(diào)整交互區(qū)。
圖7提供了如本文所描述的示出從任意位置與處于通信中的各單獨PiMovs單元交互的多個用戶的示例性PiMovs生態(tài)系統(tǒng)的解說。
圖8如本文所描述的示出多個用戶與由PiMovs系統(tǒng)啟用的示例性數(shù)字藝術(shù)應(yīng)用進(jìn)行交互的解說。
圖9如本文所描述的示出多個用戶與由PiMovs系統(tǒng)啟用的示例性數(shù)字藝術(shù)應(yīng)用進(jìn)行交互的解說。
圖10提供了如本文所描述的示出本地PiMovs單元的用戶嘗試經(jīng)由PiMovs系統(tǒng)所啟用的示例性通信應(yīng)用來聯(lián)系不同PiMovs單元的另一用戶的解說。
圖11提供了如本文所描述的示出本地PiMovs單元的用戶經(jīng)由PiMovs系統(tǒng)所啟用的示例性通信應(yīng)用來與遠(yuǎn)程PiMovs單元的用戶進(jìn)行通信的解說。
圖12提供了如本文所描述的由PiMovs系統(tǒng)啟用的示例性位置選擇應(yīng)用的解說。
圖13解說了如本文所描述的示出用于實現(xiàn)PiMovs系統(tǒng)的的各實現(xiàn)的示例性硬件和方法的概括操作流程圖。
圖14是如本文所描述的描繪具有用于實現(xiàn)PiMovs系統(tǒng)的各實現(xiàn)的簡化計算和I/O能力的簡化通用計算設(shè)備的總系統(tǒng)圖。
詳細(xì)描述
在對所要求保護(hù)的主題的各實現(xiàn)的以下描述中,對附圖進(jìn)行了參考,附圖構(gòu)成了實施例的一部分且在其中作為說明示出了可在其中實踐所要求保護(hù)的主題的各具體實現(xiàn)。應(yīng)當(dāng)理解,可以利用其他實現(xiàn),并且可以作出結(jié)構(gòu)上的改變而不背離所要求保護(hù)的主題的范圍。
1.0 介紹:
一般而言,如本文所描述的“PiMovs系統(tǒng)”提供用于實現(xiàn)體積空間的物理交互式顯像(即,“PiMovs”)的各種技術(shù)。注意,因為多個PiMovs系統(tǒng)可以交互和通信,各單獨PiMovs系統(tǒng)將有時出于討論的目的而被稱為“PiMovs單元”。
在各實現(xiàn)中,PiMovs系統(tǒng)是通過布置多個顯示表面(例如,監(jiān)視器、投影表面、或其他顯示設(shè)備)來覆蓋幾何框架的外表面來實現(xiàn)的。幾何框架以任何所需形狀來實現(xiàn),包括但不限于具有側(cè)壁部以及可任選地頂部和底部中的任一者或兩者的錐體、立方體、圓環(huán)、無定形,等等,從而形成任何所需大小的360度幾何框架。這一幾何框架的周界被包裝有毗鄰顯示表面以使用相鄰顯示表面覆蓋該周界的每一部分。
還要注意,在各實現(xiàn)中,這一體積投影表示毗鄰體積投影跨覆蓋(或形成)幾何框架的周界的單個彎曲或柔性360度顯示器的表面的無縫包裝。因此,出于解釋的目的,以下討論將有時使用短語“毗鄰顯示表面”,它被定義為指的是兩種情形,包括:覆蓋或構(gòu)成幾何框架的多個相鄰顯示器以及覆蓋或構(gòu)成幾何框架的周界的單個彎曲或柔性360度顯示器。
PiMovs系統(tǒng)隨后生成毗鄰體積投影并經(jīng)由包裝或構(gòu)成幾何框架的毗鄰顯示表面將其顯示在該框架上。更具體而言,體積投影是毗鄰的,在于它被渲染為跨覆蓋或構(gòu)成幾何框架的周界的每一相鄰顯示表面的每一邊界邊緣的無縫包裝或跨單個顯示器的連續(xù)表面(以及該表面中可能存在的任何縫隙)的無縫包裝。換言之,毗鄰體積投影無縫地包裝跨越幾何框架的各側(cè)的所有相鄰邊緣以及可任選的頂部和/或底部。結(jié)果是毗鄰體積投影圍繞形成幾何框架的側(cè)壁的毗鄰顯示表面的360度無縫包裝,它還可任選地包括該相同體積投影從每一側(cè)跨越并覆蓋幾何框架的可任選頂部和/或底部的無縫包裝。
注意,這一包裝被認(rèn)為是無縫的,在于體積投影跨各相鄰顯示邊緣連續(xù)。如此,在其中顯示表面包括限定投影或顯示能力的邊緣邊框或其他邊界的情形中,在以其他方式毗鄰的體積投影中,可存在這些顯示表面的對應(yīng)可見線條或邊緣。然而,在各實現(xiàn)中,PiMovs系統(tǒng)使用不帶邊框或框架的顯示器,或者使用不帶邊框或框架的投影顯示表面,使得每一顯示表面的各相鄰邊緣以視覺上無縫的邊界來連接。
此外,監(jiān)視幾何框架的外部上的一個或多個區(qū)域的傳感器隨后被用來跟蹤該框架周圍的預(yù)定半徑內(nèi)的人的位置和自然用戶界面(NUI)輸入。注意,NUI輸入包括但不限于語音輸入、基于姿勢的輸入(包括基于空中和接觸兩者的姿勢或它們的組合)、各種表面上的用戶觸摸、對象或其他用戶、基于懸停的輸入或動作,等等。此外,在各實現(xiàn)中,跟蹤和/或基于姿勢的輸入可包括用戶運動或姿勢的鏡像,使得顯示在毗鄰顯示表面上的生物、人、數(shù)字化身等的表示可以執(zhí)行跟蹤和/或反映幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的移動、運動、或姿勢。
在各實現(xiàn)中,PiMovs系統(tǒng)隨后響應(yīng)于一個或多個人的所跟蹤的位置和/或一個或多個NUI輸入來動態(tài)地調(diào)整毗鄰體積投影。例如,在各實現(xiàn)中,這一動態(tài)適應(yīng)提供了包括但不限于針對所跟蹤的位置和/或任何一個或多個NUI輸入來適應(yīng)體積投影的能力。這樣的動態(tài)適應(yīng)的一個示例是在各實現(xiàn)中,體積投影以如下方式實時地動態(tài)適應(yīng):使得投影內(nèi)的對象相對于所跟蹤的人而言在他們繞幾何框架的外部移動時看起來占據(jù)框架內(nèi)的空間中的恒定位置。
有利地,多個PiMovs系統(tǒng)可經(jīng)由有線或無線網(wǎng)絡(luò)或其他通信鏈路交互。取決于與正在交互的PiMovs系統(tǒng)中的任何一者或多者上的毗鄰體積投影相關(guān)聯(lián)的特定應(yīng)用和/或內(nèi)容,這樣的交互可以是實時的或有延遲的。結(jié)果,在任何位置的與任何PiMovs系統(tǒng)交互的用戶可以與其他PiMovs系統(tǒng)或其他PiMovs系統(tǒng)的其他用戶交互。作為顯示在那些正在交互的PiMovs系統(tǒng)中的任何一者或多者的任何部分上的毗鄰體積投影的至少一部分隨后針對用戶NUI輸入、用戶跟蹤、以及PiMovs系統(tǒng)交互的任何組合之間的交互而動態(tài)地適應(yīng)。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
有利地,在各實現(xiàn)中,這些能力使得PiMovs系統(tǒng)能夠提供置于由跨世界的(和/或在軌道或其他基于空間的位置的)各本地社區(qū)連接的每日環(huán)境中的無縫圖像的視覺。結(jié)果,PiMovs系統(tǒng)啟用各種各樣的交互和通信能力。例如,因為PiMovs系統(tǒng)可被置于任何位置,在各實現(xiàn)中,PiMovs系統(tǒng)提供了用于策展的交互式畫布(例如,藝術(shù)品的體積顯示,進(jìn)入3D位置的體積門戶,諸如室外活動、博物館、國際空間站,等等)。有利地,這樣的能力所啟用的用戶體驗打開了技術(shù)、藝術(shù)、教育、娛樂以及設(shè)計的新組合之間的橋梁。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
此外,取決于毗鄰體積投影的內(nèi)容和相對于該內(nèi)容的任何特定用戶交互或運動,PiMovs系統(tǒng)的每一用戶或非用戶查看者的交互式體驗可在上下文上是不同的。因此,PiMovs系統(tǒng)提供了通過教育、工作相關(guān)、公共或私有事件、娛樂、游戲、通信等的交換來將人和位置相連接的公共(或私有)對象。在許多這樣的交換中,多個用戶可能正在以可能看起來不可思議的本地或全局體驗或本地和全局體驗兩者的組合的方式來創(chuàng)建、共享、傾聽、觀看毗鄰體積投影以及與其交互。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
1.1 系統(tǒng)概覽:
如上所述,PiMovs系統(tǒng)的幾何框架可以按任何所需的形狀來形成。然而,出于解釋的目的,以下討論一般將參考以立方體形狀(具有由顯示表面覆蓋的四個側(cè)面和頂面)來形成的幾何框架的版本。同樣,應(yīng)理解,PiMovs系統(tǒng)的頂和/或底顯示表面是可任選的。
例如,PiMovs系統(tǒng)的測試實現(xiàn)被構(gòu)造成立方體格式,使用由涂敷柔性背投材料來限定“背投顯示面板”的透明亞克力面板或其他半透明或透明聚合物或玻璃材料構(gòu)成的側(cè)壁和頂部。在一個或多個計算設(shè)備的控制下,用于立方體的五個面(在該示例中除立方體的底面之外)中的每一個面的單獨投影儀被部署在該立方體內(nèi)部以將圖像和/或視頻投影到覆蓋每一亞克力面板的背表面的背投材料上。然而,應(yīng)當(dāng)理解,單個投影儀可被用來覆蓋多個面,或者多個投影儀可被用來覆蓋單個面。那些所投影的圖像和/或視頻隨后從立方體外部清晰可見。此外,各種跟蹤和NUI傳感器被部署在立方體周圍以允許相對于靠近該立方體的多個用戶進(jìn)行跟蹤和接收輸入。圖1示出這樣的立方體的外部的藝術(shù)渲染。具體而言,圖1提供了示出多個用戶(100和110)觀看覆蓋形成立方體PiMovs系統(tǒng)的外表面的顯示表面(130、140、150、160以及170)的毗鄰體積投影120的示例性解說。
注意,雖然圖1的體積投影120被渲染在立方體的外部上的顯示表面(130、140、150、160以及170)上,但對于觀看者(100和110)而言,它看起來是在立方體內(nèi)部上顯示的藝術(shù)品。這一視覺印象被維持,因為在這一示例中,立方體的每一個面從不同視點顯示藝術(shù)品并且因為體積投影完全且無縫地包裝立方體的整個周界和頂面。因此,在這一示例中,甚至在用戶繞立方體外部移動時,體積投影對用戶而言看起來也是立方體內(nèi)部的3D對象的渲染。
以上概述的過程中的一些由圖2的總系統(tǒng)圖示出。具體而言,圖2的系統(tǒng)圖解說了用于實現(xiàn)如本文中所述的PiMovs系統(tǒng)的各實現(xiàn)的各硬件組件和程序模塊之間的相互關(guān)系。此外,盡管圖2的系統(tǒng)圖示出PiMovs系統(tǒng)的各實現(xiàn)的高級視圖,但圖2不旨在提供在本文通篇描述的PiMovs系統(tǒng)的每一可能實施例的窮盡或全面說明。
另外應(yīng)當(dāng)注意,在圖2中可以由斷線或虛線表示的任何框以及框之間的互連表示在此所述的PiMovs系統(tǒng)的可替代或可任選實現(xiàn)。此外,這些替代或可任選實現(xiàn)中的任意一個或全部可與本文通篇描述的其它替代實現(xiàn)組合使用。
一般而言,如圖2所示,PiMovs系統(tǒng)所啟用的過程通過提供由顯示表面包裝(或形成)的幾何框架200來開始操作。一般而言,這一幾何框架200包括按毗鄰布置來圍繞360度幾何框架的周界部分以及頂部和/或底部放置的多個顯示表面,或者覆蓋(或形成)幾何框架的周界的單個彎曲或柔性360度顯示器。PiMovs系統(tǒng)隨后使用體積投影模塊210通過渲染、顯示、和/或投影毗鄰體積投影的流過每一相鄰顯示表面的每一邊緣的無縫包裝來在顯示表面上生成毗鄰體積投影,或者將該毗鄰體積投影生成到單個毗鄰顯示表面上。
跟蹤模塊220使用各種位置感測設(shè)備來跟蹤幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的位置。另選地,或相組合地,NUI輸入模塊240接收一個或多個NUI輸入(例如,語音、姿勢、面部表情、觸摸,等等)和/或可任選地接收來自一個或多個用戶設(shè)備(例如,智能電話、平板、可穿戴傳感器或計算設(shè)備,等等)、來自一個或多個用戶的輸入。投影更新模塊230隨后響應(yīng)于PiMovs系統(tǒng)的幾何框架外部周圍的預(yù)定區(qū)域中的所跟蹤的一個或多個人的位置和/或NUI輸入來動態(tài)地適應(yīng)體積投影。
最后,PiMovs控制模塊250提供被用來選擇要被顯示或使用以與PiMovs系統(tǒng)交互的一個或多個應(yīng)用和/或用戶界面模式、和/或輸入定制參數(shù)等的管理用戶界面等。與PiMovs控制模塊250的交互是使用各種通信技術(shù)中的任一者來實現(xiàn)的,包括但不限于允許管理員用戶遠(yuǎn)程訪問該PiMovs控制模塊的有線或無線通信系統(tǒng)。此外,在各實現(xiàn)中,PiMovs控制模塊250允許各PiMovs單元之間的通信,同樣經(jīng)由任何所需有線或無線通信技術(shù),使得多個PiMovs單元可經(jīng)由對各PiMovs單元中的任一者的PiMovs控制模塊250的訪問來控制,并且使得數(shù)據(jù)可以在各PiMovs單元之間共享。
在各實現(xiàn)中,PiMovs控制模塊250還提供對PiMovs系統(tǒng)的各操作參數(shù)的管理控制。這樣的操作參數(shù)的省略包括但不限于哪些應(yīng)用由PiMovs系統(tǒng)執(zhí)行或?qū)崿F(xiàn),諸如游戲、通信應(yīng)用,等等。其他示例包括設(shè)置操作參數(shù)和管理功能,包括但不限于啟用本地或遠(yuǎn)程訪問、設(shè)置用于跟蹤或接收來自用戶的輸入的交互區(qū)距離、設(shè)置PiMovs系統(tǒng)將與其交互的最大用戶數(shù)、選擇應(yīng)用或應(yīng)用參數(shù)、設(shè)置或選擇要顯示在毗鄰顯示表面上的文本覆蓋、設(shè)置或調(diào)整音頻源、選擇或定義主題,等等。
2.0 PiMovs系統(tǒng)的操作細(xì)節(jié):
上述程序模塊被用于實現(xiàn)PiMovs系統(tǒng)的各實現(xiàn)。如上文概述的,PiMovs系統(tǒng)提供用于使用覆蓋幾何框架的外部的毗鄰顯示表面實現(xiàn)體積空間的物理交互式顯像的各種技術(shù)。以下各節(jié)提供了對PiMovs系統(tǒng)的各實現(xiàn)的操作以及用于實現(xiàn)在第1節(jié)中關(guān)于圖1和圖2描述的程序模塊的示例性方法的詳細(xì)討論。具體而言,以下各章節(jié)提供PiMovs系統(tǒng)的各實現(xiàn)的示例和操作細(xì)節(jié),包括:
PiMovs系統(tǒng)的操作概覽;
PiMovs系統(tǒng)的示例性幾何框架;
示例性PiMovs跟蹤、感測、以及渲染設(shè)備和硬件;
示例性PiMovs接口框架考慮;
PiMovs連接性;
體積投影;以及
示例性基于PiMovs的應(yīng)用和交互。
2.1 操作概覽:
如上文所述的,本文描述的PiMovs系統(tǒng)提供用于使用覆蓋或構(gòu)成幾何框架的外部的毗鄰顯示表面實現(xiàn)體積空間的物理交互式顯像的各種技術(shù)。此外,上文概述的能力提供了多個優(yōu)點和有趣用途。
例如,PiMovs系統(tǒng)的幾何框架的每一側(cè)面或部分是交互式的。這一交互性部分地通過使用排列在PiMovs系統(tǒng)周圍的多個跟蹤和NUI|傳感器以及輸入設(shè)備來啟用。這允許PiMovs系統(tǒng)并發(fā)地跟蹤并接收來自PiMovs系統(tǒng)的幾何框架的每一側(cè)或部分的多個用戶的NUI輸入。與PiMovs系統(tǒng)的每一側(cè)或部分的多個人進(jìn)行交互并作出響應(yīng)的這一能力允許實現(xiàn)實際上無限的交互模式。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
例如,如果PiMovs系統(tǒng)的立方體形實現(xiàn)的四個側(cè)面中的每一個側(cè)面有四個人與其進(jìn)行交互,則可存在多達(dá)十六個并發(fā)且可能不同的交互式體驗。通過允許與本地或遠(yuǎn)程PiMovs系統(tǒng)交互的人中的兩者或更多者共享不同PiMovs系統(tǒng)之間的各種交互,這一數(shù)目指數(shù)級增加。更具體而言,除一個或多個人與一個PiMovs系統(tǒng)交互之外,還存在允許經(jīng)由一個或多個PiMovs系統(tǒng)的一個或多個人之間的任何交互組合的PiMovs到PiMovs交互。還要注意,在各實現(xiàn)中,用戶可以經(jīng)由智能電話、平板、可穿戴計算設(shè)備、或其他便攜式計算設(shè)備上運行的移動應(yīng)用等與PiMovs系統(tǒng)的一個或多個特征或能力交互。
2.2 幾何框架:
如上所述,PiMovs系統(tǒng)的幾何框架被實現(xiàn)為具有側(cè)壁部和可任選的頂部和/或底部的任何所需形狀,從而形成任何所需大小的360度幾何框架。這樣的形狀包括但不限于規(guī)則多邊行(例如,錐體、立方體、八角形,等等)、不規(guī)則多邊形、彎曲形狀(諸如球形、卵形、無定形,等等)。幾何框架還可包括這樣的形狀的任何組合,例如具有圓頂或無定形頂部的立方體。
不管形狀如何,這一幾何框架的周界被包裝有毗鄰顯示表面以使用各相鄰顯示表面或單個連續(xù)或彎曲表面覆蓋該周界的每一部分。這樣的顯示表面的示例包括但不限于用于背投、固定或可彎曲屏幕或顯示設(shè)備等的半透明或透明材料。換言之,周界上的每一顯示表面具有相鄰且因而連續(xù)或連接到該周界上的至少兩個其他顯示表面的邊緣的邊緣。如上所述,在各實現(xiàn)中,毗鄰顯示表面可包括形成幾何框架的360度包裝的一個或多個單個連續(xù)或彎曲表面。附加相鄰顯示表面可任選地覆蓋框架的頂部和/或底部。此外,在各可任選實現(xiàn)中,沿可任選頂部或底部的外邊界的每一顯示表面的至少一個邊緣可以與周界上的一個或多個顯示表面的邊緣相鄰或以其他方式連接到這些邊緣。換言之,在這樣的實現(xiàn)中,幾何框架的側(cè)部和頂部(和/或底部)可任選地用顯示表面來包裝,使得毗鄰體積投影連續(xù)跨越所有相鄰或毗鄰顯示邊緣。
例如,考慮包括具有大約相同尺寸的五個矩形顯示表面作為底層立方體幾何框架的每一部分(例如,四個側(cè)部和一個頂部)的立方體PiMovs系統(tǒng)。在這一實現(xiàn)中,每一側(cè)部上的每一顯示表面的兩個相對邊緣中的每一者將連接到相鄰側(cè)部上的顯示表面的對應(yīng)邊緣。另外,頂部上的顯示表面的四個邊緣將連接到幾何框架的側(cè)部上的各顯示表面中的每一者的各邊緣之一。換言之,這一示例性立方體PiMovs系統(tǒng)的側(cè)部和頂部包裝有顯示表面,其中所有相鄰邊緣被連接。
此外,注意,在其中顯示表面(例如,投影材料,諸如半透明玻璃、亞克力面板,等等)具有足夠結(jié)構(gòu)強(qiáng)度的情形中,這些顯示表面可被整體形成或通過以排除對用于支持顯示表面的底層框架的需求的方式接合這樣的材料的邊緣來以其他方式耦合。換言之,取決于所使用的材料,在各實現(xiàn)中,顯示表面本身形成PiMovs系統(tǒng)的底層幾何框架。
例如,PiMovs系統(tǒng)的測試實現(xiàn)以立方體格式構(gòu)造,使用由透明亞克力面板構(gòu)成的側(cè)壁和頂部。這些透明亞克力面板中的每一者的背投表面(即,立方體的內(nèi)部上的面板面)涂敷有作為薄片來施加的柔性背投中性增益、高對比度材料。這一配置使PiMovs系統(tǒng)能夠使用安排在立方體內(nèi)部的投影儀將圖像和/或視頻投影到每一亞克力面板的背表面上,其中這些圖像和/或視頻隨后從亞克力面板的前表面(即,從立方體外部)清晰可見。
另外,這一亞克力立方體的邊緣和角落被仔細(xì)地接合以在這些接縫處保留亞克力的光學(xué)屬性,從而使體積投影在接縫處的光學(xué)畸變最小化。這允許PiMovs系統(tǒng)使用立方體內(nèi)部的投影儀將體積投影的完整無縫顯示渲染在立方體的投影表面上,如上所述。此外,在各實現(xiàn)中,PiMovs系統(tǒng)所提供的體積投影在毗鄰顯示表面的各部分之間的角或其他非平面連接附近被自適應(yīng)地彎曲,以使得自這些角或非平面連接的任何光學(xué)畸變最小化。
在各實現(xiàn)中,PiMovs系統(tǒng)的幾何框架可被置于地面或其他表面上,諸如例如固定或旋轉(zhuǎn)基座。將PiMovs系統(tǒng)的幾何框架置于基座上的優(yōu)點之一是與PiMovs系統(tǒng)相關(guān)聯(lián)的硬件中的一些或全部(例如,投影儀、接收機(jī)、跟蹤傳感器、NUI傳感器以及輸入設(shè)備、聲音系統(tǒng)、相機(jī),等等)可被置于基座內(nèi)或以其他方式耦合到基座。此外,在各實現(xiàn)中,PiMovs系統(tǒng)的幾何框架可使用線纜或其他支撐結(jié)構(gòu)來被升起或掛起。與基座一樣,用于升起或掛起PiMovs系統(tǒng)的幾何框架的任何線纜或其他支撐結(jié)構(gòu)可被用來移動或旋轉(zhuǎn)幾何框架。在任一情況下,幾何框架的移動或旋轉(zhuǎn)按某預(yù)定義安排或路徑來執(zhí)行,或者響應(yīng)于與PiMovs系統(tǒng)的用戶交互來執(zhí)行。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
2.3 PiMovs跟蹤、感測、以及渲染硬件:
如上所述,PiMovs系統(tǒng)的各實現(xiàn)包括幾何框架,其中每一部分覆蓋有顯示表面。有利地,在固定平面屏幕或可彎曲顯示器或者用于與背投硬件一起使用的投影顯示表面的情形中,PiMovs系統(tǒng)的內(nèi)部提供了可將各種各樣的裝備置于其中而不干擾體積投影的空間。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供用于通過將這樣的硬件置于不可見或以其他方式安全的位置中來改進(jìn)物理和處理安全性的物理參數(shù)或控制。然而,應(yīng)當(dāng)理解,盡管將這樣的硬件置于PiMovs單元內(nèi)部用于既保護(hù)該硬件又將該硬件從視野中隱藏,但這一硬件中的一些或全部可被置于PiMovs系統(tǒng)外部之上或附近的可見位置,而不本質(zhì)上改變PiMovs系統(tǒng)的一般功能性。
例如,圖3解說了置于PiMovs單元中以用于實現(xiàn)PiMovs系統(tǒng)的示例性硬件。這一示例性硬件包括但不限于各種計算、顯示、跟蹤以及NUI硬件設(shè)備。在這一示例中,多個每部分計算設(shè)備(例如,205、310以及315)生成或以其他方式渲染總體體積投影的每一單獨部分。然而,盡管在此未示出,但應(yīng)當(dāng)理解,多個NUI硬件設(shè)備可連接到單個計算設(shè)備,或單個NUI硬件設(shè)備可連接到多個計算設(shè)備。另選地,或相組合地,可任選總體計算320生成或以其他方式渲染總體體積投影中的一些或全部。在任一情形中,所得的體積投影隨后被傳遞給多個每部分投影儀或顯示設(shè)備(例如,325、330以及335)以呈現(xiàn)在覆蓋(或構(gòu)成)PiMovs系統(tǒng)的幾何框架的顯示表面上。
所顯示的體積投影隨后響應(yīng)于經(jīng)由一個或多個每部分跟蹤和NUI傳感器(例如,340、345以及350)接收到的跟蹤信息和/或NUI輸入來動態(tài)地更新。另選地,或相組合地,一組總體跟蹤和NUI傳感器355可以向可任選總體計算設(shè)備320提供跟蹤信息和NUI輸入以用于動態(tài)地更新體積投影。跟蹤和NUI傳感器(例如,340、345以及350)與計算設(shè)備(例如,305、310、315以及320)之間的通信是使用任何所需有線或無線通信協(xié)議或接口來實現(xiàn)的。這樣的通信協(xié)議和接口的示例包括但不限于經(jīng)由UDP、TCP/IP等在有線或無線接口(例如,近場通信、基于IR的輸入設(shè)備(諸如遙控器或具備IR能力的智能電話)、以太網(wǎng)、USB、ThunderboltTM、IEEE 802.x,等等)上流傳輸?shù)膫鞲衅鲾?shù)據(jù)。
還要注意,PiMovs系統(tǒng)的各實現(xiàn)包括各種可任選通信或網(wǎng)絡(luò)接口360??扇芜x通信或網(wǎng)絡(luò)接口360允許每部分計算設(shè)備(例如,305、310以及315)中的任一者以及可任選總體計算設(shè)備320協(xié)調(diào)體積投影的各部分的渲染和投影或顯示。此外,可任選通信或網(wǎng)絡(luò)接口360允許每部分計算設(shè)備(例如,305、310以及315)中的任一者以及可任選總體計算設(shè)備320發(fā)送和接收用于與其他PiMovs單元交互的數(shù)據(jù)。
另外,可任選通信或網(wǎng)絡(luò)接口360允許每部分計算設(shè)備(例如,305、310以及315)中的任一者以及可任選總體計算設(shè)備320發(fā)送數(shù)據(jù)或接收來自各種源(例如,基于云的存儲、公共或私有網(wǎng)絡(luò)、因特網(wǎng),等等)的數(shù)據(jù)以用于任何所需目的或應(yīng)用。還要注意,計算設(shè)備(例如,305、310以及315)中的任一者可以按客戶端/服務(wù)器模型操作,其中一個或多個計算設(shè)備與專用傳感器設(shè)備相關(guān)聯(lián),并且另一計算設(shè)備充當(dāng)服務(wù)器來處理數(shù)據(jù)以及協(xié)調(diào)體積投影的生成。
圖4提供了單個示例性立方體形狀的PiMovs單元的部分內(nèi)視圖,其中計算設(shè)備和跟蹤及NUI傳感器已出于簡明的目的而省略。具體而言,在顯示表面(例如,顯示表面400和410)的背面上的背投的情形中,一個或多個每部分投影儀(例如420和430)被置于幾何框架內(nèi)部,以將總體體積投影的各部分投影到覆蓋幾何框架的顯示表面的一個或多個對應(yīng)部分上。這些投影儀由一個或多個計算設(shè)備控制,如上所述,其中所得的體積投影針對所跟蹤的用戶運動和/或用戶NUI輸入來動態(tài)地適應(yīng)。另外,如所解說的,PiMovs系統(tǒng)可任選地包括一個或多個揚聲器或音頻設(shè)備440。
類似地,圖5提供示出示例性計算、投影以及NUI硬件的單個示例性PiMovs單元的俯視圖。與圖4所示的示例性PiMovs單元相對比,圖5所示的PiMovs單元是適應(yīng)無定形周界形狀500來實現(xiàn)的。多個每部分投影設(shè)備(例如,515到575)所輸出的體積投影由計算設(shè)備505響應(yīng)于從跟蹤和NUI傳感器510接收到的跟蹤和用戶NUI輸入來控制。
2.3.1 跟蹤傳感器:
如上所述,PiMovs系統(tǒng)適應(yīng)各種跟蹤傳感器和技術(shù)中的任一者來監(jiān)視人在做什么、他們在哪里以及跟蹤他們的運動。注意,這樣的跟蹤默認(rèn)是匿名化狀態(tài),使得PiMovs系統(tǒng)不收集也不考慮臉部以及其他標(biāo)識信息。然而,在各實現(xiàn)中,用戶可授予顯式許可以允許PiMovs系統(tǒng)捕捉和使用各種級別的標(biāo)識信息來用于特定應(yīng)用。此外,如上所述,在各實現(xiàn)中,用戶可以經(jīng)由智能電話、平板、可穿戴計算設(shè)備、或其他便攜式計算設(shè)備上運行的移動應(yīng)用等與PiMovs系統(tǒng)的一個或多個特征或能力交互。
一般而言,用于跟蹤和NUI輸入的傳感器往往在特定距離或范圍內(nèi)工作良好。如此,在各實現(xiàn)中,PiMovs系統(tǒng)可任選地將用戶跟蹤和/或NUI輸入限于各單獨PiMovs單元周圍的特定范圍或區(qū)域。例如,如圖6解說的,在一個實現(xiàn)中,具有八邊形周界的PiMovs單元600包括PiMovs單元的周界周圍的固定或可調(diào)整交互區(qū)610。在這一示例中,固定或可調(diào)整交互區(qū)610所指示的最小距離的內(nèi)部或外部的用戶不被跟蹤或監(jiān)視NUI輸入。
不管是否使用交互區(qū),跟蹤傳感器和技術(shù)被用來相對于PiMovs單元的位置、其他用戶、或PiMovs系統(tǒng)的傳感器范圍內(nèi)的其他對象,跟蹤用戶骨架數(shù)據(jù)、身體位置、運動以及朝向、頭部位置、注視等等。使用位置傳感器或基于傳感器硬件和軟件的技術(shù)的組合的任何所需跟蹤或定位技術(shù)可被用于這樣的目的。各示例包括但不限于2D或立體相機(jī)、深度傳感器、紅外相機(jī)和傳感器、基于激光的傳感器、基于微波的傳感器、PiMovs單元周圍的壓力墊、用于捕捉語音或使用有向音頻技術(shù)來用于各種用戶跟蹤目的的話筒陣列、用戶穿戴或攜帶的傳感器(包括但不限于,GPS感測或跟蹤系統(tǒng)、耦合到用戶穿戴或攜帶的移動設(shè)備的加速度計、頭戴式顯示設(shè)備、頭戴式或穿戴虛擬現(xiàn)實設(shè)備,等等)的任何所需組合。
2.3.2 NUI傳感器:
在各實現(xiàn)中,PiMovs系統(tǒng)使用傳感器的任何所需組合來捕捉或以其他方式接收或?qū)С鰜碜砸粋€或多個用戶的NUI輸入。有利地,用于相對于PiMovs單元來跟蹤用戶的傳感器中的一些或全部(參見以上2.3.1小節(jié)的討論)也可被用來接收NUI輸入。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的跟蹤和用戶交互效率和提高的用戶交互性能。一般而言,NUI輸入可包括但不限于:
a.從經(jīng)由話筒或其他傳感器捕捉的用戶語音或發(fā)音導(dǎo)出的NUI輸入,以及可任選地包括使用話筒陣列等來跟蹤一個或多個用戶的有向音頻跟蹤;
b.從用戶面部表情導(dǎo)出的NUI輸入,從使用諸如2D或深度相機(jī)(例如,立體或飛行時間相機(jī)系統(tǒng)、紅外相機(jī)系統(tǒng)、RGB相機(jī)系統(tǒng)、這些設(shè)備的組合,等等)等成像設(shè)備捕捉的用戶手、手指、腕、臂、腿、身體、頭部、眼睛等的位置、運動或取向?qū)С龅腘UI輸入;
c.從姿勢識別導(dǎo)出的NUI輸入,包括空中和基于接觸的姿勢兩者、從由用戶把持的對象(例如,棒,諸如網(wǎng)球拍、乒乓球拍等運動裝備)的運動導(dǎo)出的姿勢;
d.從用戶在各種表面、對象或其他用戶上的觸摸導(dǎo)出的NUI輸入;
e.從基于懸停的輸入或動作等等導(dǎo)出的NUI輸入;
f.從獨立地或與其他NUI信息相組合地評估當(dāng)前或過去用戶行為、輸入、動作等以預(yù)測諸如用戶意圖、愿望、和/或預(yù)期動作的預(yù)測機(jī)器智能過程導(dǎo)出的NUI輸入。
不管基于NUI的信息或輸入的類型或源如何,這樣的輸入隨后被用來發(fā)起、終止、或以其他方式控制PiMovs系統(tǒng)和/或與PiMovs系統(tǒng)相關(guān)聯(lián)的計算設(shè)備中的任一者所運行的任何應(yīng)用的一個或多個輸入、輸出、動作或功能特征或與其交互。
此外,在各實現(xiàn)中,PiMovs系統(tǒng)的一個或多個顯示表面允許直接用戶輸入。例如,在各實現(xiàn)中,顯示表面中的一者或多者是觸敏的(例如,電阻式或電容式觸摸、光學(xué)感測,等等)。此外,在各實現(xiàn)中,顯示表面中的一者或多者是柔性的以允許用戶推、拉、或以其他方式使這些表面變形,其中所得的變形提供與顯示在這些顯示表面上的底層體積投影的直接交互。換言之,這些類型的觸摸和用戶變形可被用作與一個或多個顯示表面上渲染的且相關(guān)于本地或遠(yuǎn)程PiMovs系統(tǒng)的內(nèi)容進(jìn)行交互的NUI輸入。
2.4 PiMovs接口框架:
一般而言,因為體積投影是響應(yīng)于用戶跟蹤和NUI輸入在PiMovs系統(tǒng)的顯示表面上渲染的,取決于用戶如何對這些體積投影作出響應(yīng)或進(jìn)行交互,PiMovs系統(tǒng)上部署的每一交互式體驗將往往不同于PiMovs系統(tǒng)上的任何其他交互式體驗。
在各實現(xiàn)中,PiMovs系統(tǒng)通過使用支持各種各樣的輸入和應(yīng)用設(shè)計的接口框架來適應(yīng)這些不同輸入。例如,在各實現(xiàn)中,PiMovs系統(tǒng)提供各種各樣的編碼環(huán)境和圖形框架。這樣的編碼環(huán)境和圖形框架包括但不限于任何所需開源編碼環(huán)境或圖形框架以及各種專有編碼環(huán)境和圖形框架中的任一者,諸如例如基于Java的編碼和框架、基于C++的開放框架、基于Unity的開發(fā)生態(tài)系統(tǒng),等等。然而,應(yīng)當(dāng)理解,PiMovs系統(tǒng)不旨在被限于使用任何特定開源或?qū)S芯幋a環(huán)境和圖形框架。
在各實現(xiàn)中,PiMovs系統(tǒng)提供了一種框架設(shè)施,它提供了用于將跟蹤和NUI傳感器數(shù)據(jù)流廣播給由PiMovs系統(tǒng)執(zhí)行的各顯示應(yīng)用的統(tǒng)一處理。例如,在各實現(xiàn)中,在與PiMovs系統(tǒng)相關(guān)聯(lián)的任何計算設(shè)備上運行的最小服務(wù)器類型應(yīng)用被用來將來自傳感器中的任一者的輸入轉(zhuǎn)換成易于消費且靈活的網(wǎng)絡(luò)廣播,該網(wǎng)絡(luò)廣播可由與PiMovs系統(tǒng)相關(guān)聯(lián)的計算設(shè)備中的任一者消費和操作。廣播的內(nèi)容的示例包括諸如相對于體積投影的某一特定部分或其他特定用戶的特定用戶動作、運動、NUI輸入等信息。
此外,在各實現(xiàn)中,PiMovs系統(tǒng)將一個或多個NUI傳感器數(shù)據(jù)流組合成PiMovs系統(tǒng)的周圍空間的附著視圖。這啟用各種各樣的實現(xiàn)和應(yīng)用,包括但不限于跟蹤在PiMovs系統(tǒng)周圍走動的一個或多個人,使得他們將不進(jìn)入或離開各單獨NUI傳感器區(qū)域,而是總是停留在附著視圖內(nèi)。有利地,這保持NUI數(shù)據(jù)是“無縫的”,從而添加到PiMovs系統(tǒng)的毗鄰顯示表面上渲染的體積投影的無縫性質(zhì)。這樣的實現(xiàn)的所得的技術(shù)效果包括但不限于提供經(jīng)改進(jìn)的用戶交互效率和提高的用戶交互性能。
例如,在各實現(xiàn)中,PiMovs系統(tǒng)可任選地采用開放聲音控制(OSC)協(xié)議來用于聯(lián)網(wǎng)由PiMovs系統(tǒng)用來廣播傳感器數(shù)據(jù)的聲音合成器、計算機(jī)以及其他多媒體設(shè)備。一般而言,OSC被構(gòu)建在用戶數(shù)據(jù)報協(xié)議(UDP)上,提供在各種交互式藝術(shù)框架中有用的TCP/IP實現(xiàn)。在這樣的情形中,使用伴有可變數(shù)目的類型化自變量的路由地址來格式化數(shù)據(jù)消息。
在各實現(xiàn)中,PiMovs系統(tǒng)提供用于將PiMovs系統(tǒng)的傳感器范圍內(nèi)的手或手指運動或其他姿勢NUI輸入轉(zhuǎn)換或以其他方式變換成觸摸屏和定點設(shè)備事件或輸入的應(yīng)用編程接口(API)或其他應(yīng)用或接口。這允許PiMovs系統(tǒng)使用任何現(xiàn)有程序或應(yīng)用或者與其交互,如同這些程序或應(yīng)用正經(jīng)由初始預(yù)期或預(yù)計用于這些程序或應(yīng)用的輸入源接收輸入。例如,在各實現(xiàn)中,PiMovs系統(tǒng)轉(zhuǎn)換從NUI傳感器接收到的手位置以指令與PiMovs系統(tǒng)相關(guān)聯(lián)的操作系統(tǒng)移動鼠標(biāo)光標(biāo)。類似地,在各實現(xiàn)中,PiMovs系統(tǒng)將手勢(諸如例如握拳)轉(zhuǎn)換成當(dāng)前光標(biāo)位置處的觸摸事件(像觸摸屏或其他觸敏表面上的用戶觸摸一樣)。這樣的觸摸事件隨后可被轉(zhuǎn)換成對應(yīng)的“鼠標(biāo)按下”或點擊事件等等。
2.5 PiMovs連接性:
如上所述,在各實現(xiàn)中,PiMovs系統(tǒng)提供了一種聯(lián)網(wǎng)的交互式公共對象。此外,這樣的交互可以發(fā)生在任何兩個或更多個PiMovs單元之間,而不管這些單元位于何處,只要這些PiMovs單元之間存在通信或聯(lián)網(wǎng)路徑。PiMovs單元之間的這樣的交互的結(jié)果是交互式生態(tài)系統(tǒng),其中內(nèi)容、交互以及體驗可由多個用戶跨世界且甚至在基于太空的位置中共享。
例如,圖7提供了示出與從任意位置處于通信中的各單獨PiMovs單元交互的多個用戶的示例性PiMovs生態(tài)系統(tǒng)的解說。例如,在圖7的解說中,多個用戶700正與西雅圖的PiMovs單元710上渲染的體積投影進(jìn)行交互。圖7還示出多個用戶720正與倫敦的PiMovs單元730上渲染的體積投影進(jìn)行交互。圖7還示出多個用戶740正與北京的PiMovs單元750上渲染的體積投影進(jìn)行交互。最后,圖7還示出多個用戶760正與紐約時代廣場的相對大得多的PiMovs單元770上渲染的體積投影進(jìn)行交互。在圖7的示例中,PiMovs單元(710、730、750以及770)中的每一者經(jīng)由有線和/或無線網(wǎng)絡(luò)連接進(jìn)行通信。有利地,PiMovs系統(tǒng)的通信能力使圖7中解說的PiMovs單元中的每一者的用戶能夠聯(lián)合地與可被顯示在這些PiMovs單元中的一些或全部上的共同體積投影進(jìn)行交互。
還要注意,在各實現(xiàn)中,與一個PiMovs系統(tǒng)的任一側(cè)、面、或部分上的體積投影部分進(jìn)行交互的用戶可以與另一位置的正與那一位置的PiMovs系統(tǒng)的任一側(cè)、面或部分上的體積投影部分進(jìn)行交互的用戶進(jìn)行交互。此外,任何PiMovs系統(tǒng)的每一側(cè)、面、或部分可以與不同PiMovs系統(tǒng)的各側(cè)、面、或部分進(jìn)行交互,使得任何特定PiMovs系統(tǒng)可以在任何時間與多個PiMovs系統(tǒng)通信和交互。
如上所述,在各實現(xiàn)中,PiMovs系統(tǒng)提供各種通信能力以用于與便攜式計算設(shè)備(包括但不限于智能電話、平板、媒體設(shè)備、遙控器、定點設(shè)備,等等)進(jìn)行交互。用于啟用PiMovs系統(tǒng)與這樣的便攜式設(shè)備之間的交互和通信的通信技術(shù)包括但不限于RFID或其他近場通信、基于IR的通信、Wi-Fi(例如,IEEE 802.11(a/b/g/n/i,等等))、全球移動通信系統(tǒng)(GSM)、通用分組無線電服務(wù)(GPRS)、各種基于碼分多址(CDMA)無線電的技術(shù)、進(jìn)化數(shù)據(jù)優(yōu)化(EV-DO)、增強(qiáng)型),用于GSM進(jìn)化的增強(qiáng)型數(shù)據(jù)速率(EDGE)、通用移動電信系統(tǒng)(UMTS)、數(shù)字增強(qiáng)型無繩電信(DECT)、數(shù)字AMPS(即,IS-136/TDMA)、整合數(shù)據(jù)增強(qiáng)網(wǎng)絡(luò)(iDEN),等等。
在各實現(xiàn)中,通信能力(諸如上述那些)使PiMovs系統(tǒng)能夠推送或以其他方式傳送數(shù)據(jù)或信息給用戶攜帶的各便攜式計算設(shè)備,且還使這些設(shè)備能夠從PiMovs系統(tǒng)拉取信息。這樣的能力的一個簡單示例是使用嵌入在、耦合到便攜式計算設(shè)備(諸如例如智能電話)或以其他方式與其通信的傳感器,來提供傳感器數(shù)據(jù)或者輸入或與PiMovs系統(tǒng)共享其他數(shù)據(jù)或用戶個性化信息。這樣的能力的另一簡單示例包括但不限于顯示一個或多個快速響應(yīng)(QR)碼或其他可掃描碼,作為體積投影上的覆蓋或作為以其他方式包括在體積投影中的圖像元素。用戶隨后可以使用具有相機(jī)能力的便攜式計算設(shè)備來掃描這樣的碼以允許這些計算上提供第二屏幕體驗,或者另選地,自動檢索相關(guān)數(shù)據(jù)(例如,下載文件、信息、鏈接等或者打開網(wǎng)頁等)。
2.6 體積投影:
現(xiàn)有全景或虛擬現(xiàn)實“房間”通常將外部空間或場景的各視圖縫合在一起,它隨后如同用戶處于該空間內(nèi)部一樣來被查看。換言之,全景和虛擬現(xiàn)實房間通常提供表示某一空間的經(jīng)縫合全景視圖的圖像或視頻重放。
作為對比,PiMovs系統(tǒng)所提供的體積投影表示對觀看者而言看起來是顯示在幾何框架的內(nèi)部的內(nèi)容且可由觀看者從幾何框架外部來觀察的視圖。這一視覺印象被維持,因為幾何框架的每一面或部分可以從不同視點來顯示體積投影的內(nèi)容并且因為體積投影完全且無縫地包裝幾何框架的整個周界以及可任選的頂部和/或底部。結(jié)果是體積投影的一些或全部對用戶而言看起來是幾何框架內(nèi)部的2D和/或3D內(nèi)容的渲染,甚至在用戶圍繞該框架外部移動時。
更具體而言,PiMovs系統(tǒng)的體積投影可包括2D或3D內(nèi)容或者2D和3D內(nèi)容的任何所需組合。在所跟蹤的用戶移動、查看或以其他方式與體積投影交互時,體積投影的內(nèi)容針對這些用戶的位置而被自動適應(yīng)。在各實現(xiàn)中,體積投影的這一自動適應(yīng)還包括但不限于基于用戶位置和相對于PiMovs系統(tǒng)的查看角度來改變體積投影的視點。
2.6.1 透視圖和位置跟蹤:
如上所述,在各實現(xiàn)中,在用戶圍繞PiMovs系統(tǒng)走動或相對于PiMovs系統(tǒng)移動時,視點改變,使得體積投影的虛擬對象或其他內(nèi)容看起來處于幾何框架內(nèi)部的恒定物理空間或位置。這不同于僅在每一屏幕或顯示表面上示出不同相機(jī)角度。相反,與PiMovs系統(tǒng)相關(guān)聯(lián)的一個或多個傳感器主動跟蹤單個人或一群人和/或每一人的頭部,并隨后主動改變每屏幕或顯示表面的虛擬相機(jī)角度,使得在人相對于PiMovs系統(tǒng)移動時,視點(甚至跨各單獨屏幕)改變。在各實現(xiàn)中,通過與每顯示表面多個投影儀相組合地使用主動快門眼鏡等或者偏振屏幕等來為每屏幕或顯示表面多個人解決這一相同的視點問題。這使得從不同角度觀看同一顯示表面的人能夠取決于他們的相對查看角度而看到不同圖像或同一圖像的不同視點。
出于解釋的目的,以下示例描述了立體PiMovs系統(tǒng)的情形,其中單個用戶查看具有四個側(cè)面的立體PiMovs系統(tǒng)。注意,以下示例可被外推至每一側(cè)的附加觀看者以及多側(cè)PiMovs系統(tǒng)的附加側(cè)面。
例如,考慮單個用戶觀看四側(cè)PiMovs系統(tǒng)的情形,其中一個或多個計算機(jī)聯(lián)合控制每一跟蹤傳感器和每一顯示表面上渲染的體積投影部分。在這種情況下,基于用戶眼睛位置、用戶頭部位置和/或用戶骨架位置的任何組合,傳感器數(shù)據(jù)流被組合成用戶在PiMovs的周圍環(huán)境中的移動的實時統(tǒng)一視圖。這一實時用戶跟蹤信息隨后由PiMovs系統(tǒng)用來動態(tài)地修改被跟蹤用戶可見的任何顯示表面以及向該用戶示出體積投影的內(nèi)容的正確透視圖。換言之,在這一示例中,對觀看者而言,體積投影的內(nèi)容將看起來是在看起來存在于PiMovs系統(tǒng)內(nèi)部的虛擬空間中的內(nèi)容的無縫表示,并且在用戶圍繞PiMovs系統(tǒng)的幾何框架的外部移動時在各顯示表面之間無縫地過渡。
實現(xiàn)這樣的能力的各種方式之一是將相同大小的虛擬定界框認(rèn)為是并且因而覆蓋PiMovs系統(tǒng)的每一面或部分(例如,每一顯示表面)。每一虛擬定界框隨后包圍在體積投影的對應(yīng)面或部分上渲染的一個或多個對象、場景或其他內(nèi)容。注意,出于討論的目的,所渲染的內(nèi)容(即對象、場景或其他內(nèi)容)將被稱為對象。
虛擬光線追蹤相機(jī)隨后從與所跟蹤用戶的觀察點的原點相對應(yīng)的空間點朝向該對象。大量虛擬光線隨后從虛擬光線追蹤相機(jī)朝該對象進(jìn)行投影以覆蓋表示PiMovs系統(tǒng)的對應(yīng)顯示表面的視野。每一虛擬光線與覆蓋體積投影的對應(yīng)面或部分的虛擬定界框相交的位置隨后被自動標(biāo)識,連同虛擬光線擊中的任何可見紋理的對應(yīng)色彩。
每一虛擬光線的所標(biāo)識的相交色隨后被用來更新與這些光線同虛擬定界框相交的位置相同的位置處的虛擬可見框(覆蓋體積投影的對應(yīng)面或部分)。這一虛擬可見框周圍是處于固定虛擬位置的四個虛擬相機(jī),立方體每一側(cè)一個相機(jī)。每一虛擬相機(jī)虛擬地從其固定虛擬位置捕捉經(jīng)更新虛擬可見框的圖像并隨后將該虛擬地捕捉的圖像呈遞給PiMovs系統(tǒng)的對應(yīng)物理顯示器。
隨后,在人移動時,虛擬光線追蹤相機(jī)隨所跟蹤的用戶的觀察點移動,但持續(xù)朝向該對象。上述過程隨后持續(xù)地重復(fù),使得在用戶圍繞PiMovs系統(tǒng)的幾何框架的外部移動時,實際體積投影實時地持續(xù)更新。
此外,在立方體PiMovs系統(tǒng)的這一示例中,各側(cè)面中最多兩個側(cè)面(假定用戶站在一個角處或附近)將對用戶而言是可見的。因此,在各實現(xiàn)中,用戶不可見的側(cè)面可以顯示默認(rèn)視圖、不顯示視圖、或者可以基于對不同用戶的跟蹤來顯示透視圖。
2.6.2 立體和3D顯示考慮:
一般而言,任何體積投影的任何部分中的一些或全部的內(nèi)容可包括使用立體投影儀等渲染的3D內(nèi)容以將立體圖像和/或視頻投影到一個或多個顯示表面上。在這樣的實現(xiàn)中,取決于所使用的特定類型的3D技術(shù),佩戴無源3D眼鏡或主動快門眼鏡(例如,快速左/右眼切換眼鏡)的用戶將體積投影看作實際3D內(nèi)容。此外,一些固定或無源3D顯示設(shè)備允許3D監(jiān)視器的特定范圍或查看角度內(nèi)的用戶查看3D內(nèi)容而無需使用3D眼鏡或主動快門眼鏡。因此,幾何框架的一個或多個部分(或子部分)可以鋪設(shè)、包裝、或以其他方式覆蓋有這樣的3D類型設(shè)備,以對于PiMovs系統(tǒng)的幾何框架的顯示表面中的一些或全部而言包括完全或部分3D查看能力。在各實現(xiàn)中,PiMovs系統(tǒng)通過向用于改變3D觀看視點的技術(shù)添加計算機(jī)游戲和影片中普遍使用的視差和動感(kinesthetics)來修改體積投影以改進(jìn)體積投影的立體或3D內(nèi)容。此外,對每一只眼睛使用分開的左圖像和右圖像使得人腦感知體積投影中的深度或3D內(nèi)容。
有趣地,在各實現(xiàn)中,一個或多個3D監(jiān)視器可被插入或以其他方式集成到幾何框架的較大顯示表面的不同部分。因而,相關(guān)于對應(yīng)的3D監(jiān)視器插入,對各單獨用戶的頭和/或眼睛跟蹤可被用來為這些各單獨用戶改變體積投影的場景的“虛擬相機(jī)角度”。結(jié)果,取決于用戶站在何處或正觀看何處,各單獨用戶可體驗到進(jìn)入總體體積投影的更小部分內(nèi)的3D窗口。相反,整個幾何框架可被包裝或覆蓋有3D監(jiān)視器,其中體積投影的一些或全部隨后以3D來渲染并經(jīng)由這些3D監(jiān)視器顯示。
2.7 示例性應(yīng)用和用戶交互場景:
如上所述,與PiMovs系統(tǒng)的每一側(cè)或部分的多個人進(jìn)行交互并作出響應(yīng)的這一能力允許實現(xiàn)實際上無限的交互模式和應(yīng)用。在以下段落中討論這樣的應(yīng)用的幾個示例。應(yīng)當(dāng)理解,所呈現(xiàn)的示例應(yīng)用只是出于解釋的目的討論的,并且這些示例應(yīng)用不旨在限制將PiMovs系統(tǒng)用于所描述的各類型的示例應(yīng)用。
2.7.1 外形轉(zhuǎn)換應(yīng)用:
如上所述,PiMovs系統(tǒng)所啟用的每一交互式體驗將是不同的。例如,PiMovs系統(tǒng)所啟用的一個應(yīng)用是外形轉(zhuǎn)換應(yīng)用,其中用戶看到他們自己是被動態(tài)地鏡像但被更改的抽象(例如,作為吸血鬼的用戶、作為半人馬的用戶、穿戴不同服裝的用戶、在月球上行走的用戶,等等)。
在各實現(xiàn)中,這些經(jīng)更改抽象被渲染到總體體積投影中。在這樣的應(yīng)用中,諸如例如移動、跳躍、揮手、或簡單走過PiMovs系統(tǒng)等運動經(jīng)由PiMovs系統(tǒng)的跟蹤能力使得經(jīng)更改抽象的移動被映射到用戶的移動。此外,在這一應(yīng)用的各實現(xiàn)中,移動到幾何框架的不同側(cè)面的用戶將看到進(jìn)入其他各種抽象的進(jìn)一步外形轉(zhuǎn)換。
此外,用于這樣的目的的抽象的類型可以取決于檢測到的一個或多個用戶的年齡、性別、種族等而改變。例如,改變用戶的鏡像圖像(即,經(jīng)更改抽象)以看起來像令人恐懼的狼人對十幾歲用戶而言可能是適當(dāng)?shù)?,但對于兒童可能不適當(dāng)(這可能更適合被鏡像為蝴蝶或某一其他非恐怖抽象)。
在下文簡要概述用于外形轉(zhuǎn)換應(yīng)用的各實現(xiàn)的一些附加選項和模式。
邀請模式:在各實現(xiàn)中,每一PiMovs單元顯示基于主題的體積投影以邀請用戶關(guān)注和交互。在各實現(xiàn)中,這一主題是手動地選擇的,或響應(yīng)于PiMovs單元周圍的外部環(huán)境或該環(huán)境內(nèi)的人來自動選擇的。例如,當(dāng)PiMovs單元周圍沒有活動時,落入特定主題內(nèi)的一個或多個動物、生物、人等(塞倫蓋蒂平原的瀕危動物、幻想生物、歷史名人、外星人,等等)周期性地飛過、跑過或走過PiMovs單元的面以引起走過的人的好奇心。
平行宇宙:在PiMovs系統(tǒng)周圍的空間變得更活躍時,動物從它們的群體中浮現(xiàn)(在它們在幾何框架的各面的相應(yīng)顯示表面上)以將它們的在空間中的步調(diào)和位移以使得范圍內(nèi)的行人。如果用戶減緩他們的步調(diào)或停下,該動物會反映這一點。在各實施例中,用戶可能隨后使用自然語言處理或其他基于語言的計算機(jī)交互技術(shù)與動物交談。例如,用戶可詢問野豬最近的BBQ餐廳在哪里。野豬隨后可以用經(jīng)記錄語音或合成語音來作出響應(yīng),并可顯示去往該餐廳的地圖或方向。
魔法角:為鼓勵PiMovs系統(tǒng)的幾何框架周圍的人流,在各應(yīng)用中,轉(zhuǎn)動一個角將觸發(fā)進(jìn)入該PiMovs系統(tǒng)主題內(nèi)的另一動物的外形轉(zhuǎn)變。PiMovs系統(tǒng)的其他面反映相同的交互模型,但具有不同動物(落在PiMovs系統(tǒng)主題下)。在用戶離開時或特定時間量之后,動物將走回其群體,從而用信令通知交互結(jié)束。
抽象或藝術(shù)表示:動物可被描繪成視覺上引人注意的抽象以呈現(xiàn)超自然且好玩的體驗。
動物游行:在各實現(xiàn)中,一個或多個PiMovs系統(tǒng)用于通過經(jīng)由使與跨世界的不同PiMovs系統(tǒng)相關(guān)聯(lián)的動物或生物好玩地行進(jìn)穿過該PiMovs系統(tǒng)上渲染的體積投影以渲染這些動物或生物的游行來提升對其他PiMovs系統(tǒng)的好奇心和潛在訪問。
公共活動:PiMovs系統(tǒng)可被放置在諸如奧林匹克或Burning Man等活動處。生物或主題可相應(yīng)地改變(例如,奧林匹克吉祥物、外國人、體育明星,等等)。
2.7.2 共享數(shù)字藝術(shù)應(yīng)用:
PiMovs系統(tǒng)所啟用的另一應(yīng)用允許多個用戶在虛擬數(shù)字“粘土”塊上與在本地以及世界各地的其他用戶交互或協(xié)作,從而直接展示實時交互并使“藝術(shù)家”的概念分散化。圖8和圖9解說了這一應(yīng)用的簡單示例。
具體而言,圖8示出多個用戶(800、810、820以及830)使用各種基于手的姿勢作為NUI輸入來使呈現(xiàn)為PiMovs系統(tǒng)850的顯示表面上的動態(tài)體積投影的數(shù)字粘土840成形。類似地,圖9示出類似數(shù)字藝術(shù)交互的特寫,其中多個用戶(900和910)整合使用各種基于手的姿勢作為NUI輸入來使數(shù)字粘土920成形。
在下文簡要概述用于共享數(shù)字藝術(shù)應(yīng)用的各實現(xiàn)的一些附加選項和模式。
PiMovs系統(tǒng)作為協(xié)作式沙箱:在不同城市的各PiMovs單元充當(dāng)去往一個協(xié)作式游戲區(qū)的門戶。每一城市與“粘土”的表示更大多城市協(xié)作的一部分的特定顏色集進(jìn)行交互。
實時協(xié)作:PiMovs單元周圍的許多參與者與該模型的他們的部分進(jìn)行交互(通過顏色來標(biāo)識)并且可以通過動態(tài)地適應(yīng)體積投影來看到他們城市的推和拉如何影響較大圖片。所有參與者都看到其他城市如何與該協(xié)作的他們的相應(yīng)部分進(jìn)行交互。
姿勢操縱:一個城市的“粘土”部分(例如,由顏色指定)可通過姿勢被推或拉并被實時地看到。
母顯示器:“母”或主PiMovs單元渲染由不同城市中的每一城市中的用戶對“粘土”的聯(lián)合操縱來創(chuàng)建的藝術(shù)品的總體體積投影。在各實現(xiàn)中,母PiMovs單元創(chuàng)建若干城市之間的藝術(shù)協(xié)作的時間流逝的美好時刻。這一時間流逝所覆蓋的時間跨度可以按分鐘、小時、天或甚至星期來測量,從而創(chuàng)建來自全世界的該作品的持續(xù)變化。
2.7.3 虛擬門戶:
PiMovs形態(tài)所啟用的另一應(yīng)用向用戶提供到新地點的虛擬運輸以進(jìn)行大規(guī)模上交談,并隨后到私密的地點,以占據(jù)空間并構(gòu)建自發(fā)社區(qū)。注意,因為傳感器跟蹤人并使用相機(jī),所以在各實現(xiàn)中,PiMovs系統(tǒng)將另一PiMovs單元的體積投影中渲染的人實時地模糊以保護(hù)隱私。結(jié)果,用戶可能看到另一人(經(jīng)由來自另一地的體積投影),但不能識別該另一人的臉。然而,如果想要的話,用戶可以從他們自己的臉移除加擾算法,使得其他人可以看到并可能與他們交互。在下文簡要概述用于虛擬門戶應(yīng)用的各實現(xiàn)的一些具體示例和附加選項及模式。
位置選擇“轉(zhuǎn)輪”:在沒有人接近PiMovs單元時,它看起來充滿了進(jìn)入全世界其他PiMovs單元的各門戶的所有可能性。一旦人接近或者如果人處于特定范圍內(nèi),PiMovs單元就在它搜索進(jìn)入滿足搜索準(zhǔn)則的不同立方體的門戶時進(jìn)入“轉(zhuǎn)輪”模式。這樣的準(zhǔn)則的示例包括但不限于其他PiMovs單元周圍的活動、訪問者的年齡(使得兒童只與兒童匹配)、針對將襯衫顏色匹配到世界另一部分中的某一用戶的特定位置的請求(例如,“勞駕巴黎”或“帶我去葡萄牙”),等等。圖10示出這一實現(xiàn)的示例。具體而言,圖10示出1000正接近PiMovs單元1010。PiMovs單元1010正顯示表示去往世界各地的其他PiMovs單元的可用門戶的視覺上旋轉(zhuǎn)的網(wǎng)格的體積投影1020。
進(jìn)入盧浮宮(或其他位置)的門戶:在“轉(zhuǎn)輪”作出選擇時,去往不同PiMovs單元的視圖的空間門戶打開進(jìn)入該PiMovs單元的地點。換言之,一個PiMovs單元的體積投影可被傳輸?shù)搅硪籔iMovs單元。在各實現(xiàn)中,為了吸引人,訪問者對PiMovs單元的鄰近度指定門戶環(huán)境看起來有多清楚或模糊。在各實現(xiàn)中,PiMovs系統(tǒng)將在門戶中隔離人并使他們看起來很清楚以提升人類聯(lián)系。如果沒有人立即站在立方體處來進(jìn)行對話,訪問者可能夠通過揮手吸引門戶中某人的注意。事實上,圖11正示出了這樣的示例。具體而言,圖11示出了女人1100向通過不同位置的PiMovs單元1120的門戶的遠(yuǎn)處可見的男人1110(作為體積投影)揮手。圖12隨后通過示出女人1100和男人1110之間經(jīng)由兩個分開的PiMovs單元的后續(xù)面對面交流來繼續(xù)這一示例。在這一示例中,女人1100和男人1110兩者彼此看起來是經(jīng)由他們相應(yīng)本地PiMovs單元的體積投影。此外,這些人中的每一者的語音由一個或多個本地PiMovs傳感器捕捉(例如,話筒)、傳送給另一PiMovs單元、并隨后經(jīng)由一個或多個音頻輸出設(shè)備等回放。
接口示例:除鄰近度以外,眨眼、微笑、或說出“喂”使得PiMovs單元上的環(huán)境作出反應(yīng)并變得清爽,從而吸引注意力和拉人進(jìn)入。在交互結(jié)束時,或者如果用戶需要查看新位置,后退使得門戶模糊。轉(zhuǎn)輪再次開始,或者如果其他人步入畫面,則臉部識別將允許該門戶彼此打開并變得清爽以用于繼續(xù)對話。
人類聯(lián)系:在人進(jìn)入適當(dāng)范圍內(nèi)以進(jìn)行親密對話時,立方體上的門戶變得并保持清楚。來自表面上不同地點的兩個人使用立方體進(jìn)行面對面交談。參考圖11和12查看以上討論和示例。
虛擬聯(lián)系:如果“轉(zhuǎn)輪”沒有產(chǎn)生結(jié)果,則PiMovs系統(tǒng)將生成用戶可與其交談的“智能”化身。
實時翻譯:在各種兩用戶通信場景中,PiMovs系統(tǒng)使用各種實時機(jī)器翻譯技術(shù)中的任一者來將每一用戶的語言的語音翻譯成另一用戶的語言。例如,這樣的能力允許英語(或任何其他語言)母語的人與普通話(或任何其他語言)母語的人經(jīng)由通過他們相應(yīng)的本地PiMovs單元呈現(xiàn)給每一用戶的另一用戶的體積投影來實時交談。
基于門戶的球類游戲:在各實現(xiàn)中,各種各樣的基于共享游戲的應(yīng)用被PiMovs系統(tǒng)啟用。例如,在一種這樣的游戲中,用戶使用NUI輸入(例如,在空中掄手,等等)作為“擊打”虛擬球的姿勢。該球隨后彈到本地PiMovs單元的任何其他面或者彈出該本地PiMovs單元到達(dá)遠(yuǎn)程本地PiMovs單元,使得多個人可以從全世界多個不同本地PiMovs單元一起打球。在用戶擊中球時,它給出速度和方向向量。如果特定側(cè)上沒有用戶,則該墻壁變成實心的并且球?qū)⒎磸?。此外,球可彈出頂部到達(dá)另一立方體。同樣,這一球在所有相關(guān)聯(lián)的PiMovs單元中被表示為可單獨渲染的體積投影,或疊加在虛擬球彈入其中的PiMovs單元中正顯示的體積投影上。
3.0 PiMovs系統(tǒng)的操作概述:
以上參考圖1至圖12描述以及進(jìn)一步鑒于以上在節(jié)1和2中提供的詳細(xì)描述的各過程通過圖13的概括操作流程圖來進(jìn)一步示出。具體而言,圖13提供了概述PiMovs系統(tǒng)的各實現(xiàn)中的某些的操作的示例性操作流程圖。注意,圖13不旨在成為本文描述的PiMovs系統(tǒng)的各實現(xiàn)的所有的窮盡表示,并且僅出于解釋目的而提供圖13中表示的各實現(xiàn)。
此外,應(yīng)當(dāng)注意,在圖13中由斷線或虛線表示的任何框以及框之間的互連表示在此所述的PiMovs系統(tǒng)的可任選或可替代實現(xiàn)。此外,這些可任選或替代實現(xiàn)中的任意一個或全部可與本文通篇描述的其它替代實現(xiàn)組合使用。
一般而言,如圖13所示,PiMovs系統(tǒng)通過使用一個或多個計算設(shè)備1300來接收和/或生成毗鄰體積投影來開始操作。如上文討論的,這一毗鄰體積投影被渲染在顯示表面1310上作為圍繞毗鄰顯示表面以及跨相鄰顯示表面的任何相鄰邊緣連續(xù)的體積投影的無縫包裝。注意,在各實現(xiàn)中,計算設(shè)備1300接收來自體積投影和相關(guān)內(nèi)容的數(shù)據(jù)庫或庫一個或多個預(yù)定義體積投影1350。
該一個或多個計算設(shè)備1300還接收來自跟蹤傳感器1320的傳感器數(shù)據(jù)以用于跟蹤幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的位置、骨架、身體運動、頭部等。類似地,該一個或多個計算設(shè)備1300還接收來自幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個用戶的一個或多個NUI傳感器1330輸入(例如,話音或語音、姿勢、臉部表情、眼睛注視、觸摸,等等)。該一個或多個計算設(shè)備1300隨后響應(yīng)于幾何框架的外部周圍的預(yù)定區(qū)域中的所跟蹤的一個或多個人的位置和/或NUI輸入,來動態(tài)地適應(yīng)所渲染、投影或以其他方式顯示在顯示表面1310上的體積投影。
在各實現(xiàn)中,提供管理用戶界面1340以啟用PiMovs單元的本地或遠(yuǎn)程管理。一般而言,管理用戶界面1340使系統(tǒng)管理員或具有訪問權(quán)限的用戶能夠執(zhí)行各種管理任務(wù),包括但不限于(例如,從PiMovs應(yīng)用庫1360)選擇要由PiMovs單元的計算設(shè)備1300運行或執(zhí)行的應(yīng)用、輸入定制參數(shù),等等。管理用戶界面1340還使系統(tǒng)管理員或具有訪問權(quán)限的用戶能夠配置一個或多個傳感器(例如,跟蹤傳感器1320和/或NUI傳感器1330)。此外,管理用戶界面1340還使系統(tǒng)管理員或具有訪問權(quán)限的用戶能夠定義或選擇默認(rèn)主題(例如,從預(yù)定義PiMovs主題的數(shù)據(jù)庫或庫1370)。
如上所述,在各實現(xiàn)中,PiMovs系統(tǒng)還包括各種音頻輸出設(shè)備1380。一般而言,這些音頻輸出設(shè)備1380(例如,揚聲器或音頻輸出通道)簡單地輸出與體積投影相對應(yīng)的音頻。換言之,這些音頻輸出設(shè)備1380還可與各種通信類應(yīng)用一起使用(例如,參見以上相關(guān)于圖12的第2.7.2節(jié)討論的)。
最后,在各實現(xiàn)中,PiMovs系統(tǒng)還包括適應(yīng)一個或多個通信或網(wǎng)絡(luò)接口來發(fā)送數(shù)據(jù)或從各種源(包括但不限于其他PiMovs單元、基于云的存儲、公共或私有網(wǎng)絡(luò)、因特網(wǎng)、用戶計算設(shè)備或智能電話,等等)接收數(shù)據(jù)的通信接口1390等。
4.0 權(quán)利要求支持:
以下段落概括了可以在本文中要求保護(hù)的各實現(xiàn)的各示例。然而,應(yīng)當(dāng)理解,下文概括的各實現(xiàn)不旨在限制可以鑒于PiMovs系統(tǒng)的詳細(xì)描述來要求保護(hù)的主題。此外,下文概括的各實現(xiàn)中的任一者或全部可以按與本詳細(xì)描述中通篇描述的實現(xiàn)中的一些或全部以及在附圖中的一者或多者中解說的任何實現(xiàn)的任何所需組合來要求保護(hù)。另外,應(yīng)當(dāng)注意,以下實現(xiàn)旨在鑒于本詳細(xì)描述和本文中通篇描述的附圖來理解。
在各實現(xiàn)中,PiMovs系統(tǒng)提供了一種交互式顯示系統(tǒng),該交互式顯示系統(tǒng)是通過在所跟蹤的一個或多個人繞包括該交互式顯示系統(tǒng)的幾何框架的外部移動時響應(yīng)于他們的位置來動態(tài)地適應(yīng)毗鄰體積投影來實現(xiàn)的。
例如,在各實現(xiàn)中,交互式顯示器是通過提供被布置成覆蓋或創(chuàng)建360度幾何框架的周界的毗鄰顯示表面來實現(xiàn)的。另外,一個或多個位置感測設(shè)備被應(yīng)用來跟蹤幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的位置。一個或多個計算設(shè)備隨后被應(yīng)用來在顯示表面上生成毗鄰體積投影。此外,這一毗鄰體積投影提供毗鄰體積投影跨構(gòu)成毗鄰顯示表面的任何相鄰顯示表面的任何邊緣的無縫包裝。另外,毗鄰體積投影通過在一個或多個人繞幾何框架的外部移動時響應(yīng)于他們的運動來動態(tài)地調(diào)整毗鄰體積投影來動態(tài)地適應(yīng)于所跟蹤的位置。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于使毗鄰體積投影動態(tài)地適應(yīng)于所跟蹤的位置的裝置、過程或技術(shù)相組合,使得在一個或多個人繞幾何框架的外部移動時毗鄰體積投影內(nèi)的對象相對于他們看起來占據(jù)幾何框架內(nèi)的空間中的恒定位置。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以通過包括沿一個或多個相鄰邊緣接合在一起以形成幾何框架的對應(yīng)部分的一個或多個背投顯示面板來與用于實現(xiàn)毗鄰顯示表面的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于接合毗鄰顯示表面的一個或多個顯示面板以保留顯示表面在對應(yīng)接縫處的光學(xué)屬性的裝置、過程或技術(shù)相組合,從而使體積投影在對應(yīng)接縫處的光學(xué)畸變最小化。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于在幾何框架的內(nèi)部布置或定位一個或多個投影儀以將體積投影的各部分投影在背投顯示面板的對應(yīng)部分上的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于響應(yīng)于幾何框架作為的預(yù)定區(qū)域內(nèi)的一個或多個人的運動來從一個或多個預(yù)定義體積投影的集合自動選擇毗鄰體積投影的裝置、過程或技術(shù)相組合
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于使毗鄰體積投影動態(tài)地適應(yīng)于來自一個或多個人的自然用戶界面(NUI)輸入的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于接受來自幾何框架的周界周圍的某一最小距離處的預(yù)定交互區(qū)內(nèi)的一個或多個人的NUI輸入的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于提供啟用多個交互式顯示器之間的實時交互的通信接口的裝置、過程或技術(shù)相組合,這些交互式顯示器中的每一者包括毗鄰體積投影。
在附加實現(xiàn)中,經(jīng)由用于在形成毗鄰幾何框架的周界的一個或多個顯示表面上渲染毗鄰體積投影的裝置、過程或技術(shù)提供了一種用于顯示體積投影的系統(tǒng),使得毗鄰體積投影提供毗鄰體積投影跨任何相鄰顯示表面的任何相鄰邊緣的無縫包裝。這樣的實現(xiàn)還可接收傳感器數(shù)據(jù)并跟蹤幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的位置。另外,這樣的實現(xiàn)還可接收來自幾何框架周圍的預(yù)定半徑內(nèi)的人中的一者或多者的自然用戶界面(NUI)輸入。此外,這樣的實現(xiàn)還可響應(yīng)于所跟蹤的位置和NUI輸入來動態(tài)地適應(yīng)毗鄰體積投影。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于使毗鄰體積投影動態(tài)地適應(yīng)于所跟蹤的一個或多個人的位置的裝置、過程或技術(shù)相組合,使得在該一個或多個人繞幾何框架的外部移動時毗鄰體積投影內(nèi)的對象相對于他們看起來占據(jù)幾何框架內(nèi)的空間中的恒定位置。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于通過沿一個或多個相鄰邊緣接合在一起的背投顯示面板來構(gòu)造顯示表面中的一者或多者的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于在幾何框架的內(nèi)部布置或定位一個或多個投影儀以將體積投影的各毗鄰部分投影在背投顯示面板的對應(yīng)部分上的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于實現(xiàn)通信接口以提供用于顯示體積投影的系統(tǒng)的多個實例之間的實時交互的裝置、過程或技術(shù)相組合,該多個實例中的每一者可以提供分開的、相關(guān)的或共享的毗鄰體積投影。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于在用于顯示體積投影的系統(tǒng)中的兩者或更多者之間共享體積投影以提供允許人在他們的系統(tǒng)之間實時通信的動態(tài)體積渲染的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于在用于顯示體積投影的系統(tǒng)的兩者或更多者之間共享體積投影以提供允許一個或多個人使用NUI姿勢來在該系統(tǒng)的不同實例之間打球的實時交互式虛擬球類游戲的動態(tài)體積渲染的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于應(yīng)用體積投影來提供對幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的NUI輸入作出實時反應(yīng)的虛擬化身的裝置、過程或技術(shù)相組合。
在附加實現(xiàn)中,是經(jīng)由用于將多個相鄰顯示表面接合在一起以形成毗鄰幾何框架的周界和頂部的裝置、過程或技術(shù)提供了體積顯示設(shè)備。體積顯示設(shè)備應(yīng)用計算設(shè)備來將毗鄰體積投影渲染成跨每一相鄰顯示表面的每一相鄰邊緣的無縫包裝。該計算設(shè)備被進(jìn)一步應(yīng)用來接收傳感器數(shù)據(jù)以跟蹤幾何框架周圍的預(yù)定半徑內(nèi)的一個或多個人的位置。另外,計算設(shè)備被應(yīng)用以響應(yīng)于所跟蹤的位置來動態(tài)地適應(yīng)毗鄰體積投影,使得在一個或多個人繞幾何框架的外部移動時毗鄰體積投影內(nèi)的對象相對于他們看起來占據(jù)該幾何框架內(nèi)的空間中的恒定位置。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于應(yīng)用計算設(shè)備來接收來自預(yù)定半徑內(nèi)的人中的一者或多者的自然用戶界面(NUI)輸入的裝置、過程或技術(shù)相組合。
此外,在先前段落中的任一者中描述的實現(xiàn)也可與一個或多個附加實現(xiàn)或替換方案相組合。例如,前述實現(xiàn)中的一些或全部可以與用于應(yīng)用計算設(shè)備來響應(yīng)于NUI輸入中的一者或多者動態(tài)地適應(yīng)毗鄰體積投影的裝置、過程或技術(shù)相組合。
5.0 示例性操作環(huán)境:
本文所描述的PiMovs系統(tǒng)可在多種類型的通用或?qū)S糜嬎阆到y(tǒng)環(huán)境或配置內(nèi)操作。圖14示出其上可實現(xiàn)此處描述的PiMovs系統(tǒng)的各實現(xiàn)和元素的通用計算機(jī)系統(tǒng)的簡化示例。應(yīng)當(dāng)注意,圖14中由折線或虛線所表示的任何框表示簡化計算設(shè)備的替換實現(xiàn),并且以下描述的這些替換實現(xiàn)中的任一個或全部可以結(jié)合貫穿本文所描述的其他替換實現(xiàn)來使用。
例如,圖14示出了概括系統(tǒng)圖,其示出簡化計算設(shè)備1400。能與PiMovs系統(tǒng)一起操作的這樣的設(shè)備的示例包括但不限于便攜式電子設(shè)備、可穿戴計算設(shè)備、手持式計算設(shè)備、膝上型或移動計算機(jī)、通信設(shè)備(諸如蜂窩電話、智能電話以及PDA)、多處理器系統(tǒng)、基于微處理器的系統(tǒng)、機(jī)頂盒、可編程消費電子產(chǎn)品、網(wǎng)絡(luò)PC、小型計算機(jī)、音頻或視頻媒體播放器、手持式遙控設(shè)備,等等。還要注意,可以用與各種各樣的電子設(shè)備或?qū)ο笸ㄐ呕蛞云渌绞今詈系竭@些電子設(shè)備或?qū)ο蟮娜魏斡|摸屏或觸敏表面來實現(xiàn)PiMovs系統(tǒng)。
為允許設(shè)備實現(xiàn)PiMovs系統(tǒng),計算設(shè)備1400應(yīng)當(dāng)具有足夠的計算能力和系統(tǒng)存儲器以啟用基本計算操作。另外,計算設(shè)備1400可包括一個或多個傳感器1405,包括但不限于加速度計、相機(jī)、電容式傳感器、鄰近度傳感器、話筒、多頻譜傳感器,等等。此外,計算設(shè)備1400還可包括用于實現(xiàn)PiMovs系統(tǒng)的各種實現(xiàn)的可任選的系統(tǒng)固件1425(或其他固件或處理器可訪問存儲器或存儲)。
如圖14所示,計算設(shè)備1400的計算能力一般由一個或多個處理單元1410示出,并且還可包括一個或多個GPU 1415,處理單元與GPU中的任一者或兩者均與系統(tǒng)存儲器1420通信。注意,計算設(shè)備1400的處理單元1410可以是專用微處理器,如DSP、VLIW、或其他微控制器、或可以是具有一個或多個處理核的常規(guī)CPU,包括多核CPU中的專用的基于GPU的核。
另外,簡化計算設(shè)備1400還可包括其他組件,諸如例如通信接口1430。簡化計算設(shè)備1400還可包括一個或多個常規(guī)計算機(jī)輸入設(shè)備1440(例如,觸摸屏、觸敏表面、定點設(shè)備、鍵盤、音頻輸入設(shè)備、基于語音或話音的輸入和控制設(shè)備、視頻輸入設(shè)備、觸覺輸入設(shè)備、用于接收有線或無線數(shù)據(jù)傳輸?shù)脑O(shè)備等)或這樣的設(shè)備的任何組合。
類似地,與簡化計算設(shè)備1400以及與PiMovs系統(tǒng)的任何其他組件或特征的各種交互(包括輸入、輸出、控制、反饋)以及對與PiMovs系統(tǒng)相關(guān)聯(lián)的一個或多個用戶或其他設(shè)備或系統(tǒng)的響應(yīng)是通過各種自然用戶界面(NUI)場景來啟用的。PiMovs系統(tǒng)所啟用的NUI技術(shù)和場景包括但不限于允許一個或多個用戶以“自然的”方式與PiMovs系統(tǒng)交互的界面技術(shù),而沒有輸入設(shè)備(諸如鼠標(biāo)、鍵盤、遙控器等等)所施加的人工約束。
這樣的NUI實現(xiàn)是通過使用各種技術(shù)來啟用的,包括但不限于使用從經(jīng)由話筒或其他傳感器捕捉的用戶講話或發(fā)聲導(dǎo)出的NUI信息。這樣的NUI實現(xiàn)還通過使用各種技術(shù)來啟用,包括但不限于從用戶面部表情導(dǎo)出的信息,從使用諸如2D或深度相機(jī)(例如,立體或飛行時間相機(jī)系統(tǒng)、紅外相機(jī)系統(tǒng)、RGB相機(jī)系統(tǒng)、這些設(shè)備的組合,等等)等成像設(shè)備捕捉的用戶手、手指、腕、臂、腿、身體、頭部、眼睛等的位置、運動或取向?qū)С龅腘UI輸入。進(jìn)一步示例包括但不限于從觸摸和指示筆識別、姿勢識別(屏幕上以及鄰近屏幕或顯示器表面兩者)、基于空中或接觸的姿勢、用戶觸摸(在各種表面、對象或其他用戶上)、基于懸停的輸入或動作等等導(dǎo)出的NUI信息。另外,NUI實現(xiàn)還包括但不限于使用單獨地或與其他NUI信息相組合地評估當(dāng)前或過去用戶行為、輸入、動作等以預(yù)測諸如用戶意圖、愿望和/或目標(biāo)等信息的各種預(yù)測機(jī)器智能過程。不管基于NUI的信息的類型或源如何,這樣的信息隨后被用來發(fā)起、終止、或以其他方式控制或與PiMovs系統(tǒng)的一個或多個輸入、輸出、動作或功能特征交互。
然而,還應(yīng)當(dāng)理解,這樣的NUI場景可通過將對人工約束或附加信號的使用與NUI輸入的任何組合相組合來被進(jìn)一步擴(kuò)充。這樣的人工約束或附加信號可由輸入設(shè)備(諸如鼠標(biāo)、鍵盤、遙控器)或由各種遠(yuǎn)程設(shè)備或用戶佩戴的設(shè)備(諸如加速度計、用于接收表示由用戶的肌肉所生成的電信號的肌電信號的肌電傳感器、心率監(jiān)視器、用于測量用戶排汗的電流皮膚傳導(dǎo)傳感器、用于測量或以其他方式感測用戶腦活動或電場的可穿戴生物傳感器或遠(yuǎn)程生物傳感器、用于測量用戶體溫變化或差異的可穿戴生物傳感器或遠(yuǎn)程生物傳感器,等等)施加或生成。從這些類型的人工約束或附加信號導(dǎo)出的任何這樣的信息可以與任何一個或多個NUI輸入相組合以發(fā)起、終止或以其他方式控制或與PiMovs系統(tǒng)的一個或多個輸入、輸出、動作、或功能特征交互。
簡化計算設(shè)備1400還可包括其他可任選組件,諸如例如一個或多個常規(guī)計算機(jī)輸出設(shè)備1450(例如,顯示設(shè)備1455、音頻輸出設(shè)備、視頻輸出設(shè)備、用于傳送有線或無線數(shù)據(jù)傳輸?shù)脑O(shè)備等)。注意,用于通用計算機(jī)的典型通信接口1430、輸入設(shè)備1440、輸出設(shè)備1450和存儲設(shè)備1460是本領(lǐng)域技術(shù)人員所公知的,且將不在此詳細(xì)描述。
簡化計算設(shè)備1400還可包括各種計算機(jī)可讀介質(zhì)。計算機(jī)可讀介質(zhì)可以是可經(jīng)由存儲設(shè)備1460訪問的任何可用介質(zhì),并且包括是可移動1470和/或不可移動1480的易失性和非易失性介質(zhì),該介質(zhì)用于存儲諸如計算機(jī)可讀或計算機(jī)可執(zhí)行指令、數(shù)據(jù)結(jié)構(gòu)、程序模塊或其他數(shù)據(jù)等信息。
作為示例而非限制,計算機(jī)可讀介質(zhì)可包括計算機(jī)存儲介質(zhì)和通信介質(zhì)。計算機(jī)存儲介質(zhì)指計算機(jī)或機(jī)器可讀介質(zhì)或存儲設(shè)備,諸如DVD、CD、軟盤、磁帶驅(qū)動器、硬盤驅(qū)動器、光盤驅(qū)動器、固態(tài)存儲器設(shè)備、RAM、ROM、EEPROM、閃存或其他存儲器技術(shù)、磁帶盒、磁帶、磁盤存儲或其他磁存儲設(shè)備、或可用于存儲所需信息并且可由一個或多個計算設(shè)備訪問的任何其他設(shè)備。
相反,諸如計算機(jī)可讀或計算機(jī)可執(zhí)行指令、數(shù)據(jù)結(jié)構(gòu)、程序模塊等信息的存儲或保持還可通過使用各種上述通信介質(zhì)中的任一種來編碼一個或多個已調(diào)制數(shù)據(jù)信號或載波或其他傳輸機(jī)制或通信協(xié)議來實現(xiàn),并且包括任何有線或無線信息傳遞機(jī)制。注意,術(shù)語“已調(diào)制數(shù)據(jù)信號”或“載波”一般指以對信號中的信息進(jìn)行編碼的方式設(shè)置或改變其一個或多個特征的信號。例如,通信介質(zhì)包括諸如有線網(wǎng)絡(luò)或直接線連接等攜帶一個或多個已調(diào)制數(shù)據(jù)信號的有線介質(zhì),以及諸如聲學(xué)、RF、紅外線、激光和其他無線介質(zhì)等用于傳送和/或接收一個或多個已調(diào)制數(shù)據(jù)信號或載波的無線介質(zhì)。上述中任一組合也應(yīng)包括在通信介質(zhì)的范圍之內(nèi)。
此外,可以按計算機(jī)可執(zhí)行指令或其他數(shù)據(jù)結(jié)構(gòu)的形式存儲、接收、傳送或者從計算機(jī)或機(jī)器可讀介質(zhì)或存儲設(shè)備和通信介質(zhì)的任何所需組合中讀取具體化本文描述的PiMovs系統(tǒng)的各種實現(xiàn)中的部分或全部的軟件、程序和/或計算機(jī)程序產(chǎn)品或其各部分。
最后,本文所描述的PiMovs系統(tǒng)還可在由計算設(shè)備執(zhí)行的諸如程序模塊等計算機(jī)可執(zhí)行指令的一般上下文中描述。一般而言,程序模塊包括執(zhí)行特定任務(wù)或?qū)崿F(xiàn)特定抽象數(shù)據(jù)類型的例程、程序、對象、組件、數(shù)據(jù)結(jié)構(gòu)等。
本文描述的各實現(xiàn)還可以在其中任務(wù)由通過一個或多個通信網(wǎng)絡(luò)鏈接的一個或多個遠(yuǎn)程處理設(shè)備執(zhí)行或者在該一個或多個設(shè)備的云中執(zhí)行的分布式計算環(huán)境中實施。在分布式計算環(huán)境中,程序模塊可位于包括媒體存儲設(shè)備的本地和遠(yuǎn)程計算機(jī)存儲介質(zhì)兩者中。另外,上述指令可以部分地或整體地作為可以包括或不包括處理器的硬件邏輯電路來實現(xiàn)。
替代地或另外地,本文中描述的功能性中的一些或全部可至少部分地由一個或多個硬件邏輯組件來執(zhí)行。例如、但非限制,可使用的硬件邏輯組件的說明性類型包括場可編程門陣列(FPGA)、專用集成電路(ASIC)、專用標(biāo)準(zhǔn)產(chǎn)品(ASSP)、片上系統(tǒng)(SOC)、復(fù)雜可編程邏輯器件(CPLD)、等等。
以上對PiMovs系統(tǒng)的描述是出于說明和描述的目的而提供的。這并不旨在窮舉所要求保護(hù)的主題或?qū)⑵湎抻谒_的精確形式。鑒于上述教導(dǎo),許多修改和變型都是可能的。此外,應(yīng)當(dāng)注意,可以按所需的任何組合使用上述替換實現(xiàn)的任一個或全部以形成PiMovs系統(tǒng)的附加混合實現(xiàn)。本發(fā)明的范圍并不旨在由該“具體實施方式”來限定,而是由所附權(quán)利要求書來限定。盡管用結(jié)構(gòu)特征和/或方法動作專用的語言描述了本主題,但可以理解,所附權(quán)利要求書中定義的主題不必限于上述具體特征或動作。相反,上述特定特征和動作是作為實現(xiàn)權(quán)利要求書的示例形式而公開的,并且其他等價特征和動作旨在處于權(quán)利要求書的范圍內(nèi)。