ToF 3D圖像傳感器正在改變我們參與攝影和混合現(xiàn)實的方式

視頻技術(shù)的問世掀起了一場席卷全球的視聽通信革命。今天，整個世界都非常依賴照片和視頻媒體來實現(xiàn)各種目的，包括商業(yè)、通信、教育和娛樂。采集和顯示視頻的機制也突飛猛進。而3D攝像頭的采用，使用戶可以以前所未有的信息量觀察事物。

這個過程所不可或缺的一環(huán)，就是給數(shù)字視頻添加深度信息，使其更接近真實。本文探討了如何使用飛行時間（ToF）傳感器實現(xiàn)此目的，以及ToF傳感器正在如何改變我們與VR和其他視頻技術(shù)的交互方式。

ToF 3D圖像傳感器簡介

總的來說，飛行時間（或 ToF）是一種基于光的飛行時間測量物體距離的方法。ToF傳感器或攝像頭會發(fā)射調(diào)制紅外光束，并測量從不同距離的不同表面接收到的光的相位差。該數(shù)據(jù)被轉(zhuǎn)換為距離，并為照明場景提供深度。ToF傳感器使用逐像素處理，這需要復(fù)雜的算法，但由于其廣泛的適用性，愈發(fā)受到物流、汽車和消費電子領(lǐng)域的親睞。通過在三個維度上進行掃描，ToF傳感器可以創(chuàng)建目標對象的 3D 圖像。

ToF傳感器工作原理

3D ToF圖像傳感器的操作非常簡單。它根據(jù)光子混合器設(shè)備（PMD）的原理進行檢測。ToF傳感器主要分為兩類：直接傳感器和間接傳感器。直接ToF傳感器的工作原理是通過發(fā)射光、收集反射信號，然后測量信號延遲[圖1]；接著，用光飛行時間來測量距離，從而實現(xiàn)場景的3D重建。

圖1  直接ToF傳感器的工作原理（簡版）（圖源：作者）

間接ToF傳感器的工作原理是，不斷發(fā)射調(diào)制信號并分析反射信號，以確定相位差。兩個接收器以調(diào)制光的頻率不斷地打開和關(guān)閉，其中一個接收器與另一個接收器的操作相位不同。因此，每個接收器都會收到部分反射信號，并根據(jù)接收到的光的數(shù)量，來確定相位差，如圖 2 所示。

圖2 兩個檢測器交替收集感興趣物體的光（圖源：作者）

優(yōu)勢及應(yīng)用

ToF傳感器可以在不影響圖像分辨率的情況下，擴大測量范圍，并在低成本、可靠和緊湊的封裝中提供全部數(shù)字細節(jié)，這為3D增強型攝影提供了優(yōu)化解決方案。最新的ToF傳感器功耗較低，對移動設(shè)備來說，是一個具有吸引力的選擇。此外，與結(jié)構(gòu)光發(fā)射等技術(shù)相比，ToF傳感器對精確的機械對準的依賴程度較低。新型ToF傳感器允許使用更高的調(diào)制頻率，因此，顯著提高了精度。

Stratview Research的數(shù)據(jù)顯示，從2021到2026年，ToF的年增長率有望達到16.8%（1）。ToF攝像頭的應(yīng)用主要集中在消費電子行業(yè)和物流行業(yè)的3D成像和掃描。它有望通過以低成本提供豐富的3D視覺效果來徹底革新3D檢測和成像。

ToF傳感器可以用于輔助面部識別、安全跟蹤、庫存管理，以及環(huán)境和建筑物映射等應(yīng)用。在現(xiàn)代車輛中，ToF傳感器可實現(xiàn)近距離環(huán)境映射、輔助泊車以及車內(nèi)的許多其他功能，例如：駕駛員監(jiān)控或手勢控制。不過，最有趣的應(yīng)用要數(shù)消費電子和混合現(xiàn)實。憑借小巧的外形和較高的能效，ToF傳感器可能是唯一一項準備進軍消費電子領(lǐng)域的3D成像技術(shù)。

案例研究：增強AR/ MR體驗

將3D ToF傳感器整合到消費電子領(lǐng)域，仍是一個尚未開發(fā)的市場，具有顛覆性的意義。Counterpoint Research稱，在智能手機中整合ToF攝像頭，有望成為未來的主要趨勢之一（2）。在最近的一場網(wǎng)絡(luò)研討會上，來自TECNO、三星和DXOMARK Image Labs的專家聲稱，ToF和動態(tài)視覺傳感器（DVS）等功能可以使手機攝像頭的性能勝過數(shù)碼單反相機（DSLR）（3）。在過去，智能手機和游戲設(shè)備將3D ToF攝像頭用于高度逼真的增強顯示/混合現(xiàn)實（AR/MR）應(yīng)用。AR/MR應(yīng)用將現(xiàn)實世界與虛擬元素相融合，為用戶帶來了更好的商業(yè)互動、3D設(shè)計和游戲娛樂體驗。

盡管AR/MR尚未成為主流，但隨著這些技術(shù)背后的工具的迅猛發(fā)展，AR/MR成為智能手機日常用途的代名詞指日可待。

實現(xiàn)MR體驗所需的兩大要素分別是：智能手機攝像頭以及可以檢測用戶周圍環(huán)境并將其顯示在屏幕上的應(yīng)用程序。通過這種方式，就可以映射現(xiàn)實世界，然后將虛擬圖像放入其中。為實現(xiàn)這一點，智能手機攝像頭必須能夠?qū)呙鑵^(qū)域提供深度和細節(jié)圖像。

ToF傳感器通過準確映射物體及其周圍環(huán)境，成為該場景中的主角。MR是大有前途的3D設(shè)計輔助技術(shù)，例如：室內(nèi)設(shè)計師可以使用自己的手機繪制房間，并進行數(shù)字化家具布置。同樣，真實世界的物體也可以使用ToF傳感器攝像頭進行3D映射和數(shù)字化處理。市面上已經(jīng)有了很多這類商用移動應(yīng)用程序，但卻因攝像頭而無法實現(xiàn)逼真的映射效果(4)。

ToF將顯著增強深度信息，而映射圖像又為創(chuàng)新和快速的 3D設(shè)計帶來了無限可能?；旌犀F(xiàn)實的另一個應(yīng)用是商業(yè)交互，專業(yè)人士可以借此展示逼真的場地/項目圖像，來加深理解。

MR還被用于創(chuàng)建真實的商業(yè)背景，也就是將人們插入一個人的視野中，并將虛擬會議變成真實會議。ToF傳感器是這個操作的核心，因為只有3D成像提供的深度信息才能使這種體驗更加逼真。最近，由社交網(wǎng)絡(luò)巨頭推出的元宇宙概念就將利用這一精確技術(shù)，這將促進對ToF傳感器的需求和創(chuàng)新。

游戲是另一個利用AR/MR ToF優(yōu)勢的領(lǐng)域。游戲設(shè)備和現(xiàn)在的智能手機正在使用ToF傳感器的手勢識別功能來實現(xiàn)完全沉浸式的體驗。當ToF傳感器被集成到移動設(shè)備的前置攝像頭時，就可以大幅增強面部識別等安全措施。通過在后置攝像頭中使用3D技術(shù)，ToF傳感器有望實現(xiàn)出色的計算攝影和沉浸式VR體驗。無需大量后期處理，ToF傳感器就可以在圖像和視頻中有效地渲染背景虛化效果。

在理想的情況下，混合現(xiàn)實要比虛擬現(xiàn)實和增強現(xiàn)實技術(shù)先進得多。它對處理能力提出了較為苛刻的要求，需要實時獲取高精度3D深度數(shù)據(jù)。此外，光照條件是實現(xiàn)MR所需的逼真感的一大挑戰(zhàn)。不論是房屋和車輛等室內(nèi)環(huán)境，還是光照受天氣影響的室外環(huán)境，強大的ToF攝像頭都必須能夠在所有光線條件下捕獲準確的深度數(shù)據(jù)。

在商業(yè)交互和日常生活中使用MR技術(shù)，對許多人來說似乎為時過早。然而，在新冠疫情期間，整個世界對模糊虛擬世界和現(xiàn)實世界邊界的服務(wù)需求呈指數(shù)級增長，這促使非面對面服務(wù)加速發(fā)展。因此，我們可以合理地預(yù)期，在不遠的將來，增強AR/MR技術(shù)將成為工作和娛樂所不可或缺的技術(shù)。更不用說ToF這類技術(shù)，它作為愈發(fā)強大的MR性能的支柱性技術(shù)，將變得更加重要。

英飛凌ToF傳感器

英飛凌與pmdtechnologies合作推出了REAL3?圖像傳感器系列，pmdtechnologies是一家專注于 ToF 技術(shù)的德國公司，在該領(lǐng)域處于領(lǐng)先地位。這系列傳感器使用紅外光進行飛行時間（ToF）傳感，并為每個像素配備一個微透鏡，因此，幾乎沒有光能損失，而且準確性更高。英飛凌第六代REAL3? 3D ToF傳感器特別專注于消費類應(yīng)用，例如：智能手機應(yīng)用，特別是基于AR/MR的拍照和攝像。該傳感器的功耗比前幾代產(chǎn)品低40%，這對于需要長時間開啟ToF攝像頭的游戲等應(yīng)用來說非常重要，可以保護電池壽命?？紤]到現(xiàn)代智能設(shè)備對尺寸的嚴格限制，ToF傳感器的設(shè)計占用面積僅為4.4 × 4.8 mm2，與前幾代產(chǎn)品相比縮小了35%。

REAL3?圖像傳感系統(tǒng)的另一個突出特點是，增大了傳感范圍，可達10 m。調(diào)制頻率越高，ToF傳感器的深度精度就越好，但這會影響傳感器的測量范圍。因此，REAL3?圖像傳感器使用兩個調(diào)制頻率，并對收集到的數(shù)據(jù)進行細致的后期處理，以便在不影響深度質(zhì)量的情況下，實現(xiàn)相當大的測量范圍。這些傳感器還配備了pmdtechnologies的背景照明抑制（SBI）技術(shù)，可降低像素飽和度，使攝像頭能夠在各種光照條件下運行。傳感器還可以通過 I2C 接口動態(tài)地重新配置，以適應(yīng)新的操作環(huán)境。通過將所有這些功能整合到一個成像系統(tǒng)中，看似不可能的應(yīng)用現(xiàn)在似乎已經(jīng)成為一個確定的現(xiàn)實。因此，設(shè)計師需要留意英飛凌在高精度3D圖像傳感器方面的最新創(chuàng)新。

參考文獻

1.Stratview Research. Time-of-Flight (ToF) Sensor Market | Market Size, Share & Forecast Analysis | 2021-26 [Internet]. 2022 Jul [cited 2022 Jul 31]. 

Available from: https://www.stratviewresearch.com/1731/time-of-flight-(ToF)-sensor-market.html

2.Counterpoint Research. Brighter, steadier, smarter: How smartphone cameras will improve in 2022 [Internet]. BBC Future. [cited 2022 Aug 20]. 

Available from: https://www.bbc.com/storyworks/future/looking-ahead-with-tecno/brighter-steadier-smarter-how-smartphone-cameras-will-improve-in-2022

3.Counterpoint Research. Global Mobile Camera Trends 2022: Innovation Talk [Internet]. Counterpoint Research. 2021 [cited 2022 Aug 20]. 

Available from: https://www.counterpointresearch.com/global-mobile-camera-trends-2022-innovation-talk/

4.Velichko Y. How AR Fills Your Room with Virtual Decor [Internet]. PostIndustria. 2021 [cited 2022 Jul 31]. 

Available from: https://postindustria.com/how-ar-fills-your-room-with-virtual-decor-top-home-virtual-furniture-placement-apps-ar-furniture/