標籤彙整: Orion

Reality Labs 發表突破性 sEMG 手腕神經介面研究,登上《Nature》期刊:一種直覺、無須校準的人機互動未來

廣告

Meta 旗下的 Reality Labs 團隊近日在國際權威期刊《Nature》發表了一項具指標性的 研究成果,展示一種基於手腕表面肌電圖(surface electromyography, sEMG)的非侵入式神經介面技術,為人機互動領域開闢了新的可能性。這項研究的核心,是透過配戴於手腕的可穿戴設備擷取微弱的神經肌肉訊號,並運用深度學習模型將這些訊號即時轉譯為用戶的操作意圖,讓人們僅以手腕與手指的輕微肌肉活動,即可完成輸入、滑動、點選、手寫等日常數位操作。與以往仰賴鍵盤、滑鼠、觸控或語音控制的方式相比,sEMG 所提供的是一種更自然、更安靜、更即時的人機互動體驗,特別適合於行動中或不便發聲的使用情境。

這款研究中開發的 sEMG 手環裝置由 48 個乾電極組成,環繞使用者手腕至前臂部位,並透過藍牙即時串流高密度肌電數據至外部運算系統。為了解碼這些複雜且個體差異極大的生理訊號,團隊設計了一套以 Conformer 架構為基礎的深度神經網路,這種網路原本用於語音辨識,能有效處理時間序列資料並保留訊號中的語意順序。在此系統中,它被改造為能即時處理手勢與手寫的肌電資料,進而轉化為精確的輸入指令。此外,為克服使用者間的差異性,研究團隊特別強化模型的泛化能力,使其能「即插即用」,不需每位使用者額外進行校準,就能立即使用。

根據實驗結果,該系統能以平均每秒 0.88 次的速率辨識手勢指令,並達成超過 92% 的準確率,在手寫任務中也能以每分鐘 20.9 字的速度輸入文字,而不須任何鍵盤或螢幕輔助。更令人關注的是,即便僅加入極少量的個人化資料(例如使用者自行書寫幾分鐘樣本),其輸入精度仍可提升約 10% 至 16%。這意味著該技術不僅具備廣泛適用性,也能隨著使用時間逐漸適應與優化每位使用者的個別操作習慣。

這項 sEMG 技術的實用性不僅體現在效率上,更在於其對不同身體條件使用者的包容能力。由於該介面不需明顯的手部移動即可感知神經訊號,即使是肢體活動能力受限者,也能透過細微肌肉意圖操作設備。研究團隊也在多位不同性別、年齡與前臂尺寸的參與者身上進行測試,證實系統對不同生理特徵具備穩定解碼效果,這使它具備成為通用輸入方式的潛力。

控制轉移:新現實實驗室關於表面肌電圖的研究發表在《Nature》

這項技術已在 Reality Labs 的 AR 原型裝置「Orion」眼鏡上實測搭配使用,並配合先進機器學習模型將肌肉訊號準確解碼為輸入指令。根據實驗,系統不僅能即時辨識標準手勢,還能支援手寫辨識——用戶可直接在桌面、腿部或其他硬表面快速書寫訊息。

  • 它完全是非侵入性的,開闢了使用肌肉訊號與電腦互動的新方法,同時解決了其他形式的 HCI 面臨的許多問題。
  • 它使用起來方便、簡單、自然,並且在語音互動等替代方案可能不切實際或不受歡迎的情況下(例如在公共場合發送私人訊息)也能發揮作用。
  • 它始終可用,並且無需笨重的配件,讓您脫離當下並分散您對最重要的人事物的注意力。

Reality Labs 亦公開了完整的資料集與訓練流程,包含超過 300 名參與者所產出的三種任務數據(連續控制、手勢與手寫),累計超過 100 小時的高密度肌電資料。研究團隊希望透過此舉加速學術界與開發者在神經介面領域的創新進展,並鼓勵社群針對硬體設計、訊號處理與機器學習模型進行更深入的探索與應用。

Reality Labs 發表的這項研究不只是工程技術的進步,更是一種對人與科技互動關係的重新思考。相較於人類過去不斷適應各種輸入工具,如打字、滑鼠點擊、觸控滑動,sEMG 所提供的是一種由人出發、機器主動理解的控制方式。當科技真正理解「意圖」本身,並能將其自然轉化為互動回饋,人機介面便不再只是效率問題,而將成為一種更加人性化的存在形式。這不僅將提升主流使用者的操作體驗,更為行動能力受限者與語言障礙者開啟嶄新溝通途徑,也可能成為未來 XR 與 AR 裝置最關鍵的核心輸入方案之一。

隨著這類非侵入式神經輸入技術日漸成熟,一種更安靜、更無感、更貼近人類本能的數位互動模式正悄然成形。Reality Labs 所提出的 sEMG 手環研究,不僅為這個可能性提供了堅實技術基礎,也讓外界對人機介面的下一個演化階段,有了更加具體的想像。

*如果想要更深入了解研究,建議一定要看nature期刊上的 文章PDF *

Orion 計算模組:推動 AR 眼鏡發展的關鍵設備

廣告

在去年的 Connect 活動上,Reality Labs 公布了 Orion,這款 AR 眼鏡是該團隊過去十年研發工作的成果。該裝置結合了大型全息顯示技術與個人化 AI 輔助功能,設計為可長時間配戴的產品。然而,在 Orion 眼鏡的發展過程中,有一個關鍵的運算設備較少受到關注——Orion 計算模組(Compute Puck)。這款可隨身攜帶的設備不僅負責眼鏡的主要運算處理,也影響了 Orion 眼鏡的整體設計與功能配置。

AR 眼鏡在運算需求與設備尺寸之間存在技術上的挑戰。為了確保高效能運作,AR 眼鏡通常需要處理高幀率圖像、低延遲數據傳輸以及複雜的 AI 計算,而這些需求可能會造成設備發熱與電力消耗問題。傳統解決方案可能是將這些計算交給智慧型手機,但這樣做會導致手機電池迅速消耗,影響其原本用途。因此,Reality Labs 設計了 Compute Puck,將 Orion 眼鏡的運算負擔分擔到一個獨立的設備上,確保眼鏡本身能保持輕巧。

該模組具備高效能 系統單晶片(SoC),內建專為機器感知與 AI 運算設計的 Meta 客製化協同處理器,並搭載獨立電池來支持長時間運作。此外,它透過無線連接至 Orion 眼鏡與 EMG 手環,確保低延遲且穩定的數據傳輸,讓使用者無需依賴智慧型手機即可獲得完整的 AR 互動體驗。

Compute Puck 在最初的設計階段,並未立即被視為 Orion 眼鏡不可或缺的一部分。開發團隊早期曾考慮不同的方案,包括將該裝置設計成一個環繞使用者頸部的有線設備,以確保穩定的數據傳輸。然而,隨著 Reality Labs 團隊在無線技術上的進展,使得有線設計方案最終被放棄,改為無線連接的可攜式運算模組,使用者可以將其放入口袋或背包中隨身攜帶。

除了運算能力的考量外,Compute Puck 也曾被構想為 AR 通話的關鍵設備,能夠支援全息影像顯示。根據早期概念,當使用者進行 AR 視訊通話時,該裝置會放置在桌面上,並透過感測器掃描使用者,然後從裝置表面投影出對方的全息影像。然而,這一功能最終並未被實作,開發團隊轉而專注於優化 AR 眼鏡的核心體驗,確保 Orion 具備穩定的計算與無線連接能力。

在使用者操作方面,Compute Puck 也曾經歷多種原型設計。開發團隊考慮過讓該設備作為 AR 控制器,內建 6DOF 感測器 以支援追蹤功能,使其能夠用於虛擬物件的選取與操作。此外,還曾測試加入電容觸控與壓力感測,以便將其用作橫向或直向持握的遊戲手把。

儘管這些互動方式在開發過程中都曾被原型測試,但最終並未成為 Compute Puck 的正式功能。開發團隊選擇簡化其用途,將主要功能聚焦於運算處理與無線連接,而非額外的輸入設備。最終,Orion 眼鏡的互動方式主要依賴 眼動追蹤、EMG 手環與手勢追蹤,這些方式比透過獨立控制器進行操作更加自然,也符合 AR 設備的長期發展方向。

儘管 Compute Puck 沒有承載過多的輸入功能,它仍然是 Orion 眼鏡運作的核心組件。該設備整合了 無線連接、計算處理與電池供電,有效減輕了眼鏡本體的硬體負擔,使 Orion 能夠保持輕巧的外形。由於 Compute Puck 具備較大的散熱表面積,它也有助於解決高效能運算所產生的熱能問題。

此外,Compute Puck 的存在也讓 AR 眼鏡的發展方向與智慧型手機形成了明確區別。智慧型手機受限於內建螢幕與標準化的按鍵配置,而 Compute Puck 則能夠根據需求進行更具彈性的設計,專注於 AR 應用所需的運算能力與無線傳輸效能。

Compute Puck 在開發過程中曾探索過多種可能性,包括用於全息通話、遊戲控制器與觸控輸入裝置,這些功能雖然未成為最終產品的一部分,但它們代表了開發團隊在 AR 設備互動方式上的研究方向。未來,隨著技術的發展,這類運算模組或許能夠進一步擴展功能,例如強化 AI 輔助、支援更高效的手勢追蹤,甚至作為其他 AR 設備的通用運算平台。

Compute Puck 的設計並不僅是為了 Orion 眼鏡的運算需求而生,更展現了 Reality Labs 在 AR 硬體開發上的探索歷程。透過這款運算模組,開發團隊成功縮減了 AR 眼鏡的體積,並提供了一種獨立於手機的運算解決方案,使 Orion 具備了目前的形態與功能。然而,在 AR 互動方式仍持續演進的過程中,這類設備的未來發展仍值得關注。

Oculus Research 設想的 Ω 形帶子

Orion正式亮相:Meta首次推出真實AR眼鏡

廣告

Meta執行長Mark Zuckerberg在Connect活動中首次揭開了Orion的神秘面紗,這款產品是Meta開發的第一款真實AR眼鏡,原先以代號「Project Nazare」進行研發。經過多年的努力,Orion正式問世,代表著Meta在AR技術領域的重大突破。Orion配備了業界領先的視野範圍、碳化矽鏡片、複雜的導光技術以及uLED投影技術,堪稱Meta迄今為止最先進且最精緻的產品原型。

五年前,Meta宣布他們正在開發AR眼鏡,這簡單的五個字宣告了Meta對未來科技的願景:打破數位資訊與現實世界之間的界限。如今,Meta用另一組五個字證明了這一願景的實現:「我們已經製造出了AR眼鏡。」這代表著Meta在推動科技與人類生活融合的道路上又邁進了一大步。

Orion是一款結合了多項先進技術的AR眼鏡,擁有高達70度的視野範圍,是目前市面上尺寸最小的AR眼鏡中視野最廣的產品。它利用碳化矽製成的鏡片,這種材料具備輕盈、無光學失真、和高折射率的特性,保證了優異的顯示效果。同時,導光技術與uLED投影系統能夠提供高解析度且低功耗的視覺體驗。這些技術讓Orion成為一款兼具輕量與高性能的AR眼鏡,讓用戶在享受AR體驗時依然保持舒適與自然。

Orion的操作系統結合了語音控制、眼動追蹤、手勢識別以及電肌訊號(EMG)手腕帶等多種技術,實現了直覺且自然的操作方式。用戶只需透過輕微的手指動作,就可以輕鬆滑動、點擊或滾動操作,無論是在工作中瀏覽多個視窗,還是與朋友進行遠端互動,Orion都能夠提供流暢的操作體驗。此外,手腕帶內嵌的高性能紡織材料和EMG感測器,能夠準確捕捉細微的肌肉活動,並透過內建的機器學習處理器,將訊號轉換為可用的操作指令,使操作更加靈敏。

為了實現真正無線且輕便的AR體驗,Meta為Orion設計了一個無線運算裝置Puck。這個裝置能夠減輕眼鏡的運算負荷,延長續航力,同時提供低延遲的高效能運算。Puck配備了兩個處理器,其中一個由Meta專門設計,能夠處理低延遲的圖形渲染、人工智慧運算,以及其他感知功能。用戶可以輕鬆地將Puck放入背包或口袋,享受隨時隨地的AR體驗。

Orion不僅僅是一副AR眼鏡,它還預示著未來科技的無限可能。該裝置搭載了Meta的智慧助理Meta AI,能夠根據用戶的需求提供即時的資a訊與建議,並且運用強大的Llama模型,為用戶提供個性化的AI體驗。無論是進行免持視訊通話、在WhatsApp與Messenger上查看與回覆訊息,或是在AR環境中與朋友一起遊玩遊戲,Orion都能夠輕鬆應對。此外,Orion的大顯示螢幕可支援多窗口操作,讓用戶無需攜帶筆電即可完成多項工作,提高工作效率與生活便利性。

Orion代表了Meta在AR領域的重大突破,並將引領未來AR眼鏡的發展。Meta表示,未來將持續優化Orion的顯示品質、縮小外型,並將製造成本進一步降低,以實現可大規模生產的目標。Meta還將會把Orion的創新技術延伸到其他產品,讓更多用戶能夠體驗到這項創新的技術成果。Orion並非單純的研究原型,而是一款成熟的產品,Meta希望透過這款眼鏡,徹底改變人們與數位世界互動的方式。

Meta的Orion不僅僅是一個技術創新,更是一扇通往未來的視窗,展示了數位世界與現實生活融合的無限可能。從Ray-Ban Meta眼鏡到Orion,Meta一直致力於幫助人們在數位與現實之間建立更深層次的連結。隨著Orion的問世,未來的數位生活將變得更加多元、豐富,讓人們在現實世界中能夠更加自由地探索與互動。