從腦機介面走進元宇宙
January 12th, 2023

〈從腦機介面走進元宇宙 (The idea from Brain Computer Interface into Metaverse)〉,2023,國立清華大學元宇宙與科技創新課程 (National Tsing Hua University, Technology Innovation and the Metaverse Course)

劉鎮臺,丁泓文,蔡一伶,劉軒宇,楊容

潛入元宇宙

元宇宙一詞,著實提供了從現實生活中的環境轉移到虛擬環境很好的代名詞,無論是經濟、會議、教育以及社會環境系統,能能透過「元宇宙」這個橋梁,快速發展現實生活中以人為本的需求(Lik-Hang Lee et al.,2021)。

例如:
(1)區塊鏈:現實社會中法律的隱私權、心理學中的潛意識對應的是透過連續串接的Hash算法(對應隱私權)並運用多個節點分散儲存(對應集體潛意識)的區塊鏈技術。
(2)AI人工智慧:輔助現實中人類邏輯運算、想像力,更甚想像力,例如,目前諸多卡拉OK交友軟體、Metaverse會有虛擬粉絲透過自然語言處理運算陪你對話,形成大多數人理想中「可以互動的人工智慧」。
(3)VR/AR虛擬實境:運用人類最敏感的感官,視覺,來引起使用者興趣。無論是虛實結合的外科手術學習,或著運用完全虛擬世界達成回憶過世親人。

出自 ik-Hang Lee1, Tristan Braud, Pengyuan Zhou, Lin Wang, Dianlei Xu, Zijun Lin, Abhishek Kumar, Carlos Bermejo 和 Pan Hu 合著的 〈All One Needs to Know about Metaverse: A Complete Survey on Technological Singularity, Virtual Ecosystem, and Research Agenda〉
出自 ik-Hang Lee1, Tristan Braud, Pengyuan Zhou, Lin Wang, Dianlei Xu, Zijun Lin, Abhishek Kumar, Carlos Bermejo 和 Pan Hu 合著的 〈All One Needs to Know about Metaverse: A Complete Survey on Technological Singularity, Virtual Ecosystem, and Research Agenda〉

然而,這些需求在「元宇宙」一詞出現後,形成了社會發展的風口,加速了這些產業發展。

從神經科學與腦機介面沉浸元宇宙

隨著神經科學的普及,研究上已經透過超掃描技術(hyperscanning)證實人在做相同事情,腦袋可能會有相同的訊號以及理解,這是由於我們在社會上持續理解、接收以及翻譯訊息的結果,所以形成了社會神經心理科學的學門。

圖片出自 JAMIE WARD 著《The Student’s Guide to Social Neuroscience-Psychology》一書
圖片出自 JAMIE WARD 著《The Student’s Guide to Social Neuroscience-Psychology》一書

在神經科學家專攻人類互動腦波分析與發展時,個人腦波訊號已經可以透過演算達成七八成的特徵讀取,訊號就可以取得特徵的演算法與分類,轉換成實際的動作。(Sharlene N. Flesher et al.,2021)

現有的腦機介面技術,中樞神經病變的病人,能透過腦部訊號與皮膚運動神經訊號演算而移動機械手臂。若技術能在元宇宙中實現,則是運用腦部訊號就可以直接控制虛擬人物的角色移動

圖片出自Flesher, S. N., Downey, J. E., Weiss, J. M., Hughes, C. L., Herrera, A. J., Tyler-Kabara, E. C., ... & Gaunt, R. A. 著 〈brain-computer interface that evokes tactile sensations improves robotic arm control.〉一文
圖片出自Flesher, S. N., Downey, J. E., Weiss, J. M., Hughes, C. L., Herrera, A. J., Tyler-Kabara, E. C., ... & Gaunt, R. A. 著 〈brain-computer interface that evokes tactile sensations improves robotic arm control.〉一文

但是虛擬人物角色的聲音怎麼辦呢?腦機介面正提供了:腦波轉換成說話的方法(brain-to speech) ,直接腦波直接發出聲音的方法,一樣是基於利用蒐集人的腦波特徵(features)
目前可以將ambulance, clock, hello, help me, light, pain, stop, thank you, toilet, TV, water 和 yes 等較為簡易的英文單字,透過腦波轉換成人聲。(Seo-Hyun Lee et al.,2022)

圖片出自Lee, S. H., Lee, Y. E., & Lee, S. W. 著 〈Toward Imagined Speech based Smart Communication System: Potential Applications on Metaverse Conditions. In 2022 10th International Winter Conference on Brain-Computer Interface (BCI)〉一文
圖片出自Lee, S. H., Lee, Y. E., & Lee, S. W. 著 〈Toward Imagined Speech based Smart Communication System: Potential Applications on Metaverse Conditions. In 2022 10th International Winter Conference on Brain-Computer Interface (BCI)〉一文

若技術發展日漸成熟,在元宇宙中就可以不用透過麥克風,直接運用腦波,將思考後的腦波轉換成聲音在元宇宙呈現。但就必須隨時注意自己的想法

腦機介面熱潮緣起

在談完學理基礎後,就不得不提到由漫畫改編的電影《攻殼機動隊》,這部片於1995年上映,4年後,以《攻殼機動隊》世界觀為基礎所製作出的電影《駭客任務》風靡全球。他們在全球影迷的腦海中植入了「腦機介面」的最初想像:主角們透過植入腦中的電子晶片與電腦相連,不但能進入虛擬世界,也可以用意念操控機器。

SleepUp

目前的腦機介面若腦機介面要取代手機,形成下一代互動方式,至少需要5年以上,甚至是10–20年。因此,這幾年內必須要有微小的技術落地才能支撐企業發展。中國的腦陸科技搭建了自主研發的腦機互動技術平台。2021年6月,他們發佈了一款消費級睡眠產品「SleepUp」,選擇從現代人生活中最困擾的睡眠問題來進行商業化切入。

SleepUp的產品體積很小、重量僅38克,將一次性的醫療睡眠貼片放在額頭上,藉此檢測腦波訊號,而這就是迷你版的腦機介面了。
SleepUp的產品體積很小、重量僅38克,將一次性的醫療睡眠貼片放在額頭上,藉此檢測腦波訊號,而這就是迷你版的腦機介面了。

SleepUp透過辨識人體的腦電波,根據大腦神經訊號狀態的分佈及變化,智慧化配對不同頻段和強度的聲波響應。透過匹配特定特徵的聲波,可以誘導大腦神經訊號狀態由興奮狀態逐漸過渡到平靜狀態,進而使人們從清醒狀態誘導至睡眠或冥想狀態

Neuralink是一個運用美國神經科技打造腦機接口公司,就是由全球最具影響力的伊隆·馬斯克和八名其他聯合創辦者創辦,負責研發植入式腦機介面技術。Wait But Why(美國媒體)曾評價道,「Neuralink在某種程度上,成功超越了特斯拉、SpaceX在工程方面的挑戰與成就。後者兩家公司的目標是重新定義人類未來會做什麼,而Neuralink則是在定義人類未來將成為什麼。」

今年12月初, Neuralink公司舉行了一場轟動性的演示活動,一隻叫Sake的猴子,它通過屏幕和植入大腦的Neuralink N1設備,實現了追蹤屏幕上的移動光標,最終成功拚出了“Can I please have snacks”的英文短句。
今年12月初, Neuralink公司舉行了一場轟動性的演示活動,一隻叫Sake的猴子,它通過屏幕和植入大腦的Neuralink N1設備,實現了追蹤屏幕上的移動光標,最終成功拚出了“Can I please have snacks”的英文短句。

當然,實際上並不是猴子會拚寫單詞,而是植入設備將猴子大腦的信號轉化成了這句英文。
自公司成立以來,該公司已聘請了來自各大學的幾位知名神經科學家。

到2019年7月,它已收到1.58億美元的資金(其中1億美元來自馬斯克),並僱用了90名員工。當時,Neuralink宣布正在開發一種「類似縫紉機」的設備,該設備能夠將非常細的線(寬度為4至6微米)植入大腦,並演示了一種可以從透過植入1,500個電極的實驗鼠讀取信息的系統,預計將在2023年將腦機介面植入人腦進行實驗。

Neuralink 期望藉植入腦部晶片,有朝一日治療帕金森氏症、阿茲海默症等腦部疾病,並研發可植入脊髓的裝置,讓癱瘓者有機會恢復行動能力;還有植入眼睛的設備,有助改善或恢復視力。

腦機介面在未來會是怎麼樣的呢?我們這樣想……

也許,我們會在2040年的世界中,看見腦機介面可能會有許多應用。

示意圖:我們都希望科技能從自然與人文中合適的發展,不脫離現實的科技、能解決現有狀況的科技和真正能感受到的科技,真的很美麗。
示意圖:我們都希望科技能從自然與人文中合適的發展,不脫離現實的科技、能解決現有狀況的科技和真正能感受到的科技,真的很美麗。

從《分歧者》的測驗看見腦機介面帶來的能力

以美國作家Veronica Ross所撰寫的《分歧者》小說,在派別考驗的測驗裡面,試驗人能透過獨特的藥劑與腦機介面儀器(如下圖示意),在測驗中想像出被用來控制和增強人類的特殊能力,例如:能夠感知和控制情緒、控制物體的運動、操縱火焰等。

示意圖:在《分歧者》中有對於職業派別的考驗,在那些派別考驗當中,擁有跨越性思考的人,他們稱之為「分歧者」,在任何派別中,他們特別凸顯出自身擁有能夠感知和控制情緒的能力。
示意圖:在《分歧者》中有對於職業派別的考驗,在那些派別考驗當中,擁有跨越性思考的人,他們稱之為「分歧者」,在任何派別中,他們特別凸顯出自身擁有能夠感知和控制情緒的能力。

假想當如果有人通過腦機介面植入了這種能力,那麼他們就可以通過控制自己的情緒來改變自己的行為,或許也可以透過連結至腦部的視覺神經區域,新增一個能即時看到自己在當下的情緒狀態數值,並且運用前額葉的共感區新增可以讀取別人的狀態數據,這樣就可以大幅增加個體對自己的控制能力,也可以更加容易說服他人。

未來,也通過植入電極或電磁感應的磁場,改變腦神經傳遞的方式與磁場來增強自己的特殊能力,甚至可能會使得人們能夠擁有《分歧者》中描述的那些特殊能力。

此外,《分歧者》小說中也提到了人們運用腦機介面控制其他生物。例如,在主角碧翠絲(Beatrice Prior)練習無畏派考驗的時候,此時一呼!出現兇惡狗狗在無限鏡中追逐他的畫面,此時,碧翠絲透過放下恐懼,腦機介面儀器感知到他已經放下恐懼便感到沒有畏懼,而通過這次對「無畏派考驗的練習」。

示意圖:小說中儀器與特殊藥劑,能讓考驗者擁有能夠感知和操縱動物的能力
示意圖:小說中儀器與特殊藥劑,能讓考驗者擁有能夠感知和操縱動物的能力

實際上,在現今2023年學理研究,專家已展現腦波能直接控制機械手臂移動,所以隨著腦機介面技術的發展,人或許能夠通過腦機介面來控制和操縱小型生物或者機器人。

所以,隨著腦機介面技術的擴展,可能會被用來的應用就可以愈來愈多,從這些我們說明的層面外,無論是在現實上幫助警察和軍隊維護治安和國家安全,抑或被用來改善醫療保健領域。

再更進一步地說,有著不同狀況的人可以應用到的面向,像是醫生可能會能夠直接感知病人大腦中的疾病信息,並根據此信息制定治療方案。還有,腦機介面也可能被用來幫助殘疾人士恢復身體的功能,或者幫助老年人改善記憶力和智力。從不太現實的方面看,腦機介面還可能被用來實現回顧過往腦袋的記憶,進而實現控制時間的流逝或者暫停時間的奇特效果。

刀劍神域於元宇宙世界的發想

從刀劍神域的第一季動漫來看,NERvGear 是一款非侵入式的腦機介面。主角們在連接時,只需要戴上頭盔就可以把意識傳入遊戲世界,很明顯這是個非侵入式的腦機介面。原理是透過,大腦裡的神經細胞活動會產生電位差,一個神經細胞所產生的電流很小,但一群神經細胞同步活化,就能匯集成足夠大的電流產生電磁場,一層層穿過組織來到頭皮,這樣我們就能將量測到腦波訊號繪製成腦電圖(Electroencephalography, EEG)。

要達到非侵入式的腦機介面(NERvGear)需要完成三個重點技術:

  • (一)非侵入式的腦機介面:不過由於腦內活動非常複雜,彼此區塊間負責的功能也有所不同,大腦裡約有 860 億個神經細胞,造成的電訊號夾雜在一起,大大增加分析的難度。加上從頭皮表面量測腦波,會受到皮膚、腦蓋骨、腦組織液的干擾。因此而有侵入式腦機介面,侵入式會穿過頭蓋骨將電極放在大腦皮層上。因為要動手術,所以不為大眾接受, 但這種方式確實能有效降低雜訊。 目前在設計給使用者時,以非侵入式的方式量測準確度相差很多。現在技術能有效量測、判斷的腦波訊號只有手臂上舉、眨眼皮等特定或大型動作,及最早發現的睡眠時腦波的頻率變化。所以想要透過頭戴裝置就在虛擬世界暢遊,仍有很大的難度。

  • (二)感覺訊號與動作訊號:已知人類是透過五官、皮膚等器官去感受外界,但刀劍神域的完全潛行,是透過訊號直接刺激神經或大腦,讓人們如同進入虛擬世界。這裡列舉最基本的視覺、聽覺,這也是現今多媒體主要傳播方式。還有為了使沉浸體驗更好,我們得要試著解決攔截動作訊號的問題。 視覺技術 早在 70 年前,就發現以電流刺激大腦視覺皮層,會感知到閃光或者說光幻視。2020 年《科學》(Science)期刊上有發表了採用光幻視的技術,利用電流刺激在大腦中產生一個個小光斑,光斑組成簡單的圖像,而實驗結果成功讓猴子「看到」並分辨出英文字母、線條和移動的小點等這些圖案。這如同我們螢幕上顯示的畫面,也是一個個小到肉眼觀察不到的光點(像素)組合而成,但即便如此,這項技術也無法直接讓我們大腦看到如同眼球接收般細緻的畫面。 聽覺技術 人工電子耳可以說是現今最成熟的醫療輔具之一,現在助聽器或人工電子耳已經非常常見。助聽器主要只是將聲音放大傳入耳朵,而人工電子耳則是直接刺激聽覺神經,產生聽覺。不過這仍與故事設定不同,非直接刺激大腦皮層。 以上看來感覺訊號,現今都受限於大腦電刺激技術,仍需後續的大量的研究創新才能達成。

  • (三)潛行中阻止身體動作:完全潛行還有一個重點,就是在虛擬世界中活動,不會影響到外界的身體,也就是我們控制的運動只會在我們腦中進行。由於攔截腦波的研究,我沒有查到,所以這邊提出假設方法。排除使用藥劑去使人無法動作,若利用身體機制可以嘗試俗稱「鬼壓床」的「睡眠癱瘓症」。 觸發原因是因為睡眠周期中的快速動眼期(REM),人們在這期間容易做夢甚至夢遊,因此大腦會發出命令分泌激素,使肌肉癱瘓避免危險,若這時清醒,就會產生大腦已經有知覺了,但全身仍無法動作的情況。不過要能讓使用者很穩定得處於REM,這種假設需要實驗求證可行性。 //標明用 上面所提到的BCI技術,可以運用到醫療、教育、娛樂等等諸多層面,為人類創造更多的便利性。

刀劍神域的腦機介面若發生了,將如何從研究走入醫療與社會

我們還可以假想這樣的技術,如果從第一線研究通過,進入到第二階段的實驗性醫療方法,以及進入第三步的社會普及化,會變成什麼樣子。

跨出第一步到第二步:醫療

在傳統上,四肢或是神經受損的患者即使裝上人工義肢或其他輔助工具,與一般人在感官上的感受還是相距甚遠。起初,BCI的研究就是希望能幫助神經肌肉系統失能、中風、脊椎損傷等患者進行治療及修復。

示意圖:躺在病床上連接著虛擬裝置的枯瘦女孩,真名為紺野木棉季(日語中,木棉季與有紀,亞絲娜的姓氏結城同音)。原來有紀和雙胞胎姐姐的母親生產輸血時意外感染了愛滋病毒,很小就病發住院。在醫生的提議下,成為醫療潛行設備的實驗者。失去行動視聽能力,大量使用藥物的痛苦,有紀因此一直生活在虛擬世界中,長大3年,完全24小時潛行,這也是絕劍如此強大的一個原因。(引自《刀劍神域》「絕劍篇」—— 我在這個世界努力地活過了!)
示意圖:躺在病床上連接著虛擬裝置的枯瘦女孩,真名為紺野木棉季(日語中,木棉季與有紀,亞絲娜的姓氏結城同音)。原來有紀和雙胞胎姐姐的母親生產輸血時意外感染了愛滋病毒,很小就病發住院。在醫生的提議下,成為醫療潛行設備的實驗者。失去行動視聽能力,大量使用藥物的痛苦,有紀因此一直生活在虛擬世界中,長大3年,完全24小時潛行,這也是絕劍如此強大的一個原因。(引自《刀劍神域》「絕劍篇」—— 我在這個世界努力地活過了!)

在小說動漫中《刀劍神域的「絕劍篇」》,有一名少女身懷強大的劍技,讓人不難猜想他是否現實中是一位運動健將,其實不然,在現實世界中,他正是懷有重大疾病的少女友紀,透過腦機介面,他開始訓練她的運動神經,並在虛擬世界中對應自如。

在倘若未來此項技術更趨成熟,再搭配上與其他精密機器的結合,將外部的訊號傳遞至大腦,重建感官與運動功能,使其能與一般人一樣正常的活動,並獲得相同的生活體驗。

從第二步到第三步:現實

就如同許多科幻作品一樣,若腦機介面能有效地讀取我們的思緒並與外部裝置做連結,未來的生活方式可能大大的改變。以叫外送為例,假設我們今天不知道午餐要吃丼飯還是咖哩飯,在未來的外送平台上可能有該餐點味道的程式碼,只要經過我們的許可,其將會傳送到我們的腦機介面並將訊號轉為電流刺激我們大腦的味覺系統,讓我們可以更好的做決定。在未來,只要是能連線的電子產品,或許都能用大腦快速地進行控制並進行反饋,為生活帶來很大的便利。

此外,一般人與人交流時,我們會先將自己的想法轉換成語言、表情及肢體動作來與其他人溝通,而這轉換的過程中常常會失去許多訊息,未來若能結合BCI的技術,在某些情況或許我們能更精準表達自身的情感,也更能理解對方的心情。

從腦機介面走向元/超越宇宙(Meta-Verse)

大腦可以說是最複雜的系統之一,人類目前對其的理解可以說是少之又少,大腦、認知與心理科學在近兩百年才得以從生物學的範疇走進到心理學的實證中,也就是說,心理學近一百年才將行為與象徵性的科學系統,走進為心理學真正的邏輯根源「神經科學」這門學門。

倘若我們社會要達到科幻小說那種身歷其境的體驗,除了需要目前跨領域資源的整合外,也需要國家社會積極將神經科學視為真正心智的起源與邏輯。依照目前在資訊電機和生物心理的發展狀態來看,儘管已經能透過特徵值與演算法達成及格程度的預測與表達,但如果要符合現今人類對科技的舒適度、方便程度與易用程度,勢必還有很長一段路要走。

未來若能將人機介面、物聯網以及其他技術相結合,人與人之間將更緊密的連接在一起,似乎能超越當前的宇宙,而「元宇宙」的概念也給未來帶來諸多美好的想像。

引用文章與文獻:

  • Lee, L., Braud, T., Zhou, P., Wang, L., Xu, D., Lin, Z., ... & Hui, P. (2021). All one needs to know about metaverse: A complete survey on technological singularity, virtual ecosystem, and research agenda. arXiv preprint arXiv:2110.05352.

  • Ward, J. (2016). The student's guide to social neuroscience. Psychology Press.

  • Flesher, S. N., Downey, J. H. E., Weiss, J. M., Hughes, C. L., Herrera, A. J., Tyler-Kabara, E. C., ... & Gaunt, R. A. (2021). A brain-computer interface that evokes tactile sensations improves robotic arm control. Science, 372(6544), 831-836.

  • Lee, S. H., Lee, Y. E., & Lee, S. W. (2022, February). Toward Imagined Speech based Smart Communication System: Potential Applications on Metaverse Conditions. In 2022 10th International Winter Conference on Brain-Computer Interface (BCI) (pp. 1-4). IEEE.

  • 夏凰翔(2020)。《刀劍神域》「絕劍篇」—— 我在這個世界努力地活過了!。

    https://home.gamer.com.tw/creationDetail.php?sn=4800422

Subscribe to 秋海棠
Receive the latest updates directly to your inbox.
Mint this entry as an NFT to add it to your collection.
Verification
This entry has been permanently stored onchain and signed by its creator.
More from 秋海棠

Skeleton

Skeleton

Skeleton