You are browsing the Hong Kong website, Regulated by Hong Kong SFC (CE number: BJA907). Investment is risky and you must be cautious when entering the market.
從“黑鏡”看元宇宙的另一面
格隆匯 01-20 19:35

本文來自:華泰證券科技研究,作者:黃樂平、陳旭東、胡宇舟

2021年,元宇宙這一“人類未來數字生活願景”正式站上想象力的風口,成為全球產業和資本矚目的焦點,但就其具體概念和內涵而言,卻仍處於探索階段,不同的人有不同的解讀。我們參照現實世界,結合Roblox、Matthew Ball以及扎克伯格等對元宇宙的定義中總結出的共性特徵,對其作如下解讀:元宇宙是以價值結算系統、內容生產系統、信息基礎設施、互操作系統作為底層構築的數字生活空間,其核心是通過應用和身份連結現實居民,並由社會激勵和治理規則維繫人際關係和系統運轉。

基於這些基本構成要素,正在來臨的元宇宙將改寫世界和世界中的人,把人類引致一個高度自由、高度便捷的美好的數字化生活空間。然而,正如一個硬幣的兩面,元宇宙的所有元素在提供給人們美好想象的同時,人類也必將有所交付。英劇黑鏡即探討了元宇宙的部分構成要素可能對人性造成的異化與破壞,以及隨之而來的一系列社會倫理、道德與治理難題,例如元宇宙的道德倫理真空或讓人性的惡在其中放大,虛擬身份和社交場景化或加劇現實社會人際問題,以及個體隱私將在技術手段下無處遁形並將遭遇更大的暴露與安全風險等。這些問題都在警示我們,元宇宙也不是全然美好的“烏托邦”,在找尋元宇宙領域投資機會的同時也應重視元宇宙的生態治理問題。

社交關係:元宇宙如果缺乏有效倫理約束,可能會放大人性中惡的一面

人是社會性的動物,總是生活在一定的社會關係中,在傳統媒體時代,人們以真實身份出現並和熟人進行互動,社會交往侷限於一定的時間和空間內;在互聯網(包括PC互聯網和移動互聯網)時代,社交開始擺脱真實身份和物理空間的約束,人們可以基於虛擬身份進入到他人的空間,與陌生人實現隨時隨地地溝通交往,實現“缺席的在場”;而在元宇宙時代,技術的發展又帶給了人們新的“虛擬化”可能,且這種虛擬化不僅僅是身份的虛擬性,更可以通過虛擬獲得真實的感官體驗以及真實的身體在場感。

在元宇宙社交時代,躲在虛擬身份背後的人們對自身行為約束的程度將弱於以往任何時代,移動互聯網時代已經初顯端倪的網絡暴力、隱私風險、用户騷擾或更頻繁上演,加劇現實社會社交恐懼、社交疏離等問題。同時,元宇宙社交中場景化帶來的沉浸式體驗可能進一步將問題放大,從而最終影響社會婚戀觀、生育率、代際關係等人際問題,並引發一系列社會倫理問題。在黑鏡中,導演使用了大量的篇幅來探討元宇宙背景下,技術和虛擬身份可能對人際交往和社會關係產生的異化,通過這些故事,我們或許能對元宇宙的社交的另一面有更具象的瞭解。

虛擬身份——元宇宙道德倫理問題的根源

虛擬身份(數字分身)是元宇宙的核心要素之一。在元宇宙中,人們的社交行為基於其自行創建的虛擬形象,由於網絡的隱蔽性、虛擬形象的身份掩飾便利以及真實世界中社會壓力的缺失,使得人性中最原始隱祕的部分——惡的一面得以有宣泄的出口。在黑鏡第三季“Hated in the nation”這一集所描述網絡投票系統中,人們可以隨意的對別人貼上#Death to#的標籤,而每週獲得最多標籤的人則將遭受黑客控制的機器蜜蜂的攻擊而死。劇集所表達的對網絡暴力問題的隱憂在如今看來似有誇大的成分,但若將目光投射至元宇宙這一高度自由、高度開放、高度包容的“類烏托邦”世界,則其嚴峻性或將不言而喻。

場景化帶來的沉浸感或放大虛擬身份下的倫理道德問題

人們在高度發達的元宇宙中可以躲在虛擬身份背後扮演他們在真實世界中可能無法扮演的角色,並以這個身份同元宇宙中的其他人交互交往。在倫理道德的“監督真空”下,人們可以毫無顧忌地做一些現實生活中不能做也不敢做的事情,對自身約束的放鬆程度將高於以往任何世代,而元宇宙場景化帶來的沉浸式體驗還可能進一步將問題放大,從而最終影響社會婚戀觀、生育率、代際關係等人際問題。正如黑鏡第五季“Striking Vipers”中的現實世界中的好兄弟成為了元宇宙中的異性戀人,並影響到了其中一方在現實世界的婚姻。劇集給我們展現了“監督真空”的元宇宙可能帶來的倫理問題,這也提示元宇宙開發者在追求極致的體驗感的同時也應該注意元宇宙社會倫理體系的構建。

部落化的元宇宙也將出現社會階級

元宇宙時代的社交將具有部落化的特徵,在進入元宇宙後,人們憑藉興趣和共識創建社交場景和生活社區,構建數字人之間的公共生活,從而形成虛擬世界的無數部落。此時,不同社交場景和部落的門票將具有社交圈層的價值,從而可能造成元宇宙社交世界的階級分化問題。這也意味着,為了獲得更多社交場景的門票並實現社交階級上遷,人們必須打造更好的虛擬形象,通過“數據化”的表演或扮演,獲得高層級羣體的認同。正如在遊戲世界中,人們通過練級進階,並向其他玩家進行展示自己的成果來獲得遊戲地位。然而,風險在於,當這種表演和隨之獲得的精神滿足被元宇宙擴大後,便可能走向另外的極端,努力追求元宇宙虛擬社羣認同的過程中逐漸迷失自我。正如黑鏡第三季“Nosedive”中的女主,為了獲得更高的社交評分,而賣力地向身邊每個人微笑、費盡心思討好別人,最終失去真實的自我。

人工智能:當AI進化成具有獨立意識的數字人,人類將如何與之相處?

“人工智能”這個概念最開始是由幾個科學家在1956年的達特茅斯會議上提出來的,他們夢想着利用當時剛剛出現的計算機來構造與人類擁有相同智慧同樣本質特性的機器人。自此之後,人工智能的概念就在科學界流傳開來,並在科學實驗室中開始孵化。之後的幾十年裏,人們對於人工智能的討論愈發熱烈,有人認為人工智能是人類文明耀眼的未來語言,也有人認為人工智能只是技術狂熱分子的瞎想,應該扔到垃圾堆裏。直到2012年之前,這種討論一直沒有停過。2012年以後,得益於數據量的上漲、運算力的提升和機器學習新算法(深度學習)的出現,人工智能開始大調整。人工智能的研究領域也在不斷擴大,包括專家系統、機器學習、進化計算、模糊邏輯、計算機視覺、自然語言處理、推薦系統等。

人工智能技術作為元宇宙基礎設施的核心要素之一,它會從最簡單的人機翻譯,圖像識別,逐步演化成能夠部分替代人類能力的強人工智能,甚至演化出具有自我意識和創造能力的獨立的數字人(或者超級人工智能)。這樣的數字人,一方面能夠從多方面滿足人類的情感需求(例如黑鏡”Be right back“中的機器人男友),比如給予人類陪伴或者舒緩現實世界的社交壓力等,另一方面能夠在多方面替代人類成為新的生產力(例如黑鏡聖誕節特別篇裏面的意識副本),比如生產製造,科研以及藝術創造等。但什麼是這些數字人的權利與義務,人類本尊和他的數字克隆之間如何相處,這些倫理問題都值得深思。

超級人工智能可以給予人類情感陪伴,但還是替代不了真實的有缺陷的人

在黑鏡第二季“Be right back”中女主為了舒緩喪夫之痛,購買了基於人工智能的人體模型服務。最開始女主發現模型很像自己逝去的老公,而且每次女主指出模型的缺陷後,模型都會立刻優化,比之前更像女主逝去的老公。但模型終究只是個模型,而不是活生生的人,它不用進食,不用睡覺,不用呼吸,它缺乏訓練數據以外的一切資料。無法忍受這一切違和感的女主被逼得近乎崩潰,她最終決定放棄這樣一款機器。我們可以看到在黑鏡所構建的元宇宙中,人工智能即使發展到極致也還是替代不了真實的有缺陷的人,還原不了人類彼此之間的感情依賴。

如何對待具備自我意識的超級人工智能值得深思,但“虐待”絕不可取

在黑鏡所搭建的元宇宙中,有一種特別的超級人工智能-“意識副本”。相比於現在基於海量數據訓練出來的弱人工智能,意識副本跟客户的意識主體幾乎相同,清楚地知道客户的所思所想。在黑鏡的聖誕節特別篇中,作為人工智能工程師的男主為了馴服意識副本,採用了一種非常殘酷的訓練方式:通過對意識副本施加“現實一分鐘,虛擬一千年”的酷刑,讓意識副本心甘情願地成為專門為主體服務的工具;同樣,在黑鏡“Black Museum”劇集中博物館館主通過讓遊客對女主父親的意識副本實施虐待而獲取暴利。黑鏡劇集中這些對意識副本的虐待行為顯然是不能被接受的,但人們該如何對待具有自我意識的超級人工智能仍值得深思。

跳出“機器人三定律”,超級人工智能或將成為人類的終結者

跟眾多科幻電影一樣(比如黑客帝國),在黑鏡第四季“Metalhead”中也描述了一個由強人工智能所統治的世界:在這個世界裏,機器狗成為了世界的主宰,而人類變成了機器狗的獵物。如果從“進化”的角度來衡量一個物種的生存優勢,類似於機器狗這種集生物技術和信息技術於一身的人工智能產物確實遠勝於我們人類:1)人工智能具備無限複製和批量生產的自我繁衍能力;2)人工智能的耐力上限可以接近於“永久”,並且金屬的機器更能適應各種極端環境;以及3)人工智能在邏輯推演方面具有人類不可比擬的優勢。我們一直在追求製造出類似於機械狗這種更“完美”的人工智能產物的同時,也應該警惕一旦它們跳出“機器人三定律”(機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管;機器人必須服從人給予它的命令,當該命令與第一定律衝突時例外;機器人在不違反前兩個定律的情況下要儘可能保護自己的生存),它們也有可能成為人類的終結者。

隱私保護:當科技成為人們挖掘“真相”的手段,隱私將無處遁形

實際上,早在“元宇宙”概念興起之前,關於“擴展現實”(Extended Reality,XR)、“沉浸式技術”(Immersive Techlogy)所涉及的隱私和數據安全所發出的拷問已此起彼伏。用户信息數據作為支撐元宇宙持續運轉的底層資源,是元宇宙一切活動的核心和關鍵,相較於移動互聯網時代,元宇宙對用户數據的需求將更加龐大,其中發生的信息交互也更加頻繁,從而對用户隱私保護帶來更大挑戰。在黑鏡中,導演已經向我們深刻展示了在元宇宙時代,高度發達的信息技術(如劇中的記憶顆粒等)將以何種方式對個人隱私造成侵犯,而這種侵犯又會帶來何等嚴重的後果。

對“真相”的極致追求或造成嚴重的隱私問題

在技術高度發達的元宇宙時代,科技成為了人們獲取“真相”的重要手段,隨之而來的是人們的隱私被輕而易舉地監測甚至是竊取。黑鏡的多個故事對此進行了探討,無論是“The entire history of you”中為了尋找真相,通過記憶顆粒挖掘妻子隱私,最終家庭破碎的丈夫;還是“Shut up and dance”中因被攝像監控導致個人隱私泄露而遭受挾持,最終滑入犯罪陷阱的高中生;抑或“Arkangel”中盼子成龍心切,通過納米芯片時刻監控女兒隱私最終釀成慘劇的母親。這些劇集都深刻描述了一個“完全真實”的世界,反而有可能給個人和家庭關係,以及青少年的成長造成負面影響。同時,根據XRA協會發布的《2020 AR/VR市場調查報吿》,49%的受訪者認為隱私保護和數據安全是AR/VR內容的最大法律風險。如何避免用户信息竊取、濫用以及基於這些數據的網絡犯罪等問題將成為元宇宙建設的重大考驗。

元宇宙時代的隱私保護機制需要負責任地建設

“互操作性、開放標準、隱私和安全要在元宇宙的第一天就建造起來”,扎克伯格在宣佈Facebook更名的視頻演講中(2021年10月29日),將隱私安全和個人空間列入理想元宇宙的八大關鍵要素,並提到未來的元宇宙平台將設立隱私標準、家長控制措施,並對數據使用進行披露。元宇宙對個人隱私安全保護帶來深刻衝擊,意味着如何合理收集、儲存與管理這些數據資源,並進行合理授權和合規使用;以及如何避免用户信息竊取、濫用以及基於這些數據的網絡犯罪等問題,將成為元宇宙建設的重大考驗。

風險提示

本文不涉及推薦和關注。本文關於劇集的內容為客觀描述,僅為有助於投資者理解元宇宙可能出現的情景分析,不涉及推薦和關注。

元宇宙技術開發進度不及預期。元宇宙的實現是 5G、AI、AR/VR/腦機接口、雲計算等多種前沿科技協同發展的結果,目前仍然處於早期階段,若技術的發展進度不及預期,則會進一步影響用户體驗,降低沉浸感。

疫情升級致 3C 需求不及預期。在新冠疫情海外持續蔓延情況下,宏觀經濟下行或導致消費二次探底、3C 需求持續疲弱,因此行業公司仍面臨疫情升級背景下 3C 需求不及預期、業績下滑的風險。

創新品研發不及預期。前沿科技領域部分產品仍在研發階段,可能存在無法商業化以及無法量產落地的風險。

Follow us
Find us on Facebook, Twitter , Instagram, and YouTube or frequent updates on all things investing.Have a financial topic you would like to discuss? Head over to the uSMART Community to share your thoughts and insights about the market! Click the picture below to download and explore uSMART app!
Disclaimers
uSmart Securities Limited (“uSmart”) is based on its internal research and public third party information in preparation of this article. Although uSmart uses its best endeavours to ensure the content of this article is accurate, uSmart does not guarantee the accuracy, timeliness or completeness of the information of this article and is not responsible for any views/opinions/comments in this article. Opinions, forecasts and estimations reflect uSmart’s assessment as of the date of this article and are subject to change. uSmart has no obligation to notify you or anyone of any such changes. You must make independent analysis and judgment on any matters involved in this article. uSmart and any directors, officers, employees or agents of uSmart will not be liable for any loss or damage suffered by any person in reliance on any representation or omission in the content of this article. The content of the article is for reference only and does not constitute any offer, solicitation, recommendation, opinion or guarantee of any securities, virtual assets, financial products or instruments. Regulatory authorities may restrict the trading of virtual asset-related ETFs to only investors who meet specified requirements. Any calculations or images in the article are for illustrative purposes only.
Investment involves risks and the value and income from securities may rise or fall. Past performance is not indicative of future performance. Please carefully consider your personal risk tolerance, and consult independent professional advice if necessary.
uSMART
Wealth Growth Made Easy
Open Account