“AI大神”戴文淵談AI進化隱憂：利用技術搞破壞，是眼前最大的風險
近日，“AI大神”、第四範式公司創始人、CEO戴文淵做客格隆匯高端訪談《格隆博士會客廳》。
在與格隆的對話中，戴文淵在談到AI的進化隱憂時指出，在一個可預見的時間內，還是可控的。
碳基生命利用 AI 去毀滅碳基生命離我們更近。
他擔心大家花過多時間擔憂短期不會發生的事，反而不太關注更近可能會發生的事情。
隨着AI的進化，AI會否產生自主意識控制或奴役人類的擔憂愈來愈多。
不過戴文淵認為，在一個可預見的時間內，還是可控的。
首先，這樣的能力不是很多人能做的到，現在極少人能做到這樣，並且要做到這樣的效果需要消耗大量的資源。
如果我們發現，當 AI 有了這方面能力以後，我們可以及時的切斷這些資源。
第二個，以這一代的AI基本理論基礎，它需要人類去設置目標，而後面 AI 做的所有的事情都是基於人類設置的目標產生的結果。
如果發現 AI 發生了一些意想不到的事情，那我們可以召集一些最頂尖的科學家去研究是不是目標設置的有問題。
如何去修正目標、如何通過修正目標讓 AI 不要去做這些事情，這些在他看來，至少可預見的時間內，都還是可控的。
戴文淵表示，作為 AI 從業者，他更擔心的不是AI 有了自主的意識去替代人類或者去奴役人類，而是大家花了過多的時間去擔憂一些短期不會發生的事情，而更近可能會發生的事情反倒不太關注。
在他看來，這一代的 AI
取決於人類設置的目標。設置一個好的目標， AI 就在做好的事情；設置不好的目標， AI
就會幹不好的事情。
另外一個方面， AI 所獲取的成本其實在降低。當這個成本降低到一定的程度後，最需要擔心的不是 AI 本身，而是我們人類當中不好的那部分人。
因為每個人的想法都會有不一樣且又很難控制，這裏面就會產生很多不可控因素。
這個不可控因素如果沒有 AI 疊加，在過去每一個人的破壞力是有限的，社會總體是可控的。
但如果由於 AI 門檻不斷下降，人破壞力得到提升，這個時候 AI 對社會的影響就是我們不可忽視的地方。
戴文淵也提出了自己的的擔心和焦慮。他希望讓公眾更多的關注到這個點上，不過戴文淵也表示，現在整個社會形態下，沒有一個特別好的解法。所以在 AI 成本進一步下降之前，可能需要一種新的社會組織形態，才能控制住這些不可控因素的影響。
Follow us
Find us on
Facebook,
Twitter ,
Instagram, and
YouTube or frequent updates on all things investing.Have a financial topic you would like to discuss? Head over to the
uSMART Community to share your thoughts and insights about the market! Click the picture below to download and explore uSMART app！
Disclaimers
uSmart Securities Limited (“uSmart”) is based on its internal research and public third party information in preparation of this article. Although uSmart uses its best endeavours to ensure the content of this article is accurate, uSmart does not guarantee the accuracy, timeliness or completeness of the information of this article and is not responsible for any views/opinions/comments in this article. Opinions, forecasts and estimations reflect uSmart’s assessment as of the date of this article and are subject to change. uSmart has no obligation to notify you or anyone of any such changes. You must make independent analysis and judgment on any matters involved in this article. uSmart and any directors, officers, employees or agents of uSmart will not be liable for any loss or damage suffered by any person in reliance on any representation or omission in the content of this article. The content of the article is for reference only and does not constitute any offer, solicitation, recommendation, opinion or guarantee of any securities, virtual assets, financial products or instruments. Regulatory authorities may restrict the trading of virtual asset-related ETFs to only investors who meet specified requirements. Any calculations or images in the article are for illustrative purposes only.
Investment involves risks and the value and income from securities may rise or fall. Past performance is not indicative of future performance. Please carefully consider your personal risk tolerance, and consult independent professional advice if necessary.
