您正在浏览的是香港网站,香港证监会BJA907号,投资有风险,交易需谨慎
“AI大神”戴文渊谈AI进化隐忧:利用技术搞破坏,是眼前最大的风险
格隆汇 06-02 21:10

近日,“AI大神”、第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。

在与格隆的对话中,戴文渊在谈到AI的进化隐忧时指出,在一个可预见的时间内,还是可控的。

碳基生命利用 AI 去毁灭碳基生命离我们更近

他担心大家花过多时间担忧短期不会发生的事,反而不太关注更近可能会发生的事情。

随着AI的进化,AI会否产生自主意识控制或奴役人类的担忧愈来愈多。

不过戴文渊认为,在一个可预见的时间内,还是可控的。

首先,这样的能力不是很多人能做的到,现在极少人能做到这样,并且要做到这样的效果需要消耗大量的资源。

如果我们发现,当 AI 有了这方面能力以后,我们可以及时的切断这些资源。

第二个,以这一代的AI基本理论基础,它需要人类去设置目标,而后面 AI 做的所有的事情都是基于人类设置的目标产生的结果。

如果发现 AI 发生了一些意想不到的事情,那我们可以召集一些最顶尖的科学家去研究是不是目标设置的有问题。

如何去修正目标、如何通过修正目标让 AI 不要去做这些事情,这些在他看来,至少可预见的时间内,都还是可控的。 戴文渊表示,作为 AI 从业者,他更担心的不是AI 有了自主的意识去替代人类或者去奴役人类,而是大家花了过多的时间去担忧一些短期不会发生的事情,而更近可能会发生的事情反倒不太关注。 在他看来,这一代的 AI 取决于人类设置的目标。设置一个好的目标, AI 就在做好的事情;设置不好的目标, AI 就会干不好的事情。

另外一个方面, AI 所获取的成本其实在降低。当这个成本降低到一定的程度后,最需要担心的不是 AI 本身,而是我们人类当中不好的那部分人。 因为每个人的想法都会有不一样且又很难控制,这里面就会产生很多不可控因素。

这个不可控因素如果没有 AI 叠加,在过去每一个人的破坏力是有限的,社会总体是可控的。

但如果由于 AI 门槛不断下降,人破坏力得到提升,这个时候 AI 对社会的影响就是我们不可忽视的地方。

戴文渊也提出了自己的的担心和焦虑。他希望让公众更多的关注到这个点上,不过戴文渊也表示,现在整个社会形态下,没有一个特别好的解法。所以在 AI 成本进一步下降之前,可能需要一种新的社会组织形态,才能控制住这些不可控因素的影响。

关注uSMART
FacebookTwitterInstagramYouTube 追踪我们,查看更多实时财经市场信息。想和全球志同道合的人交流和发现投资的乐趣?加入 uSMART投资群 并分享您的独特观点!立刻扫描下载uSMART APP!
重要提示及免责声明
盈立证券有限公司(「盈立」)在撰写这篇文章时是基于盈立的内部研究和公开第三方信息来源。尽管盈立在准备这篇文章时已经尽力确保内容为准确,但盈立不保证文章信息的准确性、及时性或完整性,并对本文中的任何观点不承担责任。观点、预测和估计反映了盈立在文章发布日期的评估,并可能发生变化。盈立无义务通知您或任何人有关任何此类变化。您必须对本文中涉及的任何事项做出独立分析及判断。盈立及盈立的董事、高级人员、雇员或代理人将不对任何人因依赖本文中的任何陈述或文章内容中的任何遗漏而遭受的任何损失或损害承担责任。文章内容只供参考,并不构成任何证券、虚拟资产、金融产品或工具的要约、招揽、建议、意见或保证。监管机构可能会限制与虚拟资产相关的交易所买卖基金仅限符合特定资格要求的投资者进行交易。文章内容当中任何计算部分/图片仅作举例说明用途。
投资涉及风险,证券的价值和收益可能会上升或下降。往绩数字并非预测未来表现的指标。请审慎考虑个人风险承受能力,如有需要请咨询独立专业意见。
uSMART
轻松入门 投资财富增值
开户