首页 > DIY外设 > 显卡 > 应用> 正文

【Ai时刻】真害怕还是拖时间?众多大佬联名呼吁Ai发展“减速”!

月亮背面的外星人 编辑: 孙奥睿 发布于:2023-04-03 00:15 PConline原创

就在Ai技术正以迅雷之势席卷世界的当下,不少人也对其的“安全性”产生了质疑,其中就包括了指出“Ai技术将导致80%以上的岗位消失”“人工智能代替人类之日将被提前”,更有甚者将Ai已经化作是自身职业未来的最大敌人,进行疯狂抵制。

人工智能是天使还是魔鬼?— Ai绘画

近日,一家名为“futureoflife”的网站公布了一份联合签名书,其内容剑指当前飞速发展的“Ai”技术,提出:“我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练至少6个月。如果不能迅速实施这种暂停,政府应该介入并实行暂停令。”

公开信得到了企业大佬,人工智能学者,大学的前沿研究者,一大串赫赫有名的大人物们的签名,其中包括了马斯克、沃兹尼亚克、约书亚·本吉奥(图灵奖得主)等。

来自“futureoflife”官网

联名信强调,具有人类竞争力的Ai系统可能给社会和人类带来巨大风险。然而,尽管存在这样的风险,AI实验室仍在激烈竞争中,不断研发和应用更强大的Ai系统,而这些智Ai的创造者们也无法完全理解、预测或控制。因此,呼吁所有Ai实验室立即暂停研发比GPT-4更强大的Ai系统,至少暂停6个月。实验室和独立专家应利用此暂停期共同制定并执行一套共享的Ai设计和开发安全协议,由独立的外部专家进行严格审计和监督。

来自“futureoflife”官网

在GPT-4的发布日志中,OpenAi就强调过,他们花了6个月的时间利用对抗网络来纠正、扭转GPT-4的可控性与安全性,如此漫长的调教时间足以证明了GPT-4在诞生之初有着较为令OpenAi害怕的一面,这有可能源自其在信息整合输出上的不安全性(比如介绍非法行为、传播危险信息等),也有可能是其真的在庞大算力和先进模型的影响下,产生了“自我意识”。

而联名信的发布就更加让这个疑问盖上了神秘的面纱,有不少Ai博主都表示,“据说gpt在训练过程中已经有自己的意识雏形了,预计在7-8代能形成比较完整的自我意识。”届时人类将无法有效地对其进行合理控制,所以必须在研发层面进行刹车,在“Ai”失速之前彻底打消其失控的可能。

然而也有观点强调,当下的联名信实际上是阴谋论者的行为,因为在签名栏只需要填写姓名、工作岗位、联系方式就可以进行签署,不排除有部分别有用心的人假冒名人进行签名,好扩大联名信的影响力。当前,并没有已经签署该联名信的名人在社交平台上发声呼吁,所以联名信的真实性存在较大的疑问,截至3月30日,联名信的签名功能已经关闭。

笔者试用苹果创始人“乔布斯”的名字签署,结果也是通过

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

如果联名信真的受到了政府监管机构的相关重视,而真的出台了相关的“Ai监控”法律法规,这无疑是对Ai进行最大限度地熄火降温,一方面以ChatGPT为首的“划时代”Ai技术将暂停开发,而部分“尚未成型”的Ai将会利用这半年时间进行快速增长与升级,从而实现在对ChatGPT一家独大的冲击。这背后的利益矩阵,我们就不必深挖。

2023年3月,Ai领域独角兽公司估值;OpenAi已经超过了剩下全部公司的综合

文字语言,作为我们人类理解这个世界的最重要抽象符号,如今在互联网上已经有着密如星海的内容,而以GPT技术为代表的大规模语言学习模型,就是从海量文本数据中学习复杂的语言模式和知识。其原理主要基于“Transformer”架构,一种深度学习模型,在训练过程中,大规模语言模型学习了一个条件概率分布,用于预测给定上下文的下一个词。通过在海量文本数据上进行训练,这些模型可以学到丰富的语言知识、语法规则和一定程度的常识。

正在饱览群书的小机器人 — Ai绘画

不论该联名信是否真实,都足以给我们当前处于“Ai狂欢”中敲响一记警钟,过度依赖Ai无疑是将人类的命运悬挂在达摩克利斯之剑下,将我们的文明与历史全权地向Ai脱出,让其成为我们唯一的科技领袖,是否真的安全与理性?这个问题还有待我们去思考。

ChatGPT-4对于该观点的回答

月亮背面的外星人

网友评论

聚超值•精选

推荐 手机 笔记本 影像 硬件 家居 商用 企业 出行 未来
二维码 回到顶部