马斯克等千人联名呼吁暂停研发更强大的AI,人工智能专家:一些说法“精神错乱”_全球通讯
来源:富途牛牛 发布时间:2023-04-03 13:57:53

来源:新浪科技

北京时间4月3日上午消息,据报道,四名人工智能专家的研究结果被一封公开信引用,公开信获得埃隆·马斯克联合签名并要求紧急暂停研究人工智能,专家们对此表示担忧。

截至当地时间上周五,这封日期为3月22日的公开信已获得超过1800个签名。信中呼吁,在开发比微软支持的人工智能研究公司OpenAI新GPT-4“更强大”的系统过程应中断6个月时间。GPT-4可以进行类似人类的对话、作曲并总结冗长的文件。


【资料图】

自从GPT-4的前身ChatGPT于去年发布以来,竞争对手也竞相推出类似产品。

公开信中说,具有“人类竞争智能”的人工智能系统对人类具有深远的风险,信中引用了专家的12项的研究结果,这些专家包括大学学者,以及OpenAI、谷歌及其子公司DeepMind的现任和前任员工。

此后,美国和欧盟的民间社会团体一直向立法者施压,要求约束OpenAI的研究。OpenAI没有立即回应记者的置评请求。

公开信由未来生命研究所发出,而该研究所主要马斯克基金会资助。批评人士指责研究所优先考虑想象中的世界末日场景,而忽略人工智能带来的更紧迫的担忧,比如编程到机器中的种族主义或性别歧视偏见。

信中引用的研究包括玛格丽特·米歇尔(Margaret Mitchell)合著的著名论文《论随机鹦鹉的危险》。她本人曾在谷歌负责人工智能伦理研究,现在是人工智能公司Hugging Face的首席伦理科学家。

但米歇尔本人批评了这封信,并表示目前还不清楚什么东西“比GPT4更强大”。“这封信将许多值得商榷的想法视为假定事实,信中提出了一系列有利于未来生命研究所支持者的人工智能优先事项和叙述”, 她说,“现在,我们没有特权忽视主动伤害。”

米歇尔的合著者蒂姆尼特·格布鲁(Timnit Gebru)和艾米丽·M·本德(Emily M. Bender)也在Twitter上批评了这封信,后者称信中一些说法“精神错乱”。

未来生命研究所总裁迈克斯·泰格马克(Max Tegmark)则表示,这一举动并不是为了试图阻碍OpenAI的企业优势。

“这太搞笑了。我看到有人说,‘埃隆·马斯克正试图减缓竞争,’”他说,并补充表示,马斯克没有参与起草这封信。“这件事关乎的不是一家公司。”

目前的风险

康涅狄格大学的助理教授施里·多里-哈科恩(Shiri Dori-Hacohen)也对信中提到她的研究提出了异议。去年她与他人合著了一篇研究论文,论文认为人工智能的广泛使用已经带来了严重的风险。

她的研究认为,今时今日人工智能系统的应用可能会对气候变化、核战争和其他威胁生存相关的决策产生影响。

她表示:“人工智能不需要达到人类水平就会加剧这些风险。”

“有些非生存风险也真的非常非常重要,但这些风险没有得到高度重视。”

当被问及如何评论这些批评意见时,未来生命研究所总裁泰格马克表示,应该认真对待人工智能的短期和长期风险。

“如果我们引用某人的话语,这只是意味着我们认为他们赞同这句话。这并不意味着他们认可这封信,或者我们认可他们的所有想法,”他说。

公开信中引用的另一个专家是总部位于加州的人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)。他支持信中内容,并表示,考虑黑天鹅事件是明智的。黑天鹅事件是指那些看起来不太可能发生,但会产生毁灭性后果的事件。

公开信还警告称,生成式人工智能工具可能被用来在互联网上充斥“宣传和谎言”。

多里-哈科恩表示,马斯克签署这份公开信“相当富有”,他援引民间社团组织Common Cause等机构记录的消息称,在马斯克收购Twitter平台后,Twitter上的错误信息有所增加。

Twitter将很快推出针对访问其研究数据的一种新的收费架构,这可能会阻碍对该主题的研究。

“这直接影响了我的实验室工作,以及其他研究错误和虚假信息的人的工作,” 多里-哈科恩说。“我们受到了束缚。”

马斯克和Twitter没有立即回应置评请求。

关键词:

上一篇:

下一篇:

猜你喜欢

马斯克等千人联名呼吁暂停研发更强大的AI,人工智能专家:一些说法“精神错乱”_全球通讯

马斯克等千人联名呼吁暂停研发更强大的AI,人工智

来源:新浪科技北京时间4月3日上午消息,据报道,四名人工智能专家的研究结果被一封公开信引用,公...更多

2023-04-03 13:57:53
港股概念追踪 | 需求回暖!航空业客运量增长明显,低点把握航空超级周期(附概念股)

港股概念追踪 | 需求回暖!航空业客运量增长明

来源:智通财经4月3日,港股航空板块普遍走高,截至发稿,中国南方航空股份涨超3%,中国国航、中国...更多

2023-04-03 14:06:21
环球最新:观点 | 美国银行业走出困境了吗?

环球最新:观点 | 美国银行业走出困境了吗?

来源:中信证券研究在美联储向市场投放大量流动性以平息银行业事件冲击后,当前市场流动性压力有所...更多

2023-04-03 12:59:28
当前简讯:观点 | 互联网行业步入融资扩张宽松期,看好互联网板块持续释放利好

当前简讯:观点 | 互联网行业步入融资扩张宽松期

来源:东吴研究所京东拟分拆旗下京东产发、京东工业于香港联交所主板独立上市:$京东集团-SW(09618...更多

2023-04-03 11:57:13
迪士尼也“提桶跑路”,既生元宇宙何生ChatGPT|天天微头条

迪士尼也“提桶跑路”,既生元宇宙何生ChatGPT|天

来源:三易生活继ChatGPT已经证明了大语言模型在消费级市场大有可为之时,人工智能也重新成为了各大...更多

2023-04-03 12:12:12
港股午评 | 三大指数震荡下行,科指跌超1%;科网股多数走弱,哔哩哔哩跌超5%;博彩股持续走强,永利澳门涨超7%

港股午评 | 三大指数震荡下行,科指跌超1%;科

富途资讯4月3日消息,三大指数略微低开后震荡下行。截至午盘,恒生科技指数跌1 21%,恒指跌0 59%...更多

2023-04-03 12:11:49
环球资讯:降价有效!特斯拉一季度产销双双创纪录

环球资讯:降价有效!特斯拉一季度产销双双创纪录

来源:华尔街见闻作者:常嘉帅但分析师表示,降价对利润率的影响还有待观察。2023年初,由$特斯拉(T...更多

2023-04-03 11:09:34
港股异动 | 物管股早盘随内房股走高,远洋服务大涨近9%,万物云涨超6%

港股异动 | 物管股早盘随内房股走高,远洋服务

4月3日,物管股早盘随内房股走高,截至发稿,远洋服务涨近9%,宝龙商业、万物云涨超6%,世茂服务涨...更多

2023-04-03 11:06:05
港股异动 | 金山云大涨超12%,今年来已涨超130%,去年毛利率稳步提升

港股异动 | 金山云大涨超12%,今年来已涨超130%

智通财经APP获悉,$金山云(KC US)$涨12%,成交超6000万港元,该公司年内已涨超130%。消息面上,金...更多

2023-04-03 10:13:53
港股异动 | 博彩股大涨,永利澳门拉升超8%!3月澳门博彩收入同比大增247%创3年来最高:世界聚焦

港股异动 | 博彩股大涨,永利澳门拉升超8%!3月

4月3日,博彩股早盘集体走高,截至发稿,永利澳门涨超8%,金沙中国、美高梅中国涨超6%,澳博控股涨...更多

2023-04-03 09:59:21

© 2012-2020 财经快报网 版权所有

网站联系邮箱:435 227 67@qq.com

琼ICP备2022009675号-3