【独家焦点】重磅!微软开源Deep Speed Chat,人人都能拥有自己的ChatGPT?
来源:富途牛牛 发布时间:2023-04-13 10:04:36

来源:华尔街见闻

4月12日,微软宣布开源了Deep Speed Chat,帮助用户轻松训练类ChatGPT等大语言模型,使得人人都能拥有自己的ChatGPT!(开源地址:https://github.com/microsoft/DeepSpeed) 


【资料图】

据悉,Deep Speed Chat是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可将训练速度提升15倍以上,成本却大幅度降低。例如,一个130亿参数的类ChatGPT模型,只需1.25小时就能完成训练。

简单来说,用户通过Deep Speed Chat提供的“傻瓜式”操作,能以最短的时间、最高效的成本训练类ChatGPT大语言模型,这标志着一个人手一个ChatGPT的时代要来了。

微软为什么开源Deep Speed Chat

ChatGPT只用了几个月的时间便席卷全球,成为史上用户增长速度最快的消费级应用,对世界的经济发展、科技研发起到了重要的推动作用。很多企业、个人用户纷纷想参与到这场AI技术变革中,但由于庞大的资源、资金投入只能望而却步。

即便开源领域推出了LLaMa、Alpaca、Vicuna、Databricks-Dolly等优秀的类ChatGPT项目,仍缺乏一个支持端到端的基于RLHF的规模化系统,使得训练强大的类ChatGPT模型非常艰难。

例如,使用上述开源项目训练一个67亿参数的类ChatGPT模型,通常需要昂贵的多卡至多节点的GPU集群,但这些资源对大多数科学家、小型企业、个人开发者而言难以获取。

即便是拥有这样的资源,现有的开源系统的训练效率通常还不到,这些机器所能达到的最大效率的5%。

现在,通过Deep Speed Chat解决资源、算法等难题,轻松、高效的训练数千亿参数的最先进的类ChatGPT模型。

全民ChatGPT时代来了

做个不太恰当的比喻,微软此次开源Deep Speed Chat就像当年的互联网,为了提升发展速率降低了台式机的价格,使得普通用户也能拥有自己的电脑。

只有参与的用户多了,整个行业生态才能快速壮大发展,所以,微软此次开源对整个ChatGPT生态发展起到了至关重要的推动作用,使得人人都能拥有自己的ChatGPT。

目前,ChatGPT处于初级发展阶段,存在安全隐患、数据隐私、道德等问题。相信随着参与用户的增多,这些难题将会被有效的解决,从而为全球经济发展做出贡献。

关键词:

上一篇:

下一篇:

猜你喜欢

【独家焦点】重磅!微软开源Deep Speed Chat,人人都能拥有自己的ChatGPT?

【独家焦点】重磅!微软开源Deep Speed Chat,

来源:华尔街见闻4月12日,微软宣布开源了DeepSpeedChat,帮助用户轻松训练类ChatGPT等大语言模型,...更多

2023-04-13 10:04:36
港股异动 | 阿里巴巴跌逾4%,软银大幅减持阿里巴巴,目前持股仅3.8%

港股异动 | 阿里巴巴跌逾4%,软银大幅减持阿里

4月13日,$阿里巴巴-SW(09988 HK)$低开震荡,截至发稿,该股跌4 06%,报92 15港元,成交额16 03...更多

2023-04-13 10:14:24
突遭空袭!阿里巴巴美股盘后跳水,孙正义又出手了?

突遭空袭!阿里巴巴美股盘后跳水,孙正义又出手了

来源:证券时报今早阿里巴巴美股股价盘后出现直线跳水,发生了什么?软银将出售大部分阿里股份根据...更多

2023-04-13 09:11:04
港股早知道 | 港交所回应沪深港通如何优化;海南一季度离岛免税销售额同比增长逾30%至200亿元

港股早知道 | 港交所回应沪深港通如何优化;海

【今日头条】沪深港通如何优化?港交所毛志荣回应来了智通财经APP获悉,4月12日,香港交易所内地业...更多

2023-04-13 09:10:47
新美联储通讯社:美联储首提“今年可能衰退”,暗示五月将加息:环球关注

新美联储通讯社:美联储首提“今年可能衰退”,暗

来源:华尔街见闻作者:赵颖自一年多前美联储开始加息以来,美联储官员首次预计今年晚些时候陷入衰...更多

2023-04-13 09:04:49
怎么看腾讯大股东减持?机构:减持节奏如常,依旧看好今年股价表现

怎么看腾讯大股东减持?机构:减持节奏如常,依旧

来源:77InterSight作者:国信证券谢琦、徐焘4月11日,腾讯大股东Prosus更新了回购计划进展,表示本...更多

2023-04-13 09:07:30
【世界速看料】急需现金?软银再大幅减持阿里巴巴,目前持股仅3.8%

【世界速看料】急需现金?软银再大幅减持阿里巴巴

来源:智通财经据报道,$软银(ADR)(SFTBY US)$已采取行动,出售其在$阿里巴巴(BABA US)$几乎所有...更多

2023-04-13 07:58:00
美股为何回吐涨幅?投资者担心年内衰退风险

美股为何回吐涨幅?投资者担心年内衰退风险

来源:Wind香港万得通讯社报道,美国股市周三下跌,逆转了盘中早些时候的涨幅。此前通胀数据表明,3...更多

2023-04-13 08:13:59
软银将卖出阿里巴巴的大部分持股以弥补一系列损失:环球新视野

软银将卖出阿里巴巴的大部分持股以弥补一系列损失

据英国金融时报,软银已采取行动,出售其在阿里巴巴的几乎所有剩余股份,以在市场低迷打击其科技公...更多

2023-04-13 07:10:49
当前关注:美国3月CPI降温但仍具黏性,美联储5月加息步伐难以停下

当前关注:美国3月CPI降温但仍具黏性,美联储5月

来源:智通财经作者:魏昊铭根据美国劳工统计局周三公布的数据,美国3月CPI同比增长5%,这也是自202...更多

2023-04-13 06:55:04

© 2012-2020 财经快报网 版权所有

网站联系邮箱:435 227 67@qq.com

琼ICP备2022009675号-3