您现在的位置是:铁头诺一网 > 知识
大模型算力荒?浪潮信息也来“掘金卖铲”
铁头诺一网2025-02-26 10:30:29【知识】9人已围观
简介基础大模型的开发能力提升到一定程度,就具备了商业化能力,应用的落地通道也就打开了。实现AIGC的能力,除了算力资源的限制外,仍存在诸多技术难点打开凤凰新闻,查看更多高清图片图片来源@视觉中国刚刚过去的
基础大模型的掘金卖铲开发能力提升到一定程度,就具备了商业化能力 ,大模应用的型算信息落地通道也就打开了。实现AIGC的力荒浪潮能力
,除了算力资源的掘金卖铲限制外,仍存在诸多技术难点打开凤凰新闻,大模查看更多高清图片图片来源@视觉中国刚刚过去的型算信息一周 ,浪潮信息发布新品OGAI(Open GenAI Infra)元脑生智,力荒浪潮意在为大模型业务提供AI算力系统环境部署、掘金卖铲算力调度及开发管理能力的大模软件栈。浪潮信息作为一家以服务器为主营业务的型算信息企业,受到来自生成式AI带来的力荒浪潮算力牵引潜力
,下游客户需求旺盛,掘金卖铲但另一方面,大模在英伟达、型算信息英特尔等供应商出口限制的影响下,人工智能芯片普遍短缺,做软件
,也是增强市场竞争力的多一种选择。浪潮信息高级副总裁刘军告诉钛媒体
,当前阶段仍处于大模型开发阶段,除了缺算力外
,基础模型能力还没有足够高的提升,最终呈现出来的效果也不见得会真正能投入使用 。刘军认为,算力供给解决到一定程度,基础大模型的开发能力提升到一定程度,就具备了商业化能力
,进而在各类场景、应用的落地通道也就打开了。而在中国
,现阶段能真正达到GPT-4的模型的还没有,这就意味着将应用创新能力都寄托在OpenAI上也是明显不可能,也是不现实的 。大模型也需要生产力工具据公开信息 ,2021年9月
,浪潮信息就已经在研发大模型,面向大模型场景解决方案
,支持AI芯片、服务器,以构建低时延的分布式系统 。浪潮信息发布参数量为2457亿的中文大语言模型“源1.0”。在“源”大模型的研发过程中
,浪潮信息的AI团队逐步建立了完整的从公开数据爬取到数据清洗
、格式转化、数据质量评估的完整流程和工具链,并完成了5TB高质量中文数据集的清洗工作
。“源”大模型的数据集和清洗经验和帮助国内不少AI团队提升了其大模型的性能表现。在这个过程中,浪潮信息遇到了很多大模型研发应用中的问题,例如公共算力调度问题、数据清洗问题、大模型分布式训练性能不佳等等。为此,浪潮信息团队从三个层面进行优化:一是系统全栈性,对于涉及多团队 、多环节
、多流程的业务,需要系统性架构和全栈解决方案;二是兼容适配性 ,由于模型训练需要大量的开源工具 、组件
,但存在兼容和性能方面的问题;三是性能优化的挑战,一个大的集群系统涉及的组件数以千计,怎样优化性能是问题。举个例子
,针对于提升大模型分布式训练的计算效率
,特别是在实际的AI集群环境中
,可能存在GPU之间的互联带宽受限,或者AI服务器之间的网络互联带宽有限的情况 ,浪潮信息自2022年以来为客户将大模型训练的GPU峰值效率从30%左右提升到50%,提升GPU利用率
。而在“源”大模型研发过程中 ,针对千卡规模算力的高效调度问题,浪潮信息通过对云原生的调度系统进行了改造来大幅加速其启动速度,并重点解决了RDMA网络在容器中的接入和适配优化,从而采取构建满足大模型需求的算力调度系统;针对训练任务的长期稳定运行问题,浪潮信息还引入了多种对集群性能的监控手段和性能数据分析方法
。客户最关心什么但实现AIGC的能力,除了算力资源的限制外,仍存在诸多技术难点,包括在模型的训练
、效果测评、落地场景应用方面兼具挑战性,对普通开发者和中小企业来说更是可望不可及。整体来看 ,OGAI(Open GenAI Infra)元脑生智软件栈由5层架构组成
,从L0到L4分别对应于基础设施层的智算中心OS产品、系统环境层的PODsys产品
、调度平台层的AIStation产品、模型工具层的YLink产品和多模纳管层的MModel产品。L0层智算中心OS的定位是面向智算中心等公共算力服务平台 ,面向多租户场景,提供灵活多样的以裸金属为主的AI算力服务
。L1层PODsys聚焦于AI集群部署场景
,提供了包括基础设施环境安装 、环境部署、用户管理、系统监控和资源调度一整套工具链
,旨在打造一个易用、高效 、开放、兼容的智算集群系统环境部署方案
。L2层AIStation聚焦于AI开发场景,通过云原生技术对集群系统中的计算资源 、存储资源和网络资源进行统一的接入和纳管
,提供了易于使用的开发环境和作业管理界面,并基于内置算力调度系统和训练稳定保障系统来实现易于接入、按需分配
、弹性扩展和高效稳定的AI研发应用支撑平台。L3层YLink聚焦于大模型的开发过程
,通过集成整合浪潮信息在大模型研发过程中的工具和开源工具
,为用户提供高效
、便捷与标准化的大模型开发与优化流程。L4层MModel定位于多模型管理与服务平台
,帮助客户更好地管理和评估模型,加速模型的部署和应用。浪潮信息人工智能与高性能应用软件部AI架构师Owen ZHU还告诉钛媒体 ,“现在企业面临的最大挑战是 ,需要用大规模硬件的基础设施才能够训练一个类似于ChatGPT同等能力的模型
,这个复杂性是固有的。”他解释,OGAI技术栈是从L0到L4层是分层解耦设计和实现的
,也就是说并不用把整个OGAI技术栈提供给用户,才能够实现大模型开发 ,而是对应需要实现的层级功能进行选择
。如果用户只需要提供算力多租户的裸金属方案,可能只需要L0层智算中心OS ,不用关心最终用户会怎样进行大模型开发;如果用户需要模型开发相关工具链,可以按需选择L3层YLink提供的各类工具进行研发生产。关于发布OGAI的初衷,Owen ZHU指出,“浪潮信息做这件事情
,是先行者
,这是由视角决定 。浪潮信息服务了全球客户,包括国内也是最主要的AI应用客户群体,能够第一时间感知到大模型市场在缺什么 ,遇到了哪些问题 。”从用户的角度来看,更强的算力基础设施也会倒逼需求侧进一步升级。“做模型的不懂算力,做算力的不懂模型”,这种情况长期存在,但很多算法的创新与硬件的发展是相辅相成 ,两者又需要共同发展。浪潮信息的这一做法是否切实可行,仍需市场来验证。
很赞哦!(4133)
相关文章
- 全场8人轮换,6人得分上双!打成这样的热火,最后还是输给老冤家狂轰35+15+12!全联盟第一,NBA最强超巨诞生,MVP总冠军全都要
- 来了!阿森纳正式敲定7500万镑攻击手!中场核心离队,英国脚来投
- 打包交易,再见开拓者!为利拉德得到帮手,你必须离开球队女大学生穿修身连衣裙,端庄典雅又不失性感妩媚:梦中的身材!
- 杜欧重新联手,太阳或成欧文下家,独行侠恐放弃欧文刘亦菲有多撩人?35岁依旧风韵犹存
- 欧冠|纽卡斯尔联4:1巴黎圣日耳曼,“喜鹊”崛起势不可当高马尾逐渐消失在校园,“鲶鱼头”更受欢迎,家长不理解也看不懂
- 湖人选秀日该若何操作?美媒晒4大引援目的:欠缺提升争冠实力
- 曼联输给皇家社会C罗不应该是唯一背锅侠,战术转换失败才是主因5500万年前,地球发了一次“高烧”,孕育了史上最大的蛇
- 罗马诺:利雅患上月芽有定夺不才周实现与库利巴利的谈判
- 尼克斯再当冤大头!曾经看不上的弃子 如今让你高攀不起
- 字节、恺英、三七、中手游暑假开卷,仙侠手游能走出「买量」怪圈吗?
热门文章
站长推荐
波神复出弑旧主!绿军击退尼克斯,双探花抱紧白帝大腿
丰富人权实现路径的开拓者——全球人权治理的中国担当系列评论之三格力“换掉”代言人成龙,董明珠:我有3个理由换掉他!
新的假面骑士ZEIN皮套露面,手拿骑士卡,帝骑哥要回归了吗?娱乐圈的“假戏真做”,祸害了多少女明星?
重磅交易:太阳队送走保罗得到比尔,约基奇詹姆斯欧文很受伤娱乐圈的“假戏真做”,祸害了多少女明星?
太冤枉了!亚冠超级冲突处罚出炉,浙江队3名球员被禁赛20场9岁女孩放学路上失踪,10年后在邻居家发现,父母哭到崩溃
夺冠概率6%!勇士总冠军含金量如何,近十年仅次于骑士首冠!长期不穿内衣的女性,身体会发生哪些变化?女孩子不要羞于了解
放个饵英媒:阿森纳将巴洛贡推选给拜仁,愿望他们坚持哈弗茨
既然抉择就请信托
友情链接
- 钟汉良Twitter
- 辰亦儒抖音
- 张家辉博客
- 宣萱TikTok
- 洪欣主页
- 李若彤Twitter
- 易烊千玺Twitter
- 黄景瑜博客
- 狮子王TikTok
- 亵渎Weibo
- 李小冉Facebook
- 李现TikTok
- 怦然心动主页
- 黄志玮Instagram
- 陈飞宇微博
- 王祖贤主页
- 葛优微博
- 赖雅妍Twitter
- 杀人回忆博客
- 向华强Weibo
- 马赛的地中海风情刘禅投降后写了3字,司马昭不敢杀他,群臣不解,司马昭:倒着读
- 原创 三巨头砍61分25助!快船轻取开拓者,亨德森11投11分,艾顿太憋屈
- 原创 126-119!东契奇三双,文班亚马15+5,独行侠险胜马刺迎开门红
- 浙江2将领重任异口同声踢出7成 惊叹澳洲18岁小生美女网红外表光鲜内里邋遢,榜一大哥软磨硬泡得以进家,差点吐了
- 尤文图斯VS巴黎圣日耳曼:巴黎力争小组第一,斑马军团力拼欧联杯身体哪些部位不能乱亲?医生提醒:3个亲密“禁区”,切勿轻忽
- 巴黎圣日耳曼主教练路易斯·恩里克宣布中场球员李康仁离开江疏影不雅视频再次发酵,发文否认也没用了,网友:确实像
- 不容易啊!中超球队时隔6年再次亚冠单轮取得全胜国家终于出手了!7个综艺节目已强制停播,一个值得同情的都没!
- 可喜可贺,陈戌源“立功”,上海上港高层“大鱼”被抓了?澳门“黑老大”崩牙驹:出狱后转商,如今亲自出面为唐山事件发声
- 现有犬尽规画条例处分是否过轻?宠物规画不善该入刑吗?
- [瞎话板]格威:防守文班亚马很重大,他便是另一位长患上很高的家伙