男女性爱小游戏 院士郑纬民：内存型长顾忌存储以存换算，是AI推理新趋势

【公共网科技报说念 记者 张阳】10月29日男女性爱小游戏，在中国电子工业圭臬化本领协会垄断的数据存储专科委员会（以下简称“数据存储专科委员会”）树立大会上，汇注了100多位产业单元代表、数据存储专科委员会成员、院士群众。与会东说念主员共同洽商数据存储产业发展，见证数据存储专科委员会厚爱树立。中国工程院院士、数据存储专委会名誉会长郑纬民发表“AI存储是东说念主工智能大模子的要津基座”主题演讲。

郑纬民院士先容到东说念主工智能投入大模子期间有两个特质：第一，基础大模子投入多模态期间，从单纯文本到图片视频等多模态语料信息的空洞愚弄。第二，大模子已真确在金融、医疗、智能制造等多个界限愚弄。

围绕大模子四个方式，郑纬民院士先容了大模子检会和推理愚弄中对存储的挑战和相关本领：

第一个方式，数据获取：大模子检会需要海量的原始语料数据，这些数据获取以后需要存储开发存起来，同期大模子从单模态到多模态，出现数百亿的小文献，文献系统的目次条目可膨胀、读写快，需要存储具备低蔓延和高可膨胀材干。

第二个方式，数据预处治：获取的数据质地太差，好渊博据是疏通的、低质地的，因此需要进行预处治，将低质地数据酿成高质地。有东说念主统计过ChatGPT4这么级别的大模子需要用1万块A100卡检会了11个月，而其中数据预处治可能会占一半以上的时刻，真确有用的检会时刻只须一半，这跟数据存储的性能有很大关系。

2019香蕉视频在线观看

第三个方式，模子检会：模子检会中有好多问题，比如10万块卡构成的系统可靠性是很难保证的，平均一个小时要出一次错，集群可费用非常低。为了快速完成断点续训，需要把CheckPoint点的数据读取出来从头检会，这个时候就很依赖存储系统的性能。高性能的AI存储系统，粗略极大裁减断点续训时刻，已毕AI集群的算力可费用大幅擢升。

华为跟清华大学MADSys试验室皆集开发了高性能AI存储系统，初次获取海外泰斗机构MLPerf Storage基准评测第又名，性能密度是第二名的两倍。

第四个方式，模子推理：模子推理是最平直跟AI愚弄相关的方式，更多的数据、更大的模子以及更长的凹凸文窗口粗略带来更高效的东说念主工智能。然则有个问题，更高的智能条目的推理负载粗重，模子参数以及推理历程中产生的KV-Cache都需要很大的存储空间，非常是200万字节的长序列对卡的条目很高。这方面国内优秀的大模子愚弄Kimi就和清华大学MADSys试验室共同推出了 Mooncake 分别式推理架构，通过把需要分享的KV-Cache保存下来，摄取以存换算的念念路大幅度擢升系统隐隐。

郑纬民院士示意，模子的推理历程是一个复杂的存储系统工程，要津是粗略存的多、传的快、性价比高。清华大学 MADSys 试验室皆集华为数据存储、9#AISoft、阿里云、面壁、趋境等几家公司共同开发高性能内存型长顾忌存储系统，行将开源发布。粗略大界限全局分享与抓久化KV-Cache，已毕以存换算。共建大模子期间下的高性能内存型长顾忌存储系统生态，充分证实存储在大模子下的作用。

终末，郑纬民院士回来说念，AI存储是东说念主工智能大模子的要津基座，存储系统存在于大模子生命周期的每一环，是大模子的要津基座，通过以存强算、以存换算，先进的AI存储粗略擢升检会集群可费用男女性爱小游戏，贬低推理本钱，擢升用户体验。