
新年开端,焱融科技再次在存储性能领域获取龙套。通过最新的现实室测试,焱融 AI 存储居品——焱融追光全闪存储一体机 F9000X,搭载 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡,并聚拢自主研发的 Multi-Channel 多网卡团职工夫,收场了 1.6Tb/s 的网罗带宽团员。3 节点存储集群的测试放置败露,性能达到 480GBps 带宽和 750 万 IOPS,相较商场同类居品普及了 3 倍。
这一龙套性决策不仅大幅普及了性能,还灵验镌汰了企业的总领有资本:每 GB/s 资本减少 75%,每 IOPS 资本镌汰 30%。焱融科技凭借业界顶级性能,为大限制 AI 打算提供了理思的存储贬责决策,加速了 AGI 期间的全面到来。
AI 工夫发展催生涯储性能升级
比年来,AI 工夫杰出是生成式 AI 迎来了马上发展的黄金时期,不停刷新着才调领域。陪同而来的是不停普及的对数据处理速率和后果的条款,这也在引发一场新的存储工夫立异,对存储性能的条款不停提高。
AI 模子复杂度不停普及,存储性能需求攀升
跟着生成式 AI 工夫的抓续创新,基础大模子已迈入多模态期间,模子参数和打算复杂度均呈指数级增长。这种发展显赫普及了对存储带宽、容量和打算性能的条款。此外,跟着模子限制和检修精度的不停普及,Checkpoint 也变得更大,进一步加重了对存储微辞量的压力。若是存储性能无法匹配模子的复杂度,扫数 AI 检修链条将因“存储瓶颈”而受阻,影响模子迭代的后果。
而在模子推理要领,更大的数据量、更浩瀚的模子,以及更长的高下文窗口大约显赫普及东谈主工智能的遵守。相关词,推理历程需要搪塞多半并发肯求且对反当令期条款极高。同期,AI 模子频频更新和快速部署的需求也在不停增多。这使得存储系统必须具备低延长和高微辞量,以知足不停增长的应用需求。
算力资源紧缺,GPU 诳骗率普及需求蹙迫
AI 工夫的发展鼓动了算力需求的急剧增长,GPU 等算力资源供需矛盾杰出。跟着模子参数和复杂度的普及,模子检修所需的 GPU 算力也随之增多,当今最高已扩张到万卡乃至十万卡限制的大型 AI 算力集群。但现存基础设施在算力资源的可用性和优化方面仍存在诸多挑战。频频的 CheckPoint 数据写入和断点续训变成算力资源闲置,算力集群的诳骗率偏低,增多了检修时期和打算资本。
在这种情况下,若大约将 GPU 诳骗率普及,就止境于增多了额外算力,从而能在更短的时期内完成更多的打算任务,镌汰模子检修的时期资本和经济资本。而普及 GPU 诳骗率的关节之一等于存储性能的升级。通过普及数据加载后果、加速断点续训速率,显赫减少检修历程中的恭候时期,普及算力资源的使用后果。
焱融存储全面引发大限制 AI 打算集群遵守开释
四肢国内专注于 AI 存储领域的越过存储贬责决策提供商,焱融科技针对日益复杂的 AI 模子检修和推理需求,不停进行存储工夫创新,抓续带来存储性能龙套,以知足不停普及的 AI 打算需求。这次,焱融科技推出的 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的存储决策,依托于焱融追光全闪存储一体机 F9000X,通过公司自主研发的 Multi-Channel 多网卡团职工夫,提供 1.6Tb/s 网罗带宽接入才调,竣工适配 PCIe 5.0 NVMe 闪存,大幅普及数据访谒速率和处理后果,开释 AI 算力的全新潜能。
焱融全闪 F9000X 3节点存储集群带宽性能对比
上图展示了焱融全闪分散式文献存储 F9000X 折柳搭载 2 张和 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的 3 节点存储集群的实测性能。不错看到,选拔 4 张 InfiniBand 400Gbps 网卡的焱融全闪 F9000X 存储决策,3 节点存储集群的带宽性能达到了 480GBps, 相较于 2 卡决策性能普及了近 80%,比较商场同类居品质能普及 3 倍;同期,其 IOPS 性能也达到了 750 万,保抓业界越过水平。
在性能大幅普及的同期,用户的资本效益也得到了显赫优化,年省算力资本达到千万级。每 GB/s 的资本镌汰了 75%,每 IOPS 的资本镌汰了 30%。这一资本上风意味着,企业在享受高性能存储带来的业务后果和竞争力普及的同期,还大约灵验镌汰总体领有资本,是大限制 AI 打算场景下的理思全闪存储贬责决策。
先进的 AI 存储需首要跟工夫发展的设施足球外盘网站app娱乐,知足日益增长的打算需求,普及用户体验。继在国外巨擘 AI 测评舞台 MLPerf Storage 中崭露头角后,焱融全闪 F9000X 再次收场性能飞跃。这不仅再次彰显了焱融科技在 AI 高性能存储领域的越过地位,也为行业蛊卦了新的标杆,为不停迭代的大限制 AI 模子检修和推理等千般复杂打算任务提供强有劲的相沿。面向改日,焱融科技将不绝深耕 AI 存储工夫创新,抓续提供越过的 AI 存储居品,为 AI 大模子、智算中心、自动驾驶、生信分析、金融量化等领域提供更遒劲的数据存储基座,鼓动这些领域的抓续发展和创新。
