智通财经APP获悉,财通证券发布研报称,家居设计工作室对计算机行业维持看好评级。DeepSeek在2月24日至28日进行了为期5天的开源周“技术轰炸”,开源了5大代码库,覆盖训练、推理、通信、负载均衡以及数据加速的全链路。同时于于第6天惊喜发布关于DeepSeek-V3/R1推理系统概述的文档,展示了如何通过跨节点并行、负载均衡和动态资源管理实现高吞吐量、低延迟和高性价比的推理服务,以实现545%理论成本利润率。
DeepSeek在2月24日至28日进行了为期5天的开源周“技术轰炸”,开源了5大代码库,覆盖训练、推理家居设计工作室、通信、负载均衡以及数据加速的全链路,惊喜连连。开源周第1天发布FlashMLA,一款专为Hopper架构打造的高效MLA解码器,家居设计工作室可高效处理变长序列,优化内存管理,榨取GPU极致性能。开源周第2天发布DeepEP,聚焦通信资源利用,提升数据高效传输,是首个为MoE量身定制的灵活GPU资源控制通信库家居设计工作室。开源周的第三天,DeepSeek推出了支持稠密和MoE模型的FP8计算库——DeepGEMM,核心逻辑仅约300行代码直面AI计算中最频繁的矩阵乘法,可为V3/R1的训练和推理提供强大支持。开源周第4天,DeepSeek推出了一系列优化并行策略,包括DualPipe——一种用于V3/R1模型训练中实现计算与通信重叠的双向流水线并行算法;以及EPLB——一个针对V3/R1模型的专家并行负载均衡工具,并深入分析了V3/R1模型中的计算与通信重叠机制。开源周的最后一天,DeepSeek发布了3FS并行文件系统,旨在应对人工智能训练和推理工作负载带来的挑战。该系统利用现代固态硬盘(SSDs)和RDMA网络,提供一个共享存储层,从而简化分布式应用程序的开发,并加速DeepSeek平台上所有数据访问操作。
在开源周结束5天“技术轰炸”后,DeepSeek于第6天惊喜发布关于DeepSeek-V3/R1推理系统概述的文档家居设计工作室,展示了如何通过跨节点并行、负载均衡和动态资源管理实现高吞吐量、低延迟和高性价比的推理服务,以实现545%理论成本利润率。DeepSeek提出了三种负载均衡器:Prefill LoadBalancer、Decode Load Balancer和Expert-Parallel Load Balancer。它们分别针对不同的核心问题进行优化,目标是为每个GPU分配均衡的计算和通信负载,从而提高整体系统效率。
DeepSeek开源周上接连不断的技术发布,彰显了团队的极客精神和开源理念。正如其官方所言:“这里没有象牙塔,只有秉持纯粹的车库创业精神和社区驱动的创新理念。”此次FlashMLA项目中同样包含了一行内联代码,这表明DeepSeek团队深入至高级编程语言CUDA和GPU的底层机器代码之间,对GPU的并行计算、内存访问等进行更加细致的控制,进一步提升程序的性能。家居设计工作室这不仅体现了团队对算法的深耕,也展现了他们对效率的极致工程化追求。
风险提示:技术迭代不及预期的风险;商业化落地不及预期的风险;政策支持不及预期风险;全球宏观经济风险。