DeepSeek开源周第二日:开源EP通信库

2月24日,DeepSeek启动“开源周”,开源了首个代码库FlashMLA。

智通财经APP获悉,DeepSeek官宣,今日开源DeepEP,第一个用于MoE模型训练和推理的开源EP通信库。特点有:高效、优化的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。

2月24日,DeepSeek启动“开源周”,开源了首个代码库FlashMLA。此前,2月21日,DeepSeek在社交平台发文称,构建了一支探索AGI(通用人工智能)的小团队,将开源5个代码库,以完全透明的方式分享研究进展。

智通声明:本内容为作者独立观点,不代表智通财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。更多最新最全港美股资讯,请点击下载智通财经App
分享
微信
分享
QQ
分享
微博
收藏